Long entretien/interview donné par Olivier à Monique Caralli-Lefèvre, rédactrice en chef de Neo Domo, le magazine de la maison connetée, écologique et intelligente :
Magazine à télécharger ICI
L’interview :
De la nécessité d’injecter une dimension éthique dans l’IA par Monique Caralli-Lefèvre
Neo-Domo : L’intelligence artificielle est-elle le résultat de révolutions dans les technosciences qui vont bouleverser tous les aspects de la vie, est-elleun vaste marché puisqu’on estime que l’IA s’est déjà introduite dans plus de 6 milliards d’appareils depuis sa création ou est-elle une nouvelle tarte à la crème ?
Olivier Parent : Les trois à la fois ! Sur le plan économique, on estime que le marché de l’IA se comptera en dizaine de milliards d’euros d’ici 2025, c’est une réalité écono- mique. En ce qui concerne les technosciences, dans nos Smartphones, on bénéficie déjà de l’IA avec Alexa, Siri et autres assistants numériques qui comprennent de mieux en mieux le langage humain. On voit d’ailleurs les progrès effectués par l’IA d’une version de Smart– phone à une autre. Enfin, effectivement, c’est une tarte à la crème mais qui pourrait avoir un goût amer ! le terme même d’intelligence artificielle nous trouble car pour l’instant il ne représente que des algorithmes, certes complexes, mais qui répondent à des fonctions uniques, comme comprendre le langage humain ou analyser une base de données à une vitesse vertigineuse. Tout cela n’a rien de préoccupant. Par contre, le monde industriel a très bien compris où était son intérêt et si on n’y prend pas garde la société civile pourrait se trouver privée de son droit de regard concernant le développement de l’IA. Souvenez-vous, quand le Wifi a été développé, il l’a été de manière philanthropique et devait être libre. Les fournisseurs d’accès internet et mobile ont vite fait de verrouiller le système en imposant des mots de passe partout. Il arrive la même chose avec les blockchains puisque, de ce système de certification décentralisée et partagée entre les utilisateurs, les banques en font des systèmes propriétaires pour leur propres intérêts. L’intelligence artificielle est une chose formidable mais il ne faut pas laisser les marchés et les industries se l’accaparer car ils la développeront à leur seul profit.
Neo-Domo : On entend parler d’IA faible, d’IA forte. Y a-t-il plusieurs sortes d’IA ?
OP : En répondant à cette question on s’attaque à un fantasme car bien souvent le terme d’intelligence est utilisée à tort et à travers… Même un système de détec– tion d’obstacle d’un véhicule récent devient intelligent une fois qu’il est passé entre les mains du marketing ! Alors, pour faire simple : Une IA faible est un algorithme plus ou moins complexe qui reproduit un processus cognitif humain : reconnaître des formes sur une image, analyser une très grande base de données. L’IA faible n’a pas conscience d’elle-même contrairement à une IA forte qui est sensée comprendre les processus qu’elle applique et qui peut-être à ressentir des émotions. Mais on peut classer les IA selon d’autres critères comme :
Olivier Parent : Les trois à la fois ! Sur le plan économique, on estime que le marché de l’IA se comptera en dizaine de milliards d’euros d’ici 2025, c’est une réalité écono- mique. En ce qui concerne les technosciences, dans nos Smartphones, on bénéficie déjà de l’IA avec Alexa, Siri et autres assistants numériques qui comprennent de mieux en mieux le langage humain. On voit d’ailleurs les progrès effectués par l’IA d’une version de Smart– phone à une autre. Enfin, effectivement, c’est une tarte à la crème mais qui pourrait avoir un goût amer ! le terme même d’intelligence artificielle nous trouble car pour l’instant il ne représente que des algorithmes, certes complexes, mais qui répondent à des fonctions uniques, comme comprendre le langage humain ou analyser une base de données à une vitesse vertigineuse. Tout cela n’a rien de préoccupant. Par contre, le monde industriel a très bien compris où était son intérêt et si on n’y prend pas garde la société civile pourrait se trouver privée de son droit de regard concernant le développement de l’IA. Souvenez-vous, quand le Wifi a été développé, il l’a été de manière philanthropique et devait être libre. Les fournisseurs d’accès internet et mobile ont vite fait de verrouiller le système en imposant des mots de passe partout. Il arrive la même chose avec les blockchains puisque, de ce système de certification décentralisée et partagée entre les utilisateurs, les banques en font des systèmes propriétaires pour leur propres intérêts. L’intelligence artificielle est une chose formidable mais il ne faut pas laisser les marchés et les industries se l’accaparer car ils la développeront à leur seul profit.
Neo-Domo : On entend parler d’IA faible, d’IA forte. Y a-t-il plusieurs sortes d’IA ?
OP : En répondant à cette question on s’attaque à un fantasme car bien souvent le terme d’intelligence est utilisée à tort et à travers… Même un système de détec– tion d’obstacle d’un véhicule récent devient intelligent une fois qu’il est passé entre les mains du marketing ! Alors, pour faire simple : Une IA faible est un algorithme plus ou moins complexe qui reproduit un processus cognitif humain : reconnaître des formes sur une image, analyser une très grande base de données. L’IA faible n’a pas conscience d’elle-même contrairement à une IA forte qui est sensée comprendre les processus qu’elle applique et qui peut-être à ressentir des émotions. Mais on peut classer les IA selon d’autres critères comme :
L’IA étroite, qui n’est compétente que dans un seul domaine, on pourrait même parler de système expert, C’est le cas de SIRI d’Apple ou de WATSON d’IBM qui peut analyser toutes les publications médicales pour en sortir une aide au diagnostic pour les médecins. On pourrait en dire autant de Deep Blue, première machine à battre les humains dans un domaine que ces derniers considéraient comme leur chasse gardée, en terras– sant, en 1997, Garry KASPAROV aux échecs, le cham– pion du monde de l’époque. L’IA étroite est faible par définition et n’a donc pas de conscience de soi.
L’IA générale qui serait sensée gérer la complexité qui est le quotidien d’un être humain : Se tenir debout, mar– cher, se nourrir, travailler, avoir une activité sociale…. Bien qu’il n’en ai pas conscience, l’humain sait lui aussi gérer la complexité et d’énormes données ! L’IA géné– rale pourrait être faible ou forte, on n’en a sait encore rien car pour l’instant on ne sait pas développer d’IA générale capable de gérer cette complexité qui, jusqu’à ce jour reste le propre de l’homme.
Quand elle existera, la Super IA qui pourrait dépasser l’ensemble de l’humanité, mais cette troisième forme d’IA reste pour l’instant de l’ordre de la science fiction. Et elle sera évidemment une IA forte.
Neo-Domo : Où en sommes-nous aujourd’hui ?
OP : Aujourd’hui, nous ne connaissons que les IA étroites et faibles !
Aussi puissante que puisse être AlfaGo, l’IA dévelop– pée par DeepMind qui, en 2016, a battu le coréen Lee Seedol, le champion du monde du Jeu de Go, elle n’a pas conscience des processus qu’elle applique. Ainsi, au cours de ce fameux match, le coréen acculé fait un mouvement inhabituel pour lui et même pour un être humain. Ce mouvement inattendu a fait perdre énormé– ment de temps à AlfoGo pour jouer le coup suivant, car la machine a du se reprogrammer et a fini par perdre cette manche, même si finalement elle a gagné le match. On entend des choses fabuleuses sur les capacités et les puissances développées en laboratoire, mais, jusqu’à preuve du contraire, on reste pour le moment sur de l’IA faible qui n’a pas de conscience de soi.
L’IA générale qui serait sensée gérer la complexité qui est le quotidien d’un être humain : Se tenir debout, mar– cher, se nourrir, travailler, avoir une activité sociale…. Bien qu’il n’en ai pas conscience, l’humain sait lui aussi gérer la complexité et d’énormes données ! L’IA géné– rale pourrait être faible ou forte, on n’en a sait encore rien car pour l’instant on ne sait pas développer d’IA générale capable de gérer cette complexité qui, jusqu’à ce jour reste le propre de l’homme.
Quand elle existera, la Super IA qui pourrait dépasser l’ensemble de l’humanité, mais cette troisième forme d’IA reste pour l’instant de l’ordre de la science fiction. Et elle sera évidemment une IA forte.
Neo-Domo : Où en sommes-nous aujourd’hui ?
OP : Aujourd’hui, nous ne connaissons que les IA étroites et faibles !
Aussi puissante que puisse être AlfaGo, l’IA dévelop– pée par DeepMind qui, en 2016, a battu le coréen Lee Seedol, le champion du monde du Jeu de Go, elle n’a pas conscience des processus qu’elle applique. Ainsi, au cours de ce fameux match, le coréen acculé fait un mouvement inhabituel pour lui et même pour un être humain. Ce mouvement inattendu a fait perdre énormé– ment de temps à AlfoGo pour jouer le coup suivant, car la machine a du se reprogrammer et a fini par perdre cette manche, même si finalement elle a gagné le match. On entend des choses fabuleuses sur les capacités et les puissances développées en laboratoire, mais, jusqu’à preuve du contraire, on reste pour le moment sur de l’IA faible qui n’a pas de conscience de soi.
Neo-Domo : le passage à un stade supérieur est-il un problème de technologie, de puissance ou de prise de conscience morale ?
OP : Les trois ! L’IA forte, c’est à la fois un problème technologique pour des questions de puissances, les calculs que demandent les IA, même s’ils sont en voie d’optimisation, demeurent gourmand en capacité pas de calcul. C’est un problème de concept car il n’y a pas de chemin tout tracé pour réaliser une IA forte. Chaque laboratoire avance de façon empirique et incrémentale, en faisant appel à un nombre de disciplines toujours plus grands : informatique, cybernétique, neurologie, cognition, comportementalisme… Néanmoins, les recherches avancent à grands pas. Ainsi, aujourd’hui l’on utilise des réseaux neuronaux artificiels qui imitent le comportement du cerveau biologique. Ils permettent le deep learning, cette capacité, pour la machine d’ap– prendre par elle-même. Ainsi, on obtient des résultats pertinents même si on ne comprend pas toujours ce qui se passe à l’intérieur de la « boîte noire » !
Enfin, on assiste à une prise de conscience. Le 20ème siècle a détruit les conceptions positives qu’on avait de l’humanité. On remarque que, au niveau des jeunes générations, il y a une sorte de détestation de ce que nous sommes : l’espèce humaine. L’IA sera peut-être l’occasion, le prétexte, le déclencheur pour que le 21ème siècle réfléchisse et écrive sa propre ontologie.
Neo-Domo : La loi de Moore qui prévoyait le double– ment des puissances tous les 18 mois est-elle tou- jours d’actualité ?
OP : La loi de Moore à l’origine prévoyait de manière intuitive le doublement du nombre de transistors dans un processeur tous les 18 mois. C’était la première loi de Moore qui par extension est devenue le doublement de la puissance tous les 18 mois. C’est toujours d’ac– tualité mais on ne sait pas pour combien de temps, car on constate un ralentissement de la fréquence du doublement. Les processeurs à 14 nanomètres de pré- cision sont arrivés avec du retard. On est passé de 18 à 30 mois et cette nouvelle génération de processeurs a nécessité des investissements colossaux. On pour- rait se demander si le jeu en vaut la chandelle… Mais c’est bien « oui », car notre monde moderne avec, par exemple l’arrivée de la voiture autonome, aura besoin de grands nombres de processeurs toujours plus puis– sants. Cependant, On arrive d’ailleurs aux limites de la physique habituelle. Il va falloir développer de nouvelles technologies comme les ordinateurs quantiques.
Neo-Domo : Quand on parle de robot, la vraie IA ne serait-elle pas qu’un robot fabrique lui-même un robot plus performant ?
OP : Indépendamment de la question des robots de demain, cette fonction auto-génératrice existe déjà ; des programmes conçoivent d’autres programmes… Ainsi une partie de l’algorithme de recherche de Goo– gle est en partie écrit par des IA qui s’auto-alimentent. Ces IA savent aussi détecter les lignes de codes inu– tiles… Les choses vont sûrement aller en s’accélérant… Comme par exemple, L’IA AlphaGo Zéro, la génération suivante d’AlphaGo, qui a mis seulement trois jours pour dépasser le niveau du match contre l’humain See- dol en apprenant toute seule à jouer au jeu de Go.
Pour en revenir aux robots, on a aussi observé que les robots qui reprennent des formes biologiques pro– voquent l’empathie ! Allez sur le site internet de Boston Robotics qui à l’été 2016 montrait un robot quadrupède sans tête ni queue qui savait marcher. Pour montrer la mobilité et la stabilité de la machine, l’ingénieur donne des coups de pied au robot qui se rattrape et retrouve son équilibre avec des gestes éminemment biologiques, ces mêmes mouvements qui provoquent l’empathie et la colère des spectateurs à l’encontre du chercheur ! À terme, le robot pourrait être une IA générale qui sera amenée à gérer ses propres fonctions et l’interface avec les humains de manière fluide (risque d’accident par exemple). Mais cette IA générale ne sera pas pour autant une IA forte, avec une consciente de soi. En tout cas, elle devra accomplir sans défaillance ce que les humains attendent d’elle. Le temps qu’une IA générale “émerge”, disons dans une trentaine d’années, les aînés diront de cette IA qu’elle n’a pas de conscience d’elle-même, qu’elle ne fait que singer les comportements humains alors que les jeunes qui seront familiarisés avec les robots pencheront pour voir en elle une véri- table conscience !
OP : La loi de Moore à l’origine prévoyait de manière intuitive le doublement du nombre de transistors dans un processeur tous les 18 mois. C’était la première loi de Moore qui par extension est devenue le doublement de la puissance tous les 18 mois. C’est toujours d’ac– tualité mais on ne sait pas pour combien de temps, car on constate un ralentissement de la fréquence du doublement. Les processeurs à 14 nanomètres de pré- cision sont arrivés avec du retard. On est passé de 18 à 30 mois et cette nouvelle génération de processeurs a nécessité des investissements colossaux. On pour- rait se demander si le jeu en vaut la chandelle… Mais c’est bien « oui », car notre monde moderne avec, par exemple l’arrivée de la voiture autonome, aura besoin de grands nombres de processeurs toujours plus puis– sants. Cependant, On arrive d’ailleurs aux limites de la physique habituelle. Il va falloir développer de nouvelles technologies comme les ordinateurs quantiques.
Neo-Domo : Quand on parle de robot, la vraie IA ne serait-elle pas qu’un robot fabrique lui-même un robot plus performant ?
OP : Indépendamment de la question des robots de demain, cette fonction auto-génératrice existe déjà ; des programmes conçoivent d’autres programmes… Ainsi une partie de l’algorithme de recherche de Goo– gle est en partie écrit par des IA qui s’auto-alimentent. Ces IA savent aussi détecter les lignes de codes inu– tiles… Les choses vont sûrement aller en s’accélérant… Comme par exemple, L’IA AlphaGo Zéro, la génération suivante d’AlphaGo, qui a mis seulement trois jours pour dépasser le niveau du match contre l’humain See- dol en apprenant toute seule à jouer au jeu de Go.
Pour en revenir aux robots, on a aussi observé que les robots qui reprennent des formes biologiques pro– voquent l’empathie ! Allez sur le site internet de Boston Robotics qui à l’été 2016 montrait un robot quadrupède sans tête ni queue qui savait marcher. Pour montrer la mobilité et la stabilité de la machine, l’ingénieur donne des coups de pied au robot qui se rattrape et retrouve son équilibre avec des gestes éminemment biologiques, ces mêmes mouvements qui provoquent l’empathie et la colère des spectateurs à l’encontre du chercheur ! À terme, le robot pourrait être une IA générale qui sera amenée à gérer ses propres fonctions et l’interface avec les humains de manière fluide (risque d’accident par exemple). Mais cette IA générale ne sera pas pour autant une IA forte, avec une consciente de soi. En tout cas, elle devra accomplir sans défaillance ce que les humains attendent d’elle. Le temps qu’une IA générale “émerge”, disons dans une trentaine d’années, les aînés diront de cette IA qu’elle n’a pas de conscience d’elle-même, qu’elle ne fait que singer les comportements humains alors que les jeunes qui seront familiarisés avec les robots pencheront pour voir en elle une véri- table conscience !
Neo-Domo : Pensez-vous comme les cognitivistes qu’on fabriquera un jour des machines dotées de conscience de soi et d’émotions. On touche là au transhumanisme ?
OP : Les choses sont plus complexes qu’on ne l’imagine ! Il y a les hyper-enthousiastes comme les Transhumanistes qui ont la naïveté de penser que demain notre conscience biologique pourra être télé– chargée dans un système informatique… Mais chacun a sa propre psychologie qui est – la comparaison est abusive – le programme qui gère ce que nous sommes, qui gère nos réactions aux stimulus externes, qui gère nos expériences, notre mémoire… Si on peut envisa- ger d’enregistrer sur support numérique la mémoire d’un individu, peut-on le réduire à la somme de ses mémoires ? Et, comment digitaliser, numériser la psy– chologie d’un individu ?
Il est également naïf de vouloir réduire l’être humain à son cerveau. Ce qu’est l’individu est en lien directe avec son corps : deux corps ne sont jamais identiques et n’expérimentent pas la réalité de la même manière. Et, on le découvre encore : il y a des neurones ailleurs que dans le cerveau. Quel rôle jouent-ils dans la consti– tution de la personnalité d’un individu ? Si on ne peut réduire l’être humain à son cerveau, on peut néanmoins l’améliorer. Il faudra alors déterminer où placer le cur– seur entre nécessité (médicale) et superflu (du confort, du loisir ?) ! J’aurais tendance à dire que c’est la même différence qu’entre chirurgie réparatrice et chirurgie esthétique. Un jour, beaucoup de choses seront proba– blement possibles (c’est ce que promet un Elon Musk avec sa société Neuralink), d’où la nécessité d’injecter dès aujourd’hui une dimension éthique, en anticipant, par exemple, le risque réel de voir se développer un tou– risme technologique si la France ou l’Europe traînent à légiférer ce genres de domaines !
Neo-Domo : Le risque qu’il y ait un jour concurrence entre l’intelligence artificielle et biologique existe-t-il ?
OP : Ce qui caractérise l’intelligence biologique c’est qu’elle a des contingences matérielles (comme la fatigue). Si on continue de développer des IA qui n’ont aucune conscience de l’énergie qu’elles consomment (par exemple, en 2016, AlphaGo consommait l’énergie équivalente à 50 000 cerveaux humains : 1 megawatt comparés aux 20 watts d’un cerveau humain, 100 watts si on prend en compte tout le corps !*), qui n’ont aucune conscience de l’environnement qui leur a donné nais– sance, il y aura évidemment concurrence. Mais, si on intègre ces contingences énergétiques, structurelles, matérielles, si on apprend aux IA la frugalité énergé– tique (ce que, nous humains avons tant de mal à inté– grer…), une IA collaborative pourrait devenir le meilleur allié de l’homme pour relever les défis de demain et écrire une ontologie du 21ème siècle, avec des IA qui auront conscience de faire partie du même écosystème que nous.
En tant que prospectiviste, je m’intéresse aux consé– quences des innovations technologiques émergentes ou à venir sur le corps social ou le corps biologique. Mon travail est d’envisager et de raconter toutes ces éventualités. La réalité se révèle parfois être un doux mélange de tout ce qui a imaginé et, encore plus sou– vent, cette réalité se révèle en prenant un chemin radi- calement nouveau ! Raconter toutes ces éventualités permet d’ouvrir le débat public, de ne pas tomber dans le déterminisme. Le citoyen, avec son vote et son pouvoir d’achat, a un vrai rôle à tenir : il doit s’en rappeler ! ●
* https ://www.ceva–dsp.com/ourblog/artificial–intelligence– leaps–forward–mastering–the–ancient–game–of–go/