DIAGNOSTIC

Comment travaillerons-nous dans 20 ans ? Avec Cèdre et Burson, le Comptoir a conduit une mission de prospective pour explorer les futurs possibles de la vie au bureau.

Il va de soi que, dès son origine, le concept Zero Trust s’est adressé au monde professionnel et concerne plus particulièrement les « relations » entre les machines, les protocoles de communication et d’identification — authentification — entre les services, les ordinateurs et l’ensemble des périphériques impliqués dans le monde informatique, toile de fond de notre quotidien. Pourtant la prudence à laquelle appelle ce Zero Trust pourrait bien trouver des applications dans les relations entre les humains et les espaces informatique, les réseaux et autres mondes virtuels et persistants et les IA, nos futurs compagnons dans ce voyage quotidien entre mondes tangible et virtuels. La science-fiction nous apporte quelques beaux exemples de ce florilège de ces relations.

Le Zero Trust au service des relations humains et machines

De prime abord, on pourrait dire que les questions d’authentification seront, demain, de trois grands types : d’une part, il s’agira de comprendre les enjeux des preuves de la personne dans le monde tangible quand les interfaces de celui-ci utiliseront de plus en plus de systèmes dématérialisés, puis ceux de la connexion des individus humains aux futurs systèmes virtuels et, enfin, les défis des relations de ces systèmes devenus plus ou moins autonomes et conscients avec cette même humanité qui comprend de moins en moins ses propres créations…  

Pour explorer le quotidien des humains dans un monde qui se fie de plus en plus à des outils numériques pour identifier les usagers, on pourrait poser la question comme suit : que dois-je fournir pour prouver que c’est bien « moi » qui cherche à se connecter à tel système, à telle administration ? ». Dans le film Bienvenue à Gattaca, la question est résolue au moyen de l’ADN, une goutte de sang sert de « sésame ». Dans le jeu Detroit: Become Human comme dans le terrible épisode Haine virtuelle de la saison 3 de la série Black Mirror, c’est la reconnaissance faciale qui permet aux individus d’être reconnus par les divers systèmes. Dans une veine un peu moins dystopique, on pourrait citer le film Her de Spike Jonze (2013) en se demandant si c’est le schéma psychologique, le comportement amoureux qui permet à Samantha d’identifier son amant humain ? On le comprend bien : aujourd’hui comme demain, ce sera à l’usager de faire la preuve de son identité. Par quels moyens ? Comment les rendre robustes au piratage ? La question reste ouverte… d’autant plus que, si dans un État de droit « analogique », la présomption d’innocence prime dans les questions de justice, dans ce même État « dématérialisé » à venir, ce pourrait bien être la présomption de fraude qui s’impose… Tout cela étant dit sans jamais oublier qu’il suffit d’un « bug » pour faire capoter tout le système, c’est ce que nous rappelle Brazil le film de Terry Gilliam (1985). 

Vient ensuite la question de la connexion d’un individu aux réseaux en prenant comme exemple un film tel que Ready Player One de Steven Spielberg (2018). Celui-ci permet d’aborder un autre aspect de l’authentification d’un individu sur un système numérique. Il s’agit de l’éternelle et irrésoluble question de l’anonymat sur les réseaux. On le sait, la violence constatée sur les réseaux sociaux est souvent adossée à un anonymat auquel les usagers s’attachent résolument. Cela leur permet de déverser toute leur bile sans risque de rétorsion : les providers, X (anciennement Twitter), Facebook, TikTok… tirent leur revenus des audiences générées par ces flots de haine, ces logorrhées nauséabondes sans limites… De son côté, Ready Player One tire sur la veine citoyenne de l’anonymat numérique : il permet l’activation d’autres types d’action, par exemple celle de lanceur d’alerte. Demain, c’est le postulat du film, les actions militantes seront portées dans les mondes virtuels et persistants, ce qu’on nomme les Métavers. Si, aujourd’hui, ces derniers ont encore à faire la preuve de leur utilité, il faut faire confiance aux promoteurs de ces nouveaux espaces pour bientôt nous proposer des systèmes d’interfaces humain-machine qui donneront toutes justification d’existence à ces systèmes qui seront une nouvelle manière de capter le pouvoir d’achat des usagers… Il ne faut jamais douter des capacités d’innovations des propriétaires de systèmes capables de générer des dividendes ! Ce moment venu, il sera temps de se poser la question de la citoyenneté dans les mondes virtuels persistants… 

Vient le troisième type de relations qui nécessitera une robustesse d’authentification. On parle ici des futures relations entre l’humanité et les systèmes d’intelligence artificielle à venir . Là, on aborde des dimensions plus ontologiques, c’est-à-dire liées aux relations entre l’être humain et l’être artificiel, dès lors que l’on aborde la notion d’intelligence artificielle généraliste (AGI, Artificial Generalist Intelligence)qui, éventuellement, doterait ces systèmes artificiels d’une conscience — une conscience d’eux-mêmes (Computo ergo sum) et de ce qui les entourent, le monde tangible et les humains, leur alter ego biologiques. Ce nouveau statut de personne artificielle allant de paire avec des droits et des devoirs qui restent à être définis… Le film Ex Machina d’Andrew Niccol (2014) traite de ce moment, celui où une IA pourra revendiquer ce statut de personne artificielle. Sans attendre que la fiction se réalise, dès aujourd’hui, on est en droit de s’interroger : quelle sera la procédure d’évaluation — des capacités cognitives et d’autonomie de conscience —, quel protocole d’authentification de ce nouvel état d’AGI à « adosser » à ces éventuelles futures personnes artificielles ? En effet, à l’inverse des humains qui n’ont pas à prouver leur humanité, demain, il sera peut-être demandé à une IA de prouver en permanence de ses capacités d’AGI consciente ? On toucherait là à un degré extrême du Zero Trust puisque la preuve de la conscience d’une IA devrait être apportée en permanence par celle-ci quand elle s’adresse à un humain ou quand elle prend le contrôle de systèmes informatiques inférieurs à elle en termes de conscience. A moins que, comme dans le film Mars Express (2023), le marché reste la seule mesure de toute innovation, ce qui ramènerait l’IA, qu’elle soit généraliste ou non, au seul statut d’objet industriel qui peut donc être retiré de la circulation quand l’humanité le décide, pour être remplacé par une innovation plus performante.

Manipuler la confiance pour manipuler l’humanité

Dans ces mondes ultra technologiques, quels moyens aura l’individu, qu’il soit biologique ou artificiel, pour apporter en permanence la preuve de son authenticité, son identité ou son état conscient ? Cette question est d’autant plus prégnante quand on aborde des dimensions sociétales… quand le Zero Trust est pris à contre pied, pour asseoir un pouvoir. C’est le genre de situation que décrit le film Elysium de Neill Blomkamp (2013). Là, une minorité impose sa définition de l’être humain et s’accorde la liberté d’asservir une majorité. Dans ce film, cette élite s’est arrachée au sol même de notre planète pour s’installer dans une station spatiale en orbite de la Terre, Elysium, tout ce système de classe reposant sur un critère de naissance, ou plutôt de lieu d’habitation. Le fait d’être identifié comme résident d’Elysium ouvre l’accès à tous les trésors de la technologie, le confort ou les medbox, ces cabines de téléconsultations et de soins aux capacités quasiment magiques. Celles et ceux qui sont nés et habitent la Terre sont condamnés à une vie de misère, sous la férule d’une police robotique en charge du respect de ces dispositions cette apartheid futuriste. Comme dans beaucoup d’œuvres de SF, ces machines sont censées porter assistance à « l’humanité ». Il suffit de restreindre la définition de cette même humanité au lieu d’habitation pour s’apercevoir que le Zero Trust peut-être perverti. Le film est la chronique d’une révolte annoncée… qui redonnera aux machines une définition exhaustive de l’humanité… jusqu’à la prochaine crise !  

Le Zero Trust challengé par des situations émergentes 

A-t-on fait le tour des questions du Zero Trust appliquées à l’individu et à la société, dans un système qui tend à se dématérialiser ? Peut-être pas… Car voici au moins deux autres interrogations qui méritent que nous nous penchions dessus : la première est la question du tire automatique létal. Le film Elysium traite de cette question en autorisant les systèmes de sécurité autonomes, des robots policiers, à tirer sur les humains terrestres parce que ceux-ci ne sont pas « humains » aux yeux des machines… Dans Chappie, toujours de Neill Blomkamp, comme dans Elysium, la violence des machines est une réponse à la violence des manifestants… et le tire devient létal. Est-on prêt, dans notre présent, à envisager de telles situations de tir potentiellement mortel sans décision humaine ? Aujourd’hui, il existe un lieu où cette situation est mise en œuvre quotidiennement : la zone démilitarisée entre la Corée du Sud et la Corée du Nord. Depuis une dizaine d’années, Samsung, pour la Corée du Sud, a déployé un système de tir létal autonome… Là, point de Zero Trust. C’est un algorithme qui évalue la menace et qui prend la décision… Du côté français, il existe aussi un cas de tire automatique létal : à bord des navires de la marine nationale, en cas d’attaque par des systèmes d’arme à très haute vélocité, les systèmes de défense ne disposent que de quelques secondes pour s’enclencher quand la menace émerge au dessus de l’horizon. Là, les systèmes de défense se déclenchent avant même que les humains aient eu le temps d’évaluer la situation ; ce système présupposant qu’il n’y a pas d’humains à bord des engins d’attaque… Mais la question demeure sur la table…

L’autre et dernier cas qui interroge la notion ontologique du Zero Trust est abordée dans le film Total Recall: Mémoires reprogrammées. Là, le héros est confronté à une réalité alternative : celle d’un autre lui-même avant que sa mémoire et donc sa personnalité aient été modifiée par l’implant de faux souvenirs. Dès aujourd’hui, ce qui nous semble être de la science-fiction n’en est plus vraiment : en laboratoire, on a appris à des souris à avoir peur d’un lieu en leur implantant de faux souvenirs… Même si on reste loin du moment où chacun d’entre nous pourra se faire implanter le souvenir d’une expérience, d’une compétence ou d’une émotion… ne touchera-t-on pas là au sommet des enjeux du Zero Trust ? Quels moyens me permettront de me prouver à moi-même que je suis bien celui qui croit être ce qu’il est ? Question abyssale. Christopher Nolan avait abordé cette question dans son film Inception (2010). Il traitait la manipulation de la mémoire d’un individu par des moyens analogiques, au moyen de souvenirs implantés par des rêveurs-hackeurs… Dans Total Recall, comme dans nos laboratoire, c’est au moyen de la technologie qu’un jour on pourra manipuler la personnalité d’un individu… 

Alors, demain sera-t-il un monde définitivement sans confiance possible parce que nous serons tous potentiellement hackés ? Ou alors, comment mettre en œuvre aujourd’hui les conditions d’un monde qui se construise sur un Zero Trust au bénéfice des individus et des collectivités, aussi bien tangibles que virtuels ? 

Olivier Parent à contribué au numéro 2024 de la revue CyberLeaders publiée à l’occasion du Forum inCyber Europe qui se déroule à Lille, les 26, 27 et 28 mars 2024. L’article a pour titre : « IA : êtes-vous prêts ? ». La revue est en vente sur le stand InCyber du forum (Grand Palais) et à la librairie du Furet du Nord les 3 jours de l’événement.

---

IA : êtes-vous prêts ?

Y a-t-il un sens à essayer de répondre à une question telle que « Sommes-nous prêts à l’intelligence artificielle ? », sachant que cette question interroge aussi bien les individus que les organisations humaines… sachant que les algorithmes que l’on pratique et qui nous fascinent depuis maintenant plus d’un an ne sont que la première émergence notable de ce qui pourrait un jour devenir une altérité artificielle faisant face à l’humanité… sachant que, pour le moment, ces algorithmes qualifiés d’intelligences artificielles sont surtout l’actuel avatar de systèmes informatiques en perpétuelle évolution et avec lesquels vont s’écrire l’histoire des humains et celle de leurs relations avec les machines…

Alors, afin d’essayer de trouver quelques éléments de réponses à cette question complexe, on peut se pencher vers la science-fiction pour essayer d’appréhender la complexité de relations humain-machine en devenir.

Les récits dystopiques comme point de départ de cette enquête

Commençons par le pire de ces relations, avec des sagas de science-fiction telles que Terminator (1984-2019) ou Matrix (1999-2021). Là, l’humanité est condamnée à affronter une intelligence artificielle qui ne voit dans l’humanité — elle qui pourtant lui a donné naissance — qu’une nuisance dont il faut se débarrasser ou une ressource qu’il faut exploiter avec méthode et durabilité ! Il en va de même dans le film I, robot d’Alex Proyas (2004), adapté du Cycle des robots d’Isaac Asimov, avec peut être un degré de moins dans le pire : là, une superintelligence trop bienveillante, Viky, décide de prendre en main le destin d’une humanité qu’elle juge incapable et nuisible pour elle-même et l’environnement…

Des IA pas toutes au même niveau de développement

Dans l’un ou l’autre de ces films, l’humanité est confrontée à une intelligence artificielle au dernier stade de son développement, ce qu’on appelle une superintelligence, les deux précédents stades étant l’intelligence artificielle faible ou étroite, pour le premier stade — les algorithmes génératifs tels qu’aujourd’hui nous les connaissons et pratiquons — et pour le second, les intelligences généralistes ou fortes, à qui on associe généralement l’état de conscience.
Cette évolution des intelligences artificielles, d’étroites à superintelligences, en passant par les généralistes, est exactement l’évolution que va suivre l’IA dont Theodore Twombly va tomber amoureux, dans le film Her de Spike Jonze (2014) : d’un simple système d’exploitation informatique capable d’adaptation, Samantha va devenir une personne artificielle dotée d’un — apparent — libre arbitre qui, à la fin du film, va « rompre » avec Theodore : Samantha révèle qu’elle et ses congénères artificielles ont développé une culture qui leur est propre, leurs capacités artificielles les faisant évoluer à des vitesses incompatibles avec la nature biologique de leurs amants platoniques. Ces IA devenues superintelligences décident de se retirer de l’histoire de l’humanité, laissant cette dernière seule avec ses états d’âme d’amoureuse éconduite !
Ainsi, de l’annihilation, on est passé à l’asservissement pour en arriver à une incompatibilité froide et distante… Nos relations avec l’IA sont-elles condamnées à n’être que néfastes pour nous ?

L’IA est-elle soluble dans la société humaine ?

Un auteur de science-fiction a intégré dans son œuvre cette apparente incompatibilité de l’IA avec l’humanité. Il s’agit de Frank Herbert. Dans son cycle de roman, Dune (1965-1984), les IA sont interdites d’usage et de fabrication suite à une guerre historique, le Jihad butlérien, qui avait fait suite à une révolte des machines contre leur créateurs. Un autre auteur en arrive à cette conclusion d’incompatibilité : c’est Isaac Asimov, le créateur des lois de la robotique. Dans le Cycle des robots (1956-1986), Herbert raconte l’histoire de l’apprentissage humain des relations avec des robots anthropomorphes, tout d’abord dotés d’une intelligence artificielle émergente — étroite — de jusqu’à l’intelligence généraliste. Ces récits l’amènent à la conclusion que le robot intelligent, tout bienveillant qu’il soit — les lois de la robotique l’oblige à cette attitude —, doit néanmoins se retirer de l’équation de l’évolution des sociétés humaines : la robotique stérilise l’esprit d’initiative, l’esprit d’entreprise, l’esprit d’aventure qui doit rester au cœur de l’humanité. Là, point de violence mais une analyse objective : en la protégeant de tout risque et anticipant ses désirs, l’intelligence artificielle en arrive à priver l’humanité de son libre arbitre.
Dans ces conditions, l’humanité peut-elle se déclarer prête à l’intelligence artificielle ? Les superintelligences restent de l’ordre de la fiction et les IA généralistes bien qu’annoncées brillent encore par leur absence. Cependant, on est bien obligé de constater que les IA, toutes étroites qu’elles puissent être aujourd’hui, bouleversent notre quotidien. Alors, quel discours tenir ? Quelle position prendre ?

De relations sous tension à d’autres plus apaisées ?

A nouveau, deux œuvres de science-fiction peuvent nous éclairer. La première, de manière cynique, nous rappelle que l’IA, qu’elle soit étroite ou généraliste, n’en reste pas moins qu’un produit de l’industrie humaine. Il s’agit du film Mars Express de Jérémie Périn, sorti en novembre 2023, dans lequel les produit IA, même quand ils tendent à une forme de conscience — imitation ? —, n’en restent pas moins soumis aux lois du marché : quand un produit devient obsolète, désuet, on le retire du marché au profit de nouveaux produits. Point barre…
L’autre éclairage nous vient du film Robot and Frank (2012). Ce petit film, loin d’être un blockbuster, met en scène une intelligence étroite qui agit dans le monde tangible au moyen d’un corps robotique. Cette machine est programmée pour accompagner le héros humain du film, un humain vieillissant et grincheux. Orgueilleux, à tort ou à raison, il ne veut dépendre de personne, humain ou machine, malgré les défaillance dues à son âge. Le film se fait alors l’histoire d’une forme de rémission et surtout celle de la reconstitution du lien humain au travers de l’assistance qu’apporte la machine. Ce film est la figuration du pari que s’apprête à prendre le Japon qui développe à tour de bras des machines qui doivent au plus vite assister sa population vieillissante.
Alors, à la suite de l’énumération des risques liés aux IA… en arrive-t-on à une possible relation d’assistance ? Ira-t-on jusqu’à parler d’augmentation ou même de coopération ?

Vers une robotique — physique ou non — coopérative. Un pari à tenter ?

Une chose est sûre, au-delà de la fascination dans laquelle l’humanité semble être tombée à la suite de l’arrivée sur le marché des IA génératives, les intelligences artificielles sont en passe de rendre à cette même humanité des services extraordinaires. Ce n’est pas cet homme hémiplégique qui nous dira le contraire : en Suisse, il est en train de réapprendre à marcher grâce à un pont numérique qui « répare » sa moelle épinière rompue. C’est une IA qui assure l’interprétation des signaux neurologiques qui lui permettent de bouger ses jambes. Ce n’est pas non plus cette femme, victime d’un locked in syndrom : aux USA, une IA interprète son électroencéphalogramme et lui permet à nouveau de dialoguer avec son entourage au moyen d’une voix de synthèse. On pourrait tout aussi bien parler des gestes professionnels augmentés par l’IA : c’est moins impressionnant que les exemples qui Hviennent d’être cités mais cela concerne un plus grand de personnes. On parle ici du geste du chirurgien ou de celui de l’ouvrier qui, l’un et l’autre, bénéficient d’exosquelettes spécialisés à leur tâches. Là aussi, l’IA joue un rôle fondamental dans l’anticipation et l’accompagnement du geste professionnel au moyen d’interfaces physiques, robotiques.
Point commun à tous ces exemples ? L’IA est considérée comme un outil. Et comme tout outil qui se respecte, l’IA n’a pas de valeur morale. C’est l’intention humaine qui pilote la main qui tient l’outil qui donne sa valeur morale au geste accompli. Ne nous leurrons pas : nous sommes tous tentés de donner plus de valeur, plus d’autonomie aux intelligences artificielles. Il suffit de voir comment certains d’entre nous les consultent comme on le faisait dans la Grèce antique avec la Pythie de Delphes ! Cependant, des risques sociétaux liés à l’usage des IA telles que nous les connaissons existent, à ne parler que du (grand) remplacement de la main-d’œuvre humaine par l’IA. Ne pourrait-on alors profiter de cette occasion pour se pencher sur la définition que nos sociétés donnent du travail ? Car si l’IA appliquée au travail peut évidemment soulager l’humain de tâches répétitives et astreignantes, elle ne doit pas pour autant priver l’humanité de son droit à une existence digne. Ne faudrait-il pas imaginer et trouver les moyens de généraliser les notions d’augmentation ou de coopération ? On retrouve cette notion dans le mot cobotique : une robotique de la coopération où l’humain reste au centre des attentions. Pari osé, n’est-ce pas ? Il fait face à la tentation des seules attentes de rentabilité et de profit, ces deux autres moteurs de l’évolution de nos sociétés.

Olivier Parent, directeur d’études prospectives au Comptoir Prospectiviste.fr et fondateur de FuturHebdo.fr, le média de nos futurs immédiats.

Université d’été de l’ANAP (Agence Nationale de l’Appui à la Performance)

A l’occasion de cette manifestation d’échelle nationale, à Dijon, les 23 et 24 septembre 2021, le Comptoir Prospectiviste a accompagné l’ANAP au plan événementiel. L’enjeu a été de concevoir une scénographie qui accompagne les temps forts de ce rassemblement des professionnels de la santé qui viennent échanger et construire l’avenir de leurs professions.