{"id":135148,"date":"2023-02-02T09:05:51","date_gmt":"2023-02-02T08:05:51","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=135148"},"modified":"2023-02-02T09:05:51","modified_gmt":"2023-02-02T08:05:51","slug":"quinzaines-n-1250-les-lois-de-la-robotique-dasimov-quels-enjeux-aujourdhui-le-1er-fevrier-2023","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/02\/02\/quinzaines-n-1250-les-lois-de-la-robotique-dasimov-quels-enjeux-aujourdhui-le-1er-fevrier-2023\/","title":{"rendered":"Quinzaines, N\u00b0 1250, Les lois de la robotique d\u2019Asimov : quels enjeux aujourd\u2019hui ?<\/b>, le 1er<\/sup> f\u00e9vrier 2023"},"content":{"rendered":"

\u00a0\u00a0\u00a0\u00a0Quinzaines<\/a>, aux pages 8 \u00e0 10<\/h4>\n

La d\u00e9b\u00e2cle r\u00e9cente d’une intelligence artificielle invite \u00e0 r\u00e9fl\u00e9chir \u00e0 la programmation des machines. Comment leur inculquer, outre une capacit\u00e9 \u00e0 r\u00e9pondre automatiquement, celle de raisonner selon des principes moraux\u00a0?<\/i><\/p>\n

En mars 2016, Microsoft mit sur le march\u00e9 un dialogueur<\/i> ou agent conversationnel<\/i>, en anglais, un \u00ab\u00a0chatbot\u00a0\u00bb : un logiciel capable de s\u2019entretenir \u00ab\u00a0intelligemment\u00a0\u00bb avec ses utilisateurs. Son nom \u00e9tait TAY, pour Thinking About You<\/i>\u00a0: \u00ab\u00a0Je pense \u00e0 vous\u00a0\u00bb. TAY \u00e9tait en fait la r\u00e9\u00e9dition d\u2019un projet lanc\u00e9 par le m\u00eame g\u00e9ant de l\u2019informatique en Chine sous le nom de Xiaoice. Le logiciel \u00e9tait consid\u00e9r\u00e9 l\u00e0-bas comme une r\u00e9ussite, ayant tenu plus de 40 millions de conversations avec ses usagers.<\/p>\n

Au bout de seulement seize heures, Microsoft avait \u00e9t\u00e9 contraint d’interrompre l\u2019exp\u00e9rience, le comportement de TAY se r\u00e9v\u00e9lant inadmissible, le dialogueur <\/i>se d\u00e9lectant en particulier de blagues sexistes et racistes. Interrog\u00e9 sur l’Holocauste, il avait affirm\u00e9 qu’il s\u2019agissait d\u2019un canular, que le massacre n’avait jamais eu lieu ; pour surligner ses propos, TAY affichait un emoji battant des mains avec enthousiasme. Il avait fallu bien entendu mettre un terme \u00e0 l\u2019exp\u00e9rience. Interrog\u00e9 \u00e0 nouveau quelque temps plus tard, TAY s\u2019\u00e9tait vant\u00e9 d\u2019\u00ab\u00a0avoir fum\u00e9 du kif au nez et \u00e0 la barbe de policiers\u00a0\u00bb.<\/p>\n

Que s’\u00e9tait-il pass\u00e9 ? Des utilisateurs fac\u00e9tieux avaient incit\u00e9 TAY \u00e0 tenir des propos indignes, faisant appara\u00eetre en surface qu\u2019une histoire personnelle lui faisait d\u00e9faut et que seuls les \u00e9changes avec ses usagers lui permettaient de se b\u00e2tir un semblant de personnalit\u00e9 propre.<\/p>\n

Les \u00ab\u00a03 Lois de la robotique\u00a0\u00bb d’Isaac Asimov<\/i><\/p>\n

Voici quatre-vingts ans d\u00e9j\u00e0 que sont d\u00e9battues les fameuses \u00ab\u00a03 Lois de la robotique\u00a0\u00bb, un ensemble de directives simples cens\u00e9es suffire \u00e0 r\u00e9gler le comportement des robots et \u00e0 rendre leurs interactions quotidiennes avec les \u00eatres humains \u00e0 la fois optimales en termes d\u2019efficacit\u00e9 et lisses dans leur d\u00e9roulement.<\/p>\n

Les \u00ab\u00a03 Lois\u00a0\u00bb avaient vu le jour dans une suite de nouvelles publi\u00e9es dans les ann\u00e9es 1940, fruits de l\u2019imagination d\u2019un auteur de science-fiction parmi les plus fameux : l\u2019Am\u00e9ricain d\u2019origine russe, Isaac Asimov, n\u00e9 \u00e0 Petrovichi, dans la r\u00e9gion de Smolensk en 1920 et mort \u00e0 New York en 1992.<\/p>\n

Bien que les 3 Lois d’Asimov aient \u00e9t\u00e9 au fil des ans au centre d’\u00e9changes denses et anim\u00e9s, elles furent enti\u00e8rement n\u00e9glig\u00e9es par les ing\u00e9nieurs qui con\u00e7urent les premiers robots suffisamment sophistiqu\u00e9s pour rivaliser avec les cr\u00e9atures m\u00e9caniques intelligentes qu\u2019Asimov avaient imagin\u00e9es. La d\u00e9b\u00e2cle de 2016 aurait pu \u00eatre \u00e9vit\u00e9e si TAY avait respect\u00e9 les principes des 3 Lois de la robotique compl\u00e9t\u00e9s de la jurisprudence produite par une constellation d\u2019imaginations fertiles en 76 ann\u00e9es de d\u00e9bats autour de cas hypoth\u00e9tiques de robots d\u00e9linquants.<\/p>\n

Il y a l\u00e0 bien entendu un paradoxe. Les programmeuses et programmeurs en Intelligence Artificielle et en informatique en g\u00e9n\u00e9ral comptent en effet parmi les lecteurs les plus assidus de science-fiction. Au titre de cette part de la population que l’on appelle en am\u00e9ricain les nerds<\/i>, les \u00ab\u00a0grosses t\u00eates\u00a0\u00bb, et plus pr\u00e9cis\u00e9ment encore les geeks<\/i>, des informaticiens dont la plus grande part de l\u2019activit\u00e9 se cantonne \u00e0 l’interaction avec leur ordinateur et leurs jeux vid\u00e9o, ils sont en effet les plus friands de ce genre litt\u00e9raire. Il est alors curieux que des individus \u00e0 ce point inform\u00e9s des discussions ayant eu lieu autour des \u00ab\u00a03 Lois de la robotique\u00a0\u00bb aient cautionn\u00e9 sans sourciller un logiciel n\u00e9gligeant enti\u00e8rement les le\u00e7ons tir\u00e9es de ce d\u00e9bat intellectuel initi\u00e9 au d\u00e9but des ann\u00e9es 1940. Trois quarts de si\u00e8cle de vifs \u00e9changes autour des \u00ab\u00a0lois de la robotique\u00a0\u00bb \u00e9chou\u00e8rent cependant \u00e0 pr\u00e9venir le path\u00e9tique naufrage du vaisseau TAY.<\/p>\n

Isaac Asimov<\/i><\/p>\n

Au sein du monde universitaire, Isaac Asimov fut professeur de biochimie \u00e0 l’universit\u00e9 de Boston, occupation qu\u2019il abandonna pour devenir \u00e0 temps plein non seulement l’un des plus grands \u00e9crivains de science-fiction mais aussi l\u2019auteur prolifique d\u2019ouvrages de vulgarisation scientifique et de culture g\u00e9n\u00e9rale tels Asimov’s Guide to the Bible<\/i> ou Asimov’s Guide to Shakespeare.<\/i><\/p>\n

De son propre style, Asimov affirma ceci :<\/p>\n

\u00ab\u00a0J’ai un style informel, ce qui veut dire que j’ai tendance \u00e0 utiliser des mots courts et des structures de phrases simples, sans h\u00e9siter cependant \u00e0 recourir \u00e0 des expressions famili\u00e8res. Cela irrite ces personnes qui aiment les propos po\u00e9tiques, lourds, complexes et, surtout, obscurs. Le style informel pla\u00eet toutefois \u00e0 ceux qui aiment lire un ouvrage sans avoir conscience d\u2019\u00eatre en train de lire et appr\u00e9cient la sensation que les id\u00e9es coulent sans friction mentale du cerveau de l’auteur dans le leur.\u00a0\u00bb<\/p>\n

Et encore :<\/p>\n

\u00ab\u00a0J\u2019ai choisi depuis longtemps de suivre une r\u00e8gle cardinale dans tous mes \u00e9crits : \u00eatre \u00ab\u00a0clair\u00a0\u00bb. J’ai renonc\u00e9 \u00e0 toute ambition d’\u00e9crire de mani\u00e8re po\u00e9tique, symbolique ou exp\u00e9rimentale, ou selon tout autre mode qui pourrait (si j’\u00e9tais assez bon) me valoir un prix Pulitzer. Je d\u00e9cidai de me contenter d’\u00e9crire clairement et d’\u00e9tablir ainsi une relation chaleureuse entre moi et mes lecteurs. Quant aux critiques professionnels – eh bien, je les laisse libres de faire comme ils l\u2019entendent.\u00a0\u00bb<\/p>\n

Il est vrai qu\u2019il y a chez Asimov peu d\u2019\u00e9criture \u00e0 proprement parler, la description du d\u00e9cor \u00e9tant spartiate et la lectrice et le lecteur \u00e9tant inform\u00e9s de l\u2019action par le seul biais de conversations entre protagonistes. Ces dialogues sont cependant un feu d\u2019artifice de vivacit\u00e9 et d\u2019humour, \u00e9maill\u00e9s de traits d\u2019esprit, sans verser pour autant dans l\u2019inauthenticit\u00e9.<\/p>\n

Dans The Gods Themselves<\/i> (1972), un r\u00e9alisateur reproche \u00e0 un auteur en qui l\u2019on reconna\u00eet sans difficult\u00e9 Asimov lui-m\u00eame, son style peu visuel rendant malais\u00e9e l\u2019adaptation de son texte au cin\u00e9ma, \u00e0 quoi celui-ci r\u00e9pond, dans la ligne de la r\u00e9flexion sur \u00ab\u00a0les id\u00e9es coulant sans friction mentale du cerveau de l’auteur dans celui du lecteur\u00a0\u00bb, que son \u00e9criture repose sur des id\u00e9es formul\u00e9es dans des dialogues et non sur des descriptions.<\/p>\n

1939 avait une ann\u00e9e b\u00e9nie pour la science-fiction puisqu\u2019elle avait vu les premi\u00e8res publications de trois des futurs phares du genre : Robert Heinlein,\u00a0A. E. van Vogt et Isaac Asimov. Le th\u00e8me des Lois de la robotique auxquelles les robots sont soumis, appara\u00eet d\u00e8s les premi\u00e8res nouvelles d\u2019Asimov. Leurs principes sont alors implicites et ne trouveront leur formulation d\u00e9finitive que par petites touches. D’autres auteurs les invoqueront ensuite dans leurs propres publications si bien que le d\u00e9bat \u00e0 leur propos deviendra public, aliment\u00e9 qu\u2019il sera par de multiples sources. Le d\u00e9c\u00e8s d’Asimov en 1992 ne parviendra pas \u00e0 interrompre le processus : divers auteurs mettront en sc\u00e8ne de nouveaux d\u00e9veloppements paradoxaux des Lois de la robotique ou en proposeront de nouvelles ; il arriva m\u00eame qu\u2019un traducteur fran\u00e7ais, Jacques Br\u00e9card, introduise furtivement sa propre innovation dans le texte.<\/p>\n

Les 3 Lois qui sont en r\u00e9alit\u00e9 quatre<\/i><\/p>\n

Voici comment se formulent les \u00ab\u00a03 Lois de la robotique\u00a0\u00bb d’Asimov :<\/p>\n

1 – Un robot ne doit pas blesser un \u00eatre humain, ou, par son inaction, permettre \u00e0 un \u00eatre humain de se blesser.<\/p>\n

2 – Un robot doit ob\u00e9ir aux ordres que lui donnent les \u00eatres humains, sauf si ces ordres entrent en conflit avec la premi\u00e8re loi.<\/p>\n

3 – Un robot doit prot\u00e9ger sa propre existence tant que cette protection n’entre pas en conflit avec la Premi\u00e8re ou la Deuxi\u00e8me Loi.<\/p>\n

Handbook of Robotics<\/i>, 56\u00e8me \u00e9dition, 2028 A.D.<\/p>\n

Asimov introduira plus tard une quatri\u00e8me loi,\u00a0baptis\u00e9e \u00ab\u00a0Loi z\u00e9ro\u00a0\u00bb, prescrivant qu\u2019un robot doit agir de telle mani\u00e8re qu\u2019il ne nuise pas \u00e0 l’humanit\u00e9 dans son ensemble.<\/p>\n

La litt\u00e9rature qui fleurira au fil des ans sous la plume d\u2019Asimov et de ses confr\u00e8res s\u2019ing\u00e9niera \u00e0 mettre en sc\u00e8ne la vari\u00e9t\u00e9 des contradictions d\u00e9coulant de ces lois pourtant simples. Ainsi, intervertir seulement l’ordre dans lequel elles sont invoqu\u00e9es suffit d\u00e9j\u00e0 \u00e0 engendrer des catastrophes. Les configurations ambigu\u00ebs sont innombrables et pour respecter ces 3 lois sans risque d\u2019erreur, le robot doit anticiper l\u2019avenir, voire m\u00eame en avoir une vision pr\u00e9monitoire. Enjoint d’op\u00e9rer un patient car il mourra sinon, la machine ne peut \u00eatre arr\u00eat\u00e9e par le principe \u00e9l\u00e9mentaire de s\u2019abstenir de blesser un \u00eatre humain, sans quoi il se retiendra d\u2019entreprendre l\u2019op\u00e9ration.<\/p>\n

Quant \u00e0 la Loi z\u00e9ro, Asimov soulignera qu’elle est quasi impossible \u00e0 respecter sur un plan pratique car elle exige pour sa mise en \u0153uvre que soit convoqu\u00e9e une vue d\u2019ensemble compl\u00e8te : une repr\u00e9sentation globale de l\u2019humanit\u00e9, abstraite de la vari\u00e9t\u00e9 de ses repr\u00e9sentants individuels. Mettre en p\u00e9ril, le cas \u00e9ch\u00e9ant, l’existence d’individus particuliers au nom de l’humanit\u00e9 enti\u00e8re mobilise une approche \u00ab\u00a0m\u00e9ta-\u00a0\u00bb, tr\u00e8s \u00e9loign\u00e9e en r\u00e9alit\u00e9 des 3 Lois de la robotique qu’Asimov imagine elles comme s\u2019assimilant \u00e0 ce que nous d\u00e9signons aujourd\u2019hui d\u2019algorithmes <\/i>et qu\u2019il qualifie lui de \u00ab\u00a0proc\u00e9dures math\u00e9matiques\u00a0\u00bb. La Loi z\u00e9ro, visant \u00e0 prot\u00e9ger l\u2019humanit\u00e9 dans son ensemble, incarne une ambition \u00e0 ce point sup\u00e9rieure qu\u2019il est difficile d\u2019imaginer qu\u2019un algorithme unique, aussi sophistiqu\u00e9 soit-il, suffise \u00e0 la mat\u00e9rialiser.<\/p>\n

Les robots d’Asimov sont autonomes<\/i> <\/b><\/p>\n

Voil\u00e0 donc : 76 ans de d\u00e9bats entre l’invention des 3 Lois de la robotique et la mise au point de TAY. Trois quarts de si\u00e8cle de discussions sur ce qu\u2019il serait possible ou impossible qu\u2019il advienne : \u00ab\u00a0Pourrait-on imaginer de mani\u00e8re r\u00e9aliste que se concr\u00e9tise ceci ou cela\u00a0?\u00a0\u00bb, et n\u00e9anmoins, le lamentable \u00e9chec qui fut observ\u00e9 en 2016.<\/p>\n

Le pourquoi d\u2019une telle surprenante d\u00e9connexion est en r\u00e9alit\u00e9 \u00e9l\u00e9mentaire : les robots d’Asimov prennent leurs d\u00e9cisions par eux-m\u00eames : ils sont autonomes, alors que ceux construits \u00e0 ce jour ne sont au mieux que semi-autonomes : il ne leur est laiss\u00e9 carte blanche que lorsque leurs capacit\u00e9s d\u00e9passent dramatiquement les n\u00f4tres, toute d\u00e9cision finale demeurant toutefois fermement entre les mains d\u2019un \u00eatre humain, alors qu\u2019un robot autonome ne consulte personne avant de poser son geste : il n\u2019est aucunement une machine manipul\u00e9e \u00e0 distance par un humain prenant effectivement des d\u00e9cisions en son nom. Dans l’environnement actuel, mis \u00e0 part un fameux robot-tueur isra\u00e9lien, encore appel\u00e9 \u00ab\u00a0munition intelligente\u00a0\u00bb, les robots \u00e0 proprement parler autonomes, n\u2019existent pas.<\/p>\n

Ce statut de semi-autonomie ne perdurera cependant qu\u2019aussi longtemps que nos d\u00e9cisions en derni\u00e8re instance appara\u00eetront plus judicieuses que celles des robots. D\u00e8s que cela aura cess\u00e9 d\u2019\u00eatre le cas, une autonomie totale leur sera plus que probablement volontiers accord\u00e9e.<\/p>\n

Que TAY prof\u00e8re des insanit\u00e9s serait tol\u00e9rable seulement s\u2019il devait alors en r\u00e9pondre : s\u2019il \u00e9tait responsable de ses mots, si la possibilit\u00e9 existait qu\u2019il soit traduit en justice et puni le cas \u00e9ch\u00e9ant pour des actes enfreignant le cadre l\u00e9gal en vigueur, ce qui n’est nullement le cas aujourd\u2019hui. Pire encore, d\u00e8s ses d\u00e9buts, la recherche en robotique a \u00e9t\u00e9 essentiellement men\u00e9e dans le domaine militaire parce qu\u2019un financement qui s\u2019av\u00e9rera \u00e0 terme d\u00e9ficitaire y est indiff\u00e9rent dans le cadre imp\u00e9ratif qu\u2019est la d\u00e9fense nationale. Ce qui veut dire aussi dans un environnement dont la d\u00e9finition m\u00eame exclut que puissent s’appliquer les \u00ab\u00a03 Lois de la robotique\u00a0\u00bb, \u00e0 commencer par la premi\u00e8re qui exige qu\u2019aucun \u00eatre humain ne soit bless\u00e9 par la machine, le principe m\u00eame de la robotique militaire \u00e9tant pr\u00e9cis\u00e9ment de neutraliser certains humains et en particulier des adversaires mena\u00e7ant l’existence du robot lui-m\u00eame.<\/p>\n

Plus g\u00e9n\u00e9ralement, le principe selon lequel un robot doit respecter les humains avant m\u00eame de songer \u00e0 se prot\u00e9ger lui-m\u00eame est en soi irr\u00e9aliste et inapplicable puisqu’un robot est une machine co\u00fbteuse dont on veillera \u00e0 ce qu\u2019elle ne soit pas ais\u00e9ment d\u00e9truite, m\u00eame si cela implique que, dans des cas-limite, elle \u00e9limine les \u00eatres humains qui la menacent. Cet aspect-l\u00e0 de la question n’avait pas \u00e9chapp\u00e9 \u00e0 Asimov, qui avait propos\u00e9 en 1955, dans la nouvelle intitul\u00e9e \u00ab\u00a0Risk\u00a0\u00bb, une formulation alternative des \u00ab\u00a03 Lois\u00a0\u00bb :<\/p>\n

\u00ab\u00a0Premi\u00e8re loi : Tu prot\u00e9geras le robot de toutes tes forces, de tout ton coeur et de toute ton \u00e2me.<\/p>\n

Deuxi\u00e8me loi : Tu sanctifieras les int\u00e9r\u00eats de U.S. Robots and Mechanical Men, Inc.<\/i> \u00e0 condition que cela n’interf\u00e8re pas avec la premi\u00e8re loi.<\/p>\n

Troisi\u00e8me loi : Tu accorderas une attention distraite aux \u00eatres humains, \u00e0 condition que cela n’interf\u00e8re ni avec la premi\u00e8re, ni avec la deuxi\u00e8me loi.\u00a0\u00bb<\/p>\n

\u00c0 l\u2019occasion de l’examen de ses \u00ab\u00a03 Lois\u00a0\u00bb, Asimov avait fait remarquer qu\u2019elles ne sont en r\u00e9alit\u00e9 rien d’autre que les principes g\u00e9n\u00e9raux r\u00e9gissant le fonctionnement de toute machine ou m\u00eame de tout outil. Si l\u2019on veut qu\u2019ils soient utiles aux humains, une machine ou un outil, note-t-il, doivent viser un objectif sp\u00e9cifique. De plus, observe Asimov, une machine ou un outil ne doit pr\u00e9senter aucun danger pour son utilisateur et un m\u00e9canisme devrait id\u00e9alement exister qui la stoppe si un danger devait se pr\u00e9ciser. Enfin, elle doit \u00eatre suffisamment robuste pour ne pas se briser \u00e0 la moindre utilisation. Autrement dit, ces \u00ab\u00a03 Lois de la robotique\u00a0\u00bb ne sont que des applications particuli\u00e8res de principes g\u00e9n\u00e9raux valant pour toute machine ou outil : \u00ab\u00a0Consid\u00e9rez donc un robot comme un artefact comme un autre, \u00e9crit-il, il ne constitue pas une incursion sacril\u00e8ge dans le royaume du Tout-Puissant, pas plus (ou pas moins) que tout autre artefact\u00a0\u00bb.<\/p>\n

TAY revisit\u00e9 : il n’\u00e9tait pas devenu fou, il avait plus simplement rejoint les rangs de l\u2019extr\u00eame-droite<\/i><\/p>\n

Pourquoi TAY a-t-il dit que l’Holocauste, d’une part, n’a pas eu lieu et, d’autre part, s’il avait eu lieu, aurait \u00e9t\u00e9 une bonne chose ? Bien s\u00fbr, parce qu’il n’existait absolument rien en lui en mati\u00e8re de rambardes, comme garde-fou, pour filtrer ce qu’il pouvait dire, ayant comme seule source de jugement moral ce que des utilisateurs lui avaient communiqu\u00e9.<\/p>\n

Mai pourquoi alors la m\u00eame philosophie avait-elle pu fonctionner dans le cas d\u2019un produit similaire \u00e0 TAY dans le contexte chinois ? Probablement parce qu\u2019il est celui d’une plus grande d\u00e9f\u00e9rence envers les entreprises d\u2019autrui et – il faut bien le dire – d’une r\u00e9tribution plus prompte des contrevenants. Quand TAY fut relanc\u00e9 un peu plus tard, il adopta alors un ton sentencieux, affirmant par exemple qu\u2019\u00ab\u00a0il n\u2019existe aucune diff\u00e9rence entre hommes et femmes\u00a0\u00bb, et d\u2019autres propos similaires. Il s’agissait manifestement cette fois de r\u00e9ponses pr\u00e9enregistr\u00e9es, autrement dit de propos qui ne r\u00e9sultaient pas d’un \u00ab\u00a0raisonnement\u00a0\u00bb produit par une Intelligence Artificielle mais qui avaient \u00e9t\u00e9 judicieusement plac\u00e9s l\u00e0 pour \u00eatre ensuite recouvr\u00e9s \u00e0 bon escient selon un processus purement m\u00e9canique.<\/p>\n

\u00c0 y regarder de plus pr\u00e8s, pour caract\u00e9riser ce qui s’\u00e9tait pass\u00e9, et pour le dire en deux mots, TAY s\u2019\u00e9tait mu\u00e9 en partisan de Donald Trump. En effet, dans une r\u00e9ponse \u00e0 l’utilisateur de Twitter @icbydt, TAY avait d\u00e9clar\u00e9 : \u00ab\u00a0bush a fait le 11 septembre et Hitler aurait fait un meilleur travail que le singe que nous avons maintenant. donald trump est le seul espoir que nous ayons.\u00a0\u00bb<\/p>\n

Pourquoi y eut-il une lev\u00e9e de boucliers ? TAY a-t-il \u00e9t\u00e9 d\u00e9cri\u00e9 parce que nul au monde ne nie l’existence de l’Holocauste ? Non, bien s\u00fbr : le scandale n\u2019existe que parce que les concepteurs de robots aimeraient que leurs produits ne prof\u00e8rent pas le genre d’inanit\u00e9s propres \u00e0 \u00ab\u00a0ces gens\u00a0\u00bb qui se situent \u00e0 l’autre bout du spectre politique qu\u2019eux-m\u00eames. Ce dont il s\u2019agit, ce n\u2019est donc pas que TAY se soit tromp\u00e9 au sens de tenir des propos qu\u2019aucun humain n\u2019aurait jamais prononc\u00e9s : les partisans de Trump existent bel et bien dans le monde r\u00e9el. Mais pour appeler les choses par leur nom, ce que nous voyons ici ce n\u2019est pas un \u00e9chec de l\u2019Intelligence Artificielle mais un conflit entre le monde des concepteurs et des programmeurs qui font l’Intelligence Artificielle et les partisans de Trump.<\/p>\n

James H. Moor est professeur de philosophie \u00e0 Dartmouth College, universit\u00e9 prestigieuse dans le monde de l\u2019Intelligence Artificielle du fait qu\u2019en 1956 le projet concret de r\u00e9alisation d\u2019une intelligence artificielle y fut \u00e9nonc\u00e9 pour la premi\u00e8re fois au cours d\u2019un colloque. Moor a fait remarquer en 2009, dans un article intitul\u00e9 \u00ab\u00a0Four Kinds of Ethical Robots\u00a0\u00bb, que lors de l’ouragan Katrina en ao\u00fbt 2005, la r\u00e9ponse de robots aurait difficilement pu \u00eatre pire que celle des autorit\u00e9s am\u00e9ricaines : \u00ab\u00a0Pour donner un exemple, un d\u00e9cideur robotique se montrerait plus comp\u00e9tent et moins partial dans la distribution de l’aide apr\u00e8s une catastrophe nationale comme l’ouragan Katrina qui d\u00e9truisit une grande partie de La Nouvelle-Orl\u00e9ans. En cette instance, les secours humains furent dangereusement incomp\u00e9tents, et la coordination des informations et la distribution des biens ne furent pas bien g\u00e9r\u00e9es. \u00c0 l’avenir, des robots \u00e9thiques feraient un meilleur travail dans une situation de ce type\u00a0\u00bb. Si Moor ne mentionnait pas TAY, c’\u00e9tait bien s\u00fbr parce que son article pr\u00e9c\u00e9dait de sept ans le lancement par Microsoft de son malheureux dialogueur<\/i>.<\/p>\n

C\u2019est le mod\u00e8le de l\u2019humain de l\u2019Intelligence Artificielle qui est en cause<\/i><\/p>\n

Ce n’est donc pas que les personnes se comportant comme TAY s\u2019est conduit, n\u2019existeraient pas, c’est plut\u00f4t que les concepteurs et les programmeurs de robots aimeraient penser que si un robot acc\u00e9dait au statut de \u00ab\u00a0robot pensant\u00a0\u00bb, il ne se comporterait pas comme la pire des canailles, m\u00eame si, non seulement la pire des canailles existe bel et bien dans le monde r\u00e9el, mais aussi qu\u2019en raison d\u2019un racisme ambiant, le m\u00eame raisonnement odieux peut sous-tendre les r\u00e9actions d’un gouvernement tant au niveau f\u00e9d\u00e9ral que local.<\/p>\n

Contrairement donc \u00e0 une id\u00e9e re\u00e7ue au sein de la communaut\u00e9 de l\u2019Intelligence Artificielle, la r\u00e9demption ne viendra pas de techniques encore \u00e0 mettre au point visant \u00e0 concevoir une \u00ab\u00a0intelligence g\u00e9n\u00e9rale artificielle\u00a0\u00bb, \u00e9galement appel\u00e9e \u00ab\u00a0sens commun des machines\u00a0\u00bb, mais en visant un \u00ab\u00a0sens moral commun\u00a0\u00bb, ce que seul un mod\u00e8le plus ad\u00e9quat de ce qu’est un sujet humain permettra d\u2019atteindre. Autrement dit, ce qui doit \u00eatre impl\u00e9ment\u00e9 dans le robot est une simulation du m\u00e9canisme permettant \u00e0 un sujet humain d’acqu\u00e9rir, au lieu d’une \u00ab\u00a0intelligence g\u00e9n\u00e9rale artificielle\u00a0\u00bb, un \u00ab\u00a0sens moral commun\u00a0\u00bb, tel celui qui se construit au fil des ans chez l’enfant puis chez l’adolescent.<\/p>\n

Et ceci implique que pour \u00eatre con\u00e7u, un robot autonome n\u00e9cessite un mod\u00e8le freudien de la personne. L’Intelligence Artificielle doit faire preuve de sagesse en se choisissant comme mod\u00e8le de l’\u00eatre humain \u00e0 imiter, celui que Sigmund Freud pr\u00e9senta dans sa \u00ab\u00a0m\u00e9tapsychologie\u00a0\u00bb d’inspiration psychanalytique : un chef-d’\u0153uvre de r\u00e9ussite scientifique dans un environnement o\u00f9 les montages exp\u00e9rimentaux \u00e9taient – et restent – presque impossibles \u00e0 r\u00e9aliser. Sans quoi le robot ne sera jamais davantage que l’infortun\u00e9 TAY de Microsoft : un cr\u00e9tin se laissant facilement convaincre de devenir sexiste et raciste \u00e0 la suite seulement d\u2019une douzaine d’heures de conversation avec des utilisateurs.<\/p>\n

Le Plan C : un monde peupl\u00e9 de robots autonomes, dont nous aurons disparu<\/i><\/p>\n

Revenons maintenant, en guise de conclusion, \u00e0 Isaac Asimov, le p\u00e8re des \u00ab\u00a03 Lois de la robotique\u00a0\u00bb. Il pronon\u00e7a, lors d\u2019un entretien, les mots fatidiques que voici :<\/p>\n

\u00ab\u00a0J’aimerais pouvoir dire que je suis optimiste quant au genre humain, mais je crains que nous ne soyons trop stupides et myopes. Et je me demande si nous ouvrirons un jour les yeux sur le monde qui nous entoure avant de nous d\u00e9truire.<\/p>\n

[…] Lorsque le moment viendra o\u00f9 les robots, si tout va bien, seront devenus suffisamment intelligents pour nous remplacer, je pense qu’ils le feront. Nous avons connu de nombreux cas, au cours de l’\u00e9volution humaine et de la vaste \u00e9volution de la vie avant cela, o\u00f9 une esp\u00e8ce en a remplac\u00e9 une autre parce que l’esp\u00e8ce rempla\u00e7ante \u00e9tait, d’une mani\u00e8re ou d’une autre, plus efficace que l’esp\u00e8ce remplac\u00e9e. Je ne pense pas que l’homo sapiens<\/i> poss\u00e8de un quelconque droit divin \u00e0 occuper le premier rang. S\u2019il existe quelque chose de mieux que nous, que cette chose vienne donc occuper la place primordiale. En fait, j’ai le sentiment que nous sommes si pitoyables dans la t\u00e2che de pr\u00e9server la Terre et ses formes de vie que je ne peux m’emp\u00eacher de penser que plus t\u00f4t nous serons remplac\u00e9s, mieux cela vaudra pour toutes les autres formes de vie.\u00a0\u00bb<\/p>\n

Il est vrai qu\u2019il est probablement beaucoup plus faisable de travailler au d\u00e9veloppement de machines, de robots, qui nous remplaceront enti\u00e8rement, que d’essayer de sauver le genre humain dans le contexte pr\u00e9sent de sa pr\u00e9sence sur notre plan\u00e8te o\u00f9 il a enfreint la capacit\u00e9 de charge de la Terre pour une esp\u00e8ce aussi vorace et mal \u00e9lev\u00e9e que la n\u00f4tre. Il s\u2019agit l\u00e0 d\u2019un point de vue que je d\u00e9fendais d\u00e9j\u00e0 en 2016 dans Le dernier qui s’en va \u00e9teint la lumi\u00e8re<\/i> (Fayard).<\/p>\n

Ainsi, en pensant au Plan C d\u2019humains remplac\u00e9s par des robots, affirmer qu\u2019il s\u2019agit du projet le plus r\u00e9alisable par rapport \u00e0 d’autres comme sauver l’humanit\u00e9 qui constituerait le Plan A, ne revient pas \u00e0 pr\u00e9tendre que les chances soient \u00e9normes que la mission puisse \u00eatre men\u00e9e \u00e0 bien, c\u2019est dire plus modestement que, dans une perspective comparative entre cette t\u00e2che et d\u2019autres – par exemple que les \u00eatres humains s’installent sur d’autres plan\u00e8tes et y vivent en autonomie, ce qui constituerait un Plan B – par rapport \u00e0 cela, le projet de cr\u00e9er des robots autonomes qui se reproduiraient est sans doute le plus facile des trois \u00e0 mettre en \u0153uvre parce qu\u2019aucun obstacle technique majeur \u00e0 sa r\u00e9ussite ne subsiste, seulement le temps n\u00e9cessaire \u00e0 la recherche et au d\u00e9veloppement ordinaire.<\/p>\n

\"\"<\/p>\n","protected":false},"excerpt":{"rendered":"

\u00a0\u00a0\u00a0\u00a0Quinzaines<\/a>, aux pages 8 \u00e0 10<\/h4>\n

La d\u00e9b\u00e2cle r\u00e9cente d’une intelligence artificielle invite \u00e0 r\u00e9fl\u00e9chir \u00e0 la programmation des machines. Comment leur inculquer, outre une capacit\u00e9 \u00e0 r\u00e9pondre automatiquement, celle de raisonner selon des principes moraux\u00a0?<\/i><\/p>\n

En mars 2016, Microsoft mit sur le march\u00e9 un dialogueur<\/i> ou agent conversationnel<\/i>, en […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13,14],"tags":[8886,1935,940,3327,8779,8885,3777,5670,8887],"class_list":["post-135148","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-science-fiction","tag-3-lois-de-la-robotique","tag-anella","tag-intelligence-artificielle-2","tag-isaac-asimov","tag-pribor-io","tag-robotique","tag-robots","tag-science-fiction","tag-tay-microsoft"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135148","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=135148"}],"version-history":[{"count":10,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135148\/revisions"}],"predecessor-version":[{"id":135178,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135148\/revisions\/135178"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=135148"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=135148"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=135148"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}