{"id":133130,"date":"2022-07-04T17:48:37","date_gmt":"2022-07-04T15:48:37","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=133130"},"modified":"2022-07-04T17:54:18","modified_gmt":"2022-07-04T15:54:18","slug":"ou-en-est-lintelligence-artificielle-le-26-juin-2022-retranscription","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2022\/07\/04\/ou-en-est-lintelligence-artificielle-le-26-juin-2022-retranscription\/","title":{"rendered":"O\u00f9 en est l’Intelligence Artificielle ?<\/b>, le 26 juin 2022 – Retranscription"},"content":{"rendered":"

\"\"Retranscription de O\u00f9 en est l’Intelligence Artificielle\u00a0?<\/b><\/a>, le 26 juin 2022<\/p><\/blockquote>\n

Bonjour, nous sommes le dimanche 26 juin 2022 et aujourd\u2019hui, je vais tenter de r\u00e9pondre \u00e0 la question\u00a0: O\u00f9 en est aujourd\u2019hui l\u2019Intelligence Artificielle\u00a0?\u00a0<\/span><\/p>\n

Vous avez peut-\u00eatre vu \u00e7a, \u00e7a a un peu amus\u00e9 les journaux, c\u2019\u00e9tait quoi, il y a une semaine – 10\u00a0jours. Il y a un chercheur chez Google qui travaille sur des syst\u00e8mes de dialogue avec les machines, qui a pr\u00e9tendu, un M. Lemoine qui a dit que la machine avait atteint maintenant la conscience, qu\u2019il \u00e9tait clair qu\u2019elle avait une conscience. Il a m\u00eame \u00e9t\u00e9 question que cette IA prenne un avocat pour d\u00e9fendre son statut humain, r\u00e9clame la personnalit\u00e9 juridique. Je n\u2019ai pas r\u00e9agi tout de suite. Si, j\u2019ai r\u00e9agi tout de suite : j\u2019ai ri\u2026\u00a0<\/span><\/p>\n

<\/p>\n

Pourquoi est-ce que j\u2019ai ri\u00a0? Non pas que cette t\u00e2che ne soit pas int\u00e9ressante. J\u2019ai moi-m\u00eame aid\u00e9 \u00e0 r\u00e9diger un texte pour obtenir des financements pour un projet dans ce sens-l\u00e0, mais c\u2019est parce que je sais \u00e0 partir de quoi parle ce monsieur. Je sais que les m\u00e9thodes utilis\u00e9es pour produire le syst\u00e8me avec lequel il dialoguait, et qui l\u2019a convaincu qu\u2019il avait une conscience et qu\u2019il \u00e9tait tr\u00e8s tr\u00e8s intelligent, et qu\u2019il fallait maintenant d\u00e9fendre ses droits, je connais les m\u00e9thodes qui sont utilis\u00e9es pour produire le discours de cette machine, de cette Intelligence Artificielle et je sais que, je suis personnellement convaincu que ce n\u2019est pas sur cette voie-l\u00e0, ce n\u2019est pas l\u00e0 qu\u2019on va trouver de la conscience.\u00a0<\/span><\/p>\n

On peut trouver de la conscience et j\u2019ai d\u00e9j\u00e0 travaill\u00e9 sur cette question-l\u00e0 de mani\u00e8re indirecte et j\u2019y travaille en ce moment mais ce qui m\u2019a fait rire : je savais qu\u2019il cherchait midi \u00e0 14 heures. C\u2019est un monsieur un peu mystique. Sa compagnie l\u2019a vir\u00e9 si j\u2019ai bien compris, parce qu\u2019il insiste un petit peu trop. Son enthousiasme \u00e9tait pr\u00e9matur\u00e9. Il a vu la machine qui dialoguait avec lui, qui lui r\u00e9pondait, mais d\u2019une certaine mani\u00e8re, on n\u2019avait pas fait, dans ce syst\u00e8me [ELIZA] qu\u2019il utilisait, on n\u2019avait pas fait de progr\u00e8s depuis que M. Joseph Weizenbaum<\/span><\/a> – c\u2019\u00e9tait quoi, dans les ann\u00e9es 70 [1964-66] – avait une machine qui, quand l\u2019interlocuteur disait, racontait des trucs sur sa m\u00e8re, la machine r\u00e9pondait\u00a0: \u00ab\u00a0Mais parlez-moi aussi de votre p\u00e8re\u00a0\u00bb.\u00a0<\/span><\/p>\n

Bon, voil\u00e0, c\u2019est \u00e0 ce niveau-l\u00e0. C\u2019est plus sophistiqu\u00e9 mais c\u2019est toujours dans la m\u00eame voie, c\u2019est-\u00e0-dire que, maintenant, on vous dit\u00a0: on a mis un trillion, mille milliards de mots dans la machine. On ne parle pas de mots parce qu\u2019il n\u2019y en n\u2019a pas autant mais de phrases qui ont \u00e9t\u00e9 prononc\u00e9es, de discours, etc. et la machine produit un discours qui ne peut pas imaginer quoi que ce soit puisqu\u2019il joue sur des corr\u00e9lations de textes qui lui ont \u00e9t\u00e9 mises en bo\u00eete, il les a \u00ab\u00a0apprises\u00a0\u00bb si vous voulez mais ce n\u2019est pas apprendre comme moi j\u2019appelle apprendre quand je parle d\u2019Intelligence Artificielle.\u00a0<\/span><\/p>\n

Bon, alors, du coup, pas mal d\u2019articles sur\u00a0: \u00ab\u00a0O\u00f9 en est l\u2019IA\u00a0?\u00a0\u00bb En fait, les gens qui ont r\u00e9pondu un peu violemment \u00e0 ce M. Lemoine, y compris ses employeurs, ont dit\u00a0: \u00ab\u00a0On est encore tr\u00e8s loin d\u2019arriver \u00e0 faire des choses de cet ordre-l\u00e0\u00a0\u00bb. D\u2019ailleurs, on a fait \u00e0 ce moment-l\u00e0 une liste assez compl\u00e8te de choses qui apparaissent comme des goulets d\u2019\u00e9tranglement encore en IA. Bon, mon sentiment, c\u2019est que ces goulets d\u2019\u00e9tranglement n\u2019en sont pas. \u00c7a m\u2019a conduit \u00e0 relire ces jours-ci un livre que j\u2019ai publi\u00e9 en 1989, en novembre 1989. Le voici sous la forme, sous sa forme actuelle\u00a0: \u00ab\u00a0Principes des syst\u00e8mes intelligents\u00a0\u00bb aux Editions du Croquant.\u00a0<\/span><\/p>\n

\"\"<\/p>\n

Ce n\u2019est pas l\u2019\u00e9dition originale. Pourquoi ce tableau de Paul Klee\u00a0? Eh bien, parce qu\u2019on m\u2019avait pr\u00e9sent\u00e9 tr\u00e8s aimablement un projet de couverture et comme je savais que l\u2019\u00e9diteur, la personne qui s\u2019occupait de cette maison d\u2019\u00e9dition s\u2019int\u00e9ressait tout particuli\u00e8rement \u00e0 la peinture et avait fait des choix tout \u00e0 fait int\u00e9ressants d\u2019Edward Hopper et de\u2026 je ne sais plus, \u00e7a devait \u00eatre un des Bruegel, de la famille Bruegel, pour un de mes livres, etc. et j\u2019ai dit\u00a0: \u00ab\u00a0\u00c9coute, ce circuit imprim\u00e9 que tu me proposes sur la couverture, je trouve qu\u2019il ressemble \u00e0 un tableau de Klee. Pourquoi est-ce qu\u2019on ne mettrait pas le tableau de Klee \u00e0 la place\u00a0?\u00a0\u00bb, ce qu\u2019on a fait.\u00a0<\/span><\/p>\n

Donc, \u00e7a, c\u2019est la r\u00e9\u00e9dition de 2012, donc, 2012 et 11, 23 ans plus tard, le livre est reparu et on est 10 ans plus tard de la nouvelle \u00e9dition. De quoi s\u2019agissait-il\u00a0? Il s\u2019agit d\u2019un livre o\u00f9 je d\u00e9cris le projet d\u2019Intelligence Artificielle que je r\u00e9alise \u00e0 cette \u00e9poque-l\u00e0 pour les British Telecom qui ont un projet d\u2019Intelligence Artificielle qui s\u2019appelle Connex<\/span> et auquel on m\u2019a demand\u00e9 de participer. Et je sors tout \u00e0 fait de la bo\u00eete comme on dit, je sors compl\u00e8tement du cadre. Je dis : \u00ab Je vais prendre le mod\u00e8le psychanalytique pour faire une machine intelligente \u00bb. \u00c7a ne surprenait pas la personne qui m\u2019avait recrut\u00e9 parce que c\u2019est en m\u2019entendant parler de \u00e7a \u00e0 un colloque qui l\u2019avait conduit \u00e0 m\u2019aborder et \u00e0 me proposer de faire partie de son \u00e9quipe naissante \u00e0 Ipswich, au si\u00e8ge de British Telecom. Donc, ce n\u2019\u00e9tait pas une surprise pour lui. Lui, il avait reconnu, M. [Robert] Linggard <\/span>avait reconnu qu\u2019il y avait l\u00e0 quelque chose qui l\u2019int\u00e9ressait. Il ne savait pas ce que \u00e7a pourrait donner. Ce n\u2019\u00e9tait pas du tout dans la voie de l\u2019IA de l\u2019\u00e9poque et \u00e7a ne l\u2019est toujours pas, \u00e7a ne l\u2019est toujours pas.\u00a0<\/span><\/p>\n

Alors, qu\u2019est-ce qui s\u2019est pass\u00e9 depuis\u00a0? Il s\u2019est pass\u00e9 que je me suis dit\u00a0: \u00ab\u00a0Un jour, on retrouvera la voie que j\u2019ai annonc\u00e9e parce que c\u2019est la seule qui pourra marcher. On va continuer pendant des ann\u00e9es \u00e0 aller dans des voies de garage et un jour, un jour, on se tournera vers mon livre\u00a0\u00bb. Je m\u2019\u00e9tais dit que ce serait apr\u00e8s ma mort : qu\u2019on retrouverait \u00e7a apr\u00e8s ma mort, et que ce n\u2019\u00e9tait pas mauvais qu\u2019il y ait une deuxi\u00e8me \u00e9dition, un deuxi\u00e8me tirage : comme \u00e7a quelqu\u2019un, un jour, trouverait \u00e7a. Il s\u2019est fait que \u00e7a a \u00e9t\u00e9 retrouv\u00e9 alors que j\u2019\u00e9tais toujours en vie. C\u2019est\u00a0Luca Possati<\/span> de l\u2019Universit\u00e9 de Porto au Portugal qui a retrouv\u00e9 \u00ab\u00a0Principes des syst\u00e8mes intelligents\u00a0\u00bb. Il l\u2019avait trouv\u00e9 d\u2019ailleurs avant que j\u2019aie l\u2019occasion de le rencontrer, lui, en tant que visiteur \u00e0 l\u2019Universit\u00e9 Catholique de Lille et il a publi\u00e9 un livre o\u00f9 il y a un petit chapitre consacr\u00e9 \u00e0 \u00ab\u00a0Principes des syst\u00e8mes intelligents\u00a0\u00bb, ce qui a conduit les personnes de Elif Lab \u00e0 Milan de me contacter il y a \u00e0 peu pr\u00e8s un an et demi en me disant\u00a0: \u00ab\u00a0On avait pr\u00e9par\u00e9 un projet et puis, on apprend par Luca que vous \u00eates le pionnier dans ce domaine\u00a0\u00bb et on me dit des choses tr\u00e8s aimables, on me dit\u00a0: \u00ab\u00a0On a ce sentiment d\u2019\u00e9trange inqui\u00e9tude, d\u2019inqui\u00e9tante \u00e9tranget\u00e9,<\/a> dont parle Freud, qu\u2019en lisant votre livre, on s\u2019aper\u00e7oit que, voil\u00e0, les choses qu\u2019on croyait inventer se trouvaient d\u00e9j\u00e0 l\u00e0 \u00bb.<\/p>\n

\u00c7a a conduit du coup \u00e0 ce qu\u2019on fasse, les gens d\u2019Elif Lab et moi, un projet commun qu\u2019on a pr\u00e9sent\u00e9 aux Institutions europ\u00e9ennes pour obtenir un financement et l\u00e0, catastrophe \u00e0 leurs yeux, et rengaine aux miens, on s\u2019est trouv\u00e9s \u00e0 voir notre projet jug\u00e9 par des personnes qui appartiennent sans doute \u00e0 l\u2019Intelligence Artificielle mais, je dirais, \u00e0 deux g\u00e9n\u00e9rations ou trois g\u00e9n\u00e9rations avant celle dont nous parlons, qui est \u00e0 l\u2019avant-garde, qui est en dehors du cadre, qui est autre chose, et l\u00e0, j\u2019ai eu la m\u00eame surprise que quand j\u2019ai vu le premier compte-rendu de mon livre \u00ab Comment la v\u00e9rit\u00e9 et la r\u00e9alit\u00e9 furent invent\u00e9es ? \u00bb, o\u00f9 j\u2019avais pass\u00e9 20 ans \u00e0 faire l\u2019arch\u00e9ologie de ces deux notions qui nous paraissent tout \u00e0 fait \u00e9videntes parce que nous savons ce qu\u2019est la v\u00e9rit\u00e9 et la fausset\u00e9 –\u00a0 encore qu\u2019on commence \u00e0 h\u00e9siter un peu ces jours-ci – et que nous savons ce que c\u2019est la r\u00e9alit\u00e9 objective. Non, non : ce sont des notions qui sont n\u00e9es dans notre culture. La gestation a \u00e9t\u00e9 difficile. \u00c7a a \u00e9t\u00e9 une naissance au forceps : \u00e7a a \u00e9t\u00e9 de grandes bagarres entre les sophistes, Platon et Aristote de l\u2019autre c\u00f4t\u00e9. \u00c7a a \u00e9t\u00e9 des bagarres au Moyen-\u00e2ge. Des universit\u00e9s ont \u00e9t\u00e9 ferm\u00e9es. On a pens\u00e9 faire venir les troupes pontificales pour remettre de l\u2019ordre pendant qu\u2019on r\u00e9solvait ces questions donc l\u2019invention de la v\u00e9rit\u00e9 et de la r\u00e9alit\u00e9 n\u2019est pas une d\u00e9couverte : \u00e7a n\u2019a pas \u00e9t\u00e9 un long fleuve tranquille. Alors, quand je vois le premier compte-rendu de ce livre et qu\u2019il y a une personne qui me dit : \u00ab Mais de quoi \u00e7a parle \u00bb, etc. et je regarde, et quelqu\u2019un me dit : \u00ab Regardez, regardez ce paragraphe-l\u00e0 \u00bb dans son compte-rendu et o\u00f9 cette personne dit : \u00ab Mais pourquoi Jorion parle-t-il soudain de comptabilit\u00e9 ? \u00bb, j\u2019ouvre les yeux comme des soucoupes : je suis s\u00fbr que le mot \u00ab comptabilit\u00e9 \u00bb n\u2019appara\u00eet nulle part dans ce livre ou si, peut-\u00eatre, s\u2019il y a une allusion, je dirais, \u00e0 la naissance de la banque moderne, peut-\u00eatre dans une note en bas de page. Eh bien non, cette personne avait lu \u00ab comptabilit\u00e9 \u00bb l\u00e0 o\u00f9 il \u00e9tait mis … \u00ab compatibilit\u00e9 \u00bb, voil\u00e0.<\/p>\n

C\u2019est un peu l\u2019id\u00e9e qui m\u2019est revenue quand j\u2019ai lu les critiques de notre projet, je me suis dit : \u00ab Bon, il y a des gens qui sont pr\u00eats – la preuve, l\u2019\u00e9quipe de Milan – et puis, il y a des gens qui sont encore\u2026 \u00bb, C\u2019est peut-\u00eatre un truc un petit peu constant, je dirais, pour juger de la qualit\u00e9 des projets, des nouveaux projets, des projets innovants, on ne trouve peut-\u00eatre pas n\u00e9cessairement des gens innovants pour \u00e9mettre un avis l\u00e0-dessus.\u00a0<\/span><\/p>\n

Ce qui s\u2019est pass\u00e9 r\u00e9cemment avec ce monsieur qui dit qu\u2019il a trouv\u00e9 la conscience dans une machine, c\u2019est que plusieurs articles ont donc \u00e9t\u00e9 consacr\u00e9s au fait que quels sont ces goulets d\u2019\u00e9tranglement ou (\u00ab\u00a0goulots d\u2019\u00e9tranglement\u00a0\u00bb puisqu\u2019on fait l\u2019erreur) ? Qu\u2019est-ce qu\u2019il faut encore r\u00e9soudre ? Et \u00e0 ce moment-l\u00e0, ce que j\u2019ai fait – c\u2019\u00e9tait il y a plusieurs semaines – j\u2019ai repris mon propre ouvrage. Il y a des gens que \u00e7a \u00e9pate \u00e7a, l\u2019id\u00e9e que quelqu\u2019un pourrait lire son propre livre (et ceux qui ont \u00e9crit des livres et qui les relisent savent de quoi je parle : \u00e7a, je dirais, c\u2019est mon bagage freudien qui m\u2019encourage \u00e0 reconna\u00eetre les choses comme \u00e7a), quand on \u00e9crit un livre, il y a la part que la conscience dirige et il y a toute la part de l\u2019inconscient et dans la part de l\u2019inconscient (comme \u00e7a vient d\u2019un endroit qui n\u2019est pas facilement accessible), quand on relit une partie qui a \u00e9t\u00e9 \u00e9crite par l\u2019inconscient, on la d\u00e9couvre peut-\u00eatre. Pourquoi ? Parce que ce n\u2019est pas venu \u00e0 la conscience encore. Et j\u2019ai eu une conversation de ce style-l\u00e0 il y a pas trop longtemps avec Emmanuel Todd et on comprend de quoi on parle. Tout particuli\u00e8rement, dans ce livre, il y a un dernier chapitre dont j\u2019avais gard\u00e9 le souvenir. Je me suis dit : \u00ab L\u00e0, j\u2019ai quand m\u00eame peut-\u00eatre mis un peu n\u2019importe quoi \u00bb parce que je ne savais pas comment terminer. Donc j\u2019avais une sorte de remords \u00e0 propos de ce dernier chapitre en me disant : \u00ab \u00c7a cale peut-\u00eatre \u00e0 cet endroit-l\u00e0 ! \u00bb. Et je viens de le relire ce matin. Et c\u2019est un ph\u00e9nom\u00e8ne comme celui que je viens de dire. Je vais le formuler de cette mani\u00e8re-l\u00e0 (et les gens qui ne comprennent pas qu\u2019on puisse apprendre quelque chose en lisant ses propres livres, bon, ils vont pousser des hauts cris), je vais dire la chose suivante : dans ce dernier chapitre, ma pens\u00e9e d\u00e9passait ce que je savais<\/em>, c\u2019est-\u00e0-dire que c\u2019\u00e9tait plus malin que moi \u00e0 l\u2019\u00e9poque o\u00f9 je l\u2019ai \u00e9crit. L\u00e0 aussi : \u00ab Comment est-ce possible ? \u00bb. Eh bien non, si vous \u00eates un peu familier avec la psychanalyse, vous comprenez \u00e7a parfaitement. La pens\u00e9e d\u00e9passait\u2026 Les mots me sont venus, les citations. J\u2019ai parl\u00e9 de [Joseph] Sneed<\/a>,<\/span> je parle de [Wolfgang] Stegm\u00fcller<\/a> et, en fait, j\u2019appelle ce chapitre : \u00ab La signification de la phrase \u00bb et \u00e7a explique ce qu\u2019est la signification de la phrase m\u00eame si je n\u2019avais pas compris \u00e0 l\u2019\u00e9poque ou j\u2019avais l\u2019impression que j\u2019\u00e9tais un petit peu \u00e0 c\u00f4t\u00e9 de la plaque. Eh bien, maintenant, je consid\u00e8re que non, non, ce livre s\u2019\u00e9tait clos sur lui-m\u00eame de la mani\u00e8re qu’il fallait.<\/p>\n

R\u00e9sultats des courses, c\u2019est la chose suivante : c\u2019est que donc, relisant, faisant la liste de tout ce dont on nous dit que ce n\u2019est pas encore r\u00e9solu en intelligence artificielle, j\u2019ai relu mon propre livre en me disant : \u00ab Y a-t-il la solution \u00e0 tous ces probl\u00e8mes dans ce livre ? \u00bb et c\u2019est \u00e7a qui justifiait que je fasse une vid\u00e9o ce matin. La r\u00e9ponse est oui, il y a r\u00e9ponse \u00e0 tout. Bien s\u00fbr, c\u2019est dans l\u2019ordre des degr\u00e9s d\u2019\u00e9laboration, je dirais, plus ou moins avanc\u00e9.<\/p>\n

Quand j\u2019ai fait le projet ANELLA qui, donc, a \u00e9t\u00e9 celui que j\u2019ai fait pour British Telecom : Associative Network with Emergent Logic and Learning Abilities<\/em>, je le dis lentement en fran\u00e7ais, en traduction : R\u00e9seau associatif aux propri\u00e9t\u00e9s \u00e9mergentes de logique et d\u2019apprentissage, eh bien, il y a l\u00e0 exactement tout ce qui manque dans l\u2019IA actuelle, celle qui s\u2019est faite uniquement \u00e0 partir de techniques de deep learning<\/em>, en utilisant des r\u00e9seaux neuronaux artificiels plus ou moins domestiqu\u00e9s parce que, ce qu\u2019il y a dans mon livre, c\u2019est un r\u00e9seau neuronal mais, si vous voulez, il est enti\u00e8rement domestiqu\u00e9 : il ne joue pas du tout sur les propri\u00e9t\u00e9s brutes, sur les effets non-lin\u00e9aires qu\u2019on obtient quand on utilise un \u00ab\u00a0perceptron\u00a0\u00bb, puisque c\u2019est le nom de l\u2019objet au d\u00e9part. Quand on utilise \u00e7a, non, c\u2019est un r\u00e9seau, c\u2019est un r\u00e9seau neuronal qui est compatible, on peut le d\u00e9poser sur une carte qui serait celle des v\u00e9ritables connexions de neurones et on pourrait le mettre, l\u2019impl\u00e9menter comme on dit en informatique, le r\u00e9aliser de cette mani\u00e8re-l\u00e0.<\/p>\n

Et donc, j\u2019ai le sentiment non seulement que M. Luca Possati<\/span> avait fait une bonne chose en ressuscitant mon projet, que l\u2019\u00e9quipe de Elif Lab \u00e0 Milan avait bien vu le potentiel que cela a maintenant. Pourquoi est-ce que c\u2019est diff\u00e9rent maintenant qu\u2019en 1987 \u00e0 1989, quand j\u2019ai fait ce truc ? C\u2019est parce que c\u2019est beaucoup plus simple, \u00e7a va beaucoup plus vite parce qu\u2019il y a des tas de biblioth\u00e8ques, en programmation. Il y a des modules ici et l\u00e0. On peut connecter \u00e0 des API : des biblioth\u00e8ques o\u00f9 on va simplement rechercher un livre sans se pr\u00e9occuper m\u00eame de comment la biblioth\u00e8que est organis\u00e9e. Quand je devais faire un graphe, quand je devais faire une repr\u00e9sentation en 3 dimensions du graphe que la machine avait produit comme \u00e9tant sa m\u00e9moire, ANELLA, eh bien je faisais partiellement \u00e0 la main parce qu\u2019il aurait fallu produire tout un logiciel de repr\u00e9sentation en 3D d\u2019un r\u00e9seau et \u00e7a n\u2019existait pas, en tout cas c\u2019\u00e9tait pas facile \u00e0 trouver : il y avait peut-\u00eatre quelqu\u2019un quelque part qui avait fait \u00e7a mais les communications n\u2019\u00e9taient pas [avant l’Internet] ce qu\u2019elles sont maintenant. Maintenant, on regarde, pof, on trouve \u00e7a, c\u2019est-\u00e0-dire que c\u2019est beaucoup plus facile de le faire maintenant. Ce qui manquait, il manquait non seulement l\u2019acc\u00e8s \u00e0 des biblioth\u00e8ques, \u00e0 des modules qui seraient du pr\u00e9fabriqu\u00e9, auxquels on peut simplement se rattacher. Et la puissance des machines n\u2019\u00e9tait pas l\u00e0, la puissance des machines n\u2019\u00e9tait pas l\u00e0. Ce que je demandais n\u2019\u00e9tait pas extraordinaire mais il fallait d\u00e9j\u00e0 \u00e0 l\u2019\u00e9poque [de 1987 \u00e0 1989] attendre un peu que\u2026 bon, quand ANELLA n\u2019avait qu’une centaine de mots \u00e0 sa disposition, il ne fallait pas attendre mais d\u00e8s qu\u2019il y avait un probl\u00e8me de scalabilit\u00e9 comme on dit maintenant, \u00ab\u00a0scalability\u00a0\u00bb, un probl\u00e8me d\u2019\u00e9chelle, c\u2019est-\u00e0-dire que d\u00e8s qu\u2019on passait \u00e0 des choses plus r\u00e9alistes comme avoir 30 000 mots, \u00e7a commen\u00e7ait \u00e0 ramer. Ce n\u2019est plus le cas : le hardware et le software, les logiciels autour, permettent de faire \u00e7a beaucoup plus rapidement.<\/p>\n

Alors, qu\u2019est-ce qu\u2019on s\u2019est dit ? Qu\u2019est-ce qu\u2019on s\u2019est dit ? Qu\u2019est-ce qu\u2019on s\u2019est dit Manuel Gu\u00e9rin <\/span>et moi ? On s\u2019est dit : \u00ab Eh bien, on va le faire nous-m\u00eame \u00bb, voil\u00e0. On va faire des choses : au d\u00e9part, \u00e7a co\u00fbte relativement pas cher. On peut le faire avec nos propres moyens, lancer la machine. On va montrer \u00e7a \u00e0 des gens, on va montrer des choses qui vont les convaincre. Il y aura l\u2019effet Waouh tout de suite parce que l\u2019effet Waouh, il \u00e9tait d\u00e9j\u00e0 dans ANELLA avec 500 [P.J. hmm… j’exag\u00e8re peut-\u00eatre \u00e0 la bisse] lignes de code. Les gens disaient : \u00ab Comment est-ce possible qu\u2019un truc comme \u00e7a\u2026 Cen\u2019est pas possible, on disait, qu\u2019avec 500 lignes de code, ce machin paraisse aussi intelligent \u00bb. Oui, mais ce machin paraissait aussi intelligent parce qu\u2019il avait une histoire, parce qu\u2019il s\u2019int\u00e9ressait, du coup, \u00e0 certaines choses que l\u2019interlocuteur lui disait et se d\u00e9sint\u00e9ressait d\u2019autres. Il ne se r\u00e9p\u00e9tait jamais. Il avait \u00ab\u00a0compris\u00a0\u00bb que si on lui posait une question et qu\u2019il avait donn\u00e9 quelque chose et qu\u2019on lui reposait la m\u00eame question, il savait que la premi\u00e8re r\u00e9ponse n\u2019\u00e9tait pas la bonne [P.J. simplement parce que les valeurs d’affect avaient baiss\u00e9 sur ce qui\u00a0 venait d’\u00eatre \u00e9nonc\u00e9, qui avait perdu du coup de sa pertinence] et la fois suivante, quand il reparlait avec cet interlocuteur, il avait constitu\u00e9 avec cet interlocuteur un savoir partag\u00e9 et l\u2019interlocuteur disait : \u00ab Il est tellement intelligent d\u2019avoir un savoir partag\u00e9 ! \u00bb.<\/p>\n

Bon, c\u2019est le probl\u00e8me qu\u2019on a maintenant, c\u2019est que non seulement les gens qui produisent de l\u2019IA mais aussi leurs utilisateurs ne comprennent pas de quoi il s\u2019agit : ou bien on fait une machine qui est comme un \u00eatre humain et cette machine aura une histoire, et il se fera que certaines de ces machines qui auront une histoire seront des racistes et l\u2019interlocuteur ne tombera pas de sa chaise en disant : \u00ab Ah, regardez, regardez, il a dit quelque chose de raciste, etc. L\u2019Intelligence Artificielle a dit quelque chose de raciste ! \u00bb. Mais oui ! c\u2019est parce qu\u2019on a essay\u00e9 de faire comme un humain et figurez-vous, tout le monde n\u2019est pas comme vous qui, bien entendu, n\u2019avez aucune pr\u00e9disposition de ce c\u00f4t\u00e9 et donc, les gens qui, de nos jours, sont des interlocuteurs de choses qu\u2019on organise comme \u00e7a (ce ne sont pas les bonnes m\u00e9thodes, je vous l’ai dit), et comme on ne r\u00e9p\u00e8te que des choses, finalement, (recompos\u00e9es ou pas), que des choses qui ont d\u00e9j\u00e0 \u00e9t\u00e9 dites, c\u2019est quand m\u00eame toujours de l\u2019existant et donc, eh bien, il est possible qu\u2019une instance d’un de ces syst\u00e8mes, que ses r\u00e8gles politiquement correctes ne soient pas exactement les m\u00eames que vous.<\/p>\n

L\u2019utilisateur veut une IA aussi intelligente, aussi belle, aussi morale que l\u2019utilisateur. Et si on ne lui offre pas \u00e7a, il se met \u00e0 pousser des cris de putois. Il ne se rend pas compte que si on essaye de reproduire de l\u2019humain, on va produire de l\u2019humain avec tous ses travers. Donc, on a compris ce que ces gens-l\u00e0 veulent : c\u2019est du compl\u00e8tement aseptis\u00e9, c\u2019est du truc o\u00f9, quel que soit le dictionnaire de r\u00e8gles de politiquement correct qu\u2019on puisse inventer, l\u2019IA ne d\u00e9borde jamais du chemin, ne se trouve jamais en dehors de \u00e7a. Elle ne dira jamais\u2026 En fait, elle offrira toujours son portrait \u00e0 tout utilisateur, son portrait confirmera exactement les id\u00e9es qui sont les siennes, ce qu\u2019on recherche bien entendu sur les r\u00e9seaux sociaux o\u00f9 on ne va pas se mettre \u00e0 un endroit o\u00f9 tout ce qu\u2019on trouve vous \u00e9nerve. Mais il faut savoir \u00e7a.<\/p>\n

Il faut savoir \u00e7a : quand on fait AlphaGo, AlphaGo qui va gagner, contre tous les grands joueurs de Go. Bon, alors, nous, les profanes, on se dit : \u00ab Ils ont invent\u00e9 une machine qui s\u2019appelle AlphaGo et puis cette machine, c\u2019est un Terminator :<\/em> il va jouer contre les gens et il va gagner au Go \u00bb. Mais non, ce n\u2019est pas comme \u00e7a qu\u2019ils ont fait ! D\u2019abord, ils ont fait jouer des AlphaGo entre eux mais il y en avait qui devenaient bons et d\u2019autres qui restaient pas terribles. Puis, ils ont fait des AlphaGo qui ont appris uniquement en jouant avec eux-m\u00eames. Mais encore l\u00e0, tous ces AlphaGo ont une histoire, une histoire personnelle : ils ont appris dans un ordre particulier et \u00e7a a fait une diff\u00e9rence. Alors, quand on fait le grand tournoi contre les joueurs humains, on ne prend pas un AlphaGo comme \u00e7a qu\u2019on est all\u00e9 chercher dans le placard et on le met\u2026 Non, on prend le meilleur qu\u2019on a, on prend le meilleur qu\u2019on a ! Est-ce que celui-l\u00e0, il ne sera pas un peu plus raciste que le moins bon ? Mais \u00e7a n\u2019a pas d\u2019importance qu\u2019il soit un peu plus raciste puisqu\u2019on joue au Go, vous voyez ce que je veux dire.<\/p>\n

Vous voyez l\u2019image que je propose ? Si vous jouez contre un type au tennis. Bon, vous jouez avec un tr\u00e8s bon joueur, \u00e7a vous fait plaisir. Le coup d’apr\u00e8s, vous jouez avec un nul et on perd vraiment son temps parce que, voil\u00e0, du coup, on joue mal aussi parce qu\u2019on joue avec un nul. Il se fait que celui qui joue bien, il a des opinions politiques abominables : c\u2019est vraiment une ordure ce gars quand il sort du terrain de tennis. Celui\u00a0 qui g\u00e2che la partie parce que, eh bien, il est vraiment en-dessous de tout, il a les opinions politiques exactement comme les v\u00f4tres : il pense, sur tout, de la m\u00eame mani\u00e8re mais on joue au tennis. On joue au tennis et c\u2019est autre chose : on s\u2019en fout du reste \u00e0 ce moment-l\u00e0. Il faudrait que, dans l\u2019attitude des gens vis-\u00e0-vis des IA, on tienne compte de \u00e7a.<\/p>\n

Moi, j\u2019ai compris \u00e7a. Alors, mes ANELLA individuelles, elles auront des personnalit\u00e9s individuelles puisqu\u2019elles apprennent les choses dans un certain ordre et comme je l\u2019expliquais dans le livre, une ANELLA qui aurait d\u2019abord appris \u00e0 devenir m\u00e9decin et qui aurait appris \u00e0 devenir ing\u00e9nieur apr\u00e8s et une qui serait devenue d\u2019abord ing\u00e9nieur et apr\u00e8s m\u00e9decin, si on leur pose des questions d\u2019ing\u00e9nierie et apr\u00e8s de m\u00e9decine, elles ne donneront pas la m\u00eame r\u00e9ponse parce que \u00e7a se sera inscrit \u00e0 des endroits diff\u00e9rents, parce que \u00e7a ce sera construit \u00e0 partir de mod\u00e8les qui \u00e9taient d\u00e9j\u00e0 un peu diff\u00e9rents les uns des autres.<\/p>\n

\u00c7a, il faut le savoir, mais bon, si on veut produire une machine qui est consciente d\u2019elle-m\u00eame et qui r\u00e9pond aux besoins, voil\u00e0, de tous les utilisateurs, on sait tr\u00e8s bien, Manuel et moi, on sait – et Fran\u00e7ois qui fait de la programmation pendant ce temps-l\u00e0 en arri\u00e8re-plan – on sait tr\u00e8s bien ce qu\u2019on va faire : on va faire nos machines qui ont une histoire et on a un mod\u00e8le freudien (\u00e7a ne nous d\u00e9range pas du tout nous) et on va leur donner un Surmoi. Et le surmoi, qu\u2019est-ce que c\u2019est ? Le surmoi, c\u2019est le \u00ab\u00a0social int\u00e9rioris\u00e9\u00a0\u00bb de Durkheim. C\u2019est cette instance avec tous les droits et devoirs que nous ont donn\u00e9s nos parents, les ma\u00eetres d\u2019\u00e9cole, les parents, les grands-parents, toute la culture autour de nous. C\u2019est le syst\u00e8me qui filtre, qui fait que tout ce qui sort de l\u2019inconscient n\u2019est pas bon \u00e0 dire : \u00ab\u00a0toute v\u00e9rit\u00e9 n\u2019est pas bonne \u00e0 dire\u00a0\u00bb, voil\u00e0, et \u00e7a, on le sait. Et donc, quand on aura, voil\u00e0, des clients qui nous diront : \u00ab Il ne faut surtout pas qu\u2019il y ait le moindre d\u00e9rapage par ici ou par l\u00e0 ! \u00bb, on le mettra, parce que c\u2019est facile \u00e7a : \u00e7a, ce n\u2019est pas une question d\u2019auto-organisation. S\u2019il y a une r\u00e8gle qui dit : \u00ab On ne peut pas dire des choses qui supposent une in\u00e9galit\u00e9 fondamentale entre les hommes et les femmes \u00bb, bon, si la machine vient avec un truc qui ne passe pas le test, eh bien, on ne le verra pas en sortie, voil\u00e0. Et \u00e7a, cette approche-l\u00e0, c\u2019est ce qu\u2019on appelait des \u00ab\u00a0syst\u00e8mes-experts\u00a0\u00bb et \u00e7a, \u00e7a existe depuis tr\u00e8s longtemps et je suis s\u00fbr que \u00e7a s\u2019est perfectionn\u00e9 depuis.<\/p>\n

Donc, voil\u00e0 : qu\u2019est-ce qui nous a conduits \u00e0 cr\u00e9er cette compagnie ? C\u2019\u00e9tait le soup\u00e7on que j\u2019avais que \u00ab\u00a0quand je relirais \u00e7a [Principes des syst\u00e8mes intelligents<\/em>] – et je l\u2019ai relu maintenant de bout en bout et c\u2019est plein de rouge, et de vert, et de trucs – j\u2019aurai le sentiment (c\u2019\u00e9tait un test que je faisais), est-ce qu\u2019il y a certains de ces goulets d\u2019\u00e9tranglement qui se trouvent encore que mon bouquin n\u2019a pas r\u00e9solus ?\u00a0\u00bb Voil\u00e0.<\/p>\n

Alors, vous me direz : \u00ab Maintenant, personne n\u2019a besoin de votre Soci\u00e9t\u00e9 Pribor puisque tout \u00e7a est dans le bouquin : il suffit d\u2019acheter le bouquin et on peut faire exactement la m\u00eame chose que vous \u00bb. Oui, mais mon exp\u00e9rience qui est que les gens ne comprennent rien \u00e0 ce que je raconte[rires], me rassure sur ce plan-l\u00e0 : ils auront besoin de mon explication. Encore que, pas tout \u00e0 fait, parce que, par exemple, il y a une m\u00e9thode, voil\u00e0, une m\u00e9thode de r\u00e9solution des probl\u00e8mes par descente de gradient et l\u00e0, je l\u2019ai dit, c\u2019est quelqu\u2019un qui a attir\u00e9 mon attention l\u00e0-dessus, qui avait lu mon livre et qui conna\u00eet les travaux de Yann LeCun<\/span>, quand c\u2019est sorti il y a quelques mois, voil\u00e0, dans une pr\u00e9sentation de Yann LeCun<\/span>, qu\u2019il avait utilis\u00e9 cette m\u00e9thode de gradient qui, \u00e0 ma connaissance et la connaissance de mon lecteur, on n\u2019avait jamais vu nulle part, ce lecteur m\u2019a dit tout de suite : \u00ab H\u00e9, regardez, il est en train de mettre en \u0153uvre ANELLA ! \u00bb.<\/p>\n

Bien, et oui, bien s\u00fbr, bien entendu, ce livre, il est disponible depuis 1989 mais le fait est que, \u00e0 part Luca Possati <\/span>qui dit : \u00ab \u00c7a existe, et c\u2019\u00e9tait une bonne id\u00e9e ! \u00bb, personne n\u2019en a encore rien tir\u00e9. Alors, si tout le monde maintenant se dit que c\u2019est une bonne id\u00e9e, eh bien, il y aura la Soci\u00e9t\u00e9 Pribor qui sera l\u00e0 aussi et \u00e0 laquelle on pourra s\u2019adresser. Bien entendu, on aura le choix d\u2019acheter le bouquin et d\u2019essayer de bricoler \u00e7a de son c\u00f4t\u00e9, sans me demander mes conseils, mais au moins, nous serons en train de le faire et si on veut, on pourra me demander \u00ab\u00a0qu\u2019est-ce \u00e7a veut dire exactement quand vous dites ceci ou quand vous dites cela ?\u00a0\u00bb, voil\u00e0.\u00a0<\/span><\/p>\n

Voil\u00e0 mon petit point sur l\u2019avenir de l\u2019Intelligence Artificielle. C\u2019est vrai que c\u2019est cal\u00e9 \u00e0 de nombreux endroits mais ce n\u2019est pas qu\u2019on ne connaisse pas ce qu\u2019il faut faire et, en particulier, il y a un livre o\u00f9 on vous donne la solution, \u00e0 mon avis, de la quasi-totalit\u00e9 (en tout cas de ce que j\u2019ai pu voir, de la totalit\u00e9) des probl\u00e8mes qui se posent encore. C\u2019est simplement qu\u2019il faudrait que ces gens prennent l\u2019habitude de penser hors du cadre, out of the box<\/em>, et que quand ils voient ce qu\u2019il se passe, qu\u2019on leur propose en dehors du cadre, qu\u2019ils ne se grattent pas le cr\u00e2ne et lisent le mot comme \u00e9tant \u00ab comptabilit\u00e9 \u00bb alors qu\u2019il est \u00e9crit \u00ab compatibilit\u00e9 \u00bb. C\u2019est \u00e7a le probl\u00e8me quand on lit, je dirais, mon livre sans \u00e9ventuellement, je dirais, un peu d\u2019explications de moi, c\u2019est qu\u2019on va lire dans un mot, on va lire autre chose que ce qui est \u00e9crit, voil\u00e0.<\/p>\n

Bon, c\u2019est tr\u00e8s excitant. \u00c7a prend beaucoup de mon temps et, bien entendu, \u00e7a explique un peu pourquoi\u2026 Quand on me dit : \u00ab Vous faites surtout des vid\u00e9os en ce moment \u00bb, oui, eh bien, je fais surtout des vid\u00e9os parce que \u00e7a va plus vite que d\u2019\u00e9crire de longs textes et pourquoi ? c\u2019est parce que je suis en train d\u2019\u00e9crire de longs textes mais ce sont des sp\u00e9cifications, des cahiers des charges, pour la mani\u00e8re dont on veut avancer avec Pribor.\u00a0<\/span><\/p>\n

Alors, Pribor, pourquoi Pribor ? \u00c7a a un petit air, voil\u00e0, un petit air, je dirais, des ann\u00e9es 50 comme nom d\u2019une soci\u00e9t\u00e9. En fait, c\u2019est Manuel qui a trouv\u00e9 \u00e7a, Pribor, c\u2019est le nom actuel de la ville o\u00f9 est n\u00e9 Sigmund Freud. \u00c7a s\u2019appelait autrement, \u00e7a avait un nom allemand \u00e0 l\u2019\u00e9poque o\u00f9 lui est n\u00e9 dans un pays qui \u00e9tait l\u2019Autriche [Freiberg in M\u00e4rhen]. Aujourd\u2019hui, la ville de Pribor est en Tch\u00e9quie mais \u00e7a nous a paru amusant d\u2019appeler, voil\u00e0, de donner un nom \u00e0 la fois qui a un petit air, voil\u00e0, de science des ann\u00e9es 50 mais qui, en r\u00e9alit\u00e9, est le nom de la ville de naissance de Sigmund Freud.<\/p>\n

Je ne crois pas que ce sera la derni\u00e8re fois que je parlerai de ce genre de sujet. L\u2019actualit\u00e9, malheureusement, m\u2019oblige \u00e0 parler de choses autrement plus sinistres mais bon, j\u2019essaye quand m\u00eame de placer ici et l\u00e0 mon plan C. Mon plan C \u00e9tant, comme vous le savez, j\u2019en parle en particulier dans ce livre sur le transhumanisme et le posthumanisme<\/a>, mon plan C \u00e9tant d\u2019\u00eatre pr\u00eat au moins au fait qu\u2019il y ait des machines intelligentes \u00e0 une \u00e9poque o\u00f9 peut-\u00eatre que la mani\u00e8re dont nous sommes con\u00e7us, voil\u00e0, \u00e0 base de carbone, que ce soit pas assez r\u00e9sistant pour l\u2019environnement qui se sera d\u00e9velopp\u00e9 dehors.\u00a0<\/span><\/p>\n

Allez, \u00e0 bient\u00f4t\u00a0!\u00a0<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

\n

\"\"Retranscription de O\u00f9 en est l’Intelligence Artificielle\u00a0?<\/b><\/a>, le 26 juin 2022<\/p>\n<\/blockquote>\n

Bonjour, nous sommes le dimanche 26 juin 2022 et aujourd\u2019hui, je vais tenter de r\u00e9pondre \u00e0 la question\u00a0: O\u00f9 en est aujourd\u2019hui l\u2019Intelligence Artificielle\u00a0?\u00a0<\/span><\/p>\n

Vous avez peut-\u00eatre vu \u00e7a, \u00e7a […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[1935,5717,8785,8784,940,8779,941,8638],"class_list":["post-133130","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-anella","tag-deep-learning","tag-elif-lab","tag-explicabilite","tag-intelligence-artificielle-2","tag-pribor-io","tag-principes-des-systemes-intelligents","tag-yann-lecun"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133130","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=133130"}],"version-history":[{"count":8,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133130\/revisions"}],"predecessor-version":[{"id":133164,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133130\/revisions\/133164"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=133130"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=133130"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=133130"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}