{"id":117142,"date":"2020-02-10T10:12:59","date_gmt":"2020-02-10T09:12:59","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=117142"},"modified":"2020-02-10T10:24:59","modified_gmt":"2020-02-10T09:24:59","slug":"espace-de-libertes-du-cerveau-humain-a-la-machine-n486-fevrier-2020","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2020\/02\/10\/espace-de-libertes-du-cerveau-humain-a-la-machine-n486-fevrier-2020\/","title":{"rendered":"Espace de libert\u00e9s : Du cerveau humain \u00e0 la machine<\/b>, N\u00b0486, f\u00e9vrier 2020"},"content":{"rendered":"

Ouvert aux commentaires.<\/p><\/blockquote>\n

Qu\u2019en est-il de l\u2019Intelligence Artificielle ou \u00ab IA \u00bb ? O\u00f9 en sommes-nous\u00a0? Existe-t-elle m\u00eame\u00a0? et si la r\u00e9ponse \u00e9tait \u00ab\u00a0Oui\u00a0\u00bb, n\u2019aura-t-elle qu\u2019une influence modeste sur notre vie quotidienne ou constituera-t-elle \u2013 ou constitue-t-elle d\u00e9j\u00e0 \u2013 une authentique r\u00e9volution ?<\/p>\n

Les deux opinions se rencontrent bien s\u00fbr parmi les personnes peu inform\u00e9es mais, de mani\u00e8re plus surprenante, on les entend aujourd\u2019hui \u00e9galement dans la bouche d\u2019experts. Certains d\u2019entre eux affirment que nous sommes proches de la \u00ab Singularit\u00e9 \u00bb, le moment o\u00f9 les machines seront devenues \u00e0 ce point plus intelligentes que nous qu\u2019elles ne chercheront plus \u00e0 nous consulter, et o\u00f9 nous, \u00eatres humains compl\u00e8tement d\u00e9boussol\u00e9s, leur confieront des d\u00e9cisions essentielles pour notre avenir. D\u2019autres sp\u00e9cialistes d\u00e9clarent que l\u2019expression \u00ab intelligence artificielle \u00bb \u00e0 son stade actuel d\u2019avancement, n\u2019est rien de plus que du battage m\u00e9diatique.<\/p>\n

Qui a raison, qui a tort ? S\u2019agit-il simplement d\u2019une de ces questions du type \u00ab verre \u00e0 moiti\u00e9 vide ou verre \u00e0 moiti\u00e9 plein ? \u00bb, o\u00f9 c\u2019est le temp\u00e9rament de celui qui s\u2019exprime, morose ou enthousiaste, qui d\u00e9termine son opinion ?<\/p>\n

Pour r\u00e9pondre \u00e0 la question, examinons les faits. Et pour commencer, une br\u00e8ve histoire de l\u2019IA.<\/p>\n

En 1957, Frank Rosenblatt met au point sur un ordinateur IBM le premier logiciel s\u2019effor\u00e7ant de mimer un r\u00e9seau de neurones tel qu\u2019il existe dans notre cerveau. Il l\u2019appelle \u00ab perceptron \u00bb. Ce logiciel permet de reconna\u00eetre un objet. Apr\u00e8s une p\u00e9riode d\u2019apprentissage durant laquelle la machine dit si oui ou non une image repr\u00e9sente, par exemple, un chien, et o\u00f9 on la corrige en cas d\u2019erreur, la machine cesser de se tromper.<\/p>\n

En 1969, Marvin Minsky, membre du petit groupe qui en 1956, au Dartmouth College, avait invent\u00e9 le terme d\u2019Intelligence Artificielle<\/em>, et Seymour Papert, c\u00e9l\u00e8bre pour avoir invent\u00e9 le langage de programmation Logo permettant aux enfants de se familiariser avec l\u2019informatique, publient conjointement le livre Perceptrons<\/em> visant \u00e0 prouver que ces r\u00e9seaux de neurones artificiels sont sans avenir car incapables de faire certaines op\u00e9rations \u00e9l\u00e9mentaires (le ou \u00ab exclusif \u00bb : soit X, soit Y, mais pas les deux). La recherche sur ces outils s\u2019interrompt. On parlera plus tard pour cette p\u00e9riode, d\u2019\u00ab hiver de l\u2019IA \u00bb. En 1986, un livre intitul\u00e9 Parallel Distributed Processing <\/em>(traitement distribu\u00e9 parall\u00e8le), publi\u00e9 par David Rumelhart et James McClelland, relance la recherche sur les r\u00e9seaux neuronaux. Les progr\u00e8s dans l\u2019usage de ceux-ci seront d\u00e9sormais constants. L\u2019IA est v\u00e9ritablement lanc\u00e9e.<\/p>\n

Ne s\u2019\u00e9tait-il rien pass\u00e9 durant l\u2019\u00ab hiver de l\u2019IA \u00bb. Si, mais elle progressait dans une autre voie, appel\u00e9e \u00ab symbolique \u00bb, mobilisant des m\u00e9thodes statistiques essentiellement, de la gestion de base de donn\u00e9es ainsi que la logique formelle, un mod\u00e8le de la logique humaine qui l\u2019assimile \u00e0 un objet math\u00e9matique (un \u00ab treillis orthomodulaire \u00bb).<\/p>\n

La grande surprise des ann\u00e9es 1980, 1990 ce fut cela\u00a0: que la technique qui \u00e9mergerait comme la plus efficace ce n\u2019\u00e9tait pas l\u2019une des plus pointues du point de vue math\u00e9matique, mais la simulation d\u2019un r\u00e9seau neuronal comme celui que constitue notre cerveau, c\u2019est-\u00e0-dire la solution que la nature avait d\u00e9couverte avec nous, \u00ab\u00a0animaux pensants\u00a0\u00bb, comme l\u2019approche pertinente pour produire de l\u2019intelligence\u00a0: la capacit\u00e9 \u00e0 r\u00e9soudre des \u00e9nigmes et \u00e0 ne pas s\u2019arr\u00eater devant l\u2019obstacle mais inventer alors des strat\u00e9gies alternatives.<\/p>\n

O\u00f9 en sommes-nous aujourd\u2019hui ? Nous savons d\u00e9sormais combiner efficacement la simulation du fonctionnement du cerveau humain (en tirant parti de la capacit\u00e9 de l\u2019ordinateur \u00e0 repr\u00e9senter des objets o\u00f9 un tr\u00e8s grand nombre d\u2019\u00e9l\u00e9ments sont interconnect\u00e9s), et les proc\u00e9dures symboliques (en tirant parti de la vitesse de l\u2019ordinateur : de l\u2019ordre du million de fois plus rapide que le cerveau humain).<\/p>\n

La robotique nous a remplac\u00e9s d\u2019abord dans le travail de force, ensuite dans les t\u00e2ches r\u00e9clamant une tr\u00e8s grande pr\u00e9cision, \u00e9ventuellement \u00e0 l\u2019\u00e9chelle microscopique, l\u2019IA nous remplace petit \u00e0 petit dans le travail intellectuel.<\/p>\n

Les objections \u00e0 l\u2019id\u00e9e m\u00eame que l\u2019on pourrait produite de l\u2019intelligence \u00ab\u00a0artificielle\u00a0\u00bb tombent l\u2019une apr\u00e8s l\u2019autre devant la succession de nouveaux exemples de r\u00e9alisations particuli\u00e8rement spectaculaires.<\/p>\n

Les progr\u00e8s les plus convaincants aux yeux du grand public sont bien s\u00fbr ceux portant sur des jeux familiers. Un exemple\u00a0: le poker. En janvier 2017,\u00a0l\u2019Intelligence Artificielle Libratus gagnait 1,7 millions de dollars (heureusement fictifs) en battant quatre champions de poker incontest\u00e9s. En juillet 2019, un nouveau logiciel, appel\u00e9 Pluribus, battait cette fois les meilleurs champions de poker dans des parties \u00e0 six joueurs. Les programmeurs avaient ici compl\u00e9t\u00e9 le r\u00e9seau neuronal par des fonctions o\u00f9 la capacit\u00e9 massive de calcul jouait un r\u00f4le d\u00e9cisif. L\u2019IA simule ainsi au hasard \u00e0 partir de l\u2019\u00e9tat pr\u00e9sent du jeu des milliers de coups dont elle mesure pour chacun son efficacit\u00e9. Elle n\u2019attribue \u00e0 aucun des cinq joueurs auxquels elle s\u2019affronte une strat\u00e9gie particuli\u00e8re mais en simule quatre diff\u00e9rentes pour chacun d\u2019entre eux.<\/p>\n

Cons\u00e9quence de tels succ\u00e8s, les objections \u00e0 l\u2019Intelligence Artificielle que l\u2019on trouve aujourd\u2019hui se sont r\u00e9duites \u00e0 deux. La premi\u00e8re consiste \u00e0 dire que les programmes sont sp\u00e9cialis\u00e9s, et que, par exemple, l\u2019IA qui gagne aux \u00e9checs ne peut pas vous servir \u00e0 boire, ce qui a conduit un ing\u00e9nieur fac\u00e9tieux \u00e0 fabriquer un robot qui vous sert du caf\u00e9 pendant qu\u2019il vous bat aux \u00e9checs. La r\u00e9ponse globale \u00e0 cette objection est bien entendu l\u2019exemple du smartphone, un mini-ordinateur o\u00f9 une multitude de fonctions ont \u00e9t\u00e9 combin\u00e9es en un seul appareil, rien n\u2019interdisant bien entendu de faire \u00e0 l\u2019avenir exactement la m\u00eame chose avec des applications d\u2019IA, comme le GPS aujourd\u2019hui qui int\u00e8gre rep\u00e9rage, navigation, calculs de distances et de temps, et commentaire vocal.<\/p>\n

La deuxi\u00e8me objection consiste \u00e0 affirmer qu\u2019il manque toujours \u00ab\u00a0quelque chose d\u2019essentiel\u00a0\u00bb \u00e0 la machine, dont nous disposons nous, \u00eatres humains, et qui lui fait encore d\u00e9faut ou qui lui manquera toujours \u00e0 elle, par exemple, l\u2019\u00ab\u00a0intuition\u00a0\u00bb, le \u00ab\u00a0sentiment\u00a0\u00bb, la \u00ab\u00a0conscience\u00a0\u00bb, etc.<\/p>\n

Pour ce qui est de la conscience, ma formation de psychanalyste m\u2019a convaincu que la quasi-totalit\u00e9, pour ne pas dire la totalit\u00e9, des t\u00e2ches intelligentes que nous effectuons ne n\u00e9cessitent pas la pr\u00e9sence d\u2019une conscience, une instance qui me semble en fait associ\u00e9e au m\u00e9canisme de la m\u00e9moire, \u00e0 son inscription et \u00e0 la rem\u00e9moration, plut\u00f4t qu\u2019\u00e0 la prise de d\u00e9cision, \u00e0 propos de laquelle il a \u00e9t\u00e9 prouv\u00e9 d\u00e8s les ann\u00e9es 1970 que son sentiment succ\u00e8de \u00e0 l\u2019acte pos\u00e9 plut\u00f4t qu\u2019il ne le pr\u00e9c\u00e8de, soulignant le caract\u00e8re illusoire du r\u00f4le de la conscience dans la d\u00e9cision.<\/p>\n

Pour ce qui est de l\u2019intuition et de sa n\u00e9cessit\u00e9, le jeu oriental de go<\/em> nous offre une int\u00e9ressante r\u00e9ponse. Les revues sp\u00e9cialis\u00e9es insistaient jusqu\u2019en 2016 sur le fait que le nombre de combinaisons possibles sur le goban<\/em>, le tablier \u00e0 361 emplacements sur lequel le jeu se d\u00e9roule, d\u00e9passait la capacit\u00e9 de calcul d\u2019un ordinateur. Pour gagner au go<\/em>, ainsi allait la rumeur, il fallait imp\u00e9rativement mobiliser une qualit\u00e9 propre \u00e0 l\u2019humain seul\u00a0: l\u2019intuition. Or, rien n\u2019y fit\u00a0: cette ann\u00e9e l\u00e0 l\u2019application AlphaGo battit les champions l\u2019un apr\u00e8s l\u2019autre. Les programmeurs interrog\u00e9s expliqu\u00e8rent bien qu\u2019ils n\u2019avaient cod\u00e9 nulle part de l\u2019\u00ab\u00a0intuition\u00a0\u00bb\u00a0: celle-ci \u00e9tait apparue d\u2019elle-m\u00eame, comme une cons\u00e9quence de l\u2019apprentissage, un myst\u00e8re qui n\u2019en est pas un en r\u00e9alit\u00e9 puisque c\u2019est exactement de cette mani\u00e8re-l\u00e0 que l\u2019intuition appara\u00eet pr\u00e9cis\u00e9ment chez nous.<\/p>\n

Pour ce qui est de l\u2019\u00e9motion dont la machine aurait un besoin imp\u00e9ratif pour devenir \u00ab\u00a0vraiment\u00a0\u00bb intelligente, la r\u00e9ponse que je peux apporter \u00e0 cette objection est ais\u00e9e, il se fait en effet qu\u2019\u00e0 l\u2019\u00e9poque o\u00f9 j\u2019\u00e9tais chercheur en intelligence artificielle, de 1987 \u00e0 1990, l\u2019originalit\u00e9 du logiciel ANELLA que j\u2019avais mis au point \u00e9tait pr\u00e9cis\u00e9ment qu\u2019il avait pour moteur une dynamique d\u2019affects<\/em>, autrement dit que c\u2019\u00e9tait l\u2019\u00e9motion qui guidait son comportement.<\/p>\n

L\u2019acronyme ANELLA \u00e9tait pour Associative Network with Emergent Logical and Learning Abilities<\/em>, c\u2019est-\u00e0-dire \u00ab\u00a0R\u00e9seau associatif \u00e0 propri\u00e9t\u00e9s \u00e9mergentes de logique et d\u2019apprentissage\u00a0\u00bb, ma contribution au projet d\u2019Intelligence Artificielle Connex des British Telecom.<\/p>\n

Le logiciel, qui r\u00e9pondait aux questions de son utilisateur, assemblait les mots appartenant \u00e0 son vocabulaire en fonction des valeurs d\u2019affect associ\u00e9es \u00e0 des paires de mots. Par exemple, quand on atteignait \u00ab\u00a0pomme\u00a0\u00bb en provenance de \u00ab\u00a0poire\u00a0\u00bb, \u00ab\u00a0pomme\u00a0\u00bb avait une certaine valeur d\u2019affect, mais une autre si l\u2019on avait abouti \u00e0 \u00ab\u00a0pomme\u00a0\u00bb \u00e0 partir d\u2019\u00ab\u00a0Adam\u00a0\u00bb. Ces valeurs \u00e9taient d\u00e9finies en fonction des r\u00e9ponses qu\u2019ANELLA avait re\u00e7ues auparavant de ses interlocuteurs\u00a0: \u00e9valuant l\u2019int\u00e9r\u00eat de la personne pour le message qu\u2019elle lui avait fourni. C\u2019est cela qui lui permettait de juger comme pertinentes ou non dans le contexte d\u2019une conversation particuli\u00e8re, les informations qu\u2019elle avait stock\u00e9es en m\u00e9moire. Si l\u2019information qu\u2019elle avait propos\u00e9e avait \u00e9t\u00e9 appr\u00e9ci\u00e9e, elle la pla\u00e7ait \u00ab\u00a0en haut de sa pile\u00a0\u00bb, et elle la pr\u00e9senterait en premier lors d\u2019une conversation ult\u00e9rieure.<\/p>\n

Le simple fait de donner \u00e0 la machine le moyen de simuler l\u2019\u00e9motion cr\u00e9ait une dynamique d\u2019apprentissage et guidait une association entre les mots prononc\u00e9s qui apparaissait logique, confirmant ce que les psychologues ont pu observer\u00a0: que la logique \u00e9merge spontan\u00e9ment des associations que nous faisons entre les mots que nous pronon\u00e7ons, qu\u2019elle n\u2019est pas la mise en \u0153uvre d\u2019un calcul.<\/p>\n

C\u2019\u00e9tait bien entendu moi qui avais programm\u00e9 ANELLA, pour que si une notion inconnue apparaissait dans ce que lui disait son interlocuteur, qu\u2019elle recherche l\u2019information qui lui permettrait de la connecter \u00e0 un \u00e9l\u00e9ment existant dans sa base de donn\u00e9es, associ\u00e9e \u00e0 une valeur d\u2019affect, pour \u00e9tendre son domaine de connaissance.<\/p>\n

L\u2019instruction \u00e9tait du type : \u00ab Si un mot est utilis\u00e9 qui n\u2019est pas encore stock\u00e9 en m\u00e9moire, poser la question \u2018Est-ce que je peux relier ce mot \u00e0 quelque chose que je sais d\u00e9j\u00e0 ?\u2019, \u00e0 ce qui constitue d\u00e9j\u00e0 notre connaissance commune \u00bb. C\u2019est-\u00e0-dire que le d\u00e9sir \u00e9tait inscrit dans le code : si une notion n\u2019est pas reconnue, faire en sorte qu\u2019elle puisse \u00eatre inscrite dans la base de donn\u00e9es du syst\u00e8me.\u2028 Ce qui est bien s\u00fbr exactement ce que font les enfants devant un mot inconnu : \u00ab \u00c7a veut dire quoi ? \u00bb. J\u2019avais instruit ANELLA pour qu\u2019elle puisse faire la m\u00eame chose.<\/p>\n

On m\u2019a souvent object\u00e9 au fil des ann\u00e9es\u00a0: \u00ab Oui mais, c\u2019est de la simulation\u00a0! \u00bb, or personne ne l\u2019ignore, ce mot de \u00ab simulation \u00bb signifie simplement que c\u2019est une machine qui le fait, il n\u2019a pas de signification au del\u00e0 de cela. Quand c\u2019est de nous qu\u2019il s\u2019agit, on ne dit pas que c\u2019est de la simulation\u00a0: je ne vais pas vous dire \u00ab\u00a0Vous simulez le fait de r\u00e9fl\u00e9chir\u00a0!\u00a0\u00bb, mais quand il s\u2019agit d\u2019une machine on dit que c\u2019est de la simulation.<\/p>\n

Donc, l\u00e0 aussi, pour l\u2019\u00e9motion, comme pour l\u2019intuition ou la conscience, certains affirment : \u00ab On ne pourra jamais faire \u00e7a ! \u00bb Et la r\u00e9ponse est, pour l\u2019intuition : \u00ab On l\u2019a d\u00e9j\u00e0 fait ! \u00bb. Pour l\u2019\u00e9motion : \u00ab Si ! Cela a d\u00e9j\u00e0 \u00e9t\u00e9 fait en IA : et m\u00eame \u00e0 la fin des ann\u00e9es 1980 ! On n\u2019en a pas encore trouv\u00e9 l\u2019usage, ce qui est une autre question, mais on y reviendra certainement un jour ! \u00bb. Quant \u00e0 la conscience, j\u2019ai d\u00e9j\u00e0 dit ce que j\u2019en pensais : \u00ab M\u00eame nous, humains, n\u2019en avons pas vraiment besoin : notre corps prend en g\u00e9n\u00e9ral les bonnes d\u00e9cisions, avant m\u00eame de nous avoir consult\u00e9s ! \u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Ouvert aux commentaires.<\/p>\n<\/blockquote>\n

Qu\u2019en est-il de l\u2019Intelligence Artificielle ou \u00ab IA \u00bb ? O\u00f9 en sommes-nous\u00a0? Existe-t-elle m\u00eame\u00a0? et si la r\u00e9ponse \u00e9tait \u00ab\u00a0Oui\u00a0\u00bb, n\u2019aura-t-elle qu\u2019une influence modeste sur notre vie quotidienne ou constituera-t-elle \u2013 ou constitue-t-elle d\u00e9j\u00e0 \u2013 une authentique r\u00e9volution ?<\/p>\n

Les deux opinions se rencontrent bien s\u00fbr parmi les personnes peu inform\u00e9es […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[2160,2156,940],"class_list":["post-117142","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-dynamique-daffect","tag-emotions","tag-intelligence-artificielle-2"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/117142","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=117142"}],"version-history":[{"count":2,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/117142\/revisions"}],"predecessor-version":[{"id":117144,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/117142\/revisions\/117144"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=117142"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=117142"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=117142"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}