{"id":98936,"date":"2017-09-15T08:59:40","date_gmt":"2017-09-15T06:59:40","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=98936"},"modified":"2017-09-17T18:33:51","modified_gmt":"2017-09-17T16:33:51","slug":"intelligence-artificielle-forte-quatre-raisons-de-douter-par-alexis-toulet","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2017\/09\/15\/intelligence-artificielle-forte-quatre-raisons-de-douter-par-alexis-toulet\/","title":{"rendered":"Intelligence artificielle forte, quatre raisons de douter, par Alexis Toulet"},"content":{"rendered":"

Billet invit\u00e9. \u00c9galement sur son propre blog<\/a>. P.J. : J’aurai l’occasion d’y revenir mais je rappelle que je ne souscris ABSOLUMENT pas \u00e0 la th\u00e8se de ce billet.<\/p><\/blockquote>\n

Les perspectives de l’Intelligence Artificielle inqui\u00e8tent – les ordinateurs pourraient-ils atteindre \u00e0 une intelligence similaire \u00e0 celle de l’\u00eatre humain ? Les robots pourraient-ils devenir ind\u00e9pendants de leurs cr\u00e9ateurs, voire hostiles, et aller m\u00eame jusqu’\u00e0 les remplacer ?<\/em><\/p>\n

Aussi important que puisse \u00eatre dans l’avenir\u00a0l’impact de l’IA sur\u00a0la productivit\u00e9 et sur l’emploi, il y a en r\u00e9alit\u00e9 au moins\u00a0quatre raisons<\/ins>\u00a0de douter qu’une Intelligence Artificielle \u00ab\u00a0forte\u00a0\u00bb, c’est-\u00e0-dire similaire \u00e0 l’humaine – \u00ab\u00a0quelqu’un dans la machine\u00a0\u00bb – soit pratiquement ou m\u00eame th\u00e9oriquement possible.<\/em><\/p>\n

Les r\u00eaves ou les cauchemars des th\u00e9oriciens de la \u00ab\u00a0Singularit\u00e9\u00a0\u00bb et du remplacement par les machines ne sont m\u00eame pas pour apr\u00e8s-demain, et probablement pour jamais.<\/em><\/p>\n

\n

De l’astronome Martin Rees s’inqui\u00e9tant\u00a0que les robots ne prennent bient\u00f4t le pouvoir<\/a>, l’astrophysicien Stephen Hawking craignant que limit\u00e9s par une \u00e9volution trop lente\u00a0les \u00eatres humains s’av\u00e8rent incapables de rivaliser avec l’intelligence artificielle<\/a>\u00a0ou l’entrepreneur Elon Musk d\u00e9crivant le risque que l’humanit\u00e9 n’\u00a0\u00ab\u00a0invoque un d\u00e9mon\u00a0\u00bb<\/a>\u00a0et ne mette sa propre existence en danger en construisant une intelligence artificielle sup\u00e9rieure… jusqu’au mouvement trans-humaniste esp\u00e9rant des progr\u00e8s de l’intelligence artificielle non seulement la multiplication des possibilit\u00e9s humaines mais rien de moins que l’immortalit\u00e9 – ainsi l’un des interlocuteurs de Mark O’Connell dans\u00a0\u00ab\u00a0To Be a Machine\u00a0\u00bb<\/a>\u00a0proph\u00e9tisant la possibilit\u00e9 de transf\u00e9rer son esprit dans une machine, laquelle ne serait pas soumise \u00e0 la mort.<\/p>\n

Ces craintes et ces espoirs d\u00e9coulent tous d’une source unique : la perspective de doter prochainement un ordinateur d’un esprit similaire \u00e0 celui de l’\u00eatre humain, qui lui serait bient\u00f4t sup\u00e9rieur – ce qu’il est convenu d’appeler une \u00ab\u00a0intelligence artificielle forte\u00a0\u00bb.<\/p>\n

Cette perspective est-elle v\u00e9ritablement r\u00e9aliste ?<\/p>\n

Avant de d\u00e9velopper l’argumentation, commen\u00e7ons par sa conclusion – le\u00a0r\u00e9sum\u00e9 pour d\u00e9cideurs<\/ins>\u00a0:<\/p>\n

Construire \u00e0 base d’ordinateurs une intelligence artificielle forte \u2013 c’est-\u00e0-dire \u00e9galant ou d\u00e9passant l’esprit humain, \u00ab quelqu\u2019un dans la machine \u00bb \u2013 est fort probablement impossible pour raison de principe, car au moins trois questions fondamentales pourraient chacune \u00e0 elle seule en exclure la possibilit\u00e9, et la r\u00e9ponse d\u00e9finitive \u00e0 chacune de ces questions est \u00e0 ce jour inconnue.<\/p>\n

Si toutefois aucune des trois r\u00e9ponses ne s’av\u00e9raient faire obstacle et si ce projet \u00e9tait donc th\u00e9oriquement possible, sa difficult\u00e9 inh\u00e9rente \u2013 hors de toute proportion avec la difficult\u00e9 \u00e0 fabriquer par exemple de simples robots autonomes utiles dans la vie courante ou l’industrie \u2013 bref la question pratique, assurerait qu’elle ne pourra de toute fa\u00e7on \u00eatre qu’un projet \u00e0 tr\u00e8s long terme, comparable par exemple avec ce qu\u2019est pour l\u2019astronautique le vol interstellaire.<\/p>\n

L’IA forte dans dix ou vingt ans des transhumanistes th\u00e9oriciens de la \u00ab\u00a0Singularit\u00e9\u00a0\u00bb n\u2019est que balivernes.<\/p><\/blockquote>\n

En cette \u00e9poque o\u00f9 l’humanit\u00e9 fait face aux prodromes d’une crise gigantesque, vague sc\u00e9l\u00e9rate additionnant fragilit\u00e9s du syst\u00e8me financier et\u00a0entr\u00e9e dans l’\u00e2ge des limites<\/a>\u00a0notamment en\u00a0\u00e9nergie fossile<\/a>\u00a0sur fonds de\u00a0catastrophe \u00e9cologique<\/a>\u00a0en cours incluant un\u00a0d\u00e9r\u00e8glement climatique<\/a>\u00a0aux cons\u00e9quences de long terme tr\u00e8s mena\u00e7antes, il est tr\u00e8s agr\u00e9able de d\u00e9couvrir – pour une fois ! – que tel nouveau monstre mena\u00e7ant sortant du brouillard… n’est finalement qu’un banal \u00e9pouvantail et un jouet pour faire peur aux enfants.<\/p>\n

En l’esp\u00e8ce, la menace d’une conscience artificielle n\u00e9e de l’informatique parvenant \u00e0 supplanter les humains.<\/p>\n

Un peu de contexte\u2026<\/h4>\n

Pour commencer, le mythe de la cr\u00e9ation prochaine d’esprits artificiels est vivace depuis les ann\u00e9es 1950. Ce qui, comme on dit, ne nous rajeunit pas. Il est en g\u00e9n\u00e9ral annonc\u00e9 pour le prochain coin de rue, dans quelques petites ann\u00e9es. Puis, lorsque les pr\u00e9dictions ne se sont – \u00e0 l’\u00e9vidence – pas r\u00e9alis\u00e9es, d’autres reprennent le conte en toute bonne foi, et roulez jeunesse ! Jusqu’\u00e0 la prochaine fois.<\/p>\n

Cependant, les r\u00e9alisations de la discipline \u00ab\u00a0IA\u00a0\u00bb ne sont pas du tout \u00e0 la hauteur de ces craintes et espoirs tonitruants. Ce n’est pas qu’elles soient inexistantes, ni n\u00e9gligeables, loin de l\u00e0 ! Simplement, la reproduction informatique \u2013 on pourrait dire le mime \u2013 d’activit\u00e9s humaines g\u00e9n\u00e9ralement consid\u00e9r\u00e9es comme intelligentes ne m\u00e8ne pas \u00e0 l’apparition d’une conscience artificielle. La carte serait-elle par nature\u00a0diff\u00e9rente du territoire ? La simulation, diff\u00e9rente de la r\u00e9alit\u00e9 ?<\/p>\n

Naturellement, la puissance des ordinateurs, jusqu’ici tr\u00e8s inf\u00e9rieure \u00e0 celle d’un cerveau humain, constitue une explication possible de l’\u00e9chec \u00e0 ce jour \u00e0 produire une \u00ab\u00a0IA forte\u00a0\u00bb. Peut-\u00eatre tout simplement les ordinateurs n’\u00e9taient-ils pas encore assez performants ? Voil\u00e0 qui pourrait amener \u00e0 penser que\u00a0l’augmentation exponentielle des capacit\u00e9s de traitement informatique mettra en revanche bient\u00f4t \u00e0 port\u00e9e le Saint Graal d’une conscience artificielle.<\/p>\n

R\u00e9alisant une simulation pr\u00e9cise du fonctionnement physique des neurones, l’un des plus grands calculateurs d\u00e9but 2014 a pu\u00a0simuler le fonctionnement de 1% d’un cerveau humain pendant une seconde<\/a>… mais le calcul lui a pris 40 minutes. De ce point de vue, les plus puissants ordinateurs actuels sont tr\u00e8s loin du compte. En revanche, en se limitant \u00e0 une simulation logique en r\u00e9seau de neurones,\u00a0la puissance n\u00e9cessaire \u00e0 un \u00ab\u00a0cerveau humain\u00a0\u00bb en temps r\u00e9el est d\u00e9j\u00e0 largement disponible<\/ins>. Il suffit d’examiner les ordres de grandeur : 10^11 neurones et 1,5. 10^14 synapses, effectuant des \u00ab\u00a0calculs\u00a0\u00bb \u00e0 un rythme inf\u00e9rieur \u00e0 10^2 par seconde, soit au maximum 1,5.10^16 op\u00e9rations par seconde n\u00e9cessaires – et probablement beaucoup moins – alors que\u00a0le plus grand superordinateur<\/a>\u00a0\u00e9tait en juin 2017\u00a0le\u00a0Sunway TaihuLight<\/a>\u00a0chinois, lequel peut effectuer 9,3. 10^16 op\u00e9rations par seconde. Soit au moins 6 fois plus que n\u00e9cessaire pour simuler compl\u00e8tement et en temps r\u00e9el le fonctionnement logique du r\u00e9seau neuronal d’un cerveau humain.<\/p>\n

Cependant, m\u00eame compte tenu du potentiel de cette puissance de calcul, quatre questions doivent \u00eatre pos\u00e9es,\u00a0quatre obstacles majeurs barrent le chemin de la construction d\u2019une IA forte ou conscience artificielle<\/strong>. Les trois premi\u00e8res sont fondamentales, il s\u2019agit de la possibilit\u00e9 th\u00e9orique elle-m\u00eame que des \u00eatres humains puissent r\u00e9aliser un tel \u00ab objet pensant \u00bb \u00e0 base d\u2019ordinateurs. La quatri\u00e8me est tout simplement la question pratique, \u00e0 supposer que les trois questions de possibilit\u00e9 th\u00e9orique soient d\u00e9cid\u00e9es dans un sens favorable \u2013 et ce n\u2019est pas la moindre.<\/p>\n

Les trois questions fondamentales, pour commencer<\/h4>\n

C’est que pour que le projet de construire une conscience artificielle par voie informatique ait ne serait-ce qu’un sens, trois conditions sont n\u00e9cessaires :<\/p>\n

1 – Il faut que la conscience, telle qu’elle se manifeste par exemple dans la t\u00eate de tout un chacun, soit enti\u00e8rement compr\u00e9hensible en termes mat\u00e9riels. C\u2019est l\u00e0 une position philosophique mat\u00e9rialiste.<\/p>\n

Incise \u2013 Non, cette condition n\u2019a rien d\u2019 \u00ab \u00e9vidente \u00bb<\/ins><\/p>\n

La position oppos\u00e9e, c\u2019est-\u00e0-dire l\u2019existence de \u00ab quelque chose \u00bb de non r\u00e9ductible \u00e0 la mati\u00e8re et qui serait intrins\u00e8que \u00e0 l\u2019esprit ou \u00e0 la personne humaine, appara\u00eetra suspecte \u00e0 beaucoup pour une simple raison d\u2019habitude.<\/p>\n

C\u2019est que les explications de type surnaturel \u2013 esprits, f\u00e9es, lutins ou dieux \u2013 ont \u00e9videmment recul\u00e9 constamment dans les derniers si\u00e8cles, la m\u00e9thode scientifique permettant de comprendre toujours davantage de ph\u00e9nom\u00e8nes toujours plus en profondeur, alors qu\u2019ils avaient \u00e9t\u00e9 autrefois consid\u00e9r\u00e9s comme des myst\u00e8res inaccessibles \u00e0 l\u2019esprit humain. Il est alors bien naturel de consid\u00e9rer qu\u2019une tendance historiquement aussi bien \u00e9tablie continuera ind\u00e9finiment, et qu\u2019elle permet d\u2019apercevoir ce qui serait en d\u00e9finitive la v\u00e9rit\u00e9 ultime : que l\u2019ensemble de ce qui existe est mat\u00e9riel, donc soumis aux r\u00e8gles de la mati\u00e8re telles qu\u2019elles sont progressivement d\u00e9voil\u00e9es par l\u2019effort scientifique humain.<\/p>\n

Il est bien \u00e9videmment loisible de choisir d\u2019adopter une telle position. A qui la choisit, une position diff\u00e9rente risque de n\u2019appara\u00eetre motiv\u00e9e que par au choix : l\u2019ignorance, le pr\u00e9jug\u00e9 par exemple religieux, ou un sentimentalisme refusant d\u2019admettre que moi aussi et non simplement le monde qui m\u2019entoure, je pourrais n\u2019\u00eatre que mat\u00e9riel, et s\u2019imaginant donc \u00ab par nature \u00bb diff\u00e9rent.<\/p>\n

Mais il est \u00e9galement vrai que les tendances historiques les mieux \u00e9tablies peuvent rencontrer leurs limites, et surtout que la connaissance extraordinaire apport\u00e9e par la m\u00e9thode scientifique ne signifie pas n\u00e9cessairement que celle-ci permet d\u2019acc\u00e9der \u00e0 une v\u00e9rit\u00e9 ultime. Car c\u2019est bien ce que suppose la philosophie mat\u00e9rialiste, et ce passage de \u00ab la m\u00e9thode scientifique a permis de constamment avancer dans la compr\u00e9hension de la r\u00e9alit\u00e9 \u00bb \u00e0 \u00ab la m\u00e9thode scientifique r\u00e9v\u00e8le la v\u00e9rit\u00e9 ultime sur la r\u00e9alit\u00e9 \u00bb n\u2019est rien d\u2019autre qu\u2019un passage du fait \u00e0 la croyance\u2026 qu\u2019un\u00a0\u00ab saut de la foi \u00bb<\/a>, s\u2019il est permis d\u2019\u00eatre taquin.<\/p>\n

La position pleinement rationnelle \u00e0 ce stade est en fait la position \u00ab agnostique \u00bb, c\u2019est-\u00e0-dire de ne pas conclure sur le mat\u00e9rialisme en tant que philosophie, parce que pour ce qu\u2019on en sait aujourd\u2019hui rien ne le d\u00e9montre, et rien non plus ne l\u2019interdit. Il faut donc rester ouvert \u00e0 la fois \u00e0 la possibilit\u00e9 qu\u2019il soit pleinement justifi\u00e9, et \u00e0 celle qu’il ne le soit pas. Dans ce second cas l\u2019IA forte pourrait \u00eatre impossible pour raison de principe.<\/p><\/blockquote>\n

2 – Si la premi\u00e8re condition est remplie, il faut encore que le comportement de la mati\u00e8re impliqu\u00e9e dans l\u2019\u00e9mergence de la conscience soit enti\u00e8rement compr\u00e9hensible en termes calculables. C\u2019est que les ordinateurs fonctionnent en termes calculables et d\u00e9terministes \u2013 ce sont des machines logiques dites \u00ab\u00a0machines de Turing<\/a>\u00a0\u00bb, et le terme calculable veut d\u2019ailleurs exactement dire \u00ab qui peut \u00eatre calcul\u00e9 par une machine de Turing \u00bb. Il faut notamment, et pas seulement, que le hasard et l’ind\u00e9termination d\u00e9crits par la physique quantique n’aient qu’un r\u00f4le \u00ab\u00a0spectateur\u00a0\u00bb dans l\u2019existence entre les oreilles d\u2019un \u00eatre humain vivant d\u2019une \u00ab intelligence forte \u00bb. C\u2019est une position d\u00e9terministe et objectiviste dans la compr\u00e9hension de la conscience et de l\u2019intelligence humaines. Qui l\u00e0 encore n’a rien n’\u00e9vident – j’oserai dire, encore moins.<\/p>\n

Incise \u2013 Et si cette condition avait\u00a0d\u00e9j\u00e0<\/strong>\u00a0\u00e9t\u00e9 d\u00e9montr\u00e9e fausse ?<\/ins><\/p>\n

La question de savoir si le comportement de la mati\u00e8re \u00e0 la base de la conscience est enti\u00e8rement compr\u00e9hensible en termes calculables, fait l’objet d’\u00e9tudes et de discussions. Il faut toutefois signaler l’\u0153uvre du physicien et math\u00e9maticien\u00a0Roger Penrose<\/a>, g\u00e9n\u00e9ralement reconnu comme l’un des plus grands esprits actuellement vivants, dans \u00ab\u00a0les Ombres de l’Esprit<\/em>\u00ab\u00a0.<\/p>\n

Aussi extraordinaire que cela puisse para\u00eetre, Penrose y a propos\u00e9 une\u00a0d\u00e9monstration formelle<\/ins>\u00a0du fait qu’une op\u00e9ration au moins de l’esprit humain \u2013 discerner la v\u00e9rit\u00e9 math\u00e9matique d’une certaine proposition de logique avanc\u00e9e \u2013 est impossible si l’esprit humain est compr\u00e9hensible en termes calculables et d\u00e9terministes. Comme cette op\u00e9ration a bien lieu \u2013 elle est accessible \u00e0 qui a un niveau licence en math\u00e9matiques, et Penrose guide le lecteur jusqu’\u00e0 ce qu’il la r\u00e9alise lui-m\u00eame, ce qui rend sa d\u00e9monstration particuli\u00e8rement impressionnante \u2013 il s’ensuit que l’esprit n’est pas compr\u00e9hensible en termes calculables. Donc ne peut \u00eatre reproduit informatiquement. Il est naturel \u00e0 partir de ce r\u00e9sultat de supposer que ce fonctionnement non calculable du cerveau humain ne se manifeste pas seulement dans l\u2019op\u00e9ration mentale utilis\u00e9e pour cette d\u00e9monstration math\u00e9matique : si le cerveau humain poss\u00e8de cette caract\u00e9ristique, elle est alors probablement g\u00e9n\u00e9rale \u00e0 une partie importante de ses op\u00e9rations, si ce n’est \u00e0 la plupart.<\/p>\n

Dans la deuxi\u00e8me partie de son ouvrage, il propose une hypoth\u00e8se \u2013 plus aventur\u00e9e \u2013 sur une explication physique du caract\u00e8re non calculable de l’esprit, bas\u00e9e sur des ph\u00e9nom\u00e8nes quantiques intervenant notamment dans les microtubules des neurones et li\u00e9s \u00e0 la r\u00e9duction du paquet d’ondes, ph\u00e9nom\u00e8ne postul\u00e9 par la m\u00e9canique quantique, qu\u2019elle ne cherche pas \u00e0 expliquer, ce qui de l\u2019avis de Penrose est insatisfaisant. Il s’agit l\u00e0 de physique sp\u00e9culative, plus d’une id\u00e9e de direction dans laquelle chercher la nouvelle physique \u2013\u00a0au-del\u00e0<\/ins>\u00a0de la m\u00e9canique quantique donc \u2013 n\u00e9cessaire \u00e0 une compr\u00e9hension scientifique de la conscience, si la d\u00e9monstration de Penrose est correcte, que d’une quelconque pr\u00e9cision sur ce que pourrait \u00eatre cette physique.<\/p>\n

Dans ce livre, l\u2019auteur r\u00e9pond \u00e0 toutes les objections pr\u00e9sent\u00e9es \u00e0 ses travaux pr\u00e9c\u00e9dents sur le m\u00eame sujet. Le livre existe depuis une quinzaine d’ann\u00e9es, et \u00e0 ce jour\u00a0personne n’a r\u00e9ussi \u00e0 contrer son raisonnement<\/ins>\u00a0ni \u00e0 invalider la d\u00e9monstration qu\u2019il propose du caract\u00e8re \u00ab non calculable \u00bb du fonctionnement du cerveau humain.<\/p>\n

S’il a raison, alors \u00ab\u00a0les Ombres de l’Esprit<\/em>\u00a0\u00bb sera probablement consid\u00e9r\u00e9 un jour comme un livre fondamental dans l’histoire scientifique. Et naturellement, le projet \u00ab\u00a0Conscience artificielle\u00a0\u00bb appara\u00eetra alors sans objet. Du moins dans sa version informatique : si l’hypoth\u00e8se sp\u00e9culative de Penrose s’av\u00e8re judicieuse et est un jour d\u00e9velopp\u00e9e, on ne peut exclure qu’il soit un jour possible de produire une conscience artificielle en se basant sur la physique nouvelle ainsi d\u00e9couverte. Mais alors, l’objet pensant produit ne serait\u00a0pas<\/ins>\u00a0un ordinateur… il en serait sans doute aussi diff\u00e9rent par nature que l’ordinateur lui-m\u00eame est par nature diff\u00e9rent d’une machine \u00e0 vapeur ou d’un marteau. Et naturellement les d\u00e9lais pour le r\u00e9aliser seraient tout \u00e0 fait ind\u00e9termin\u00e9s.<\/p>\n

Pour un r\u00e9sum\u00e9 plus d\u00e9taill\u00e9 de ce livre, voir\u00a0le commentaire de Jean Staune<\/a><\/p><\/blockquote>\n

\"Roger_Penrose.jpg\"<\/p>\n

Roger Penrose –\u00a0\u00ab Etant donn\u00e9 que la pens\u00e9e inclut un \u00e9l\u00e9ment\u00a0non calculable, les ordinateurs ne pourront jamais faire ce que nous autres \u00eatres humains faisons. \u00bb\u00a0(source<\/a>)<\/em><\/p>\n

3 – Enfin, si les deux premi\u00e8res conditions sont v\u00e9rifi\u00e9es, il faut que cette conscience suppos\u00e9ment compr\u00e9hensible en termes mat\u00e9riels uniquement, et en termes calculables et d\u00e9terministes exclusivement \u2013 il s’agit ici de la conscience qui se trouve dans le cerveau de l’inventeur \u2013 soit capable de concevoir le fonctionnement d’une autre conscience, celle que l’inventeur cherche \u00e0 cr\u00e9er. Ce qui signifie que cette conscience pr\u00e9sente dans son cerveau doit avoir\u00a0la capacit\u00e9 de se comprendre elle-m\u00eame<\/ins>\u00a0! En effet, si l’inventeur n’en \u00e9tait pas capable, comment pourrait-il d\u00e9terminer les plans, m\u00e9thodes et principes de la construction de l’IA ? Une troisi\u00e8me fois, cette position n’a rien d’\u00e9vident \u2013 il est m\u00eame permis de consid\u00e9rer qu’elle est la plus suspecte de toutes.<\/p>\n

\"Miroir_infini.jpg\"
\nL’esprit peut-il se comprendre lui-m\u00eame, donc contenir une description de lui-m\u00eame ?<\/em><\/p>\n

Les r\u00e9ponses \u00e0 ces trois questions fondamentales sont \u00e0 ce stade inconnues \u2013 sauf naturellement si la d\u00e9monstration de Roger Penrose s’av\u00e8re valide, auquel cas la seconde n\u2019est pas v\u00e9rifi\u00e9e. Il existe des positions et des arguments philosophiques, naturellement, chacun avec leur validit\u00e9. Mais il n’existe de r\u00e9ponse d\u00e9finitive au sens scientifique \u00e0 aucune de ces questions. Peut-\u00eatre cela changera-t-il un jour. En attendant, ces questions restent ouvertes.<\/p>\n

Si la r\u00e9ponse \u00e0 UNE SEULE des trois questions ci-dessus est n\u00e9gative, alors la cr\u00e9ation par voie informatique d’une conscience artificielle est irr\u00e9m\u00e9diablement une chim\u00e8re<\/ins>\u00a0: on pourra reproduire sous forme informatique tel ou tel processus mental, ou en fournir un \u00e9quivalent fonctionnel, on pourra cr\u00e9er des solutions logicielles pour traiter tel probl\u00e8me intellectuel particulier, parfois m\u00eame mieux qu’un \u00eatre humain \u2013 c’est d’ailleurs l’objet de la discipline IA, la vraie non la fantasm\u00e9e, voir encore\u00a0l’ouvrage sur le sujet du chercheur Jean-Gabriel Ganascia<\/a>\u00a0\u2013 on n’arrivera jamais \u00e0 obtenir un objet avec qui on puisse s\u00e9rieusement tailler une bavette, un objet qui serait quelqu’un. L’id\u00e9e est alors \u00e0 ranger dans le m\u00eame rayon que les histoires de f\u00e9es et du P\u00e8re No\u00ebl.<\/p>\n

Si et seulement si les TROIS r\u00e9ponses sont positives, alors la construction d’une conscience artificielle est th\u00e9oriquement possible pour des \u00eatres humains.<\/p>\n

A ce sujet, on demandait la diff\u00e9rence entre th\u00e9orie et pratique. Un plaisantin r\u00e9pondit : \u00ab\u00a0En th\u00e9orie, c’est la m\u00eame chose. En pratique, non<\/em>\u00a0\u00bb<\/p>\n

Il est temps de parler des \u00ab\u00a0menues\u00a0\u00bb difficult\u00e9s pratiques pour la cr\u00e9ation d’une conscience artificielle\u2026<\/h4>\n

Ne nous \u00e9tendons pas sur le fait que personne \u00e0 ce jour n’a d\u2019id\u00e9e autre que tr\u00e8s partielle et g\u00e9n\u00e9rale \u2013 moindrement test\u00e9e en pratique donc \u2013 de comment au juste il faudrait s’y prendre. Si des pistes et r\u00e9flexions diverses ont \u00e9t\u00e9 propos\u00e9es quant \u00e0 l’aspect psychologique de la chose – voir par exemple pour le domaine francophone Paul Jorion dans\u00a0Principes des syst\u00e8mes intelligents<\/a>\u00a0(1989) ou Alain Cardon dans\u00a0Un mod\u00e8le constructible de Syst\u00e8me Psychique (2011)<\/a>\u00a0(texte complet en PDF)<\/em>\u00a0parmi d’autres dans diverses langues – le fait m\u00eame que ces pistes dont certaines sont anciennes n’aient pas permis d’aboutir \u00e0 une r\u00e9alisation concr\u00e8te de type \u00ab\u00a0quelqu’un dans la machine\u00a0\u00bb montre que l’essentiel de la difficult\u00e9 th\u00e9orique reste devant nous. Ce que font les sp\u00e9cialistes en IA, ce qu’ils construisent dans la r\u00e9alit\u00e9, est bien diff\u00e9rent, comme d\u00e9j\u00e0 dit. Et ce n’est pas faute d’essayer ni de r\u00e9fl\u00e9chir au moyen de construire une conscience.<\/p>\n

Cet \u00e9tat de fait n’exclut cependant pas la possibilit\u00e9 que la discipline IA n’attende son Newton, son Galois, son Darwin ou son Einstein. Bref que la d\u00e9finition de la m\u00e9thode g\u00e9n\u00e9rale ne soit \u00e0 port\u00e9e du prochain g\u00e9nie qui se penchera s\u00e9rieusement sur la question. Le premier g\u00e9nie qui saura comprendre comment\u00a0sa propre conscience<\/ins>\u00a0fonctionne \u2013 rappelons que nous sommes dans l’hypoth\u00e8se o\u00f9 la r\u00e9ponse \u00e0 la question 3 ci-dessus serait positive, et o\u00f9 la chose ne serait pas une contradiction dans les termes.<\/p>\n

Une difficult\u00e9 plus grave se pr\u00e9sente. C’est que une fois publi\u00e9e la \u00ab\u00a0Th\u00e9orie g\u00e9n\u00e9rale de l’esprit humain<\/em>\u00a0\u00bb avec sa petite annexe \u00ab\u00a0travaux pratiques \u2013 comment on fait\u00a0\u00bb – par Jeannot G\u00e9nie ou quel que soit son nom, il faudrait la construire pour de bon cette IA forte. Et l\u00e0 se situe un probl\u00e8me,\u00a0une difficult\u00e9… du format \u00ab\u00a0mise en ab\u00eeme\u00a0\u00bb<\/strong>.<\/p>\n

Les passionn\u00e9s d\u2019affaires militaires comme les contr\u00f4leurs des programmes d\u2019armement am\u00e9ricains sont r\u00e9guli\u00e8rement entretenus des distrayantes nouvelles de l’avion de chasse F-35. Distrayantes pour l’observateur ext\u00e9rieur s’entend, non pour l’aviateur ni pour le contribuable am\u00e9ricain. Non seulement le bouzin ne vole-t-il en effet que peu et mal, mais surtout ses difficult\u00e9s persistantes semblent bien r\u00e9sulter au fond d’un\u00a0d\u00e9faut de ma\u00eetrise de sa complexit\u00e9<\/ins>, qu’un optimisme illumin\u00e9 au moment de la conception initiale de l\u2019engin a laiss\u00e9 cro\u00eetre au-del\u00e0 de toute raison, comme d’ailleurs de toute n\u00e9cessit\u00e9. Si bien que sa complexit\u00e9 risque bien de s’av\u00e9rer\u00a0impossible \u00e0 ma\u00eetriser par les \u00e9quipes d’ing\u00e9nierie<\/ins>, dont il est pourtant permis de penser qu’elles ne sont pas constitu\u00e9es d’amateurs, mais plut\u00f4t de certains des meilleurs des meilleurs, \u00e0 la mesure des capacit\u00e9s financi\u00e8res de l’Oncle Sam \u00e0 motiver ce genre de personnes pour travailler sur un projet essentiel \u00e0 la perp\u00e9tuation de la sup\u00e9riorit\u00e9 a\u00e9rienne qui est un \u2013 sinon ce n\u2019est le \u2013 pilier essentiel de sa supr\u00e9matie militaire.<\/p>\n

Ce ph\u00e9nom\u00e8ne est particuli\u00e8rement criant s’agissant du logiciel embarqu\u00e9 et du syst\u00e8me de maintenance informatis\u00e9 du F-35 avec leurs\u00a024 millions de lignes de code<\/a>.<\/p>\n

Pardon ?<\/p>\n

Vous avez bien dit : 24 millions ? Une quantit\u00e9 aussi r\u00e9duite d’instructions \u00e9l\u00e9mentaires, une complexit\u00e9 si ridiculement faible, tellement hors de proportion avec la complexit\u00e9 du fonctionnement d’un cerveau humain… et d\u00e9j\u00e0 les meilleures \u00e9quipes au monde ne savent pas faire face !<\/p>\n

Alors, quelles sont les chances que qui que ce soit arrive \u00e0 appliquer les principes et m\u00e9thodes d\u00e9couverts par Jeannot G\u00e9nie, une fois qu’il aura eu l’obligeance de se pr\u00e9senter, \u00e0 supposer qu\u2019il le fasse jamais ?<\/ins><\/p>\n

\"F-35_ALIS_Testing.jpg\"<\/p>\n

Le syst\u00e8me F-35 : les meilleures \u00e9quipes, seulement\u00a024 millions de lignes de code<\/em><\/p>\n

\u00c7a\u00a0marchera bient\u00f4t, dites ?<\/em><\/p>\n

Il est temps de conclure<\/h4>\n

Le projet \u00ab\u00a0IA forte\u00a0\u00bb, c’est-\u00e0-dire une conscience artificielle \u00ab quelqu’un dans la bo\u00eete \u00bb bas\u00e9e sur un ordinateur :<\/p>\n

– Soit est par principe impossible \u2013 c\u2019est ce qui peut para\u00eetre le plus probable, les conditions pour qu’il en soit diff\u00e9remment \u00e9tant plusieurs, chacune d’entre elle imp\u00e9rative, dont l\u2019une d\u00e9j\u00e0 fortement mise en doute par ce qui ressemble fort \u00e0 une d\u00e9monstration formelle. Cependant la chose n’est pas d\u00e9finitivement prouv\u00e9e<\/p>\n

– Soit est th\u00e9oriquement possible, auquel cas il sera peut-\u00eatre r\u00e9alis\u00e9 une fois que ces deux conditions auront \u00e9t\u00e9 remplies :<\/p>\n

1. Apparition du g\u00e9nie capable de comprendre le fonctionnement de sa propre conscience<\/p>\n

2. Evolution d’une civilisation capable de coordonner les talents, les intelligences, bref de\u00a0faire travailler ensemble des \u00eatres humains \u00e0 un niveau fantastiquement au-del\u00e0 de ce \u00e0 quoi l’humanit\u00e9 est parvenue \u00e0 ce jour<\/ins>. En somme, atteignant une capacit\u00e9 de \u00ab ma\u00eetrise de la complexit\u00e9 \u00bb bien au-del\u00e0 de celle \u00e0 laquelle nous sommes d\u00e9j\u00e0 parvenus. Au point de pouvoir r\u00e9aliser des projets informatiques incluant \u00e0 coup s\u00fbr des milliards, peut-\u00eatre m\u00eame des milliers de milliards d’instructions<\/p>\n

Dans cette deuxi\u00e8me hypoth\u00e8se, l’humanit\u00e9 r\u00e9alisera peut-\u00eatre en effet un jour une IA v\u00e9ritable, dont l’orientation vis-\u00e0-vis de l’humanit\u00e9 posera effectivement question. Ce jour n’arrivera pas du vivant d’aucun \u00eatre humain d’aujourd\u2019hui. Il est fort possible qu\u2019il soit aussi loin de nous que ne l’\u00e9tait la construction d’un r\u00e9acteur atomique au moment o\u00f9 D\u00e9mocrite sp\u00e9culait sur l’existence de l’atome au V\u00e8me si\u00e8cle avant notre \u00e8re…<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

\n

Billet invit\u00e9. \u00c9galement sur son propre blog<\/a>. P.J. : J’aurai l’occasion d’y revenir mais je rappelle que je ne souscris ABSOLUMENT pas \u00e0 la th\u00e8se de ce billet.<\/p>\n<\/blockquote>\n

Les perspectives de l’Intelligence Artificielle inqui\u00e8tent – les ordinateurs pourraient-ils atteindre \u00e0 une intelligence similaire \u00e0 celle de l’\u00eatre humain ? Les robots pourraient-ils devenir […]<\/em><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4628],"tags":[5559],"class_list":["post-98936","post","type-post","status-publish","format-standard","hentry","category-intelligence-collective","tag-roger-penrose"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98936","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=98936"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98936\/revisions"}],"predecessor-version":[{"id":99022,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98936\/revisions\/99022"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=98936"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=98936"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=98936"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}