{"id":136827,"date":"2023-07-20T14:39:26","date_gmt":"2023-07-20T12:39:26","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=136827"},"modified":"2023-07-21T00:00:03","modified_gmt":"2023-07-20T22:00:03","slug":"douglas-hofstadter-sur-lintelligence-artificielle-jeprouve-une-certaine-forme-de-terreur","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/07\/20\/douglas-hofstadter-sur-lintelligence-artificielle-jeprouve-une-certaine-forme-de-terreur\/","title":{"rendered":"<b>Douglas Hofstadter sur l&rsquo;Intelligence Artificielle&nbsp;: \u00ab\u00a0J&rsquo;\u00e9prouve une certaine forme de terreur\u00a0\u00bb<\/b>"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-136831\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style.png\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL-E (+PJ)<\/em><\/p>\n<p><a href=\"https:\/\/fr.wikipedia.org\/wiki\/Douglas_Hofstadter\" target=\"_blank\" rel=\"noopener\">Douglas Hofstadter<\/a>, l\u2019auteur de <em>G\u00f6del, Escher, Bach<\/em>, chef d\u2019\u0153uvre d\u2019intelligence qui, en 1979, sid\u00e9ra un grand nombre d\u2019entre nous, s\u2019oppose d\u00e9sormais au projet de l\u2019Intelligence Artificielle.<\/p>\n<blockquote><p><em>J&rsquo;ai eu l&rsquo;impression que non seulement mon syst\u00e8me de croyance s&rsquo;effondrait, mais aussi que tout le genre humain allait \u00eatre \u00e9clips\u00e9 et laiss\u00e9 dans la poussi\u00e8re. <\/em><\/p><\/blockquote>\n<p><iframe loading=\"lazy\" title=\"YouTube video player\" src=\"https:\/\/www.youtube.com\/embed\/Ac-b6dRMSwY\" width=\"700\" height=\"450\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p class=\"p1\">Quand j&rsquo;ai commenc\u00e9 \u00e0 \u00e9tudier les sciences cognitives et \u00e0 r\u00e9fl\u00e9chir sur l&rsquo;esprit et l&rsquo;informatique, vous savez, c&rsquo;\u00e9tait il y a tr\u00e8s longtemps, en 1960 \u00e0 peu pr\u00e8s, et je savais comment les ordinateurs fonctionnaient et je savais \u00e0 quel point ils \u00e9taient extraordinairement rigides. La moindre erreur de frappe ruinait compl\u00e8tement votre programme. Le d\u00e9bogage \u00e9tait un art tr\u00e8s difficile et vous deviez parfois ex\u00e9cuter votre programme de tr\u00e8s nombreuses fois afin d&rsquo;\u00e9liminer les bogues. Ensuite, lorsqu&rsquo;il \u00e9tait ex\u00e9cut\u00e9, il \u00e9tait tr\u00e8s rigide et ne faisait pas exactement ce que vous vouliez qu&rsquo;il fasse parce que vous ne lui aviez pas dit exactement ce que vous vouliez qu&rsquo;il fasse correctement, et vous deviez modifier votre programme. Et ainsi de suite.<\/p>\n<p class=\"p1\">Les ordinateurs \u00e9taient tr\u00e8s rigides, et j&rsquo;ai grandi avec un certain sentiment sur ce que les ordinateurs peuvent ou ne peuvent pas faire. Lorsque j&rsquo;en ai entendu parler, j&rsquo;ai pens\u00e9 que l&rsquo;intelligence artificielle \u00e9tait un objectif fascinant. Mais pour moi, c&rsquo;\u00e9tait un objectif tr\u00e8s, tr\u00e8s lointain. Il me semblait infiniment \u00e9loign\u00e9, et j&rsquo;avais l&rsquo;impression que l&rsquo;intelligence artificielle \u00e9tait l&rsquo;art d&rsquo;essayer de faire en sorte que des syst\u00e8mes tr\u00e8s rigides se comportent comme s&rsquo;ils \u00e9taient fluides. <span class=\"s1\">J&rsquo;avais l&rsquo;impression qu&rsquo;il faudrait des centaines d&rsquo;ann\u00e9es avant que quoi que ce soit qui ressemble de pr\u00e8s ou de loin \u00e0 un esprit humain ne s&rsquo;approche asymptotiquement du niveau de l&rsquo;esprit humain, mais venant d&rsquo;en-bas. Je n&rsquo;ai jamais imagin\u00e9 que les ordinateurs rivaliseraient avec l&rsquo;intelligence humaine ou, encore moins, la surpasseraient<\/span>.<\/p>\n<p class=\"p1\">Cela me semblait \u00eatre un objectif si lointain ! Cela m&rsquo;inqui\u00e9tait. Mais lorsque certains syst\u00e8mes ont commenc\u00e9 \u00e0 appara\u00eetre, puis \u00e0 se produire \u00e0 un rythme acc\u00e9l\u00e9r\u00e9, des choses que les ordinateurs n&rsquo;auraient pas d\u00fb \u00eatre capables de faire ont commenc\u00e9 \u00e0 s&rsquo;\u00e9crouler. La d\u00e9faite de Garry Kasparov, jou\u00e9 par Deep Blue, et les syst\u00e8mes sont devenus de plus en plus performants dans la traduction entre les langues et dans la production de r\u00e9ponses intelligibles \u00e0 des questions difficiles en langage naturel, et m\u00eame dans l&rsquo;\u00e9criture de po\u00e8mes.<\/p>\n<p class=\"p2\">Il y a l\u00e0 une exp\u00e9rience tr\u00e8s traumatisante lorsque certaines de vos croyances les plus fondamentales sur la vie commencent \u00e0 s&rsquo;effondrer. J&rsquo;ai eu l&rsquo;impression que non seulement mon syst\u00e8me de croyance s&rsquo;effondrait, mais aussi que tout le genre humain allait \u00eatre \u00e9clips\u00e9 et laiss\u00e9 dans la poussi\u00e8re<span class=\"s2\">. Bient\u00f4t.<\/span><\/p>\n<p class=\"p1\">Une partie de moi dit cinq ans, une autre partie de moi dit 20 ans. Une autre partie de moi dit : \u00ab\u00a0Je ne sais pas. Je n&rsquo;en ai aucune id\u00e9e.\u00a0\u00bb Mais <span class=\"s3\">l&rsquo;acc\u00e9l\u00e9ration des progr\u00e8s a \u00e9t\u00e9 si inattendue qu&rsquo;elle m&rsquo;a compl\u00e8tement pris au d\u00e9pourvu. Pas seulement moi, mais de tr\u00e8s nombreuses personnes, et il y a une certaine forme de terreur, celle d&rsquo;un tsunami \u00e0 venir qui va prendre toute l&rsquo;humanit\u00e9 au d\u00e9pourvu. <\/span>On ne sait pas si cela signifiera la fin de l&rsquo;humanit\u00e9 au sens o\u00f9 les syst\u00e8mes que nous avons cr\u00e9\u00e9s nous d\u00e9truiront. On ne sait pas si c&rsquo;est le cas. Cela fait simplement de l&rsquo;humanit\u00e9 un ph\u00e9nom\u00e8ne tr\u00e8s petit par rapport \u00e0 quelque chose d&rsquo;autre qui est beaucoup plus intelligent et qui deviendra incompr\u00e9hensible pour nous, aussi incompr\u00e9hensible pour nous que nous le sommes pour les cafards.<\/p>\n<p class=\"p1\"><span class=\"s3\">Je me sens donc diminu\u00e9. Dans un certain sens, je me sens comme une structure tr\u00e8s imparfaite, d\u00e9fectueuse. Et compar\u00e9 \u00e0 ces syst\u00e8mes informatiques qui ont, vous le savez, un million de fois ou un milliard de fois plus de connaissances que <\/span>moi et qui sont un milliard de fois plus rapides, je me sens extr\u00eamement inf\u00e9rieur.<\/p>\n<p class=\"p1\">Et je ne veux pas dire m\u00e9ritant d&rsquo;\u00eatre \u00e9clips\u00e9 <span class=\"s3\">mais j&rsquo;ai presque l&rsquo;impression que nous, les humains, \u00e0 notre insu, allons bient\u00f4t \u00eatre \u00e9clips\u00e9s, et \u00e0 juste titre, parce que nous sommes si, si imparfaits et si faillibles.<\/span> Nous oublions tout le temps des choses. Nous confondons tout le temps. Nous nous contredisons sans cesse. Et il se peut tr\u00e8s bien que cela montre \u00e0 quel point nous sommes limit\u00e9s.<\/p>\n<p class=\"p1\"><span class=\"s3\">Nous sommes peut-\u00eatre d\u00e9j\u00e0 all\u00e9s trop loin. Nous avons peut-\u00eatre d\u00e9j\u00e0 mis le feu \u00e0 la for\u00eat. Je ne pense pas qu&rsquo;il soit possible de revenir en arri\u00e8re. <\/span>J&rsquo;ai vu une interview de Jeff Hinton, qui est probablement la personne la plus centrale du d\u00e9veloppement de ce type de syst\u00e8mes. Tout d&rsquo;abord, il a dit qu&rsquo;il pourrait regretter l&rsquo;\u0153uvre de sa vie. \u00ab\u00a0Partiellement\u00a0\u00bb, a-t-il dit : \u00ab\u00a0Une part de moi regrette tout le travail d&rsquo;une vie\u00a0\u00bb. Et l&rsquo;interviewer lui a demand\u00e9 : \u00ab\u00a0Quelle est l&rsquo;importance de tout cela ? Ces d\u00e9veloppements sont-ils aussi importants que la r\u00e9volution industrielle ?\u00a0\u00bb Il a r\u00e9fl\u00e9chi un instant et a r\u00e9pondu : \u00ab\u00a0Peut-\u00eatre aussi important que la roue\u00a0\u00bb.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-136830\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-a_tiny_man_looking_up_at_an_impressive_giant_heroic_fantasy_style_ZMAimnia4lP8UYvsXtPy_3.jpg\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-a_tiny_man_looking_up_at_an_impressive_giant_heroic_fantasy_style_ZMAimnia4lP8UYvsXtPy_3.jpg 512w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-a_tiny_man_looking_up_at_an_impressive_giant_heroic_fantasy_style_ZMAimnia4lP8UYvsXtPy_3-300x300.jpg 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-a_tiny_man_looking_up_at_an_impressive_giant_heroic_fantasy_style_ZMAimnia4lP8UYvsXtPy_3-150x150.jpg 150w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par Stable Diffusion (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-136831\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style.png\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-07-20-14.20.42-A-tiny-man-looking-up-at-an-impressive-giant-heroic-fantasy-style-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL-E (+PJ)<\/em><\/p>\n<p><a href=\"https:\/\/fr.wikipedia.org\/wiki\/Douglas_Hofstadter\" target=\"_blank\" rel=\"noopener\">Douglas Hofstadter<\/a>, l\u2019auteur de <em>G\u00f6del, Escher, Bach<\/em>, chef d\u2019\u0153uvre d\u2019intelligence qui, en 1979, sid\u00e9ra un grand nombre d\u2019entre nous, s\u2019oppose d\u00e9sormais au projet de l\u2019Intelligence Artificielle.<\/p>\n<blockquote>\n<p><em>J&rsquo;ai eu l&rsquo;impression que non seulement mon syst\u00e8me de croyance s&rsquo;effondrait, mais aussi [&hellip;]<\/em><\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[9084,2923,9290,9205,940],"class_list":["post-136827","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-chatgpt","tag-douglas-hofstadter","tag-geoffrey-hinton","tag-grands-modeles-de-langage","tag-intelligence-artificielle-2"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136827","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=136827"}],"version-history":[{"count":11,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136827\/revisions"}],"predecessor-version":[{"id":136848,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136827\/revisions\/136848"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=136827"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=136827"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=136827"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}