{"id":83430,"date":"2016-03-13T12:27:11","date_gmt":"2016-03-13T11:27:11","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=83430"},"modified":"2016-03-13T12:27:11","modified_gmt":"2016-03-13T11:27:11","slug":"les-machines-leur-evolution-et-nous-par-mathieu-van-vyve","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2016\/03\/13\/les-machines-leur-evolution-et-nous-par-mathieu-van-vyve\/","title":{"rendered":"Les machines, leur \u00e9volution, et nous, par Mathieu Van Vyve"},"content":{"rendered":"<blockquote><p>Billet invit\u00e9. Ouvert aux commentaires.<\/p><\/blockquote>\n<p><strong>Mise \u00e0 jour<\/strong>, 13\/3\/16 : <em>J\u2019ai r\u00e9dig\u00e9 le billet ci-dessous avant que l\u2019on apprenne ce matin que Lee Sedol a gagn\u00e9 la quatri\u00e8me manche. Le programme a mal \u00e9valu\u00e9 la qualit\u00e9 de la position \u00e0 un moment donn\u00e9 et ne s&rsquo;est \u00ab\u00a0rendu compte\u00a0\u00bb qu&rsquo;il \u00e9tait mal embarqu\u00e9 que 4 coups plus tard. Ceci d\u00e9montre qu&rsquo;AlphaGo n&rsquo;est sans doute pas \u00ab\u00a0largement sup\u00e9rieur\u00a0\u00bb ou au moins qu&rsquo;il \u00e9value mal certaines configurations. Mais cela ne change pas grand-chose \u00e0 la discussion ci-dessous : le saut qualitatif reste \u00e0 mon sens r\u00e9el et inattendu, et nous autres humains semblons mal \u00e9quip\u00e9s pour anticiper ces \u00e9volutions.<\/em><\/p>\n<p><!--more--><\/p>\n<p>Apr\u00e8s trois parties de Go entre AlphaGo (programme d\u00e9velopp\u00e9 par Google Deepmind) et Lee Sedol (un des meilleurs joueurs du monde), nous pouvons raisonnablement faire les constats suivants :<\/p>\n<p>&#8211; AlphaGo est largement sup\u00e9rieur \u00e0 Lee Sedol. Cela est quasi certain vu le d\u00e9roulement des parties. On sait qu\u2019AlphaGo va commencer \u00e0 jouer des coups \u201cfaibles\u201d mais peu risqu\u00e9s \u00e0 partir du moment o\u00f9 il est quasi certain de gagner. Or cela arrive relativement t\u00f4t dans les parties, et en particulier \u00e0 un moment o\u00f9 les commentateurs (des pros quasi aussi forts que Lee Sedol) n\u2019arrivent pas encore \u00e0 d\u00e9terminer qui est en meilleure position. En fait il est possible qu\u2019AlphaGo soit encore beaucoup plus fort que les gens l\u2019imaginent : par manque d\u2019opposition, la diff\u00e9rence de niveau est en fait impossible \u00e0 mesurer. Si je joue au Go contre le champion de mon club local ou contre Lee Sedol, le r\u00e9sultat sera sensiblement le m\u00eame. On ne pourra rien en conclure sur le niveau de mon adversaire.<\/p>\n<p>&#8211; Ce fait est une \u00e9norme surprise pour les joueurs de Go, mais aussi, et c\u2019est plus surprenant, pour les experts en Intelligence Artificielle. En 2014, les personnes qui travaillaient s\u00e9rieusement sur des softwares de Go estimaient encore \u00e0 au moins dix ans le temps qu\u2019il faudrait pour battre des joueurs du calibre de Lee Sedol.<\/p>\n<p>&#8211; Les technologies mises en \u0153uvre par les concepteurs d\u2019AlphaGo (Monte Carlo Tree Search, les r\u00e9seaux de neurones, et leur am\u00e9lioration en faisant jouer des parties \u00e0 l\u2019ordinateur contre lui-m\u00eame) sont toutes standard depuis au moins 10 ans. La mani\u00e8re de les combiner est bien pens\u00e9e, mais reste compl\u00e8tement compr\u00e9hensible et naturelle.<\/p>\n<p>Il est assez clair que les possibilit\u00e9s de g\u00e9n\u00e9raliser AlphaGo \u00e0 d\u2019autres domaines que les jeux (poker, bridge, etc.) sont \u00e0 court terme assez limit\u00e9s. Ce qui caract\u00e9rise ces activit\u00e9s c\u2019est que le \u201cmonde\u201d dans lequel ces intelligences artificielles doivent \u00e9voluer est extr\u00eamement restreint. En fait ce \u201cmonde\u201d se r\u00e9duit aux r\u00e8gles du jeu en question, qui peuvent \u00eatre int\u00e9gralement \u00e9crites sur un bout de papier, et sans erreur ou incertitude.<\/p>\n<p>Mais je voudrais ici mettre l\u2019accent sur les trois constats ci-dessus mis bout-\u00e0-bout : la machine est pass\u00e9e en une fois de m\u00e9diocre par rapport aux experts d\u2019un domaine \u00e0 immens\u00e9ment meilleure que ces experts, et essentiellement personne n\u2019a rien vu venir, et ce m\u00eame si les technologies mises en \u0153uvre ne sont pas novatrices.<\/p>\n<p>On voit donc bien qu\u2019en r\u00e9alit\u00e9 1) il y a des sauts qualitatifs soudain dans les capacit\u00e9s des machines et que 2) ceux-ci sont tr\u00e8s difficiles \u00e0 anticiper, m\u00eame pour les personnes les mieux inform\u00e9es. On peut donc assez bien imaginer une situation dans une trentaine d\u2019ann\u00e9es, o\u00f9 nous serions entour\u00e9s de robots dont les capacit\u00e9s d\u2019abstraction face \u00e0 de nouvelles situations seraient depuis dix ans plus ou moins celles des chiens, et les gens trouveraient cela \u201cmignon\u201d. Mais sans se rendre compte que, soudain, deux mois plus tard, nous serions entour\u00e9s de robots immens\u00e9ment plus intelligents que nous.<\/p>\n","protected":false},"excerpt":{"rendered":"<blockquote>\n<p>Billet invit\u00e9. Ouvert aux commentaires.<\/p>\n<\/blockquote>\n<p><strong>Mise \u00e0 jour<\/strong>, 13\/3\/16 : <em>J\u2019ai r\u00e9dig\u00e9 le billet ci-dessous avant que l\u2019on apprenne ce matin que Lee Sedol a gagn\u00e9 la quatri\u00e8me manche. Le programme a mal \u00e9valu\u00e9 la qualit\u00e9 de la position \u00e0 un moment donn\u00e9 et ne s&rsquo;est \u00ab\u00a0rendu compte\u00a0\u00bb qu&rsquo;il \u00e9tait mal embarqu\u00e9 que 4 coups [&hellip;]<\/em><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13,5],"tags":[4743,151,4744],"class_list":["post-83430","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-sciences-cognitives","tag-alphago","tag-jeu-de-go","tag-lee-sedol"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/83430","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=83430"}],"version-history":[{"count":1,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/83430\/revisions"}],"predecessor-version":[{"id":83431,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/83430\/revisions\/83431"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=83430"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=83430"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=83430"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}