{"id":97529,"date":"2017-07-27T13:08:51","date_gmt":"2017-07-27T11:08:51","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=97529"},"modified":"2017-07-27T14:07:58","modified_gmt":"2017-07-27T12:07:58","slug":"mark-oconnell-to-be-a-machine-vi-la-singularite-est-elle-pour-demain","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2017\/07\/27\/mark-oconnell-to-be-a-machine-vi-la-singularite-est-elle-pour-demain\/","title":{"rendered":"Mark O\u2019Connell, To Be a Machine<\/em> (VI) La Singularit\u00e9<\/em> est-elle pour demain ?"},"content":{"rendered":"

Ouvert aux commentaires.<\/p><\/blockquote>\n

Comme le fait remarquer O\u2019Connell dans son remarquable To Be a Machine<\/em> (2017), la Singularit\u00e9<\/em>, telle que la comprennent les transhumanistes<\/a> correspond bien \u00e0 ce que J. Good, un ancien agent du contrespionnage britannique, avait caract\u00e9ris\u00e9 dans le titre d\u2019un article publi\u00e9 par la NASA en 1965 comme \u00ab\u00a0La derni\u00e8re invention que l\u2019homme devra jamais faire\u00a0\u00bb (The last invention man need ever make<\/em>) (90)\u00a0: \u00e0 partir de ce point de basculement, la machine inventerait tout, alors que nous, \u00eatres humains, nous nous trouverions dans la position inconfortable du chimpanz\u00e9 tentant d\u2019interpr\u00e9ter ce qu\u2019un \u00eatre plus intelligent que lui tel que nous, d\u00e9cide de faire autour de lui.<\/p>\n

Mais les conditions \u00e0 r\u00e9unir pour que le robot soit \u00ab\u00a0la derni\u00e8re invention que l\u2019homme ait \u00e0 faire\u00a0\u00bb du fait qu\u2019il prend tout en charge \u00e0 partir de l\u00e0, sont beaucoup plus probl\u00e9matiques que les transhumanistes ne le laissent entendre.<\/p>\n

Un robot fabriquant un robot est facile \u00e0 imaginer, puisqu\u2019il n\u2019est jamais question l\u00e0 que d\u2019une machine fabriquant une autre machine. Mais, si les hommes devaient v\u00e9ritablement \u00eatre d\u00e9sormais enti\u00e8rement hors de la boucle, il faudrait pour en \u00eatre l\u00e0 que le processus conduisant au robot fabriquant un autre robot soit enti\u00e8rement automatis\u00e9. Ce qui veut dire, que des robots : de l\u2019extraction du minerai, \u00e0 la fabrication des diff\u00e9rentes pi\u00e8ces en passant par l\u2019extraction du m\u00e9tal du minerai, ou du raffinage du p\u00e9trole jusqu\u2019\u00e0 l\u2019obtention des composants synth\u00e9tiques qui en sont des d\u00e9riv\u00e9s, etc.<\/p>\n

Ces nombreuses questions d\u2019ordre pratique auraient-elles m\u00eame \u00e9t\u00e9 r\u00e9gl\u00e9es, d\u2019autres difficult\u00e9s demeureraient. Si l\u2019on parle en effet de machines capables de s\u2019am\u00e9liorer de leur propre initiative, deux options sont envisageables. Dans la premi\u00e8re, un \u00ab\u00a0robot au sens large\u00a0\u00bb am\u00e9liore sa performance individuelle par apprentissage, ou par une optimisation \u00e0 partir d\u2019une analyse statistique qu\u2019il effectuerait de son comportement pass\u00e9, ou encore en recourant \u00e0 un algorithme g\u00e9n\u00e9tique<\/em><\/a> appliqu\u00e9 \u00e0 d\u2019anciennes strat\u00e9gies ayant \u00e9t\u00e9 payantes autrefois, en vue de les recycler si un nouveau contexte les rend \u00e0 nouveau rentables.<\/p>\n

Si une telle machine capable d\u2019acqu\u00e9rir \u00e0 titre individuel de nouvelles connaissances comme fruit d\u2019un apprentissage transmettait son savoir acquis \u00e0 d\u2019autres, on parlerait dans ce cas-l\u00e0 s\u2019il s\u2019agissait d\u2019\u00eatres humains d\u2019une \u00ab\u00a0innovation culturelle\u00a0\u00bb due \u00e0 quelqu\u2019un par opposition \u00e0 une d\u00e9couverte \u00e0 usage purement personnel\u00a0; une contribution \u00e0 la culture en tant que telle \u00e9tant susceptible de b\u00e9n\u00e9ficier \u00e0 l\u2019ensemble des g\u00e9n\u00e9rations \u00e0 venir, \u00e0 condition qu\u2019une rupture dans la transmission n\u2019intervienne pas en chemin.<\/p>\n

La seconde option quand on \u00e9voque des machines capables de s\u2019am\u00e9liorer est qu\u2019il s\u2019agisse plut\u00f4t de machines susceptibles d\u2019engendrer une toute nouvelle g\u00e9n\u00e9ration d\u2019elles-m\u00eames, plus efficace par dessein dans chacune de ses instances avant m\u00eame tout processus d\u2019apprentissage. Il est question, autrement dit, d\u2019une machine capable d\u2019inventer au sens propre du mot de nouvelles approches pour l\u2019ensemble de ses cong\u00e9n\u00e8res de \u00ab\u00a0nouvelle g\u00e9n\u00e9ration\u00a0\u00bb, qui seront alors ses v\u00e9ritables \u00ab\u00a0descendants\u00a0\u00bb. La chose n\u2019est pas impossible, les programmeurs ayant constat\u00e9 d\u00e8s les tout d\u00e9buts de l\u2019IA, la capacit\u00e9 de leurs logiciels \u00e0 les surprendre. O\u2019Connell cite ainsi Norbert Wiener, pionnier de la cybern\u00e9tique, qui observait dans un article intitul\u00e9 \u00ab\u00a0Some moral and technical consequences of automation\u00a0\u00bb, (1960) \u00ab\u00a0la tendance des machines \u00e0 d\u00e9velopper des strat\u00e9gies inattendues alors qu\u2019elles apprennent \u00e0 des vitesses qui sid\u00e8rent leurs programmeurs\u00a0\u00bb (96-97).<\/p>\n

J\u2019avais not\u00e9 la m\u00eame chose en 1989 \u00e0 propos d\u2019ANELLA (Associative Network with Emergent Logical and Learning Abilities<\/em> = r\u00e9seau associatif \u00e0 capacit\u00e9s de logique \u00e9mergente et d\u2019apprentissage), le logiciel d’I.A. que j’avais d\u00e9velopp\u00e9 pour British Telecom, qu\u2019elle avait invent\u00e9 un nouveau type d\u2019inf\u00e9rence\u00a0:<\/p>\n

\u00ab\u00a03) Rex a une niche,
\nune niche est un abri,
\nDONC
\nl\u2019abri de Rex est une niche \u00bb\u00a0(Jorion 1989\u00a0: 181).<\/p>\n

J\u2019ajoutais\u00a0:<\/p>\n

\u00ab\u00a0La troisi\u00e8me figure met en \u00e9vidence une inf\u00e9rence qui n\u2019appartient pas \u00e0 la logique classique, mais qu\u2019il a sembl\u00e9 int\u00e9ressant d\u2019autoriser ANELLA \u00e0 produire tout de m\u00eame. Un exemple moins bizarre du m\u00eame type serait celui-ci :<\/p>\n

le coquelicot est rouge,
\nrouge est une couleur,
\nDONC
\nla couleur du coquelicot est rouge\u00a0\u00bb (ibid. 182).<\/p>\n

Quand le 15 mars 2015, le logiciel AlphaGo de la firme DeepMind battit Lee Sedol, le num\u00e9ro 3 mondial du jeu de go, ses programmeurs firent remarquer qu\u2019ils n\u2019avaient rien programm\u00e9 de l\u2019ordre de l\u2019\u00ab\u00a0intuition\u00a0\u00bb, dont tous les commentateurs avaient pourtant pr\u00e9dit que son absence serait un \u00e9l\u00e9ment d\u00e9terminant dans la d\u00e9faite probable de la machine. De m\u00eame, lorsque le 30 janvier 2017, le logiciel Libratus l\u2019emporta par une vaste marge contre quatre champions de poker, son programmeur Noam Brown d\u00e9clara\u00a0: \u00ab\u00a0Quand j\u2019ai vu l\u2019IA se lancer dans le bluff en face d\u2019humains, je me suis dit \u201cmais, je ne lui ai jamais appris \u00e0 faire cela\u00a0!\u201d C\u2019est une satisfaction pour moi de me dire que j\u2019ai r\u00e9ussi \u00e0 cr\u00e9er quelque chose capable de cela\u00a0\u00bb (Tr\u00e9vise 2017). Abdul Razack, le patron de la firme d\u2019IA Infosys fit \u00e0 cette occasion la remarque suivante\u00a0: \u00ab\u00a0L\u2019I.A. devient vraiment int\u00e9ressante dans les cas o\u00f9 le nombre d\u2019inconnues est \u00e9gal ou sup\u00e9rieur \u00e0 celui des [variables] connues. Mais je n\u2019avais jamais vu un syst\u00e8me meilleur que l\u2019humain face \u00e0 l\u2019inconnu\u00a0\u00bb (Ryan 2017).<\/p>\n

Un b\u00e9mol doit donc \u00eatre mis aux esp\u00e9rances les plus folles de l\u2019Intelligence Artificielle\u00a0: historiquement, les difficult\u00e9s \u00e0 r\u00e9soudre ont tr\u00e8s souvent \u00e9t\u00e9 beaucoup plus s\u00e9rieuses que l\u2019enthousiasme du moment n\u2019avait voulu l\u2019envisager, mais, b\u00e9mol \u00e0 mettre \u00e0 ce b\u00e9mol lui-m\u00eame\u00a0: les goulets d\u2019\u00e9tranglement rencontr\u00e9s, en qui les esprits chagrins de toutes les \u00e9poques voulurent lire la pr\u00e9sence d\u2019obstacles insurmontables, furent toujours surmont\u00e9s, m\u00eame s\u2019il fallut dix ans plut\u00f4t que les cinq ans initialement envisag\u00e9s.<\/p>\n

=============
\nPaul Jorion, Principes des syst\u00e8mes intelligents<\/em>, Masson 1989\u00a0; Le Croquant 2012<\/p>\n

Mark O\u2019Connell, To Be a Machine. Adventures Among Cyborgs, Utopians, Hackers, and the Futurists Solving the Modest Problem of Death<\/em>, Granta Books 2017<\/p>\n

Kevin J. Ryan, \u00ab\u00a0Why It Matters That Artificial Intelligence Is About to Beat the World’s Best Poker Players\u00a0\u00bb<\/a>, Inc.com, le 27 janvier 2017<\/p>\n

Daniel Tr\u00e9vise, \u00ab\u00a0Pourquoi la victoire d\u2019une intelligence artificielle au poker est plus inqui\u00e9tante qu\u2019il n\u2019y para\u00eet Les robots, d\u00e9sormais meilleurs bluffeurs que l’homme<\/em>\u00a0\u00bb<\/a>, Epoch Times, le 5 f\u00e9vrier 2017<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Ouvert aux commentaires.<\/p>\n<\/blockquote>\n

Comme le fait remarquer O\u2019Connell dans son remarquable To Be a Machine<\/em> (2017), la Singularit\u00e9<\/em>, telle que la comprennent les transhumanistes<\/a> correspond bien \u00e0 ce que J. Good, un ancien agent du contrespionnage britannique, avait caract\u00e9ris\u00e9 dans le titre d\u2019un article publi\u00e9 par la NASA en 1965 comme \u00ab\u00a0La […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13,725,5008],"tags":[4743,1935,5460,4001,940,5459,151,5461,3997],"class_list":["post-97529","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-technologie-2","category-transhumanisme","tag-alphago","tag-anella","tag-bluff","tag-deepmind","tag-intelligence-artificielle-2","tag-intuition","tag-jeu-de-go","tag-poker","tag-singularite"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/97529","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=97529"}],"version-history":[{"count":6,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/97529\/revisions"}],"predecessor-version":[{"id":97535,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/97529\/revisions\/97535"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=97529"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=97529"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=97529"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}