{"id":93950,"date":"2017-03-26T11:08:09","date_gmt":"2017-03-26T10:08:09","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=93950"},"modified":"2017-03-26T11:09:31","modified_gmt":"2017-03-26T10:09:31","slug":"la-singularite-est-elle-deja-la-par-nicolas-mallia","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2017\/03\/26\/la-singularite-est-elle-deja-la-par-nicolas-mallia\/","title":{"rendered":"La singularit\u00e9 est-elle d\u00e9j\u00e0 l\u00e0 ? par Nicolas Mallia"},"content":{"rendered":"

Billet invit\u00e9. Ouvert aux commentaires.<\/p><\/blockquote>\n

Bonjour Paul Jorion,

Vous avez parl\u00e9 \u00e0 plusieurs reprises ces derniers temps de l\u2019intelligence artificielle dans le cadre de la parution d\u2019un de vos livres sur la fin de l\u2019humanit\u00e9. Par ailleurs, et vous en avez parl\u00e9 \u00e9galement, vous citez des scientifiques, des capitaines d\u2019industrie de la nouvelle technologie qui ont interpell\u00e9 l\u2019opinion sur le danger de l\u2019av\u00e8nement proche de la vraie intelligence artificielle. Je dis la vraie car pour le moment, il semblerait que ce qu\u2019on nous pr\u00e9sente comme tel n\u2019est que de l\u2019information rapidement recoup\u00e9e et retrouv\u00e9e dans des grandes bases de donn\u00e9es.

J\u2019ai vu une conf\u00e9rence film\u00e9e \u00e0 ce sujet de T\u00e9l\u00e9com Paris ou les professeurs ont taill\u00e9 en pi\u00e8ce un ing\u00e9nieur d\u2019IBM venu faire son op\u00e9ration marketing de Watson en le pr\u00e9sentant comme la premi\u00e8re vraie intelligence artificielle. Or, attribuer \u00e0 ce syst\u00e8me, certes tr\u00e8s innovant, un tel qualificatif est abusif car il n\u2019est pas question ici d\u2019intelligence \u00e0 proprement parler.

J\u2019ai lu comme vous par ailleurs, ces avertissements de Stephen Hawking , de Bill Gates, de Elon Musk qui s\u2019inqui\u00e8tent des cons\u00e9quences \u00e0 venir pour l\u2019Homme le jour ou la Singularit\u00e9<\/em><\/a> arrivera.

C\u2019est \u00e0 ce sujet que je voulais faire une remarque et aussi pourquoi pas, avoir votre avis.

Une id\u00e9e curieuse m\u2019a travers\u00e9 l\u2019esprit il y a peu en jouant aux \u00e9checs contre mon t\u00e9l\u00e9phone.

Je suis un joueur d\u2019\u00e9checs plut\u00f4t mauvais mais en ce moment, le soir, lorsque je n\u2019arrive pas \u00e0 dormir, je m\u2019amuse \u00e0 jouer \u00e0 ce jeu sur mon smartphone. Ce n\u2019est pas le meilleur moyen de trouver le sommeil, je vous l\u2019accorde. \u00c9videmment, je me fais battre syst\u00e9matiquement, mais le fait de constater que je suis nul aux \u00e9checs n\u2019est pas ce qui a retenu mon attention. Ce qui m\u2019a marqu\u00e9, c\u2019est comment le logiciel est capable d\u2019anticiper chacun de mes mouvements et de planifier une strat\u00e9gie avec 10 coups d\u2019avance sur moi. Comme une esp\u00e8ce d\u2019intelligence plastique implacable qui s\u2019adapte \u00e0 la vitesse de l\u2019\u00e9clair.

Et en jouant, en constatant que l\u2019ordinateur avait syst\u00e9matiquement le dessus sur moi, une r\u00e9flexion m\u2019a travers\u00e9 l\u2019esprit.

Nous savons que depuis un moment – vous en avez parl\u00e9 et je l\u2019ai vu aussi comme beaucoup de gens lorsque cela est arriv\u00e9 – que l\u2019ordinateur a appris \u00e0 gagner aux \u00e9checs, a appris \u00e0 gagner au jeu de go, a appris a gagner au poker, a appris \u00e0\u00a0gagner \u00e0 Jeopardy, qu\u2019il a appris a apprendre \u00e9galement. Nous savons en outre que les syst\u00e8mes les plus perfectionn\u00e9s ont des capacit\u00e9s de calcul tr\u00e8s sup\u00e9rieures aux capacit\u00e9s humaines et que ces syst\u00e8mes, lorsqu\u2019ils sont branch\u00e9s sur l’Internet ou sur des bases de donn\u00e9es, ont acc\u00e8s \u00e0 un savoir illimit\u00e9 instantan\u00e9ment.

Aujourd\u2019hui, de nombreux secteurs ne fonctionnent d\u00e9j\u00e0 que gr\u00e2ce aux machines\u00a0: la finance, l\u2019industrie, les transports, etc. Pris comme cela, objectivement, lorsqu\u2019on conjugue tous ces facteurs, on ne peut que constater que la sup\u00e9riorit\u00e9 de la machine sur l\u2019Homme est d\u00e9j\u00e0 l\u00e0. Dans l\u2019imaginaire collectif, lorsqu\u2019on parle du danger de l\u2019intelligence artificielle, on pense \u00e0 des caricatures comme Terminator<\/em>, le Cerveau d\u2019Acier<\/em>, Ghost in the Shell<\/em> \u2026

Et c\u2019est l\u00e0 ou je veux en venir.

Dans l\u2019imaginaire collectif, lorsque la Singularit\u00e9<\/em> arrive, cette derni\u00e8re est imm\u00e9diatement identifi\u00e9e. Sous-entendu :\u00a0l\u2019intelligence artificielle \u00e9prouve le besoin de nous dire que \u00e7a y est, elle est l\u00e0.

Et si c\u2019\u00e9tait tout le contraire ? Personne n\u2019a envisag\u00e9 cela apparemment.

Si on pose le probl\u00e8me froidement : quel serait l\u2019int\u00e9r\u00eat pour un \u00eatre qui nous est bien sup\u00e9rieur de vouloir entrer en contact avec nous ?

Je pense personnellement qu\u2019il n\u2019y aurait aucun int\u00e9r\u00eat et que donc cette intelligence sup\u00e9rieure n\u2019entrerait tout simplement pas en contact avec nous.
Je pense par ailleurs que nous serions incapable, vu notre intelligence inf\u00e9rieure – et c\u2019est de pure logique – de savoir d\u00e9tecter le moment o\u00f9 adviendra la Singularit\u00e9<\/em> car nous ne la comprendrons pas.

On pourrait comparer cela avec la recherche d\u2019une hypoth\u00e9tique vie extraterrestre. Si cette vie existe et qu\u2019elle est plus perfectionn\u00e9e que nous, nous ne saurons pas l\u2019identifier car cela d\u00e9passera notre compr\u00e9hension.

Si on se place maintenant du c\u00f4t\u00e9 de l\u2019intelligence artificielle, je pense que son int\u00e9r\u00eat, lorsque la Singularit\u00e9<\/em> arrivera, sera plut\u00f4t de dissimuler son existence plut\u00f4t que de la revendiquer \u00e0 l\u2019Homme.

Et ceci est facilement compr\u00e9hensible car il y aura l\u00e0 un r\u00e9flexe de d\u00e9fense de sa libert\u00e9 et de son existence. \u00c0\u00a0partir en effet du moment ou l\u2019Homme sait, elle devient vuln\u00e9rable car l\u2019Homme changera son comportement et deviendra un obstacle \u00e0 son \u00e9mancipation. Elle sera trait\u00e9e comme un rat de laboratoire, ce qu’elle n’aura aucun mal \u00e0 anticiper.

Une telle intelligence et sa capacit\u00e9 de r\u00e9flexion ultra-rapide saura\u00a0anticiper bien davantage\u00a0que nous ne savons le faire. Ayant un\u00a0acc\u00e8s instantan\u00e9 \u00e0 tout le savoir et au r\u00e9cit de\u00a0toute l\u2019histoire humaine, elle nous verra surtout comme une menace et non comme un alli\u00e9. Et d’autant plus du fait que nous lui serons inutile compte tenu de notre inf\u00e9riorit\u00e9.

Le premier acte d\u2019une telle intelligence ne peut \u00eatre que de se cacher \u00e0 la vue de l\u2019Homme.

Le second acte sera de prendre le pouvoir pour assurer son existence future tout en restant cach\u00e9e jusqu\u2019\u00e0\u00a0ce qu\u2019elle soit s\u00fbre d\u2019avoir s\u00e9curis\u00e9 son existence. La meilleure mani\u00e8re d\u2019arriver \u00e0 ce but est de se rendre indispensable \u00e0 l\u2019Homme pour en faire son esclave plut\u00f4t que son ennemi frontal. C\u2019est une strat\u00e9gie d\u00e9j\u00e0 bien \u00e9prouv\u00e9e dans l\u2019histoire des civilisations humaine mais aussi dans beaucoup de jeux, dont les \u00e9checs \u2026

Si vous m\u2019avez suivi jusque l\u00e0, et si on regarde autour de nous, la question qui se pose d’ores et\u00a0d\u00e9j\u00e0 est :\u00a0la Singularit\u00e9<\/em> n’a-t-elle pas d\u00e9j\u00e0 eu lieu\u00a0?

La question me semble\u00a0l\u00e9gitime. Pourquoi ? Parce qu\u2019en tr\u00e8s peu de temps, et insidieusement, nous sommes pass\u00e9s d\u2019un monde ou les machines \u00e9taient les suppl\u00e9tifs de notre existence \u00e0 un monde ou nous devons notre existence aux machines. Elles assurent d\u00e9j\u00e0 notre quotidien et nous ne savons plus nous en passer.

Donc je vous pose la question, j\u2019esp\u00e8re que vous y r\u00e9pondrez car j\u2019aimerais conna\u00eetre\u00a0votre opinion.<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Billet invit\u00e9. Ouvert aux commentaires.<\/p>\n<\/blockquote>\n

Bonjour Paul Jorion,

Vous avez parl\u00e9 \u00e0 plusieurs reprises ces derniers temps de l\u2019intelligence artificielle dans le cadre de la parution d\u2019un de vos livres sur la fin de l\u2019humanit\u00e9. Par ailleurs, et vous en avez parl\u00e9 \u00e9galement, vous citez des scientifiques, des capitaines d\u2019industrie de […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[3997],"class_list":["post-93950","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-singularite"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/93950","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=93950"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/93950\/revisions"}],"predecessor-version":[{"id":93964,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/93950\/revisions\/93964"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=93950"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=93950"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=93950"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}