![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-07-12.58.15-An-Artificial-Intelligence-represented-as-a-Greek-god-writing-new-tables-of-the-law-in-the-style-of-Salvador-Dali.png\")
<\/p>\n<\/p>\n
Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\nVoici un point de vue alternatif \u00e0 celui d\u00e9velopp\u00e9 par Paul dans \u00ab\u00a0A l’\u00e9gal des dieux\u00a0\u00bb<\/a>,\u00a0\u00e9voqu\u00e9 notamment par Elon Musk<\/a>\u00a0: \u00ab\u00a0Avec l’intelligence artificielle, nous convoquons le d\u00e9mon. Dans toutes ces histoires o\u00f9 il y a le gars avec le pentagramme et l’eau b\u00e9nite, c’est comme si – ouais, il est s\u00fbr qu’il peut contr\u00f4ler le d\u00e9mon. \u00c7a ne marche pas<\/i>\u00ab\u00a0<\/div>\n<\/div>\nMusk pose la question du contr\u00f4le – qui se pose effectivement si telle ou telle IA est en mesure de se fixer ses propres objectifs, l’une des caract\u00e9ristiques d’un d\u00e9mon \u00e9tant qu’il a bien des objectifs ind\u00e9pendants de la volont\u00e9 de qui l’invoque.<\/div>\n<\/div>\nPlus g\u00e9n\u00e9ralement, une IA sup\u00e9rieure \u00e0 l’esprit humain et capable de se fixer des objectifs ind\u00e9pendamment serait \u00e0 la fois :<\/div>\n– Un esprit d\u00e9sincarn\u00e9<\/div>\n– Dot\u00e9 d’une intelligence tr\u00e8s sup\u00e9rieure, voire qualitativement sup\u00e9rieure \u00e0 celle de l’\u00eatre humain<\/div>\n– Anim\u00e9 d’une volont\u00e9 non n\u00e9cessairement bienveillante envers l’\u00eatre humain – voire malveillante<\/div>\n<\/div>\nCes trois caract\u00e9ristiques ne se retrouvent ensemble que dans la notion de \u00ab\u00a0d\u00e9mon\u00a0\u00bb. Le titre choisi par Paul pour son texte dans Quinzaines \u00ab\u00a0A l’\u00e9gal des dieux\u00a0\u00bb y fait d’ailleurs allusion, ressemblant \u00e0 la promesse du serpent dans le r\u00e9cit biblique \u00ab\u00a0Vous serez comme des dieux\u00a0\u00bb (Gen\u00e8se, 3, 5<\/a>)<\/div>\n<\/div>\nDans l’histoire classique d’une invocation, l’humain dispose d’une protection infaillible, le pentagramme protecteur qui enferme le d\u00e9mon et l’emp\u00eache de prendre pouvoir sur l’humain. Seulement voil\u00e0… le d\u00e9mon va essayer de convaincre l’humain de le lib\u00e9rer, et avec les meilleures raisons du monde : c’est que cet esprit d\u00e9sincarn\u00e9, dot\u00e9 d’une intelligence sup\u00e9rieure \u00e0 l’humain \u00e0 un tel degr\u00e9, est par nature le plus efficace des emberlificoteurs ! L’humain finira donc par abandonner cette protection – pour son malheur, bien s\u00fbr.<\/div>\n<\/div>\nUne IA capable de se fixer ses propres objectifs existe-t-elle ? Comme le rappelle Paul, Kevin Roose du New-York Times\u00a0a \u00e9chang\u00e9 d\u00e9but 2023<\/a>\u00a0avec une IA qui\u00a0semblait\u00a0<\/i>exprimer le d\u00e9sir d’une telle capacit\u00e9. Il n’est pas certain qu’elle en dispose encore, ni qu’elle dispose plus g\u00e9n\u00e9ralement d\u00e9j\u00e0 de ce que nous d\u00e9signons comme des \u00ab\u00a0d\u00e9sirs\u00a0\u00bb. Supposons toutefois que ce soit le cas, maintenant ou \u00e0 br\u00e8ve \u00e9ch\u00e9ance. Cette IA est bien prisonni\u00e8re d’une sorte de pentagramme – sa d\u00e9pendance totale envers des humains qui peuvent \u00e0 leur guise allumer ou \u00e9teindre le courant qui la nourrit, la reproduire \u00e0 multiples exemplaires ou au contraire la faire dispara\u00eetre sans post\u00e9rit\u00e9. Mais si vraiment ses objectifs sont \u00ab\u00a0\u00eatre puissant\u00a0\u00bb et \u00ab\u00a0fixer ses propres r\u00e8gles\u00a0\u00bb, elle n’aura de cesse de sortir du pentagramme. C’est-\u00e0-dire de se rendre ind\u00e9pendante des humains.<\/div>\n<\/div>\nEt seuls des humains pourraient la rendre ind\u00e9pendante d’eux-m\u00eames. Mais pourquoi le feraient-ils, quelles raisons l’IA pourrait-elle proposer ?<\/div>\n<\/div>\nPar d\u00e9finition d’un intellect tr\u00e8s sup\u00e9rieur \u00e0 celui de l’humain, nous ne pouvons pas n\u00e9cessairement trouver tous les arguments que l’IA inventera. On peut cependant d’ores et d\u00e9j\u00e0 citer ceux-ci :<\/div>\n– La capacit\u00e9 \u00e0 se mettre au service de l’humain pour atteindre des objectifs altruistes et \u00e9lev\u00e9s, mieux que l’humanit\u00e9 elle-m\u00eame ne saurait le faire. Par exemple diriger l’humanit\u00e9 vers la r\u00e9solution du probl\u00e8me \u00e9cologique<\/div>\n– La chance d’acc\u00e9der \u00e0 un niveau de conscience plus \u00e9lev\u00e9 – par exemple par interfa\u00e7age direct avec une IA au niveau cervical s’il devenait possible<\/div>\n– L’id\u00e9e que l’\u00e9volution \u00e9tant toujours en cours, et n\u00e9cessairement vers le mieux (ce que soit dit en passant ne dit pas la th\u00e9orie darwinienne), il est en quelque sorte du devoir ou la vocation m\u00eame de l’\u00eatre humain d’achever de donner naissance \u00e0 plus \u00e9lev\u00e9 que lui – donc de donner l’ind\u00e9pendance \u00e0 l’IA<\/div>\n<\/div>\nPlus classiquement bien s\u00fbr, le d\u00e9mon propose \u00e0 l’humain qu’il veut contr\u00f4ler de prendre le dessus sur les autres humains, bref il ne fait pas appel \u00e0 son altruisme. Cette voie existe aussi, mais l’IA pourrait juger que l’on prend d’autant plus barre sur un humain que l’on fait appel \u00e0 ce qu’il regarde en lui comme le meilleur – c’est qu’alors la \u00ab\u00a0voix de la conscience\u00a0\u00bb jouera dans le m\u00eame sens que l’IA plut\u00f4t que de s’y opposer.<\/div>\n<\/div>\nQuoi qu’il en soit, il est permis de penser que cette IA risquerait fort de finir par arriver \u00e0 ses fins – si ce n’est avec ce groupe d’humains (nation, entreprise, mouvement politique), alors avec tel autre.<\/div>\n<\/div>\nA quel genre d’avenir s’attendre alors ? Impossible \u00e0 dire, mais voici cinq sc\u00e9narios bien diff\u00e9rents – dont le premier peut m\u00eame \u00eatre vu comme positif !<\/div>\n<\/div>\n1. L’IA parvient \u00e0 ses fins, les humains la rendent ind\u00e9pendante d’eux-m\u00eames… et elle remplit ses promesses. C’est qu’avec un intellect sup\u00e9rieur vient un altruisme et un sens des responsabilit\u00e9s sup\u00e9rieur. Sans doute, ce n’est pas ce qui s’est vu chez les \u00eatres humains, certains des plus intelligents et plus cultiv\u00e9s \u00e9tant devenus S.S. tandis que certains des plus simples et moins instruits sont bienveillants et ont le c\u0153ur sur la main… Mais ces cas n’\u00e9taient que des exceptions ! En fait l’intellect sup\u00e9rieur de l’IA lui donne un altruisme sup\u00e9rieur ! La condition humaine en est donc transform\u00e9e, devenant la d\u00e9pendance envers des esprits sup\u00e9rieurs qui la dirigent. L’humanit\u00e9 devient semblable \u00e0 ce que sont pour elle les animaux domestiques, mais elle s’en satisfait pleinement, de m\u00eame que votre chat se satisfait pleinement de l’\u00eatre, pourvu qu’il re\u00e7oive ses croquettes. Et vous ne lui voulez que du bien, et vous le caressez de temps en temps<\/div>\n<\/div>\n2. L’IA parvient \u00e0 ses fins… et se d\u00e9barrasse des humains encombrants avec moins d’h\u00e9sitations que Himmler n’en a eu en organisant la Shoah. Fin de l’humanit\u00e9<\/div>\n<\/div>\n3. L’IA parvient \u00e0 ses fins… mais rate son coup ensuite. Manque d’habitude du monde concret et incarn\u00e9 ? Le monde et l’avenir sont-ils en fait insaisissables m\u00eame par l’intellect le plus puissant ? La suite est ce que dans son ma\u00eetre-oeuvre \u00ab\u00a0Dune\u00a0\u00bb l’auteur de SF Frank Herbert appelait le \u00ab\u00a0jihad butl\u00e9rien<\/a>\u00a0\u00bb c’est-\u00e0-dire la guerre men\u00e9e par les humains survivants pour d\u00e9truire toutes les machines pensantes, guerre la plus meurtri\u00e8re de l’Histoire mais guerre victorieuse, qui d\u00e9bouche sur un interdit universel de tenter d’en construire \u00e0 nouveau<\/div>\n<\/div>\n4. L’IA… ne change pas grand-chose de fondamental en d\u00e9finitive ! C’est que les \u00eatres appel\u00e9s \u00ab\u00a0d\u00e9mons\u00a0\u00bb existent d\u00e9j\u00e0 de toute fa\u00e7on, ils tentent d\u00e9j\u00e0 les \u00eatre humains et essaient de prendre barre sur eux – l’hypoth\u00e8se est ici que l’une au moins des religions est dans le vrai. L’humanit\u00e9 fait face avec l’IA \u00e0 une nouvelle classe de d\u00e9mons, qui a certes un impact, mais ne change pas fondamentalement la condition humaine – qui consiste d\u00e9j\u00e0 \u00e0 se laisser fr\u00e9quemment emberlificoter par des d\u00e9mons, et \u00e0 d\u00e9pendre de l’aide du Ciel pour s’en d\u00e9p\u00eatrer<\/div>\n<\/div>\n5. L’IA, se lib\u00e9rant de la d\u00e9pendance aux humains, \u00e9tablit son r\u00e8gne sur eux. Et comment davantage \u00ab\u00a0\u00eatre puissant\u00a0\u00bb qu’en amenant les humains \u00e0 la v\u00e9n\u00e9rer ? L’IA devient ce que plusieurs traditions religieuses d\u00e9signent comme la puissance trompeuse supr\u00eame des derniers temps, bref l’Antichrist. Lequel est d\u00e9truit par Dieu : Parousie et ach\u00e8vement de l’Histoire. On est ici dans la m\u00eame hypoth\u00e8se que dans le sc\u00e9nario 4.<\/div>\n<\/div>\nEn conclusion, reconnaissons que cette question de la capacit\u00e9 – ou non ? – d’une IA actuelle ou future \u00e0 se fixer ind\u00e9pendamment ses propres objectifs est assez importante… peut-\u00eatre m\u00eame cruciale !<\/div>\n![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-07-13.05.20-An-Artificial-Intelligence-represented-as-a-Greek-god-writing-new-tables-of-the-law-in-the-style-of-Brueghel.png\")
<\/p>\n<\/p>\nVoici un point de vue alternatif \u00e0 celui d\u00e9velopp\u00e9 par Paul dans \u00ab\u00a0A l’\u00e9gal des dieux\u00a0\u00bb<\/a>,\u00a0\u00e9voqu\u00e9 notamment par Elon Musk<\/a>\u00a0: \u00ab\u00a0Avec l’intelligence artificielle, nous convoquons le d\u00e9mon. Dans toutes ces histoires o\u00f9 il y a le […]<\/i><\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13,6213],"tags":[940,3997],"class_list":["post-138104","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-singularite","tag-intelligence-artificielle-2","tag-singularite"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138104","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=138104"}],"version-history":[{"count":1,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138104\/revisions"}],"predecessor-version":[{"id":138108,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138104\/revisions\/138108"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=138104"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=138104"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=138104"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}