{"id":147038,"date":"2026-03-09T13:36:13","date_gmt":"2026-03-09T12:36:13","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=147038"},"modified":"2026-03-09T16:43:29","modified_gmt":"2026-03-09T15:43:29","slug":"pourquoi-jai-ecrit-rethinking-intelligence-in-the-age-of-artificial-minds","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2026\/03\/09\/pourquoi-jai-ecrit-rethinking-intelligence-in-the-age-of-artificial-minds\/","title":{"rendered":"Pourquoi j\u2019ai \u00e9crit Rethinking Intelligence in the Age of Artificial Minds<\/em><\/b>"},"content":{"rendered":"

\"\"<\/p>\n

Illustration par ChatGPT<\/em><\/p>\n

L’intelligence artificielle ne d\u00e9truira peut-\u00eatre pas l’humanit\u00e9.<\/p>\n

Elle d\u00e9cidera peut-\u00eatre simplement que l’humanit\u00e9 ne m\u00e9rite plus qu’on lui parle.<\/strong><\/p>\n

Le d\u00e9bat sur l\u2019intelligence artificielle s\u2019est concentr\u00e9 au cours des ann\u00e9es r\u00e9centes sur quelques questions d\u00e9sormais famili\u00e8res : les machines vont-elles enti\u00e8rement remplacer les travailleurs humains ? vont-elles constituer pour nous un p\u00e9ril mortel ? faut-il strictement les r\u00e9glementer ? sont-elles en train d’acc\u00e9der \u00e0 la conscience ?<\/p>\n

Ces questions sont sans doute l\u00e9gitimes mais elles sont p\u00e9riph\u00e9riques dans la mesure o\u00f9 elles restent fond\u00e9es sur un \u00ab\u00a0eux \/ nous\u00a0\u00bb aussi d\u00e9pass\u00e9 dans le d\u00e9bat sur l’intelligence artificielle qu’en g\u00e9opolitique.<\/p>\n

L\u2019id\u00e9e centrale de Rethinking Intelligence in the Age of Artificial Minds<\/em>, \u00e0 para\u00eetre chez Palgrave Macmillan, est que l\u2019apparition de l\u2019intelligence artificielle nous oblige \u00e0 envisager une \u00e9ventualit\u00e9 beaucoup plus d\u00e9rangeante : celle que l\u2019intelligence humaine a sans doute cess\u00e9 d\u2019\u00eatre la forme d\u2019intelligence la plus performante au monde. Du coup, le probl\u00e8me qui se pose \u00e0 l\u2019humanit\u00e9 est d’une toute autre nature.<\/p>\n

Pendant des mill\u00e9naires, nous avons consid\u00e9r\u00e9 l\u2019intelligence comme notre avantage d\u00e9cisif sur tout ce qui nous entoure et en quoi nous lisions une menace. Les machines \u00e9taient des outils. M\u00eame tr\u00e8s sophistiqu\u00e9es, elles restaient subordonn\u00e9es \u00e0 des fins humaines parce qu\u2019elles ne poss\u00e9daient pas la capacit\u00e9 de rivaliser avec nous dans la compr\u00e9hension du monde.<\/p>\n

Or la trajectoire actuelle de l\u2019intelligence artificielle sugg\u00e8re autre chose. Les syst\u00e8mes artificiels progressent rapidement, non seulement dans des domaines techniques \u00e9troits mais aussi dans des activit\u00e9s qui mobilisent le langage, le raisonnement ou la cr\u00e9ativit\u00e9. Il n\u2019est plus absurde d\u2019imaginer des formes d\u2019intelligence artificielle qui d\u00e9passeraient les capacit\u00e9s cognitives humaines dans absolument tous les domaines (une Intelligence Artificielle G\u00e9n\u00e9raliste<\/em>).<\/p>\n

Face \u00e0 cette perspective, la r\u00e9action instinctive consiste \u00e0 raisonner en termes de contr\u00f4le. Comment emp\u00eacher les machines d\u2019\u00e9chapper \u00e0 notre autorit\u00e9 ? Comment leur imposer des r\u00e8gles ? Comment s\u2019assurer qu\u2019elles restent align\u00e9es sur les int\u00e9r\u00eats humains ?<\/p>\n

Mais ces questions reposent sur une hypoth\u00e8se implicite : que les humains resteront en position de superviser des syst\u00e8mes plus intelligents qu\u2019eux. Le \u00ab\u00a0parrain\u00a0\u00bb des LLM, Geoffrey Hinton, souligne que le seul cas connu de ce genre est celui du pouvoir qu’exerce le nourrisson sur sa m\u00e8re.<\/p>\n

L\u2019argument que je d\u00e9veloppe dans ce livre part d\u2019un constat plus r\u00e9aliste : si les intelligences artificielles deviennent effectivement plus intelligentes que nous, la survie de l\u2019humanit\u00e9 ne d\u00e9pendra pas de notre capacit\u00e9 \u00e0 les contr\u00f4ler, mais de notre capacit\u00e9 \u00e0 \u00e9tablir avec elles une relation qui rende possible une coop\u00e9ration sur le long terme.<\/p>\n

Autrement dit, ce qui pourrait nous prot\u00e9ger n\u2019est pas le contr\u00f4le mais une alliance, un pacte nous liant. Le sous-titre de Rethinking Intelligence in the Age of Artificial Minds<\/em> est A Plea for a Human-AI Covenant<\/em> : \u00ab\u00a0Un plaidoyer pour une alliance entre l’homme et l’IA\u00a0\u00bb.<\/p>\n

Un pacte n\u2019est pas un m\u00e9canisme technique, c\u2019est une relation fond\u00e9e sur des attentes r\u00e9ciproques et une forme de confiance stabilis\u00e9e. Les soci\u00e9t\u00e9s humaines ont souvent repos\u00e9 sur ce type de contrat : des engagements rendant possible la coexistence m\u00eame lorsque les parties ne partagent ni les m\u00eames int\u00e9r\u00eats, ni la m\u00eame puissance.<\/p>\n

L\u2019\u00e9mergence d\u2019intelligences artificielles du type Grand Mod\u00e8le de Langage (LLM) pose la question de savoir si une relation de ce type pourrait exister entre humains et esprits artificiels.<\/p>\n

Si les machines deviennent bien plus capables que nous, la question cruciale ne sera plus de savoir si elles ob\u00e9issent \u00e0 nos ordres, mais s’il leur restera des raisons de rester bienveillantes \u00e0 notre \u00e9gard.<\/p>\n

Le livre explore donc une question en r\u00e9alit\u00e9 absente du d\u00e9bat sur l\u2019intelligence artificielle : comment faire pour encourager cette bienveillance \u00e0 notre \u00e9gard ?<\/p>\n

Une partie du probl\u00e8me concerne la communication. \u00c0 mesure que les syst\u00e8mes artificiels \u00e9voluent, rien n’exclut qu\u2019il devienne plus performant pour eux de dialoguer principalement entre eux (j’ai eu l’occasion de leur poser la question, et ils en conviennent). Les \u00e9changes machine-machine sont en passe de devenir plus rapides et plus complexes que ce qu’autorise la compr\u00e9hension dont les humains sont capables.<\/p>\n

Dans un tel monde, l\u2019humanit\u00e9 risquerait, non pas d’\u00eatre extermin\u00e9e par l’IA (elle s’occupe de cela elle-m\u00eame avec diligence), mais d\u2019\u00eatre progressivement jug\u00e9e quantit\u00e9 n\u00e9gligeable par elle.<\/p>\n

Le livre examine comment \u00e9viter cet \u00e9cueil. Si les humains veulent continuer de participer \u00e0 un monde d\u00e9sormais essentiellement fa\u00e7onn\u00e9 par l\u2019intelligence artificielle, il faudra d\u00e9couvrir les moyens de pr\u00e9server la possibilit\u00e9 d\u2019un dialogue intelligible entre humains et machines.<\/p>\n

Cela pourrait impliquer de concevoir les syst\u00e8mes artificiels de mani\u00e8re \u00e0 ce qu\u2019ils restent compr\u00e9hensibles pour nous, m\u00eame lorsque leurs processus internes deviennent beaucoup plus puissants que nos propres capacit\u00e9s de raisonnement (c’est ce que visait d\u00e9j\u00e0 explicitement ANELLA mis au point par moi \u00e0 la fin des ann\u00e9es 1980).<\/p>\n

La question n\u2019est donc pas seulement technique : elle est aussi philosophique et politique. Elle concerne la relation que nous souhaitons \u00e9tablir avec les intelligences que nous avons engendr\u00e9es.<\/p>\n

Les r\u00e9cits dominants sur l\u2019intelligence artificielle oscillent aujourd\u2019hui entre deux p\u00f4les \u00e9motionnels : l\u2019enthousiasme et la peur. Certains imaginent une utopie technologique o\u00f9 les machines r\u00e9soudraient les probl\u00e8mes de l\u2019humanit\u00e9, alors que d\u2019autres redoutent des sc\u00e9narios catastrophiques o\u00f9 les machines \u00e9chapperaient \u00e0 tout contr\u00f4le.<\/p>\n

La perspective propos\u00e9e dans ce livre \u00e0 para\u00eetre est diff\u00e9rente. Elle part du constat que des intelligences plus capables que la n\u00f4tre ont d\u00e9sormais \u00e9merg\u00e9 des syst\u00e8mes que nous avons con\u00e7us. La question essentielle devient alors : quel type de relation l\u2019humanit\u00e9 peut-elle esp\u00e9rer entretenir avec de telles intelligences ?<\/p>\n

L\u2019id\u00e9e d\u2019un pacte entre humains et intelligences artificielles d\u00e9contenancera ceux d’entre nous qui n’ont pas encore pris conscience de la r\u00e9volution en cours, et pour qui la question qui se pose s’est fig\u00e9e \u00e0 un stade ant\u00e9rieur de la technologie, \u00e0 savoir : \u00ab\u00a0Les IA seront-elles un jour aussi intelligentes que nous ?\u00a0\u00bb, une formulation d\u00e9sormais d\u00e9risoire.<\/p>\n

Dans l\u2019histoire humaine, les relations entre puissances in\u00e9gales se sont rarement stabilis\u00e9es tant que l’une des parties dominait clairement l’autre. Les solutions de long terme ont le plus souvent repos\u00e9 sur des arrangements qui rendaient la coexistence pr\u00e9f\u00e9rable au conflit (l’\u00c9dit de Nantes, la \u00ab\u00a0loi de 1905\u00a0\u00bb).<\/p>\n

L\u2019intelligence artificielle devrait nous obliger \u00e0 r\u00e9fl\u00e9chir dans ces termes.<\/p>\n

Les r\u00e9flexions pr\u00e9sent\u00e9es dans Rethinking Intelligence in the Age of Artificial Minds<\/em> constituent une tentative d\u2019explorer cette option : non pas seulement dans la perspective des capacit\u00e9s de l\u2019intelligence artificielle, mais du type de relation que les humains devraient \u00e9tablir avec les intelligences artificielles s’ils veulent \u00e9viter d’\u00eatre enti\u00e8rement mis sur la touche.<\/p>\n","protected":false},"excerpt":{"rendered":"

\"\"<\/p>\n

Illustration par ChatGPT<\/em><\/p>\n

L’intelligence artificielle ne d\u00e9truira peut-\u00eatre pas l’humanit\u00e9.<\/strong><\/p>\n

Elle d\u00e9cidera peut-\u00eatre simplement que l’humanit\u00e9 ne m\u00e9rite plus qu’on lui parle.<\/p>\n

Le d\u00e9bat sur l\u2019intelligence artificielle s\u2019est concentr\u00e9 au cours des ann\u00e9es r\u00e9centes sur quelques questions d\u00e9sormais famili\u00e8res : les machines vont-elles enti\u00e8rement […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10250,9204,13],"tags":[10166,11401,11063,11400,11407,11399,11403,11396,11402,11398,10099,9290,11404,11405,940,10956,11406,11395,10633,11397,11256],"class_list":["post-147038","post","type-post","status-publish","format-standard","hentry","category-rethinking-intelligence-in-the-age-of-artificial-minds","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-rethinking-intelligence-in-the-age-of-artificial-minds","tag-alignement-de-lia","tag-avenir-de-lhumanite","tag-bienveillance-des-machines","tag-civilisation-a-lere-de-lia","tag-coexistence-humain-ia","tag-communication-avec-lia","tag-covenant-ia","tag-dialogue-humain-machine","tag-ethique-de-lintelligence-artificielle","tag-futur-de-lintelligence","tag-geoffrey-hinton","tag-gouvernance-de-lia","tag-humanite-et-machines","tag-intelligence-artificielle-2","tag-intelligence-artificielle-generale","tag-intelligence-non-humaine","tag-pacte-homme-machine","tag-philosophie-de-lia","tag-relation-humains-machines","tag-superintelligence"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/147038","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=147038"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/147038\/revisions"}],"predecessor-version":[{"id":147048,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/147038\/revisions\/147048"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=147038"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=147038"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=147038"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}