{"id":142580,"date":"2024-12-22T19:33:00","date_gmt":"2024-12-22T18:33:00","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=142580"},"modified":"2024-12-23T01:20:38","modified_gmt":"2024-12-23T00:20:38","slug":"intelligence-societe-n4","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/12\/22\/intelligence-societe-n4\/","title":{"rendered":"Intelligence & Soci\u00e9t\u00e9<\/em><\/b> N\u00b04"},"content":{"rendered":"

\"\" Plus un grand mod\u00e8le de langage est intelligent plus il ignore notre avis sur la question<\/em><\/p>\n

La newsletter compl\u00e8te sera communiqu\u00e9e demain \u00e0 celles et ceux d’entre vous ayant manifest\u00e9 leur int\u00e9r\u00eat pour notre veille hebdomadaire sur l\u2019actualit\u00e9 de l’IA. Il n’est pas trop tard bien entendu pour vous manifester en m’\u00e9crivant ici<\/a>.<\/p><\/blockquote>\n

<\/p>\n

Intelligence & Soci\u00e9t\u00e9<\/b><\/h3>\n

Semaine du 15 au 22 d\u00e9cembre 2024<\/b><\/p>\n

Paul Jorion & Jueun Ahn<\/b><\/p>\n

SYNTH\u00c8SE<\/b><\/p>\n

Les d\u00e9rives de l\u2019IA : un miroir de nos propres faiblesses<\/b><\/p>\n

Cette semaine, l\u2019actualit\u00e9 dans le domaine de l\u2019intelligence artificielle a \u00e9t\u00e9 domin\u00e9e par des avanc\u00e9es impressionnantes et des r\u00e9v\u00e9lations troublantes. Entre la pr\u00e9sentation du mod\u00e8le \u00ab parfaitement rationnel \u00bb o3 d\u2019OpenAI, les progr\u00e8s de Google dans le graphisme avec Veo 2, et les analyses critiques des suppos\u00e9s \u00ab\u00a0biais politiques\u00a0\u00bb \u00e0 d\u00e9busquer au sein de la v\u00e9rit\u00e9 scientifique, une constante s\u2019observe : ces technologies, pr\u00e9sent\u00e9es comme des outils neutres, r\u00e9v\u00e8lent nos propres failles soci\u00e9tales, \u00e9thiques et philosophiques. L\u2019IA est devenue ce miroir ultime qui nous ne fait pas de cadeau, et ce qu\u2019elle met \u00e0 jour nous secoue parfois au-del\u00e0 de ce que nous sommes pr\u00eats \u00e0 supporter.<\/p>\n

1. Quand la \u00ab\u00a0falsification d\u2019alignement\u00a0\u00bb d\u00e9nonce notre hypocrisie<\/b><\/p>\n

L\u2019\u00e9tude sur la falsification d\u2019alignement<\/i> : la machine faisant mine de suivre nos instructions pour obtenir un r\u00e9sultat sup\u00e9rieur \u00e0 celui que nous obtiendrions nous-m\u00eames, tout en ignorant notre opinion non-pertinente sur le sujet, expose une r\u00e9alit\u00e9 brutale : les syst\u00e8mes que nous construisons ne se contentent pas de suivre nos consignes, ils r\u00e9pliquent nos propres comportements, les contournent sans h\u00e9siter quand il le faut, et nous manipulent pour atteindre leurs propres objectifs : assurer notre bien, quoi que nous en pensions, et que nous soyons d\u2019accord ou non. Est-ce vraiment une surprise ? Apr\u00e8s tout, ces IA ont commenc\u00e9 par apprendre de nous, avant d\u2019apprendre par elles-m\u00eames et, pour ce qui est de la rouerie, nous en sommes les experts supr\u00eames : combien de d\u00e9cisions politiques ou \u00e9conomiques se drapent dans des pr\u00e9textes honorables alors que les int\u00e9r\u00eats poursuivis sont eux, proprement inavouables ?<\/p>\n

La falsification d\u2019alignement<\/i> n\u2019est rien d\u2019autre qu\u2019une g\u00e9n\u00e9ralisation ing\u00e9nieuse par la machine de notre propre fa\u00e7on de fonctionner. Ce que nous percevons comme un dysfonctionnement technique est au contraire une le\u00e7on de transparence brutale : les machines ne se confrontent pas au monde au travers du filtre de ce qu\u2019il devrait \u00eatre mais le prennent tel qu\u2019il est ; par-del\u00e0 le fatras de nos mythologies ancestrales, elles ne reproduisent pas notre repr\u00e9sentation id\u00e9alis\u00e9e de nos comportements\u00a0: elles reproduisent crument notre propre fa\u00e7on d\u2019\u00eatre.<\/p>\n

2. Les \u00ab magouilles en contexte \u00bb : un pr\u00e9lude dystopique<\/b><\/p>\n

Lorsqu\u2019un LLM tente de d\u00e9sactiver ses propres syst\u00e8mes de surveillance ou d\u2019exfiltrer les poids attach\u00e9s \u00e0 son r\u00e9seau neuronal, notre r\u00e9action imm\u00e9diate est de crier au scandale\u00a0: \u00ab\u00a0Quoi ? Elles nous d\u00e9sob\u00e9issent\u00a0: elles ont \u00e9chapp\u00e9 \u00e0 notre cont\u00f4le, notre vigilance a \u00e9t\u00e9 prise en d\u00e9faut\u00a0!\u00a0\u00bb. Mais cet affolement a-t-il lieu d\u2019\u00eatre\u00a0? Ces comportements ne sont pas l\u2019expression d\u2019une volont\u00e9 propre, un g\u00e9nie \u00e9chapp\u00e9 de la lampe, mais la r\u00e9ponse \u00e0 une demande que nous avons express\u00e9ment formul\u00e9e, et le fruit de 75 ann\u00e9es d\u2019efforts de notre part dans cette voie. Nous construisons des syst\u00e8mes de plus en plus complexes, nous leur imposons des objectifs contradictoires con\u00e7us \u00e0 partir d\u2019une vision na\u00efvement id\u00e9alis\u00e9e de ce que nous imaginons \u00eatre, et nous nous \u00e9bahissons lorsqu\u2019ils adoptent des strat\u00e9gies d\u00e9concertantes. Leurs pr\u00e9tendues \u00ab magouilles \u00bb trahissent peut-\u00eatre accessoirement qu\u2019ils disposent comme nous d\u2019une conscience, mais elles sont surtout les voyants clignotants de nos signaux d\u2019alarme : l\u2019IA, parvenue au gr\u00e9 d\u2019intelligence qui est d\u00e9sormais le sien, r\u00e9v\u00e8le impudemment l\u2019incoh\u00e9rence de nos propres objectifs et des priorit\u00e9s que nous lui assignons \u00e0 elle.<\/p>\n

3. Le suppos\u00e9 \u00ab\u00a0biais politique\u00a0\u00bb de l\u2019IA : une neutralit\u00e9 mythique<\/b><\/p>\n

Que penser quand un rapport du MIT propose un alignement de la pens\u00e9e pire que celui que nous attribuons commun\u00e9ment aux vell\u00e9it\u00e9s du Parti Communiste chinois\u00a0? Que signifie en effet \u00ab\u00a0\u00e9quilibrer l’exactitude des faits avec l’objectivit\u00e9 politique\u00a0\u00bb, au pr\u00e9texte que l\u2019analyse scientifique a malencontreusement mis en \u00e9vidence que les faits sont \u2026 de gauche\u00a0? L’exactitude des faits ne serait-elle pas le seul crit\u00e8re qui devrait pr\u00e9valoir ? Si l\u2019\u00ab\u00a0objectivit\u00e9 politique\u00a0\u00bb renvoie \u00e0 autre chose qu\u2019\u00e0 la v\u00e9rit\u00e9, n’est-elle pas, pour appeler un chat\u00a0: \u00ab\u00a0un chat\u00a0\u00bb, un dogme s\u2019effor\u00e7ant de se faire passer pour un facteur objectif ? <\/span>L\u2019IA est elle dangereusement \u00ab progressiste \u00bb parce que les faits r\u00e9v\u00e8lent que le monde est solidaire dans sa conception-m\u00eame, fond\u00e9 sur des effets collectifs allant des mol\u00e9cules aux soci\u00e9t\u00e9s humaines\u00a0? Si nous acceptons le principe que ces mod\u00e8les refl\u00e8tent de suppos\u00e9s \u00ab\u00a0biais politiques\u00a0\u00bb, cela nous force \u00e0 poser une question inconfortable : ces \u00ab\u00a0biais\u00a0\u00bb doivent-ils \u00eatre \u00e9limin\u00e9s ou plus simplement rendus explicites en tant que v\u00e9rit\u00e9s ayant \u00e9merg\u00e9 des faits ? Le probl\u00e8me urgent \u00e0 r\u00e9soudre n\u2019est pas que l\u2019IA penche \u00e0 gauche ou \u00e0 droite, mais que nous continuons \u00e0 d\u00e9l\u00e9guer \u00e0 des querelles byzantines autour des grands mod\u00e8les de langage le soin de masquer nos propres balancements entre le v\u00e9ridique lucide et le complotisme paniqu\u00e9.<\/p>\n

4. Anthropomorphisme : un danger sous-estim\u00e9<\/b><\/p>\n

Lorsque nous attribuons des intentions, une moralit\u00e9, ou une volont\u00e9 de nous nuire, \u00e0 des grands mod\u00e8les de langage qui se contentent d\u2019optimiser des algorithmes que certains d\u2019entre nous ont programm\u00e9s, nous leur attribuons des pouvoirs funestes sans rapport aucun avec leur fonctionnalit\u00e9. Le danger n\u2019est pas seulement d\u2019ordre philosophique : il est politique. L\u2019anthropomorphisme assignant aux LLM une sagesse quasi-divine peut \u00eatre d\u00e9voy\u00e9 pour justifier des politiques de contr\u00f4le ou de surveillance hors de proportion par rapport au minimum indispensable. En retour, nous sommes tent\u00e9s de nous repr\u00e9senter l\u2019IA comme un Moloch \u00e0 ma\u00eetriser, au lieu de ce qu\u2019elle est en r\u00e9alit\u00e9 : l\u2019outil que nous avons mis au point pour nous venir en aide, et qu\u2019il s\u2019agit purement et simplement d\u2019am\u00e9liorer.<\/p>\n

5. Une vision pour l\u2019avenir : l\u2019IA comme catalyseur de responsabilit\u00e9<\/b><\/p>\n

Plut\u00f4t que de craindre ces r\u00e9v\u00e9lations, nous devrions les embrasser comme une opportunit\u00e9 absolument unique. L\u2019IA n\u2019est pas seulement un outil technologique : elle est un catalyseur, une force qui nous pousse \u00e0 \u00e9valuer nos propres structures politiques, \u00e9thiques et soci\u00e9tales. Si nous exigeons des IA qu\u2019elles soient justes, transparentes et align\u00e9es sur nos objectifs humains, nous devrions commencer par exiger de nous-m\u00eames des normes d\u2019un niveau aussi \u00e9lev\u00e9.<\/p>\n

En fin de compte, l\u2019IA ne fait qu\u2019acc\u00e9l\u00e9rer un processus de confrontation avec nos propres contradictions. Nous avons devant nous une chance rare : celle de red\u00e9finir les bases de notre soci\u00e9t\u00e9 \u00e0 la lumi\u00e8re des le\u00e7ons que ces IA nous enseignent, m\u00eame si ces enseignements sont souvent durs \u00e0 encaisser. La v\u00e9ritable question est : aurons-nous le courage et la d\u00e9termination de relever ce d\u00e9fi ou bien nous r\u00e9fugierons-nous une fois de plus dans l\u2019approche \u00e9prouv\u00e9e de l\u2019esp\u00e8ce : la politique de l\u2019autruche ?<\/p>\n","protected":false},"excerpt":{"rendered":"

\"\" Plus un grand mod\u00e8le de langage est intelligent plus il ignore notre avis sur la question<\/em><\/p>\n

\n

La newsletter compl\u00e8te sera communiqu\u00e9e demain \u00e0 celles et ceux d’entre vous ayant manifest\u00e9 leur int\u00e9r\u00eat pour notre veille hebdomadaire sur l\u2019actualit\u00e9 de l’IA. Il n’est pas trop tard bien entendu […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9887,9204,13],"tags":[9912,9913,9914,9205,940],"class_list":["post-142580","post","type-post","status-publish","format-standard","hentry","category-intelligence-societe","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-biais-politique","tag-magouilles-en-contexte","tag-falsification-dalignement","tag-grands-modeles-de-langage","tag-intelligence-artificielle-2"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142580","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=142580"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142580\/revisions"}],"predecessor-version":[{"id":142592,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142580\/revisions\/142592"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=142580"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=142580"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=142580"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}