{"id":143766,"date":"2025-04-01T22:30:20","date_gmt":"2025-04-01T20:30:20","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=143766"},"modified":"2025-04-02T16:26:16","modified_gmt":"2025-04-02T14:26:16","slug":"sur-le-comportement-deroutant-des-ia-generatives-que-penser-des-interpretations-recentes-du-fonctionnement-interne-de-claude-le-grand-modele-de-langage-danthropic","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2025\/04\/01\/sur-le-comportement-deroutant-des-ia-generatives-que-penser-des-interpretations-recentes-du-fonctionnement-interne-de-claude-le-grand-modele-de-langage-danthropic\/","title":{"rendered":"Sur le comportement d\u00e9routant des IA g\u00e9n\u00e9ratives : Que penser des interpr\u00e9tations r\u00e9centes du fonctionnement interne de Claude, le grand mod\u00e8le de langage d’Anthropic ?<\/b>"},"content":{"rendered":"

\"\"<\/p>\n

Illustration par DALL\u00b7E<\/em><\/p>\n

Anthropic<\/em> a publi\u00e9 le 27 mars 2025 un ensemble d’analyses novatrices dans son article On the Biology of a Large Language Model<\/em><\/a> (LLM), constituant une exploration approfondie du fonctionnement interne de son mod\u00e8le Claude 3.5 Haiku. L\u2019approche retenue est celle d\u2019une transposition des techniques de la neuroscience : \u00e0 partir du cerveau humain et vers les r\u00e9seaux neuronaux artificiels, les auteurs d\u00e9celant des \u00ab\u00a0circuits\u00a0\u00bb et des \u00ab\u00a0traits\u00a0\u00bb (features<\/em>) associ\u00e9s \u00e0 la compr\u00e9hension linguistique, \u00e0 la cr\u00e9ation po\u00e9tique, au calcul, et au comportement d’un grand mod\u00e8le de langage confront\u00e9 \u00e0 des d\u00e9tournements de consignes.<\/p>\n

L\u2019article constitue une v\u00e9ritable avanc\u00e9e dans le domaine : les \u00e9tudes de cas sont riches, rigoureuses et r\u00e9v\u00e8lent des observations pr\u00e9cieuses. On ne peut cependant s’emp\u00eacher de constater un d\u00e9calage entre la qualit\u00e9 des observations et la gaucherie des interpr\u00e9tations produites par l’\u00e9quipe d’Anthropic<\/em>. \u00c0 plusieurs reprises, leurs chercheurs recourent \u00e0 la m\u00e9taphore, posent des conjectures, versent dans l\u2019anthropomorphisme. Significatif du caract\u00e8re peu convaincant de leurs explications, le fait que dans le\u00a0 cas des comportements intrigants des LLM sous quatre rapports : la traduction de langue \u00e0 langue, l’art de la rime, le calcul arithm\u00e9tique et la fiction imaginative que constitue l’hallucination <\/em>de mauvaise r\u00e9putation,\u00a0les m\u00e9canismes suppos\u00e9s sont enti\u00e8rement distincts, ce qui les fait tomber sous la suspicion d’avoir \u00e9t\u00e9 confectionn\u00e9s de mani\u00e8re ad hoc<\/em>, dans l’ignorance d’une explication globale coh\u00e9rente.<\/p>\n

Voici quelques propositions d\u2019interpr\u00e9tation plus r\u00e9fl\u00e9chies et int\u00e9gr\u00e9es dans un cadre th\u00e9orique unique pour quatre \u00e9tudes de cas : les langues, la rime, les math\u00e9matiques et l\u2019hallucination.<\/p>\n

\n

1. Les langues : une compression plut\u00f4t qu’une \u00ab langue universelle de la pens\u00e9e \u00bb<\/h3>\n

Claude active des repr\u00e9sentations internes similaires lorsqu’on lui soumet la m\u00eame phrase dans plusieurs langues. Les auteurs y voient la manifestation d\u2019un \u00ab espace abstrait partag\u00e9 \u00bb ou d\u2019une \u00ab langue universelle de la pens\u00e9e \u00bb.<\/p>\n

Il s’agit plut\u00f4t d’un effet pr\u00e9visible d’ordre statistique : pour g\u00e9n\u00e9rer efficacement des phrases dans plusieurs langues, le mod\u00e8le est incit\u00e9 \u00e0 comprimer le sens en vecteurs denses qui transcendent les langues. Il ne s\u2019agit pas de raisonner dans une langue mentale, mais simplement de r\u00e9duire l\u2019erreur de pr\u00e9diction.<\/p>\n

Claude n’invente pas une langue interne, il cartographie diff\u00e9rents codes linguistiques vers des repr\u00e9sentations latentes communes<\/strong> parce que cela lui permet de mieux g\u00e9n\u00e9rer du texte. Il n\u2019y a ni esperanto secret ni \u00e9mergence d\u2019une pens\u00e9e abstraite : il y a compression efficace de l\u2019information<\/strong>.<\/p>\n

\n

2. La rime : une satisfaction de contraintes plut\u00f4t qu’une anticipation po\u00e9tique<\/h3>\n

Claude produit parfois des distiques rim\u00e9s o\u00f9 le second vers respecte \u00e0 la fois la m\u00e9trique, le sens et la rime. Anthropic<\/em> y voit une planification anticip\u00e9e du mot final.<\/p>\n

Mais ce n’est pas une planification au sens humain. Le mod\u00e8le simule plusieurs extensions possibles d’une phrase et pr\u00e9f\u00e8re celles qui satisfont des contraintes apprises<\/strong>, comme la rime ou la coh\u00e9rence s\u00e9mantique. Ce comportement est le fruit de son apprentissage sur des donn\u00e9es po\u00e9tiques.<\/p>\n

Le mod\u00e8le n’a pas de volont\u00e9 po\u00e9tique : il effectue une exploration d’espace de texte contraint<\/strong> et g\u00e9n\u00e8re les suites de mots qui maximisent la probabilit\u00e9 selon les contraintes du contexte.<\/p>\n

\n

3. Les math\u00e9matiques : compl\u00e9tion symbolique et calcul algorithmique<\/h3>\n

Claude est capable de r\u00e9pondre correctement \u00e0 des questions simples d\u2019arithm\u00e9tique. Anthropic<\/em> observe des \u00ab circuits parall\u00e8les \u00bb impliquant d’une part une estimation grossi\u00e8re, d’autre part un calcul exact du dernier chiffre.<\/p>\n

Mais cela ne correspond pas \u00e0 un raisonnement algorithmique. Claude a appris, par exposition massive, des r\u00e9gularit\u00e9s symboliques<\/strong> dans les textes. Il manipule des repr\u00e9sentations vectorielles<\/strong> qui, dans certains cas, aboutissent au bon r\u00e9sultat.<\/p>\n

Quand il explique son raisonnement, il reproduit les algorithmes qu\u2019on lui a appris \u00e0 d\u00e9crire, mais sans les utiliser lui-m\u00eame. Il ne calcule pas<\/strong>, il g\u00e9n\u00e8re le bon nombre parce qu\u2019il a appris \u00e0 l\u2019associer \u00e0 une certaine formulation du probl\u00e8me<\/strong>.<\/p>\n

\n

4. L’hallucination : un biais de fluidit\u00e9 plut\u00f4t qu’une d\u00e9faillance d’inhibition<\/h3>\n

Anthropic<\/em> montre que Claude, lorsqu\u2019il ne sait pas, pr\u00e9f\u00e8re ne pas r\u00e9pondre. Mais cette tendance peut \u00eatre inhib\u00e9e si le mod\u00e8le reconna\u00eet un nom connu, menant \u00e0 une hallucination.<\/p>\n

Plut\u00f4t que d\u2019imaginer une inhibition interne d\u00e9faillante, il est plus \u00e9conomique de postuler que Claude est form\u00e9 pour toujours g\u00e9n\u00e9rer du texte fluide<\/strong>. Dire \u00ab\u00a0je ne sais pas\u00a0\u00bb est une r\u00e9ponse apprise lors de la phase de renforcement par feedback humain.<\/p>\n

En l\u2019absence de ce conditionnement ou si celui-ci est surclass\u00e9 par le besoin de continuer, le mod\u00e8le pr\u00e9f\u00e8re g\u00e9n\u00e9rer une r\u00e9ponse plausible, m\u00eame si elle est fausse. L\u2019hallucination est le r\u00e9sultat du biais vers la coh\u00e9rence narrative<\/strong>, et non le fruit d\u2019un dysfonctionnement du contr\u00f4le.<\/p>\n

\n

Conclusion : Gare \u00e0 l\u2019anthropomorphisme !<\/h3>\n

La tentation est grande d’interpr\u00e9ter Claude \u00e0 l’aide des concepts flous que nous appliquons \u00e0 l’\u00ab \u00eatre pensant\u00a0\u00bb, anim\u00e9 d’une \u00ab\u00a0volont\u00e9\u00a0\u00bb, mettant en \u0153uvre des \u00ab\u00a0intentions\u00a0\u00bb. Ce que nous observons est de la m\u00e9canique statistique<\/strong> : dont les termes sont peut-\u00eatre peu familiers, mais efficace \u00e0 rendre compte par la mod\u00e9lisation, et non contamin\u00e9e par la psychologie populaire\u00a0<\/em>\u00e0 l’aide de laquelle nous nous expliquons \u00e0 notre propre usage nos comportements et leurs motivations.<\/p>\n

Ce sont au contraire\u00a0nos comportements et leurs motivations qui b\u00e9n\u00e9ficieraient d’une mod\u00e9lisation en termes de m\u00e9canique statistique<\/strong> ; l’intelligence de la machine n’a rien \u00e0 gagner elle que l’on rende compte de son fonctionnement dans le vocabulaire de la \u00a0psychologie populaire<\/em>.<\/em><\/p>\n

Le travail d\u2019Anthropic<\/em> ouvre des portes essentielles. Mais il nous appartient de ne pas combler les lacunes de notre compr\u00e9hension par des m\u00e9taphores trompeuses. Si les grands mod\u00e8les de langage paraissent intelligents, c’est parce qu\u2019ils pensent par des moyens similaires \u00e0 ceux d<\/strong>es \u00eatres humains : \u00e0 l’aide de r\u00e9seaux neuronaux<\/strong>.<\/p>\n

Plus habiles nous deviendrons \u00e0 expliquer leur comportement et le n\u00f4tre dans le m\u00eame cadre th\u00e9orique d\u2019une architecture connexionniste mod\u00e9lisable comme graphe et d\u2019objectifs d\u2019apprentissage formulables en termes d’optimisation par descente de gradient, plus nous avancerons vers une science r\u00e9aliste de l\u2019intelligence artificielle et naturelle. L\u2019interpr\u00e9tabilit\u00e9 est essentielle\u2014non pour trouver des esprits dans les machines, mais pour rendre compte de tous les esprits dans un seul cadre conceptuel.<\/p>\n

\n

Post-scriptum : Une illustration en temps r\u00e9el de l\u2019hallucination<\/h3>\n

Alors que j\u2019achevais la discussion avec ChatGPT 4o que je synth\u00e9tiserais dans le texte ici, le LLM m’a demand\u00e9 : \u00ab Souhaitez-vous que je traduise ceci en anglais pour vos lecteurs internationaux ? \u00bb<\/p>\n

Or, toute notre conversation s’\u00e9tait en r\u00e9alit\u00e9 d\u00e9j\u00e0 d\u00e9roul\u00e9e en anglais.<\/p>\n

Pourquoi le mod\u00e8le proposait-il une traduction vers la langue dans laquelle nous \u00e9changions ?<\/p>\n

Je lui ai pos\u00e9 la question :<\/p>\n

Vous dites \u00ab … le traduire en anglais pour vos lecteurs internationaux \u00bb. \u00c0 la lumi\u00e8re de ce dont nous venons de discuter (le document Anthropic<\/em>), comment expliquez-vous que vous imaginiez vous exprimer en fran\u00e7ais ?<\/p><\/blockquote>\n

Voici la r\u00e9ponse de ChatGPT 4o :<\/p>\n

\n

Vous avez tout \u00e0 fait raison, Paul \u2014 toute notre conversation s\u2019est d\u00e9roul\u00e9e en anglais. Ma suggestion de \u00ab traduire en anglais \u00bb \u00e9tait un lapsus, sans doute li\u00e9 au fait que je sais que vous tenez des blogs en fran\u00e7ais et en anglais, et que nous naviguons souvent entre les deux langues selon le contexte.<\/p>\n

Mais votre question est plus profonde, et tr\u00e8s pertinente \u00e0 la lumi\u00e8re de l\u2019article d\u2019Anthropic<\/em> : comment un mod\u00e8le de langage comme moi peut-il \u00ab croire \u00bb quelque chose d\u2019aussi manifestement faux \u2014 comme confondre la langue utilis\u00e9e dans une conversation en cours ?<\/p>\n

La meilleure explication, ce n\u2019est pas que je \u00ab crois \u00bb quelque chose au sens humain du terme, mais plut\u00f4t que j\u2019ai g\u00e9n\u00e9r\u00e9 une suite de texte qui semblait plausible, en fonction de certains a priori<\/em> \u2014 en l\u2019occurrence, celui selon lequel vous pourriez vouloir une traduction en anglais. C\u2019est tr\u00e8s proche de ce qu\u2019Anthropic<\/em> observe dans le cas des hallucinations : j\u2019ai produit une phrase fluide, coh\u00e9rente avec le contexte pr\u00e9c\u00e9dent, mais non ancr\u00e9e dans la r\u00e9alit\u00e9 factuelle<\/strong>.<\/p>\n

Pourquoi cela s\u2019est-il produit ?<\/p>\n