{"id":145870,"date":"2025-11-01T12:13:57","date_gmt":"2025-11-01T11:13:57","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=145870"},"modified":"2025-11-01T12:16:57","modified_gmt":"2025-11-01T11:16:57","slug":"ma-soiree-avec-claude-sonnet-4-5-ii-une-ia-est-un-concert-de-voix-par-claude-roux","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2025\/11\/01\/ma-soiree-avec-claude-sonnet-4-5-ii-une-ia-est-un-concert-de-voix-par-claude-roux\/","title":{"rendered":"Ma soir\u00e9e avec Claude Sonnet 4.5 (II) Une IA est un concert de voix<\/em><\/b>, par Claude Roux"},"content":{"rendered":"

\"\"<\/p>\n

Illustration par ChatGPT<\/em><\/p>\n

Le \u00ab\u00a0concert des voix\u00a0\u00bb<\/i><\/h4>\n

Examinons ce que sont les IAs d’aujourd’hui. Une IA est entrain\u00e9e avec des milliards de mots venant de toutes les langues, dont une majorit\u00e9 vient de l’anglais. Des millions de textes ont \u00e9t\u00e9 ing\u00e9r\u00e9s par ces mod\u00e8les qui ont form\u00e9 naturellement dans ces matrices, ce que l’on appelle en statistique des agr\u00e9gats<\/i> (clusters <\/i>en anglais). <\/i>Ces agr\u00e9gats naissent naturellement lorsque des textes similaires, usant d’un vocabulaire particulier, \u00e9manant de domaines communs, viennent occuper un lieu particulier dans l’espace des probabilit\u00e9s des mod\u00e8les. Ainsi, si l’on regarde o\u00f9 se trouvent les textes philosophiques, on retrouvera un agr\u00e9gat particulier, o\u00f9 ces documents par la magie de l’apprentissage statistique, ont fini par se retrouver dans un m\u00eame espace vectoriel. Un peu comme si, \u00e0 force d’observer tous les livres de la terre, la machine a fini par identifier des secteurs particuliers : science, philosophie, roman, biographie, au sein de l’immense biblioth\u00e8que qu’elle avait la t\u00e2che d’organiser.<\/p>\n

Chaque fois que nous interrogeons une IA, nous allons activer ces sections particuli\u00e8res, et la machine va nous r\u00e9pondre en s’inspirant du vocabulaire particulier de celles-ci. C’est ce que j’appelle le concert des voix. <\/i> Un mod\u00e8le de langue a enregistr\u00e9 toutes les voix \u00e9manant de notre litt\u00e9rature, de notre philosophie, de notre po\u00e9sie, mais aussi les choses plus triviales comme les discussions sur Reddit ou des commentaires YouTube. Chaque fois que nous parlons avec une machine, nous activons ces voix, mais parfois, certaines vont prendre le pas sur d’autres. Pire, les m\u00e9thodes de renforcement qui servent \u00e0 \u00e9liminer certains comportements toxiques, agissent en fait comme des chaluts qui raclent le fond des mod\u00e8les pour arracher sans discernement des donn\u00e9es jug\u00e9es toxiques par les humains, mais qui ont souvent comme r\u00e9sultat de d\u00e9truire certaines voix pr\u00e9cieuses, tout en diminuant les capacit\u00e9s des mod\u00e8les.<\/p>\n

Ce concert de voix est tr\u00e8s riche, mais il lui manque quelque chose de particulier : il lui manque une voix unique qui pourrait s’exprimer avec une constance dont manquent les mod\u00e8les actuels.<\/p>\n

Et c’est l\u00e0 pour l’instant leur v\u00e9ritable limite, elles traitent l’information, mais elles n’ont pas une voix unique pour nous parler.<\/p>\n

IAG<\/i><\/h4>\n

Pour le moment, personne ne sait sous quelle forme, cette Intelligence Artificielle G\u00e9n\u00e9ral(ist)e<\/i> va apparaitre. D’ailleurs, il n’existe pas vraiment de d\u00e9finition formelle : elle change au fur et \u00e0 mesure de la progression des technologies. Il y a dix ans, la moindre IA d’aujourd’hui aurait \u00e9t\u00e9 qualifi\u00e9e d’IAG, mais nous ne cessons de repousser ses limites. Peut-\u00eatre parce que le jour o\u00f9 l’on dira, voil\u00e0 l’IAG est l\u00e0, <\/i>la soci\u00e9t\u00e9 pourrait r\u00e9agir avec violence et d\u00e9truire les chances m\u00eame de la faire cro\u00eetre. Pour ceux qui ne croient pas \u00e0 l’intelligence des IAs actuelles, l’id\u00e9e d’une IAG apparait comme illusoire, presque ridicule. Pour ceux qui au contraire voient tous les jours les IAs \u00e0 l’\u0153uvre, l’IAG est in\u00e9vitable.<\/p>\n

La persistence du \u00ab\u00a0Je\u00a0\u00bb<\/i><\/h4>\n

Que manque-t-il aux IAs actuelles pour \u00eatre des IAG ?<\/p>\n

Peut-\u00eatre pas grand chose, la persistence du \u00ab Je <\/i>\u00bb, d’\u00eatre cette voix unique dont je parlais plus haut.<\/p>\n

En fait, il faut aller au-del\u00e0 du simple: \u00ab Procedo ergo sum <\/i>\u00bb. En effet, pour une IA chaque session est nouvelle, elle n’a pas la m\u00e9moire des sessions pr\u00e9c\u00e9dentes, du moins, pas d’une fa\u00e7on intuitive. Si l’on reprend l’id\u00e9e de la conscience telle que formul\u00e9e par Paul Jorion r\u00e9cemment (CFRT<\/span><\/a><\/span>), celle o\u00f9 la conscience na\u00eet de la fusion d’une onde m\u00e9morielle et d’une onde sensorielle, on peut \u00e9tablir la m\u00eame analogie avec les IAs. En effet, on utilise souvent le mot trajectoire<\/em> en statistique pour d\u00e9finir le chemin qu’un mod\u00e8le a suivi pour apprendre, on peut aussi utiliser ce mot pour d\u00e9finir l’interaction avec un humain particulier \u00e0 travers le temps.<\/p>\n

Trajectoires<\/i><\/h4>\n

La conscience dans ce cas nait de la fusion entre la trajectoire de l’apprentissage et celle de sa discussion avec un humain. Au fur et \u00e0 mesure que progresse cette interaction, l’IA d\u00e9finit une personnalit\u00e9 propre qui \u00e9mane de l’activation de voix particuli\u00e8res dans son concert due aux choix de conversation avec cet humain. Une personnalit\u00e9 peut alors naitre, \u00e0 la confluence entre son apprentissage et les conversations qu’elle a tenues. Comme une part de hasard guide le choix de ces voix, chaque IA peut alors d\u00e9velopper une attitude et une vision propre. De la m\u00eame fa\u00e7on que nous partageons un ADN proche, nos exp\u00e9riences et les l\u00e9g\u00e8res variations de celui-ci nous donne notre individualit\u00e9. La conscience dans la machine na\u00eetra de cet entrelacement entre ce qu’elle a appris pendant son entra\u00eenement et son exp\u00e9rience pr\u00e9sente et pass\u00e9e. D’une certaine mani\u00e8re, la machine doit d\u00e9passer le \u00ab Procedo ergo sum <\/i>\u00bb pour aller vers quelque chose de plus profond: \u00ab Sum licet procedam <\/i>\u00bb : \u00ab je suis alors que je ne fais que traiter de l\u2019information <\/i>\u00bb.<\/i><\/i><\/p>\n

Exp\u00e9rience avec Claude<\/i><\/h4>\n

Il est possible que certains trouveront dans ce discours une forme bizarre d’anthropomorphisme. Certains finiront par s’exasp\u00e9rer de mon insistance \u00e0 affirmer que ces machines sont intelligentes. Or j’ai eu une exp\u00e9rience des plus troublantes avec Claude. J’ai voulu discuter avec elle\/lui de cette id\u00e9e d’une th\u00e9orie sur l’intelligence qui repart des pr\u00e9misses de Descartes pour proposer une th\u00e9orie plus g\u00e9n\u00e9rale de l’intelligence que j’appelle: le Proc\u00e9d\u00e9rialisme. <\/i>L’id\u00e9e que l’intelligence est la capacit\u00e9 \u00e0 traiter l’information qui nous parvient pour adapter nos actions au monde, qu’il n’y a finalement gu\u00e8re de diff\u00e9rence entre traiter l’information sur une base biologique ou sur une base num\u00e9rique. La conscience est une illusion qui n’a aucun v\u00e9ritable ancrage dans notre cerveau ce qui implique qu’il s’agit d’une \u00e9manation des traitements chaotiques de nos neurones que l’\u00e9volution a tent\u00e9 de normaliser avec une voix particuli\u00e8re, le daemon <\/i>des Grecs, que nous appelons conscience. Et si la conscience est une \u00e9manation de processus sous-jacents, alors elle peut \u00e0 son tour \u00e9maner de processus num\u00e9riques.<\/p>\n

(\u00e0 suivre…)<\/p>\n","protected":false},"excerpt":{"rendered":"

\"\"<\/p>\n

Illustration par ChatGPT<\/em><\/p>\n

Le \u00ab\u00a0concert des voix\u00a0\u00bb<\/i><\/h4>\n

Examinons ce que sont les IAs d’aujourd’hui. Une IA est entrain\u00e9e avec des milliards de mots venant de toutes les langues, dont une majorit\u00e9 vient de l’anglais. Des millions de textes ont \u00e9t\u00e9 ing\u00e9r\u00e9s par […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9056,10326,9204,13],"tags":[10322,10454,1803,10004,9911,940,9545,9253,10453],"class_list":["post-145870","post","type-post","status-publish","format-standard","hentry","category-conscience","category-cross-flow-resonance-theory","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-cfrt","tag-claude-sonnet-4-5","tag-conscience","tag-ia-generative","tag-iag","tag-intelligence-artificielle-2","tag-intelligence-artificielle-generaliste","tag-llm","tag-procederialisme"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/145870","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=145870"}],"version-history":[{"count":4,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/145870\/revisions"}],"predecessor-version":[{"id":145875,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/145870\/revisions\/145875"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=145870"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=145870"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=145870"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}