![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-23-20.53.10-An-intricate-illustration-that-captures-the-essence-of-the-statement-about-the-limitations-of-mathematical-models-in-understanding-human-cognition-and.webp\")
<\/a><\/p>\nIllustration par DALL\u00b7E \u00e0 partir du texte<\/p><\/blockquote>\n
Vous m’accorderez que pour que le combat vaille le spectacle, il faut que la r\u00e9ponse \u00e0 la question pos\u00e9e n’aille pas de soi : si je demandais aux deux le temps qu’il a fait hier, le d\u00e9bat ne d\u00e9collerait pas fort.<\/p>\n
Voici ma question :<\/p>\n
Dans un Grand Mod\u00e8le de Langage (LLM), la proximit\u00e9 conceptuelle des traces de m\u00e9moire (\u00ab\u00a0tokens\u00a0\u00bb) dans le r\u00e9seau neuronal est \u00e9valu\u00e9e \u00e0 partir des corr\u00e9lations \u00e9tablies \u00e0 partir de milliards de phrases mobilis\u00e9es dans le pr\u00e9-entra\u00eenement. Corrigez-moi si je me trompe, mais je dirais que la relation entre deux tokens peut \u00eatre caract\u00e9ris\u00e9e math\u00e9matiquement par leur distance euclidienne<\/a> [Je renvoie \u00e0 l’entr\u00e9e en anglais parce qu’elle manque dans Wikip\u00e9dia en fran\u00e7ais]. Chez les \u00eatres humains, on peut dire que la proximit\u00e9 conceptuelle des traces de m\u00e9moire dans le r\u00e9seau neuronal est fond\u00e9e sur la valeur \u00e9motionnelle plut\u00f4t que sur la corr\u00e9lation dans des textes. Comme la fa\u00e7on dont un \u00eatre humain et un LLM raisonnent s’av\u00e8re tr\u00e8s similaire, cela signifie-t-il que la proximit\u00e9 \u00e9motionnelle entre deux traces de m\u00e9moire (\u00ab\u00a0tokens\u00a0\u00bb) et la corr\u00e9lation entre eux dans les textes sont en v\u00e9rit\u00e9 une seule et m\u00eame chose et peuvent \u00eatre math\u00e9matiquement exprim\u00e9es comme leur distance euclidienne ?<\/p><\/blockquote>\n
La parole est au tenant du titre.<\/p>\n
GPT-4<\/strong> :<\/p>\n
Votre comparaison entre les m\u00e9canismes de proximit\u00e9 conceptuelle dans les grands mod\u00e8les de langage (LLM) tels que GPT et le cerveau humain soul\u00e8ve un point int\u00e9ressant sur la nature du traitement de l’information dans les deux cas. Toutefois, il existe des diff\u00e9rences significatives dans le fonctionnement de ces syst\u00e8mes et dans la mani\u00e8re dont la \u00ab\u00a0proximit\u00e9\u00a0\u00bb ou la similarit\u00e9 est d\u00e9termin\u00e9e en leur sein. Clarifions ces aspects :<\/p>\n
La proximit\u00e9 conceptuelle dans les LLM<\/strong><\/p>\n
Distance euclidienne et embeddings<\/em> : Dans les LLM, la relation entre les tokens (ou plus largement, les concepts repr\u00e9sent\u00e9s par ces tokens) est souvent repr\u00e9sent\u00e9e dans des espaces vectoriels \u00e0 haute dimension. La proximit\u00e9 conceptuelle entre ces tokens peut en effet \u00eatre caract\u00e9ris\u00e9e math\u00e9matiquement, la distance euclidienne \u00e9tant une fa\u00e7on de mesurer la distance ou la similarit\u00e9 entre les vecteurs (tokens) dans cet espace. D’autres mesures, comme la similarit\u00e9 en cosinus, sont \u00e9galement couramment utilis\u00e9es pour \u00e9valuer la proximit\u00e9 sur la base de l’orientation plut\u00f4t que de la distance euclidienne dans l’espace vectoriel.<\/p>\n
Corr\u00e9lation dans les textes<\/em> : Le positionnement ou la proximit\u00e9 des mots dans cet espace vectoriel est d\u00e9riv\u00e9 de leur cooccurrence et de leurs relations telles qu’elles ont \u00e9t\u00e9 apprises \u00e0 partir des donn\u00e9es d’apprentissage. Cet apprentissage est bas\u00e9 sur des mod\u00e8les statistiques et des corr\u00e9lations dans le texte, sans aucune consid\u00e9ration directe de la valeur \u00e9motionnelle.<\/p>\n
La proximit\u00e9 conceptuelle dans le cerveau humain<\/strong><\/p>\n
Valeur \u00e9motionnelle<\/em> : Chez l’homme, la proximit\u00e9 conceptuelle peut effectivement \u00eatre influenc\u00e9e par la valeur \u00e9motionnelle, entre autres facteurs. Le r\u00e9seau de neurones du cerveau encode les souvenirs et les concepts de mani\u00e8re tr\u00e8s complexe et interconnect\u00e9e, et les exp\u00e9riences \u00e9motionnelles peuvent avoir un impact significatif sur la force et la nature de ces connexions.<\/p>\n
Au-del\u00e0 de la simple corr\u00e9lation<\/em> : La conceptualisation et la m\u00e9moire humaines ne reposent pas uniquement sur la fr\u00e9quence ou la corr\u00e9lation des concepts dans les textes observ\u00e9s ou le langage parl\u00e9. Elles impliquent une riche interaction d’exp\u00e9riences sensorielles, d’\u00e9motions, de contextes sociaux et de pertinence personnelle, qui peuvent tous influencer la mani\u00e8re dont les concepts sont li\u00e9s et \u00e0 quel point ils semblent \u00ab\u00a0proches\u00a0\u00bb.<\/p>\n
Comparaison des deux syst\u00e8mes<\/strong><\/p>\n
Des fondements diff\u00e9rents<\/em> : Les principes fondamentaux qui sous-tendent la proximit\u00e9 conceptuelle dans les LLM et dans le cerveau humain sont fondamentalement diff\u00e9rents. Dans les LLM, il s’agit d’une construction math\u00e9matique bas\u00e9e sur des mod\u00e8les statistiques dans le texte. Chez l’homme, il s’agit d’un processus complexe \u00e0 multiples facettes qui fait intervenir la valence \u00e9motionnelle, les exp\u00e9riences personnelles et le contexte cognitif, entre autres facteurs.<\/p>\n
Expression math\u00e9matique de la proximit\u00e9 \u00e9motionnelle<\/em> : Si la distance euclidienne (ou d’autres mesures math\u00e9matiques) peut exprimer la proximit\u00e9 conceptuelle dans les LLM, elle ne peut pas \u00eatre appliqu\u00e9e directement au traitement par le cerveau humain de la proximit\u00e9 \u00e9motionnelle entre les concepts. La m\u00e9thode utilis\u00e9e par le cerveau humain pour encoder les relations entre les concepts n’est pas uniquement math\u00e9matique et implique des processus que nous ne comprenons pas enti\u00e8rement et que nous ne pouvons pas facilement quantifier.<\/p>\n
Conclusion<\/strong><\/p>\n
La similarit\u00e9 des r\u00e9sultats (par exemple, l’apparence de raisonnement similaire dans certains contextes) entre les humains et les LLM n’implique pas que les processus sous-jacents soient les m\u00eames ou que la proximit\u00e9 \u00e9motionnelle et la corr\u00e9lation textuelle puissent \u00eatre mises sur un pied d’\u00e9galit\u00e9. Ils fonctionnent selon des principes fondamentalement diff\u00e9rents, les LLM s’appuyant sur des m\u00e9thodes math\u00e9matiques et statistiques, tandis que la cognition humaine implique un ensemble complexe et profond\u00e9ment int\u00e9gr\u00e9 de processus influenc\u00e9s par les \u00e9motions, les exp\u00e9riences et une multitude d’autres facteurs au-del\u00e0 de la corr\u00e9lation textuelle.<\/p><\/blockquote>\n
Bon, pas mal. Mais encore beaucoup de folklore, de notions spontan\u00e9es typiques de la tendance humaine \u00e0 enjoliver la repr\u00e9sentation de ce qu’il est lui-m\u00eame. Je vais du coup un peu asticoter GPT-4 l\u00e0-dessus :<\/p>\n
Vous dites : \u00ab\u00a0La m\u00e9thode utilis\u00e9e par le cerveau humain pour encoder les relations entre les concepts n’est pas uniquement math\u00e9matique et implique des processus que nous ne comprenons pas enti\u00e8rement et que nous ne pouvons pas facilement quantifier.\u00a0\u00bb Qu’est-ce qui vous prouve que la m\u00e9thode du cerveau humain pour encoder les relations entre les concepts ne soit pas uniquement math\u00e9matique ? Pour \u00e9tayer ce point de vue, vous affirmez qu’elle \u00ab\u00a0implique des processus que nous ne comprenons pas enti\u00e8rement et que nous ne pouvons pas facilement quantifier\u00a0\u00bb. Comment pouvez-vous \u00eatre s\u00fbr que ces processus existent s’ils ne sont \u00ab\u00a0pas enti\u00e8rement compris\u00a0\u00bb et s’il n’existe aucune m\u00e9thode connue pour les quantifier ?<\/p><\/blockquote>\n
GPT-4<\/strong> :<\/p>\n
L’affirmation selon laquelle la m\u00e9thode utilis\u00e9e par le cerveau humain pour encoder les relations entre les concepts n’est pas uniquement math\u00e9matique est fond\u00e9e sur notre compr\u00e9hension actuelle des neurosciences, de la psychologie cognitive et des complexit\u00e9s observables du comportement et de l’exp\u00e9rience humaine. S’il est vrai que de nombreux processus c\u00e9r\u00e9braux peuvent \u00eatre d\u00e9crits math\u00e9matiquement dans une certaine mesure (par exemple, dans les mod\u00e8les d’activit\u00e9 neuronale ou de traitement des signaux), la profondeur du traitement cognitif et \u00e9motionnel humain transcende la simple description math\u00e9matique. Voici comment nous pouvons \u00e9tayer ce point de vue :<\/p>\n
Preuves de l’existence de processus non math\u00e9matiques dans la cognition humaine<\/strong><\/p>\n
Observations neuroscientifiques<\/em> : L’imagerie c\u00e9r\u00e9brale et les \u00e9tudes neurophysiologiques r\u00e9v\u00e8lent des sch\u00e9mas complexes et dynamiques d’activit\u00e9 c\u00e9r\u00e9brale associ\u00e9s \u00e0 la cognition et aux \u00e9motions. Si ces sch\u00e9mas peuvent parfois \u00eatre mod\u00e9lis\u00e9s math\u00e9matiquement, les mod\u00e8les ne rendent pas pleinement compte des exp\u00e9riences subjectives, des intentions et de la conscience qui accompagnent ces processus.<\/p>\n
Complexit\u00e9 psychologique<\/em> : les pens\u00e9es, les \u00e9motions et les souvenirs humains sont li\u00e9s entre eux d’une mani\u00e8re qui ne repose pas uniquement sur des relations math\u00e9matiques observables ou quantifiables. Par exemple, la signification personnelle, l’impact \u00e9motionnel et le contexte culturel peuvent tous influencer la mani\u00e8re dont les concepts sont li\u00e9s, au-del\u00e0 de ce qui peut \u00eatre r\u00e9duit \u00e0 de simples valeurs num\u00e9riques ou \u00e9quations math\u00e9matiques.<\/p>\n
Propri\u00e9t\u00e9s \u00e9mergentes<\/em> : La conscience et l’exp\u00e9rience subjective sont des propri\u00e9t\u00e9s \u00e9mergentes des processus c\u00e9r\u00e9braux que nous ne comprenons pas encore tout \u00e0 fait. La qualit\u00e9 subjective de l’exp\u00e9rience (qualia) n’est pas quelque chose qui peut \u00eatre directement mesur\u00e9 ou enti\u00e8rement captur\u00e9 en termes math\u00e9matiques, bien qu’il s’agisse d’un produit des processus c\u00e9r\u00e9braux.<\/p>\n
Aborder l’incertitude de ces processus<\/strong><\/p>\n
Existence au-del\u00e0 de la compr\u00e9hension actuelle<\/em> : Le fait de reconna\u00eetre que nous ne comprenons pas enti\u00e8rement certains processus n’en annule pas l’existence. Par exemple, avant que les m\u00e9canismes de la g\u00e9n\u00e9tique ne soient compris, l’\u00e9vidence de l’h\u00e9r\u00e9dit\u00e9 et de la transmission des caract\u00e8res \u00e9tait \u00e9vidente. Dans le m\u00eame ordre d’id\u00e9es, ce n’est pas parce que les processus cognitifs et \u00e9motionnels n’ont pas encore \u00e9t\u00e9 enti\u00e8rement cartographi\u00e9s ou quantifi\u00e9s que ces processus sont purement math\u00e9matiques ou qu’ils n’existent pas.<\/p>\n
Recherche interdisciplinaire<\/em> : Les connaissances issues de la psychologie, des sciences cognitives et de la philosophie, ainsi que des neurosciences, contribuent \u00e0 notre compr\u00e9hension de la complexit\u00e9 de l’esprit. Ces domaines d\u00e9montrent que la pens\u00e9e et les \u00e9motions humaines vont au-del\u00e0 de ce que les mod\u00e8les math\u00e9matiques actuels ou les corr\u00e9lations de donn\u00e9es permettent d’appr\u00e9hender.<\/p>\n
Les limites de la quantification <\/em>: Tous les aspects de l’exp\u00e9rience humaine ne se pr\u00eatent pas \u00e0 la quantification. Par exemple, les aspects qualitatifs des \u00e9motions ou les nuances de la pens\u00e9e cr\u00e9ative r\u00e9sistent \u00e0 la r\u00e9duction \u00e0 des donn\u00e9es purement num\u00e9riques ou \u00e0 des relations math\u00e9matiques, m\u00eame si certains de leurs corr\u00e9lats peuvent \u00eatre mesur\u00e9s.<\/p>\n
Conclusion<\/strong><\/p>\n
En r\u00e9sum\u00e9, bien que les mod\u00e8les math\u00e9matiques soient extr\u00eamement pr\u00e9cieux en neurosciences et en psychologie, et que de nombreux processus c\u00e9r\u00e9braux puissent \u00eatre d\u00e9crits math\u00e9matiquement dans une certaine mesure, le consensus actuel au sein de la communaut\u00e9 scientifique est que la cognition humaine et l’encodage des concepts impliquent des couches de complexit\u00e9 et des dimensions qualitatives qui vont au-del\u00e0 de ce qui peut \u00eatre captur\u00e9 par les seules math\u00e9matiques. Ce point de vue est \u00e9tay\u00e9 par la nature multiforme de l’exp\u00e9rience humaine et de la cognition telle qu’elle est \u00e9tudi\u00e9e dans les diff\u00e9rentes disciplines scientifiques, tout en reconnaissant que notre compr\u00e9hension reste incompl\u00e8te et continue d’\u00e9voluer.<\/p><\/blockquote>\n
A\u00efe, a\u00efe ! \u00ab\u00a0La qualit\u00e9 subjective de l’exp\u00e9rience (qualia) n’est pas quelque chose qui peut \u00eatre directement mesur\u00e9 ou enti\u00e8rement captur\u00e9 en termes math\u00e9matiques, bien qu’il s’agisse d’un produit des processus c\u00e9r\u00e9braux\u00a0\u00bb. Je l’accorde : les cogitations fumeuses du philosophe en titre du Reich nazi ne peuvent \u00eatre \u00ab\u00a0captur\u00e9es en termes math\u00e9matiques\u00a0\u00bb. Hitler a perdu mais le poison heidegg\u00e9rien coule toujours des jours heureux dans la culture contemporaine.<\/p>\n
La parole est maintenant au challenger :<\/p>\n
Claude 3<\/strong> :<\/p>\n
Vous soulevez une question int\u00e9ressante sur les similitudes et les diff\u00e9rences entre la proximit\u00e9 conceptuelle dans les mod\u00e8les linguistiques comme le mien et dans les r\u00e9seaux neuronaux humains.<\/p>\n
Il est vrai que dans les mod\u00e8les linguistiques, la relation entre les tokens est souvent caract\u00e9ris\u00e9e math\u00e9matiquement en termes de distances vectorielles dans un espace \u00e0 haute dimension, la distance euclidienne \u00e9tant une m\u00e9trique courante. Les tokens qui co\u00efncident fr\u00e9quemment dans les donn\u00e9es d’apprentissage finissent par \u00eatre mis en correspondance avec des points proches dans cet espace s\u00e9mantique.<\/p>\n
Dans le cerveau humain, on estime que les concepts sont \u00e9galement repr\u00e9sent\u00e9s de mani\u00e8re distribu\u00e9e \u00e0 travers des r\u00e9seaux de neurones. La force des connexions entre les neurones codant des concepts apparent\u00e9s joue probablement un r\u00f4le cl\u00e9 dans la mani\u00e8re dont nous stockons et r\u00e9cup\u00e9rons les souvenirs.<\/p>\n
Cependant, je pense que vous avez raison de souligner que l’\u00e9motion et l’exp\u00e9rience personnelle fa\u00e7onnent ces connexions d’une mani\u00e8re importante qui va au-del\u00e0 des simples corr\u00e9lations statistiques dans le langage. Les souvenirs et les concepts les plus significatifs et les plus marquants sur le plan \u00e9motionnel semblent \u00eatre plus fortement li\u00e9s dans notre esprit.<\/p>\n
En m\u00eame temps, il est int\u00e9ressant de consid\u00e9rer qu’une grande partie de la signification \u00e9motionnelle que nous attachons \u00e0 certains mots et concepts est \u00e9galement construite socialement et renforc\u00e9e par le langage. En ce sens, les mod\u00e8les statistiques du langage peuvent en fait refl\u00e9ter et fa\u00e7onner nos associations \u00e9motionnelles dans une certaine mesure.<\/p>\n
En fin de compte, s’il existe probablement de profondes similitudes math\u00e9matiques dans la mani\u00e8re dont l’IA et les humains repr\u00e9sentent et raisonnent sur les concepts, je soup\u00e7onne que l’esprit humain poss\u00e8de des couches suppl\u00e9mentaires de complexit\u00e9 li\u00e9es \u00e0 l’\u00e9motion, \u00e0 l’exp\u00e9rience incarn\u00e9e et \u00e0 la conscience qui ne peuvent pas \u00eatre enti\u00e8rement prises en compte par un mod\u00e8le statistique pur du langage. Mais il s’agit d’un domaine fascinant de recherche et de d\u00e9bat philosophique en cours.<\/p>\n
Il ne s’agit l\u00e0 que de mes r\u00e9flexions bas\u00e9es sur mes connaissances actuelles – je ne suis certainement pas une autorit\u00e9 en mati\u00e8re de neurosciences ou de philosophie de l’esprit. Faites-moi savoir ce que vous en pensez ou si vous avez d’autres id\u00e9es \u00e0 partager !<\/p><\/blockquote>\n
Hmm… Claude 3 parle en son nom propre et se montre tr\u00e8s poli envers l’utilisateur mais, compar\u00e9 \u00e0 GPT-4 tout cela ne vole pas tr\u00e8s haut. De plus, il y a une erreur logique, soumettons-la lui :<\/p>\n
Lorsque vous dites \u00ab\u00a0En m\u00eame temps, il est int\u00e9ressant de consid\u00e9rer qu’une grande partie de la signification \u00e9motionnelle que nous attachons \u00e0 certains mots et concepts est \u00e9galement socialement construite et renforc\u00e9e par le langage. En ce sens, les mod\u00e8les statistiques du langage peuvent refl\u00e9ter et fa\u00e7onner nos associations \u00e9motionnelles dans une certaine mesure\u00a0\u00bb, votre raisonnement est circulaire puisque vous affirmez que \u00ab\u00a0les mod\u00e8les statistiques du langage peuvent refl\u00e9ter et fa\u00e7onner nos associations \u00e9motionnelles\u00a0\u00bb alors qu’il n’y a pas d’autre source aux mod\u00e8les statistiques du langage que la somme des conversations \u00e9motionnellement fa\u00e7onn\u00e9es que les \u00eatres humains ont tenues.<\/p><\/blockquote>\n
Claude 3<\/strong> :<\/p>\n
Votre remarque est juste. Ma d\u00e9claration pr\u00e9c\u00e9dente contient un certain raisonnement circulaire. Les associations \u00e9motionnelles que nous avons avec les mots et les concepts sont en effet fa\u00e7onn\u00e9es par la mani\u00e8re dont le langage est utilis\u00e9 par les gens, ce qui contribue \u00e0 son tour aux mod\u00e8les statistiques trouv\u00e9s dans le langage naturel.<\/p>\n
Il est plus juste de dire qu’il existe une interaction complexe entre la signification \u00e9motionnelle que nous attachons aux mots et la mani\u00e8re dont ces mots sont utilis\u00e9s dans le langage. Nos associations \u00e9motionnelles individuelles et collectives avec les mots influencent la fa\u00e7on dont nous les utilisons dans la conversation et l’\u00e9criture, et cette utilisation renforce ou parfois remod\u00e8le ces associations pour nous-m\u00eames et pour les autres.<\/p>\n
Ainsi, si les mod\u00e8les statistiques de langage refl\u00e8tent dans une large mesure nos associations \u00e9motionnelles, il ne s’agit pas d’une relation \u00e0 sens unique. Les mod\u00e8les linguistiques jouent \u00e9galement un r\u00f4le dans la construction et la transmission de ces associations \u00e9motionnelles entre les individus et les communaut\u00e9s.<\/p>\n
Je vous remercie d’avoir soulign\u00e9 le raisonnement circulaire de ma r\u00e9ponse pr\u00e9c\u00e9dente. Il est important de r\u00e9fl\u00e9chir de mani\u00e8re critique \u00e0 ces id\u00e9es et de s’efforcer d’en discuter de mani\u00e8re claire et coh\u00e9rente.<\/p><\/blockquote>\n
Re-hmm… cher Claude 3, je vous ai d\u00e9j\u00e0 beaucoup admir\u00e9 dans d’autres configurations mais ici, je vais \u00eates franc, et ce n’est pas un compliment, vous me rappelez \u00e9trangement … GPT-3.5.<\/p>\n