Un modèle unique pour les esprits naturels et artificiels IV. La physique du « Dire ce qu’on en pense »

Illustration par ChatGPT

Si le psychisme peut être modélisé comme un système dynamique, alors la parole, la partie émergée de cet iceberg, peut être comprise comme une forme d’optimisation en temps réel : non pas l’exécution de règles fixes mais l’équilibrage continu de contraintes rivales. Chaque énoncé ne résulte pas d’un script, mais de la tension dynamique entre une envie d’expression : comment celle-ci trouve un exutoire dans la formulation et un résultat attendu, « attendu » signifiant ici « le plus susceptible d’apporter un apaisement ».

Cette opération est en soi merveilleuse : le fait qu’elle s’effondre aussi rarement dans la conversation ordinaire est loin d’aller de soi : il s’agit en réalité de l’aboutissement d’un ré-équilibrage constant. Pourquoi la parole ne se désagrège-t-elle pas aisément ?

Tout acte de parole fluide répond en fait simultanément à trois exigences :

Adéquation sémantique : ce que je dis transmet-il ce que mon moi conscient reconstruit a posteriori comme ayant été le « sens voulu » * ?

Forme syntaxique : la phrase est-elle cohérente sur le plan de sa structure ?

Adéquation pragmatique : les mots que je prononce sont-ils adaptés au contexte actuel, ici et maintenant, avec cet auditeur particulier ?

Chaque dimension influe sur l’acte d’élocution. Les tensions combinées définissent un paysage énergétique axé vers la communication où les énoncés suivent une ligne de moindre résistance. Cela s’apparente à l’optimisation multi-objectifs dans l’apprentissage automatique, où le système minimise une combinaison pondérée de termes de perte, chacun reflétant une contrainte d’un ordre différent.

Des défaillances surviennent lorsque l’une de ces sous-pertes devient dominante ou lorsque leur équilibre est rompu. Mais ces défaillances se conforment quant à elles également à des schémas récurrents.

Certaines défaillances trouvent leur origine dans la syntaxe : syllabes répétées, hésitations, phrases alambiquées. Le locuteur est pris au piège dans un bassin grammatical peu profond : un micro-blocage syntaxique. D’autres sont de l’ordre de l’acceptabilité : une blague tombe à plat, un changement de ton fait involontairement dérailler l’interaction. Dans des cas de ce type, le locuteur se rend compte après coup qu’il a mal évalué la pente de la dimension sociale : d’où une chute de la variable « convenance ». D’autres encore renvoient à la sémantique : substitutions de mots, dérive des référents, étiquetage imprécis. La phrase coule de source, mais son sens a un petit air de bricolé.

Chacune de ces pannes reflète une pondération mal alignée dans l’optimisation sous-jacente. Ce que les thérapeutes perçoivent comme un bégaiement ou un déraillement, et ce que les LLMs enregistrent comme une instabilité de décodage ou une dérive du sujet traité, a en fait une cause commune : des surfaces de perte accidentellement déformées.

Si la cohérence dépend de la pondération délicate des sous-pertes, alors la thérapie peut être considérée comme une forme d’ajustement du gradient en temps réel, autrement dit, un moyen d’aider l’analysant à découvrir une piste de descente plus praticable dans le paysage de l’élocution.

Quatre interventions classiques illustrent ce principe.

La clarification agit comme une linéarisation locale. « J’ai compris que ce que vous vouliez dire, était que… » redessine le paysage à proximité immédiate du point actuellement soulevé par l’analysant. Elle accentue le gradient sémantique, rendant le sens plus facile à saisir.

La divulgation progressive agit comme un modulateur de la taille du pas. Commencer par un contenu à faible enjeu et passer progressivement à un contenu plus délicat permet d’éviter de déborder accidentellement de la pente d’ acceptabilité.

Les exercices d’élocution dirigée aident à recalibrer les pondérations syntaxiques. Pour les personnes ayant des difficultés d’élocution, ces exercices renforcent la sensibilité à la structure des phrases, leur permettant ainsi d’échapper aux bassins grammaticaux plats.

Le feedback contrastif. « Avez-vous remarqué comment cette blague a été reçue ? » module la pondération de l’acceptabilité. Cela affine la sensibilité au contexte social de l’analysant.

Il ne s’agit pas là de parallèles purement figuratifs : ce dont il est question, ce sont les interventions isomorphes entre deux systèmes, l’un psychique, l’autre algorithmique.

Et ces parallèles dépassent le cadre thérapeutique. Les IA génératives équilibrent des contraintes similaires : probabilité syntaxique (via la probabilité du prochain token), fidélité sémantique (via la cohérence factuelle) et acceptabilité pragmatique (via l’apprentissage par renforcement avec retour d’information humain).

Des ratés se produisent lorsque ces pondérations partent à la dérive. Le « rejet excessif » : lorsqu’un modèle refuse des requêtes inoffensives, signalant une pénalité d’acceptabilité trop agressive. Les hallucinations résultent souvent d’une sémantique sous-pondérée : un LLM qui ment facilement a très probablement été sur-optimisé sur le plan de la fluidité de l’expression et sous-optimisé quant à la véracité.

L’un des enseignements de l’orthophonie est que la pondération n’est pas statique et doit s’adapter. Chez les humains, la qualité de la relation permet une plus grande versatilité. Chez les LLMs, l’étalonnage de la confiance permet des ordres du jour adaptatifs : un conservatisme initial suivi d’une expansion expressive. On peut imaginer un chatbot qui augmente la pertinence factuelle en cours de conversation ou abaisse les seuils de rejet à mesure que la relation s’établit. Un tel comportement pourrait être décrit comme reflétant son sens de l’étiquette.

La cohérence conversationnelle humaine consiste en un équilibrage dynamique entre trois fonctions de perte couplées : parler, c’est optimiser en temps réel, en équilibrant des contraintes tirant à hue et à dia dans des directions divergentes. Nous sommes autant d’agents naviguant sur des surfaces de perte façonnées conjointement par la biologie, la culture et les tendances du moment.

Les échecs sont des blocages dans l’optimisation : des erreurs de pondération dans le registre interne ; les techniques thérapeutiques sont des stratégies de gestion des gradients qui rééquilibrent le paysage mémoriel. Prendre conscience de cela offre des leviers quantitatifs tant pour la pratique clinique que pour l’alignement de nos IA conversationnelles.

(à suivre …)

=====

* L’expression « sens voulu » est utilisée ici uniquement par commodité, car la métapsychologie psychanalytique implique que les locuteurs prennent conscience de ce qu’ils « voulaient dire » au moment même où leurs interlocuteurs l’entendent également ; cela s’applique de la même manière au « discours intérieur » (Paul Jorion [1989] Principes des systèmes intelligents : 141-143).

Partager :

4 réponses à “Un modèle unique pour les esprits naturels et artificiels IV. La physique du « Dire ce qu’on en pense »”

  1. Avatar de Ludovic
    Ludovic

    « Dire ce qu’on en pense » est simple et facile. Mais FAIRE ce qu’on dit parce qu’on le pense, c’est une autre histoire, et cela pour tous les esprits.

    1. Avatar de Paul Jorion

      Vous aurez compris que, selon moi, nous nous observons surtout en train de faire ce que nous faisons.

      1. Avatar de CloClo
        CloClo

        Et c’est une expérience très agréable à vivre, quand on se rend compte que l’on fait quelque chose qu’on ne devrait pas faire, un geste, un mouvement de la vie quotidienne, ou une pensée que l’on suit et dont reprends une forme de contrôle au sens de pichenette de reorientation. La sensation de « mais qu’est ce que je suis entrain de foutre ? » . Surtout dans un contexte de reproduction habituelle d’actes répétitifs mais qui n’aurait pas dû s’exercer là maintenant parce que le contexte n’est pas celui de d’habitude et qu’on réalise l’écart momentané et la puissance de cette habitude. Enfin je me comprends … 😁

  2. Avatar de Otromeros

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta