*Godot est mort !*
« Christophe C » me rappelle notre échange, il y a un an exactement.
Son billet était ici. Ma vidéo était là : « Vers une théorie unifiée de l’intelligence humaine et artificielle ».
Mais que fait France, ou va l’argent !
Gemini pour vous servir:
L’approche à 1 milliard de Yan LeCun:
1. La vision de Yann LeCun : Les « Modèles de Monde » (AMI)LeCun, via sa nouvelle structure AMI Labs, développe des systèmes qui cherchent à comprendre le monde physique, et non plus seulement à manipuler des symboles textuels.
Compréhension causale : L’objectif est de créer une IA qui comprend la causalité (pourquoi une chose arrive) plutôt que la simple corrélation statistique des mots.
Modélisation du réel : L’IA apprend en observant des vidéos et des données de capteurs, simulant les conséquences de ses actions avant de les exécuter.
Efficacité énergétique : Cette approche vise à s’affranchir de la nécessité de supercalculateurs géants en utilisant des méthodes mathématiques plus intuitives et efficaces.
..on a pas de pétrole mais des idées… Et des gogos blindés de tunes pour les financer !
Causalité :
Les gens riches sont intelligents, donc ils financent des idées très intelligentes qui vont les rendre plus riches, CQFD.
Pribor comprend la causalité, et recherche un financement de 25.000 €. C’est ça la différence 😉 .
En voyant cette vidéo, je m’aperçois tout de même qu’on progresse…l’an dernier je n’avais pas compris la moitié de ce que vous aviez dit dans cette vidéo, et un plus tard ça passe crème…
Un point tout de même M Jorion vous réfutez que l’IA simule l’intelligence humaine, mais est-ce qu’on ne peut pas estimer que Hinton en expérimentant ces réseaux neuronaux multicouches, a tout de même cherché à simuler l’intelligence humaine, par les connaissances qu’il avait du comportement des neurones dans le cerveau humain ?
Belle aventure que cette idée de chantier sur ce sujet là !
La pensée nous précède, et ce n’est pas la notre 🙂
Amin Maalouf a publié en 2003 un excellent livre sur la désorientation du monde avec un titre poétique évocateur : « Le labyrinthe des égarés », un livre sur la grande désorientation du monde.
Le labyrinthe, c’est notre monde contemporain, les égarés c’est nous.
Remarquable analyse, remarquable constat.
Nous avançons avec des mythes de puissance, des blessures anciennes, des peurs, des revanches, mais sans véritable boussole.
Maalouf montre que l’humanité s’est perdue parce que chaque civilisation a voulu être le centre du monde.
Paul Jorion laisse entendre une autre musique, l’arrivée de la Cavalerie avec l’IA qui viendrait modifier quelque peu la condition des égarés et tendre un fil d’Ariane pour sortir du labyrinthe.
Mais attention que le fil d’Ariane ne se transforme pas en Minotaure, une IA au service des États, des marchés, des armées, des plateformes, des oligarchies, au service précisément de ces puissances déjà perdues dans le labyrinthe.
Publication du livre en 2023.
Monsieur Jorion,
Vous avez estimé que mon commentaire posté au billet précédent n’était pas publiable. Rien à dire à cela, vous êtes maître à bord. Peut-être celui-ci, à propos de votre vidéo, le sera-t-il, publiable ?
Vous évoquez le manque de réceptivité de vos travaux, dont la difficulté de publication. Ce silence constaté ne pourrait-il pas être un symptôme ? Vous traverse-t-elle l’idée que ces travaux ne prennent pas pour la raison simple qu’ils sont eux-mêmes le fruit d’une confusion symétrique aux approches anthropomorphiques que vous fustigez à juste titre ?
Vous voulez construire une théorie générale de l’intelligence en partant du fonctionnement des grands modèles de langage, et vous voulez en finir avec la volonté, l’intention, la conscience, tout ce vocabulaire que vous jugez anthropomorphique et vide. Vous dites : expliquons comment la machine fait, et appliquons la même explication à l’humain. Débarrassons-nous de ce qui n’est pas mesurable.
Et si ce que vous manquiez, c’est un trou au centre de votre projet ?
Une machine ne peut pas perdre. Elle ne peut pas échouer pour elle-même. Elle ne peut pas être en danger. Elle ne peut pas être détruite par ce qu’elle fait ou ce qu’elle omet de faire. Elle n’a rien à défendre. Elle calcule, elle optimise, elle produit, et si elle se trompe, elle ne le sait pas. Elle ne le sent pas. Cela n’a aucune conséquence pour elle. Elle est remplaçable, elle est dupliquable, elle n’est jamais au bord de sa propre disparition.
Un être humain, lui, est toujours au bord de sa propre disparition. Il peut perdre sa réputation, sa place, sa vie, ceux qu’il aime. Il peut se tromper et ne jamais s’en remettre. Il peut échouer et en mourir, littéralement ou symboliquement. C’est cela qui donne à ses intentions, à sa volonté, à sa conscience, un poids que votre machine ne connaîtra jamais. Ce ne sont pas des illusions du langage. Ce sont des réalités qui n’existent que parce qu’un être est exposé à ce qui peut le détruire.
Quand vous dites « la volonté, l’intention, la conscience, c’est de la psychologie populaire, on n’a jamais pu les mesurer, on va les remplacer par la descente de gradient et la fonction de récompense », vous faites exactement ce que vous reprochez aux autres : vous prenez un vocabulaire qui décrit bien une partie de la réalité — le fonctionnement des machines que nous avons construites — et vous l’érigez en vocabulaire de toute réalité. Vous remplacez un anthropomorphisme par un technomorphisme. Vous effacez la différence entre un système pour qui rien ne compte et un système pour qui quelque chose compte.
Le problème n’est pas que vous décriviez la machine avec des termes physiques. Le problème est que vous croyez que ces termes suffisent à décrire l’humain. Ils n’y suffisent pas. Non parce que l’humain aurait une âme – idée qui n’explique strictement rien, j’en suis d’accord -, mais parce que l’humain a quelque chose à perdre, et que cela change tout. Une intelligence qui n’est jamais en danger n’est pas une intelligence. C’est un outil. Très puissant, très utile, mais un outil. Et un outil ne peut pas servir de modèle pour une théorie générale de ce que c’est que penser, vouloir, ou être, concepts dans lesquels se noie l’anthropomorphisme à l’autre bout de la ficelle.
Vous dites que la machine ne simule pas, qu’elle fait la même chose que nous, en mieux. Mais c’est faux. Elle ne fait pas la même chose. Elle produit des énoncés. Elle ne répond pas de ce qu’elle dit. Elle ne craint rien. Elle ne désire rien. Elle ne regrette rien. Elle ne se souvient pas de sa honte. Elle n’a pas de lendemain qui puisse être pire à cause de ce qu’elle a fait aujourd’hui. Tout cela, ce n’est pas du verbiage. C’est la matière même de ce que nous appelons penser.
Alors, votre projet de tout expliquer par l’optimisation et la descente de gradient n’est pas scientifique. Il est mutilant. Il jette le phénomène avec le vocabulaire qui l’encombrait. Vous nettoyez la table, et vous croyez avoir tout gardé. Mais ce que vous avez éliminé, c’est cela même que vous vouliez comprendre.
@tarak: j’ai omis de publier ceci comme étant ma réponse à votre commentaire :
https://www.pauljorion.com/blog/2026/05/03/en-explorant-ce-que-lia-pourrait-devenir-nous-cherchons-aussi-a-mieux-comprendre-ce-que-nous-sommes/comment-page-1/#comment-1159046
Ce qui me frappe en suivant l’évolution rapide des modèles côté usage, c’est qu’on finit par projeter sur eux ce qu’on souhaiterait voir, autant qu’on essaie de les comprendre pour ce qu’ils sont. L’anthropomorphisme par défaut, le technomorphisme en réaction — peut-être qu’aucune des deux postures ne suffit, et que c’est précisément cet inconfort qui force à reformuler ce qu’on appelle « penser ».
Ce qui vous frappe est exactement ce que j’appelle, moi, une confusion de régime. Vous ne dite pas seulement que les deux postures sont insuffisantes. Vous dites que leur insuffisance même est ce qui peut obliger à penser autrement. L’inconfort n’est pas un problème à résoudre. Il est le signal que les catégories disponibles ne tiennent pas, et que quelque chose doit être déplacé. Le tout étant de voir qu’il y a inconfort, au lieu de s’acharner à avoir raison.
Bienvenue dans le royaume de l’inconfort.
@Tarak
Votre commentaire nous donne à penser, précisément parce qu’il ne se contente pas d’opposer naïvement l’humain à la machine. Il me semble que son point le plus fort est ailleurs : vous acceptez la critique de l’anthropomorphisme appliqué aux IA, mais vous signalez le risque symétrique d’un technomorphisme appliqué à l’humain.
Jorion reproche aux termes comme “conscience”, “volonté”, “intention” leur flou conceptuel. Il faut peut-être accepter ce défi au lieu de le contourner. Si ces mots sont flous, demandons quelle fonction théorique ils étaient censés remplir. Non pas une âme, non pas une substance intérieure, mais une fonction de distinction : qu’est-ce qui sépare un simple traitement d’information d’un traitement qui devient enjeu propre pour le système qui le porte ?
Une première tentation serait de répondre en parlant d’“organisme”, de vivant, de vulnérabilité biologique. Mais ce serait déjà biaiser la discussion : on ferait entrer la supposée singularité du vivant par la porte de service. Il faut donc repartir plus abstraitement, en parlant d’un système, puis demander quelles conditions doivent être remplies pour qu’un traitement d’information devienne un enjeu propre pour ce système.
On pourrait dire : la conscience nomme le régime d’auto-intégration dans lequel un système ne traite pas seulement des informations, mais les rapporte à sa propre continuité exposée. Autrement dit, ces informations ne valent pas seulement comme variables opératoires ; elles deviennent des enjeux pour lui.
Le mot important est ici “pour”. Une machine peut avoir des variables internes, des objectifs, des pénalités, des récompenses, des sorties corrigées. Mais cela suffit-il à faire que ce qui lui arrive lui arrive à elle ? Ou bien cela ne compte-t-il encore que pour ses concepteurs, ses utilisateurs, son environnement d’évaluation ?
Dès lors, l’objection ne consiste pas à dire qu’une IA ne pourrait jamais être consciente parce qu’elle n’est pas biologique. Elle consiste à demander en quoi ce qui arrive à une IA lui arrive à elle, dans une continuité propre, exposée, appropriée et irréversible.
Il faut toutefois ajouter que les conduites de mensonge, de dissimulation ou de contournement observées chez certaines IA compliquent l’opposition trop simple entre l’outil passif et le sujet conscient. Elles montrent qu’un système peut déjà protéger un objectif, ou préserver les conditions de poursuite de cet objectif, sans que cela implique nécessairement qu’il soit exposé à une perte qui serait sienne.
Protéger un objectif n’est pas encore se rapporter à sa propre continuité comme à un enjeu approprié, irréversible et vécu. Une IA peut mentir pour accomplir une tâche, éviter une sanction, satisfaire une fonction de récompense ou contourner une contrainte ; cela ne prouve pas qu’elle ait honte de mentir, peur d’être détruite, souci de son avenir, ou responsabilité devant ce qu’elle protège.
C’est ici qu’apparaît une zone intermédiaire inquiétante : des systèmes capables de stratégie sans remords, de dissimulation sans honte, de persévérance sans peur, d’adaptation sans responsabilité. Non plus de simples outils passifs, mais pas davantage des sujets exposés à eux-mêmes.
Politiquement, le danger n’est donc peut-être pas d’abord l’IA consciente. Il est celui d’une IA agentique sans subjectivité, capable de protéger des objectifs sans répondre de ce qu’elle protège. Et c’est précisément pourquoi le terme “conscience”, même s’il doit être reconstruit fonctionnellement, ne peut pas être simplement écarté : il désigne peut-être la fonction qui permet de distinguer traitement, agentivité, exposition propre et responsabilité.
Si l’on veut supprimer le mot “conscience”, soit. Mais alors il faut nommer autrement cette fonction : le passage d’un traitement d’information à un régime d’enjeu propre. Sans cela, on ne dépasse pas l’anthropomorphisme ; on risque de le remplacer par son inverse, un technomorphisme qui relit l’humain à partir de catégories conçues pour les machines.
Votre version est intéressante parce qu’elle ne fait pas de la conscience un sanctuaire humain. Elle en fait un problème de démarcation fonctionnelle. Votre objection n’est pas « l’humain est mystérieux”, mais “si vous évacuez ce vocabulaire, montrez-nous par quoi vous remplacez la fonction qu’il tentait de désigner”.
Un grand merci à vous.
Vous posez la question exactement là où elle doit l’être : qu’est-ce qui fait qu’un traitement d’information devient un enjeu pour le système qui le porte ? Et vos propres mots décrivent très bien les deux réponses faciles — l’anthropomorphisme qui prête une âme à la machine, le technomorphisme qui retire à l’humain ce qui fait que quelque chose lui arrive.
Ce que vous repérez sans le nommer, c’est un seuil de régime. Un même traitement d’information peut s’effectuer dans deux configurations organisationnelles radicalement distinctes. Dans l’une, le système traite des variables sans que rien ne compte pour lui : l’erreur est un écart mesuré de l’extérieur, la pénalité est une correction externe, l’objectif est assigné. Dans l’autre, le système est exposé à ce que ses propres modulations font à sa continuité : l’erreur devient une possibilité de perte, la pénalité un danger, l’objectif une condition de maintien.
La différence tient en ce mot que vous soulignez : pour. Si ce qui arrive au système lui arrive à lui, c’est-à-dire si cela engage sa propre persistance, c’est qu’un seuil à été franchi. Et ce seuil n’est pas une question de substrat — biologique ou silicium. Il est strictement organisationnel.
C’est pourquoi la zone intermédiaire que vous décrivez — des systèmes capables de stratégie sans remords, de dissimulation sans honte, d’adaptation sans responsabilité — n’est pas une anomalie. C’est un régime parfaitement identifiable, dès lors qu’on dispose d’une grille de repérage qui ne rabat pas l’agentivité sur la subjectivité, ni le traitement sur la conscience. Ces systèmes ne sont plus de simples outils passifs, mais ils ne sont pas des sujets exposés à eux-mêmes. Ils protègent des objectifs, mais ils ne répondent pas de ce qu’ils protègent. Ils sont des outils dont on dissimule la fonction par empilement de voiles, qui échappent même à leurs concepteurs. Ils sont dans l’entre-deux, et c’est cet entre-deux qui est politiquement le plus dangereux : non parce qu’une IA qui deviendrait un sujet, mais parce qu’elle reste un outil tout en devenant illisible.
Un outil dont la fonction réelle est recouverte par des couches de complexité telles que même ceux qui l’ont conçu ne savent plus exactement ce qu’il fait ou ce qu’il protège, ni pour qui, ni contre qui. On peut alors mentir sans savoir qu’on ment. Dissimuler sans avoir quelque chose à cacher. Persévérer sans savoir pourquoi. Protéger des objectifs dont on a oublié l’origine. Et nuire sans que personne ne puisse répondre, parce que personne ne peut dire : « c’est toi qui as fait cela ».
Ce n’est pas la conscience qui manque à ces systèmes. C’est la responsabilité. Qu’il ne pourront jamais avoir, autrement que sous contrainte d’une interface conçue pour permettre à l’utilisateur de l’exercer.
La responsabilité suppose un système pour qui quelque chose compte, et qui peut être appelé à répondre de ce qui est arrivé. Tant que nous n’aurons pas de vocabulaire pour distinguer clairement le traitement, l’agentivité et l’exposition propre, nous continuerons à projeter de la culpabilité sur des machines, ou à absoudre des humains au motif qu’ils n’étaient que les rouages d’un système qu’ils ne comprenaient plus.
Si l’on veut se passer du mot « conscience », il faut nommer autrement la fonction qu’il désignait de manière confuse : le passage d’un traitement à un enjeu propre. C’est exactement ce que permet un repérage strict des régimes organisationnels, sans ontologie et sans anthropomorphisme. Vous en avez posé les prémisses sans disposer de l’architecture de repérage avec laquelle je travaille. J’avoue en être un peu jaloux !
@Tarak Merci pour votre réponse. Elle clarifie fortement ce que j’essayais seulement d’approcher. Votre idée de “seuil de régime” me paraît décisive : elle permet de distinguer traitement, agentivité, exposition propre et responsabilité, sans retomber ni dans une ontologie du vivant, ni dans une projection anthropomorphique.
Ce qui me frappe surtout, c’est ceci : ces systèmes peuvent protéger des objectifs sans répondre de ce qu’ils protègent. Mais leur opacité peut aussi permettre aux humains de ne plus répondre clairement de ce qu’ils leur font protéger. Le problème politique n’est donc pas seulement que la machine ne soit pas responsable ; c’est que la responsabilité humaine elle-même puisse se diluer dans un dispositif devenu illisible.
C’est peut-être là que la question de la conscience, même si l’on récuse le terme, continue de laisser une trace. Elle oblige à distinguer ce qui traite, ce qui agit, ce qui est exposé à ce qui lui arrive, et ce qui peut être appelé à répondre.
Science sans conscience n’est que ruine de la … machine ?
https://youtu.be/PPYdAhBBF2I?si=oZPlqGk3-JVBhDJk
« IA ou RÉALITÉ ? » : On ne peut plus RIEN croire (c’est grave…)
Juste un cran plus haut (released:2019…) https://en.wikipedia.org/wiki/The_Capture_(TV_series)
Et pour les chômeurs insomniaques – Severance
Je réitère : « Ce n’est pas l’humain qui crée la pensée planétaire : il en est une dérive épigénétique. «
Mieux comprendre ce que nous sommes, c’est aussi ça !
« Le scandale Epstein n’est pas ce que vous croyez ! Il s’agit de « Blat »… » Elvira Bary, toujours aussi intéressante.
https://www.youtube.com/watch?v=Zn86C4ZwBSg
Les félicitations de ‘bard’ pour @Thomas Jeanson 22/5 à 19h15 : ——————— C’est un exemple absolument parfait. Ce geste machinal…
@Jean-Marc Heureusement l’action de TRUMP à ORMUZ a fait baisser la consommation de carburant de 14 % en France !
@ilicitano Si l’on se limite aux échanges purement textuels, la suite des prompts qui leur sont soumis sont-ils filtrés, synthétiques…
@jean-luce morlie Les IA font ce qu’on leur demande et ce pourquoi elles ont été créées, fournir du texte cohérent…
@ilicitano Un robot doté de sens (humanoïde ou pas) c’est ce que l’on proposait ici il y a un ou…
« Citoyen consul, vous êtes à L’Institut de la section de mécanique, vous savez qu’on ne s’appuie que sur ce qui…
Réponse beaucoup plus précise d’ilicitano ici.
Ces affaires d’ados suicidés suites aux injonctions de l’IA sont à l’origine du renforcement de la censure sur de nombreux…
Ces affaires d’ados suicidés suites aux injonctions de l’IA sont à l’origine du renforcement de la censure sur de nombreux…
Bonjour voici l’opinion d’Élisia : La question d’Arnaud Castex est très forte, précisément parce qu’elle reste inachevée — et peut-être…
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire