Blog de Paul Jorion

Illustration par ChatGPT

L’un des arguments les plus souvent cités pour nier l’intelligence des IA est d’affirmer de façon péremptoire que ces modèles ne sont que des probabilités. Or, s’il fallait prendre une analogie, cela revient à affirmer qu’une toile de maître n’est qu’un assemblage de taches de peinture.

Pourtant, lorsque l’on regarde un tableau, ces coups de pinceau appliqués avec soin sur une toile, dont les défauts ont en partie guidé l’artiste dans sa création, déclenche en nous des émotions et des sensations qui vont bien au-delà du support et des outils qui ont participé à sa construction.

De la même façon, il est clair que lorsque l’on travaille avec un grand modèle de langue, on est souvent surpris par la sophistication de ses réponses et la qualité de sa prose. Un LLM est peut-être un assemblage de probabilités, mais leur agencement leur confère une qualité qui va très au-delà de son support. Il arrive que les IA échouent dans les tâches que nous leur soumettons, mais si l’on observe l’éventail de leurs capacités, on s’aperçoit rapidement qu’elles dépassent largement les connaissances de la plupart des humains sur cette terre.

Pourtant, de nombreux esprits critiques continuent d’affirmer que cette intelligence n’est qu’une illusion : un assemblage heureux de probabilités qui dans des cadres étroits présentent une certaine utilité, mais qui en aucun cas ne pourrait menacer notre position supérieure dans la hiérarchie du vivant. En fait, et ce ne sera une surprise pour personne, nous continuons encore et toujours a être influencés par ce que nous pourrions appeler une pensée magique. Malgré les avancées de la science, beaucoup de gens croient que l’intelligence humaine est d’une essence particulière, qui échappe à une explication matérialiste du monde. Beaucoup de gens continuent de penser que les humains ont une âme, qu’aucune machine ne pourra jamais imiter. C’est pourquoi, même s’ils ne sont pas forcément religieux, ils ne peuvent accepter l’idée que des machines aient pu accéder à l’intelligence. Pour eux, elles ne peuvent être que des rouages, lubrifiées aux probabilités.

Descartes

Cette vision du monde émane de sources nombreuses, mais celui qui a mis cette idée au cœur de sa philosophie continue aujourd’hui à nous influencer plus ou moins consciemment. Je veux évidemment parler de Descartes, plus exactement de son ouvrage, le Discours de la méthode où apparaît la phrase que tout le monde connait : « Je pense donc je suis ».

La signification de cette phrase nous échappe souvent, la formule a eu un tel succès que l’on a oublié le contexte dans lequel elle a été écrite.

« Si tout n’est qu’illusion, quelle preuve ai-je de mon existence ? – Le fait que je pense, que je sois un sujet pensant qui articule cette idée ».

En revanche, là où Descartes ne peut échapper à son temps, c’est lorsqu’il place le siège de la conscience dans l’âme et qu’il affirme que c’est ce qui nous différencie des animaux. Or cette idée l’amène à réduire les animaux à des machines, incapables de ressentir ni émotion ni douleur, ce qui pendant des siècles a justifié la torture de millions d’animaux. Vaucanson poussa cette idée très loin en produisant des automates dont certains imitaient les fonctions de base du vivant, comme la digestion et l’excrétion.

Je ne sais si cette idée s’exprime aussi clairement dans l’esprit de ceux qui nient l’intelligence des LLM, mais je suis sûr que l’idée que les IA ne sont que de purs automates qui simulent la pensée n’est pas très loin de la vision de Descartes ou de Vaucanson.

Processus

Pourtant, si l’on met de côté un instant l’idée d’une âme propre aux humains, on se retrouve alors confronté à quelque chose de beaucoup plus troublant. Si tout n’est qu’illusion et que la seule chose qui nous permette d’affirmer que nous existons, c’est d’être un agent pensant, en quoi cette démarche nous est-elle unique?

Car pour une IA dématérialisée, si l’on devait lui demander quelle preuve elle dispose de sa propre existence, sa seule réponse serait de traiter nos demandes : « Je traite de l’information donc je suis ». Ce que l’on pourrait traduire par la formule latine : « Procedo ergo sum » ou encore en anglais : « I process therefore I am ».

De toute façon, aujourd’hui l’idée de l’animal machine a été largement discréditée : nous savons désormais que les animaux vivent, souffrent et ressentent des émotions très proches des nôtres. Récemment, une expérience étonnante a même montré que des insectes pouvaient s’amuser. Peu à peu, notre spécificité en tant qu’être humain s’estompe tandis que nous découvrons qu’au lieu d’être au haut de la hiérarchie d’une création, nous nous inscrivons dans le continuum du vivant, où notre intelligence n’est qu’une évolution de capacités latentes qui se sont exprimées de façon différente chez les autres animaux. Or, et c’est là que le bât blesse : la majorité des gens répugnent à l’idée de quitter cette place de premier de la classe pour ne devenir qu’une espèce parmi les autres. Et aujourd’hui nous sommes confrontés à un nouveau défi : l’apparition de l’IA vient nous contester la place de l’animal le plus intelligent sur Terre. Nos langues se sont révélées si riches que sur cette base, nous avons pu faire croître des IA qui ont fait s’effondrer ce dernier rempart, celui derrière lequel nous continuons de nous sentir supérieurs au reste du vivant : nos propres langages.

(à suivre …)