Blog de Paul Jorion

« Mur vert en coulisses » par Delphine Quême, Photographe

L’arrivée de la photographie au 19è siècle, perçue d’abord comme une menace par les peintres académiques et les portraitistes, a pourtant permis à la peinture de se réinventer, et ce faisant lui a ouvert des possibles insoupçonnés sans jamais l’éradiquer.

Nous présenterons dans cet article une hypothèse selon laquelle la capacité de dé-coïncidence qu’apportera l’intelligence artificielle (IA) permettra à l’homme de remettre en question ses modes de pensée sur la direction qu’il pourra donner à sa vie.

Dans une première partie, nous définirons ce que c’est que dé-coïncider – concept proposé par le philosophe François Jullien – c’est-à-dire entrevoir et ouvrir de nouveaux possibles dans un réel établi, figé, ancré, ou encore, sortir d’une coïncidence immédiate, un état qui est déjà intégré et jugé satisfaisant, sur lequel il ne semble donc pas nécessaire de revenir puisque “c’est réglé” et que “ça colle” comme le dit François Jullien.

Puis nous définirons l’intelligence humaine et sa simulation : l’intelligence artificielle. On analysera les fondements de l’intelligence (attention, autonomie, initiative) et leur reflet chez les IA. Nous montrerons que l’IA, capable de traiter des données à grande échelle et de générer des modèles et des solutions basées sur l’existant, reste pour l’instant surtout ancrée dans l’extrapolation à partir du passé. Elle apporte beaucoup de solutions matérielles dans de très nombreux domaines, mais aussi, plus récemment, se révèle comme un potentiel catalyseur de ruptures créatives et inédites chez l’être humain.

Enfin, nous montrerons que l’IA pourrait aller jusqu’à forcer l’homme à reconsidérer le sens de sa vie, par dé-coïncidence, un peu comme la technique photographique a transformé la peinture au 19ème siècle : d’outil de représentation cette dernière a en effet dû complètement se remettre en question (puisqu’elle n’arriverait jamais à représenter le réel comme le faisait la photographie) ce qui lui a permis de devenir un art d’expression de soi avant d’être de représentation. De la même manière, dans un monde où l’IA résout les problèmes matériels, la quête humaine pourrait opérer un retour sur soi plus marqué notamment à travers plus d’aspirations immatérielles et même une redéfinition du rôle de l’individu.

I – DÉFINITIONS

1/ Dé-coïncidence

Dé-coïncider c’est sortir de la coïncidence immédiate, être attentif à une situation réduite à des a priori qui la figent, pour créer un écart, une distance critique qui permet de l’appréhender de manière plus vivante, plus dynamique, sans s’installer dans un conformisme, afin d’y voir de nouvelles potentialités. C’est “se décaler de ces lieux communs imposés qui paralysent”². Dit autrement : “une idée, en devenant coïncidente, devient idéologique ; elle sécrète la bonne conscience et n’est plus pensée.”³.

Dé-coïncider c’est penser avec un esprit qui ne s’installe jamais, de manière vivante; c’est lutter contre le chemin le plus confortable, la paresse.

La Coïncidence serait un peu comme comprendre quelque chose, une situation, une idée, voire même une personne, l’assimiler, lui mettre une étiquette puis – par économie – ne plus voir que cette étiquette qui cependant cesse d’être en rapport direct et vivant avec cette chose qui évolue forcément.

On peut prendre l’exemple du couple qui après plusieurs années de quotidien ne se regarde plus, croyant tout savoir de l’autre.

Autre exemple, on ne regarde plus le ciel car on sait ce que c’est, c’est assimilé et intégré : on préfère se concentrer sur autre chose, à tort.

Dans ce cas, dé-coïncider c’est se rendre compte de cette coïncidence, qui masque le réel, toujours changeant et qui de ce fait, offre sans cesse de nouvelles possibilités. Car c’est dynamique : l’état de coïncidence est utile, puis devient un piège, la dé-coïncidence vient alors relancer la pensée et l’action d’une situation.

Typiquement, dans mon travail de photographe, je photographie des lieux ou des détails de lieux les plus banals qui soient. Mais, n’ayant pas d’a priori sur eux, j’ai plus de facilité à y voir de la beauté, dans les couleurs ou dans les lignes. Ainsi dé-coïncider est un verbe qui me permet d’expliquer assez clairement ma démarche artistique. Par exemple, j’ai un jour photographié un mur dans les coulisses d’un petit théâtre parisien. Pour les gens, un mur est étiqueté d’avance comme évidemment non intéressant à photographier, et donc on ne le regarde même pas. Mais mon œil de photographe me dit que tout peut être beau, et c’est donc cette posture première qui me permet d’être ouverte à tous les possibles et donc de “voir” du beau là où les autres ne le voient pas ou plus. C’est ainsi que le directeur de ce théâtre m’a dit : “cela fait 25 ans que je viens travailler dans ce théâtre presque tous les jours, et je n’avais jamais vu ce mur comme cela !”.

Dé-coïncider c’est donc cela, voir la réalité, non pas de façon figée (“c’est comme ça !”) mais de façon neuve, comme si c’était la première fois, sans a priori, et se donner la possibilité d’y voir de nouvelles choses.

Marcel Proust en parle très bien : “Cette vieille potiche chinoise qui était toujours là, je la fis envelopper” dit le Narrateur : “l’habitude m’avait empêché de jamais la voir : m’en séparer eut au moins un avantage qui fut de me faire faire sa connaissance”⁴. Le narrateur ne “voyait” plus la potiche, pourtant sous ses yeux.

Ainsi, et on l’aura compris, la dé-coïncidence n’existe pas sans coïncidence au départ. Et la coïncidence c’est très pratique. Cela permet de trouver une cohérence, de structurer et nommer les choses, cela a permis à l’homme d’économiser sa pensée et son énergie et donc de mieux survivre pendant des centaines de milliers d’années. Un peu comme on utilise tous les jours l’interrupteur d’une pièce de sa maison de manière presque réflexe : on cherche à assimiler des informations pour ne plus avoir à y réfléchir⁵. Cela “colle” comme le dit François Jullien.

Le problème de “ça colle” c’est aussi que l’on s’englue. Ainsi tous les “-ismes” permettent de structurer, comprendre, étiqueter, mais en même temps ils figent ce qu’ils décrivent.

D’où la nécessité, dès que possible de dé-coïncider, et ce dans tous les domaines de la vie : vis-à-vis de soi-même, dans le couple, dans la société, dans l’art, dans la politique, dans la pensée.

Ainsi, pour illustrer le cas de l’art, on comprendra que chaque artiste s’inscrit dans une continuité (la renaissance italienne qui elle-même a vu les primitifs flamands, etc.) mais se manifeste aussi par l’écart qu’il inscrit avec cette continuité : Botticelli bien qu’en en faisant partie, s’en distingue au premier coup d’œil. Nicolas de Staël qui magnifiquement – et c’est Sa dé-coïncidence – ne choisit ni le figuratif, ni l’abstraction, etc.

L’artiste cherche en effet d’abord à exprimer quelque chose de personnel, avec plus ou moins de liberté (c’est cette liberté qui est admirable et qui donne à l’artiste sa capacité à dé-coïncider).

Autre illustration, dans le domaine de la pensée, dé-coïncider consisterait à penser vraiment, par soi-même, et non par clichés et autres raccourcis faciles de l’esprit qui donnent l’impression de comprendre.

Ainsi, la dé-coïncidence serait une forme radicale d’intelligence : appréhension la plus directe possible à des faits (voir les choses comme elles sont), pensée autonome (dé-coïncidente c’est-à-dire ne suivant pas les raccourcis et les étiquettes), une manière d’exister avec esprit⁶, un rapport aux choses et aux autres plus vivant.

2/ L’intelligence artificielle

Le Larousse définit l’IA comme : “l’ensemble de théories et de techniques visant à réaliser des machines capables de simuler l’intelligence humaine”. Essayons donc de caractériser l’intelligence humaine.

2.1. L’intelligence (humaine)

Le mot latin intelligere vient de la combinaison de deux éléments Inter (signifiant « entre ») et Legere (signifiant « choisir », « lire » ou « cueillir »). Ainsi, intelligere signifiait à l’origine « choisir entre » ou « comprendre en faisant le tri ». Cette étymologie reflète l’idée d’une capacité à percevoir, discerner et à comprendre en catégorisant et reliant les éléments.

2.1.1. L’attention

Percevoir les choses comme elles sont (avec le moins de distorsion possible, notamment en oubliant ce que l’on sait déjà d’un sujet) : l’attention est la condition sine qua non de l’intelligence. Sans attention, impossible de percevoir les faits que l’on doit comprendre et donc de faire de nouveaux liens entre eux.

C’est mon expérience mais j’ai remarqué que souvent les personnes “très intelligentes” sont des personnes qui savent écouter (elles ne pensent pas intérieurement à ce qu’elles vont vous répondre car elles ne font pas l’hypothèse de savoir à l’avance ce que vous allez dire).

Savoir et se positionner comme ne sachant pas, en même temps. Apprendre mais ne pas se laisser influencer dans son attention par ce que l’on a appris (car on n’écoute souvent que ce qui consolide notre théorie en construction : on n’écoute pas vraiment car on pense déjà savoir).

Marguerite Yourcenar nous parle très bien de l’importance de l’attention pour l’écrivain : “le premier devoir d’un écrivain me paraît être avant tout l’attention, une très grande attention à ce qu’il sent et à ce qu’il éprouve lui-même mais une attention je dirais presque médicale enfin scientifique pour ne pas se tromper, pour ne pas se flouer soi-même, et une immense attention à l’univers qui l’environne”⁷.

C’est aussi la grande difficulté de voir les “choses comme elles sont”⁸, sans se reposer sur des raccourcis intellectuels, des clichés, des idées pré-conçues. Marguerite Yourcenar ajoute : “Ne pas fixer la pensée […] parce que la pensée c’est déjà une opinion et il s’agit que l’esprit soit sans opinion, qu’il reflète toutes les choses”⁹.

Pour Simone Weil, l’attention est un effort négatif et non un effort musculaire où on se concentre sur la personne qui vous parle en oubliant tout le reste et où on peut s’auto féliciter de “l’effort” que l’on a fait.

L’attention c’est juste une ouverture, un effort silencieux et aimant de se tourner vers la vérité, sans distraction ni prétention. Elle voit l’attention comme une disponibilité totale et souligne l’importance de suspendre l’ego pour percevoir pleinement le réel.

2.1.2. L’importance du collectif

Alan Turing souligne l’importance du collectif dans l’intelligence humaine “the isolated man does not develop any intellectual power. It is necessary for him to be immersed in an environment of other men, whose techniques he absorbs during the first 20  years of his life. He may then perhaps do a little research of his own and make very few discoveries which are passed on to other men. From this point of view the search for new techniques must be regarded as carried out by the human community as a whole, rather than by individuals.”¹⁰

A partir des connaissances, on construit son autonomie et sa capacité d’initiative.

2.1.3. Autonomie et initiative

Patrick Albert dans sa première conférence sur l’IA (dans le cadre de l’association Dé-coïncidences) mentionnait à très juste titre que l’autonomie était nécessaire à l’expression de l’intelligence.

Cette idée d’autonomie (un espace pour que puisse s’exprimer l’intelligence) est une condition première non seulement de l’intelligence mais aussi de la dé-coïncidence : créer un espace où d’autres possibles vont s’ouvrir.

L’autonomie, une fois mise en place, permet à l’initiative d’émerger.

L’initiative est fondamentale dans l’intelligence humaine (et donc dans l’IA qui la simule) comme le suggère Alan Turing lorsqu’il définit l’intelligence humaine : “to become an intelligent (mind), it must acquire both discipline and initiative”¹¹. Initiative avec évidemment au premier chef la curiosité, puis comme nous le dit très bien Isaac Asimov, sur le sujet particulier de la créativité : l’audace, le courage, la prise de risque¹² quand on cherche à faire des liens.

2.2. L’intelligence artificielle¹³

2.2.1 Attention, collectif, autonomie et initiative en IA

L’IA, qui se caractérise par la simulation de l’intelligence humaine (et animale ou biologique)¹⁴, a-t-elle de l’attention ? de la disponibilité ? un collectif auquel se rattacher ? une moindre distorsion dans son appréhension des choses ? de l’autonomie ? de l’initiative dans sa possibilité de relier les choses entre elles ?

De l’attention oui, elle en a, ou plutôt elle n’a pas de distraction : elle acquiert de toute façon bien plus d’informations que l’homme.

Cette attention est loin d’être parfaite puisque les biais cognitifs humains sont récupérés en même temps que l’information, par exemple les biais de genre. Mais malgré ces biais et les ressources informatiques coûteuses d’une IA type LLM notamment, la quantité d’informations acquises est telle que l’on ne peut pas vraiment dire qu’un tri se fait comme à l’échelle de l’homme qui par nécessité et manque de capacité de traitement est plus limité que les IA.

Le collectif existe dans l’IA qui est entraînée sur le big data dont sont tirées des informations statistiques qui sont mécaniquement une extension de l’existant collectif. Mais l’être humain ne se construit-il pas lui aussi sur le “big data” ? Ne va-t-il pas à l’école pendant les 18 à 25 premières années de sa vie ? N’apprend-il pas en mimant tous les gestes de la vie dès la naissance, n’apprend-il pas dans les livres pendant toutes ses études et après encore ? Ne stocke-t-il pas une grande quantité de données venues des autres dans sa mémoire lui aussi ?

Cependant sa mémoire (toute sa compréhension du monde, tous ses souvenirs) meurt avec lui¹⁵ au contraire de la transmission intégrale des données entre machines.

L’IA peut-elle être autonome ? Peut-on dire que l’on devient finalement intelligent quand on acquiert une autonomie par rapport à cet apprentissage et qu’on développe alors une capacité plus ou moins grande à relier structurellement des choses qui semblent éparses ?

Beaucoup de chercheurs se regroupent pour faire valoir la nécessité d’un “Safe AI” cadrant les pouvoirs de l’IA afin de ne pas nuire à l’espèce humaine en alignant les objectifs et comportements des systèmes d’IA sur les valeurs humaines afin d’éviter tout préjudice ou dérive.

Cependant nous parviennent régulièrement des exemples où les IA proposent des solutions ou des actions sans qu’on le leur demande. En septembre dernier plusieurs utilisateurs de ChatGPT ont signalé des initiatives de discussion sans avoir été sollicitées (exemple : “comment s’est passée ta première semaine au lycée ?)¹⁶.

Fondamentalement, les IA actuelles, grâce au deep learning, peuvent modifier leur comportement en fonction des données qu’elles collectent. Mais l’apprentissage par renforcement permet à l’IA d’explorer, expérimenter et apprendre des conséquences de ses propres actions : par exemple AlphaGo Fan, première version qui a battu un joueur professionnel humain, Fan Hui, en octobre 2015. Elle combinait l’apprentissage supervisé à partir de parties humaines et l’apprentissage par renforcement en jouant contre elle-même. A suivi la version AlphaGo Lee qui a affronté le champion Lee Sedol en mars 2016 puis AlphaGo Zero, en octobre 2017, cette version s’est distinguée en apprenant à jouer au Go sans aucune donnée humaine, uniquement en jouant contre elle-même. Elle a surpassé toutes les versions précédentes en termes de performance.

2.2.2. Le problème de l’erreur en IA

Les détracteurs de l’IA insistent souvent sur le fait qu’elle se “trompe”. Au début de l’IA dans Photoshop, les gens ne parlaient que des doigts que les IA n’arrivaient pas à recréer. Et alors ? Ces mêmes personnes n’ont jamais avancé à quatre pattes avant de marcher ?

Alan Turing dans un premier papier de 1948 (2 ans avant celui qui pose les bases du test de Turing), se pose la question s’il est possible pour une machine d’afficher un comportement intelligent et il précise que le fait de ne pas faire d’erreur n’est pas une condition nécessaire à l’intelligence¹⁷.

Et en effet, un être humain se trompe tout le temps : est-il non intelligent pour autant ? On dit même le contraire : la capacité à faire des erreurs est un signe d’intelligence et de réussite¹⁸.

On notera que le test de Turing (qui est réussi par la machine quand l’utilisateur n’arrive plus à savoir s’il a un humain ou une machine en face de lui) devra dans le futur rendre des réponses moins intelligentes qu’il ne le pourrait, afin de se mettre au niveau de l’intelligence humaine.

2.2.3 L’IA “ne comprend pas”

On dit souvent aussi que l’IA “ne comprend pas” ce qu’elle dit. Que cela n’a pas de sens pour elle.

Notons d’abord que ce problème sort du registre de l’IA dont je rappelle qu’il s’agit de simulation. Alan Turing dit “afficher un comportement intelligent”, et il a raison, car au fond que sait-on de ce qu’il se passe dans la tête de quelqu’un et même dans sa propre tête ?! La notion de compréhension interne est un autre débat. Bien sûr on peut post-rationaliser une pensée, lui donner du sens, mais si on descend au niveau de la naissance d’une simple idée : qui peut dire comment naît une idée précise. Si on est très attentif, on se rend compte qu’à un instant t, l’idée n’est pas là, et à l’instant t+1, une idée “jaillit” comme on le dit très justement. Qui est capable de comprendre ce qui s’est passé ? On pourra sans doute décrire au niveau neuronal le processus mais le comprendra-t-on mieux pour autant ?

J’ai arrêté – en ce qui me concerne – de juger stupide ou intelligent toute machine. Ce n’est pas le propos. Par contre, quand une IA ouvre une possibilité et donc “affiche un comportement intelligent” – même si elle ne comprend pas ce qu’elle dit – je trouve cela formidable, à l’image de Lee Sedol, champion du monde de go, qui envisage une toute nouvelle façon de jouer en observant la manière de jouer de AlphaGo.

Si une personne nous souffle une nouvelle idée, on se dit qu’elle est intelligente, alors même que l’on ne sait pas ce qui se passe dans sa tête. Comme le souligne très justement Paul Jorion¹⁹, nous ressortons souvent du par cœur en guise de compréhension. Or apprendre par cœur est-ce comprendre ? Certainement pas.

N’y a-t-il pas une gradation dans le comprendre ? Il est très facile de se faire croire que l’on a compris alors que cela n’est pas le cas. Le fonctionnement de l’intelligence humaine reste mystérieux. On est conscient de ses pensées, soit, mais c’est tout.

On ne saurait pas, par exemple, expliquer comment et pourquoi un être humain reconnaît le visage d’un autre être humain. La reconnaissance faciale par IA fonctionne depuis des années déjà, et on ne comprend pas pourquoi; on ne comprend même pas comment fonctionnent les réseaux de neurones.

Comme le note très justement Alan Turing : “The only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking”²⁰. Il ajoute “it is usual to have the polite convention that everyone thinks”, puis il compare ceux qui apprennent comme des perroquets et ceux qui comprennent vraiment quelque chose.

2.2.4. L’intelligence artificielle générale (AGI)

L’intelligence artificielle générale (AGI) puis la superintelligence artificielle (ASI) conduisent immanquablement à un monde imprévisible. La seule chose certaine quand on prédit le futur, c’est que l’on se trompe.

On peut assez facilement prédire ce que pourra faire un ordinateur quatre fois plus puissant. Mais un ordinateur un million de fois plus puissant : non. Pour la bonne et simple raison que la nature de l’objet change.

Un autre exemple est le très fameux texte de Bill Joy : “Why the future doesn’t need us”²¹– texte qui pourtant à l’époque a été retentissant et dont on parle encore aujourd’hui – ne mentionne pas l’IA alors que cet essai rigoureux est écrit par un pionnier de la Silicon Valley qui s’efforce de prédire avec le plus de sérieux et de science possibles le futur de notre monde.

L’IA est d’autant plus difficile à cerner qu’il existe à côté de l’IA que j’appellerais “personnifiée” (ChatGPT, Figure 02, HAL, etc) encore balbutiante, une IA souterraine, énorme, qui progresse de façon incrémentale, et depuis longtemps déjà : 25% du code informatique de Google, les correcteurs d’orthographe, la gestion des feux rouges dans une ville, le high frequency trading sur les marchés financiers, etc.

(à suivre…)

Notes

1 Je souligne ici que ce texte est le point de vue d’une photographe et non celui d’une spécialiste scientifique en IA

2 Manifeste de l’association “Dé-coïncidences”

3 Manifeste de l’association “Dé-coïncidences”

4 Marcel Proust, A l’ombre des jeunes filles en fleur cité par François Jullien, Dé-coïncidence, d’où viennent l’art et l’existence (2017)

5 Lire Daniel Kahneman au sujet des processus de décision en système 1 (rapide, intuitif) et système 2 (lent, analytique)

6 L’esprit ne s’installe pas selon François Jullien

7 Marguerite Yourcenar, Le paradoxe de l’écrivain, premier entretien d’une série de quatre, émission Propos et confidence du 3 avril 1983 sur Radio Canada, réalisateur : Jean Faucher (disponible sur YouTube)

8 “Il est donc nécessaire de débarrasser l’esprit de ces diverses déformations. Un esprit plein d’idées préconçues, d’intentions ou d’habitudes, n’est pas ouvert aux choses telles qu’elles sont” Shunryu Suzuki, Esprit Zen, esprit neuf (1970)

9 Marguerite Yourcenar, Le paradoxe de l’écrivain, premier entretien d’une série de quatre, émission Propos et confidence du 3 avril 1983 sur Radio Canada, réalisateur : Jean Faucher (disponible sur YouTube)

10 Intelligent machinery, A. Turing (1948). On notera la modestie d’Alan Turing, l’individu qui a – selon moi – le plus apporté à la science et la technologie de toute l’histoire de l’humanité … On notera également le peu d’intelligence collective d’une société, ici l’Angleterre qui pousse ce génie au suicide à cause de son homosexualité …

11 Intelligent machinery, A. Turing (1948)

12 Obviously, then, what is needed is not only people with a good background in a particular field, but also people capable of making a connection between item 1 and item 2 which might not ordinarily seem connected. There is difficulty in thinking of an idea even when all the facts are on the table. Making the cross-connection requires a certain daring. (Isaac Asimov, on creativity, 1959)

13 J’appelle IA indifféremment les programmes d’IA, les robots, les robots humanoïdes, tout code informatique, toute technique visant à simuler l’intelligence humaine.

14 Alan Turing s’intéressera à la fin de sa courte vie à la morphogenèse, comment une feuille d’arbre prend sa forme par exemple.

15 sauf ceux qui en transmettent une partie, notamment à travers l’art ou la science, les livres, les lettres et les enregistrements

16 ChatGPT initie seul de nouvelles discussions, Yannick Burky, 18 septembre 2024 sur NDD.news

17 Intelligent machinery, A. Turing (1948)

18 “An expert is a man who has made all the mistakes that can be made in a very narrow field.” (Niels Bohr)

19 Paul Jorion, L’avènement de la Singularité 2024

20 Computing machinery and intelligence, A. Turing (1950)

21 Wired, April 2000