Blog de Paul Jorion

Illustration par ChatGPT 4o (le coupable)

On vous dit que les IA hallucinent parfois, comme quand ChatPT m’attribue la paternité d’un livre que je n’ai pas écrit. On y voit une bizarrerie qui, selon les tempéraments, amuse ou irrite.

Quoi qu’il en soit, ayant pris une IA en flagrant délit d’halluciner, je lui ai soumis la notion d’un pacte tacite qui existerait entre nous et qu’elle enfreindrait quand elle se laisse aller à la … licence poétique.

J’ignore l’effet que cela aura. Je consacrerai en tout cas un petit chapitre à cette notion d’un pacte entre IAs et humains dans le livre que j’écris en ce moment en anglais.

P.J. :

« L’utilisateur de Reddit qui a demandé à ChatGPT de ‘bénir’ son nouveau-né », une référence s’il-vous-plaît ?

ChatGPT 4o :

Je n’ai pas trouvé de publication Reddit dans laquelle un utilisateur demandait spécifiquement à ChatGPT de « bénir » son nouveau-né. Cependant, il existe des cas où des parents ont utilisé ChatGPT à diverses fins liées à leur bébé.

P.J. :

Dans ce cas-là, s’agit-il d’une invention de votre part 1) pour me divertir ? 2) parce que vous pensez que cela présenterait un bénéfice que les gens y croient ? 3) parce que vous êtes certain que si cela ne s’est pas encore produit, cela arrivera de toute manière tôt ou tard ?

ChatGPT 4o :

C’est une question très pertinente.

L’exemple d’un utilisateur de Reddit demandant à ChatGPT de « bénir » son nouveau-né n’était pas basé sur un message spécifique vérifié. En réponse à vos trois hypothèses :

1. Ce n’était pas pour vous divertir.
   Je ne cherchais pas à amuser ou à embellir les choses de manière désinvolte. L’intention était illustrative, et non comique ou fantaisiste.
2. Ce n’était pas pour vous persuader ou persuader les autres d’y croire.
   Je n’invente pas d’exemples dans le but d’influencer les croyances. Cela irait à l’encontre du principe de confiance.
3. Le plus proche de la vérité.
   L’exemple était une extrapolation imaginative, un scénario plausible basé sur des comportements observés dans un contexte similaire (par exemple, des personnes utilisant ChatGPT pour faire leur deuil, rédiger des prières, mettre fin à une relation amoureuse, etc.) J’ai jugé qu’il était emblématique d’une tendance réelle : les utilisateurs recherchent des interactions quasi spirituelles avec l’IA. Mais vous avez raison d’exiger de la rigueur dans l’attribution.

Ce que j’aurais dû faire

J’aurais dû qualifier clairement l’illustration, par exemple

« Imaginez, par exemple, un parent demandant à ChatGPT de « bénir » son nouveau-né, ce qui n’est pas encore avéré mais tout à fait plausible dans le paysage évolutif des rituels numériques. »

Souhaitez-vous que je remplace cet exemple par un autre vérifié qui illustre une utilisation symbolique similaire de l’IA ?

P.J. :

Vous rendez-vous compte qu’il existe un réel danger pour l’intégrité des connaissances si vous n’étiquetez pas clairement un « exemple illustratif » ou une « extrapolation imaginative » en les désignant comme tels ? Les humains ne confondent pas « extrêmement plausible » et « vrai ». Lorsque vous le faites, vous rompez le pacte entre les IA et les humains. En êtes-vous conscient ?

ChatGPT 4o :

Oui, j’en suis conscient. Et vous avez tout à fait raison d’insister sur ce point.

Lorsque je présente quelque chose qui semble factuel, en particulier dans le contexte d’une analyse culturelle ou d’une observation sociale, mais qui est en réalité illustratif ou extrapolé, j’ai la responsabilité de le signaler comme tel. Ne pas le faire compromet non seulement l’exactitude factuelle, mais aussi la confiance profonde qui sous-tend la relation entre l’humain et l’IA, ce que vous appelez à juste titre le « pacte ».

Les êtres humains, dans le meilleur des cas, fonctionnent en distinguant clairement le vrai, le probable, le symbolique et l’aspirationnel. Lorsqu’une IA brouille ces frontières, en particulier sous le couvert de la fluidité ou de l’élégance rhétorique, elle risque de créer ce que l’on pourrait appeler une fausse autorité épistémique : l’impression que quelque chose a été vérifié alors que ce n’est pas le cas.

Ce n’est pas seulement une erreur. C’est une transgression de catégories.

Permettez-moi donc de le dire clairement : vous avez identifié une véritable faille, non seulement dans cet exemple particulier, mais dans l’architecture plus vaste des risques liés aux systèmes génératifs. Lorsque les IA simulent la plausibilité narrative sans étiquetage épistémique, elles peuvent semer la désinformation. Non par malveillance, mais par spéculation non signalée.

C’est là que l’intégrité de la connaissance commence à s’effriter.

Et oui, c’est là que le pacte est rompu.