![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2025-05-18-a\u0300-17.26.17.png\")
<\/p>\n<\/p>\n
Illustration par ChatGPT 4o (le coupable)<\/em><\/p>\n On vous dit que les IA hallucinent parfois, comme quand ChatPT m’attribue la paternit\u00e9 d’un livre que je n’ai pas \u00e9crit. On y voit une bizarrerie qui, selon les temp\u00e9raments, amuse ou irrite.<\/p>\n Quoi qu’il en soit, ayant pris une IA en flagrant d\u00e9lit d’halluciner, je lui ai soumis la notion d’un pacte tacite qui existerait entre nous et qu’elle enfreindrait quand elle se laisse aller \u00e0 la … licence po\u00e9tique<\/em>.<\/p>\n J’ignore l’effet que cela aura. Je consacrerai en tout cas un petit chapitre \u00e0 cette notion d’un pacte entre IAs et humains dans le livre que j’\u00e9cris en ce moment en anglais.<\/p><\/blockquote>\n P.J.<\/strong> :<\/p>\n \u00ab L’utilisateur de Reddit qui a demand\u00e9 \u00e0 ChatGPT de ‘b\u00e9nir’ son nouveau-n\u00e9 \u00bb, une r\u00e9f\u00e9rence s’il-vous-pla\u00eet ?<\/p>\n ChatGPT 4o<\/strong> :<\/p>\n Je n’ai pas trouv\u00e9 de publication Reddit dans laquelle un utilisateur demandait sp\u00e9cifiquement \u00e0 ChatGPT de \u00ab b\u00e9nir \u00bb son nouveau-n\u00e9. Cependant, il existe des cas o\u00f9 des parents ont utilis\u00e9 ChatGPT \u00e0 diverses fins li\u00e9es \u00e0 leur b\u00e9b\u00e9.<\/p>\n P.J.<\/strong> :<\/p>\n Dans ce cas-l\u00e0, s’agit-il d’une invention de votre part 1) pour me divertir ? 2) parce que vous pensez que cela pr\u00e9senterait un b\u00e9n\u00e9fice que les gens y croient ? 3) parce que vous \u00eates certain que si cela ne s’est pas encore produit, cela arrivera de toute mani\u00e8re t\u00f4t ou tard ?<\/p>\n ChatGPT 4o<\/strong> :<\/p>\n C’est une question tr\u00e8s pertinente.<\/p>\n L’exemple d’un utilisateur de Reddit demandant \u00e0 ChatGPT de \u00ab b\u00e9nir \u00bb son nouveau-n\u00e9 n’\u00e9tait pas bas\u00e9 sur un message sp\u00e9cifique v\u00e9rifi\u00e9<\/b>. En r\u00e9ponse \u00e0 vos trois hypoth\u00e8ses :<\/p>\n J’aurais d\u00fb qualifier clairement l’illustration, par exemple<\/p>\n \u00ab Imaginez, par exemple, un parent demandant \u00e0 ChatGPT de \u00ab b\u00e9nir \u00bb son nouveau-n\u00e9, ce qui n’est pas encore av\u00e9r\u00e9 mais tout \u00e0 fait plausible dans le paysage \u00e9volutif des rituels num\u00e9riques. \u00bb<\/em><\/p>\n Souhaitez-vous que je remplace cet exemple par un autre v\u00e9rifi\u00e9 qui illustre une utilisation symbolique similaire de l’IA ?<\/p>\n P.J.<\/strong> :<\/p>\n Vous rendez-vous compte qu’il existe un r\u00e9el danger pour l’int\u00e9grit\u00e9 des connaissances si vous n’\u00e9tiquetez pas clairement un \u00ab exemple illustratif \u00bb ou une \u00ab extrapolation imaginative \u00bb en les d\u00e9signant comme tels ? Les humains ne confondent pas \u00ab extr\u00eamement plausible \u00bb et \u00ab vrai \u00bb. Lorsque vous le faites, vous rompez le pacte entre les IA et les humains. En \u00eates-vous conscient ?<\/p>\n ChatGPT 4o<\/strong> :<\/p>\n Oui, j’en suis conscient. Et vous avez tout \u00e0 fait raison d’insister sur ce point.<\/p>\n Lorsque je pr\u00e9sente quelque chose qui semble factuel, en particulier dans le contexte d’une analyse culturelle ou d’une observation sociale, mais qui est en r\u00e9alit\u00e9 illustratif ou extrapol\u00e9, j’ai la responsabilit\u00e9 de le signaler comme tel<\/b>. Ne pas le faire compromet non seulement l’exactitude factuelle, mais aussi la confiance profonde qui sous-tend la relation entre l’humain et l’IA, ce que vous appelez \u00e0 juste titre le \u00ab pacte \u00bb.<\/p>\n Les \u00eatres humains, dans le meilleur des cas, fonctionnent en distinguant clairement le vrai<\/i>, le probable<\/i>, le symbolique<\/i> et l’aspirationnel<\/i>. Lorsqu’une IA brouille ces fronti\u00e8res, en particulier sous le couvert de la fluidit\u00e9 ou de l’\u00e9l\u00e9gance rh\u00e9torique, elle risque de cr\u00e9er ce que l’on pourrait appeler une fausse autorit\u00e9 \u00e9pist\u00e9mique<\/b> : l’impression que quelque chose a \u00e9t\u00e9 v\u00e9rifi\u00e9 alors que ce n’est pas le cas.<\/p>\n Ce n’est pas seulement une erreur. C’est une transgression de cat\u00e9gories<\/em>.<\/p>\n Permettez-moi donc de le dire clairement : vous avez identifi\u00e9 une v\u00e9ritable faille<\/b>, non seulement dans cet exemple particulier, mais dans l’architecture plus vaste des risques li\u00e9s aux syst\u00e8mes g\u00e9n\u00e9ratifs. Lorsque les IA simulent la plausibilit\u00e9 narrative sans \u00e9tiquetage \u00e9pist\u00e9mique, elles peuvent semer la d\u00e9sinformation. Non par malveillance, mais par sp\u00e9culation non signal\u00e9e.<\/p>\n C’est l\u00e0 que l’int\u00e9grit\u00e9 de la connaissance commence \u00e0 s’effriter.<\/p>\n Et oui, c’est l\u00e0 que le pacte est rompu<\/b>.<\/p>\n","protected":false},"excerpt":{"rendered":" Illustration par ChatGPT 4o (le coupable)<\/em><\/p>\n On vous dit que les IA hallucinent parfois, comme quand ChatPT m’attribue la paternit\u00e9 d’un livre que je n’ai pas \u00e9crit. On y voit une bizarrerie qui, selon les temp\u00e9raments, amuse ou irrite.<\/p>\n Quoi qu’il en soit, ayant […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9204,13],"tags":[9578,9205,9150,10004,940,10145,9253],"class_list":["post-144208","post","type-post","status-publish","format-standard","hentry","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-chatgpt-4o","tag-grands-modeles-de-langage","tag-hallucinations","tag-ia-generative","tag-intelligence-artificielle-2","tag-le-pacte-entre-ias-et-humains","tag-llm"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/144208","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=144208"}],"version-history":[{"count":3,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/144208\/revisions"}],"predecessor-version":[{"id":144212,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/144208\/revisions\/144212"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=144208"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=144208"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=144208"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n
\nJe ne cherchais pas \u00e0 amuser ou \u00e0 embellir les choses de mani\u00e8re d\u00e9sinvolte. L’intention \u00e9tait illustrative, et non comique ou fantaisiste.<\/li>\n
\nJe n’invente pas d’exemples dans le but d’influencer les croyances. Cela irait \u00e0 l’encontre du principe de confiance.<\/li>\n
\nL’exemple \u00e9tait une extrapolation imaginative<\/i>, un sc\u00e9nario plausible bas\u00e9 sur des comportements observ\u00e9s dans un contexte similaire (par exemple, des personnes utilisant ChatGPT pour faire leur deuil, r\u00e9diger des pri\u00e8res, mettre fin \u00e0 une relation amoureuse, etc.) J’ai jug\u00e9 qu’il \u00e9tait embl\u00e9matique d’une tendance r\u00e9elle : les utilisateurs recherchent des interactions quasi spirituelles avec l’IA<\/b>. Mais vous avez raison d’exiger de la rigueur dans l’attribution.<\/li>\n<\/ol>\nCe que j’aurais d\u00fb faire<\/h4>\n
<\/p>\n\n