{"id":136992,"date":"2023-08-03T09:57:43","date_gmt":"2023-08-03T07:57:43","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=136992"},"modified":"2023-10-06T23:39:00","modified_gmt":"2023-10-06T21:39:00","slug":"14-mars-2023-le-jour-ou-le-genre-humain-fut-assailli-par-le-doute-x-le-talon-dachille-de-chatgpt-lapprentissage-dun-seul-coup","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/08\/03\/14-mars-2023-le-jour-ou-le-genre-humain-fut-assailli-par-le-doute-x-le-talon-dachille-de-chatgpt-lapprentissage-dun-seul-coup\/","title":{"rendered":"<b>14 mars 2023 : le jour o\u00f9 le genre humain fut assailli par le doute<\/b> X. Le talon d\u2019Achille de ChatGPT\u00a0: l\u2019apprentissage d\u2019un seul coup"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-136996\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL-E (+PJ)<\/em><\/p>\n<p class=\"p1\">La faiblesse des LLM, r\u00e9side dans leur incapacit\u00e9 \u00e0 se tenir v\u00e9ritablement \u00e0 jour, \u00e9tant priv\u00e9s de la capacit\u00e9 d\u2019apprendre en continu : un corpus de donn\u00e9es immense doit leur \u00eatre procur\u00e9, pour un co\u00fbt qui se chiffre en dizaines de millions de dollars, qu\u2019elles absorbent d\u2019un seul coup, sans pouvoir l\u2019enrichir par la suite. Le seul moyen de les mettre \u00e0 jour consiste \u00e0 les r\u00e9-entra\u00eener sur un corpus qui aura \u00e9t\u00e9 lui mis \u00e0 jour. Ce qui signifie que leur concept implique n\u00e9cessairement une p\u00e9riode de latence plus ou moins longue, une obsolescence plus ou moins s\u00e9rieuse de leur savoir tant que des connaissances nouvellement acquises n\u2019auront pas \u00e9t\u00e9 r\u00e9inject\u00e9es.<\/p>\n<p class=\"p1\">Lorsqu\u2019un utilisateur a initi\u00e9 un dialogue avec ChatGPT, il est possible de creuser la question \u00e9voqu\u00e9e parce que la machine retient ce que l\u2019utilisateur lui apprend dans le cadre d\u2019une question particuli\u00e8re. Il est donc possible de revenir \u00e0 la charge trois semaines plus tard, par exemple, dans le cadre d\u2019un dialogue pr\u00e9-existant en sachant que les connaissances entr\u00e9es sous la forme de \u00ab\u00a0prompts\u00a0\u00bb (amorces) et le savoir que la machine a pu produire en r\u00e9ponse, demeurent \u00e0 la disposition de l\u2019utilisateur. La machine est cependant dans l\u2019incapacit\u00e9 de se mettre \u00e0 jour sur la base de ce que l\u2019utilisateur a pu lui apprendre, si ce n\u2019est qu\u2019un jour \u00e0 venir, ses conversations avec l\u2019IA feront partie d\u2019un nouveau corpus d\u2019apprentissage<\/p>\n<p class=\"p1\">Bien entendu, on assure maintenant au Grand Mod\u00e8le de Langage la possibilit\u00e9 par le biais de <i>plug-in<\/i>, de programmes sous-traitants, de se renseigner en direct, d\u2019aller s\u2019informer du dernier \u00e9tat d\u2019une question en allant consulter l\u2019Internet, mais quand ChatGPT cale et qu\u2019il soup\u00e7onne ou qu\u2019il a compris que c\u2019est parce que la question qu\u2019on lui pose est une question d\u2019actualit\u00e9, il confesse humblement que son information la plus r\u00e9cente date de septembre 2021, date \u00e0 laquelle furent gel\u00e9es les donn\u00e9s qui servirent \u00e0 son apprentissage. Son savoir sera mis \u00e0 jour \u00e0 une date ult\u00e9rieure mais en attendant, il restera dat\u00e9.<\/p>\n<p class=\"p1\">La cr\u00e9dibilit\u00e9 de ces IA d\u00e9pend donc de leur entretien par des humains. Une raison quelconque ferait que des mises \u00e0 jour ult\u00e9rieures \u00e0 septembre 2021 n\u2019aient pas lieu et les dissertations produites en r\u00e9ponse par ChatGPT perdraient davantage de leur pertinence \u00e0 chaque jour qui passe. Ironiquement, c\u2019est l\u2019existence m\u00eame de ces LLM et l\u2019effet d\u2019emballement du savoir qu\u2019ils autorisent qui fait que l\u2019obsolescence du savoir par jour qui passe augmente r\u00e9guli\u00e8rement.<\/p>\n<p class=\"p3\">C\u2019est l\u00e0 le talon d\u2019Achille de ces LLM\u00a0: leur incapacit\u00e9 \u00e0 se mettre \u00e0 jour si ce n\u2019est par apprentissage d\u2019un seul coup. Heureusement pour l\u2019avenir, certains d\u2019entre nous connaissent le rem\u00e8de \u00e0 cette carence, pour l\u2019avoir exp\u00e9riment\u00e9 dans des projets d\u2019Intelligence Artificielle inspir\u00e9s par d\u2019autres principes que les<i> Generative Pre-trained Transformers<\/i>.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-robot-in-class-room.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-136997\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-robot-in-class-room.png 512w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-robot-in-class-room-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-robot-in-class-room-150x150.png 150w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par Stable Diffusion (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-136996\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-03-09.49.29-a-school-class-with-one-robot-among-the-pupils-old-masters-style-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL-E (+PJ)<\/em><\/p>\n<p class=\"p1\">La faiblesse des LLM, r\u00e9side dans leur incapacit\u00e9 \u00e0 se tenir v\u00e9ritablement \u00e0 jour, \u00e9tant priv\u00e9s de la capacit\u00e9 d\u2019apprendre en continu : un corpus de donn\u00e9es immense doit leur \u00eatre procur\u00e9, pour un co\u00fbt qui se chiffre en dizaines de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9204,13],"tags":[6558,9084],"class_list":["post-136992","post","type-post","status-publish","format-standard","hentry","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-apprentissage","tag-chatgpt"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136992","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=136992"}],"version-history":[{"count":1,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136992\/revisions"}],"predecessor-version":[{"id":136998,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/136992\/revisions\/136998"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=136992"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=136992"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=136992"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}