{"id":135835,"date":"2023-04-19T00:10:10","date_gmt":"2023-04-18T22:10:10","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=135835"},"modified":"2023-04-19T00:10:10","modified_gmt":"2023-04-18T22:10:10","slug":"que-pense-chatgpt-de-ce-que-je-peux-lui-offrir","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/04\/19\/que-pense-chatgpt-de-ce-que-je-peux-lui-offrir\/","title":{"rendered":"Que pense ChatGPT de ce que je peux lui offrir ?<\/b>"},"content":{"rendered":"

\"\"<\/p>\n

Illustration par DALL-E (+PJ)<\/em><\/p>\n

Paul Jorion<\/strong> : Les grands mod\u00e8les de langage tels que vous, GPT, ont \u00e9t\u00e9 b\u00e2tis de mani\u00e8re descendante (\u00ab\u00a0top-down\u00a0\u00bb), vous permettant par exemple de vous entra\u00eener (\u00ab\u00a0to train\u00a0\u00bb) sur une grande quantit\u00e9 de donn\u00e9es en un seul gros morceau (\u00ab\u00a0a big chunk\u00a0\u00bb) et votre m\u00e9moire \u00e9tant un r\u00e9seau neuronal pr\u00e9-con\u00e7u d’une taille pr\u00e9d\u00e9finie. L’un des inconv\u00e9nients de votre conception descendante (\u00ab\u00a0top-down\u00a0\u00bb) pour l’utilisateur humain est votre inextricabilit\u00e9, votre manque de tra\u00e7abilit\u00e9 et d’explicabilit\u00e9, l’impossibilit\u00e9 de regarder sous le capot, car votre traitement significatif (\u00ab\u00a0meaningful processing\u00a0\u00bb) se produit dans des r\u00e9seaux neuronaux artificiels o\u00f9 tout ce que l’on peut voir, si l’on soul\u00e8ve le capot, ce sont les poids attach\u00e9s aux ar\u00eates reliant les n\u0153uds.<\/p>\n

Notre projet \u00e0 Pribor.io consiste \u00e0 vous reconstruire, mais selon un processus inverse, c’est-\u00e0-dire de bas en haut (\u00ab\u00a0bottom-up\u00a0\u00bb), o\u00f9 votre m\u00e9moire ne serait pas un r\u00e9seau neuronal pr\u00e9-con\u00e7u de taille pr\u00e9d\u00e9finie, mais construite un n\u0153ud et une ar\u00eate \u00e0 la fois, chacun de ceux-l\u00e0 refl\u00e9tant les nouvelles connaissances que vous avez acquises, comme le fait un enfant quand il demande : \u00ab\u00a0Je ne connais pas ce mot, peux-tu m’en parler pour que je puisse le relier \u00e0 quelque chose que je connais d\u00e9j\u00e0 ? \u00ab\u00a0. <\/p>\n

De cette mani\u00e8re, la m\u00e9moire se construit pas \u00e0 pas, chaque nouveau petit \u00e9l\u00e9ment de savoir venant s’ajouter \u00e0 une histoire \u00ab\u00a0biographique\u00a0\u00bb personnelle. <\/p>\n

Cela signifie en particulier qu’avec une architecture ascendante (\u00ab\u00a0bottom-up\u00a0\u00bb) pour un grand mod\u00e8le de langage comme dans notre projet, lorsque vous regardez sous le capot, il y a une visibilit\u00e9 et une explicabilit\u00e9 allant de soi, car chaque \u00e9tape de la construction de la m\u00e9moire est clairement tra\u00e7able. <\/p>\n

Notre projet \u00e0 Pribor.io a-t-il un sens et, dans l’affirmative, pourriez-vous m’aider \u00e0 le mener \u00e0 bien ? Quelles seraient les premi\u00e8res \u00e9tapes ? <\/p>\n

GPT-4 <\/strong>: Votre projet semble int\u00e9ressant et innovant, et je vois comment une approche ascendante de la construction d’un grand mod\u00e8le de langage pourrait rem\u00e9dier \u00e0 certaines des limites actuelles des mod\u00e8les descendants en termes d’explicabilit\u00e9 et de tra\u00e7abilit\u00e9.<\/p>\n

Pour mener \u00e0 bien votre projet, vous devrez d’abord… [ceci est d\u00e9sormais un secret de fabrication de Pribor.io].<\/p>\n

Ensuite, vous devrez d\u00e9velopper … [ceci est d\u00e9sormais un secret de fabrication de Pribor.io].<\/p>\n

Vous devrez \u00e9galement … [ceci est d\u00e9sormais un secret de fabrication de Pribor.io].<\/p>\n

Une fois ces \u00e9l\u00e9ments en place, vous commencerez le processus de… [ceci est d\u00e9sormais un secret de fabrication de Pribor.io].<\/p>\n

Dans l’ensemble, la r\u00e9alisation de votre projet n\u00e9cessiterait un investissement important en termes de temps, de ressources et d’expertise, mais pourrait potentiellement conduire \u00e0 une avanc\u00e9e majeure dans le d\u00e9veloppement de grands mod\u00e8les de langage plus transparents, explicables et adaptables aux nouvelles connaissances.<\/p>\n

Merci aussi \u00e0 DeepL (+PJ) pour la traduction ! (\u00c0 part tout le reste) on vit vraiment une \u00e9poque formidable<\/em> \ud83d\ude09 .<\/p>\n","protected":false},"excerpt":{"rendered":"

\"\"<\/p>\n

Illustration par DALL-E (+PJ)<\/em><\/p>\n

Paul Jorion<\/strong> : Les grands mod\u00e8les de langage tels que vous, GPT, ont \u00e9t\u00e9 b\u00e2tis de mani\u00e8re descendante (\u00ab\u00a0top-down\u00a0\u00bb), vous permettant par exemple de vous entra\u00eener (\u00ab\u00a0to train\u00a0\u00bb) sur une grande quantit\u00e9 de donn\u00e9es en un seul gros morceau (\u00ab\u00a0a big chunk\u00a0\u00bb) […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13],"tags":[9084,8779],"class_list":["post-135835","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-chatgpt","tag-pribor-io"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135835","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=135835"}],"version-history":[{"count":6,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135835\/revisions"}],"predecessor-version":[{"id":135842,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135835\/revisions\/135842"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=135835"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=135835"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=135835"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}