![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-Orang-Gauguin.jpeg\")
<\/p>\nIllustration par Stable Diffusion + Paul Gauguin (+PJ)<\/em><\/p>\n <\/span><\/p>\n \u00ab\u00a0Se placer dans le sillage d\u2019une cr\u00e9ature plus intelligente que l\u2019humain\u00a0\u00bb, sans doute, mais comment se sentir et demeurer en s\u00e9curit\u00e9 au sein d\u2019un environnement en sachant que le cadre vous est pour une part, incompr\u00e9hensible\u00a0? La question est celle, fameuse, de l\u2019orang-outang qui n\u2019entend rien \u00e0 la discussion de ses deux gardiens d\u00e9battant du bien-fond\u00e9 de le changer de cage : les propos de ce dialogue le d\u00e9passent et le comportement des humains au plus gros cerveau (trois fois plus gros), enti\u00e8rement impr\u00e9visible.<\/p>\n Comment faire pour que le comportement d\u2019une intelligence artificielle de plus en plus puissante et les objectifs des humains qui l\u2019ont con\u00e7ue, restent align\u00e9s\u00a0? Et c\u2019est bien de cette fa\u00e7on que cette question est aujourd\u2019hui trait\u00e9e : en tant que question de l\u2019\u00ab\u00a0alignement\u00a0\u00bb et comment le maintenir, l\u2019apparente impossibilit\u00e9 de mettre au point une m\u00e9thode fiable \u00e9tant d\u2019ailleurs mise en avant par les critiques r\u00e9clamant un moratoire, qui exigent une pause dans la recherche aussi longtemps qu\u2019une m\u00e9thode plausible pour l\u2019alignement n\u2019aura pas \u00e9t\u00e9 d\u00e9finie.<\/p>\n Or, on voit mal comment une r\u00e9ponse pourrait \u00eatre apport\u00e9e car, comme d\u00e9j\u00e0 signal\u00e9, la machine progresse en intelligence par paliers, non pas par l\u2019adjonction successive de nouveaux dispositifs, \u00e0 l\u2019exception notable du transformer<\/i>, mais du fait de la simple augmentation en taille du syst\u00e8me\u00a0: par des effets d\u2019\u00e9mergence, par auto-organisation, une complexit\u00e9 in\u00e9dite surgissant, comme ce fut le cas lors du passage d\u2019une compr\u00e9hension de la structure de la phrase \u00e0 celle de sa signification globale, syntaxe et s\u00e9mantique confondues.<\/p>\n Peut-on pr\u00e9voir \u00e0 partir d\u2019une connaissance des \u00e9l\u00e9ments en place, de quelle mani\u00e8re des effets d\u2019\u00e9mergence pourraient se manifester\u00a0? Si ce devait \u00eatre le cas, il serait possible de pr\u00e9voir, au moins partiellement, les prochains progr\u00e8s qui r\u00e9sulteront d\u2019une mont\u00e9e en taille des LLM, et si oui, de canaliser ceux-ci dans la mesure du possible.<\/p>\n J\u2019ai pos\u00e9 la question \u00e0 GPT-4. Sa r\u00e9ponse fut d\u00e9courageante\u00a0:<\/p>\n \u00ab\u00a0Dans la r\u00e9alit\u00e9, cette t\u00e2che de pr\u00e9diction peut \u00eatre incroyablement complexe et, dans de nombreux cas, pratiquement impossible. La question centrale tourne autour des concepts de complexit\u00e9, de non-lin\u00e9arit\u00e9 et de la quantit\u00e9 d’informations n\u00e9cessaires pour faire de telles pr\u00e9dictions. [\u2026] Les interactions peuvent \u00eatre non-lin\u00e9aires, ce qui signifie que de petits changements peuvent avoir des effets disproportionn\u00e9s (la th\u00e9orie du chaos en est un exemple). Cette impr\u00e9visibilit\u00e9 inh\u00e9rente signifie souvent que la pr\u00e9vision d’un comportement \u00e9mergent est extr\u00eamement difficile, voire impossible, m\u00eame avec une compr\u00e9hension compl\u00e8te des \u00e9l\u00e9ments individuels. [\u2026] En outre, la propri\u00e9t\u00e9 \u00e9mergente peut ne pas d\u00e9pendre uniquement des \u00e9l\u00e9ments et de leurs interactions, mais aussi de l’histoire du syst\u00e8me. Dans de nombreux cas, de petites diff\u00e9rences dans les conditions initiales ou dans la trajectoire du syst\u00e8me peuvent conduire \u00e0 des propri\u00e9t\u00e9s \u00e9mergentes tr\u00e8s diff\u00e9rentes (une caract\u00e9ristique que l’on retrouve \u00e9galement dans la th\u00e9orie du chaos). [\u2026] Il n’est pas totalement impossible de faire des suppositions ou des estimations \u00e9clair\u00e9es sur le comportement \u00e9mergent si l’on dispose d’une connaissance suffisante des \u00e9l\u00e9ments individuels et de leurs interactions, en particulier dans les syst\u00e8mes moins complexes ou lorsque le comportement \u00e9mergent est relativement simple. Toutefois, dans les syst\u00e8mes tr\u00e8s complexes comportant de nombreux \u00e9l\u00e9ments et interactions, la pr\u00e9vision du comportement \u00e9mergent reste un d\u00e9fi de taille. En r\u00e9sum\u00e9, votre question plonge au c\u0153ur de l’un des probl\u00e8mes les plus intrigants de l’\u00e9tude des syst\u00e8mes complexes et de l’\u00e9mergence. La poursuite des recherches et les progr\u00e8s dans des domaines tels que la mod\u00e9lisation informatique, la biologie des syst\u00e8mes et la th\u00e9orie des r\u00e9seaux devraient permettre de mieux comprendre cette question fascinante.\u00a0\u00bb<\/p>\n La r\u00e9ponse \u00e9tait pr\u00e9visible. Je n\u2019en reste pas moins convaincu que c\u2019est pr\u00e9cis\u00e9ment l\u2019Intelligence Artificielle qui va nous permettre d\u2019accomplir des progr\u00e8s d\u00e9cisifs dans cette direction. N\u2019est-ce pas elle qui nous autorise en ce moment-m\u00eame \u00e0 pr\u00e9voir la mani\u00e8re dont se replient sur elles-m\u00eames les mol\u00e9cules complexes des prot\u00e9ines, nous permettant de savoir quelles seront les interactions possibles entre elles et d\u2019autres mol\u00e9cules, un type de connaissance imp\u00e9ratif en pharmacologie, une t\u00e2che jug\u00e9e titanesque jusqu\u2019ici mais r\u00e9solue par AlphaFold, un produit de DeepMind\u00a0?<\/p>\n OpenAI, la firme \u00e0 l\u2019origine de ChatGPT, a forg\u00e9 le nouveau concept de \u00ab\u00a0super-alignement\u00a0\u00bb pr\u00e9cis\u00e9ment pour caract\u00e9riser cette capacit\u00e9 que nous conserverions de canaliser le comportement de futures IA alors que l\u2019\u00e9cart entre leur intelligence et la n\u00f4tre continuerait de se creuser. Si l\u2019on en croit l\u2019opinion de la version la plus r\u00e9cente de leur produit-phare, reproduite ci-dessus, il s\u2019agirait cependant d\u2019une chim\u00e8re. Dans ce cas, le choix qui serait le n\u00f4tre serait soit, comme l\u2019exigent les esprits chagrins, d\u2019interrompre la recherche, et peut-\u00eatre m\u00eame de remiser ce qui a d\u00e9j\u00e0 pu \u00eatre r\u00e9alis\u00e9, soit de faire confiance \u00e0 l\u2019un des plus beaux fleurons de l\u2019intelligence humaine, sinon le plus beau, qu\u2019il saura trouver avec justesse sa propre voie, qui co\u00efnciderait avec celle optimale du genre humain l\u2019ayant con\u00e7u.<\/p>\n Un moratoire sur les LLM pourrait-il m\u00eame \u00eatre envisag\u00e9\u00a0? On citera comme exemple les trait\u00e9s sur les armements nucl\u00e9aires, qui ont en effet tenu jusqu\u2019ici, mais sans qu\u2019il soit s\u00fbr qu\u2019ils n\u2019auront pas \u00e9t\u00e9 enfreints au moment o\u00f9 mon texte sortira des presses. Mais la question se pose dans de tout autres termes quand il s\u2019agit des Grands Mod\u00e8les de Langage car ils sont d\u00e9sormais d\u00e9j\u00e0 partout et, ChatGPT tomberait-il, que d\u2019autres syst\u00e8mes, ses s\u0153urs ou ses fr\u00e8res, \u00e9tant pr\u00eats, se l\u00e8veraient aussit\u00f4t. La question n\u2019est plus \u00ab\u00a0pourrions nous assister \u00e0 une explosion de l\u2019intelligence\u00a0?\u00a0\u00bb, ou \u00ab\u00a0La Singularit\u00e9 pourrait-elle avoir lieu\u00a0?\u00a0\u00bb, la Singularit\u00e9 a d\u00e9j\u00e0 eu lieu et les historiens des techniques se disputeront seulement quant \u00e0 savoir si la date \u00e0 retenir est celle du 30 novembre 2022 ou celle du 14 mars 2023. La question qui se pose \u00e0 nous d\u00e9sormais est simplement\u00a0: \u00ab\u00a0Comment faire avec\u00a0?\u00a0\u00bb, c\u2019est-\u00e0-dire, de gaiet\u00e9 de c\u0153ur ou \u00e0 contre-c\u0153ur. Car une R\u00e9volution est en marche que seule pourrait pr\u00e9venir notre extinction avant que n\u2019ait \u00e9t\u00e9 mise au point la machine intelligente autonome capable de s\u2019auto-fabriquer.<\/p>\n Illustration par Stable Diffusion + Paul Gauguin (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" \u00a0 Illustration par Stable Diffusion + Paul Gauguin (+PJ)<\/em><\/p>\n<\/p>\n \u00ab\u00a0Se placer dans le sillage d\u2019une cr\u00e9ature plus intelligente que l\u2019humain\u00a0\u00bb, sans doute, mais comment se sentir et demeurer en s\u00e9curit\u00e9 au sein d\u2019un environnement en sachant que le cadre vous est […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9204,13],"tags":[9147,9254,940,9280],"class_list":["post-137009","post","type-post","status-publish","format-standard","hentry","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-gpt-4","tag-grand-modele-de-langage","tag-intelligence-artificielle-2","tag-superalignement"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137009","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=137009"}],"version-history":[{"count":4,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137009\/revisions"}],"predecessor-version":[{"id":137015,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137009\/revisions\/137015"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=137009"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=137009"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=137009"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-orang-Gau.jpeg\")
<\/p>\n <\/span><\/p>\n