{"id":138063,"date":"2023-12-02T11:25:50","date_gmt":"2023-12-02T10:25:50","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=138063"},"modified":"2023-12-02T11:38:25","modified_gmt":"2023-12-02T10:38:25","slug":"mon-intervention-a-la-cnil-mardi-retranscription","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/12\/02\/mon-intervention-a-la-cnil-mardi-retranscription\/","title":{"rendered":"<b>Mon intervention \u00e0 la CNIL mardi<\/b> &#8211; Retranscription"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-138056\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n<p class=\"p1\">Claude CASTELLUCIA :<\/p>\n<p class=\"p1\">Je pense que c&rsquo;est un point de vue un peu diff\u00e9rent.<\/p>\n<p class=\"p1\">Donc pour vous, l&rsquo;utilisation de l&rsquo;IA, si j&rsquo;ai bien compris, ce n&rsquo;est pas juste une transition, mais c&rsquo;est vraiment une vraie r\u00e9volution. Et si j&rsquo;ai bien compris, lors de la pr\u00e9paration, il faut bien entendu former les gens \u00e0 cette transition, mais aussi compenser la perte de leur travail par une taxe-robot.<\/p>\n<p class=\"p1\">Vous avez pas mal travaill\u00e9 sur la taxe-robot, donc l&rsquo;id\u00e9e est int\u00e9ressante.<span class=\"Apple-converted-space\">\u00a0 <\/span>Est-ce que vous pouvez nous expliquer en cinq minutes en quoi \u00e7a consiste?<\/p>\n<p><iframe loading=\"lazy\" title=\"\u00c9v\u00e8nement air2023 : IA et libre-arbitre : sommes-nous des moutons num\u00e9riques ?\" src=\"https:\/\/video.cnil.fr\/videos\/embed\/90846f3e-41d1-4738-ab21-0be516f90a47\" width=\"700\" height=\"450\" frameborder=\"0\" sandbox=\"allow-same-origin allow-scripts allow-popups\" allowfullscreen=\"allowfullscreen\"><span data-mce-type=\"bookmark\" style=\"display: inline-block; width: 0px; overflow: hidden; line-height: 0;\" class=\"mce_SELRES_start\">\ufeff<\/span><span data-mce-type=\"bookmark\" style=\"display: inline-block; width: 0px; overflow: hidden; line-height: 0;\" class=\"mce_SELRES_start\">\ufeff<\/span><\/iframe><\/p>\n<p>D\u00e9but \u00e0 3h13m00s<\/p>\n<p class=\"p1\">Paul JORION :<\/p>\n<p class=\"p1\">Vous faites allusion au fait qu&rsquo;effectivement nous avons fait une r\u00e9p\u00e9tition g\u00e9n\u00e9rale. C&rsquo;\u00e9tait exactement il y a un mois et on s&rsquo;\u00e9tait mis d&rsquo;accord sur le fait que je parlerais de cette taxe-robot qui permettrait de financer la disparition des emplois et en particulier un projet qui me tient \u00e0 c\u0153ur, c&rsquo;est celui de la gratuit\u00e9 pour l&rsquo;indispensable dans une soci\u00e9t\u00e9 o\u00f9 le travail va maintenant v\u00e9ritablement dispara\u00eetre.<\/p>\n<p class=\"p1\">Mais je voudrais faire autre chose parce que je voudrais attirer votre attention sur la rapidit\u00e9 et la taille &#8211; vous y avez fait allusion &#8211; la rapidit\u00e9 et surtout la taille de la r\u00e9volution qui est en cours dans ce qu&rsquo;on appelle parfois la Singularit\u00e9.<\/p>\n<p class=\"p1\">Il se fait que, en un mois, le paysage a v\u00e9ritablement chang\u00e9. Il se passe tellement de choses, tellement vite &#8211;\u00a0et c&rsquo;est pour \u00e7a que j&rsquo;ai pris la libert\u00e9 de ne pas approfondir ce que vous venez de dire &#8211;\u00a0parce que \u00e7a me donne l&rsquo;occasion de parler de ce mot qui est l\u00e0, le mot sous l&rsquo;\u00e9gide duquel nous parlons aujourd&rsquo;hui et dont personne n&rsquo;a rien dit, qui est le libre-arbitre.<\/p>\n<p class=\"p1\">Voil\u00e0 donc je me disais : \u00ab\u00a0Si quelqu&rsquo;un parle du libre-arbitre, je ne le ferai pas. Mais si je suis le dernier et que personne n&rsquo;a rien dit, j&rsquo;en dirai un mot.\u00a0\u00bb<\/p>\n<p class=\"p1\">C&rsquo;est une petite fable, c&rsquo;est une petite fable rapide. Et comme vous savez, dans la fable, ce qui est important, c\u2019est la morale de l&rsquo;histoire.<\/p>\n<p class=\"p1\">Vous allez voir la morale de l&rsquo;histoire.<\/p>\n<p class=\"p1\">Il y a une notion que vous connaissez sans doute de l&rsquo;\u00e9cole, ou si vous \u00eates de v\u00e9ritables physiciens comme il y en a ici dans la salle, vous connaissez cette notion d&rsquo;entropie.<\/p>\n<p class=\"p1\">Je n&rsquo;entre pas dans les d\u00e9tails, mais c&rsquo;est cette id\u00e9e qui nous vient de la thermodynamique ou de la m\u00e9canique statistique qu&rsquo;un syst\u00e8me organis\u00e9 a tendance \u00e0 se d\u00e9sorganiser. Il y a une tendance, il y a une d\u00e9rive, qui va vers la d\u00e9sorganisation. Et il se fait qu&rsquo;il y a un scientifique qui s&rsquo;appelle Monsieur Stephen Wolfram, qui est \u00e0 la fois un physicien et un math\u00e9maticien qui est connu des <i>geeks<\/i> et des <i>nerds<\/i> parce qu&rsquo;il a invent\u00e9 un outil extr\u00eamement pratique qui s&rsquo;appelle Mathematica.<\/p>\n<p class=\"p1\">Et \u00e0 propos de cette entropie, r\u00e9cemment, M. Wolfram a dit la chose suivante\u00a0: \u00ab\u00a0Est-ce qu&rsquo;il ne s&rsquo;agit pas d&rsquo;une illusion ?\u00a0\u00bb<\/p>\n<p class=\"p1\">Est-ce que ce n&rsquo;est pas parce que nous, \u00eatres humains, le fait est que quand nous d\u00e9crivons un syst\u00e8me, nous ne pouvons pas passer une infinit\u00e9 de temps \u00e0 d\u00e9finir, \u00e0 d\u00e9crire un syst\u00e8me? Nous sommes oblig\u00e9s de d\u00e9crire n\u00e9cessairement un syst\u00e8me assez simple. Et si on regarde \u00e9voluer ce syst\u00e8me d&rsquo;ordre physique, la probabilit\u00e9 est effectivement extr\u00eamement \u00e9lev\u00e9e qu&rsquo;\u00e0 l&rsquo;\u00e9tat suivant qu&rsquo;on verra au temps t + n, il sera moins organis\u00e9 qu&rsquo;au moment t o\u00f9 nous sommes.<\/p>\n<p class=\"p1\">Je lui ai propos\u00e9 un terme &#8211;\u00a0ce n&rsquo;est pas dans mes habitudes d&rsquo;inventer des concepts &#8211; c&rsquo;est la premi\u00e8re fois que j&rsquo;en invente un. Je lui ai dit : \u00ab\u00a0Est ce qu&rsquo;on ne pourrait pas parler \u00e0 ce propos l\u00e0 d&rsquo;un <i>artefact \u00e9pist\u00e9mique<\/i> ?\u00a0\u00bb<\/p>\n<p class=\"p1\">Ce qui veut dire que c&rsquo;est parce que nous r\u00e9fl\u00e9chissons que nous voyons appara\u00eetre quelque chose, c&rsquo;est li\u00e9 \u00e0 notre nature d&rsquo;observateur.<\/p>\n<p class=\"p1\">Il m&rsquo;a r\u00e9pondu \u00ab\u00a0Oui\u00a0\u00bb. Et je lui ai pos\u00e9 la question \u00e0 ce moment-l\u00e0 : \u00ab\u00a0Est ce que le libre-arbitre, ce n&rsquo;est pas la m\u00eame chose ?\u00a0\u00bb Il me r\u00e9pond l\u00e0 aussi \u00ab\u00a0Oui.\u00a0\u00bb<\/p>\n<p class=\"p1\">Pourquoi est ce qu&rsquo;il me r\u00e9pond \u00e7a ?<\/p>\n<p class=\"p1\">Parce qu&rsquo;il a introduit, lui, une notion au titre assez compliqu\u00e9 qui est l&rsquo;<i>irr\u00e9ductibilit\u00e9 computationnelle<\/i>. C&rsquo;est peut-\u00eatre un terme tr\u00e8s long, mais \u00e7a nous dit simplement qu&rsquo;il y a des choses qui sont irr\u00e9ductibles du point de vue du calcul qu&rsquo;il faut faire.<\/p>\n<p class=\"p1\">On a, vous le savez, il y a des lois, des lois de physique qui nous permettent de dire si on d\u00e9crit un syst\u00e8me \u00e0 tel moment, on peut par une \u00e9quation, une fonction qui va nous d\u00e9crire ce qui va se passer, dire ce qui va se passer \u00e0 un moment ult\u00e9rieur : il y a une certaine n\u00e9cessit\u00e9 l\u00e0-dedans.<\/p>\n<p class=\"p1\">Mais, dit-il, il y a d&rsquo;autres processus qui sont d\u00e9terministes aussi, o\u00f9 tout va se passer selon un sc\u00e9nario pr\u00e9\u00e9tabli, mais o\u00f9 pour savoir ce qui va se passer, il faut d\u00e9crire tous les stades interm\u00e9diaires pour arriver \u00e0 ce sur quoi on d\u00e9bouche.<\/p>\n<p class=\"p1\">Alors la question, c&rsquo;est nous. Si nous sommes \u00e0 l&rsquo;int\u00e9rieur d&rsquo;un syst\u00e8me d\u00e9terministe, mais o\u00f9 on ne peut pas savoir ce qui va avoir lieu sans \u00eatre pass\u00e9 par toutes les \u00e9tapes, quel serait notre sentiment int\u00e9rieur?<\/p>\n<p class=\"p1\">C&rsquo;est que nous d\u00e9cidons de ce qui se passe, c&rsquo;est qu&rsquo;il y aurait un v\u00e9ritable libre-arbitre.<\/p>\n<p class=\"p1\">C&rsquo;est ici qu&rsquo;intervient la r\u00e9volution.<\/p>\n<p class=\"p1\">Vous avez entendu parler de la r\u00e9volution de palais qui a eu lieu r\u00e9cemment &#8211; on a parl\u00e9 Monsieur Sam Altman tout \u00e0 l&rsquo;heure &#8211; M. Sam Altman \u00e0 la t\u00eate de OpenAI &#8211; qui produit ChatGPT et qui a \u00e9t\u00e9 renvers\u00e9. Et puis la quasi unanimit\u00e9 des travailleurs et des travailleuses de cette entreprise l&rsquo;a fait revenir.<\/p>\n<p class=\"p1\">On n&rsquo;a pas compris. On n&rsquo;a pas compris ce qui s&rsquo;\u00e9tait pass\u00e9 mais il y a eu des fuites. Il y a des fuites, \u00e7a date de quoi ? de 72 h ou de 48 h. Les gens nous disent la chose suivante : la g\u00e9n\u00e9ration suivante de ChatGPT, qu&rsquo;on appelle Q* (Q star), la lettre Q avec une \u00e9toile, apparemment, elle permet de calculer en des temps tout \u00e0 fait faisables des processus dont on imaginait qu&rsquo;ils demanderaient une quasi infinit\u00e9 de temps. Il y a un processus en particulier qui, pour le calculer, ce serait 1,8 fois dix \u00e0 la puissance 37 ann\u00e9es.<\/p>\n<p class=\"p1\">Or, il semblerait que par un nouveau type de math\u00e9matiques invent\u00e9 par la machine &#8211; c&rsquo;est la rumeur qui circule &#8211; il serait possible de faire ce type de calcul dans des temps quasi imm\u00e9diats.<\/p>\n<p class=\"p1\">Quelles sont les cons\u00e9quences de \u00e7a ? Vous l&rsquo;avez compris\u00a0: tout ce qui est encrypt\u00e9 \u00e0 l&rsquo;heure actuelle serait en fait interpr\u00e9table de mani\u00e8re imm\u00e9diate.<\/p>\n<p class=\"p1\">Alors, la morale de l&rsquo;histoire?<\/p>\n<p class=\"p1\">Cette irr\u00e9ductibilit\u00e9 computationnelle qui est le fait qu&rsquo;on ne peut pas\u2026 voil\u00e0, il faudrait passer par tous les stades du processus. Si ce type de calcul est possible pour l&rsquo;encryptage, il doit \u00eatre possible aussi pour des processus de ce type-l\u00e0.<\/p>\n<p class=\"p1\">Alors, la morale de l&rsquo;histoire, c&rsquo;est la chose suivante.<\/p>\n<p class=\"p1\">\u00c7a se passe il y a une douzaine d\u2019ann\u00e9es. On me demande de participer \u00e0 un panel &#8211; c&rsquo;est une firme d&rsquo;intelligence artificielle, il faut le pr\u00e9ciser &#8211; parmi les questions qu&rsquo;on me pose, on me pose la question suivante : \u00ab\u00a0Est-ce que vous allez r\u00e9agir positivement ou n\u00e9gativement au sc\u00e9nario suivant ?<\/p>\n<p class=\"p1\">Vous allez dans un centre commercial pour acheter quelque chose. Et \u00e0 ce moment l\u00e0, Siri, le fameux Siri, vous dit \u00e0 l&rsquo;oreille, il vous dit la chose suivante : \u00ab\u00a0Et maintenant que tu as termin\u00e9 ton achat, tu vas te rendre au magasin de chaussures qui est l\u00e0, tout au fond \u00e0 droite, tu vas te rendre \u00e0 la troisi\u00e8me rang\u00e9e, tu vas regarder l&rsquo;\u00e9tag\u00e8re num\u00e9ro deux et tu vas acheter la paire de chaussures qui se trouve l\u00e0.\u00a0\u00bb<\/p>\n<p class=\"p1\">Vous allez r\u00e9pondre en disant : \u00ab\u00a0Mais je n&rsquo;ai aucune intention d&rsquo;acheter cette paire de chaussures ! etc.\u00a0\u00bb<\/p>\n<p class=\"p1\">Et \u00e0 ce moment l\u00e0, Siri vous dit : \u00ab\u00a0Si tu ne le fais pas, dans 21 jours, tu vas te rendre dans ce magasin pour le faire,\u00a0alors fais-le tout de suite !\u00a0\u00bb.<\/p>\n<p class=\"p1\">La morale de l&rsquo;histoire, c&rsquo;est que si ce qu&rsquo;on dit en ce moment &#8211; et moi je n&rsquo;ai aucune preuve que ce ne soit pas vrai &#8211; si ce qu&rsquo;on me dit en ce moment sur la r\u00e9volution qui a eu lieu avec ce nouveau produit Q* est vrai,\u00a0\u00e0 ce moment l\u00e0, ce sc\u00e9nario sur lequel on me demandait d&rsquo;\u00e9mettre une opinion, en fait, il se r\u00e9alisera.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.29.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-138055\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.29.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.29.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.29.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.29.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n<p>P.S. Merci \u00e0 Romain Vitorge !<\/p>\n","protected":false},"excerpt":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png\" alt=\"\" width=\"1024\" height=\"1024\" class=\"aligncenter size-full wp-image-138056\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-300x300.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-150x150.png 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-12-01-13.28.55-A-game-of-life-board-represented-as-an-enchanted-landscape-digital-art-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p><em>Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n<p class=\"p1\">Claude CASTELLUCIA :<\/p>\n<p class=\"p1\">Je pense que c&rsquo;est un point de vue un peu diff\u00e9rent.<\/p>\n<p class=\"p1\">Donc pour vous, l&rsquo;utilisation de l&rsquo;IA, si j&rsquo;ai bien compris, ce n&rsquo;est pas juste une transition, mais c&rsquo;est vraiment une vraie r\u00e9volution. Et si j&rsquo;ai [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9204,13,6213],"tags":[9405,9205,940,9403,2238,9391,8497],"class_list":["post-138063","post","type-post","status-publish","format-standard","hentry","category-grands-modeles-de-langage","category-intelligence-artificielle","category-singularite","tag-artefact-epistemique","tag-grands-modeles-de-langage","tag-intelligence-artificielle-2","tag-irreductibilite-computationnelle","tag-libre-arbitre","tag-q","tag-stephen-wolfram"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138063","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=138063"}],"version-history":[{"count":6,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138063\/revisions"}],"predecessor-version":[{"id":138073,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138063\/revisions\/138073"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=138063"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=138063"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=138063"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}