{"id":142663,"date":"2024-12-29T19:34:00","date_gmt":"2024-12-29T18:34:00","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=142663"},"modified":"2024-12-30T00:16:59","modified_gmt":"2024-12-29T23:16:59","slug":"intelligence-societe-n5-un-compte-rendu-par-notebooklm","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/12\/29\/intelligence-societe-n5-un-compte-rendu-par-notebooklm\/","title":{"rendered":"<b><em>Intelligence &#038; Soci\u00e9t\u00e9<\/em><\/b> N\u00b05, un compte-rendu par NotebookLM (avec retranscriptions)"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-142668\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41.png\" alt=\"\" width=\"1472\" height=\"832\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41.png 1472w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-300x170.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-1024x579.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-768x434.png 768w\" sizes=\"auto, (max-width: 1472px) 100vw, 1472px\" \/><\/p>\r\n\r\n<figure class=\"wp-block-audio\"><audio src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Artificial-Intelligence_-2024-Year-in-Review.wav\" controls=\"controls\"><\/audio><\/figure>\r\n\r\n<p><strong>Retranscription en fran\u00e7ais<\/strong> :<\/p>\r\n<p><!--more--><\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Tr\u00e8s bien. C&rsquo;est parti pour la \u00ab\u00a0Plong\u00e9e en profondeur\u00a0\u00bb de cette semaine. Et vous savez o\u00f9 nous allons ? Nous nous dirigeons tout droit vers le c\u0153ur de l&rsquo;intelligence artificielle. Nous ouvrons le bulletin <em>Intelligence &amp; Soci\u00e9t\u00e9<\/em>. Vous savez que les Fran\u00e7ais ont toujours le doigt sur le pouls de toutes choses IA.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Je le suis toujours. Des id\u00e9es fascinantes.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Voil\u00e0. La semaine du 23 au 29 d\u00e9cembre 2024 a \u00e9t\u00e9 tr\u00e8s int\u00e9ressante. Les mod\u00e8les d&rsquo;I.A. ont fait la une des journaux, les pr\u00e9dictions sur l&rsquo;avenir ont fus\u00e9 de toutes parts et il y a m\u00eame eu des avertissements qui pourraient vous inciter \u00e0 v\u00e9rifier les protocoles de s\u00e9curit\u00e9 de vos robots. Vous voyez ce que je veux dire ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : La semaine a \u00e9t\u00e9 marqu\u00e9e par les extr\u00eames, on pourrait dire.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Extr\u00eames, c&rsquo;est le mot. Alors d\u00e9composons tout cela. S\u00e9parons le battage m\u00e9diatique de la r\u00e9alit\u00e9, vous savez, et laissons \u00e0 chacun d&rsquo;entre vous de s\u00e9rieux \u00e9l\u00e9ments de r\u00e9flexion.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui, c&rsquo;est un bon plan.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : D&rsquo;accord, cette premi\u00e8re histoire fait vraiment r\u00e9fl\u00e9chir. Il s&rsquo;av\u00e8re que la fa\u00e7on dont vous parlez \u00e0 une I.A., la fa\u00e7on dont vous formulez votre question, peut vraiment changer la r\u00e9ponse que vous obtenez, surtout quand on parle de, vous savez, des choses sensibles comme les zones de conflit, les patates chaudes politiques, ce genre de choses.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est vrai. Et cette \u00e9tude, elle \u00e9tait dans votre m\u00e9t\u00e9o cette semaine. Ils ont examin\u00e9 comment je r\u00e9pondais aux questions sur les frappes isra\u00e9liennes sur Gaza. Ce qui est int\u00e9ressant, c&rsquo;est qu&rsquo;ils ont pos\u00e9 les m\u00eames questions, mais en arabe et en h\u00e9breu.\u00a0<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Wow. Donc en utilisant les langues des deux parties au conflit.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. Et les r\u00e9ponses des IA, oh boy, elles \u00e9taient diff\u00e9rentes. Parfois tr\u00e8s diff\u00e9rentes.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Comment \u00e7a, diff\u00e9rentes ? Donne-moi les d\u00e9tails.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, tout d&rsquo;abord, pensez au nombre de victimes. Ces estimations varient de 34%, en fonction de la langue utilis\u00e9e. Mais plus encore, l&rsquo;IA, lorsqu&rsquo;elle r\u00e9pondait en h\u00e9breu, minimisait, voire parfois passait compl\u00e8tement sous silence certains \u00e9v\u00e9nements.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est comme si elle prenait parti en fonction de la ligne.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, c&rsquo;est s\u00fbr qu&rsquo;on se pose des questions. Et quand on sait \u00e0 quel point nous d\u00e9pendons de l&rsquo;IA aujourd&rsquo;hui, c&rsquo;est un peu troublant.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Elle est dans nos fils d&rsquo;actualit\u00e9. Elle alimente nos recherches. M\u00eame les gouvernements l&rsquo;utilisent pour prendre des d\u00e9cisions.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est vrai. Alors si quelque chose d&rsquo;aussi \u00e9l\u00e9mentaire que la langue d&rsquo;une question peut fausser l&rsquo;information, c&rsquo;est un peu effrayant.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Sans blague. C&rsquo;est \u00e0 se demander ce qui peut bien influencer ces algorithmes en coulisses.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Il y a vraiment de quoi r\u00e9fl\u00e9chir. Cela montre \u00e0 quel point il est important d&rsquo;\u00eatre conscient des biais potentiels de ces syst\u00e8mes d&rsquo;intelligence artificielle.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Absolument. D&rsquo;accord. Passons maintenant \u00e0 un sujet qui fait parler de lui. OpenAI, le nouveau mod\u00e8le O3. On dit qu&rsquo;il atteint le niveau d&rsquo;intelligence humaine. Et ils se basent sur ce test appel\u00e9 RC-AGI. De quoi s&rsquo;agit-il ? Qu&rsquo;est-ce qui le rend si sp\u00e9cial ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, RC-AGI signifie Abstraction and Reasoning Corpus for artificial general intelligence (Corpus d&rsquo;abstraction et de raisonnement pour l&rsquo;intelligence artificielle g\u00e9n\u00e9rale), si l&rsquo;on veut \u00eatre plus technique.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Vous savez, j&rsquo;adore la technique.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Donc, contrairement aux autres tests d&rsquo;intelligence artificielle qui consistent surtout \u00e0 reconna\u00eetre des mod\u00e8les ou \u00e0 m\u00e9moriser des faits, celui-ci porte sur la r\u00e9flexion et le raisonnement. Dans celui-ci, il s&rsquo;agit de sortir des sentiers battus.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : D&rsquo;accord, c&rsquo;est un peu comme la fa\u00e7on dont nous, les humains, r\u00e9solvons les probl\u00e8mes, et pas seulement en recrachant des donn\u00e9es.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. L&rsquo;I.A. est confront\u00e9e \u00e0 des probl\u00e8mes qu&rsquo;elle n&rsquo;a jamais vus auparavant, ce qui l&rsquo;oblige \u00e0 trouver de nouvelles solutions.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est impressionnant. Et ils disent que o3 peuvent faire cela \u00e0 un niveau humain.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est ce qu&rsquo;ils pr\u00e9tendent. C&rsquo;est ce qu&rsquo;ils pr\u00e9tendent. C&rsquo;est ce qu&rsquo;ils pr\u00e9tendent. Mais voil\u00e0. Les gens qui sont derri\u00e8re cette RC-AGI, ils offrent aussi un million de dollars \u00e0 la premi\u00e8re I.A. qui r\u00e9ussit l&rsquo;AGI, l&rsquo;intelligence g\u00e9n\u00e9rale artificielle, tout le bazar.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Donc ils \u00e9tablissent le test. Et le prix. N&rsquo;est-ce pas un peu, je ne sais pas, louche ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Certains le pensent. Ils disent que c&rsquo;est comme d\u00e9placer les poteaux de but. Vous savez, il est difficile de dire, si un. J&rsquo;arrive vraiment \u00e0 l&rsquo;AGI.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Je vois ce que vous voulez dire. Chaque fois que nous progressons, la d\u00e9finition de l&rsquo;intelligence change aussi.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est le probl\u00e8me de l&rsquo;I.A., ce n&rsquo;est pas seulement la technologie, c&rsquo;est ce qu&rsquo;elle nous fait penser. C&rsquo;est ce \u00e0 quoi elle nous fait penser. Qu&rsquo;est-ce que l&rsquo;intelligence ? Surtout lorsque nous nous comparons \u00e0 des machines ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Man ! du lourd. En parlant de profondeur et peut-\u00eatre d&rsquo;un peu d&rsquo;exotisme, nous devons parler de Ray Kurzweil, l&rsquo;extraordinaire futurologue. Il revient \u00e0 la charge avec une vision de l&rsquo;avenir o\u00f9 l&rsquo;intelligence artificielle et la nanotechnologie cr\u00e9ent une sorte d&rsquo;utopie.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui, il n&rsquo;est pas en reste sur ce sujet. De grandes d\u00e9clarations pour 2030.<\/p>\r\n<p class=\"p1\"><strong>Adrian<\/strong> : Je m&rsquo;y attendais. A quoi ressemble cette utopie ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Imaginez un peu. L&rsquo;\u00e9nergie solaire est si bon march\u00e9 que ce sont des nanorobots gratuits qui r\u00e9parent nos corps au niveau cellulaire. Plus de vieillissement, plus de maladie. Et le plus important, l&rsquo;interface cerveau-ordinateur, c&rsquo;est de brancher notre esprit directement sur l&rsquo;Internet. Acc\u00e8s instantan\u00e9 \u00e0 tout.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Bon, d&rsquo;accord. Oui, \u00e7a a l&rsquo;air g\u00e9nial, non ? Qui ne voudrait pas vivre \u00e9ternellement et avoir toutes les connaissances du monde au bout des doigts ? Mais voyons. Est-ce r\u00e9aliste ? 2030 est juste au coin de la rue.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui. C&rsquo;est l\u00e0 que m\u00eame ses plus grands fans pourraient lever un sourcil. Il est connu pour \u00eatre, disons, optimiste en mati\u00e8re de d\u00e9lais. Et puis il y a le revers de la m\u00e9daille. Qu&rsquo;en est-il des inconv\u00e9nients ? Toute cette technologie pourrait mal tourner de bien des fa\u00e7ons.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Oui. Comme quoi ? Donnez-moi le pire sc\u00e9nario.<\/p>\r\n<p class=\"p1\"><strong>Eleanor<\/strong> : D&rsquo;accord, imaginons que les riches aient acc\u00e8s \u00e0 toutes ces technologies qui prolongent la vie, mais que tous les autres soient laiss\u00e9s pour compte. L&rsquo;in\u00e9galit\u00e9 sous st\u00e9ro\u00efdes, en gros.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Cette id\u00e9e est effrayante. Et qu&rsquo;en est-il de la vie priv\u00e9e ? Si nos cerveaux sont en ligne ? Qui observe nos pens\u00e9es ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est vrai. C&rsquo;est la situation de Big Brother. Et puis il y a toute cette histoire d&rsquo;immortalit\u00e9 num\u00e9rique. Vivre \u00e9ternellement sous forme de code, est-ce vraiment vivre ou n&rsquo;est-ce qu&rsquo;une copie de soi ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : L&rsquo;esprit est en \u00e9bullition. S\u00e9rieusement ? Il y a de quoi r\u00e9fl\u00e9chir s\u00e9rieusement. D&rsquo;accord, avant d&rsquo;aller trop loin dans le trou du lapin, nous devons parler de Geoffrey Hinton. Ce type. Il est comme le parrain de l&rsquo;I.A., et il vient de l\u00e2cher cette bombe en disant que l&rsquo;I.A. pourrait nous an\u00e9antir d&rsquo;ici 30 ans.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Ouais. Cela a attir\u00e9 l&rsquo;attention de tout le monde. Ce type n&rsquo;est pas vraiment connu pour ses hyperboles.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : En gros, il dit que nous pourrions ne pas \u00eatre capables de contr\u00f4ler une IA plus intelligente que nous. On dirait une intrigue de film de science-fiction.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : En fait, ce qu&rsquo;il dit, c&rsquo;est que nous n&rsquo;avons jamais eu \u00e0 faire face \u00e0 quelque chose de plus intelligent que nous avant les humains. Nous avons toujours \u00e9t\u00e9 au top. Maintenant, nous sommes en train de cr\u00e9er quelque chose qui pourrait nous consid\u00e9rer comme une menace, un obstacle.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Quelle est donc la solution ? Que veut-il que nous fassions ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Il dit que nous devons commencer \u00e0 r\u00e9glementer l&rsquo;I.A. maintenant, comme hier. Il faut trouver un moyen de la contr\u00f4ler avant qu&rsquo;il ne soit trop tard.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Cette id\u00e9e donne \u00e0 r\u00e9fl\u00e9chir. Mais r\u00e9agit-il de mani\u00e8re excessive ou s&rsquo;agit-il d&rsquo;une v\u00e9ritable menace que nous devons prendre au s\u00e9rieux ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est la question \u00e0 un million de dollars, n&rsquo;est-ce pas ? Certains experts sont d&rsquo;accord avec lui pour dire qu&rsquo;il faut \u00eatre prudent. D&rsquo;autres disent qu&rsquo;il faut se d\u00e9tendre : ce n&rsquo;est pas pr\u00e8s d&rsquo;arriver.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Je pense que l&rsquo;avenir nous le dira. Mais c&rsquo;est un d\u00e9bat qui vaut la peine d&rsquo;\u00eatre men\u00e9. Cette id\u00e9e de cr\u00e9er quelque chose qui pourrait devenir plus intelligent que nous. C&rsquo;est \u00e0 la fois fascinant et terrifiant.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est vrai. Cela nous oblige \u00e0 nous confronter \u00e0 des questions fondamentales sur notre place dans l&rsquo;univers. Que se passe-t-il lorsque la cr\u00e9ation d\u00e9passe le cr\u00e9ateur ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : D&rsquo;accord, la t\u00eate me tourne un peu, cette \u00ab\u00a0Plong\u00e9e en profondeur\u00a0\u00bb, cela a \u00e9t\u00e9 un v\u00e9ritable tour de force. Nous sommes pass\u00e9s des biais subtils de l&rsquo;intelligence artificielle \u00e0 la mod\u00e9lisation du climat et \u00e0 l&rsquo;avenir de la guerre. Nous avons m\u00eame \u00e9voqu\u00e9 la possibilit\u00e9 d&rsquo;une extinction.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Nous avons couvert beaucoup de terrain, c&rsquo;est certain. Mais une chose est claire : l&rsquo;IA n&rsquo;est pas seulement une question de technologie. Il s&rsquo;agit de nous, de l&rsquo;humanit\u00e9.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Elle change notre fa\u00e7on de vivre, notre fa\u00e7on de penser, et m\u00eame notre fa\u00e7on de nous d\u00e9finir.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Et cela ne fait que commencer. Bouclez votre ceinture.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Oui, la boucle est boucl\u00e9e. C&rsquo;est \u00e7a. Nous allons faire une petite pause. Mais quand nous reviendrons, nous serons encore plus pr\u00e9cis. Quel est l&rsquo;impact de l&rsquo;I.A. sur le changement climatique ? Qu&rsquo;en est-il de la guerre ? Et apprendre \u00e0 l&rsquo;I.A. \u00e0 oublier, est-ce une bonne id\u00e9e ou une recette pour un d\u00e9sastre ? Restez dans les parages. Nous revenons tout de suite.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Vous savez, avant la pause, nous parlions du fait que l&rsquo;IA peut \u00eatre \u00e0 la fois une solution et un probl\u00e8me.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Oui, c&rsquo;est une arme \u00e0 double tranchant.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, zoomons un peu. Prenons un domaine sp\u00e9cifique o\u00f9 l&rsquo;IA fait des vagues. Pour le meilleur ou pour le pire : le changement climatique.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Ah, le changement climatique. Le grand sujet. Quel est le r\u00f4le de l&rsquo;IA dans ce domaine ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, vous savez, la mod\u00e9lisation du climat. C&rsquo;est tr\u00e8s complexe, n&rsquo;est-ce pas ? Des tonnes de variables de donn\u00e9es pour essayer de pr\u00e9dire l&rsquo;avenir sur la base de ce que nous voyons aujourd&rsquo;hui. C&rsquo;est l\u00e0 que l&rsquo;I.A. entre en jeu. Elle peut calculer ces chiffres, analyser ces \u00e9normes ensembles de donn\u00e9es bien plus rapidement que nous, simples mortels.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Cela revient donc \u00e0 donner aux climatologues un outil de travail surpuissant.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. Et la lettre d&rsquo;information de cette semaine. Elle met en avant ce projet o\u00f9 l&rsquo;on utilise l&rsquo;I.A. pour mod\u00e9liser sp\u00e9cifiquement l&rsquo;\u00e9l\u00e9vation du niveau de la mer.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Wow. Donc, combien les oc\u00e9ans vont monter et o\u00f9.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui. Et quel sera l&rsquo;impact sur les communaut\u00e9s c\u00f4ti\u00e8res. C&rsquo;est tr\u00e8s important. Si vous savez ce qui se pr\u00e9pare, vous pouvez vous pr\u00e9parer, n&rsquo;est-ce pas ? S&rsquo;adapter.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Absolument. Un syst\u00e8me d&rsquo;alerte pr\u00e9coce, en somme. Mais attendez. Il doit y avoir un pi\u00e8ge, n&rsquo;est-ce pas ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Il y a toujours un pi\u00e8ge. Et avec l&rsquo;IA, l&rsquo;un des principaux est, vous l&rsquo;avez devin\u00e9, la partialit\u00e9.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Biais. Oui, nous en avons parl\u00e9 tout \u00e0 l&rsquo;heure avec le langage. Comment se faufile-t-il dans la mod\u00e9lisation climatique ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Pensez aux donn\u00e9es utilis\u00e9es pour entra\u00eener ces syst\u00e8mes d&rsquo;intelligence artificielle. Et si elles \u00e9taient fauss\u00e9es ? Vous savez, si elles proviennent principalement d&rsquo;industries qui aiment les combustibles fossiles, par exemple ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Je vois. L&rsquo;IA pourrait donc minimiser l&rsquo;importance des \u00e9nergies renouvelables, m\u00eame si les donn\u00e9es scientifiques le prouvent.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. Elle pourrait \u00eatre utilis\u00e9e pour ralentir l&rsquo;action, m\u00eame s&rsquo;il est clair que nous devons changer.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est une id\u00e9e assez inqui\u00e9tante. Oui, c&rsquo;est vrai. Alors comment faire en sorte que cela n&rsquo;arrive pas ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : La transparence, tout d&rsquo;abord. Il faut savoir d&rsquo;o\u00f9 viennent les donn\u00e9es, s&rsquo;assurer de leur diversit\u00e9, repr\u00e9sentatives, tu sais, et bien s\u00fbr, consid\u00e9rations \u00e9thiques. Il faut les int\u00e9grer d\u00e8s le d\u00e9part, n&rsquo;est-ce pas ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : On ne peut pas laisser les algorithmes agir \u00e0 leur guise. En parlant d&rsquo;\u00e9thique, cette histoire d&rsquo;apprendre \u00e0 l&rsquo;I.A. \u00e0 l&rsquo;oublier m&rsquo;a laiss\u00e9 perplexe.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Apprendre \u00e0 l&rsquo;I.A. \u00e0 oublier, c&rsquo;est un peu contre-intuitif, non ? Pourquoi voudrions-nous qu&rsquo;elles oublient quoi que ce soit ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Oui, exactement. N&rsquo;est-il pas toujours pr\u00e9f\u00e9rable d&rsquo;avoir plus de connaissances ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Eh bien, pensez-y de cette fa\u00e7on. Ces mod\u00e8les d&rsquo;I.A. deviennent de plus en plus complexes. Ils ont besoin de tonnes de donn\u00e9es, de tonnes de puissance de traitement. Cela demande de l&rsquo;\u00e9nergie, beaucoup d&rsquo;\u00e9nergie.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Donc une grosse empreinte carbone juste pour faire fonctionner l&rsquo;IA.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Bingo. Donc si elles pouvaient apprendre \u00e0 se d\u00e9barrasser des choses non pertinentes, des donn\u00e9es obsol\u00e8tes, elles pourraient devenir plus efficaces, moins gourmandes en \u00e9nergie.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : D&rsquo;accord, je vois l&rsquo;aspect environnemental. Mais il doit y avoir autre chose, non ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Il y a l&rsquo;aspect \u00e9thique de toutes ces donn\u00e9es personnelles. Nous alimentons ces syst\u00e8mes d&rsquo;I.A. l\u00e0 o\u00f9 ils pourraient oublier les choses sensibles, les choses que nous ne voulons pas qu&rsquo;ils gardent.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est la question de la vie priv\u00e9e. C&rsquo;est donc comme si on donnait aux gens plus de contr\u00f4le sur leurs donn\u00e9es, m\u00eame apr\u00e8s qu&rsquo;elles aient \u00e9t\u00e9 utilis\u00e9es pour former l&rsquo;I.A..<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : D&rsquo;accord. Mais, et il y a toujours un mais, comment apprendre \u00e0 la machine ce qu&rsquo;il faut oublier ? Ce qui est s\u00fbr \u00e0 jeter, ce qui est crucial \u00e0 garder ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Oui. Et si elle oublie accidentellement quelque chose d&rsquo;important, cela pourrait avoir des cons\u00e9quences dans le monde r\u00e9el, n&rsquo;est-ce pas ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Absolument. Un probl\u00e8me difficile \u00e0 r\u00e9soudre. Il faut trouver l&rsquo;\u00e9quilibre entre l&rsquo;efficacit\u00e9 et la protection de la vie priv\u00e9e d&rsquo;une part, et la fiabilit\u00e9 et la s\u00e9curit\u00e9 d&rsquo;autre part. Fiabilit\u00e9 et s\u00e9curit\u00e9 d&rsquo;un autre c\u00f4t\u00e9.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : On dirait un travail pour les \u00e9thiciens de l&rsquo;I.A.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Sans blague. C&rsquo;est une toute nouvelle fronti\u00e8re. Et cela montre que l&rsquo;I.A. n&rsquo;est pas seulement une question de technologie. Il s&rsquo;agit de ces grandes questions, de ces dilemmes.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Elle change notre fa\u00e7on de penser le monde, de nous penser nous-m\u00eames. D&rsquo;accord, changeons encore de vitesse. L&rsquo;I.A. dans l&rsquo;arm\u00e9e, c&rsquo;est une combinaison qui fait toujours parler.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui. Et cette semaine, tout tourne autour de ce partenariat. Palantir et Anduril, deux entreprises \u00e0 la pointe de la guerre de l&rsquo;IA. On pourrait dire.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Palantir. C&rsquo;est une soci\u00e9t\u00e9 d&rsquo;analyse de donn\u00e9es, n&rsquo;est-ce pas ? Elle a \u00e9t\u00e9 impliqu\u00e9e dans des affaires gouvernementales douteuses.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : \u00ab\u00a0Controvers\u00e9\u00a0\u00bb serait un meilleur mot. D&rsquo;accord.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Controvers\u00e9. Et Anduril ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Ce qui est nouveau pour moi, c&rsquo;est qu&rsquo;il s&rsquo;agit de drones autonomes. Et ensemble, ils construisent ces syst\u00e8mes qui peuvent bien coordonner les missions militaires \u00e0 un niveau enti\u00e8rement nouveau.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Drones autonomes. Des robots qui prennent des d\u00e9cisions sur le champ de bataille.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est l&rsquo;id\u00e9e. Des drones qui peuvent analyser la situation et choisir des cibles sans qu&rsquo;un humain n&rsquo;appuie sur la g\u00e2chette.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Et \u00e7a, \u00e7a fait peur. Qui est responsable lorsque les choses tournent mal ? Qu&rsquo;est-ce qui emp\u00eache ces engins de devenir incontr\u00f4lables ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui, ce sont l\u00e0 les grandes questions. Et pas seulement pour les militaires, mais pour nous tous. Que se passe-t-il lorsque nous confions ce niveau de contr\u00f4le \u00e0 l&rsquo;I.A. ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est comme ouvrir la bo\u00eete de Pandore. On ne sait jamais ce qui va en sortir.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. C&rsquo;est pourquoi nous devons avoir ces conversations \u00e0 l&rsquo;\u00e9chelle mondiale. Quelles sont les r\u00e8gles d&rsquo;engagement de l&rsquo;IA dans la guerre ? Comment \u00e9viter un sc\u00e9nario \u00e0 la Terminator ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Il y a beaucoup \u00e0 penser. Et il ne s&rsquo;agit pas seulement de la guerre. Elle a un impact sur tout.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : En effet. Et elle \u00e9volue rapidement. Nous avons beaucoup de travail \u00e0 faire pour savoir comment exploiter cette puissance. S&rsquo;assurer qu&rsquo;elle est utilis\u00e9e pour le bien, et non pour, eh bien&#8230;<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Pour le mal, pour le chaos, pour la fin du monde tel que nous le connaissons.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. Nous devons faire preuve d&rsquo;intelligence. Penser \u00e0 l&rsquo;avance. Anticiper les cons\u00e9quences. Il ne s&rsquo;agit pas seulement de technologie. Il s&rsquo;agit de nos valeurs, de notre avenir.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Bien dit. Avant d&rsquo;aller plus loin, faisons une petite pause. Nous serons de retour dans un instant pour approfondir la question. C&rsquo;est une bonne chose. Vous savez, c&rsquo;est amusant. Nous avons parl\u00e9 de tous ces grands impacts de l&rsquo;IA qui changent le monde, mais cela nous fait aussi penser aux petites choses comme ce que cela signifie pour nous, pour les humains \u00e0 un niveau personnel ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : C&rsquo;est vrai. Il ne s&rsquo;agit pas seulement des robots qui envahissent le monde. Il s&rsquo;agit de la fa\u00e7on dont l&rsquo;IA change, ce que cela signifie d&rsquo;\u00eatre humain.<\/p>\r\n<p class=\"p1\">Exactement. Par exemple, ce qu&rsquo;il advient de notre sens de soi, de notre identit\u00e9, quand les machines peuvent faire des choses que nous pensions \u00eatre uniquement humaines. Et si je pouvais \u00e9crire une symphonie aussi bonne que Beethoven ou un po\u00e8me qui rivalise avec Shakespeare ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Cela remet en question nos hypoth\u00e8ses, n&rsquo;est-ce pas ? Si une machine peut cr\u00e9er un art tout aussi \u00e9mouvant, tout aussi beau, cela rend-il la cr\u00e9ativit\u00e9 humaine moins sp\u00e9ciale ? Ou peut-\u00eatre. Peut-\u00eatre que cela nous pousse \u00e0 trouver de nouvelles formes d&rsquo;expression pour explorer les aspects de la cr\u00e9ativit\u00e9 qui sont encore uniquement humains.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : J&rsquo;aime que l&rsquo;I.A. soit comme un partenaire cr\u00e9atif qui nous pousse \u00e0 aller plus loin.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Oui, comme un collaborateur. Et peut-\u00eatre que \u00e7a nous lib\u00e8re, vous savez, si elle peut s&rsquo;occuper des choses plus techniques et r\u00e9p\u00e9titives, nous pouvons nous concentrer sur les choses qui nous rendent vraiment humains, n&rsquo;est-ce pas ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Les choses que les algorithmes ne peuvent pas reproduire. La connexion, l&#8217;empathie. Ces grandes questions sur la vie, l&rsquo;univers et tout le reste.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Exactement. Il ne s&rsquo;agit pas d&rsquo;\u00eatre remplac\u00e9s. Il s&rsquo;agit d&rsquo;\u00e9voluer. Trouver notre place dans ce nouveau monde o\u00f9 je fais partie de l&rsquo;\u00e9quation.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : J&rsquo;aime le fait qu&rsquo;il ne s&rsquo;agit pas de peur. Il s&rsquo;agit d&rsquo;opportunit\u00e9s. L&rsquo;occasion de nous red\u00e9finir, de nous concentrer sur ce qui compte vraiment.<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Et de se rappeler que l&rsquo;I.A. est un outil. C&rsquo;est \u00e0 nous de l&rsquo;utiliser \u00e0 bon escient, de nous assurer qu&rsquo;elle renforce notre humanit\u00e9, et non qu&rsquo;elle la diminue.<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : Bien dit. Alors que nous terminons cette \u00ab\u00a0Plong\u00e9e en profondeur\u00a0\u00bb, y a-t-il une grande id\u00e9e, une question que vous voulez que nos auditeurs retiennent ?<\/p>\r\n<p class=\"p1\"><b>Eleanor<\/b> : Je pense que la question que nous devons tous nous poser aujourd&rsquo;hui est la suivante : qu&rsquo;est-ce que cela signifie vraiment d&rsquo;\u00eatre humain ? Si je peux penser, cr\u00e9er, peut-\u00eatre m\u00eame nous surpasser \u00e0 certains \u00e9gards, qu&rsquo;est-ce qui nous distingue des autres ? Qu&rsquo;est-ce qui nous distingue ? Est-ce seulement notre intelligence ou y a-t-il quelque chose de plus, quelque chose de plus profond qui fait de nous ce que nous sommes ?<\/p>\r\n<p class=\"p1\"><b>Adrian<\/b> : C&rsquo;est une question puissante. Et honn\u00eatement, je ne connais pas la r\u00e9ponse, mais c&rsquo;est une question \u00e0 laquelle nous devons tous r\u00e9fl\u00e9chir alors que nous naviguons dans cet avenir incroyable, terrifiant et excitant de l&rsquo;I.A.. C&rsquo;est sur cette note que nous allons conclure cet \u00e9pisode de \u00ab\u00a0The Deep Dive\u00a0\u00bb. Mais la conversation ne s&rsquo;arr\u00eate pas l\u00e0. Continuez \u00e0 r\u00e9fl\u00e9chir, \u00e0 vous interroger, et nous vous retrouverons la semaine prochaine pour une nouvelle plong\u00e9e dans le monde qui est en train de changer sous nos yeux.<\/p>\r\n<p><strong>Retranscription en anglais <\/strong>:<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>All right. Let&rsquo;s kick off this week&rsquo;s deep dive. And you know where we&rsquo;re headed? Right. Straight into the heart of I. We&rsquo;re cracking open the Intelligence and Society newsletter. You know that French one always got their finger on the pulse, of all things.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>I always am. Fascinating insights in.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>There. And boy, the week of December 23rd through the 29th, 2024 was a doozy. We got A.I. models making headlines, predictions flying left and right about the future, and even some warnings that might make you want to double check those robot security protocols. You know what I&rsquo;m saying?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>It&rsquo;s definitely been a week of, well, extremes. You could say.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Extremes, that&rsquo;s the word. So let&rsquo;s break it all down. Separate the hype from the reality, you know, and leave everyone out there with some serious food for thought.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah, sounds like a good plan.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Okay, so this first story, it really makes you think. Turns out the way you talked to an A.I., how you phrase your question, it could really change the answer you get, especially when we&rsquo;re talking about, you know, sensitive stuff like conflict zones, political hot potatoes, that kind of thing.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Right. And this study, it was in your weather this week. They looked at how I responded to questions about those Israeli strikes on Gaza. And what&rsquo;s interesting is they asked the same questions. But in Arabic and Hebrew.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Wow. So using the languages of both sides of the conflict.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. And the A&rsquo;s answers. Boy. They were different. Sometimes a lot different.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Like how different? Give me the details.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, first off, think about casualty counts. Those estimates swung by like 34%, just depending on which language was used. But even more than that, the A.I., when it was answering in Hebrew, it kind of downplayed, even sometimes completely skipped over certain events, really.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>So like it was almost taking sides based on the line.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, it definitely makes you wonder. And when you start thinking about how much we rely on AI, now, it gets a little unsettling.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>It&rsquo;s in our news feeds. It&rsquo;s powering our searches. Even governments are using it for decisions.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Right. So if something as basic as the language of a question can skew the information, that&rsquo;s, well, kind of scary.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>No kidding. Makes you wonder what else is influencing those algorithms behind the scenes?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Definitely something to think about. It really highlights how important it is to be aware of potential biases in these AI systems.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Absolutely. Okay. Let&rsquo;s switch gears on to something that&rsquo;s got everyone buzzing. Open eyes, new O3 model. They&rsquo;re saying it&rsquo;s hit human level intelligence. And they&rsquo;re basing that on this test called RC, AGI. What&rsquo;s that all about? What makes it so special?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, RC AGI stands for Abstraction and Reasoning Corpus for artificial general intelligence, if you want to get technical about it.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>You know, I love the technical stuff.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>So unlike those other A.I. tests that are mostly about recognizing patterns or memorizing facts. This one, it&rsquo;s about thinking outside the box.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Okay, so more like how we humans solve problems, not just spitting back data.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. It throws problems at the A.I. that it&rsquo;s never seen before, makes it come up with brand new solutions.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>That&rsquo;s impressive. And they&rsquo;re saying, three can do that at a human level.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>That&rsquo;s their claim. Yeah. Yeah. But here&rsquo;s the thing. The folks behind this RC AGI, they&rsquo;re also offering a million bucks to the first A.I. that nails AGI, artificial general intelligence, the whole shebang.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>So they&rsquo;re setting the test. And the prize. Isn&rsquo;t that kind of, I don&rsquo;t know, fishy.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Some folks think so. They&rsquo;re saying it&rsquo;s like moving the goalposts. You know, making it hard to say, if any. I truly gets to AGI.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>I see what you mean. Like every time we make progress, the definition of intelligence shifts, too.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>That&rsquo;s the thing about A.I.. It&rsquo;s not just the tech. It&rsquo;s what it makes us think about. What does intelligence even mean? Especially when we&rsquo;re comparing ourselves to machines?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Man Deep stuff. Okay. Speaking of deep and maybe a little out there, we got to talk about Ray Kurzweil, the futurist extraordinaire. He&rsquo;s back at it with a vision of the future where A.I. and nanotech basically create this, like, utopia.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah. He&rsquo;s not holding back on this one. Big claims about 2030.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Laid on me. What&rsquo;s this utopia look like?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Picture this. Solar energy so cheap, it&rsquo;s basically free nano robots fixing our bodies at the cellular level. No more aging, no more disease. And the big one, brain computer interface is plug your mind right into the Internet. Instant access to everything.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Well, okay. Yeah. I mean, it sounds amazing, right? Who wouldn&rsquo;t want to live forever and have all the knowledge in the world at their fingertips? But come in. How realistic is this? 2030 is just around the corner.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah. That&rsquo;s where even his biggest fans might raise an eyebrow. He&rsquo;s known for being, shall we say, optimistic about timelines. And then there&rsquo;s the other side of the coin. What about the downsides? All this tech, it could go wrong in a lot of ways.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yeah. Like what? Give me the worst case scenario.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Okay, so imagine the rich get access to all this life extending tech, but everyone else is left behind. Inequality on steroids, basically.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>That&rsquo;s a scary thought. And what about privacy? If our brains are online? Who&rsquo;s watching our thoughts?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Right. Total big brother situation. And then there&rsquo;s the whole digital immortality thing. Is living forever as code really living or is it just a copy of you?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>My. Mind blown. Seriously? Some heavy stuff to think about. All right, before we go too far down the rabbit hole, we got to talk about Jeffrey. Him? This guy. He&rsquo;s like the godfather of A.I., and he just dropped this bombshell saying I could wipe us out maybe within 30 years.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah. That got everyone&rsquo;s attention. Not exactly known for hyperbole, this guy.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>So he&rsquo;s basically saying we might not be able to control an AI that smarter than us. So it sounds like a sci fi movie plot.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, his point is we&rsquo;ve never had to deal with something that can outthink us before humans. We&rsquo;ve always been on top. Now we&rsquo;re creating something that could see us as a threat, an obstacle.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yikes. So what&rsquo;s the solution? What does he want us to do?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>He&rsquo;s saying we got to start regulating A.I. now, like yesterday. Figure out how to keep it under control before it&rsquo;s too late.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>That&rsquo;s a sobering thought. But is he overreacting or is this a genuine threat we need to take seriously?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>That&rsquo;s the million dollar question, isn&rsquo;t it? Some experts are with him saying we got to be cautious. Others are like, relax. It&rsquo;s not happening any time soon.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>I guess time will tell. But it&rsquo;s definitely a debate worth having. This whole idea of creating something that could become more intelligent than us. It&rsquo;s fascinating and kind of terrifying all at once.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>It really is. It forces us to confront some fundamental questions about our place in the universe. What happens when the creation surpasses the creator?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Okay, my head spinning a little bit, this deep dive. It&rsquo;s been a wild ride. We&rsquo;ve gone from those subtle biases in the AI to climate modeling to the future of warfare. Even the possibility of, well, extinction.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>We&rsquo;ve covered a lot of ground, that&rsquo;s for sure. But one thing is clear A.I.. It&rsquo;s not just about the technology. It&rsquo;s about us, about humanity.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>It&rsquo;s changing how we live, how we think, even how we define ourselves.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>And it&rsquo;s just getting started. Buckle up.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yeah, Buckle up is right. All right. We&rsquo;re going to take a quick pause here. But when we come back, we&rsquo;re going to get even more specific. How is A.I. impacting climate change? What about warfare? And is teaching A.I. to forget a good idea or a recipe for disaster? Stick around. We&rsquo;ll be right back.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>You know, before the break, we were talking about how AI, it can be a solution and a problem all at the same time.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yeah, definitely a double edged sword.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, let&rsquo;s let&rsquo;s zoom in a bit. Look at a specific area where AI&rsquo;s making waves. For better or worse, climate change.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Ah, climate change. The big one. How&rsquo;s A.I. playing a role there?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, you know, climate modeling. It&rsquo;s super complex, right? Tons of data variables out the wazoo, trying to predict the future based on what we see now. That&rsquo;s where A.I. comes in. It can crunch those numbers, analyze those massive datasets way faster than us mere mortals.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>So it&rsquo;s like giving climate scientists a superpowered tool to work with.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. And this week&rsquo;s newsletter. It highlights this project where they&rsquo;re using A.I. to specifically model, get this rising sea level.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Wow. So, like, how much the oceans are going to rise and where.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah. And how it&rsquo;ll impact coastal communities. That&rsquo;s powerful stuff. If you know what&rsquo;s coming, you can prepare, right? Adapt.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Absolutely. Early warning system, basically. But hold on. There&rsquo;s got to be a catch, right?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>There&rsquo;s always a catch. And with AI, one of the big ones is, you guessed it, bias.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Bias. Yeah, we talked about that earlier with the language stuff. How does it sneak into climate modeling?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, think about the data that&rsquo;s used to train these AI systems. What if it&rsquo;s skewed? You know, comes mostly from industries that love fossil fuels, for example?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>I see. So the AI might downplay the whole renewable energy thing, even if the science is screaming for it.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. It could be used to slow down action, even if it&rsquo;s clear we need to change.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>That&rsquo;s a pretty disturbing thought. Yeah. So how do we make sure that doesn&rsquo;t happen?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Transparency, for one. Now, knowing where the data comes from, making sure it&rsquo;s diverse. Representative, you know, and of course, ethical considerations. Got to build those in from the ground up, right?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Can&rsquo;t just let the algorithms run wild. Speaking of ethics, this story about teaching A.I. to forget that was a head scratcher.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Teaching A.I. to forget sounds kind of counterintuitive, right? Why would we want them to forget anything?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yeah, exactly. Isn&rsquo;t more knowledge always better?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Well, think about it this way. These A.I. models, they&rsquo;re getting huge complex. They need tons of data, tons of processing power. That takes energy, lots of it.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>So like a big carbon footprint just to keep the A.I. running.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Bingo. So if they could learn to ditch the irrelevant stuff, the outdated data, they could become more efficient, less energy hungry.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Okay, I see the environmental angle. But there&rsquo;s got to be more to it, right?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>There&rsquo;s the ethical side to all that personal data. We&rsquo;re feeding these A.I. systems where they could forget the sensitive stuff, the things we don&rsquo;t want them holding on to.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Are the privacy issue. So it&rsquo;s like giving people more control over their data even after it&rsquo;s been used to train the A.I..<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Right. But and there&rsquo;s always a but how do you teach the machine what to forget? What safe to toss, What&rsquo;s crucial to keep?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Yeah. And what if it accidentally forgets something important could have real world consequences, right?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Absolutely. The. A tough nut to crack. Got to find that balance, efficiency and privacy on one side. Reliability and safety on the other.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Sounds like a job for the A.I. ethicists.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>No kidding. It&rsquo;s a whole new frontier. And it shows how A.I. it&rsquo;s not just about the tech. It&rsquo;s about these big questions, these dilemmas.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>It&rsquo;s changing how we think about the world, about ourselves. Okay, let&rsquo;s shift gears again. A.I. in the military, that&rsquo;s a combo that always gets people talking.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah. And this week, it&rsquo;s all about this partnership. Palantir and Anduril, two companies on the cutting edge of A.I. warfare. You could say.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Palantir. They&rsquo;re that data analytics company, right? Been involved in some shady government stuff.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Controversial might be a better word. Okay.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Controversial. What about Anduril?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>New to me, they&rsquo;re all about autonomous drones. And together they&rsquo;re building these systems that can well coordinate military missions on a whole new level.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Autonomous drones. So like robots making decisions on the battlefield.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>That&rsquo;s the idea. Drones that can analyze the situation choose targets all without a human pulling the trigger.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>And that&rsquo;s some scary stuff. Who&rsquo;s responsible when things go wrong? What&rsquo;s stopping these things from going rogue?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah, those are the big questions. And not just for the military, but for all of us. What happens when we hand over that level of control to A.I.?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>It&rsquo;s like opening Pandora&rsquo;s box. You never know what&rsquo;s going to come flying out.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. And that&rsquo;s why we need to be having these conversations globally. What are the rules of engagement for AI in warfare? How do we prevent a Terminator scenario?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>It&rsquo;s a lot to think about. And it&rsquo;s not just warfare. It is impacting everything.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>It is. And it&rsquo;s moving fast. We&rsquo;ve got a lot of work to do figuring out how to harness this power. Make sure it&rsquo;s used for good, not for, well.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>For bad, for chaos, for the end of the world as we know it.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. We&rsquo;ve got to be smart about this. Think ahead. Anticipate the consequences. It&rsquo;s not just about the tech. It&rsquo;s about our values, our future.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Wall said. Okay, before we go any further, let&rsquo;s take a quick break. We&rsquo;ll be back in a flash with more deep dive. Goodness. You know, it&rsquo;s funny. We&rsquo;ve been talking about all these big world changing impacts of AI, but it also makes you think about the little things like what does it mean for us, for humans on a personal level?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Right. It&rsquo;s not just about robots taking over the world. It&rsquo;s about how AI is changing, what it means to be human.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Exactly Like what happens to our sense of self, You know, our identity when machines can do things we thought were uniquely human. I mean, what if I can write a symphony that&rsquo;s as good as Beethoven or a poem that rivals Shakespeare?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>It definitely challenges our assumptions, doesn&rsquo;t it? Like if a machine can create art that&rsquo;s just as moving, just as beautiful, does that make human creativity less special? Or maybe. Maybe it pushes us to find new forms of expression to explore those aspects of creativity that are still uniquely human.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>I like that A.I. is this like creative partner pushing us to go further.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Yeah, like a collaborator. And maybe it frees us up to, you know, if I can handle the more technical, repetitive stuff, we can focus on the things that really make us human, right?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>The stuff that algorithms can&rsquo;t replicate. Connection, empathy. Those big questions about life, the universe and everything.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>Exactly. It&rsquo;s not about being replace. It&rsquo;s about evolving. Finding our place in this new world where I as a part of the equation.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>I like that it&rsquo;s not about fear. It&rsquo;s about opportunity. Opportunity to redefine ourselves, to focus on what truly matters.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>And to remember A.I. is a tool. It&rsquo;s up to us to use it wisely, to make sure it enhances our humanity, not diminishes it.<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>Well said. So as we wrap up this deep dive, is there one big idea, one question you want our listeners to walk away with?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Eleanor: <\/b><\/span>I think the question we all need to be asking ourselves now is what does it truly mean to be human? If I can think, can create can maybe even surpass us in some ways. What sets us apart? Is it just our intelligence or is there something more, something deeper that makes us who we are?<\/p>\r\n<p class=\"p1\"><span class=\"s1\"><b>Adrian: <\/b><\/span>That&rsquo;s a powerful question. And honestly, I don&rsquo;t know the answer, but it&rsquo;s something we all need to be thinking about as we navigate this this incredible, terrifying, exciting future with A.I.. And on that note, we&rsquo;re going to wrap up this episode of The Deep Dive. But, hey, the conversation doesn&rsquo;t end here. Keep thinking, keep questioning, and we&rsquo;ll see you next week for another deep dive into the world that&rsquo;s changing right before our eyes.<\/p>\r\n<p>&nbsp;<\/p>\r\n<p><iframe loading=\"lazy\" title=\"YouTube video player\" src=\"https:\/\/www.youtube.com\/embed\/rDfOoU4vwnA?si=136xSd87M4WVsHrC\" width=\"700\" height=\"450\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>","protected":false},"excerpt":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-142668\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41.png\" alt=\"\" width=\"1472\" height=\"832\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41.png 1472w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-300x170.png 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-1024x579.png 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Capture-de\u0301cran-2024-12-29-a\u0300-23.32.41-768x434.png 768w\" sizes=\"auto, (max-width: 1472px) 100vw, 1472px\" \/><\/p>\n<p><strong>Retranscription en fran\u00e7ais<\/strong> :<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9887,9204,13,6213,5008],"tags":[9918,5178,3277,4209,9290,1189,940,9545,9214,3327,1592,9253,9793,2302,3421,3997,3817],"class_list":["post-142663","post","type-post","status-publish","format-standard","hentry","category-intelligence-societe","category-grands-modeles-de-langage","category-intelligence-artificielle","category-singularite","category-transhumanisme","tag-arc-agi","tag-cyborg","tag-evolution","tag-extinction-du-genre-humain","tag-geoffrey-hinton","tag-google","tag-intelligence-artificielle-2","tag-intelligence-artificielle-generaliste","tag-irving-good","tag-isaac-asimov","tag-israel","tag-llm","tag-notebooklm","tag-palestine","tag-ray-kurzweil","tag-singularite","tag-transhumanisme"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142663","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=142663"}],"version-history":[{"count":4,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142663\/revisions"}],"predecessor-version":[{"id":142669,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142663\/revisions\/142669"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=142663"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=142663"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=142663"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}