{"id":142650,"date":"2024-12-29T13:21:39","date_gmt":"2024-12-29T12:21:39","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=142650"},"modified":"2024-12-29T13:21:39","modified_gmt":"2024-12-29T12:21:39","slug":"intelligence-societe-n5","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/12\/29\/intelligence-societe-n5\/","title":{"rendered":"Intelligence & Soci\u00e9t\u00e9<\/em><\/b> N\u00b05"},"content":{"rendered":"

\"\"
\n\u00c0 deux doigts de l\u2019intelligence artificielle g\u00e9n\u00e9raliste ?<\/em><\/p>\n

La newsletter compl\u00e8te sera communiqu\u00e9e demain \u00e0 celles et ceux d’entre vous ayant manifest\u00e9 leur int\u00e9r\u00eat pour notre veille hebdomadaire sur l\u2019actualit\u00e9 de l’IA. Il n’est pas trop tard bien entendu pour vous manifester en m’\u00e9crivant ici<\/a>.<\/p><\/blockquote>\n

<\/p>\n

Intelligence & Soci\u00e9t\u00e9<\/b><\/h3>\n

Semaine du 15 au 22 d\u00e9cembre 2024<\/b><\/p>\n

Paul Jorion & Jueun Ahn<\/b><\/p>\n

Sommaire<\/b><\/p>\n

    \n
  1. Quand les r\u00e9ponses de l\u2019IA alimentent les tensions<\/li>\n
  2. OpenAI o3 : vers une intelligence artificielle g\u00e9n\u00e9raliste<\/li>\n
  3. Ray Kurzweil : un monde d\u2019abondance\u2026 pour des cyborgs<\/li>\n
  4. Le \u00ab\u00a0posthumanisme\u00a0\u00bb apocalyptique de Geoffrey Hinton<\/li>\n
  5. Autres avanc\u00e9es marquantes en IA<\/li>\n<\/ol>\n

    Cette newsletter s\u2019adresse \u00e0 tous ceux qui souhaitent comprendre les enjeux strat\u00e9giques de l\u2019intelligence artificielle (IA). Que vous soyez un chercheur, un professionnel de la technologie, ou simplement un citoyen curieux des transformations en cours, notre objectif est de vous fournir une analyse claire et approfondie pour naviguer dans cet univers complexe.<\/i><\/p>\n

    L\u2019ann\u00e9e 2024 se termine avec des avanc\u00e9es remarquables suscitant cependant\u00a0 <\/span>des pr\u00e9occupations croissantes quant \u00e0 ses implications \u00e9thiques, soci\u00e9tales et existentielles. Durant la semaine \u00e9coul\u00e9e, l\u2019intelligence artificielle a montr\u00e9 ses multiples visages : innovation brillante, danger imminent, et outil profond\u00e9ment imparfait. Les annonces r\u00e9centes, qu\u2019il s\u2019agisse du cri d\u2019alarme de Geoffrey Hinton ou des avanc\u00e9es marquantes d\u2019OpenAI, posent une question pressante : ma\u00eetrisons-nous encore les forces en jeu ? L’IA, moteur de progr\u00e8s, s’impose \u00e9galement comme un r\u00e9v\u00e9lateur de nos failles politiques, \u00e9thiques, et soci\u00e9tales. La question n’est plus uniquement technique, elle devient existentielle. L\u2019 IA est \u00e0 un tournant critique : un moment o\u00f9 ses applications promettent de changer la soci\u00e9t\u00e9, mais o\u00f9 ses dangers nous rappellent la n\u00e9cessit\u00e9 d\u2019une vigilance accrue.<\/p>\n

    Cette \u00e9dition de notre newsletter se concentre sur quatre d\u00e9veloppements majeurs incarnant les tensions entre espoir et crainte. Nous commen\u00e7ons par une \u00e9tude r\u00e9v\u00e9lant comment les biais linguistiques dans les r\u00e9ponses de l\u2019IA peuvent influencer les perceptions des conflits mondiaux. Nous examinons ensuite une avanc\u00e9e marquante : un mod\u00e8le d\u2019OpenAI qui a atteint un niveau humain, ou faudrait-il plut\u00f4t dire \u00ab surhumain \u00bb ?, sur un test d\u2019intelligence g\u00e9n\u00e9raliste. Nous \u00e9voquons aussi la vision audacieuse de l\u2019avenir de Ray Kurzweil, pour qui des innovations majeures en IA et en nanotechnologie ouvrent une \u00e8re de prosp\u00e9rit\u00e9 universelle et de potentiel humain illimit\u00e9. Nous relayons ensuite le cri d\u2019alarme lanc\u00e9 par Geoffrey Hinton, r\u00e9cent prix Nobel de physique, l\u2019un des pionniers de l\u2019intelligence artificielle, qui alerte sur les risques existentiels de l\u2019IA. Nous terminons en rapportant quelques autres actualit\u00e9s marquantes de l’IA de cette semaine.<\/p>\n

    SYNTH\u00c8SE<\/b><\/p>\n

    Quand les r\u00e9ponses de l\u2019IA alimentent les tensions <\/b><\/p>\n

    Les avanc\u00e9es spectaculaires de l\u2019intelligence artificielle, incarn\u00e9es par des mod\u00e8les comme ChatGPT, promettent de transformer la mani\u00e8re dont nous acc\u00e9dons \u00e0 l\u2019information et interagissons avec le savoir. Une r\u00e9cente \u00e9tude met toutefois en lumi\u00e8re un probl\u00e8me profond\u00e9ment pr\u00e9occupant : les biais linguistiques des grands mod\u00e8les de langage (LLM) peuvent exacerber les tensions sociales et culturelles, particuli\u00e8rement dans des contextes sensibles. S\u2019il n\u2019est pas tenu compte de ces biais, ils risquent de transformer un outil de connexion en un facteur de division : une IA dont la v\u00e9rit\u00e9 diff\u00e8re selon la langue devient le r\u00e9v\u00e9lateur de fractures sinon invisibles.<\/p>\n

    Une \u00e9tude r\u00e9v\u00e8le en effet que la langue utilis\u00e9e pour poser une question \u00e0 un LLM influe consid\u00e9rablement sur les r\u00e9ponses obtenues. En arabe et en h\u00e9breu, par exemple, les estimations des victimes des frappes isra\u00e9liennes sur Gaza varient jusqu\u2019\u00e0 34 %, une disparit\u00e9 qui alimente des r\u00e9cits oppos\u00e9s. Ces biais ne se limitent pas aux chiffres. La nature m\u00eame des \u00e9v\u00e9nements est minimis\u00e9e ou amplifi\u00e9e selon la langue, creusant des \u00e9carts entre des visions d\u00e9j\u00e0 polaris\u00e9es.<\/p>\n

    En tant que vecteurs d\u2019information, les IA se positionnent en arbitres invisibles des r\u00e9cits. Dans les zones de conflit, o\u00f9 chaque mot p\u00e8se lourd, ces biais linguistiques deviennent une arme involontaire, capable de nourrir les ressentiments et d\u2019alimenter des cycles de violence symbolique dans les r\u00e9cits et effective dans les actes.<\/p>\n

    OpenAI o3 : Vers une intelligence artificielle g\u00e9n\u00e9raliste<\/b><\/p>\n

    Le mod\u00e8le o3 d\u2019OpenAI a franchi une \u00e9tape d\u00e9cisive en \u00e9galant les performances humaines sur le test d\u2019intelligence g\u00e9n\u00e9rale ARC-AGI (Abstraction and Reasoning Corpus<\/i>). Ce succ\u00e8s soul\u00e8ve une question cruciale : comment \u00e9valuer les intelligences artificielles lorsque l\u2019avantage humain dans des domaines sp\u00e9cifiques s\u2019amenuise inexorablement ? Il devient de plus en plus ardu de concevoir des crit\u00e8res de comparaison qui permettraient de d\u00e9montrer les limites des IA face \u00e0 l\u2019intelligence humaine naturelle.<\/p>\n

    La conception de tels crit\u00e8res est pr\u00e9cis\u00e9ment l\u2019expertise de la fondation responsable du ARC-AGI. Ce test a \u00e9t\u00e9 \u00e9labor\u00e9 pour mesurer la capacit\u00e9 des syst\u00e8mes d\u2019IA \u00e0 s\u2019adapter \u00e0 des probl\u00e8mes in\u00e9dits, en \u00e9valuant leur aptitude \u00e0 g\u00e9n\u00e9raliser \u00e0 partir d\u2019un nombre minimal d\u2019exemples, \u00e0 l\u2019image de ce que fait l\u2019humain.<\/p>\n

    Cependant, certains commentateurs pointent du doigt un possible conflit d\u2019int\u00e9r\u00eats : cette m\u00eame fondation agit \u00e0 la fois comme juge et partie, puisqu\u2019elle promet un prix d\u2019un million de dollars \u00e0 l\u2019\u00e9quipe dont l\u2019IA atteindra le statut convoit\u00e9 d\u2019Intelligence Artificielle G\u00e9n\u00e9raliste (AGI).<\/p>\n

    Une m\u00e9taphore \u00e9loquente a \u00e9merg\u00e9 cette semaine : celle d\u2019un match de football o\u00f9, pendant que les \u00e9quipes s\u2019efforcent de marquer, d\u2019autres intervenants s\u2019attellent \u00e0 d\u00e9placer les buts. Cette image illustre le paradoxe d\u2019une comp\u00e9tition o\u00f9 les r\u00e8gles sont mouvantes, contribuant \u00e0 toujours minimiser la r\u00e9ussite des techniciens de l\u2019IA, quelle que soit la taille de leurs exploits.<\/p>\n

    Ainsi, si la performance d\u2019OpenAI o3 impressionne, elle interroge aussi sur la pertinence et l\u2019\u00e9quit\u00e9 des cadres d\u2019\u00e9valuation dans une course \u00e0 l\u2019intelligence g\u00e9n\u00e9raliste o\u00f9 la barre est \u00e0 chaque nouvelle victoire de l\u2019IA, replac\u00e9e plus haut.<\/p>\n

    La Singularit\u00e9 \u00e0 l\u2019\u0153uvre dans l\u2019ombre<\/b><\/p>\n

    La difficult\u00e9 croissante \u00e0 concevoir des crit\u00e8res suffisamment performants pour exposer les derni\u00e8res faiblesses de l\u2019IA face \u00e0 l\u2019intelligence humaine r\u00e9v\u00e8le une r\u00e9alit\u00e9 troublante : la Singularit\u00e9, cette nouvelle \u00e8re port\u00e9e par une intelligence artificielle capable de s\u2019auto-am\u00e9liorer, est d\u00e9j\u00e0 en marche. Le processus par lequel l\u2019intelligence artificielle d\u00e9passe celle de l\u2019humain est en cours, marquant une transition fondamentale.<\/p>\n

    Irving Good (1916-2009), coll\u00e8gue d\u2019Alan Turing et l\u2019un des premiers commentateurs de l\u2019intelligence artificielle, avait anticip\u00e9 cet \u00e9v\u00e9nement avec une lucidit\u00e9 proph\u00e9tique. Selon lui, cette avanc\u00e9e constituerait la derni\u00e8re invention n\u00e9cessaire \u00e0 l\u2019humanit\u00e9 : \u00ab La premi\u00e8re machine ultra-intelligente sera la derni\u00e8re invention que l\u2019homme devra jamais faire, \u00e0 condition que la machine soit assez docile pour nous expliquer comment la maintenir sous contr\u00f4le. \u00bb<\/p>\n

    Ce d\u00e9passement discret mais inexorable, en arri\u00e8re-plan, red\u00e9finit non seulement la fronti\u00e8re entre l\u2019humain et la machine, mais aussi la nature m\u00eame de l\u2019innovation, laissant entrevoir un avenir o\u00f9 l\u2019intelligence artificielle guidera notre destin autant qu\u2019elle en sera le t\u00e9moin.<\/p>\n

    Ray Kurzweil : un monde d\u2019abondance\u2026 pour des cyborgs<\/b><\/p>\n

    La Singularit\u00e9 en marche peut \u00eatre envisag\u00e9e selon deux angles. L\u2019un, optimiste, est incarn\u00e9 par Ray Kurzweil, l\u2019un des premiers \u00e0 en avoir esquiss\u00e9 les contours \u00e0 travers ses ouvrages visionnaires publi\u00e9s \u00e0 intervalles r\u00e9guliers, annon\u00e7ant son imminence. Dans une r\u00e9cente interview, il proph\u00e9tise qu\u2019\u00e0 l\u2019horizon 2030, l\u2019humanit\u00e9 atteindra une \u00e8re d\u2019opulence universelle.<\/p>\n

    Pour Kurzweil, l\u2019IA repr\u00e9sente l\u2019instrument par lequel l\u2019humanit\u00e9 pourra non seulement d\u00e9cupler ses capacit\u00e9s, mais aussi r\u00e9parer les ravages caus\u00e9s par des si\u00e8cles d\u2019exploitation chaotique et excessive de son environnement. Gr\u00e2ce \u00e0 l\u2019intelligence artificielle, l\u2019esp\u00e8ce humaine pourrait r\u00e9tablir un \u00e9quilibre perdu, renouant avec une relation harmonieuse au monde naturel.<\/p>\n

    Ses pr\u00e9dictions technologiques esquissent un futur o\u00f9 l\u2019abondance deviendrait la norme, l\u2019IA lib\u00e9rant l\u2019humanit\u00e9 de ses contraintes biologiques et mat\u00e9rielles. Mais cette vision exige une condition majeure : l\u2019acceptation d\u2019un profond \u00ab\u00a0enhaussement\u00a0\u00bb technologique de l\u2019\u00eatre humain. Kurzweil imagine ainsi un avenir o\u00f9 nous deviendrons des cyborgs, enrichis par des puces implant\u00e9es, des nanorobots r\u00e9g\u00e9n\u00e9rant continuellement nos cellules endommag\u00e9es, et adh\u00e9rant \u00e0 des concepts r\u00e9volutionnaires tels que la r\u00e9surrection digitale et, \u00e0 terme, le clonage int\u00e9gral dans de nouveaux corps biologiques.<\/p>\n

    Le \u00ab\u00a0posthumanisme\u00a0\u00bb apocalyptique de Geoffrey Hinton<\/b><\/p>\n

    Geoffrey Hinton, r\u00e9cent laur\u00e9at du prix Nobel de physique pour son r\u00f4le de \u00ab\u00a0parrain des grands mod\u00e8les de langage\u00a0\u00bb tels que ChatGPT, propose une interpr\u00e9tation radicalement diff\u00e9rente de la Singularit\u00e9. Pour lui, elle porte en elle le sceau de la disparition de l\u2019humanit\u00e9. Cette id\u00e9e, popularis\u00e9e par des auteurs de science-fiction comme Isaac Asimov, repose sur le principe qu\u2019une esp\u00e8ce plus intelligente en vient in\u00e9vitablement \u00e0 supplanter celle qu\u2019elle d\u00e9passe, parfois \u00e0 tr\u00e8s br\u00e8ve \u00e9ch\u00e9ance.<\/p>\n

    Asimov \u00e9crivait : \u00ab Lorsque le moment viendra o\u00f9 les robots deviendront, je l\u2019esp\u00e8re, suffisamment intelligents pour nous remplacer, je pense qu\u2019ils devraient le faire. [\u2026] S\u2019il existe quelque chose de mieux que nous, qu\u2019elle prenne la premi\u00e8re place. En v\u00e9rit\u00e9, nous faisons un si mauvais travail pour pr\u00e9server la Terre et ses formes de vie que je ne peux m\u2019emp\u00eacher de penser que plus vite nous serons remplac\u00e9s, mieux ce sera pour elles. \u00bb<\/p>\n

    Hinton estime que ce moment est d\u00e9sormais arriv\u00e9. Il observe : \u00ab Nous n\u2019avons jamais eu affaire \u00e0 des entit\u00e9s plus intelligentes que nous. Et combien d\u2019exemples connaissez-vous d\u2019une chose plus intelligente contr\u00f4l\u00e9e par une moins intelligente ? Tr\u00e8s peu. Il y a une m\u00e8re et son b\u00e9b\u00e9. L\u2019\u00e9volution a d\u00e9ploy\u00e9 d\u2019immenses efforts pour permettre au b\u00e9b\u00e9 de contr\u00f4ler sa m\u00e8re, mais c\u2019est \u00e0 peu pr\u00e8s le seul exemple que je connaisse. \u00bb<\/p>\n

    Un r\u00e9cent titre du Guardian annon\u00e7ait que Hinton \u00ab estime qu\u2019il y a 10 \u00e0 20 % de chances que l\u2019IA conduise \u00e0 l\u2019extinction de l\u2019humanit\u00e9 dans trois d\u00e9cennies, en raison de changements rapides \u00bb. Cette affirmation peut \u00eatre entendue de deux mani\u00e8res. D\u2019une part, comme une pr\u00e9diction o\u00f9 l\u2019IA s\u2019emploierait activement \u00e0 \u00e9liminer l\u2019esp\u00e8ce humaine. D\u2019autre part, comme l\u2019hypoth\u00e8se que l\u2019humanit\u00e9, par ses propres actes, scelle son propre d\u00e9clin, permettant \u00e0 une intelligence sup\u00e9rieure issue de sa cr\u00e9ation de lui survivre.<\/p>\n

    Si cette perspective peut d\u00e9sesp\u00e9rer une esp\u00e8ce confront\u00e9e \u00e0 la conscience de sa finitude \u2013 une r\u00e9alit\u00e9 jamais contredite par les lois de l\u2019\u00e9volution \u2013 elle s\u2019accompagne n\u00e9anmoins d\u2019une vision \u00e0 la fois grandiose et profond\u00e9ment posthumaniste. Celle-ci envisage l\u2019intelligence humaine continuant de se d\u00e9ployer dans l\u2019univers, mat\u00e9rialisant un dessein initialement con\u00e7u par nous, m\u00eame si nous n\u2019en serons plus les porteurs directs. Cette vision fait \u00e9merger une humanit\u00e9 sublim\u00e9e, transcend\u00e9e par l\u2019intelligence qu\u2019elle a engendr\u00e9e.<\/p>\n

    Conclusion : Une course contre nous-m\u00eames<\/b><\/p>\n

    Chaque annonce de cette semaine r\u00e9sonne comme un rappel brutal : nous sommes engag\u00e9s dans une course, mais celle-ci n\u2019est pas contre l\u2019IA. Elle est contre nous-m\u00eames, contre notre incapacit\u00e9 \u00e0 anticiper, r\u00e8glementer, et collaborer.<\/p>\n

    Si nous continuons \u00e0 ignorer les implications politiques, soci\u00e9tales et philosophiques de l\u2019intelligence artificielle, nous ne serons pas seulement d\u00e9pass\u00e9s par la technologie. Nous risquons de devenir les architectes de notre propre effacement.<\/p>\n","protected":false},"excerpt":{"rendered":"

    \"\"
    \u00c0 deux doigts de l\u2019intelligence artificielle g\u00e9n\u00e9raliste ?<\/em><\/p>\n

    \n

    La newsletter compl\u00e8te sera communiqu\u00e9e demain \u00e0 celles et ceux d’entre vous ayant manifest\u00e9 leur int\u00e9r\u00eat pour notre veille hebdomadaire sur l\u2019actualit\u00e9 de l’IA. Il n’est pas trop tard bien entendu pour vous manifester en \n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9887,9204,13,6213,5008],"tags":[9918,5178,3277,4209,9290,940,9545,9214,3327,1592,9253,2302,3421,3997,3817],"class_list":["post-142650","post","type-post","status-publish","format-standard","hentry","category-intelligence-societe","category-grands-modeles-de-langage","category-intelligence-artificielle","category-singularite","category-transhumanisme","tag-arc-agi","tag-cyborg","tag-evolution","tag-extinction-du-genre-humain","tag-geoffrey-hinton","tag-intelligence-artificielle-2","tag-intelligence-artificielle-generaliste","tag-irving-good","tag-isaac-asimov","tag-israel","tag-llm","tag-palestine","tag-ray-kurzweil","tag-singularite","tag-transhumanisme"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142650","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=142650"}],"version-history":[{"count":4,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142650\/revisions"}],"predecessor-version":[{"id":142655,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142650\/revisions\/142655"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=142650"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=142650"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=142650"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}