{"id":139705,"date":"2024-04-16T18:43:44","date_gmt":"2024-04-16T16:43:44","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=139705"},"modified":"2024-04-17T00:05:06","modified_gmt":"2024-04-16T22:05:06","slug":"purge-chez-openai-elon-musk-nouvel-ordre-mondial-altruiste-etc","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/04\/16\/purge-chez-openai-elon-musk-nouvel-ordre-mondial-altruiste-etc\/","title":{"rendered":"Purge chez OpenAI : Elon Musk, Nouvel Ordre Mondial altruiste, etc.<\/b>"},"content":{"rendered":"

\"\"<\/a><\/p>\n

Portrait de Sam Altman par Stable Diffusion<\/em> (contenant un casse-t\u00eate pour dactylophiles)<\/p><\/blockquote>\n

Vous vous souvenez sans doute de la r\u00e9volution de palais rat\u00e9e chez OpenAI le 17 novembre de l’ann\u00e9e derni\u00e8re quand le patron, Sam Altman, apr\u00e8s avoir \u00e9t\u00e9 renvers\u00e9, avait \u00e9t\u00e9 r\u00e9int\u00e9gr\u00e9 quelques jours plus tard, le 21, apr\u00e8s avoir re\u00e7u le soutien de 97% des membres du personnel mena\u00e7ant de d\u00e9missionner s’il ne reprenait pas les r\u00eanes du pouvoir.<\/p>\n

L’un des responsables du coup \u00e9tait Ilya Sutskever, ancien \u00e9l\u00e8ve de Geoffrey Hinton le \u00ab\u00a0parrain\u00a0\u00bb des Grands Mod\u00e8les de Langage. Sutskever, rejoignant le camp des mutins apr\u00e8s avoir perdu, avait fait son mea culpa. Ce revirement post-d\u00e9faite ne lui a apparemment pas fait beaucoup de bien puisqu’on est sans nouvelle de lui depuis lors.<\/p>\n

Sutskever \u00e9tait li\u00e9 au mouvement \u00ab\u00a0effective altruism\u00a0\u00bb pr\u00f4nant \u00e0 ses sectateurs de faire le plus d’argent possible pour le redistribuer ensuite … aux pauvres. Dans la pratique, les choses ne sont pas aussi simples puisque le plus gros de l’argent l\u00e9gu\u00e9 par les fid\u00e8les se retrouve financer des organismes de promotion de … l’altruisme efficace<\/em> en question. Le plus connu des membres de cette secte n’est autre que Sam Bankman Fried<\/a>, empereur \u00e0 une \u00e9poque du monde des jetons commercialisables surnomm\u00e9s \u00ab\u00a0cryptomonnaies\u00a0\u00bb, d\u00e9sormais sous les verrous pour 25 ans en raison de l’\u00e9vaporation myst\u00e9rieuse de milliards de dollars pass\u00e9s entre ses mains.<\/p>\n

Autre fait significatif relatif \u00e0 Sutskever, il \u00e9tait \u00e0 la t\u00eate de l’effort dit de \u00ab\u00a0superalignement\u00a0\u00bb au sein de la compagnie OpenAI, tentative de mettre sur pied une m\u00e9thode infaillible pour que l’IA, aussi intelligente qu’elle puisse devenir, ne d\u00e9raille jamais de la voie ferr\u00e9e que nous autres humains lui avons trac\u00e9e. Fait significatif parce que parmi les objectifs de l’\u00ab effective altruism\u00a0\u00bb se trouve en particulier celui d’emp\u00eacher l’apparition d’une \u00ab\u00a0AGI\u00a0\u00bb, intelligence artificielle g\u00e9n\u00e9raliste<\/em>, tous les moyens \u00e9tant permis pour pr\u00e9venir cette horreur, en particulier l’\u00e9tablissement d’un gouvernement mondial avec chef supr\u00eame assur\u00e9 de droits dictatoriaux comme celui d’arr\u00eater les chefs d’\u00c9tat qui permettraient l’apparition de l’intelligence artificielle g\u00e9n\u00e9raliste<\/em> sur le territoire de leur nation (sic).<\/p>\n

Tout cela semblerait \u00e9minemment saugrenu s’il n’y avait deux choses : d’une part, le proc\u00e8s intent\u00e9 \u00e0 OpenAI par Elon Musk, sectateur fervent de l’altruisme efficace<\/em>, la firme de San Francisco promouvant selon lui secr\u00e8tement l’advenue de … l’intelligence artificielle g\u00e9n\u00e9raliste<\/em>, Musk \u00e0 qui il est reproch\u00e9 par ailleurs au niveau des gouvernements nationaux de se promouvoir aujourd’hui en chef supr\u00eame, de facto arbitre en particulier du conflit russo-ukrainien, d’autre part, le limogeage, appris le 11 avril, de deux collaborateurs de OpenAI : Leopold Aschenbrenner and Pavel Izmailov, dont voici les portraits :<\/p>\n

\"\"<\/a><\/p>\n

Tout (ou presque) s’\u00e9claire quand on apprend que \u00ab\u00a0M. Aschenbrenner faisait partie de l’\u00e9quipe de superalignement d’OpenAI, charg\u00e9e de veiller \u00e0 ce que ses recherches ne cr\u00e9ent pas par inadvertance une intelligence artificielle g\u00e9n\u00e9rale<\/em> ‘superintelligente'\u00a0\u00bb, \u00e9quipe du superalignement \u00e0 laquelle M. Izmailov avait \u00e9galement appartenu. Mais ce n’est pas tout : \u00ab\u00a0M. Aschenbrenner avait des liens avec le mouvement de l’altruisme efficace<\/em> qui accorde la priorit\u00e9 \u00e0 la ma\u00eetrise des dangers li\u00e9s \u00e0 l’intelligence artificielle\u00a0\u00bb (The Information<\/a>).<\/p>\n

Si tout cela vous para\u00eet encore d\u00e9sesp\u00e9r\u00e9ment opaque, j’esp\u00e8re que la lumi\u00e8re se fera lorsque vous aurez relu ce que j’\u00e9crivais \u00e0 propos d’OpenAI et de l’\u00ab effective altruism\u00a0\u00bb dans l’article que j’ai publi\u00e9 dans AOC le 6 mars dernier, Le prince et l’honn\u00eate homme<\/em> face \u00e0 la Singularit\u00e9<\/a>\u00a0:<\/p>\n

\n

… le board<\/i> d\u2019OpenAI constituait en l\u2019occasion un microcosme, les protagonistes incarnant les diverses motivations du Prince et de l\u2019honn\u00eate homme et, en l\u2019occurence, de mani\u00e8re \u00e9clat\u00e9e et recompos\u00e9e parmi les acteurs en pr\u00e9sence, le tableau \u00e9tant simplifi\u00e9 du fait que plusieurs de ces actrices et acteurs se voyaient dans le r\u00f4le de militants d\u2019une id\u00e9ologie se situant de mani\u00e8re explicite au c\u0153ur<\/span> des enjeux opposant le Prince et les honn\u00eates hommes : l\u2019effective altruism<\/i>.<\/p>\n

L\u2019effective altruism<\/i> est une philosophie n\u00e9e dans le monde anglo-saxon au confluent de l\u2019utilitarisme et du libertarianisme avec une forte composante altruiste import\u00e9e des \u00c9vangiles. La jauge de cet \u00ab\u00a0altruisme efficace\u00a0\u00bb est la quantit\u00e9 de bien induit au sein de la communaut\u00e9 dans son ensemble par ses adeptes, le moyen mobilis\u00e9 par ceux-ci pour le r\u00e9aliser \u00e9tant l\u2019argent\u00a0: c\u2019est leur fortune qui permet cette optimisation suppos\u00e9e <\/span>du bien, une conception enti\u00e8rement dans la ligne historique du calvinisme selon lequel la<\/span> pr\u00e9destination individuelle trouve sa confirmation dans la capacit\u00e9 \u00e0 faire de l\u2019argent.<\/p>\n

L\u2019effective altruism<\/i>,\u00a0\u00ab\u00a0produit de niche\u00a0\u00bb jusque-l\u00e0, a fait la une de l\u2019actualit\u00e9 quand il est apparu qu\u2019il \u00e9tait le moteur de FTX, une bourse de ces jetons commercialisables que l\u2019on qualifie pompeusement de \u00ab\u00a0cryptomonnaies\u00a0\u00bb qui connut une banqueroute retentissante, ses deux piliers, Sam Bankman-Fried \u00e0 la t\u00eate de FTX et Caroline Ellison \u00e0 la t\u00eate du fonds jumeau Alameda, \u00e9tant ap\u00f4tres du mouvement. Apparut alors en surface qu\u2019une philosophie de \u00ab\u00a0la fin veut les moyens\u00a0\u00bb sous-tendait l\u2019effective altruism<\/i> de philanthropes par trop bienveillants et que les consid\u00e9rations d\u2019ordre \u00e9thique avaient \u00e9t\u00e9 mises entre parenth\u00e8ses par ces nouveaux princes libertariens sous pr\u00e9texte d\u2019efficacit\u00e9. L\u2019hybris de tels personnages \u00e0 l\u2019Ego surdimensionn\u00e9 avait pu exercer ses ravages dans la communaut\u00e9 \u00e0 hauteur de leur fortune dont le caract\u00e8re potentiellement illimit\u00e9 \u00e9tait justifi\u00e9 \u00e0 leurs yeux par l\u2019abondance de bienfaits dont elle \u00e9tait potentiellement la source. On ne s\u2019\u00e9tonnera pas qu\u2019Elon Musk, milliardaire fondateur de la firme automobile Tesla, de l\u2019entreprise spatiale SpaceX, nouveau propri\u00e9taire de Twitter rebaptis\u00e9 \u00ab\u00a0X\u00a0\u00bb par <\/span>lui, \u00e9galement \u00e0 la t\u00eate du projet d\u2019implantation de puces \u00e9lectroniques dans le cerveau Neuralink, soit un autre promoteur du mouvement, qui a d\u00e9clar\u00e9 \u00e0 son propos qu\u2019il est\u00a0: \u00ab\u00a0en correspondance \u00e9troite avec ma propre philosophie\u00a0\u00bb *.<\/p>\n

Or, l\u2019effective altruism<\/i> et l\u2019intelligence artificielle ne font pas bon m\u00e9nage. Sam Altman a d\u00e9clar\u00e9 \u00e0 propos du premier qu\u2019il constituait un \u00ab\u00a0mouvement incroyablement d\u00e9fectueux\u00a0\u00bb affichant un \u00ab\u00a0comportement \u00e9mergent tr\u00e8s bizarre\u00a0\u00bb. Ce mouvement a d\u00e9j\u00e0 consacr\u00e9 des sommes consid\u00e9rables \u00e0 promouvoir la m\u00e9fiance envers l\u2019intelligence artificielle, agitant le spectre de catastrophes sans nom, d\u00e9fiance dont on pourrait soup\u00e7onner que l\u2019une de ses motivations en tout cas est celle de parer \u00e0 la perte de pouvoir que signifie l\u2019\u00e9mergence d\u2019une intelligence sup\u00e9rieure \u00e0 celle de ces philanthropes, champions sans doute de la bienfaisance \u00e0 leurs propres yeux, mais m\u00e9galomanes narcissiques aux yeux du reste du monde.<\/p>\n

Le rappel suivant pouvait \u00eatre lu dans un article du Wall Street Journal<\/i> en date du 22 novembre 2023, soit le lendemain du retour de Sam Altman\u00a0:<\/p>\n

\u00ab\u00a0Altman, qui a \u00e9t\u00e9 licenci\u00e9 par le conseil d’administration vendredi, s’est oppos\u00e9 au scientifique en chef de la soci\u00e9t\u00e9 et membre du conseil d’administration, Ilya Sutskever, sur des questions de s\u00e9curit\u00e9 de l’IA qui refl\u00e9taient les pr\u00e9occupations li\u00e9es \u00e0 l’effective altruism<\/i>, si l\u2019on en croit des personnes famili\u00e8res du conflit.<\/p>\n

Ont vot\u00e9 avec Sutskever, qui fut \u00e0 la t\u00eate du coup, les membres du conseil d’administration Tasha McCauley, cadre dans le monde de la technologie et membre du conseil d’administration de l’organisation caritative Effective Ventures<\/i>, et Helen Toner, cadre au Centre pour la s\u00e9curit\u00e9 et les technologies \u00e9mergentes<\/i> de l’universit\u00e9 de Georgetown, lequel est soutenu par une philanthropie d\u00e9di\u00e9e aux causes de l’effective altruism<\/i>. Ils repr\u00e9sentaient trois des quatre votes n\u00e9cessaires \u00e0 l’\u00e9viction de M. Altman, selon des personnes au fait de l’affaire. Le conseil d’administration a d\u00e9clar\u00e9 que celui-ci n\u2019avait pas fait preuve d’une \u2018franchise constante\u2019\u00a0\u00bb *.<\/p>\n<\/blockquote>\n

* Robert McMillan & Deepa Seetharaman, \u00ab\u00a0How a Fervent Belief Split Silicon Valley\u2014and Fueled the Blowup at OpenAI\u00a0\u00bb<\/span><\/a>, The Wall Street Journal<\/em>, le 22 novembre 2023<\/span><\/p>\n

\"\"<\/a><\/p>\n

Portrait d’Elon Musk par Stable Diffusion<\/em> (frustrant pour les dactylophiles)<\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

\"\"<\/a><\/p>\n

\n

Portrait de Sam Altman par Stable Diffusion<\/em> (contenant un casse-t\u00eate pour dactylophiles)<\/p>\n<\/blockquote>\n

Vous vous souvenez sans doute de la r\u00e9volution de palais rat\u00e9e chez OpenAI le 17 novembre de l’ann\u00e9e derni\u00e8re quand le patron, Sam Altman, apr\u00e8s avoir \u00e9t\u00e9 renvers\u00e9, avait \u00e9t\u00e9 r\u00e9int\u00e9gr\u00e9 quelques jours […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13],"tags":[9546,9008,9509,4633,8965,9290,9306,940,9545,9547,7669,9548,9153,8969,9280],"class_list":["post-139705","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-agi","tag-caroline-ellison","tag-effective-altruism","tag-elon-musk","tag-ftx","tag-geoffrey-hinton","tag-ilya-sutskever","tag-intelligence-artificielle-2","tag-intelligence-artificielle-generaliste","tag-leopold-aschenbrenner","tag-openai","tag-pavel-izmailov","tag-sam-altman","tag-sam-bankman-fried","tag-superalignement"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139705","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=139705"}],"version-history":[{"count":11,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139705\/revisions"}],"predecessor-version":[{"id":139721,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139705\/revisions\/139721"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=139705"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=139705"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=139705"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}