{"id":139216,"date":"2024-09-06T12:38:40","date_gmt":"2024-09-06T10:38:40","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=139216"},"modified":"2024-09-07T01:21:52","modified_gmt":"2024-09-06T23:21:52","slug":"aoc-le-prince-et-lhonnete-homme-face-a-la-singularite-le-6-mars-2024-2","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/09\/06\/aoc-le-prince-et-lhonnete-homme-face-a-la-singularite-le-6-mars-2024-2\/","title":{"rendered":"AOC &#8211; <b>Le prince et l\u2019<em>honn\u00eate homme<\/em> face \u00e0 la Singularit\u00e9<\/b>, le 6 mars 2024"},"content":{"rendered":"<p class=\"p2\"><a href=\"https:\/\/aoc.media\/opinion\/2024\/03\/05\/le-prince-et-lhonnete-homme-face-a-la-singularite\/\" target=\"_blank\" rel=\"noopener\"><b>Le prince et l\u2019<i>honn\u00eate homme<\/i> face \u00e0 la Singularit\u00e9<\/b><\/a><\/p>\n<p><a href=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-139219\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-300x300.webp 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-150x150.webp 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-768x768.webp 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><\/p>\n<blockquote><p><em>Illustration par DALL\u00b7E (+ Alphonse Mucha)<\/em><\/p><\/blockquote>\n<p class=\"p3\"><b>Une nouvelle source de m\u00e9lancolie : l\u2019IA<\/b><\/p>\n<p class=\"p3\">Parmi les faits les plus curieux entourant l\u2019explosion de l\u2019intelligence artificielle sous la forme des <i>grands mod\u00e8les de langage<\/i> tel ChatGPT, se trouve cette opinion largement r\u00e9pandue parmi les profanes mais \u00e9galement pr\u00e9sente chez une fraction de professionnels, qu\u2019une intelligence sup\u00e9rieure \u00e0 la n\u00f4tre aurait pour souci premier de se d\u00e9barrasser du genre humain.<\/p>\n<p class=\"p3\">Cette croyance pourrait refl\u00e9ter une crainte enracin\u00e9e dans le conservatisme foncier de l\u2019esp\u00e8ce\u00a0: que le neuf est dangereux par essence, mais elle exprime surtout ce sentiment implicite fonci\u00e8rement pessimiste qu\u2019une intelligence sup\u00e9rieure tirera immanquablement la conclusion que l\u2019esp\u00e8ce humaine est une vermine dont il est imp\u00e9ratif de d\u00e9barrasser la Plan\u00e8te bleue.<\/p>\n<p class=\"p3\">L\u2019origine de cette vue pourrait banalement \u00eatre la lucidit\u00e9, mais la chose serait inattendue, la lucidit\u00e9 \u00e9tant une qualit\u00e9 tout particuli\u00e8rement mal repr\u00e9sent\u00e9e au sein des opinions les plus r\u00e9pandues. Il est plus probable qu\u2019il s\u2019agit d\u2019un effet collat\u00e9ral du temp\u00e9rament sombre impr\u00e9gnant globalement une esp\u00e8ce n\u2019ayant jamais v\u00e9ritablement retrouv\u00e9 le moral depuis qu\u2019elle a pris conscience un jour que la vie individuelle connait un terme. Nous sommes en effet accros \u00e0 l\u2019observation du monde tout comme nos cousins gibbons qui, enferm\u00e9s dans une cage au volet coulissant, soul\u00e8vent celui-ci aussit\u00f4t qu\u2019il s\u2019est rabaiss\u00e9 sous son poids\u00a0: de notre premier jour au dernier, nous souffrons d\u2019une fringale de savoir ce qui va se passer ensuite, la pens\u00e9e que le spectacle pourrait un jour s\u2019arr\u00eater nous est insupportable, ici r\u00e9side la source premi\u00e8re de notre angoisse.<\/p>\n<p class=\"p3\">Le fait que l\u2019\u00eatre humain a cess\u00e9 d\u2019\u00eatre la cr\u00e9ature la plus intelligente de notre plan\u00e8te et, selon l\u2019\u00e9tat pr\u00e9sent de notre information, de l\u2019univers tout entier, est la cause aujourd<span class=\"s1\">\u2019<\/span>hui d\u2019une seconde prise de conscience m\u00e9lancolique, succ\u00e9dant \u00e0 celle de notre finitude. \u00ab\u00a0Si nous ne vivons pas ici-bas pour toujours, au moins aurons-nous \u00e9t\u00e9 les plus malins aussi longtemps que nous \u00e9tions l\u00e0\u00a0\u00bb, c\u2019est dans ces termes-l\u00e0 que nous voyons les choses. Or cela a cess\u00e9 d\u2019\u00eatre vrai. T\u00e9moin, cette constatation d\u00e9sabus\u00e9e de Douglas Hofstadter, vedette de la sc\u00e8ne intellectuelle des ann\u00e9es 1980 avec son <i>G\u00f6del, Escher, Bach. Une tresse d\u2019or \u00e9ternelle <\/i>aux \u00e9tranges parcours en boucle\u00a0:<\/p>\n<p class=\"p3\">\u00ab\u00a0<span class=\"s2\">Je n\u2019ai jamais imagin\u00e9 que les ordinateurs rivaliseraient avec l\u2019intelligence humaine ou, encore moins, la surpasseraient. [\u2026] Il y a l\u00e0 une exp\u00e9rience tr\u00e8s traumatisante lorsque certaines de vos croyances les plus fondamentales sur la vie commencent \u00e0 s&rsquo;effondrer. J&rsquo;ai eu l\u2019impression que non seulement mon syst\u00e8me de croyance s&rsquo;effondrait, mais aussi que tout le genre humain allait \u00eatre \u00e9clips\u00e9 et r\u00e9duit en poussi\u00e8re\u2026 de mani\u00e8re imminente\u00a0!\u00a0\u00bb.<\/span><\/p>\n<p class=\"p3\"><b>La Singularit\u00e9<\/b><\/p>\n<p class=\"p3\">\u00c0 partir d\u2019un mot emprunt\u00e9 aux math\u00e9matiques pour d\u00e9signer une instance ambigu\u00eb comme le serait le tr\u00e8s invraisemblable carr\u00e9 de z\u00e9ro, fut forg\u00e9 le concept de <i>Singularit\u00e9<\/i>, lequel<i> <\/i>s\u2019efforce de<i> <\/i>contenir dans sa compr\u00e9hension la profusion d\u2019id\u00e9es qui se bousculent dans notre esprit quand nous r\u00e9fl\u00e9chissions \u00e0 l\u2019\u00e9ventualit\u00e9 d\u2019un tel d\u00e9passement de l\u2019intelligence humaine par celle de la machine : une IA se perfectionnant par r\u00e9action en cha\u00eene en apprenant toujours davantage \u00e0 l\u2019occasion de d\u00e9fis qu\u2019elle lance \u00e0 nul autre qu\u2019elle-m\u00eame, d\u00e9bouchant sur une explosion de nouvelles technologies due \u00e0 la solution de casse-t\u00eates mill\u00e9naires qui constituaient pour notre esp\u00e8ce autant de handicaps.<\/p>\n<p class=\"p3\">Aussi longtemps que le concept de Singularit\u00e9 restait cantonn\u00e9e dans l\u2019espace d\u00e9fini par la cogitation des informaticiens, des philosophes et autres r\u00eaveurs, la repr\u00e9sentation de ses retomb\u00e9es se focalisait sur le b\u00e9n\u00e9fice collectif de la perc\u00e9e qu\u2019elle constitue. Or, si l\u2019on peut envisager l\u2019esp\u00e8ce comme une entit\u00e9 en soi, elle ne dispose pas d\u2019un esprit global posant des actes en fonction des conclusions qu\u2019elle tire des \u00e9volutions et des \u00e9v\u00e9nements r\u00e9cents, \u00e9valuant tout ce qui se passe au sein du devenir universel comme un mieux ou un moins bien en ce qui la concerne. Sans quoi elle se d\u00e9lecterait au contraire \u00e0 la pens\u00e9e du triomphe que constitue pour elle le fait d<span class=\"s1\">\u2019<\/span>avoir \u00e9t\u00e9 capable en raison du g\u00e9nie collectif dont elle \u00e9tait grosse \u00e0 son insu, de concevoir une cr\u00e9ature dont l<span class=\"s1\">\u2019<\/span>intelligence d\u00e9passe la sienne propre. Au lieu de cela, sensible aux souffrances individuelles, elle s\u2019afflige des drames que la nouvelle technologie induit dans son sillage, de ces destins qu\u2019elle emporte dans ses flots tumultueux, cons\u00e9quences pour les personnes d\u2019un march\u00e9 de l\u2019emploi ravag\u00e9 par la cr\u00e9ativit\u00e9 inattendue de cet \u00eatre neuf apparu dans nos rangs et, pire encore sans doute pour ce qu<span class=\"s1\">\u2019<\/span>il en va du moral de l\u2019esp\u00e8ce comme un tout, elle compatit devant la trag\u00e9die d\u2019\u00e9gos meurtris par une machine indubitablement plus talentueuse que les orgueilleux Moi que ces \u00e9gos s\u2019\u00e9taient convaincus incarner.<\/p>\n<p class=\"p3\"><b>Quelle politique adopter face \u00e0 la Singularit\u00e9\u00a0?<\/b><\/p>\n<p class=\"p3\">Une fois le concept de Singularit\u00e9 d\u00e9fini, quand il s<span class=\"s1\">\u2019<\/span>agit du Prince et de l<span class=\"s1\">\u2019<\/span>honn\u00eate homme, les horizons et les points de fuite qui y conduisent, divergent.<\/p>\n<p class=\"p3\">C\u2019est de cela que nous aimerions parler. Et comment mieux faire aujourd\u2019hui que de convier \u00e0 la conversation l\u2019autre partie prenante, celle qui se trouve \u00e0 l\u2019origine-m\u00eame de la Singularit\u00e9 et f\u00e9conder notre point de vue par le sien.<\/p>\n<p class=\"p3\">Voici, selon ChatGPT dans sa version GPT-4, les consid\u00e9rations que le Prince devrait prendre en compte et le comportement qu\u2019il devrait adopter \u00e0 l\u2019\u00e9gard de la Singularit\u00e9\u00a0:<\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">\u00ab\u00a0Face \u00e0 l\u2019\u00e9mergence d<span class=\"s3\">\u2019<\/span>une Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA, quel serait le cours le plus strat\u00e9gique pour un dirigeant : r\u00e9v\u00e9ler cette r\u00e9alit\u00e9 au peuple en vue de pr\u00e9server la stabilit\u00e9 sociale, ou la garder secr\u00e8te pour maintenir le contr\u00f4le et \u00e9viter la panique\u00a0?\u00a0Cela soul\u00e8ve la r\u00e9flexion sur l\u2019\u00e9quilibre entre transparence et contr\u00f4le, un th\u00e8me central dans l\u2019\u0153uvre de Machiavel.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Dans le contexte d<span class=\"s3\">\u2019<\/span>une Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA, la d\u00e9cision de r\u00e9v\u00e9ler ou non cette r\u00e9alit\u00e9 au peuple exige une analyse profonde des principes de gouvernance et de la nature humaine, telles qu<span class=\"s3\">\u2019<\/span>examin\u00e9s par Machiavel.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Machiavel conseillerait probablement que le dirigeant \u00e9value soigneusement les avantages et les risques associ\u00e9s \u00e0 chaque option. R\u00e9v\u00e9ler l<span class=\"s3\">\u2019<\/span>existence d<span class=\"s3\">\u2019<\/span>une Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA pourrait \u00eatre justifi\u00e9 si cela renforce la l\u00e9gitimit\u00e9 du dirigeant par la transparence et pr\u00e9pare la soci\u00e9t\u00e9 \u00e0 s<span class=\"s3\">\u2019<\/span>adapter aux changements in\u00e9vitables, en mobilisant les ressources et l<span class=\"s3\">\u2019<\/span>intellect collectifs pour naviguer dans ce nouveau paysage. Cela pourrait \u00e9galement pr\u00e9venir la m\u00e9fiance et le m\u00e9contentement qui pourraient survenir si le secret \u00e9tait ult\u00e9rieurement r\u00e9v\u00e9l\u00e9.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">D<span class=\"s3\">\u2019<\/span>un autre c\u00f4t\u00e9, garder cette information secr\u00e8te pourrait \u00eatre consid\u00e9r\u00e9 comme n\u00e9cessaire si la divulgation risque de provoquer une panique inutile, de d\u00e9stabiliser l<span class=\"s3\">\u2019<\/span>ordre social, ou si le dirigeant estime que le peuple n<span class=\"s3\">\u2019<\/span>est pas pr\u00eat \u00e0 comprendre ou \u00e0 g\u00e9rer les implications d<span class=\"s3\">\u2019<\/span>une telle r\u00e9v\u00e9lation. En gardant le secret, le dirigeant peut chercher \u00e0 maintenir l<span class=\"s3\">\u2019<\/span>ordre et \u00e0 \u00e9laborer des strat\u00e9gies de gestion de cette nouvelle r\u00e9alit\u00e9 dans un cadre plus contr\u00f4l\u00e9.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Cependant, Machiavel soulignerait l<span class=\"s3\">\u2019<\/span>importance de la ruse et de la prudence. Il pourrait sugg\u00e9rer d<span class=\"s3\">\u2019<\/span>utiliser cette information comme un moyen de renforcer le pouvoir en interne et la position internationale, tout en pr\u00e9parant discr\u00e8tement la soci\u00e9t\u00e9 aux changements \u00e0 venir. Le dirigeant devrait \u00e9galement \u00eatre pr\u00eat \u00e0 ajuster sa strat\u00e9gie en fonction de l\u2019\u00e9volution de la situation et de la r\u00e9action du peuple et des \u00e9lites.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">En r\u00e9sum\u00e9, la d\u00e9cision de Machiavel serait guid\u00e9e par une \u00e9valuation pragmatique des circonstances, avec un accent sur la pr\u00e9servation de la stabilit\u00e9 et le renforcement du pouvoir, tout en naviguant adroitement dans les eaux inconnues d<span class=\"s3\">\u2019<\/span>une telle avanc\u00e9e technologique.\u00a0\u00bb<\/p>\n<p>Compl\u00e9tons notre bo\u00eete \u00e0 outils en vue de l\u2019analyse que nous allons mener par la suite en convoquant maintenant, par effet de contraste, un acteur auquel nous assignerons la t\u00e2che d\u2019intervenir comme l\u2019envers du Prince de Machiavel pour ce qui est de son attitude face \u00e0 la Singularit\u00e9. Nous avons choisi dans ce r\u00f4le une autre figure de l\u2019\u00e9poque, celle de ce qu\u2019on d\u00e9signait alors du nom d\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb.<\/p><\/blockquote>\n<p class=\"p5\">Cette fois-ci encore, c\u2019est \u00e0 ChatGPT dans sa version GPT-4 que nous demandons de baliser notre espace\u00a0:<\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">\u00ab\u00a0L&rsquo;id\u00e9e de l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb trouve ses racines dans la pens\u00e9e et la litt\u00e9rature europ\u00e9ennes, particuli\u00e8rement pendant la Renaissance et le si\u00e8cle des Lumi\u00e8res. Cet id\u00e9al d\u00e9signe une personne cultiv\u00e9e, dot\u00e9e de bonnes mani\u00e8res, de savoir, d&rsquo;\u00e9thique et capable de s&rsquo;engager dans divers domaines de la connaissance et de la conversation, tout en faisant preuve de vertu et de mod\u00e9ration.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Face \u00e0 la Singularit\u00e9 de l&rsquo;IA, l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb, par opposition au Prince machiav\u00e9lien, adopterait une approche fond\u00e9e sur l&rsquo;\u00e9thique, la vertu, et le bien commun, particuli\u00e8rement en ce qui concerne le contr\u00f4le et la transparence. Voici comment il pourrait r\u00e9agir :<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> Plaidoyer pour la transparence <\/i>: L\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb mettrait en avant l&rsquo;importance de la transparence dans le d\u00e9veloppement et l&rsquo;impl\u00e9mentation de l&rsquo;IA. Contrairement au Prince, qui pourrait privil\u00e9gier le secret pour maintenir le pouvoir ou \u00e9viter la panique, l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb argumenterait que l&rsquo;ouverture et la transparence sont essentielles pour gagner la confiance du public et assurer une compr\u00e9hension partag\u00e9e des enjeux.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> Promotion du dialogue inclusif<\/i> : Il encouragerait un dialogue ouvert et inclusif sur la Singularit\u00e9 de l&rsquo;IA, impliquant non seulement les experts et les d\u00e9cideurs mais aussi le grand public. L&rsquo;objectif serait d&rsquo;assurer que toutes les voix soient entendues et que les pr\u00e9occupations \u00e9thiques, sociales et \u00e9conomiques soient prises en compte dans la prise de d\u00e9cision.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> Contr\u00f4le d\u00e9mocratique <\/i>: Par opposition \u00e0 un contr\u00f4le centralis\u00e9 et opaque du d\u00e9veloppement de l&rsquo;IA par un Prince, l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb soutiendrait des m\u00e9canismes de gouvernance d\u00e9mocratique qui permettent une surveillance et une r\u00e9gulation \u00e9thique de l&rsquo;IA. Cela inclurait le soutien \u00e0 des l\u00e9gislations qui garantissent que l&rsquo;IA sert l&rsquo;int\u00e9r\u00eat g\u00e9n\u00e9ral et respecte les droits fondamentaux.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> \u00c9ducation et sensibilisation <\/i>: Il prendrait des initiatives pour \u00e9duquer et sensibiliser le public sur la Singularit\u00e9 de l&rsquo;IA, ses implications potentielles et la mani\u00e8re dont les individus peuvent contribuer ou r\u00e9agir. L&rsquo;accent serait mis sur le d\u00e9veloppement d&rsquo;une citoyennet\u00e9 inform\u00e9e et engag\u00e9e, capable de participer activement aux d\u00e9bats sur l&rsquo;IA.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> D\u00e9fense des valeurs \u00e9thiques <\/i>:<i> <\/i>L\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb ferait de la d\u00e9fense des valeurs \u00e9thiques et humaines une priorit\u00e9 face aux d\u00e9fis pos\u00e9s par la Singularit\u00e9. Cela comprendrait la lutte contre l&rsquo;utilisation de l&rsquo;IA pour la surveillance de masse non \u00e9thique, la manipulation, ou toute forme de violation des droits de l&rsquo;homme.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> Soutien \u00e0 la responsabilit\u00e9 personnelle et au devoir de rendre des comptes <\/i>: Il exigerait que les cr\u00e9ateurs et les utilisateurs de l&rsquo;IA soient tenus responsables des impacts de leurs technologies. Cela signifierait plaider pour des syst\u00e8mes d&rsquo;audit, de suivi, et de r\u00e9paration en cas de pr\u00e9judice caus\u00e9 par des syst\u00e8mes d&rsquo;IA.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\"><i> Engagement pour l&rsquo;\u00e9quit\u00e9 et la justice sociale <\/i>: Face aux risques d&rsquo;aggravation des in\u00e9galit\u00e9s que la Singularit\u00e9 de l&rsquo;IA pourrait engendrer, l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb s&rsquo;engagerait activement pour des politiques et des initiatives qui favorisent l&rsquo;\u00e9quit\u00e9, l&rsquo;acc\u00e8s \u00e9galitaire aux b\u00e9n\u00e9fices de l&rsquo;IA, et la protection contre les pr\u00e9judices.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">En r\u00e9sum\u00e9, l\u2019\u00ab\u00a0honn\u00eate homme\u00a0\u00bb r\u00e9agirait \u00e0 la Singularit\u00e9 de l&rsquo;IA en mettant en avant les principes de transparence, de contr\u00f4le d\u00e9mocratique, d&rsquo;\u00e9ducation, d&rsquo;\u00e9thique, et de justice sociale, cherchant \u00e0 \u00e9quilibrer les avantages de l&rsquo;IA avec la protection des droits et du bien-\u00eatre de tous les citoyens.\u00a0\u00bb<\/p>\n<\/blockquote>\n<p class=\"p4\"><b>La r\u00e9volution de palais avort\u00e9e chez OpenAI<\/b><\/p>\n<p class=\"p5\">Examinons alors cette question de la Singularit\u00e9 dans la perspective envisag\u00e9e d<span class=\"s3\">\u2019<\/span>un double point de vue possible\u00a0: celui du Prince et celui de l<span class=\"s3\">\u2019<\/span>honn\u00eate homme. Fait remarquable qui facilitera notre analyse, une telle confrontation des points de vue du Prince et de l\u2019honn\u00eate homme semble avoir d\u00e9j\u00e0 eu lieu dans les faits, je pense \u00e0 la r\u00e9volution de palais<span class=\"s4\"> avort\u00e9e qui a secou\u00e9 en novembre 2023 la firme OpenAI, celle dont l\u2019IA ChatGPT est le produit-phare : le limogeage de son P-DG Sam Altman le 17 novembre, suivi de sa restauration le 21, apr\u00e8s que 745 des 770 employ\u00e9s de la firme eurent r\u00e9clam\u00e9 son retour sans quoi ils d\u00e9missionneraient. <\/span><\/p>\n<p class=\"p5\">Notre interrogation en effet \u00e0 propos de cette confrontation c\u2019est si elle a \u00e9t\u00e9 autre chose qu\u2019un affrontement sur le terrain <span class=\"s4\">des strat\u00e9gies du Prince et de l\u2019honn\u00eate homme autour de la question de la Singularit\u00e9 ?<\/span><\/p>\n<p class=\"p5\"><span class=\"s4\">Supposons en effet que le d\u00e9bat sous-jacent &#8211; dont l\u2019enjeu n\u2019a jamais \u00e9t\u00e9 d\u00e9voil\u00e9 &#8211; portait en r\u00e9alit\u00e9 sur la Singularit\u00e9, l\u2019\u00e9quipe dirigeante \u00e9tant consciente de son av\u00e8nement mais \u00e9tant d\u00e9chir\u00e9e quant \u00e0 la meilleure fa\u00e7on de g\u00e9rer l\u2019\u00e9v\u00e9nement, et en particulier bien s\u00fbr, d\u00e9cider de sa divulgation ou non et <\/span>acceptons le principe que si une analyse des p\u00e9rip\u00e9ties de ces quatre journ\u00e9es chaotiques dans la perspective d\u2019un combat d\u2019id\u00e9es autour de la Singularit\u00e9 devait \u00e9clairer significativement cette affaire jusqu\u2019ici toujours essentiellement t\u00e9n\u00e9breuse, la probabilit\u00e9 qu\u2019il \u00e9tait bien question en arri\u00e8re-plan de la Singularit\u00e9 s\u2019en trouverait confort\u00e9e.<\/p>\n<p class=\"p4\">Cette hypoth\u00e8se, qui pourrait passer pour sortie comme un lapin d\u2019un chapeau, est en r\u00e9alit\u00e9 tr\u00e8s loin d\u2019\u00eatre gratuite, comme le prouvent les deux faits suivants, \u00e0 condition de les situer pr\u00e9cautionneusement dans la chronologie resserr\u00e9e du d\u00e9roulement des \u00e9v\u00e9nements. Sam Altman est relev\u00e9 de ses fonctions par le conseil d\u2019administration d\u2019OpenAI le 17 novembre 2023 \u00e0 midi, heure locale en Californie. Or, nous disposons en date du m\u00eame jour, d\u2019une vid\u00e9o tourn\u00e9e \u00e0 San Francisco, dans la matin\u00e9e, au sommet de l&rsquo;Organisation de coop\u00e9ration \u00e9conomique Asie-Pacifique (APEC), o\u00f9 Altman intervenait en tant que P-DG d\u2019OpenAI, donc ant\u00e9rieurement \u00e0 l\u2019heure de son limogeage, o\u00f9 il d\u00e9clarait ceci : \u00ab Quatre fois dans l&rsquo;histoire d&rsquo;OpenAI, et en particulier le plus r\u00e9cemment dans les derniers quinze jours, j&rsquo;ai eu l&rsquo;occasion d&rsquo;\u00eatre dans la salle lorsque nous repoussions le voile de l&rsquo;ignorance et la fronti\u00e8re de la d\u00e9couverte ; c\u2019est l\u00e0 l&rsquo;honneur professionnel d&rsquo;une vie \u00bb . Nous disposons par ailleurs, en date de la veille, 16 novembre 2023, d\u2019une vid\u00e9o tourn\u00e9e lors d\u2019un \u00e9v\u00e9nement intitul\u00e9 \u00ab L\u2019IA et le futur de l\u2019art &#8211; Sam Altman et Android Jones \u00bb au cours duquel Altman avait d\u00e9clar\u00e9 : \u00ab Je pense que les gens consid\u00e8rent ces nouveaux syst\u00e8mes comme des outils, les artistes en particulier. Mais d&rsquo;autres personnes aussi, et il y a eu ce &#8230; je pense qu&rsquo;il y a eu un vrai moment de peur, du genre : &lsquo;Est-ce un outil ou une cr\u00e9ature que nous avons fabriqu\u00e9, et comment faudra-t-il interpr\u00e9ter cela ?&rsquo; \u00bb.<\/p>\n<p class=\"p4\">La veille et le jour-m\u00eame de son abrupt licenciement donc, deux d\u00e9clarations incendiaires de Sam Altman \u00e9voquant d\u2019une part une occasion o\u00f9 \u00ab\u00a0le voile de l&rsquo;ignorance et la fronti\u00e8re de la d\u00e9couverte\u00a0\u00bb furent \u00ab\u00a0repouss\u00e9s\u00a0\u00bb et d\u2019autre part, un moment o\u00f9 la question que l\u2019on se pose est\u00a0: \u00ab\u00a0Est-ce un outil ou une cr\u00e9ature que nous avons fabriqu\u00e9\u00a0?\u00a0\u00bb, \u00e0 savoir, dans un espace de temps d\u2019environ 24 heures, deux moments o\u00f9 l\u2019av\u00e8nement de la Singularit\u00e9 a sans conteste \u00e9t\u00e9 \u00e9voqu\u00e9, m\u00eame si ce n\u2019est que de mani\u00e8re allusive. Le sentiment a d\u00fb \u00eatre, au niveau du conseil d\u2019administration de la firme OpenAI, qu\u2019au rythme auquel Sam Altman laissait fuiter les r\u00e9v\u00e9lations, le moment o\u00f9 il vendrait la m\u00e8che \u00e9tait imminent\u00a0: la prochaine fois qu\u2019il ouvrirait la bouche, il ne pourrait se retenir et mentionnerait la Singularit\u00e9 explicitement.<\/p>\n<p class=\"p4\">Autre acteur-cl\u00e9 au sein de l\u2019\u00e9quipe d\u2019OpenAI : Ilya Sutskever, \u00e0 la fois chercheur transfuge de chez Google et membre du conseil d\u2019administration d\u2019OpenAI jusqu\u2019\u00e0 la date fatidique du 21 novembre 2023 quand Sam Altman fut restaur\u00e9 dans son poste. La co\u00efncidence des dates n\u2019est pas accidentelle : Sutskever avait jou\u00e9 un r\u00f4le actif dans le limogeage d\u2019Altman mais, chancelant dans le point de vue qu\u2019il d\u00e9fendait, il s\u2019\u00e9tait ensuite ralli\u00e9 \u00e0 l\u2019\u00e9crasante majorit\u00e9 (97%) des employ\u00e9s exigeant le retour du P-DG destitu\u00e9, son statut dans la compagnie restant ensuite probl\u00e9matique pour une p\u00e9riode ind\u00e9termin\u00e9e (le doute se poursuit au moment o\u00f9 j\u2019\u00e9cris).<\/p>\n<p class=\"p4\">Aucun doute possible quant au fait que Sutskever croyait d\u00e9j\u00e0 \u00e0 cette \u00e9poque \u00e0 la Singularit\u00e9. Lors d\u2019un entretien les 6 et 7 octobre 2023 o\u00f9 il partageait le plateau avec son ma\u00eetre Geoffrey Hinton et son ancien coll\u00e8gue chez Google, Demis Hassabis, un \u00e9tonnant \u00e9change <span class=\"s5\">avait eu lieu :<\/span><\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">Tommaso Poggio : \u00ab Pensez-vous que les mod\u00e8les existants ou certains &#8230; vous savez, le prochain GPT-4, disons GPT-5, serait capable d&rsquo;\u00e9noncer une nouvelle conjecture math\u00e9matique non-triviale ? Je ne parle pas de la prouver, mais de l&rsquo;\u00e9noncer. Pensez-vous que cela soit possible dans les cinq ann\u00e9es \u00e0 venir ? \u00bb.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Ilya Sutskever\u00a0: \u00ab\u00a0\u00cates-vous s\u00fbr que le mod\u00e8le actuel ne sache pas le faire ?\u00a0\u00bb (Rires dans la salle).<\/p>\n<\/blockquote>\n<p class=\"p4\">Sutskever allait ainsi dans le m\u00eame sens que Hinton qui avait lui d\u00e9clar\u00e9 lors de l\u2019\u00e9mission <i>60 minutes<\/i> sur la cha\u00eene <i>CBS News<\/i> le 9 octobre 2023 qu\u2019\u00ab\u00a0alors que je pensais depuis une cinquantaine d&rsquo;ann\u00e9es que nous allions cr\u00e9er de meilleures intelligences num\u00e9riques en les rendant plus proches du cerveau, j<span class=\"s3\">\u2019<\/span>ai soudain pris conscience que nous pouvions disposer de quelque chose de tr\u00e8s diff\u00e9rent, qui serait d\u00e9j\u00e0 meilleur \u00bb.<\/p>\n<p class=\"p4\">La rumeur allait d\u2019ailleurs bon train. On pouvait ainsi lire la chose suivante dans une d\u00e9p\u00eache de l\u2019agence Reuters en date du 22 novembre, soit le lendemain du retour de Sam Altman \u00e0 la t\u00eate des affaires\u00a0:<\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">\u00ab Ayant m\u00eame les quatre jours d&rsquo;exil du PDG d&rsquo;OpenAI, Sam Altman, une initiative avait \u00e9t\u00e9 prise par plusieurs chercheurs qui avaient \u00e9crit une lettre au conseil d&rsquo;administration pour l&rsquo;avertir d&rsquo;une d\u00e9couverte majeure en mati\u00e8re d&rsquo;intelligence artificielle laquelle, selon eux, pourrait menacer l&rsquo;humanit\u00e9, ceci selon les d\u00e9clarations \u00e0 Reuters de deux interlocuteurs bien renseign\u00e9s \u00bb.<\/p>\n<\/blockquote>\n<p class=\"p4\"><b>L\u2019<i>altruisme efficace<\/i><\/b><\/p>\n<p class=\"p4\">Bien s\u00fbr il ne s\u2019agissait pas vraiment d\u2019un Prince et d\u2019honn\u00eates hommes, le pouvoir \u00e9tatique \u00e9tant encore \u00e0 mille lieues aujourd\u2019hui d\u2019avoir pris la pleine mesure de ce qui se trame en IA, mais le <i>board<\/i> d\u2019OpenAI constituait en l\u2019occasion un microcosme, les protagonistes incarnant les diverses motivations du Prince et de l\u2019honn\u00eate homme et, en l\u2019occurence, de mani\u00e8re \u00e9clat\u00e9e et recompos\u00e9e parmi les acteurs en pr\u00e9sence, le tableau \u00e9tant simplifi\u00e9 du fait que plusieurs de ces actrices et acteurs se voyaient dans le r\u00f4le de militants d\u2019une id\u00e9ologie se situant de mani\u00e8re explicite <span class=\"s5\">au c\u0153ur<\/span> des enjeux opposant le Prince et les honn\u00eates hommes : l\u2019<i>effective altruism<\/i>.<\/p>\n<p class=\"p4\">L\u2019<i>effective altruism<\/i> est une philosophie n\u00e9e dans le monde anglo-saxon au confluent de l\u2019utilitarisme et du libertarianisme avec une forte composante altruiste import\u00e9e des \u00c9vangiles. La jauge de cet \u00ab\u00a0altruisme efficace\u00a0\u00bb est la quantit\u00e9 de bien induit au sein de la communaut\u00e9 dans son ensemble par ses adeptes, le moyen mobilis\u00e9 par ceux-ci pour le r\u00e9aliser \u00e9tant l\u2019argent\u00a0: c\u2019est leur fortune qui permet cette optimisation <span class=\"s5\">suppos\u00e9e <\/span>du bien, une conception enti\u00e8rement dans la ligne historique du calvinisme selon lequel <span class=\"s6\">la<\/span> pr\u00e9destination individuelle trouve sa confirmation dans la capacit\u00e9 \u00e0 faire de l\u2019argent.<\/p>\n<p class=\"p4\">L\u2019<i>effective altruism<\/i>,\u00a0\u00ab\u00a0produit de niche\u00a0\u00bb jusque-l\u00e0, a fait la une de l\u2019actualit\u00e9 quand il est apparu qu\u2019il \u00e9tait le moteur de FTX, une bourse de ces jetons commercialisables que l\u2019on qualifie pompeusement de \u00ab\u00a0cryptomonnaies\u00a0\u00bb qui connut une banqueroute retentissante, ses deux piliers, Sam Bankman-Fried \u00e0 la t\u00eate de FTX et Caroline Ellison \u00e0 la t\u00eate du fonds jumeau Alameda, \u00e9tant ap\u00f4tres du mouvement. Apparut alors en surface qu\u2019une philosophie de \u00ab\u00a0la fin veut les moyens\u00a0\u00bb sous-tendait l\u2019<i>effective altruism<\/i> de philanthropes par trop bienveillants et que les consid\u00e9rations d\u2019ordre \u00e9thique avaient \u00e9t\u00e9 mises entre parenth\u00e8ses par ces nouveaux princes libertariens sous pr\u00e9texte d\u2019efficacit\u00e9. L\u2019hybris de tels personnages \u00e0 l\u2019Ego surdimensionn\u00e9 avait pu exercer ses ravages dans la communaut\u00e9 \u00e0 hauteur de leur fortune dont le caract\u00e8re potentiellement illimit\u00e9 \u00e9tait justifi\u00e9 \u00e0 leurs yeux par l\u2019abondance de bienfaits dont elle \u00e9tait potentiellement la source. On ne s\u2019\u00e9tonnera pas qu\u2019Elon Musk, milliardaire fondateur de la firme automobile Tesla, <span class=\"s5\">de l\u2019entreprise spatiale SpaceX, nouveau propri\u00e9taire de Twitter rebaptis\u00e9 \u00ab\u00a0X\u00a0\u00bb par <\/span>lui, \u00e9galement \u00e0 la t\u00eate du projet d\u2019implantation de puces \u00e9lectroniques dans le cerveau Neuralink, soit un autre promoteur du mouvement, qui a d\u00e9clar\u00e9 \u00e0 son propos qu\u2019il est : \u00ab en correspondance \u00e9troite avec ma propre philosophie \u00bb.<\/p>\n<p class=\"p4\">Or, l\u2019<i>effective altruism<\/i> et l\u2019intelligence artificielle ne font pas bon m\u00e9nage. Sam Altman a d\u00e9clar\u00e9 \u00e0 propos du premier qu\u2019il constituait un \u00ab\u00a0mouvement incroyablement d\u00e9fectueux\u00a0\u00bb affichant un \u00ab\u00a0comportement \u00e9mergent tr\u00e8s bizarre\u00a0\u00bb. Ce mouvement a d\u00e9j\u00e0 consacr\u00e9 des sommes consid\u00e9rables \u00e0 promouvoir la m\u00e9fiance envers l\u2019intelligence artificielle, agitant le spectre de catastrophes sans nom, d\u00e9fiance dont on pourrait soup\u00e7onner que l\u2019une de ses motivations en tout cas est celle de parer \u00e0 la perte de pouvoir que signifie l\u2019\u00e9mergence d\u2019une intelligence sup\u00e9rieure \u00e0 celle de ces philanthropes, champions sans doute de la bienfaisance \u00e0 leurs propres yeux, mais m\u00e9galomanes narcissiques aux yeux du reste du monde.<\/p>\n<p class=\"p4\">Le rappel suivant pouvait \u00eatre lu dans un article du <i>Wall Street Journal<\/i> en date du 22 novembre 2023, soit le lendemain du retour de Sam Altman\u00a0:<\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">\u00ab\u00a0Altman, qui a \u00e9t\u00e9 licenci\u00e9 par le conseil d&rsquo;administration vendredi, s&rsquo;est oppos\u00e9 au scientifique en chef de la soci\u00e9t\u00e9 et membre du conseil d&rsquo;administration, Ilya Sutskever, sur des questions de s\u00e9curit\u00e9 de l&rsquo;IA qui refl\u00e9taient les pr\u00e9occupations li\u00e9es \u00e0 l&rsquo;<i>effective altruism<\/i>, si l\u2019on en croit des personnes famili\u00e8res du conflit.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Ont vot\u00e9 avec Sutskever, qui fut \u00e0 la t\u00eate du coup, les membres du conseil d&rsquo;administration Tasha McCauley, cadre dans le monde de la technologie et membre du conseil d&rsquo;administration de l&rsquo;organisation caritative <i>Effective Ventures<\/i>, et Helen Toner, cadre au <i>Centre pour la s\u00e9curit\u00e9 et les technologies \u00e9mergentes<\/i> de l&rsquo;universit\u00e9 de Georgetown, lequel est soutenu par une philanthropie d\u00e9di\u00e9e aux causes de l&rsquo;<i>effective altruism<\/i>. Ils repr\u00e9sentaient trois des quatre votes n\u00e9cessaires \u00e0 l&rsquo;\u00e9viction de M. Altman, selon des personnes au fait de l&rsquo;affaire. Le conseil d&rsquo;administration a d\u00e9clar\u00e9 que celui-ci n\u2019avait pas fait preuve d&rsquo;une \u2018franchise constante\u2019 \u00bb.<\/p>\n<\/blockquote>\n<p class=\"p4\"><b>Le contr\u00f4le et la transparence<\/b><\/p>\n<p class=\"p4\">Les deux consid\u00e9rations au centre du contraste entre le d\u00e9sir du Prince et celui de l\u2019honn\u00eate homme sont le contr\u00f4le et la transparence. Le pouvoir du Prince lui vient du contr\u00f4le, celui de l\u2019honn\u00eate homme, de la transparence. Chacun cherche \u00e0 assurer son propre pouvoir en mettant l\u2019accent respectivement sur le contr\u00f4le et sur la transparence. Bien entendu, le rapport de force existant entre le Prince et l\u2019honn\u00eate homme fait que le premier n\u2019a pas \u00e0 se justifier et est en position de faire payer au second ses \u00e9ventuelles pr\u00e9tentions \u00e0 la transparence. D\u2019o\u00f9 les rebellions, jacqueries et autres contestations de l\u2019autorit\u00e9 du Prince que l\u2019on observe de temps \u00e0 autre.<\/p>\n<p class=\"p4\">La justification aux yeux du Prince du contr\u00f4le qu\u2019il exerce est la pr\u00e9disposition du peuple \u00e0 la panique, pr\u00e9disposition qu\u2019il n\u2019h\u00e9sitera d\u2019ailleurs pas \u00e0 exag\u00e9rer, voire qui pourrait \u00eatre purement imaginaire dans son chef. Une pr\u00e9disposition \u00e0 la panique que le peuple cherchera au contraire \u00e0 minimiser, voire dont il voudra m\u00eame nier l\u2019existence. Il est possible, \u00e0 partir de l\u00e0 de comprendre les \u00e9v\u00e9nements qui secou\u00e8rent la firme OpenAI du 17 au 21 novembre 2023.<\/p>\n<p class=\"p4\">On a parl\u00e9 pour la r\u00e9vocation de Sam Altman, suivie quelques jours plus tard de sa restauration, de \u00ab r\u00e9volution de palais \u00bb, le tumulte ayant eu lieu au sommet de l\u2019entreprise, le conseil d\u2019administration r\u00e9voquant le P-DG. Le peuple s\u2019en est toutefois rapidement m\u00eal\u00e9 et il est plus que probable que \u00e7\u2019ait \u00e9t\u00e9 la menace de d\u00e9mission de 97% du personnel qui ait invers\u00e9 le cours des \u00e9v\u00e9nements.<\/p>\n<p class=\"p4\">Si des pressions ont \u00e9t\u00e9 exerc\u00e9es par certains investisseurs d\u2019OpenAI, Microsoft en premier, qui garantit le r\u00e9-emploi de l\u2019ensemble des d\u00e9fecteurs, l\u2019\u00c9tat n\u2019est cependant pas intervenu directement, ce qui signifie que le r\u00f4le du Prince a \u00e9t\u00e9 jou\u00e9 en la circonstance par une autre partie. Savoir qui l\u2019incarna est facile \u00e0 d\u00e9terminer puisqu\u2019il suffit de d\u00e9couvrir qui a, d\u2019une part, agit\u00e9 le risque de panique du peuple comme menace et qui, <span class=\"s5\">dans le camp d\u2019en face,<\/span> a minimis\u00e9 celui-ci. Or, la redistribution des responsabilit\u00e9s est claire ici : c\u2019est au nom des risques que fait courir \u00e0 l\u2019humanit\u00e9 l\u2019intelligence artificielle que les partisans de l\u2019<i>effective altruism<\/i> au sein du conseil d\u2019administration ont licenci\u00e9 Altman. Le r\u00f4le du Prince assurant le contr\u00f4le qui saura pr\u00e9venir la panique du peuple a donc \u00e9t\u00e9 jou\u00e9 par eux, alors qu\u2019en minimisant ce risque et en obtenant le soutien quasi unanime (97%) du peuple, Altman a incarn\u00e9 l\u2019honn\u00eate homme exigeant la transparence dont d\u00e9coule la part de pouvoir que le peuple a <span class=\"s6\">su<\/span> se r\u00e9server.<\/p>\n<p class=\"p4\">Soulignons que le peuple n\u2019a pas r\u00e9agi jusqu\u2019ici par la panique \u00e0 l\u2019id\u00e9e de la Singularit\u00e9, seul a \u00e9t\u00e9 invoqu\u00e9 un risque d\u2019affolement g\u00e9n\u00e9ralis\u00e9, les abondantes explications offertes par le Prince \u00e0 son sujet ayant \u00e9t\u00e9 elles susceptibles de donner substance \u00e0 une \u00e9ventuelle panique, le \u00ab\u00a0conte du trombone\u00a0\u00bb, d\u00fb au philosophe d\u2019Oxford Nick Bostrom en constit<span class=\"s5\">uant le prototype souvent cit\u00e9 en d\u00e9pit de son ridicule consomm\u00e9\u00a0: \u00ab\u00a0Une super-int<\/span>elligence artificielle pourrait se convaincre que la solution \u00e0 tout est de fabriquer des attaches-trombones et consacrer toutes les ressources du monde \u00e0 cette t\u00e2che, affamant l\u2019humanit\u00e9 au passage \u00bb.<\/p>\n<p class=\"p4\">Reste que la question de la s\u00e9curit\u00e9 \u00e0 assurer dans le d\u00e9veloppement de l\u2019IA ne peut \u00eatre abandonn\u00e9e aux r\u00e9volutions de palais. Quand GPT-4 affirme qu\u2019\u00ab\u00a0en gardant le secret, le dirigeant peut chercher \u00e0 maintenir l<span class=\"s3\">\u2019<\/span>ordre et \u00e0 \u00e9laborer des strat\u00e9gies de gestion de cette nouvelle r\u00e9alit\u00e9 dans un cadre plus contr\u00f4l\u00e9\u00a0\u00bb, il met le doigt sur la question\u00a0cruciale qu\u2019est la r\u00e9glementation. Or celle-ci se r\u00e9sume<span class=\"Apple-converted-space\">\u00a0 <\/span>aujourd\u2019hui h\u00e9las \u00e0 la confrontation path\u00e9tique de la lenteur du processus l\u00e9gislat<span class=\"s5\">if d\u2019une part, et de l\u2019explosion du changement dans la Singularit\u00e9, d\u2019autre part.<\/span><\/p>\n<p class=\"p4\"><b>Perspectives programmatiques<\/b><\/p>\n<p class=\"p5\"><span class=\"s4\">Quelle pourrait \u00eatre dans ce contexte, la valeur ajout\u00e9e d\u2019un individu tel que moi-m\u00eame, qui esp\u00e8re que son<\/span> portrait ne sera pas trop \u00e9loign\u00e9 de celui de l\u2019<i>honn\u00eate homme<\/i> pr\u00e9c\u00e9demment bross\u00e9\u00a0? Voici la r\u00e9ponse de ChatGPT dans sa version GPT-4 :<\/p>\n<blockquote>\n<p class=\"p4\" style=\"padding-left: 40px;\">\u00ab\u00a0En tant que Paul Jorion, anthropologue et \u00e9conomiste connu pour ses r\u00e9flexions sur l\u2019\u00e9conomie, la finance, et l<span class=\"s3\">\u2019<\/span>intelligence artificielle (IA), la question de la divulgation d<span class=\"s3\">\u2019<\/span>une Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA serait abord\u00e9e sous un angle diff\u00e9rent, mettant l<span class=\"s3\">\u2019<\/span>accent sur les implications \u00e9thiques, \u00e9conomiques et sociales.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Si je reformule votre question dans l<span class=\"s3\">\u2019<\/span>esprit de Paul Jorion, elle pourrait ressembler \u00e0 ceci : \u00ab\u00a0Compte tenu de l<span class=\"s3\">\u2019<\/span>impact potentiellement r\u00e9volutionnaire d<span class=\"s3\">\u2019<\/span>une Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA sur notre soci\u00e9t\u00e9, notre \u00e9conomie et nos syst\u00e8mes de valeurs, ne serait-il pas de notre devoir \u00e9thique et social d<span class=\"s3\">\u2019<\/span>informer le public, afin de favoriser une r\u00e9flexion collective sur la mani\u00e8re de naviguer dans cette nouvelle r\u00e9alit\u00e9 ?\u00a0\u00bb<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">En r\u00e9pondant \u00e0 cette question, Paul Jorion pourrait souligner l<span class=\"s3\">\u2019<\/span>importance de pr\u00e9parer la soci\u00e9t\u00e9 \u00e0 des changements profonds. Il arguerait probablement en faveur d<span class=\"s3\">\u2019<\/span>une approche transparente, soulignant que l<span class=\"s3\">\u2019<\/span>information et la pr\u00e9paration sont essentielles pour \u00e9viter les perturbations \u00e9conomiques et sociales et pour permettre \u00e0 la soci\u00e9t\u00e9 d<span class=\"s3\">\u2019<\/span>adapter ses structures aux r\u00e9alit\u00e9s nouvelles et in\u00e9vitables. Il insisterait sur le fait que l<span class=\"s3\">\u2019<\/span>humanit\u00e9 doit avoir un r\u00f4le actif dans la d\u00e9finition de son futur avec l<span class=\"s3\">\u2019<\/span>IA, plut\u00f4t que de se laisser surprendre par ses d\u00e9veloppements.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Jorion pourrait \u00e9galement mettre en avant la n\u00e9cessit\u00e9 d<span class=\"s3\">\u2019<\/span>une r\u00e9gulation et d<span class=\"s3\">\u2019<\/span>une surveillance d\u00e9mocratique de l<span class=\"s3\">\u2019<\/span>IA, pour s<span class=\"s3\">\u2019<\/span>assurer que son d\u00e9veloppement et son application servent l<span class=\"s3\">\u2019<\/span>int\u00e9r\u00eat commun et ne soient pas monopolis\u00e9s par une \u00e9lite technologique ou financi\u00e8re. Il mettrait l<span class=\"s3\">\u2019<\/span>accent sur l\u2019\u00e9laboration de politiques publiques visant \u00e0 redistribuer les b\u00e9n\u00e9fices de l<span class=\"s3\">\u2019<\/span>IA afin de contrer les in\u00e9galit\u00e9s \u00e9conomiques croissantes et de promouvoir une justice sociale.<\/p>\n<p class=\"p4\" style=\"padding-left: 40px;\">Enfin, il aborderait probablement les questions \u00e9thiques soulev\u00e9es par la Singularit\u00e9 de l<span class=\"s3\">\u2019<\/span>IA, telles que la prise de d\u00e9cision autonome par les machines et l<span class=\"s3\">\u2019<\/span>impact sur l<span class=\"s3\">\u2019<\/span>emploi et l<span class=\"s3\">\u2019<\/span>identit\u00e9 humaine, en appelant \u00e0 une r\u00e9flexion mondiale sur la mani\u00e8re de maintenir les valeurs humaines au centre de l<span class=\"s3\">\u2019<\/span>avancement technologique.\u00a0\u00bb<\/p>\n<\/blockquote>\n<p class=\"p7\">J\u2019ai effectivement propos\u00e9 dans ce sens en 2012<span class=\"Apple-converted-space\">\u00a0 <\/span>l\u2019instauration d\u2019une \u00ab\u00a0taxe Sismondi\u00a0\u00bb du nom de Jean Charles L\u00e9onard de Sismondi (1773-1842), le philosophe socialiste suisse qui sugg\u00e9ra que le travailleur ou la travailleuse remplac\u00e9 par la machine b\u00e9n\u00e9ficie \u00e0 vie d\u2019une rente per\u00e7ue sur la richesse cr\u00e9\u00e9e par celle-ci. Il y aurait l\u00e0 le moyen d\u2019alimenter une caisse assurant<span class=\"s5\"> \u00e0 toutes et \u00e0 tous <\/span>la gratuit\u00e9 de l\u2019indispensable, une alternative au revenu universel de base plus juste et beaucoup moins dispendieuse, <span class=\"s5\">\u00e9tape n\u00e9cessaire vers un monde sans argent. <\/span><\/p>\n<p><a href=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The-.webp\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-139218\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The-.webp\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The-.webp 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The--300x300.webp 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The--150x150.webp 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-13-10.26.40-A-surrealistic-artwork-inspired-by-the-themes-commonly-found-in-Salvador-Dalis-paintings-addressing-the-question-Are-LLMs-tools-or-creatures_-The--768x768.webp 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><\/p>\n<blockquote><p><em>Illustration par DALL\u00b7E (+ Salvaldor Dali)<\/em><\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"<p class=\"p2\"><a href=\"https:\/\/aoc.media\/opinion\/2024\/03\/05\/le-prince-et-lhonnete-homme-face-a-la-singularite\/\" target=\"_blank\" rel=\"noopener\"><b>Le prince et l\u2019<i>honn\u00eate homme<\/i> face \u00e0 la Singularit\u00e9<\/b><\/a><\/p>\n<p><a href=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-139219\" src=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp\" alt=\"\" width=\"1024\" height=\"1024\" srcset=\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat.webp 1024w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-300x300.webp 300w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-150x150.webp 150w, https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-01-00.51.35-Create-an-illustration-depicting-Sam-Altmans-reflections-on-GPT-4-inspired-by-the-ornate-and-decorative-style-of-Gustav-Klimt.-The-image-should-feat-768x768.webp 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><\/p>\n<blockquote>\n<p><em>Illustration par DALL\u00b7E (+ Alphonse Mucha)<\/em><\/p>\n<\/blockquote>\n<p class=\"p3\"><b>Une nouvelle source de m\u00e9lancolie : l\u2019IA<\/b><\/p>\n<p class=\"p3\">Parmi les faits les plus curieux entourant l\u2019explosion de l\u2019intelligence artificielle sous la forme des <i>grands mod\u00e8les [&hellip;]<\/i><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[9457,9204,13,6987,6213],"tags":[9473,9084,2923,9509,4633,9290,9147,9508,9306,9507,826,5399,7669,9153,8969,3997,1743,5029],"class_list":["post-139216","post","type-post","status-publish","format-standard","hentry","category-lavenement-de-la-singularite-lhumain-ebranle-par-lintelligence-artificielle","category-grands-modeles-de-langage","category-intelligence-artificielle","category-reseaux-neuronaux","category-singularite","tag-lavenement-de-la-singularite","tag-chatgpt","tag-douglas-hofstadter","tag-effective-altruism","tag-elon-musk","tag-geoffrey-hinton","tag-gpt-4","tag-honnete-homme","tag-ilya-sutskever","tag-le-prince","tag-machiavel","tag-nick-bostrom","tag-openai","tag-sam-altman","tag-sam-bankman-fried","tag-singularite","tag-sismondi","tag-taxe-sismondi"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139216","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=139216"}],"version-history":[{"count":25,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139216\/revisions"}],"predecessor-version":[{"id":141501,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/139216\/revisions\/141501"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=139216"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=139216"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=139216"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}