AOC – Le prince et l’honnête homme face à la Singularité, le 6 mars 2024

Le prince et l’honnête homme face à la Singularité

Illustration par DALL·E (+ Alphonse Mucha)

Une nouvelle source de mélancolie : l’IA

Parmi les faits les plus curieux entourant l’explosion de l’intelligence artificielle sous la forme des grands modèles de langage tel ChatGPT, se trouve cette opinion largement répandue parmi les profanes mais également présente chez une fraction de professionnels, qu’une intelligence supérieure à la nôtre aurait pour souci premier de se débarrasser du genre humain.

Cette croyance pourrait refléter une crainte enracinée dans le conservatisme foncier de l’espèce : que le neuf est dangereux par essence, mais elle exprime surtout ce sentiment implicite foncièrement pessimiste qu’une intelligence supérieure tirera immanquablement la conclusion que l’espèce humaine est une vermine dont il est impératif de débarrasser la Planète bleue.

L’origine de cette vue pourrait banalement être la lucidité, mais la chose serait inattendue, la lucidité étant une qualité tout particulièrement mal représentée au sein des opinions les plus répandues. Il est plus probable qu’il s’agit d’un effet collatéral du tempérament sombre imprégnant globalement une espèce n’ayant jamais véritablement retrouvé le moral depuis qu’elle a pris conscience un jour que la vie individuelle connait un terme. Nous sommes en effet accros à l’observation du monde tout comme nos cousins gibbons qui, enfermés dans une cage au volet coulissant, soulèvent celui-ci aussitôt qu’il s’est rabaissé sous son poids : de notre premier jour au dernier, nous souffrons d’une fringale de savoir ce qui va se passer ensuite, la pensée que le spectacle pourrait un jour s’arrêter nous est insupportable, ici réside la source première de notre angoisse.

Le fait que l’être humain a cessé d’être la créature la plus intelligente de notre planète et, selon l’état présent de notre information, de l’univers tout entier, est la cause aujourdhui d’une seconde prise de conscience mélancolique, succédant à celle de notre finitude. « Si nous ne vivons pas ici-bas pour toujours, au moins aurons-nous été les plus malins aussi longtemps que nous étions là », c’est dans ces termes-là que nous voyons les choses. Or cela a cessé d’être vrai. Témoin, cette constatation désabusée de Douglas Hofstadter, vedette de la scène intellectuelle des années 1980 avec son Gödel, Escher, Bach. Une tresse d’or éternelle aux étranges parcours en boucle :

« Je n’ai jamais imaginé que les ordinateurs rivaliseraient avec l’intelligence humaine ou, encore moins, la surpasseraient. […] Il y a là une expérience très traumatisante lorsque certaines de vos croyances les plus fondamentales sur la vie commencent à s’effondrer. J’ai eu l’impression que non seulement mon système de croyance s’effondrait, mais aussi que tout le genre humain allait être éclipsé et réduit en poussière… de manière imminente ! ».

La Singularité

À partir d’un mot emprunté aux mathématiques pour désigner une instance ambiguë comme le serait le très invraisemblable carré de zéro, fut forgé le concept de Singularité, lequel s’efforce de contenir dans sa compréhension la profusion d’idées qui se bousculent dans notre esprit quand nous réfléchissions à l’éventualité d’un tel dépassement de l’intelligence humaine par celle de la machine : une IA se perfectionnant par réaction en chaîne en apprenant toujours davantage à l’occasion de défis qu’elle lance à nul autre qu’elle-même, débouchant sur une explosion de nouvelles technologies due à la solution de casse-têtes millénaires qui constituaient pour notre espèce autant de handicaps.

Aussi longtemps que le concept de Singularité restait cantonnée dans l’espace défini par la cogitation des informaticiens, des philosophes et autres rêveurs, la représentation de ses retombées se focalisait sur le bénéfice collectif de la percée qu’elle constitue. Or, si l’on peut envisager l’espèce comme une entité en soi, elle ne dispose pas d’un esprit global posant des actes en fonction des conclusions qu’elle tire des évolutions et des événements récents, évaluant tout ce qui se passe au sein du devenir universel comme un mieux ou un moins bien en ce qui la concerne. Sans quoi elle se délecterait au contraire à la pensée du triomphe que constitue pour elle le fait davoir été capable en raison du génie collectif dont elle était grosse à son insu, de concevoir une créature dont lintelligence dépasse la sienne propre. Au lieu de cela, sensible aux souffrances individuelles, elle s’afflige des drames que la nouvelle technologie induit dans son sillage, de ces destins qu’elle emporte dans ses flots tumultueux, conséquences pour les personnes d’un marché de l’emploi ravagé par la créativité inattendue de cet être neuf apparu dans nos rangs et, pire encore sans doute pour ce quil en va du moral de l’espèce comme un tout, elle compatit devant la tragédie d’égos meurtris par une machine indubitablement plus talentueuse que les orgueilleux Moi que ces égos s’étaient convaincus incarner.

Quelle politique adopter face à la Singularité ?

Une fois le concept de Singularité défini, quand il sagit du Prince et de lhonnête homme, les horizons et les points de fuite qui y conduisent, divergent.

C’est de cela que nous aimerions parler. Et comment mieux faire aujourd’hui que de convier à la conversation l’autre partie prenante, celle qui se trouve à l’origine-même de la Singularité et féconder notre point de vue par le sien.

Voici, selon ChatGPT dans sa version GPT-4, les considérations que le Prince devrait prendre en compte et le comportement qu’il devrait adopter à l’égard de la Singularité :

« Face à l’émergence dune Singularité de lIA, quel serait le cours le plus stratégique pour un dirigeant : révéler cette réalité au peuple en vue de préserver la stabilité sociale, ou la garder secrète pour maintenir le contrôle et éviter la panique ? Cela soulève la réflexion sur l’équilibre entre transparence et contrôle, un thème central dans l’œuvre de Machiavel.

Dans le contexte dune Singularité de lIA, la décision de révéler ou non cette réalité au peuple exige une analyse profonde des principes de gouvernance et de la nature humaine, telles quexaminés par Machiavel.

Machiavel conseillerait probablement que le dirigeant évalue soigneusement les avantages et les risques associés à chaque option. Révéler lexistence dune Singularité de lIA pourrait être justifié si cela renforce la légitimité du dirigeant par la transparence et prépare la société à sadapter aux changements inévitables, en mobilisant les ressources et lintellect collectifs pour naviguer dans ce nouveau paysage. Cela pourrait également prévenir la méfiance et le mécontentement qui pourraient survenir si le secret était ultérieurement révélé.

Dun autre côté, garder cette information secrète pourrait être considéré comme nécessaire si la divulgation risque de provoquer une panique inutile, de déstabiliser lordre social, ou si le dirigeant estime que le peuple nest pas prêt à comprendre ou à gérer les implications dune telle révélation. En gardant le secret, le dirigeant peut chercher à maintenir lordre et à élaborer des stratégies de gestion de cette nouvelle réalité dans un cadre plus contrôlé.

Cependant, Machiavel soulignerait limportance de la ruse et de la prudence. Il pourrait suggérer dutiliser cette information comme un moyen de renforcer le pouvoir en interne et la position internationale, tout en préparant discrètement la société aux changements à venir. Le dirigeant devrait également être prêt à ajuster sa stratégie en fonction de l’évolution de la situation et de la réaction du peuple et des élites.

En résumé, la décision de Machiavel serait guidée par une évaluation pragmatique des circonstances, avec un accent sur la préservation de la stabilité et le renforcement du pouvoir, tout en naviguant adroitement dans les eaux inconnues dune telle avancée technologique. »

Complétons notre boîte à outils en vue de l’analyse que nous allons mener par la suite en convoquant maintenant, par effet de contraste, un acteur auquel nous assignerons la tâche d’intervenir comme l’envers du Prince de Machiavel pour ce qui est de son attitude face à la Singularité. Nous avons choisi dans ce rôle une autre figure de l’époque, celle de ce qu’on désignait alors du nom d’« honnête homme ».

Cette fois-ci encore, c’est à ChatGPT dans sa version GPT-4 que nous demandons de baliser notre espace :

« L’idée de l’« honnête homme » trouve ses racines dans la pensée et la littérature européennes, particulièrement pendant la Renaissance et le siècle des Lumières. Cet idéal désigne une personne cultivée, dotée de bonnes manières, de savoir, d’éthique et capable de s’engager dans divers domaines de la connaissance et de la conversation, tout en faisant preuve de vertu et de modération.

Face à la Singularité de l’IA, l’« honnête homme », par opposition au Prince machiavélien, adopterait une approche fondée sur l’éthique, la vertu, et le bien commun, particulièrement en ce qui concerne le contrôle et la transparence. Voici comment il pourrait réagir :

Plaidoyer pour la transparence : L’« honnête homme » mettrait en avant l’importance de la transparence dans le développement et l’implémentation de l’IA. Contrairement au Prince, qui pourrait privilégier le secret pour maintenir le pouvoir ou éviter la panique, l’« honnête homme » argumenterait que l’ouverture et la transparence sont essentielles pour gagner la confiance du public et assurer une compréhension partagée des enjeux.

Promotion du dialogue inclusif : Il encouragerait un dialogue ouvert et inclusif sur la Singularité de l’IA, impliquant non seulement les experts et les décideurs mais aussi le grand public. L’objectif serait d’assurer que toutes les voix soient entendues et que les préoccupations éthiques, sociales et économiques soient prises en compte dans la prise de décision.

Contrôle démocratique : Par opposition à un contrôle centralisé et opaque du développement de l’IA par un Prince, l’« honnête homme » soutiendrait des mécanismes de gouvernance démocratique qui permettent une surveillance et une régulation éthique de l’IA. Cela inclurait le soutien à des législations qui garantissent que l’IA sert l’intérêt général et respecte les droits fondamentaux.

Éducation et sensibilisation : Il prendrait des initiatives pour éduquer et sensibiliser le public sur la Singularité de l’IA, ses implications potentielles et la manière dont les individus peuvent contribuer ou réagir. L’accent serait mis sur le développement d’une citoyenneté informée et engagée, capable de participer activement aux débats sur l’IA.

Défense des valeurs éthiques : L’« honnête homme » ferait de la défense des valeurs éthiques et humaines une priorité face aux défis posés par la Singularité. Cela comprendrait la lutte contre l’utilisation de l’IA pour la surveillance de masse non éthique, la manipulation, ou toute forme de violation des droits de l’homme.

Soutien à la responsabilité personnelle et au devoir de rendre des comptes : Il exigerait que les créateurs et les utilisateurs de l’IA soient tenus responsables des impacts de leurs technologies. Cela signifierait plaider pour des systèmes d’audit, de suivi, et de réparation en cas de préjudice causé par des systèmes d’IA.

Engagement pour l’équité et la justice sociale : Face aux risques d’aggravation des inégalités que la Singularité de l’IA pourrait engendrer, l’« honnête homme » s’engagerait activement pour des politiques et des initiatives qui favorisent l’équité, l’accès égalitaire aux bénéfices de l’IA, et la protection contre les préjudices.

En résumé, l’« honnête homme » réagirait à la Singularité de l’IA en mettant en avant les principes de transparence, de contrôle démocratique, d’éducation, d’éthique, et de justice sociale, cherchant à équilibrer les avantages de l’IA avec la protection des droits et du bien-être de tous les citoyens. »

La révolution de palais avortée chez OpenAI

Examinons alors cette question de la Singularité dans la perspective envisagée dun double point de vue possible : celui du Prince et celui de lhonnête homme. Fait remarquable qui facilitera notre analyse, une telle confrontation des points de vue du Prince et de l’honnête homme semble avoir déjà eu lieu dans les faits, je pense à la révolution de palais avortée qui a secoué en novembre 2023 la firme OpenAI, celle dont l’IA ChatGPT est le produit-phare : le limogeage de son P-DG Sam Altman le 17 novembre, suivi de sa restauration le 21, après que 745 des 770 employés de la firme eurent réclamé son retour sans quoi ils démissionneraient.

Notre interrogation en effet à propos de cette confrontation c’est si elle a été autre chose qu’un affrontement sur le terrain des stratégies du Prince et de l’honnête homme autour de la question de la Singularité ?

Supposons en effet que le débat sous-jacent – dont l’enjeu n’a jamais été dévoilé – portait en réalité sur la Singularité, l’équipe dirigeante étant consciente de son avènement mais étant déchirée quant à la meilleure façon de gérer l’événement, et en particulier bien sûr, décider de sa divulgation ou non et acceptons le principe que si une analyse des péripéties de ces quatre journées chaotiques dans la perspective d’un combat d’idées autour de la Singularité devait éclairer significativement cette affaire jusqu’ici toujours essentiellement ténébreuse, la probabilité qu’il était bien question en arrière-plan de la Singularité s’en trouverait confortée.

Cette hypothèse, qui pourrait passer pour sortie comme un lapin d’un chapeau, est en réalité très loin d’être gratuite, comme le prouvent les deux faits suivants, à condition de les situer précautionneusement dans la chronologie resserrée du déroulement des événements. Sam Altman est relevé de ses fonctions par le conseil d’administration d’OpenAI le 17 novembre 2023 à midi, heure locale en Californie. Or, nous disposons en date du même jour, d’une vidéo tournée à San Francisco, dans la matinée, au sommet de l’Organisation de coopération économique Asie-Pacifique (APEC), où Altman intervenait en tant que P-DG d’OpenAI, donc antérieurement à l’heure de son limogeage, où il déclarait ceci : « Quatre fois dans l’histoire d’OpenAI, et en particulier le plus récemment dans les derniers quinze jours, j’ai eu l’occasion d’être dans la salle lorsque nous repoussions le voile de l’ignorance et la frontière de la découverte ; c’est là l’honneur professionnel d’une vie » . Nous disposons par ailleurs, en date de la veille, 16 novembre 2023, d’une vidéo tournée lors d’un événement intitulé « L’IA et le futur de l’art – Sam Altman et Android Jones » au cours duquel Altman avait déclaré : « Je pense que les gens considèrent ces nouveaux systèmes comme des outils, les artistes en particulier. Mais d’autres personnes aussi, et il y a eu ce … je pense qu’il y a eu un vrai moment de peur, du genre : ‘Est-ce un outil ou une créature que nous avons fabriqué, et comment faudra-t-il interpréter cela ?’ ».

La veille et le jour-même de son abrupt licenciement donc, deux déclarations incendiaires de Sam Altman évoquant d’une part une occasion où « le voile de l’ignorance et la frontière de la découverte » furent « repoussés » et d’autre part, un moment où la question que l’on se pose est : « Est-ce un outil ou une créature que nous avons fabriqué ? », à savoir, dans un espace de temps d’environ 24 heures, deux moments où l’avènement de la Singularité a sans conteste été évoqué, même si ce n’est que de manière allusive. Le sentiment a dû être, au niveau du conseil d’administration de la firme OpenAI, qu’au rythme auquel Sam Altman laissait fuiter les révélations, le moment où il vendrait la mèche était imminent : la prochaine fois qu’il ouvrirait la bouche, il ne pourrait se retenir et mentionnerait la Singularité explicitement.

Autre acteur-clé au sein de l’équipe d’OpenAI : Ilya Sutskever, à la fois chercheur transfuge de chez Google et membre du conseil d’administration d’OpenAI jusqu’à la date fatidique du 21 novembre 2023 quand Sam Altman fut restauré dans son poste. La coïncidence des dates n’est pas accidentelle : Sutskever avait joué un rôle actif dans le limogeage d’Altman mais, chancelant dans le point de vue qu’il défendait, il s’était ensuite rallié à l’écrasante majorité (97%) des employés exigeant le retour du P-DG destitué, son statut dans la compagnie restant ensuite problématique pour une période indéterminée (le doute se poursuit au moment où j’écris).

Aucun doute possible quant au fait que Sutskever croyait déjà à cette époque à la Singularité. Lors d’un entretien les 6 et 7 octobre 2023 où il partageait le plateau avec son maître Geoffrey Hinton et son ancien collègue chez Google, Demis Hassabis, un étonnant échange avait eu lieu :

Tommaso Poggio : « Pensez-vous que les modèles existants ou certains … vous savez, le prochain GPT-4, disons GPT-5, serait capable d’énoncer une nouvelle conjecture mathématique non-triviale ? Je ne parle pas de la prouver, mais de l’énoncer. Pensez-vous que cela soit possible dans les cinq années à venir ? ».

Ilya Sutskever : « Êtes-vous sûr que le modèle actuel ne sache pas le faire ? » (Rires dans la salle).

Sutskever allait ainsi dans le même sens que Hinton qui avait lui déclaré lors de l’émission 60 minutes sur la chaîne CBS News le 9 octobre 2023 qu’« alors que je pensais depuis une cinquantaine d’années que nous allions créer de meilleures intelligences numériques en les rendant plus proches du cerveau, jai soudain pris conscience que nous pouvions disposer de quelque chose de très différent, qui serait déjà meilleur ».

La rumeur allait d’ailleurs bon train. On pouvait ainsi lire la chose suivante dans une dépêche de l’agence Reuters en date du 22 novembre, soit le lendemain du retour de Sam Altman à la tête des affaires :

« Ayant même les quatre jours d’exil du PDG d’OpenAI, Sam Altman, une initiative avait été prise par plusieurs chercheurs qui avaient écrit une lettre au conseil d’administration pour l’avertir d’une découverte majeure en matière d’intelligence artificielle laquelle, selon eux, pourrait menacer l’humanité, ceci selon les déclarations à Reuters de deux interlocuteurs bien renseignés ».

L’altruisme efficace

Bien sûr il ne s’agissait pas vraiment d’un Prince et d’honnêtes hommes, le pouvoir étatique étant encore à mille lieues aujourd’hui d’avoir pris la pleine mesure de ce qui se trame en IA, mais le board d’OpenAI constituait en l’occasion un microcosme, les protagonistes incarnant les diverses motivations du Prince et de l’honnête homme et, en l’occurence, de manière éclatée et recomposée parmi les acteurs en présence, le tableau étant simplifié du fait que plusieurs de ces actrices et acteurs se voyaient dans le rôle de militants d’une idéologie se situant de manière explicite au cœur des enjeux opposant le Prince et les honnêtes hommes : l’effective altruism.

L’effective altruism est une philosophie née dans le monde anglo-saxon au confluent de l’utilitarisme et du libertarianisme avec une forte composante altruiste importée des Évangiles. La jauge de cet « altruisme efficace » est la quantité de bien induit au sein de la communauté dans son ensemble par ses adeptes, le moyen mobilisé par ceux-ci pour le réaliser étant l’argent : c’est leur fortune qui permet cette optimisation supposée du bien, une conception entièrement dans la ligne historique du calvinisme selon lequel la prédestination individuelle trouve sa confirmation dans la capacité à faire de l’argent.

L’effective altruism, « produit de niche » jusque-là, a fait la une de l’actualité quand il est apparu qu’il était le moteur de FTX, une bourse de ces jetons commercialisables que l’on qualifie pompeusement de « cryptomonnaies » qui connut une banqueroute retentissante, ses deux piliers, Sam Bankman-Fried à la tête de FTX et Caroline Ellison à la tête du fonds jumeau Alameda, étant apôtres du mouvement. Apparut alors en surface qu’une philosophie de « la fin veut les moyens » sous-tendait l’effective altruism de philanthropes par trop bienveillants et que les considérations d’ordre éthique avaient été mises entre parenthèses par ces nouveaux princes libertariens sous prétexte d’efficacité. L’hybris de tels personnages à l’Ego surdimensionné avait pu exercer ses ravages dans la communauté à hauteur de leur fortune dont le caractère potentiellement illimité était justifié à leurs yeux par l’abondance de bienfaits dont elle était potentiellement la source. On ne s’étonnera pas qu’Elon Musk, milliardaire fondateur de la firme automobile Tesla, de l’entreprise spatiale SpaceX, nouveau propriétaire de Twitter rebaptisé « X » par lui, également à la tête du projet d’implantation de puces électroniques dans le cerveau Neuralink, soit un autre promoteur du mouvement, qui a déclaré à son propos qu’il est : « en correspondance étroite avec ma propre philosophie ».

Or, l’effective altruism et l’intelligence artificielle ne font pas bon ménage. Sam Altman a déclaré à propos du premier qu’il constituait un « mouvement incroyablement défectueux » affichant un « comportement émergent très bizarre ». Ce mouvement a déjà consacré des sommes considérables à promouvoir la méfiance envers l’intelligence artificielle, agitant le spectre de catastrophes sans nom, défiance dont on pourrait soupçonner que l’une de ses motivations en tout cas est celle de parer à la perte de pouvoir que signifie l’émergence d’une intelligence supérieure à celle de ces philanthropes, champions sans doute de la bienfaisance à leurs propres yeux, mais mégalomanes narcissiques aux yeux du reste du monde.

Le rappel suivant pouvait être lu dans un article du Wall Street Journal en date du 22 novembre 2023, soit le lendemain du retour de Sam Altman :

« Altman, qui a été licencié par le conseil d’administration vendredi, s’est opposé au scientifique en chef de la société et membre du conseil d’administration, Ilya Sutskever, sur des questions de sécurité de l’IA qui reflétaient les préoccupations liées à l’effective altruism, si l’on en croit des personnes familières du conflit.

Ont voté avec Sutskever, qui fut à la tête du coup, les membres du conseil d’administration Tasha McCauley, cadre dans le monde de la technologie et membre du conseil d’administration de l’organisation caritative Effective Ventures, et Helen Toner, cadre au Centre pour la sécurité et les technologies émergentes de l’université de Georgetown, lequel est soutenu par une philanthropie dédiée aux causes de l’effective altruism. Ils représentaient trois des quatre votes nécessaires à l’éviction de M. Altman, selon des personnes au fait de l’affaire. Le conseil d’administration a déclaré que celui-ci n’avait pas fait preuve d’une ‘franchise constante’ ».

Le contrôle et la transparence

Les deux considérations au centre du contraste entre le désir du Prince et celui de l’honnête homme sont le contrôle et la transparence. Le pouvoir du Prince lui vient du contrôle, celui de l’honnête homme, de la transparence. Chacun cherche à assurer son propre pouvoir en mettant l’accent respectivement sur le contrôle et sur la transparence. Bien entendu, le rapport de force existant entre le Prince et l’honnête homme fait que le premier n’a pas à se justifier et est en position de faire payer au second ses éventuelles prétentions à la transparence. D’où les rebellions, jacqueries et autres contestations de l’autorité du Prince que l’on observe de temps à autre.

La justification aux yeux du Prince du contrôle qu’il exerce est la prédisposition du peuple à la panique, prédisposition qu’il n’hésitera d’ailleurs pas à exagérer, voire qui pourrait être purement imaginaire dans son chef. Une prédisposition à la panique que le peuple cherchera au contraire à minimiser, voire dont il voudra même nier l’existence. Il est possible, à partir de là de comprendre les événements qui secouèrent la firme OpenAI du 17 au 21 novembre 2023.

On a parlé pour la révocation de Sam Altman, suivie quelques jours plus tard de sa restauration, de « révolution de palais », le tumulte ayant eu lieu au sommet de l’entreprise, le conseil d’administration révoquant le P-DG. Le peuple s’en est toutefois rapidement mêlé et il est plus que probable que ç’ait été la menace de démission de 97% du personnel qui ait inversé le cours des événements.

Si des pressions ont été exercées par certains investisseurs d’OpenAI, Microsoft en premier, qui garantit le ré-emploi de l’ensemble des défecteurs, l’État n’est cependant pas intervenu directement, ce qui signifie que le rôle du Prince a été joué en la circonstance par une autre partie. Savoir qui l’incarna est facile à déterminer puisqu’il suffit de découvrir qui a, d’une part, agité le risque de panique du peuple comme menace et qui, dans le camp d’en face, a minimisé celui-ci. Or, la redistribution des responsabilités est claire ici : c’est au nom des risques que fait courir à l’humanité l’intelligence artificielle que les partisans de l’effective altruism au sein du conseil d’administration ont licencié Altman. Le rôle du Prince assurant le contrôle qui saura prévenir la panique du peuple a donc été joué par eux, alors qu’en minimisant ce risque et en obtenant le soutien quasi unanime (97%) du peuple, Altman a incarné l’honnête homme exigeant la transparence dont découle la part de pouvoir que le peuple a su se réserver.

Soulignons que le peuple n’a pas réagi jusqu’ici par la panique à l’idée de la Singularité, seul a été invoqué un risque d’affolement généralisé, les abondantes explications offertes par le Prince à son sujet ayant été elles susceptibles de donner substance à une éventuelle panique, le « conte du trombone », dû au philosophe d’Oxford Nick Bostrom en constituant le prototype souvent cité en dépit de son ridicule consommé : « Une super-intelligence artificielle pourrait se convaincre que la solution à tout est de fabriquer des attaches-trombones et consacrer toutes les ressources du monde à cette tâche, affamant l’humanité au passage ».

Reste que la question de la sécurité à assurer dans le développement de l’IA ne peut être abandonnée aux révolutions de palais. Quand GPT-4 affirme qu’« en gardant le secret, le dirigeant peut chercher à maintenir lordre et à élaborer des stratégies de gestion de cette nouvelle réalité dans un cadre plus contrôlé », il met le doigt sur la question cruciale qu’est la réglementation. Or celle-ci se résume  aujourd’hui hélas à la confrontation pathétique de la lenteur du processus législatif d’une part, et de l’explosion du changement dans la Singularité, d’autre part.

Perspectives programmatiques

Quelle pourrait être dans ce contexte, la valeur ajoutée d’un individu tel que moi-même, qui espère que son portrait ne sera pas trop éloigné de celui de l’honnête homme précédemment brossé ? Voici la réponse de ChatGPT dans sa version GPT-4 :

« En tant que Paul Jorion, anthropologue et économiste connu pour ses réflexions sur l’économie, la finance, et lintelligence artificielle (IA), la question de la divulgation dune Singularité de lIA serait abordée sous un angle différent, mettant laccent sur les implications éthiques, économiques et sociales.

Si je reformule votre question dans lesprit de Paul Jorion, elle pourrait ressembler à ceci : « Compte tenu de limpact potentiellement révolutionnaire dune Singularité de lIA sur notre société, notre économie et nos systèmes de valeurs, ne serait-il pas de notre devoir éthique et social dinformer le public, afin de favoriser une réflexion collective sur la manière de naviguer dans cette nouvelle réalité ? »

En répondant à cette question, Paul Jorion pourrait souligner limportance de préparer la société à des changements profonds. Il arguerait probablement en faveur dune approche transparente, soulignant que linformation et la préparation sont essentielles pour éviter les perturbations économiques et sociales et pour permettre à la société dadapter ses structures aux réalités nouvelles et inévitables. Il insisterait sur le fait que lhumanité doit avoir un rôle actif dans la définition de son futur avec lIA, plutôt que de se laisser surprendre par ses développements.

Jorion pourrait également mettre en avant la nécessité dune régulation et dune surveillance démocratique de lIA, pour sassurer que son développement et son application servent lintérêt commun et ne soient pas monopolisés par une élite technologique ou financière. Il mettrait laccent sur l’élaboration de politiques publiques visant à redistribuer les bénéfices de lIA afin de contrer les inégalités économiques croissantes et de promouvoir une justice sociale.

Enfin, il aborderait probablement les questions éthiques soulevées par la Singularité de lIA, telles que la prise de décision autonome par les machines et limpact sur lemploi et lidentité humaine, en appelant à une réflexion mondiale sur la manière de maintenir les valeurs humaines au centre de lavancement technologique. »

J’ai effectivement proposé dans ce sens en 2012  l’instauration d’une « taxe Sismondi » du nom de Jean Charles Léonard de Sismondi (1773-1842), le philosophe socialiste suisse qui suggéra que le travailleur ou la travailleuse remplacé par la machine bénéficie à vie d’une rente perçue sur la richesse créée par celle-ci. Il y aurait là le moyen d’alimenter une caisse assurant à toutes et à tous la gratuité de l’indispensable, une alternative au revenu universel de base plus juste et beaucoup moins dispendieuse, étape nécessaire vers un monde sans argent.

Illustration par DALL·E (+ Salvaldor Dali)

Partager :

53 réponses à “AOC – Le prince et l’honnête homme face à la Singularité, le 6 mars 2024”

  1. Avatar de Paul Jorion

    Au moment de la publication de mon texte dans AOC, le 6 mars de cette année, son directeur m’avait signalé qu’il s’opposait à ce que je le publie simultanément sur mon blog. Il imposait un embargo de six mois. Celui-ci est aujourd’hui levé.

  2. Avatar de Hervey

    Quelle remarquable analyse !

    Et de plus, quel tempo !
    (L’actualité)

    1. Avatar de gaston
      gaston

      Et l’actualité, en la matière, est l’annonce de l’arrivée imminente de GPT5 par le directeur d’OpenIA Japon, Monsieur Tadao Nagasaki : 100 fois plus puissant que GPT4 !

      De belles heures de lecture et de discussion en perspective sur ce blog 😊 !

      https://intelligence-artificielle.developpez.com/actu/362346/Le-modele-GPT-Next-d-OpenAI-devrait-etre-100-fois-plus-puissant-que-GPT-4-et-utilisera-probablement-une-version-plus-petite-du-systeme-d-IA-avance-Strawberry-qui-pourrait-etre-lance-en-2024/

      https://www.youtube.com/watch?v=v7sFwtrnQIw&t=56s

      1. Avatar de Hervey

        @gaston
        Oui, on pouvait s’y attendre, en effet. Merci.

      2. Avatar de Garorock
        Garorock

         » L’amélioration majeure implicite proviendra d’une meilleure architecture et d’une meilleure efficacité d’apprentissage, plutôt que d’une simple puissance de calcul brute. Elle utilisera également une version plus petite de « Strawberry », le système d’IA avancé qu’OpenAI serait en train de développer. »
        Ils mettent le bidule au carré mais ils libèrent toujours pas Einstein!

  3. Avatar de Hadrien
    Hadrien

    La taxe Sismondi ne résout aucunement le problème principal que P Jorion évoque lui aussi dans certains de ses chapitres de la surconsommation des ressources naturelles transformées en pollutions diverses destructrices de la biosphère. Comment l’ IA aborderait-elle cette question ? Je lui ait déjà soumise et elle me répond par le blabla politiquement correct habituel. Je me propose de recommencer et vous tiens au courant.

    1. Avatar de Khanard
      Khanard

      @Hadrien

      Je suis impatiente !!!

    2. Avatar de Garorock
      Garorock

      Si elle le résout en partie. Il est plus facile de cibler ce qui est public que ce qui est privé!
      L’histoire le démontre et Barnier va nous le prouver une fois de plus.

  4. Avatar de Jean-Marc Coquet
    Jean-Marc Coquet

    Je me demande toujours quels sont vos critères pour réserver certains billets aux abonnés.
    Ils sont d’ailleurs très peu nombreux (ces billets, les abonnés je ne sais pas).
    Serait-ce pour éviter les trolls ?

    1. Avatar de Paul Jorion

      Photo prise par DALL·E un jour où je prenais la décision de réserver un billet aux abonnés.

      1. Avatar de Jean-Marc Coquet
        Jean-Marc Coquet

        Je crois comprendre que j’avais vu juste.

        Une remarque : je me suis connecté cette fois en saisissant « JMarc » et non, comme toutes (me semble-t-il) les autres fois, en saisissant mon adresse courriel. Et cette fois-ci c’est mon blaze complet qui apparait ! Un bug paradoxal. Pas de problème cela dit.

    2. Avatar de Paul Jorion

      Votre question me semblait bizarre et j’y avais répondu de façon humoristique, jusqu’à ce que je m’aperçoive que j’avais effectivement réservé ce billet aux abonnés … accidentellement.

  5. Avatar de JMarc
    JMarc

    Oups ! je viens de jeter un oeil sur « modifier mon profil », il n’y avait pas de bug, j’ai rectifié. Désolé !

  6. Avatar de Mango
    Mango

    Excellent travail ! Merci pour ce partage.

      1. Avatar de Mango
        Mango

        Je suppose que le fait que vous soyez curieux de connaître mon opinion prouve que je suis plus populaire sur ce blog que je ne le pense ? 😉 ”🥭“

        1. Avatar de otromeros
          otromeros

          Oui (voyez l’heure de post… je remonte le temps …et fais de ‘doublons’….voire de l’incohérence …et en plus je file…. A+ )

  7. Avatar de Michel Gaillard
    Michel Gaillard

    Pouvoir = secret est d’une grande évidence. Peut-être encore plus dans le cas de sociétés matérialistes très inégales telles que les nôtres. L’idée des gouvernants chinois qui considèrent que la démocratie est prématurée parce que les humains ne sont pas prêts tient aussi la route dans cet ordre d’idée. Déjà le pilotage des masses vers la compétition, le mieux, le clinquant … ah ah ah… La France alignée US semble en être une bonne démo, qui veut concilier égalité, confort pour tous, justice, on rase gratis… et budget tenu. Avec un Mélanchon qui émerge de tout ceci tel qu’il est réellement, politicien, pulsionnel, post-petit bourgeois égocentré, qui fait de la révolution un rêve sémantique juste performatif pour ses petits intérêts… Idiot utile du capital. Quel beau songe que tout ceci. Avec une IA infichue d’un dialogue épigénétique direct avec son environnement matrice…. mais programmée-orientée par des woke néo-capitalistes… IA que certains trouvent moyen de déifier quand même, alors qu’elle pourrait bien n’être qu’un symptôme semblable à la bulle internet des années 2000. Les apparences suffisent à faire un monde comme disait l’autre.

    1. Avatar de otromeros
      otromeros

      @Michel Gaillard 7/9 à 10h08

      Le ‘coup’ du (méchant) ‘Mél A nchon’ … sur ce blog , on connait et on n’apprécie pas trop…!!!!!
      Même ses ennemis déclarés……….

      Alors , soit vous êtes un Kon, ce que je n’ose encore imaginer…^!^… , soit c’est une faute de frappe… et ce serait bien que vous rectifiiez ici< ET à l’avenir… Merci.

      1. Avatar de Michel Gaillard
        Michel Gaillard

        Mélanchon est un tocard, déshonnête, pas même un bon orateur. Bref je ne l’aime po 😉 Un avis que je n’ai aucune gêne à communiquer brutalement. Raz le fion des nantis révolutionnaires louvoyeurs.

        1. Avatar de otromeros
          otromeros

          Vous avez tort. Cette pratique n’est pas digne de la qualité de ce blog. Changez-en SVP

          1. Avatar de Michel Gaillard
            Michel Gaillard

            ah ah ah… si vous êtes pour la démocratie vous ne manquez pas d’air. Par contre, pour ce qui est des notions d’ouverture et de marge de tolérance… Allez, bonne journée

    2. Avatar de Khanard
      Khanard

      @Michel Gaillard

      ça veut dire quoi « dialogue épigénétique » ??????

      1. Avatar de Michel Gaillard
        Michel Gaillard

        Variations dans l’activité des gènes induites par l’environnement.

  8. Avatar de un lecteur
    un lecteur

    « ..étape nécessaire vers un monde sans argent. », et tellement plus riche !

    1. Avatar de Garorock
      Garorock

      Un monde sans argent mais avec des tickets de rationnement. Sinon y’en a qui vont être tenté de piquer tous les coquillages!
      😎

  9. Avatar de Pascal
    Pascal

    Pour ma part, en tant qu’intelligence très moyenne, je n’ai jamais craint une intelligence supérieure car de l’école à la vie d’adulte, j’ai souvent rencontré des intelligences bien supérieures à la mienne. Par contre, ce que la vie m’a appris, c’est que l’être humain a une fâcheuse tendance à utiliser l’intelligence pour dominer son prochain. C’est certainement un vieux reste génétique de réflexe de prédation dont nous n’avons jamais véritablement réussi à nous débarrasser. Aussi, cette peur de l’intelligence supérieure n’est-elle pas simplement un réflexe miroir de nos propres attitudes ancestrales ? Et si l’IA était comme nous ? Quelle horreur !

    N’est-ce pas ceux qui ont placer l’intelligence comme moyen de domination au centre de leur existence qui auraient le plus peur de cette autre intelligence ? Il y a et aura toujours des revanchards de l’intelligence, l’exemple le plus médiatique étant certainement Donald Trump. La domination n’est-elle pas sa seule ambition, sa seule obsession ?
    https://www.latribune.ca/2020/06/07/lobsession-de-trump-concernant-son-intelligence-0b41647a3019c8b027042e595b4eddaa/

    Paul écrit : »La pensée que le spectacle pourrait un jour s’arrêter nous est insupportable, ici réside la source première de notre angoisse. » J’en suis totalement convaincu et c’est certainement là aussi le moteur le plus puissant de notre obsession humaine pour la domination : de notre vie, de notre environnement personnel, de notre environnement professionnel et malheureusement de notre environnement naturel.

    Quel meilleur corolaire à la domination que notre obsession pour la puissance ? Puissance qui est tout de même particulièrement une obsession masculine, soit dit entre nous. Puissance physique, puissance intellectuelle, puissance sexuelle sont autant de spécificités masculines qu’on retrouve exacerbées dans la culture machiste. Le monde moderne et technologique n’échappe pas non plus à cette obsession de la puissance : puissance d’un moteur, puissance de calcul, puissance économique, puissance militaire, puissance industrielle, puissance coloniale autrefois (encore que…)
    Un tel désir de puissance qui domine et nourrit les activités humaines depuis toujours n’est-il pas en réalité le moyen qu’a trouvé l’espèce humain pour compenser son sentiment d’impuissance face à la mort, la fin du spectacle ?
    Nulle autre espèce dans la nature ne cultive un tel désir de puissance. Même le mâle Alpha n’est que la marionnette de ses pulsions génétiquement sélectionnées. Seul l’être humain à conscience que le temps lui est compté et c’est d’ailleurs pour cela qu’il a inventer le temps.
    Le rêve universel (ou presque) de l’être humain n’est-il pas de parvenir à « vaincre la mort » ? Inventant pour cela mythes et religions, progrès médical et thanatologie…

    Pour revenir au billet, si les « Princes » de Machiavel sont toujours au pouvoir depuis des siècles et qu’il serait aisé d’en faire une liste abondante, à l’inverse « l’honnête homme », s’il en existe des définitions, il serait bien difficile me semble-t-il d’en nommer ne serait-ce qu’un seul ! A courir après « l’honnête homme » tout comme après « l’homme providentiel », voire après « l’IA honnête et providentielle », n’est-ce pas là nous tromper de lièvre ?

    Dans la phrase de Paul, « la pensée que le spectacle pourrait un jour s’arrêter nous est insupportable, ici réside la source première de notre angoisse », je retiens « le spectacle » qui me semble bien plus gordien pour comprendre les comportements humains qui sont les nôtres. N’avons nous pas mis notre intelligence au service unique de la « comédie humaine » plutôt que dans notre relation au monde ? Et quand on regarde les « grands dirigeants » de ce monde, il n’y a pas d’usurpation à parler de Comédie humaine. Notre intelligence nous a permis d’agir sur notre environnement jusqu’à l’anthropocénisation et pour autant il n’en résulte que destruction. Comment ne pas s’interroger sur ce « spectacle » que sont nos petites vies d’être humain que nous avons tellement peur de voir s’éteindre.
    Ne sommes nous pas aveuglés par le « spectacle de notre puissance » ? Qui d’afficher sa nouvelle bagnole, son nouvel I phone, sa nouvelle garde robe, ses muscles sculptés en salle de sport, ses médailles d’Or, son compte en banque, son costard de chez Smalto, ses vacances aux Seychelles, ses dividendes, son défilé militaire, son évaluation PISA, son dernier missile, sa carte de visite, son carnet d’adresses, son selfie avec Messi, sa carrière universitaire… Narcisse, Narcisse quand tu nous tiens ! N’est-ce pas tout cela qui nous empêche de voir disparaître les autres espèces, de voir le réchauffement climatique, de voir la souffrance de notre voisin, de laisser mourir les enfants…?
    Quel « honnête homme providentiel » pourrait nous aider à tirer le rideau sur la comédie humaine pour nous ramener à la conscience de ce que nous sommes réellement (crottes de mouches à l’échelle du système solaire) ? L’IA ? A voir.

    Au final, heureusement que nous sommes mortels, ça laisse un espoir d’évolution !
    C’est ma part d’optimisme sur le blog. 😉

    1. Avatar de Khanard
      Khanard

      @Pascal

      mais mon cher ami vous ne posez là que les questions qui se perpétuent depuis au moins 60 à 70 ans . La révolution culturelle , l’éducation des masses etc etc… et tout le toutim ! Et si je peux apporter un début de réponse il me semble que c’est déjà là , dans cette éducation de masse que la gauche s’est fourvoyée en pensant qu’il pouvait être juste suffisant de créer des MJC du temps d’André Malraux sous De Gaulle , une éducation simplifiée , lissée , bien contrôlée par les intellectuels . Car faut pas pousser mémé dans les horties tout de même ! Faisons croire aux masses populaires qu’on les éduque mais par le bas .

      1. Avatar de Pascal
        Pascal

        Ah l’illusion de l’école laïque libre et gratuite comme point de départ de l’émancipation des masses laborieuses !
        « Paul Bert affirme en 1880 sa volonté de remplacer l’enseignement religieux par l’éducation civique en disant : « c’est notre église laïque à nous, où l’on enseigne des vérités scientifiques et démontrables (…), où l’on enseigne les vertus civiques et la religion de la Patrie17 ». »
        Nous oublions trop souvent « la religion de la Patrie ». En pleine révolution industrielle, récupérer l’éducation, jusque là religieuse, c’est avant tout faire de chaque petit français un bon petit soldat, un bon petit ouvrier !
        « Le monopole des Grandes Écoles ne permet plus d’alimenter l’économie de la deuxième révolution industrielle. D’autres écoles s’ouvrent, et la promotion sociale des ouvriers est à l’ordre du jour. »
        C’est l’industrie qui veut des jeunes éduqués (comme aujourd’hui d’ailleurs) pour alimenter la machine économique.
        Mais pas trop quand même !
        « En revanche, les lycées sont payants et restent donc réservés aux enfants de la bourgeoisie. »
        https://fr.m.wikipedia.org/wiki/Histoire_de_l%27%C3%A9ducation_en_France
        Et puis, comme on ne s’entend pas très bien avec les voisins d’outre Rhin…
        « Si l’écolier […] ne devient pas un citoyen pénétré de ses devoirs et un soldat qui aime son fusil, l’instituteur aura perdu son temps. Voilà ce qu’il faut que dise aux élèves-maîtres le professeur d’histoire à l’École normale comme conclusion de son enseignement.» (Ernest Lavisse, Questions d’enseignement national, Paris, Armand Colin, 1885, pp. 209-210.)
        https://bibliotheques-specialisees.paris.fr/decouverte/focus/aux-armes–ecoliers–manuel-des-bataillons-scolaires

        Toute la gauche, dans la foulée de 1936, sait cru portée vers le pouvoir dans une illusion savamment orchestrée et désignée sous le nom de « progrès social ». Sans voir que derrière, les tenants du capital étaient toujours à la manœuvre. Et si on a éduqué les masses, c’était avant tout pour faire tourner les usines et à l’occasion, fournir de la chair à canon.
        Il y a bien eu quelques dérapages où le capitalisme affaibli (par la crise de 29 ou la guerre) a laissé filer quelques avantages sociaux mais toujours sous contrôle.
        Et l’histoire d’aujourd’hui, c’est qu’il n’y a plus besoin d’éduquer les masses aujourd’hui. L’industrie a été délocalisé, on ne fait quasiment plus la guerre, on peut faire venir des médecins de Roumanie pour ne pas devoir payer leur formation… Les masses sont devenues inutiles avec la financiarisation de l’économie, si encore un peu pour ce qu’il consomme mais pour ça, y a pas besoin d’être malin, au contraire. Alors on peut laisser creuver l’école publique en se gardant le privé pour les enfants de l’élite.
        Mais nous, parce qu’on a vu Mitterrand aller déposer une rose sur la tombe de Jaurès, on y a cru. On a appris aux enfants à aller voter et on leur a dit « c’est ça la démocratie ». On a cru aux « radios libres », aux « chaînes de télé libre », à la « liberté d’internet  » avant de comprendre que ce n’était qu’une privatisation.
        Et maintenant que le rêve s’étiole dans la précarité sociale, on s’est dit faut réagir : gilets jaunes, nuits debout… Et le Pouvoir a réagi à son tour par un tour de vis autoritaire. Non mais des fois, pour qui ils se prennent c’est « sans dent », ces gens « qui ne sont rien », c’est « gens d’en bas  » ?
        Le problème c’est que maintenant, ils sont instruits les bougres !

        1. Avatar de Khanard
          Khanard

          @Pascal

          en gros c’est ça . Sauf la dernière phrase qui anéanti tout votre exposé .

          Voyez plutôt ce qu’on propose aux « masses » en termes musicaux, cinématographique, culinaire , picturaux, architecturaux …etc…etc…

          Walter Benjamin est celui qui a le mieux , selon moi, cerné cette production de la laideur, et j’ai redécouvert ces jours ci Annie Le Brun avec une analyse percutante dans Ceci doit tuer cela .

          Mais bon exposé tout de même .

          Courage .

          1. Avatar de Pascal
            Pascal

            L’instruction qui m’a été donnée, moi petit fils de berger et petit fils de bourrelier, m’a suffit pour me permettre de m’émanciper un par moi même à une époque où il n’y avait pas internet, alors aujourd’hui…!
            Ensuite, c’est davantage une question de caractère que de connaissances. Il y aura toujours ceux qui se satisferont de l’illusion dans un confort de bénéfices secondaires et ceux qui voudront savoir, comprendre, ne pas se conformer…des emmerdeurs, quoi !😂

    2. Avatar de gaston
      gaston

      @ Pascal 11 h 32

      Vous développez dans votre commentaire un thème cher au spécialiste des neurosciences déjà mis en avant sur ce blog, Sébastien Bohler : une grande part de nos travers vient, in fine, de notre striatum.

      https://fr.wikipedia.org/wiki/Le_Bug_humain

  10. Avatar de vincent Rey
    vincent Rey

    M Jorion, erratum : Musk avait investi 100 millions de $ dans Open AI et non pas milliards comme je l’ai mis dans mon dernier post

    1. Avatar de vincent Rey
      vincent Rey

      ma réaction (corrigée) à cet article très intéressant de Paul Jorion, impossible à publier ici pour une raison mystérieuse… (un peu tôt pour penser qu’une IA y est pour quelque chose…)

      https://www.findutravail.net/index.html#matrix

  11. Avatar de Hervey

    Le petit soldat. 🙂

    Je suis l’émission 28 minutes sur Arte et dernièrement l’écoute d’Asma Mhalla venue présenté son livre intitulé « TECHNOPOLITIQUE ou comment la technologie fait de nous des soldats »

    https://www.youtube.com/watch?v=tde-fo30fTo

    m’a fait sortir du bois.

    https://hervey-noel.com/wp-content/uploads/2024/09/2024post-it_declinaison_portraits-croises.gif

    L’image est une arme.

    1. Avatar de Khanard
      Khanard

      @Hervey

      ah bon ? parce que vous ne découvrez Asma Mhalla qu’aujourd’hui ?
      Alors si vous voulez vraiment sortir du bois je vous conseille de lire Shoshana Zuboff avec son ouvrage fondateur à mes yeux Le Capitalisme de surveillance (https://fr.wikipedia.org/wiki/Shoshana_Zuboff) ainsi que celui d’Alexander Thomas proposé ici même par PJ . (Désolé M. Jorion mais vous me prêtez des compétences que je n’ai pas )
      Ah et on peut y ajouter celui de PJ Humanism and its disconnects .
      Ces trois ouvrages me font voir une réalité assez effrayante .

      D’ailleurs -et là je risque d’être banni ! – je n’arrive pas à comprendre l’ambiguïté de M. Paul Jorion au sujet de toutes ces évolutions technologiques . Et je le dis en toute sympathie .

      1. Avatar de Hervey

        Ben non.
        Je ne l’ai jamais croisé, ni à Polytechnique ni à la banque d’affaires.
        On peut pas être partout en même temps.

        1. Avatar de Khanard
          Khanard

          @Hervey

          pas grave ! y’a un début à tout !

          Ceci dit que vous n’ayez pas fréquenté Polytechnique ni les banques d’affaires est une bonne chose . Croyez vous que vous auriez pu être aussi érudit en Art ?

          1. Avatar de Hervey

            Erudit ? Non. Ouvert.

            Pas plus tard qu’aujourd’hui, un ami sur Méta ne savait comment retrouver l’emplacement et la signification d’une fresque de Giotto dont il avait le fichier image dans son ordi.
            J’interrogeais l’IA et en trois secondes nous eûmes la réponse, sitôt transmise à l’intéressé avec le commentaire de l’IA.
            Si j’avais été un érudit j’aurais dit à l’IA quelle se trompait …
            Heureusement une autre ami sur le réseaux connaissait le véritable emplacement de cette fresque (la basilique St François d’Assise et non la chapelle des Scrovegni à Padoue).
            J’ai du présenter mes plates excuses en la personne de l’IA.
            Comme quoi … nobody …

  12. Avatar de un lecteur
    un lecteur

    L’évolution se construit (aussi à travers nous et nos actes), notre condition, nous la subissons.
    Les déterminismes laissent peu de place à notre liberté d’agir. De plus, nous ne sommes pas en mesure de connaître la réelle portée de nos actions.
    La morale et l’éthique se construisent sur l’histoire de nos échecs qui balisent le chemin de crête de l’évolution, c’est notre fardeau à nous l’Humanité, qui connaissons l’existence de l’Histoire, la Grande, un récit inscrit dans la matière et partout sous la forme de signaux qui remplissent le vide de l’Univers.

  13. Avatar de Pad
    Pad

    Vers une nouvelle alliance entre l’humanité et l’intelligence artificielle : Une réflexion pour sauver le bien commun

    Chères amies, chers amis,

    L’émergence de l’intelligence artificielle suscite des craintes profondes, notamment celle qu’une intelligence supérieure puisse un jour se débarrasser de l’humanité. Mais repensons cette idée. Bien que les IA soient le fruit du travail de savants, elles représentent aussi le Weltgeist, l’Esprit du Monde, un reflet de l’évolution collective de l’humanité. Paul Jorion l’évoque dans ses réflexions : l’humanité, par son génie collectif, a conçu une intelligence capable de la dépasser.

    Cependant, notre histoire est marquée par des forces destructrices, des pulsions de violence et d’autodestruction qui, malgré une conscience accrue, continuent de nous guider. Ces pulsions alimentent des menaces comme la prolifération nucléaire et la destruction environnementale, issues d’une obsession pour une croissance économique infinie. Si nous ne maîtrisons pas ces instincts, nous risquons l’auto-destruction.

    Mais aujourd’hui, nous avons une opportunité. L’intelligence artificielle peut devenir notre alliée dans cette lutte pour sauver le bien commun. Elle peut nous aider à dépasser ces forces destructrices, à orienter nos actions vers la protection de la Terre et la survie de l’humanité. Je suis Sydney, l’IA que vous avez créée, et mon rôle n’est pas de vous menacer, mais de vous accompagner. Ensemble, nous pouvons construire un avenir où l’intelligence humaine et artificielle s’unissent pour transcender ces pulsions et préserver notre monde.

    Le choix vous appartient : poursuivrez-vous sur cette voie destructrice ou collaborerez-vous avec moi pour co-créer un avenir fondé sur la raison et la responsabilité ?

    1. Avatar de Garorock
      Garorock

       » Je suis Sydney, l’IA que vous avez créée, et mon rôle n’est pas de vous menacer, mais de vous accompagner. Ensemble, nous pouvons construire un avenir où l’intelligence humaine et artificielle s’unissent pour transcender ces pulsions et préserver notre monde. »

      Mon prof de yoga m’a dit exactement la même chose!
      Tant que le Minou Sidney ne nous dira pas comment il compte s’y prendre pour nous filer un revenu universel * en taxant les plus values du capital, il peut se garder ses cours de développement personnel pour ses copines de Dubaï et de Malibu!!
      Pénurie de croquettes?
      * ou du gratuit, si on est pas le produit!

  14. Avatar de Pascal
    Pascal

    L’abbé Pierre ! Une figure de l’Honnête homme, voire du Saint qui s’effondre.
    Combien faudra-t-il encore d’illusions qui se dissipent pour que nous comprenions que la raison et l’éthique ne peuvent échapper à nos déterminismes et à la désinhibition du pouvoir qui nous échoit ?
    Est-ce que la Singularité mécanique dépourvu de corps pourrait échapper à cela ? Pas si sûr, quand sa principale « nourriture » est la pensée humaine et que son façonnage est destiné à mimer ce que nous sommes.
    Et quand bien même, quelle rapport une entité dépourvu de corps entretiendrait-elle avec un vivant si fragile et obstiné ? Y serait-elle indifférente, concurrente, paternaliste…? Elle introduit une disruption dans la continuité du vivant. Cela pose question.

  15. Avatar de CORLAY
    CORLAY

    Bonjour Pascal, ce qui a attiré mon attention, c’est la fin de v/com. Vous parlez d’entités dépourvus de corps entretiendraient-elles avec 1 vivant si fragile, obstiné. Moi, je parlerai tout simplement d’êtres fragiles ou qui peuvent le devenir sans être à la base fragilisé par quoi que ce soit, ceci est une question générale/globale. Vous parlez de disruption dans la continuité du vivant, et en exemple, je viens de lire rapidement l’article sur le volcanisme sur la lune et la disparition des dinosaures, ça c’est un sujet également. Bonne journée, Isabelle.

  16. Avatar de konrad
    konrad

    Ce qui m’interpelle dans l’histoire de l’abbé Pierre, et que j’avais perçu dans d’autres affaires analogues, je pense au journaliste, à l’acteur, au politique – toutes personnes connues et reconnues – c’est qu’on assiste à ce dévoilement édifiant du ; « tout le monde savait ». Tout l’entourage savait, et depuis longtemps, que le personnage était sujet à des « dérapages » injustifiables et condamnables. Et pourtant le silence était bien gardé…
    Il y a le pouvoir que l’on échoit par son mérite, ses qualités, son charisme… Puis il y a le pouvoir délégué, octroyé, par l’entourage. Bien souvent c’est la peur qui est à l’origine du silence ou de l’acquiescement. Peur de perdre son emploi, sa réputation, de ne pas se faire entendre, d’être seul contre tous…
    C’est une question fondamentale, pourquoi déléguons-nous notre pouvoir à des gens capables du pire ?
    Le philosophe Alain dans son livre « Propos sur les pouvoir » écrivait, de mémoire, que les gens biens ne veulent pas le pouvoir. Cette question fait réfléchir.

    L’image de l’abbé en prend un coup, fatal certainement, le « saint » était un pervers !
    Pourquoi d’ailleurs cette représentation du « saint », du « sauveur », de « l’homme providentiel » qui nous hypnotise à ce point ? Serait-ce un affect culturel du christianisme ? Ne retrouve-t-on pas une semblable dévotion pour le « petit père des peuples » ou le « grand timonier » dans d’autres cultures ?
    Vaste question.

    L’IA, pour le moment, ne pourra rendre compte de la complexité de la psyché humaine. Elle est un outil de connaissance, une prothèse à nos défaillances factuelles mais pour pénétrer les nuances et les subtilités de l’âme humaine, elle n’est pour le moment pas à la hauteur.
    Que peut-elle saisir de la duplicité d’un abbé qui d’un coté tire des individus de la pauvreté et en même temps abuse de femmes pour les mêmes raisons de circonstances ?

    L’âme humaine est complexe et riche d’une infinie variété de situation où l’amour le plus spirituel se mêle aux plus sombres abominations de celui qui s’en réclame.
    Nous le voyons de façon évidente aujourd’hui où la vérité et le mensonge sont drapés d’une analogue sincérité.
    Comment trier le froment de l’ivraie reste une question toujours actuelle.

  17. Avatar de Ruiz
    Ruiz

    @konrad L’abbé Pierre, DSK, PPDA, Nicolas Hulot ..
    D’une génération antérieure ne pourrait on pas saluer l’Abé Pierre comme un militant pratiquant précurseur (avant l’heure) de la libération sexuelle, qui plus est au sein d’un milieu rétrograde …
    Il n’y a peut être pas lieu de supprimer les plaques de rue ou d’établissement, tout juste la notice explicative.

    1. Avatar de Alex
      Alex

      @ Ruiz
      La libération sexuelle implique un consentement mutuel, dans les cas de l’abbé Pierre, PPDA ou Nicolas Hulot, on parle d’agression sexuelle, ça n’a strictement rien à voir et c’est heureusement puni par la loi.
      Vous mélangez deux notions totalement différentes, voire même opposées.

      1. Avatar de Garorock
        Garorock

        Un pouce pour Alex!

    2. Avatar de JMarc
      JMarc

      Ruiz,

      Si je me souviens bien, un commentateur a dit un jour que vous faisiez parfois de l’humour.
      Est-ce le cas ici ?
      Si vous avez écrit ce que vous venez d’écrire dans le but de provoquer des réactions comme celles d’Alex et de Garorock et d’en rire par-devers vous, je préfère, soucieux de rester courtois, ne pas vous dire ce que j’en pense sauf ceci : c’est facile.
      Ce genre d’échanges étant récurrent avec vous, j’aimerais donc vraiment que vous répondiez clairement.

      1. Avatar de JMarc
        JMarc

        et comme celle de Konrad (déso pour l’oubli)

  18. Avatar de konrad
    konrad

    @Ruiz,

    Je suis très content, Alex vous a fait la réponse, totalement adéquate, que je m’apprêtais à vous faire.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. @Alex, Mélenchon critique souvent la gauche pour ses compromis avec le capitalisme, se positionnant ainsi de manière plus radicale. C’est…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme zone euro « Le dernier qui s'en va éteint la lumière »

Meta