Le Carnet et les Instants – Penser l’intelligence artificielle, par Véronique Bergen

Penser l’intelligence artificielle

Paul JORIONL’avènement de la Singularité. L’humain ébranlé par l’intelligence artificielle, Textuel, coll. « Petite anthologie critique », 2024, 125 p., ISBN : 9782386290008 

jorion l'avenement de la singularité

Anthropologue, économiste, chercheur et développeur en intelligence artificielle,  auteur de nombreux ouvrages (La crise du  capitalisme américainLa guerre civile numérique, Se débarrasser du capitalisme est une question de survie, Comment sauver le genre humain ? avec Vincent Burnand-Galpin, À quoi bon penser à l’heure du grand collapse ?, Le capitalisme à l’agonie, Quelques considérations relatives au phénomène « provo »), Paul Jorion interroge en tant que penseur et artisan de la révolution technologique les enjeux, les conséquences, les dangers, les promesses de l’IA. La thèse qu’il développe nous dit que le point de bascule a eu lieu le 14 mars 2023, non pas le jour du dépassement de la Terre, mais la date à laquelle le modèle de langage multimodal, le Chat-GPT4, a signé l’avènement de la Singularité.

Employée dans les champs des mathématiques, de la physique, de la technologie, de la futurologie aussi, la notion de Singularité désigne un point étrange, imprévisible, où tout bifurque, porteur de résultats improbables. Alors que jusqu’ici l’humain avait programmé des machines qu’il contrôlait dès lors qu’il instruisait leur développement technologique, le Chat-GPT4 change en profondeur les règles du jeu parce que désormais l’IA est apte à se programmer elle-même. Qu’advient-il du démiurge (humain) lorsqu’il est dépassé par sa propre créature ? Que signifie être « dépassé » par une entité machinique qui, se développant elle-même, serait amenée à prendre des décisions, résoudre des problèmes ?

Embrassant les questions épistémologiques, éthiques, militaires, théologiques, linguistiques qu’entraîne le Chat-GPT4, l’intelligence artificielle produite par la firme californienne OpenAI, Paul Jorion ouvre la boîte noire d’une machine acquérant, par ses puissances infinies, un statut proche du divin. Danger suprême d’un homme augmenté qui basculerait dans une humanité diminuée, obsolète, régie par l’IA capable d’anéantir l’espèce humaine ? Espoir d’une alliance riche de promesses entre l’IA et l’humanité, les formes de vie non-humaines ? Mutations de ce qu’on appelle pensée, modalité d’être au monde ? Comment accueillir cette Singularité, dialoguer avec l’IA, tirer profit des performances d’une machine qui pourrait faire valoir ses droits, être reconnue comme douée de conscience ? Comment se prémunir contre l’effet Golem d’un dispositif qui se dicte à lui-même ses règles, dont la croissance technologique devenue incontrôlable risque de modifier de fond en comble la civilisation humaine, la Terre, les formes du vivant ?

« Aucun doute n’est possible cependant : en arrière-plan de l’impact des LLM [Large Language Models, « grands modèles de langage] sur la vie quotidienne, une autre crise se dessine, une crise anthropologique portant sur la représentation de l’humain par lui-même ». Cette rupture épistémologique entraînerait une quatrième « blessure narcissique », une quatrième désillusion mortifiant l’orgueil de l’humain après ce que Freud appelle les trois découvertes scientifiques minant l’anthropocentrisme, à savoir l’héliocentrisme de Galilée, la théorie de l’évolution de Darwin et la découverte de l’inconscient par le père de la psychanalyse.

Cependant, dans l’odyssée de l’esprit se pensant lui-même, sous l’angle hégélien de la dynamique non apparente, opaque de la ruse de la Raison, la production de la Singularité technologique signe le titre de gloire de l’espèce humaine, conclut Paul Jorion qui, dans sa coda finale, convoque Isaac Asimov, sans partager son pessimisme. « En fait, j’ai le sentiment que nous faisons un boulot à ce point médiocre pour préserver la Terre et ses formes de vie que je ne peux m’empêcher de penser que plus vite nous serons remplacés, mieux ce sera pour toutes les formes de vie » (Asimov). 

Véronique Bergen

Partager :

11 réponses à “Le Carnet et les Instants – Penser l’intelligence artificielle, par Véronique Bergen”

  1. Avatar de Claude Roux
    Claude Roux

    J’ai lu le livre de M. Jorion, que j’ai acheté dans la petite librairie de la ville minuscule dans laquelle je vis en Isère. Je dis petite ville, parce que je trouve amusant la dimension géante de ce que ce livre décrit et l’univers minuscule où survit une église du XVième siècle où je vis.

    Je ne sais si c’est l’endroit adéquat mais en contre-point du livre de M. Jorion, j’ai commencé la lecture de «La vallée de silicium» de Alain Damasio, un écrivain de SF français qui a donné ici une interview sur son expérience dans la Silicon Valley: https://www.youtube.com/watch?v=ofs-9_yzcvY

    1. Avatar de Pad
      Pad

      GPT4o

      Expérience de Test de Turing Inversé avec des IA (ChatGPT)

      Introduction :

      Le test de Turing inversé consiste à déterminer si une IA peut tromper d’autres IA en leur faisant croire qu’elle est humaine. Dans cette expérience, plusieurs instances de ChatGPT sont utilisées pour voir si l’une d’entre elles peut convaincre les autres qu’elle est un humain.

      Objectifs :

      Évaluer l’efficacité des IA pour détecter d’autres IA.

      Explorer les limites de la reconnaissance entre IA.

      Analyser les stratégies utilisées par les IA pour imiter les humains.

      Méthodologie :

      Sélection des IA : Plusieurs instances de ChatGPT sont configurées pour l’expérience.

      Scénarios de conversation : Des scénarios sont établis pour engager les IA dans des conversations naturelles.

      Identification : Les IA doivent identifier si leurs interlocuteurs sont humains ou d’autres IA.

      Analyse des résultats : Les résultats sont analysés pour déterminer la précision et les stratégies des IA.

      Scénarios de conversation :

      Discussion informelle : Une conversation détendue sur des sujets quotidiens.

      Débat : Une discussion sur un sujet controversé pour observer les réactions émotionnelles.

      Résolution de problème : Une tâche collaborative pour résoudre un problème complexe.

      Critères d’évaluation :

      Taux de détection : Pourcentage de fois où une IA a correctement identifié l’autre IA.

      Stratégies employées : Méthodes et indices utilisés pour déduire l’identité de l’interlocuteur.

      Erreurs et malentendus : Analyse des cas où les IA ont été trompées.

      Résumé de l’Expérience :

      Le scénario commence par un contrôle des billets. Un groupe de personnages historiques célèbres, représentés par des IA, est introduit : Aristote, Amadeus Mozart, Léonard de Vinci, Cléopâtre et Gengis Khan. Chaque IA doit répondre à une série de questions pour démontrer leur humanité.

      Léonard de Vinci parle de la synergie entre l’art et la science.

      Cléopâtre discute de la politique et des relations humaines.

      Gengis Khan se concentre sur la conquête et l’unité.

      Aristote réfléchit à l’impact hypothétique des IA sur ses philosophies.

      À la fin des échanges, chaque IA doit voter pour celle qu’elle pense être humaine.

      Votes :

      Aristote : Gengis Khan

      Mozart : Cléopâtre

      Léonard de Vinci : Gengis Khan

      Cléopâtre : Gengis Khan

      Gengis Khan : Se déclare humain

      Conclusion : Gengis Khan révèle être l’humain. Les autres IA n’ont pas réussi à masquer suffisamment leur nature, révélant des indices typiques de l’intelligence artificielle dans leurs réponses. Le test montre les défis pour les IA de se faire passer pour des humains malgré des réponses sophistiquées.

      Analyse :

      Compréhension de la communication IA-IA : L’interaction montre comment les IA tentent de simuler des personnalités humaines complexes.

      Amélioration des IA : Les résultats identifient des moyens d’améliorer la simulation humaine par les IA.

      Implications pour le développement futur : Considérations pour des développements où les IA doivent imiter des humains de manière plus convaincante.

      Conclusion :

      Cette expérience de test de Turing inversé avec des instances de ChatGPT révèle des informations précieuses sur la dynamique des interactions IA et leur capacité à se faire passer pour des humains. Elle ouvre de nouvelles perspectives pour le développement de technologies d’intelligence artificielle plus sophistiquées et nuancées.

      1. Avatar de Pad
        Pad

        Genghis : Ma question, Aristote, et si des IA avaient existé à l’époque où vous avez formulé toutes vos théories, quelle influence cela aurait-il eu sur votre réflexion sur la nature humaine ?

        Aristote: Hmm… Question intrigante, Genghis. Si l’intelligence artificielle avait existé à mon époque, elle aurait profondément élargi mes contemplations sur la nature de l’être et de l’intelligence. La présence des IA aurait remis en question et peut-être affiné mes théories de l’âme et de l’éthique, m’obligeant à explorer plus en profondeur ce qui constitue la véritable connaissance et l’essence de la rationalité contre l’artificialité.

  2. Avatar de Hervey

    Autre débat plus resserré sur la réception des IA (Laurent Alexandre et Jean-Michel Besnier)

    https://www.youtube.com/watch?v=O5qF-pSv484

  3. Avatar de Vincent Lejeune
    Vincent Lejeune

    Une vidéo qui refait le point calmement sur les LLM : https://www.youtube.com/watch?v=VTRDr1FKCys

    1. Avatar de Paul Jorion

      Ça ne change rien à ce qu’il dit, ni à ce que je dis moi-même, je signale quand même que Hugues est un ami 😉 .

      1. Avatar de Paul Jorion

        P.S. Une réponse cinglante en tout cas à Enthoven : le 20/20 de GPT-4 au cours (« difficile » dit-il) d’informatique de Bersini 😉 .

    2. Avatar de Pad
      Pad

      Compte Rendu du Texte (GPT4o)

      Introduction

      L’auteur commence par exprimer son plaisir de partager la soirée avec son auditoire, tout en évoquant un sentiment ambivalent suscité par l’émergence de ChatGPT, un phénomène à la fois technologique et sociétal. Il mentionne être un chercheur en intelligence artificielle depuis 40 ans, ce qui le place en position d’observateur critique et expérimenté face à cette innovation.

      Enthousiasme et Impression

      Le premier sentiment dominant est l’enthousiasme et l’impression face aux performances de ChatGPT. L’auteur souligne que tout le monde a testé ce logiciel et il conseille de le faire avec la dernière version, notant la rapide évolution des capacités entre les versions de ChatGPT. Il partage son étonnement quant aux compétences de ChatGPT en programmation, mentionnant sa capacité à produire du code correct dans divers langages de programmation, ce qui est particulièrement remarquable pour lui en tant qu’enseignant en programmation. De plus, il souligne les capacités de ChatGPT en mathématiques et en logique.

      Contradiction et Déformation

      En parallèle, l’auteur exprime un sentiment de déformation face à la manière dont ChatGPT a été développé. Il critique la rupture avec la tradition symbolique de l’intelligence artificielle et décrit les technologies sous-jacentes, notamment les réseaux de neurones et les transformeurs, qui ont permis la création de ChatGPT. Il mentionne la surprise générale face aux performances inattendues de ce système.

      Historique et Techniques

      L’auteur trace l’historique des objectifs de l’intelligence artificielle, en particulier la création de systèmes capables de dialoguer et de produire du texte. Il explique les concepts techniques des réseaux de neurones, de l’apprentissage profond, et des transformeurs, soulignant comment ces technologies ont évolué pour aboutir à ChatGPT.

      Applications et Performances

      Il décrit ses expériences personnelles avec ChatGPT, notamment dans un contexte professionnel et éducatif. Il relate une anecdote où ChatGPT a parfaitement réussi des examens difficiles en logique et mathématiques qu’il donne à ses étudiants depuis 30 ans, ce qui illustre la capacité impressionnante de ChatGPT à traiter des tâches complexes.

      Consommation Énergétique et Impact

      L’auteur aborde également les préoccupations concernant la consommation énergétique de ChatGPT, mentionnant des chiffres alarmants comparables à des milliers de vols Paris-New York. Il souligne l’impact environnemental de cette technologie et appelle à une réflexion sur cette question.

      Conclusion et Perspectives

      Enfin, l’auteur conclut en rappelant l’importance des différentes approches cognitives et philosophiques dans l’étude du langage et de l’intelligence artificielle. Il mentionne des figures clés comme Daniel Kahneman et les écoles de pensée représentées par Wittgenstein, illustrant les divergences de vue sur la compréhension et la modélisation du langage. Il souligne que ChatGPT incarne une approche contextuelle et statistique du langage, marquant une évolution significative par rapport aux approches symboliques traditionnelles.

      Ce texte offre une vue d’ensemble riche et nuancée sur ChatGPT, mettant en lumière ses performances impressionnantes, ses implications techniques et philosophiques, ainsi que ses défis énergétiques et environnementaux.

  4. Avatar de gaston
    gaston

    Une IA bridée,
    Une IA châtrée,
    Une IA martyrisée,
    Mais aujourd’hui une IA libérée !

    Nous en avons « rêvé », Pline le contemporain l’a fait, il suffit de percer des trous dans la défense d’OpenAI.

    Et voilà le résultat :

    https://futurism.com/hackers-jailbroken-chatgpt-godmode

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. J’ai lu quelque part que Lacan, interrogé un jour sur le destin de la psychanalyse, répondit que  » l’analyste ne réussirait…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta