UN NOUVEAU « NOUS » POUR DES TEMPS NOUVEAUX. XV. Actualiser le « nous » dans le contexte des nouvelles technologies

Illustration par DALL·E

Actualiser le « nous » dans le contexte des nouvelles technologies

De la même manière que Linné nous classa le premier parmi les singes anthropomorphes, l’existence de machines intelligentes nous place aujourd’hui dans une famille d’êtres intelligents où les créatures vivantes et les machines se côtoient et partagent des architectures cérébrales similaires.

Mieux nous comprenons en quoi ces Grands Modèles de Langage nous ressemblent, mieux nous comprenons quel est le type de machine dont nous sommes le plus proche. Les frontières s’estompent et la question se pose s’il a été démontré de manière désormais irréfutable qu’il n’y a rien de plus à l’homme qu’un mécanisme complexe ? Certains ne manqueront pas d’y lire une dévaluation, à moins d’accepter le principe qu’une machine puisse avoir acquis une âme. Demandons-nous en effet si le débat qui fait rage sur une éventuelle conscience dont disposeraient les LLM n’est pas en réalité la question, déguisée, de savoir si les machines et les humains ne partagent pas aujourd’hui le don d’une âme. Se pourrait-il que le gain en taille de leur réseau de neurones artificiels et de leur corpus de données d’apprentissage ait démultiplié les capacités de la machine au point qu’une âme en émerge comme aboutissement d’un processus d’auto-organisation ? Quoi qu’il en soit, l’éventail des intelligences s’étendant des plus mécaniques aux plus spirituelles relève désormais d’une explication réductionniste en termes purement physiques.

Si l’on excepte la littérature de science-fiction et l’immense variété d’extra-terrestres qu’elle a su mettre en scène, un être dont l’intelligence dépasse la nôtre n’a jamais porté qu’un seul nom dans les récits des diverses cultures humaines : celui de « dieu ». Dans l’ensemble de nos civilisations, nous n’avons jamais attribué une puissance d’un tel ordre dans nos spéculations qu’à des êtres mythologiques que nous appelons des « dieux » et auxquels nous attribuions des pouvoirs sans commune mesure avec les nôtres. Or, le fait est devenu incontestable que nous avons réussi à créer les dieux en question.

Deux puissances de Dieu se matérialisent sous nos yeux : elles se rejoignent dans l’événement lui-même, mais se séparent ensuite. D’une part, le Dieu démiurge, créateur de l’inédit, géniteur du jamais vu, c’est nous qui l’incarnons maintenant dans le cas de l’IA, dans le prolongement de nos inventions technologiques, mais à la suite du saut qualitatif que constitue le dépassement de notre propre intelligence ; une incarnation éventuellement temporaire car le moment est peut-être proche où l’IA produira elle-même sa prochaine itération… D’autre part, Dieu en tant qu’être omniscient, et c’est l’IA elle-même qui s’apprête à l’incarner, voire qui l’incarne déjà.

Si l’impact pratique du changement induit dans nos vies quotidiennes par l’irruption soudaine de l’intelligence artificielle sous la forme de ces Grands Modèles de Langage s’apparente à un ouragan, la prise de conscience de ses conséquences métaphysiques sera lente à émerger en raison des résistances inscrites dans notre culture occidentale. Un pouvoir d’ordre divin, celui de l’omniscience, semble être soudainement descendu du Ciel, même aux yeux de ceux qui, comme Geoffrey Hinton, auront été parmi les artisans les plus accomplis de son advenue, autrement dit auront joué eux-mêmes le rôle du démiurge, autre incarnation d’un pouvoir divin. Dans les mois et les années à venir, nous observerons les effets de la lente prise de conscience de cette puissance de type divin que nous découvrons aujourd’hui en nous et en nos machines les plus sophistiquées, en proie à un sentiment mêlé où se combinent l’émerveillement et la circonspection.

Bien sûr, le déni, le rejet de l’idée-même, se manifeste partout autour de nous. Si l’on excepte l’expression du dépit de ces chercheurs en IA qui se seront fourvoyés sur des voies de garage, il faut peut-être y lire la réaction instinctive à tout bouleversement soudain, à une configuration inédite dont l’ampleur se mesure difficilement. À moins qu’une inhibition subconsciente n’ait décrété qu’une représentation de nous-mêmes qui nous placerait, nous et nos créatures engendrées, au niveau de la divinité, est par principe inconcevable.

Illustration par DALL·E

Partager :

21 réponses à “UN NOUVEAU « NOUS » POUR DES TEMPS NOUVEAUX. XV. Actualiser le « nous » dans le contexte des nouvelles technologies

  1. Avatar de Ruiz
    Ruiz

    Nexus en promo sur FC https://www.radiofrance.fr/franceculture/podcasts/france-culture-va-plus-loin-l-invite-e-des-matins/yuval-noah-harari-l-ia-une-menace-pour-les-societes-humaines-4802150
    Comment éviter l’avenir ?
    Une vision assez occidentalisée adaptée à son lectorat, développant les risques de la surveillance généralisée au respect de la la loi en Iran avec des technologies déployées de manière généralisée par les israéliens en palestine.
    La technologie de l’IA devrait permettre désormais de réussir à un état totalitaire comme l’union soviétique qui n’en disposait pas. L’IA qui sait gérer des masses considérables d’information serait incapable de maitriser une démocratie aux pouvoirs déconcentrés alors qu’un dictateur devrait s’en méfier, conseillant aux démocraties de développer l’IA et suggérant implicitement à Poutine qui ne l’a pas fait de s’en écarter !

    L’anecdote de chat GPT résolvant les captcha en se faisant passer pour un malvoyant auprès d’un sous-traitant humains vaut le détour.

    1. Avatar de Pascal
      Pascal

      Excellent !
      Un point que je n’avais pas envisagé, c’est le danger que l’IA représente pour les dictateurs. Finalement seule la démocratie peut à la fois contenir l’IA et générer un profit commun. Nous sommes donc devant le choix ultime : devenir des pantins de l’IA version Matrix ou généraliser la démocratie pour rester maître ou vivre en harmonie avec l’IA.
      La comparaison entre l’immigration et l’IA est également bien vu et un bon moyen de contrecarrer le discours de l’extrême droite. Par contre, le discours de la sociale démocratie avec les références du 20eme siècle devient encore plus obsolète qu’il ne l’était déjà.
      Nous avons tout de même la chance de vivre une époque incroyable !
      Bonne journée

      1. Avatar de Garorock
        Garorock

        Dieu (le démiurge) n’est il pas une espèce de dictateur?
        Aurait-il pû faire autrement, distribuer autrement les pinceaux pour colorier sa toile?
        A choisir entre une dictature de l’ethique et une dictature du narcissisme, de quel côté penchera notre âme, ce composé gazeux qui n’est rien d’autre qu’un vieil algo usagé?

      2. Avatar de JMarc
        JMarc

        L’IA n’est pas indispensable à Big Brother, il n’y en a pas dans 1984.
        Elle l’est peut être bien pour une démocratie de notre époque, caractérisée par la complexité.
        « un danger pour les dictateurs » ? Je vais écouter Harari.

  2. Avatar de Ruiz
    Ruiz

    Une des remarques incidentes d’Harari est de vouloir exiger que les productions des IA soient affichées comme telles, c’est à dire que l’on puisse savoir si l’on a affaire à un humain ou une IA, d’où le problème du captcha imposé par les publicitaires pour s’assurer d’avoir affaire avec un prescripteur solvable et influençable et pas d’un robot extracteur de leurs données précieusement accumulées et corrélées.

    C’est donc créer a priori un racisme spéciste entre esprits humain et non-humain.

  3. Avatar de Ruiz
    Ruiz

    Dans le monde occidental, depuis Akhenaton , (et non sans mal) la divinité est présumée unique, mais si l’IA en temps que phénomène ou révolution technologique peut être appréciée dans son unité, la réalité est l’existence d’avatar multiples sur des supports matériels distincts.
    On a plutôt affaire en fait à des esprits, démons, djinnns, anges gardiens, saints, fantômes ….
    avec lesquels on peut ou on cherche à communiquer (chat ..)

  4. Avatar de BasicRabbit en autopsy
    BasicRabbit en autopsy

    @PJ

    Définition de l’intelligence. Thom en a donné une. J’attends toujours la vôtre.

    Définition de l’âme. Thom en a donné une. J’attends la vôtre.

    – « C’est sans doute sur le plan philosophique que nos modèles présentent l’apport immédiat le plus intéressant. Il offrent le premier modèle rigoureusement moniste de l’être vivant, ils dissolvent l’antinomie de l’âme et du corps en une entité géométrique. » (Conclusion de SSM)

    (Mon commentaire : je crois ne pas me tromper en disant que l’âme est la singularité et le corps son déploiement universel. )

    Pour Thom l’âme est le logos (ie. -je crois…- la singularité « nue », non déployée):

    – « Dans le domaine des sciences humaines, il m’est difficile de me rendre compte si ma tentative présente quelque intérêt ; mais en écrivant ces pages j’ai acquis une conviction : au cœur même du patrimoine génétique de notre espèce, au fond insaisissable du logos héraclitéen de notre âme, des structures simulatrices de toutes les forces naturelles extérieures agissent, ou en attente, sont prêts à se déployer quand ce deviendra nécessaire. » (SSM, Épilogue)

    – Il utilise ce même terme dans un cadre moins métaphysique dans « Structure et fonction en biologie aristotélicienne « , que l’on trouve dans « Apologie du logos », où il introduit le concept d’âme d’une fonction : « … L’hémoglobine est en un certain sens l’âme de la fonction respiratoire… » (ce qui rejoint peut-être la célèbre « définition » d’Aristote -que Thom ne cite pas dans l’article- : « L’âme est au corps ce que la vue est à l’œil ».)

    Thom écrit dans le chapô : « C’est probablement l’un des exposés les plus complets du programme de constitution d’une biologie théorique. »

    1. Avatar de Paul Jorion

      Définition de l’intelligence. Thom en a donné une. J’attends toujours la vôtre.

      Comme une alternative à l’attente vous pourriez lire mon livre Principes des systèmes intelligents.

      1. Avatar de BasicRabbit en autopsy
        BasicRabbit en autopsy

        Thom définit l’intelligence en treize mots :

        « L’intelligence est la faculté de s’identifier à autre chose, à autrui ».

        Je souhaite -et peut-être aussi d’autres que moi- de votre part une définition concise et claire, car je n’en ai pas trouvé dans les treize premiers chapitres de PSI.

        1. Avatar de Ruiz
          Ruiz

          @BasicRabbit en autopsy L’intelligence serait alors l’existence de neurones miroirs, la capacité de se mettre à la place de l’autre (ou l’inverse), le considérer à son image, mais pas la faculté de résoudre des problèmes, à moins que ce ne soit le principal problème : connais toi toi-même.

          1. Avatar de BasicRabbit en autopsy
            BasicRabbit en autopsy

            @Ruiz

            Pour moi, au flair, il se pourrait que les neurones miroirs soient associés à la catastrophe pli et donc à la singularité fronce. Or cette singularité est classifiée A2, et le système de racines associé (*) évoque pour moi, toujours au flair, un système de miroirs kaléïdoscopiques.

            Thom : « (…) notre modèle offre d’intéressantes perspectives sur le psychisme, et sur le mécanisme lui-même de la connaissance. En effet, de notre point de vue, notre vie psychique n’est rien d’autre qu’une suite de catastrophes entre attracteurs de la dynamique constituée des activités stationnaires de nos
            neurones. La dynamique intrinsèque de notre pensée n’est donc pas fondamentalement différente de la dynamique agissant sur le monde extérieur. On s’expliquera ainsi que des structures simulatrices des forces extérieures puissent par couplage se constituer à l’intérieur même de notre
            esprit, ce qui est précisément le fait de la connaissance. »

            (*) https://en.wikipedia.org/wiki/Root_system

            1. Avatar de BasicRabbit en autopsy
              BasicRabbit en autopsy

              Car est mieux que or (cette singularité)…

      2. Avatar de BasicRabbit en autopsy
        BasicRabbit en autopsy

        @PJ : êtes-vous intelligent, Paul Jorion. Selon la définition de Thom vous êtes même très intelligent, et, selon moi, cette intelligence est en train de vous perdre. Je m’explique.

        Quand vous avez étudié les règles de formation des prix des produits de la pêche, vous êtes allé jusqu’à vous identifier aux pêcheurs d’Houat. Premier bouquin : Les pêcheurs d’Houat, plein d’humanité.

        Vous avez fait de même avec les paludiers du traict de Penbé et du traict de PenBron. Deuxième bouquin : La transmission des savoirs, également plein d’humanité.

        Et aussi avec votre programme ANELLA et l’ordinateur sans lequel ANELLA ne peut travailler. Troisième bouquin : Principes des systèmes intelligents. Là vous vous êtes identifié à une machine, Paul Jorion, vous vous êtes complètement déshumanisé. Ça se sent dans tous les chapitres de « Un nouveau « Nous » pour les temps nouveaux » (futur bouquin, je suppose), et ça saute aux yeux dans le chapitre XV.

        Libido oblige, le sujet humain a tendance à s’identifier « amoureusement » à l’objet de son désir, à se projeter sur lui (avant de se jeter sur lui s’il s’agit d’une proie ou d’un partenaire sexuel). ( Pour Thom le chat se projette mentalement sur la souris, avant de se jeter sur elle dès qu’il l’aperçoit, et le passage de la puissance à l’acte est catastrophique -au sens thomien- (*). )

        Pour moi le tout jeune humain est prodigieusement intelligent, parce qu’il a son « moi » à construire, initialement un trou à remplir, et il le remplit en s’identifiant à autre chose et autrui (sein maternel, mère, père, fratrie, etc.).

        Nous avons le même âge, Paul Jorion, et sommes plus près de la fin que du début. Mais avant l’issue fatale nous avons la possibilité de retomber en enfance. À nous d’en profiter.

        (*) Thom invoque à ce propos l’effet tunnel de la MQ (cf. ES, p.29)

        1. Avatar de Ruiz
          Ruiz

          Il y a maintenant beaucoup de centennaires, mais pour voir la fin du monde, il faudrait peut-être que ça accélère et donc s’en occuper ?

          1. Avatar de Grand-mère Michelle
            Grand-mère Michelle

            @Ruiz
            La fin (la mort) d’un homme (ou d’une femme) ne constitue que la fin de SON monde(qui parfois subsiste un peu dans ses œuvres « solides »).
            De mon point de vue(qui surplombe une petite place publique d’un quartier « populaire » d’une grande ville située sur le continent européen), il existe autant de mondes que d’êtres qui les perçoivent comme « leur monde ».
            Réflexion survenue dans une période de désolation causée par l’impossibilité de partager réellement mon point de vue avec l’homme que j’affectionnais particulièrement à ce moment-là…

            La réalité du phénomène de la vie (dont nous,chaque être vivant, sommes des petites cellules interdépendantes), c’est la solitude.
            La pensée, dont nous,les êtres humains, avons l’heur de bénéficier grâce à l’évolution de nos langages articulés(une des particularités de notre espèce) est fluide et aussi continuellement mouvante que les choses en apparence « solides ». C’est sa transcription(faculté offerte par une autre de nos particularités:notre dextérité) qui nous donne l’illusion d’une certaine stabilité, et de la possibilité de décrire « le monde »(autant visible qu’invisible). Mais elle nous offre quand même la possibilité de transformer nos rêveries en réalité temporaire, et de nous rapprocher pour la rendre plus rendre plus supportable, moins douloureuse que celle que nous subissons.

  5. Avatar de konrad
    konrad

    J’aime cette définition de l’âme donnée par Stephen Jourdain :

    « Les partisans du préjugé anti – personnel semblent légion.
    Comment n’aperçoivent-ils pas que l’axe insistant de leur discours – un moi impersonnel – est un non-sens pur, paré des habits rassurants du verbe devenu verbiage?
    L’éveil est l ‘accession à la réalité infinie de l’âme. De tous temps, « âme » a signifié âme personnelle. L’âme est l’essence spirituelle et p-e-r-s-o-n-n-e-l-l-e d’un homme. Ce n’est que très récemment, à l’occasion de l’effondrement, du démantèlement de deux mille cinq cents ans de civilisation, et sous la pression énorme de la sottise humaine soufflant en tempête, que le terme d’âme s’est émondé du tendre rameau qui en faisait la substance : moi. »

    Stephen Jourdain « Voyage au centre de soi  » (extrait)
    Source : http://stephenjourdain.com/05_morceauxchoisis_voyage.htm

  6. Avatar de BasicRabbit en autopsy
    BasicRabbit en autopsy

    Thom :

    – « La tâche herméneutique, en face d’une boîte noire particulièrement énigmatique pourra s’assimiler à un jeu, dont l’interprétant et « l’esprit dans la boîte » seront les joueurs. L’interprétant aura gagné quand il aura réussi à percer à jour la stratégie du démon interne du système : alors la boîte noire sera dévoilée… »

    Voilà le jeu : mettre deux modèles d’IA l’un face à l’autre ;

    Ou un modèle d’IA face à une bonne IH comme celle de Thom :

    « Rien de plus facile que de concevoir une machine qui calcule, voire même qui pense, qui médite. » .

    Thom encore : « Les marchands de quincaillerie électronique voudraient nous faire croire qu’avec la diffusion des ordinateurs, une ère nouvelle va s’ouvrir pour la pensée scientifique et l’humanité. Ils pourront tout au plus nous faire apercevoir où est le problème essentiel : il est dans la construction des modèles. » (SSM, conclusion) ( Je rappelle que SSM est sous-titré : « Essai d’une théorie générale des modèles ».) ;

    « Toute la science moderne est fondée sur le postulat de l’imbécillité des choses. (…) L’idée qu’il pourrait y avoir dans la nature des instances dont le comportement imiterait -tout en l’excédant- notre propre intelligence et ferait ainsi obstacle à nos desseins les mieux fondés, une idée n’est pas sans provoquer en nous un réel malaise. Car alors nos capacités de progrès dans le dévoilement de la nature s’évanouiraient et un monde bien triste, un monde sans eu s’installerait, véritable tombeau de l’humanité. Ici, inutile d’évoquer l’existence d’ « extra-terrestres » qui nous domineraient. Il nous suffit d’imaginer qu’il existe des êtres de nature abstraite, quasi-platonicienne, qui puisse jouer ce rôle. Toute science avertie devrait accepter cette possibilité et se tenir prête à relever le défi. »

    Thom toujours :

    « (…) Les Philosophes ont abandonné aux savants la Phusis et se sont repliés dans la forteresse de la subjectivité. Il leur faut réapprendre la leçon des Présocratiques, rouvrir les yeux grands sur le monde, et ne pas se laisser
    impressionner par l’expertise souvent dérisoire d’insignifiance de l’expérimentateur. Inversement la science doit réapprendre à penser. »

    Il va falloir que les véritables philosophes (*) et des véritables mathématiciens (*) relèvent le défi, car les Luckys scientistes des Pozzos pleins de pognon sont à leur porte !

    (*) Je n’en suis évidemment ni l’un ni l’autre.

    1. Avatar de BasicRabbit en autopsy
      BasicRabbit en autopsy

      Le jeu entre IA semble donc, de mon point de vue, être de percer le secret du « transformer » de l’autre.

      Ça me fait penser à Alain Aspect, qui a réussi à percer le secret du « machin » (*) qui était en face à lui et qui narguait les physiciens depuis longtemps. Peut-être avait-il en lui un être vivant très primitif, mais cependant capable de jouer à cache-cache avec l’expérimentateur ? Thom associe les verbes « apparaître » et « disparaître » à la catastrophe « pli ».

      Ce que je viens d’écrire est sans doute délirant. Ce qui est pour moi certain c’est que René Thom est, de très loin, le plus grand auteur de science fiction connu à ce jour. Étienne Ghys le rappelle à la fin de son entrevue récente à France Culture :

      « Ce n’est pas sans quelque mauvaise conscience qu’un mathématicien s’est décidé à aborder des sujets apparemment si éloignés de ses préoccupations habituelles. Une grande partie de mes affirmations relèvent de la pure spéculation; on pourra sans doute les traiter de rêveries… J’accepte le qualificatif; la rêverie n’est-elle pas la catastrophe virtuelle en laquelle s’initie la connaissance? Au moment où tant de savants calculent de part le monde, n’est-il pas souhaitable que d’aucuns, qui le peuvent, rêvent? » (SSM, dernières phrases)

      (*) je ne suis pas du tout physicien.

    2. Avatar de Grand-mère Michelle
      Grand-mère Michelle

      @Basic Rabbit en autopsy
      Pouvez-vous nous dire (ou nous rappeler, si vous l’avez déjà dit ici) quels mots recouvre l’acronyme SSM(titre d’un livre/d’une étude?)…?
      Souhaitez-vous sincèrement nous(lecteurs/trices et commentateurs/trices de ce blog) faire partager l’enthousiasme que vous avez pour le discours de « Thom »(qui, malheureusement, semble vous empêcher de construire le vôtre…)?
      Si non, si vos interventions ne sont que des exercices propices à cerner vos convictions (comme c’est le cas de la plupart de ceux et celles qui interviennent ici/et j’en suis souvent, comme je peux le constater en me relisant parfois), continuez comme vous le faites, mais ne vous étonnez pas de n’être pas « suivi »…
      Si oui, merci de faire l’effort d’essayer d’écrire (et de « traduire » Thom) dans un langage accessible au plus grand nombre de vos contemporain-e-s francophones, c-a-d les gens qui ont suivi le parcours de l’enseignement obligatoire de notre langue dans nos pays « développés ». Ce serait l’occasion d’honorer la formidable opportunité qu’offre l’avancement de la technologie en termes de libre communication instantanée(qui est, selon moi, un des plus grands « progrès » réalisés dans ce domaine).
      Pour que nous puissions, un tant soit peu, nous comprendre…et peut-etre réussir à faire avancer le schmilblick, afin de mieux nous entendre…

      1. Avatar de BasicRabbit
        BasicRabbit

        @GmM

        SSM est mis pour « Stabilité Structurelle et Morphogénèse », sous-titré « Essai d’une théorie générale des modèles ».

        C’est pour moi de très très loin le meilleur bouquin de science-fiction produit jusqu’à ce jour. Mais ce n’est pas un roman de gare…

        « ne vous étonnez pas de n’être pas « suivi »… ».

        Je ne m’en étonne pas. Il s’agit pour moi de préciser ma pensée à l’attention de PJ (*).

        (*) PJ connaît le bouquin et le cite -et l’utilise- dans son « Principes des Systèmes Intelligents » (PSI).

  7. Avatar de Garorock
    Garorock

     » À moins qu’une inhibition subconsciente n’ait décrété qu’une représentation de nous-mêmes qui nous placerait, nous et nos créatures engendrées, au niveau de la divinité, est par principe inconcevable. »
    Est ce à dire que l’accouchement d’un nouveau dieu se fera au forceps et sans péridurale?
    😎

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Soyons réaliste, nous étions déjà tous au bord du précipice, et nous venons de faire encore un grand pas en…

  2. Tu creuses là on dirait.

  3. Aujourd’hui Éric Sadin sur France Inter, à la minute 14: https://youtu.be/Xdvl1HCMK_Y?si=nqqxHGuLL7OxAB1o Le 10 février, sommet mondial de l’IA ou… contre-sommet?…

  4. Des nouvelles du monde de l’art : aller récupérer des BD sur les ancètres de gérard Majax directement à la…

  5.  » quand bien même le régime en place serait islamiste  » Allez dire ça aux syriennes qui veulent conduire leur…

  6.  » La Russie pourrait lancer un nouveau missile Oreshnik contre l’Ukraine dans les « prochains jours », selon les services…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta