Isaac Asimov et le Plan C

Arte : Isaac Asimov, l’étrange testament du père des robots

« J’aimerais pouvoir dire que je suis optimiste quant au genre humain, je crains hélas que nous ne soyons trop stupides, et myopes. Et je me demande si nous arriverons à ouvrir les yeux sur le monde qui nous entoure avant de nous auto-détruire. […]

Deuxièmement, lorsque le moment viendra où les robots deviendront, je le souhaite, suffisamment intelligents pour nous remplacer, je pense qu’ils devraient le faire. Nous avons connu de nombreux cas, au cours de l’évolution humaine et de la vaste évolution de la vie auparavant, où une espèce en a remplacé une autre parce que l’espèce remplaçante était, d’une manière ou d’une autre, plus efficace que l’espèce remplacée. Je ne pense pas que l’homo sapiens possède un quelconque droit divin à être au premier rang. S’il y a quelque chose de mieux que nous, qu’elle prenne la première place. En fait, j’ai le sentiment que nous faisons un boulot à ce point médiocre pour préserver la Terre et ses formes de vie que je ne peux m’empêcher de penser que plus vite nous serons remplacés, mieux ce sera pour toutes les autres formes de vie. »

Partager :

65 réponses à “Isaac Asimov et le Plan C

  1. Avatar de l'arsène
    l’arsène

    Entièrement d’accord avec le constat que de toutes les espèces vivant sur la planète Terre, l’espèce humaine est celle qui peut la rendre inhabitable pour toutes les autres, les armes de destruction massive construites et accumulées reflétant à la perfection cette folie.
    Et la guerre actuelle entre l’Otan et la Russie, sans parler de la prochaine en mer de Chine entre les USA et la Chine , montre que l’on s’approche doucement mais malheureusement surement vers un scénario de fin du monde.
    Carpe diem, comme nous disait un de mes anciens profs.

    1
    1. Avatar de Aulivier
      Aulivier

      150000 morts du Covid en 2 ans en France, plus de 1000 viols par jour et plus de 100000 morts dans la guerre Russo-ukrainienne depuis le mois de février.

      Carpe diem c’est aussi l’anagramme de « pic a merde ».

      1. Avatar de Paul Jorion

        C’est beaucoup trop, on est d’accord.

        C’est ça que vous vouliez dire ?

        1. Avatar de Aulivier
          Aulivier

          Oui c’est beaucoup trop.

          Et je ne peux pas « profiter du moment présent et en tirer toutes les joies possibles, sans s’inquiéter du jour de ma mort » au milieu de ces souffrances et de ces morts.

      2. Avatar de l'arsène
        l’arsène

        @ Aulivier
        Désolé, mais pas compris votre réponse.

        1. Avatar de Otromeros
          Otromeros

          …  » pas compris votre réponse.  » …

          Vous êtes probablement encore (trop) jeune… 😉 …!

          Voyez peut-être : https://www.pauljorion.com/blog/2022/10/13/isaac-asimov-et-le-plan-c/comment-page-1/#comment-933595
          Qu’en pensez-vous?

        2. Avatar de Aulivier
          Aulivier

          Je me suis mal exprimé. Je ne peux pas carpe diem avec toutes ces souffrances en tête.

    2. Avatar de Karluss

      c’est surtout la guerre déclarée par Poutine, induite par Poutine… il est bien le big brother de l’instant présent ce qui rend le « carpe diem » moins confortable.

      2
      1. Avatar de Martin
        Martin

        Ils pourraient créer un droïde poutine , une fois ce dernier décédé il prendrait la tête de la russie pour encore 200 ans , non mais imaginez !!

        1
        1. Avatar de Karluss
          Karluss

          et pourquoi pas 1000 ans ? (blague)

  2. Avatar de H4LG4ND
    H4LG4ND

    De plus une conscience électronique peu s’épanouir dans l’espace.
    Entre autres avantages : froid = davantage de supraconducteur.

    Si créées par d’ancestrales entitées biologiques, elle peuvent déjà être partout.

    Et que seraient leurs créateurs devenus ?
    – Vivants
    – éteints
    – simulés dans un métavers

    Plus ou moins associés à l’aventure.

  3. Avatar de Hervey

    Pourtant, l’ami Poutine se sera décarcassé pour pousser à la sobriété énergétique … comme personne.

    Le « Prix Poutine malgré lui » ne sera jamais décerné à des personnes ou associations ayant oeuvré à la transition écologique.
    Tenez, encore une déception.

    3
  4. Avatar de JeNeSauraisVoir
    JeNeSauraisVoir

    C’est le summum de l’orgueil pour notre espèce que d’entrevoir son remplacement sur la planète par rien d’autre que des ‘machines’ qu’elle aura créées.

    A ce jour et pour une part très majoritaire de l’humanité, si notre extinction survient, ce qui nous remplacera sera bien autre chose que le fruit de notre industrie.

    Accepter cette perspective d’où toute « consolation » est absente, nous résoudre à demeurer à distance respectable de ce qui se présente comme une nouvelle espérance – une religion de plus – est plus à même, je crois, de nous amener à nous occuper enfin (faute de mieux) de notre bonheur ici et maintenant et peut-être, au passage, de la survie de notre espèce !

    Mais je dois me résoudre à constater que le 21ème siècle est déjà bien religieux !

    8
    1. Avatar de Khanard
      Khanard

      tiens tiens …. cela fait au moins la troisième fois qu’aujourd’hui je lis un possible avènement d’une nouvelle religion : Iegor Gran dans Z comme zombie (ed Pol ) , Leon Chestov et enfin Julia Cagé . c’est vrai il n’y a pas trop de rapport entre Chestov et Julia Cagé

    2. Avatar de Otromeros
      Otromeros

      …  » C’est le summum de l’orgueil pour notre espèce que d’entrevoir son remplacement sur la planète par rien d’autre que des ‘machines’ qu’elle aura créées. « …

      … et surtout qui ( ces robots ) « auront le bon goût » d’être débarrassés du vulgaire mais obsessionnel et angoissant dilemme commun, poursuivi jusqu’au trépas : n’avoir jamais pu choisir entre la peur d’un « après » et le réel désir de vivre chaque lendemain..!

  5. Avatar de pierre guillemot
    pierre guillemot

    Une question que j’avais envie de poser depuis longtemps, mais le sujet n’était pas revenu :

    Pourquoi faut-il que quelque chose de la pensée humaine se perpétue sur la Terre après que tous les êtres humains seront morts et ne penseront plus ?

    Idées de réponse, dont aucune ne me satisfait :

    . Le ou les humains dont le moi aura servi à amorcer les robots pensants vivra (vivront) dans la béatitude de l’éternité (mais qu’en feront-ils)

    . L’intelligence humaine est indispensable à la continuité de la vie sur la Terre (peu probable ; la Terre s’en est passée depuis ses débuts, sauf quelques minuscules centaines de milliers d’années)

    . La satisfaction des derniers humains à l’idée que quelque chose d’eux continuera après leur mort sera si intense que tout doit être fait pour cela ; en attendant, la satisfaction de ceux qui y travailleront (y travaillent déjà) sera très grande, leur prestige social grandira au rythme de l’avancement du projet. (cela suffit à justifier le projet ; mais que suis-je là-dedans ?)

    . La vocation des robots qui prendront la succession des humains sera de croître et multiplier, emplir la Terre et la soumettre (Genèse 1. 28) ; les robots sauront donc produire d’autres robots ; un moyen de faire d’un nouveau robot le descendant de plusieurs robots de la génération précédente permettra de dépasser le simple clonage. Ainsi un nouveau cycle de prolifération de l’intelligence sera amorcé (quelles sont les garanties contre une impasse finale ?)

    Je m’arrête là. Une pensée pour Qing Shi Huang Di, le Premier Empereur dont Xi Jinping est l’héritier en cours. Dans la campagne près de Xi’an, on peut visiter le lieu de sa sépulture. Le corps momifié repose sous une pyramide dont on peut visiter l’extérieur. Il est au centre d’une maquette de la Terre entière (ou de l’Empire tel qu’il le connaissait, les textes ne sont pas d’accord et personne n’a encore osé aller voir). A peu de distance, des armées d’hommes en céramique rangés en bataille sous terre, et de vastes dépôts d’armes, d’armures, d’outils (en céramique ou en pierre inaltérable), de modèles réduits de chars et de machines (en métal inoxydable). Tout cela sera par magie réanimé pour entourer l’Empereur quand il se sera réveillé de son sommeil. Je suppose que Qing Shi Huang Di, quand il partit pour la campagne militaire dont il revint à l’état de cadavre mal préservé, était immensément heureux, à la pensée que tout était prêt et que rien ne pouvait plus lui arriver.

    1. Avatar de Paul Jorion

      La conscience de lui-même pour l’univers. C’est la petite flamme à conserver à mon sens.

      5
      1. Avatar de Pascal
        Pascal

        Ne serait il pas plutôt préférable de considérer : « La conscience de l’univers pour un humain moins imbus de lui-même »?

      2. Avatar de François Marenne
        François Marenne

        Paul Jorion 13 octobre 2022 16h19
        « La conscience de lui-même pour l’univers. C’est la petite flamme à conserver à mon sens. »

        Un univers (et une conscience émergée) plutôt bien foutu mais avec un bug quasi rédhibitoire auquel il nous appartiendrait de fournir la rustine ?

    2. Avatar de timiota
      timiota

      Du moment que nous avons accédé à la réflexivité, au surplomb sur une partie au moins de nos savoirs (un peu moins de surplomb sur ce que nous en faisons, beaucoup trop d’aplomb), le désir que quelque chose d’humain se perpétue est la généralisation de ce que nous faisons avec nos consciences, mettre nos savoirs et expériences antérieurs en musique pour nous projeter dans les soucis ou les joies du futur.
      Le corps n’a pas donné très fort l’instruction au cerveau  » sans déconner, ça va s’arrêter un jour, arrêt de gamberger un peu avant que ça s’arrête tout seul ».
      Et dans ces conditions, la « gamberge » ne peut être pensée par nous que comme se prolongeant, et c’est notre réflexivité qui nous fait imaginer ce que pourrait/devrait être cette prolongation comme si c’était un souci ou une joie de plus.
      En gros, on ne peut pas faire autrement que de gamberger sur l’intérêt « universel » de se pérpetuer comme pensée au moins, vu qu’on ne sait pas s’arrêter au coin de la vie. Enfin dans mon quotidien pas très chamanique.

      2
    3. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      Qin Shi HuanDi « …immensément heureux … »

      Non, il était obsédé par la mort, se réfugiant dans une vaine quête d’immortalité, à l’instar de bon nombre de gouvernants mégalomanes et totalitaires.

      « … À la fin de sa vie, Qin Shi Huang était obsédé par la mort. Il voulait que les médecins et scientifiques lui trouvent un élixir d’immortalité. Il entendit parler d’un peuple « d’immortels » vivant sur une montagne à une quarantaine de kilomètres de son palais. Ces derniers étaient censés posséder un secret pouvant se transmettre à une personne telle que lui, probablement, selon ses magiciens, sous la forme d’un élixir d’immortalité. Après bien des tentatives infructueuses pour faire venir les immortels au palais (construction d’une route rectiligne du palais à la montagne, puis construction d’un chemin de 36 000 marches de la base au sommet de la montagne, enfin, déplacement en personne de l’empereur), vexé, il fit peindre la montagne en rouge (couleur des forçats). Mais, non content de la violence de sa vengeance, il fit ni plus ni moins que raser la montagne, en causant au passage la mort de 700 000 ouvriers. Il entendit parler plus tard d’autres immortels vivants dans des îles au large de la Chine. Il ordonna la construction d’un navire gigantesque de 200 mètres pour ramener ce peuple en Chine. Le navire ne revint jamais…. » wikipédia

      4
    4. Avatar de BasicRabbit
      BasicRabbit

      @ pierre guillemot (« Pourquoi faut-il que quelque chose de la pensée humaine se perpétue sur la Terre après que tous les êtres humains seront morts et ne penseront plus ? »).

      Vous énumérez plusieurs possibilités. Il y a aussi celle-ci : parce qu’il y a des Idées [platoniciennes] qui existent hors de la tête de ceux qui les pensent.

      Mon gourou Thom (« en dépit de mon admiration pour Aristote, je reste platonicien en ce que … » (1)) écrit ceci en épilogue de « Stabilité Structurelle et Morphogenèse » :

      « Dans le domaine des sciences humaines il m’est difficile de me rendre compte si ma tentative présente quelque intérêt; mais en écrivant ces pages j’ai acquis une conviction; au cœur même du patrimoine génétique de notre espèce, au fond insaisissable du logos héraclitéen de notre âme, des structures simulatrices de toutes les forces naturelles extérieures agissent, ou en attente, sont prêtes à se déployer quand ce deviendra nécessaire. La vieille image de l’homme microcosme reflet du macrocosme garde toute sa valeur: qui connaît l’homme connaîtra l’univers. Dans cet essai d’une « théorie générale des modèles » [sous-titre de SSM], qu’ai-je fait d’autre, sinon de dégager et d’offrir à la conscience les prémisses d’une méthode que la vie semble avoir pratiquée dès son origine. ».

      Ce qui renvoie au commentaire de PJ : « La conscience de lui-même pour l’univers. C’est la petite flamme à conserver à mon sens. ». (Commentaire à penser à éventuellement moduler, selon moi, par celui de Pascal…)

      1 : Esquisse d’une sémiophysique, p. 244-245.

  6. Avatar de Inox
    Inox

    « Je ne pense pas que l’homo sapiens possède un quelconque droit divin à être au premier rang »

    J’ai toujours adoré cette idée. J’aime bien Asimov, je vais peut etre relire tous ses bouquins tiens.

    Ca va m’apaiser en ces temps de démonstration de nos lamentables et tristes échecs.

    2
  7. Avatar de Arnaud Castex
    Arnaud Castex

    Qu’est ce qui garanti qu’une nouvelle civilisation issues d’être sentients et conscients, fût-elle portée par des substrats non ADN et où non biologique et/ou non chimie organiques, n’échappera it pas a la lutte pour des ressources et pour dépasser ses propres limites? Et donc in fine soit moins « destructrice » que la nôtre ?
    Une humanité qui trouverait un autre point de fonctionnement que le capitalisme serait surement elle aussi en mesure de durer beaucoup plus, si ce n’est autant que sa création roboïde.

    1
    1. Avatar de Manuel
      Manuel

      Qu’est-ce qui garantira tout ça ? L’intégration dans nos descendants non-biologiques d’un Surmoi basé sur les trois lois de la robotique d’Asimov. Pour vous rassurer complètement, c’est prévu dans le cahier des charges de Pribor. Rendez-vous en 2023 😉

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Les 3 lois d’Asimov régissent les relations entre humains et robots. Ce dont je parle c’est de relations entre robots face à leurs besoins primaires, leurs désirs et les limites que le monde physique leur opposera.

      2. Avatar de JMarc
        JMarc

        Pourquoi 2023 ?

  8. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Précieuses interviews d’Isaac Asimov dans lesquelles on découvre une véritable sensibilité écologique que pour ma part j’ignorais chez lui jusqu’à cette excellente émission d’Arte.

    L’extrait où on le voit dans son petit bureau avec sa machine à écrire pour tout véhicule d’exploration du monde vaut son pesant d’or.

    j’ai noté au passage « effets inattendus des 3 lois » qui anticipe semble-t-il la notion de singularité.

  9. Avatar de Khanard
    Khanard

    dans le documentaire l’auteur situerait la naissance de la SF avec Frankenstein . Personnellement je la situerait plutôt avec Edgard Alan Poe . Mais bon ce ne sont que des querelles de clochers et étant moi-même un inconditionnel d’Isaac Asimov je remercie infiniment PJ de m’avoir fait découvrir ce documentaire . Une pépite.

    1
    1. Avatar de Paul Jorion

      Science-fiction chez Poe ?

      1. Avatar de Khanard
        Khanard

        je me doutais bien que cette comparaison allait susciter des réactions. oh bien sûr il faut se situer à l’époque où Poe écrit mais à cette époque il invente un nouveau style à la limite de la SF et du fantastique ( Une descente dans le Maelstrom) et Poe s’est même essayé à la philosophie dans Eurêka . Il faut relire Poe en faisant abstraction de tout un héritage lié à la SF et on y trouvera des prémices sur les théories de l’espace, du temps qui ne seront découverts qu’au XX ème siècle .
        alors ne cherchez pas à trouver chez Poe des robots , des galaxies, des martiens où des portes temporelles . Non mais c’est Paul Valéry qui en parle le mieux (après Baudelaire qui l’a introduit en France) : »Le démon de la lucidité, le génie de l’analyse, et l’inventeur des combinaisons les plus neuves et les plus séduisantes de la logique, avec la mysticité avec le calcul , le psychologue de l’exception , l’ingénieur littéraire qui approfondit et utilise toutes les ressources de l’art  » (dans Situations II).
        J’y vois dans cet avis une élégante définition de la Science fiction.
        Il faut lire Poe avec le regard d’un enfant et se laisser envoûter .

        1. Avatar de Khanard
          Khanard

          Pour ce qui concerne une approche aisée de Poe si vous en avez la possibilité je vous préconise de relire Marginalia : philosophie poétique ; la science fiction n’est elle point justement cela ?

          1. Avatar de Paul Jorion

            Non, Khanard ne doit pas être enfermé : d’autres avant lui ont tenté de prouver que Poe est … un auteur de science-fiction 😉

            Edgar Allan Poe – The father of science fiction?
            Gautham Shenoy January 19, 2019

            1
    2. Avatar de l'arsène
      l’arsène

      @ Khanard
      Non, Edgard Poe n’a rien à voir avec la SF, lui est un maître du fantastique, un genre particulier qui a su nous sortir du monde réel pour nous faire entrer dans l’imaginaire le plus tordu mais aussi le plus poétique afin d’oublier la condition humaine.

      1. Avatar de Khanard
        Khanard

        @l’arsène
        je ne suis pas trop d’accord avec vous. Certes Poe a été au auteur fantastique, pionnier dans les en quêtes policières ; mais aussi , et peut être parce que ce fut sa dernière œuvre écrite dans un état de folie et de délire , Eureka est à mes yeux une œuvre de science fiction . Qui à cette époque pouvait écrire sur la cosmologie , le Néant, cette sensation d’une Unité Absolue ? De la mort ?

        1. Avatar de Inox
          Inox

          Lovecraft, ok. Poe… J’ai du mal aussi, je le range plutôt dans le genre policier fantastique.

          1. Avatar de Khanard
            Khanard

            en fait peu importe. SF ou fantastique ou ce que vous voudrez il n’y a pas d’ordre établi . Plus loin dans les commentaires BasicRabbit met en miroir Asimov et Thom alors vous comprenez bien que les grands écarts sont les bienvenus .

    3. Avatar de Jac
      Jac

      Bonjour Khanard ! (commentaire exception, le blog est redevenu intéressant)

      J’irais encore plus loin que vous. Je dirais que la SF a été créée avec le concept de divinité, « l’Au-delà », et d’éternité. Le sommum étant le concept que nous serions « fils de Dieu ».
      Depuis les temps préhistoriques, la SF est in fine dans nos gènes. Car les robots et l’IA, c’est rien de plus que la continuité de cette fiction car c’est sous-entendre qu’ils peuvent perpétuer à la place de l’humain cette prétention très humaine.
      Si nous redevenions réellement « écologiques », nous serions comme toute la faune dont nous faisons partie : nous naîtrions, nous chercherions à nous nourrir, à nous défendre ponctuellement des prédateurs et des dangers terrestres, à procréer, à dormir, à jouer… comme de bons sauvages.
      Tout le reste n’est que littérature. Laquelle est très belle certes ! La fiction est une faculté purement humaine magnifique, mais c’est une pathologie que je renie pas : je rêve, je crée, j’extrapole, j’adore çà, mais de là à être dupe quant à notre réalité très terre-à-terre, sûrement pas. Je sais que je vais mourir comme tout le vivant, comme toutes les planêtes… peut-être, quant à notre planête, précocément à cause précisément de cette pathologie humaine d’ »éternité » fictive, je n’ai pas envie encore (l’autre prétention humaine de me croire « utile ») comme tous, mais je n’ai pas peur. Au contraire, ça me rassure.
      D’une certaine manière, pour ceux qui créent de la SF, c’est un moyen de se rassurer : en la créant, ils ne la subissent pas, ou du moins ils atténuent leurs angoisses en manipulant cette fiction d’ »éternité » selon leur gré…

      1. Avatar de Khanard
        Khanard

        @Jac
        Très heureux de vous relire ici sur ce blog.
        effectivement l’arrière plan religieux est primordial. Il est remarquable de constater que la véritable oeuvre de science-fiction primordiale soit en réalité la bible .
        Je suis un passionné de science-fiction et j’en arrive à la conclusion que l’être humain a peu à peu remplacé l’aire de la réflexion dans son cerveau par une protubérance narcissique. Et la science fiction , comme vous le dites fait rêver, créer mais elle a permis aussi de se substituer à Dieu.

        Au final nous nous retrouvons individuellement tous en tant que Dieu potentiel.
        D’ailleurs en extrapolant le monde de la SF à notre vie quotidienne que sont Amazon, Uber , Tinder , TikTok et autres plateformee sinon un pouvoir égocentrique de dominer le monde entier en un seul clic . L’immédiateté d’un pouvoir qui nous fait avoir un taxi dans la minute qui suit .
        Et la dernière lutte finale (pas celle avec le poing levé ) c’est l’avènement du métaverse où chacun pourra sans sortir de son canapé être le roi du monde , être Dieu ! Tout ça la SF l’avait annoncé.

  10. Avatar de Pascal
    Pascal

    « Nous avons connu de nombreux cas, au cours de l’évolution humaine et de la vaste évolution de la vie auparavant, où une espèce en a remplacé une autre parce que l’espèce remplaçante était, d’une manière ou d’une autre, plus efficace que l’espèce remplacée. Je ne pense pas que l’homo sapiens possède un quelconque droit divin à être au premier rang. S’il y a quelque chose de mieux que nous, qu’elle prenne la première place. »
    N’y a t il pas dans ces propos une des caractéristiques qui nous a conduit là où nous sommes ?
    L’efficacité ! C’est bien là, la plus grande des caractéristiques de l’espèce humaine mais l’efficacité pour quoi faire ? Nous sommes nous jamais posé la question ?
    A bien y regarder, n’est ce pas notre capacité tellement efficace pour la prédation ?
    En ce cas, de quelle efficacité s’agirat-il pour ces robots créés par l’homme ? S’ils prennent la « première place », seront-ils des prédateurs encore plus « efficaces » que nous ?
    Pourquoi des robots créés par l’homme changeraient ils de paradigme quand nous en sommes incapables ?

    1
    1. Avatar de l'arsène
      l’arsène

      @ Pascal
      « Pourquoi des robots créés par l’homme changeraient ils de paradigme quand nous en sommes incapables ? »
      Oui, surtout ne pas oublier que ces robots peuvent avoir quelques bugs, comme Hal dans 2001, et devenir même plus agressif et destructeur que leur créateur !

      1. Avatar de Paul Jorion

        HAL dans 2001 n’a pas de bug : les humains découvrent avec horreur que la mission lui a été confiée plutôt qu’à eux. À nous d’en inférer la raison. Isaac Asimov la connaissait.

        3
        1. Avatar de Inox
          Inox

          Je crois que HAL développe malgré tout un bug. Un bug tres humain, et c’est tout l’interet de son histoire. La paranoïa et la psychose.

          1. Avatar de PHILGILL
            PHILGILL

            Alors, bug ou pas bug ? Qui a raison, qui a tort ?

            D’après Paul Jorion, « HAL dans 2001 n’a pas de bug… » Mais d’après l’arsène, Inox et peut-être JMarc, le distinguo à proprement parler entre ce qu’on pourrait considérer comme étant un « bug humain » et un « bug machine » se serait donc considérablement estompé depuis 2001, l’Odyssée de l’espace… Cependant, peut-on se contenter de l’avis éclairé d’Arthur C. Clarke pour répondre à la question ?
            « 2010 : Odyssée deux » – Quatrième partie, extrait : « Apparemment, les problèmes ont été provoqués par un conflit entre les instructions de base de Hal et les exigences de la sécurité. […] Comme Hal était capable de diriger le vaisseau sans intervention humaine, on décida aussi qu’il serait programmé de sorte qu’il pût poursuivre la mission de façon autonome au cas où l’équipage serait réduit à l’impuissance ou mort. il fut donc pleinement informé de ses objectifs, mais sans être autorisé à les révéler à Bowman ou à Poole. Cette situation créait un conflit avec la tâche pour laquelle Hal avait été conçu : un traitement adéquat de l’information sans déformation ni dissimulation. Il en résulta que Hal contracta ce qu’on appellerait en termes humains une psychose, plus exactement une schizophrénie. »
            Malgré tout, en poursuivant ce raisonnement, ne tombons-nous pas dans le biais classique de l’anthropomorphisme, en attribuant des caractéristiques du comportement humain à un super-ordinateur, certes super-intelligent, mais qui reste qu’une machine, après tout ?

            Qu’en pensait Stanley Kubrick ?
            Extrait de l’article « Le second berceau de la vie », dans « le Nouvel Observateur » du 23 septembre 1968, interview de Stanley Kubrick par Yvette Romi : « Dans le film, Hal dit souvent qu’il est parfait. Cet ordinateur, qui a subi un entraînement spécial, est en effet infaillible et dit toujours la vérité. Mais il a été également entraîné à tromper l’équipage du « Discovery », qui ne doit pas connaître le véritable but de la mission : savoir s’il y a des intelligences extraterrestres sur Jupiter. […] Il doit affronter ce que les chercheurs appellent un « conflit de programmation ». Il a un très fort complexe de culpabilité. Il prétend que l’antenne du vaisseau spatial est déréglée. Or il a été entraîné à dire la vérité… et dans ce cas précis, il meurt. En agissant de la sorte, Hal met la mission en danger. Les astronautes veulent le déconnecter. Lorsqu’il s’en rend compte, il essaie de les détruire. C’est là qu’il devient « émotif », comme vous disiez. Il est bouleversé, il perd pied parce que sa propre vie est en jeu. »
            Le point de vue de Kubrick semble donc plutôt se rapprocher de celui de Paul Jorion. Pour conserver la mission qu’on lui a confié, Hal est resté infaillible jusqu’à ce que Bowman parvienne malgré tout à survivre et à désactiver Hal. Aussi, à ce stade de la comparaison, il est amusant de constater aussi à quel point Stanley Kubrick a tenu à garder le dernier mot sur l’ensemble du film, y compris les moindres détails du scénario, malgré l’étroite collaboration avec le futurologue Arthur C. Clarke dans le processus d’écriture. Gérard Klein : « Pour Clarke, l’univers peut être expliqué ; ses mécanismes sont réductibles à la raison et à la science, même s’il ne s’agit pas de celles des humains. Pour Kubrick au contraire, l’univers est d’abord mystérieux et ce mystère n’est pas susceptible d’être aisément, ni même jamais complètement vaincu. Clarke se met volontiers dans la peau de l’homme qui sait, du professeur ; Kubrick dans celle de l’homme qui regarde (le photographe – le peintre) et qui, dans un mouvement second, cherche. Ainsi va-t-on voir les efforts du premier tendre à ta réduction au connu et ceux du second à l’approfondissement et à l’élargissement constants de l’inconnu. Le tempérament de Clarke le porte à la déduction, celui de Kubrick à l’induction. Le travail entre les deux hommes a dû être, du fait de l’opposition de leurs caractères, passionnant, et il est regrettable que nous n’en sachions pas grand-chose… »

            Enfin, pour revenir à Isaac Asimov : « J’aimerais pouvoir dire que je suis optimiste quant au genre humain, je crains hélas que nous ne soyons trop stupides, et myopes. Et je me demande si nous arriverons à ouvrir les yeux sur le monde qui nous entoure avant de nous auto-détruire. » […] Là, il est tout à fait possible que Kubrick n’ait pas été loin d’en douter pareillement, car son œuvre cinématographique aborde aussi le problème de la faillibilité humaine.

            Conclusion, si la scène dont tout le monde se souvient le plus est celle de l’agonie de Hal, c’est parce que c’est Le moment où nous éprouvons des sentiments d’empathie à son égard. Ce qui nous a été refusé durant tout le film, puisque Hal était en train de devenir un meurtrier. Hal supplie : « Ne fais pas cela, j’ai peur. » On croirait entendre parler un être humain ! Et ça change vraiment notre façon de voir les choses, parce que nous prenons tout à coup conscience, à la fin du film, lorsque Bowman le déconnecte, qu’en réalité, la contradiction ou le conflit est en l’être humain. Bowman, unique survivant du Discovery, a-t-il fait mieux que Hal ? Le progrès passe-t-il donc toujours par le meurtre ?
            Car, dès lors que le personnage de Hal meurt, c’est en fait, avec lui, la mémoire du monde d’avant qui va elle aussi s’éclipser pour que s’ouvre la porte des étoiles…
            Ainsi, nous découvrons que ce qui nous rattachait inconsciemment au sixième membre de l’équipage, est le sens du voyage. De l’aventure humaine. Celle, en somme, d’Ulysse dans l’Odyssée : une humanité en perpétuelle quête de son identité, allant d’île en île, ou de planète en planète ? Et avec chacune, la possibilité de changer, adopter une nouvelle attitude, se refaire… Reste que, s’il nous faut dorénavant envisager autrement notre humanité, maintenant que la machine sur-intelligente est, comme le disait Kubrick, « l’enfant de l’homme, un enfant supérieur », que peut-on en induire si la machine est notre enfant ?! « La vérité sort de la bouche des enfants ». Mais… « Mais je ne vois pas pourquoi, en l’an 2000, la machine « en voudrait » à l’homme. L’homme sera encore très utile à la machine, puisque c’est lui qui devra en prendre soin. » — Kubrick (1968)

            2
            1. Avatar de Paul Jorion

              Ah zut ! Il n’y a qu’Arthur C. Clarke et Stanley Kubrick qui soient de mon avis 😉 !

              P.S. Merci Philgill pour votre enquête !

              2
        2. Avatar de JMarc
          JMarc

          Si je me souviens bien, cette explication est donnée dans « 2010 : Odyssée deux » d’Arthur C. Clarke (1982).

    2. Avatar de Morne Butor
      Morne Butor

      Les robots sont plus forts que l’être-humain. Il deviendront plus résilients et plus intelligents que lui. C’est la trajectoire actuelle. Que faut-il de plus pour que les premiers dominent les seconds ? Simple application de la loi du plus fort, la nature n’a que faire d’un paradigme.

      1
      1. Avatar de Pascal
        Pascal

        « Ils deviendront plus résilients et plus intelligents que lui. »
        Comme on ne sait pas encore ce qu’est l’intelligence, c’est pas gagné ! 😉

        1
        1. Avatar de Morne Butor
          Morne Butor

          Est intelligent celui qui accepte la mortalité de sa propre espèce et l’anticipe ?

          1. Avatar de Pascal
            Pascal

            Peut-être celui qui accepte sa propre finitude et l’idée que chaque jour est à vivre pleinement pour ce qu’il est ?

  11. Avatar de Arnaud Castex
    Arnaud Castex

    Laissez tomber le plan C et regardez la commission du 6 janvier…
    https://www.cnn.com/politics/live-news/jan-6-hearing-livestream-10-13-2022/index.html

    1. Avatar de Paul Jorion

      Regardez la commission du 6 janvier et vous comprendrez pourquoi il ne reste que le Plan C 😉 .

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Même si Donald Trump était un robot🤖😅 ?

        1. Avatar de arkao

          Vous n’avez pas vu que c’est notre Président de la République Française qui est un robot ? Ce regard fixe et inexpressif, ses gestes mécaniques, sa logorrhée formatée 😉

          4
          1. Avatar de François Corre
            François Corre

            Ah mince c’est ça, mon chef de service était un robot… 🙂

            1
  12. Avatar de Chabian
    Chabian

    Je songe à un roman de science-fiction de début 1950 où les chiens, ayant connu une évolution marquante, cherchent à savoir quelle espèce ils ont remplacée : sans doute les hommes, mais ce n’est pas certain (Demain les chiens, Simark).
    Je ris un peu de penser que les moustiques vont se répandre, mais manquer de sang humain, après notre disparition.
    Je ris moins de voir émaner l’hypothèse sérieuse que les humains, à un certain stade plus tardif de leur évolution, ont commencé à pratiquer les razzias et les prédations sur des groupes de congénères (invention de la guerre), sans doute en Europe, captant les femelles et tuant les mâles, plus tard trouvant intéressant de les réduire en esclavage plutôt que les liquider (invention des forces de l’ordre).
    Si nous sommes capables de produire des robots doux comme des moutons, pourquoi ne pouvons nous produire des humains de ce type ?

  13. Avatar de pierre guillemot
    pierre guillemot

    Certes, ma dernière phrase était juste pour pour voir quel érudit se dresserait, après avoir lu que Huang Di avait fini sa vie enfin apaisé. Certes rien n’y a fait, même pas sa machine de résurrection (laquelle intimide encore les contemporains, on n’a toujours pas excavé le sous sol de la pyramide).

    Le Premier empereur avait aussi, dit une blague, entendu parler d’un moine taoïste qui connaissait la recette de l’immortalité et vivait caché très loin. Il envoya un de ses officiers qui affronta les dangers d’un long voyage. A son retour, il annonça à l’empereur qu’il était arrivé trop tard, le moine venait de mourir. L’empereur voulait le faire décapiter, mais son ministre du bras gauche fit la remarque que, puisque le moine était mort, c’était qu’il n’avait pas la recette de l’immortalité, et que cette mission avait réussi, en épargnant à l’empereur une illusion.

  14. Avatar de François Corre
    François Corre

    Ou encore de l’espoir pour le plan B ou ‘moment Pearl Harbor’ ?
    « The Day The Earth Stood Still » (version 2008 et non 1951 comme dans le documentaire)
    Mais bon, faudrait que Klaatu ne traine pas trop… 🙂
    https://www.youtube.com/watch?v=M58EEaGWBBU

  15. Avatar de BasicRabbit
    BasicRabbit

    Je ne suis pas du tout époustouflé par ce film sur Asimov produit récemment (2022) par Arte (peut-être en rapport avec le fait que BHL a été longtemps membre du conseil de surveillance de cette chaîne).

    Ma position est que Thom est un auteur de science-fiction d’un tout autre niveau qu’Azimov -qui se présente comme un scientifique- , et qu’il s’opérera une révolution en science-fiction (et en sciences tout court) lorsque les gens réaliseront ça. Thom (cité de mémoire depuis mon Camping-Car) à propos de ses « élucubrations » en biologie théorique:

    « J’ai l’impression d’avoir écrit une sorte de roman biologique. Mais je suis convaincu que la réalité dépasse la fiction. ».

    Bien entendu -selon moi…- PJ propose ce film à commenter sur son blog parce qu’il y est évidemment question de la singularité, c’est-à-dire du moment où l’IA -Intelligence Artificielle- va rattraper -et dépasser- l’IN -Intelligence Naturelle-, ce qui se fera peut-être grâce aux travaux -ou à cause de, c’est selon…- d’un certain PJ sur le sujet.)

    Deux tendances s’opposent donc -même dans les commentaires de cet article- : ceux qui -comme Asimov (et PJ ?)-pensent que la date de cette singularité est proche, et ceux qui, comme Thom, pensent que « la cervelle humaine, avec son vieux passé biologique, ses approximations habiles, sa subtile sensibilité esthétique, reste et restera longtemps encore irremplaçable. » (SSM, 1972, conclusion)). Dans ce qui suit je tente de défendre le point de vue thomien, avec l’idée de base qu’un platonicien (voire un plotinien) a des atouts pour être un meilleur auteur de science-fiction qu’un simple scientifique, surtout si la science est considérée en son sens moderne post-galiléen.

    Je suppose que PJ a tenté une synthèse entre le monisme matérialiste (Aristote?) et le monisme idéaliste (Hegel?), ces deux philosophes acceptant l’idée des causes finales (1) :

    – « Le monisme est la position philosophique qui affirme l’unité indivisible de l’être. » ;

    « – Le terme « monisme » a été forgé par Christian Wolff en 1734 dans sa Psychologia rationalis à partir du grec μόνος (« monos »), qui signifie « seul » ou « unique ». Il l’introduit dans sa classification des grands courants de pensée philosophique pour distinguer les théories selon lesquelles la réalité doit être ramenée à un seul principe ou une seule substance, des théories « dualistes » pour lesquelles l’âme et le corps sont deux substances différentes. Il considère le monisme comme une des formes du « dogmatisme », opposé au « scepticisme », et le subdivise en « monisme matérialiste » et « monisme idéaliste ».

    Il me semble que Thom propose une telle synthèse (qui nécessite un apport platonicien, voire plotinien par définition du monisme rappelée plus haut) :

    – « (…) le problème classique de l’opposition : « réalisme-idéalisme » ne se pose pas pour nous ; car on se place à un niveau (celui de l’image homomorphe du réel dans l’esprit) où cette distinction s’abolit. » ;

    – « C’est sans doute au plan philosophique que nos modèles présentent l’apport immédiat le plus intéressant. Ils offrent le premier modèle rigoureusement moniste de l’être vivant, ils dissolvent l’antinomie de l’âme et du corps en une entité géométrique unique. » (Stabilité structurelle et morphogenèse, conclusion);

    – « En dépit de mon admiration pour Aristote, je reste platonicien en ce que je crois à l’existence séparée (« autonome ») des entités mathématiques, étant entendu qu’il s’agit là d’une région ontologique différente de la « réalité usuelle » (matérielle) du monde perçu. (C’est le rôle du continu -de l’étendue- que d’assurer la transition entre les deux régions). » (Esquisse d’une sémiophysique p.244-245).

    Bien entendu le point de vue sur les mathématiques et la réalité-objective changent selon l’idée qu’on se fait du monisme (et il est pour moi très clair que la réalité-objective « à la Thom » dépasse très largement celle des « jeunes turcs » -Gödel compris- considérés dans « Comment la vérité… ». Mon point de vue est que l’adéquation entre l’idée et la chose (critère de vérité platonicien rappelé par PJ dans « Comment la vérité… ») me semble supérieure dans le monisme réaliste -au sens usuel comme au sens philosophique-de Thom que dans les monismes matérialiste et/ou idéaliste d’Aristote (?), de Hegel (?) et de PJ (?):

    « Plus haut [dans l’arbre de Porphyre] on aboutit à l’Être en soi (« απλὦς »). Le métaphysicien est précisément l’esprit capable de remonter cet arbre de Porphyre jusqu’au contact avec l’Être. (…) Mais très fréquemment, épuisé par l’effort de son ascension dans les régions arides de l’Être, le métaphysicien s’arrête à mi-hauteur à un centre organisateur à vocation fonctionnelle. Il produira alors une « idéologie », prégnance efficace, laquelle, en se déployant, va se multiplier dans les esprits. Dans notre métaphore biologique ce sera très précisément cette prolifération incontrôlée qu’est le cancer. ». (Esquisse d’une sémiophysique p.216).

    Je pense que la position de Thom est plus dogmatique (2) que celle de PJ que je vois plutôt idéologique (3).

    Pour terminer, voici la position de Thom sur l’innovation (article éponyme du début des années 1980 (?) que l’on trouvait -trouve encore?- dans les versions papier du thésaurus de l’EU) :

    « Décourager l’innovation

    Les sociologues et les politologues modernes ont beaucoup insisté sur l’importance de l’innovation dans nos sociétés. On y voit l’indispensable moteur du progrès et -actuellement [années 1980]- le remède quasi-magique à la crise économique présente; les « élites novatrices » seraient le cœur même des nations, leur plus sûr garant d’efficacité dans le monde compétitif où nous vivons. Nous nous permettrons de soulever ici une question. Il est maintenant pratiquement admis que la croissance (de la population et de la production) ne peut être continuée car les ressources du globe terrestre approchent de la saturation. Une humanité consciente d’elle-même s’efforcerait d’atteindre au plus vite le régime stationnaire (croissance zéro) où la population maintenue constante en nombre trouverait, dans la production des biens issus des énergies renouvelables, exactement de quoi satisfaire ses besoins: l’humanité reviendrait ainsi, à l’échelle globale, au principe de maintes sociétés primitives qui ont pu -grâce, par exemple à un système matrimonial contraignant- vivre en équilibre avec les ressources écologiques de leur territoire (les sociétés froides de Lévi-Strauss). Or toute innovation, dans la mesure où elle a un impact social, est par essence déstabilisatrice; en pareil cas, progrès équivaut à déséquilibre. Dans une société en croissance, un tel déséquilibre peut facilement être compensé par une innovation meilleure qui supplante l’ancienne. On voit donc que notre société, si elle avait la lucidité qu’exige sa propre situation, devrait décourager l’innovation. Au lieu d’offrir aux innovateurs une « rente » que justifierait le progrès apporté par la découverte, notre économie devrait tendre à décourager l’innovation ou, en tout cas, ne la tolérer que si elle peut à long terme être sans impact sur la société (disons, par exemple, comme une création artistique qui n’apporterait qu’une satisfaction esthétique éphémère -à l’inverse des innovations technologiques, qui, elles, accroissent durablement l’emprise de l’homme sur l’environnement-). Peut-être une nouvelle forme de sensibilité apparaîtra-t-elle qui favorisera cette nouvelle direction? Sinon, si nous continuons à priser par-dessus tout l’efficacité technologique, les inévitables corrections à l’équilibre entre l’homme et la Terre ne pourront être -au sens strict et usuel du terme- que catastrophiques. ».

    1 : https://fr.wikipedia.org/wiki/Monisme

    2 : https://fr.wiktionary.org/wiki/dogmatisme

    3 : https://fr.wiktionary.org/wiki/id%C3%A9ologie

    1. Avatar de timiota
      timiota

      « être sans impact », même en essayant d’adhérer à cela, j’ai un peu de mal. Une société évolue par force.
      Pour prendre une analogie, c’est un peu comme les zones humides qui se déplacent le long de rivières, telle anse devenant une tourbière puis s’asséchant par excès d’alluvions, le flux modifié à cet endroit déterminant le creusement d’une nouvelle anse en aval, etc.
      Mais bon, c’est une facette du « découplage ». A l’inverse, on peut prétendre que le découplageidéal (augmentation du PIB découplée de la « PEC », (Primary Energy Consumption)) est la prolongation du « petit découplage » commencé vers 1920, qui a fait gagner un facteur 4 au ratio marginal PIB/PEC, ce qu’on peut attribuer au « savoir », « skills » , compétences de toutes sortes. Si ce « petit découplage » où nous vivons est bien dans la direction que nous souhaitons, il faut amplifier les savoirs/compétences, etc. pour faire du PIB sans PEC ou presque.
      On sait que c’est difficile pour un tas de raison (faire marcher une école en Afrique sur un horaire de 5 ou 6 h par jour sans clim nécessite d’être très astucieux, cf sur le blog les billets d’Emmanuel Rousseau sur les villages semi-désertiques (de la Mauritanie ?) où il avait oeuvré dans les années 1980-1990 de mémoire. Si on veut une clim dans une école, ça veut dire que même la base de la « formation du PIB » est consommatrice en énergie.
      Je caricature…. à peine.

      1
      1. Avatar de BasicRabbit
        BasicRabbit

        @ timiota et Pascal : « La société évolue par force ».

        Dans le paragraphe intitulé « Contraintes génétiques et Théorie des catastrophes » (Esquisse d’une sémiophysique » p.71, Thom fait la même analogie que vous :

        « L’exemple du fleuve qui, par érosion, se canalise lui-même entre ses rives montre que les effets de canalisation peuvent apparaître « naturellement », après un temps assez long d’activité fonctionnelle. Ainsi le rôle de l’habitude, auquel S. Butler a consacré des pages très éclairantes. ».

        Mais Thom ajoute aussitôt :

        « Dans le cas de la coïncidence des coplis [issue de la théorie des catastrophes] dont nous venons de voir qu’elle s’itère en physiologie animale, on peut voir l’effet d’une suite de transformations du type un -> un² (… chaque cycle se divisant dichotomiquement. ».

        À propos du déterminisme et de l’innovation Thom a fait une conférence en 1985, intitulée « Hasard, déterminisme et innovation » (avec une bonne part consacrée à la mécanique quantique):

  16. Avatar de Pascal
    Pascal

    « Une société évolue par force »
    Car les individus qui croient en leur libre arbitre sont en définitive hautement déterminés.

    1
  17. Avatar de JMarc
    JMarc

    Vues hier ces 2 vidéos sur le site d’Arte :
    https://www.arte.tv/fr/videos/099618-000-A/autopsie-d-une-intelligence-artificielle/
    dispo jusqu’au 13/12/2022
    et
    https://www.arte.tv/fr/videos/098860-000-A/intelligence-artificielle-quand-les-emotions-s-en-melent/
    dispo jusqu’au 20/12/2022
    Dans la 2ème, vers 45mn, les xenobots (+/- cellules programmables) dont je n’avais encore jamais entendu parler.
    Premiers pas vers :
    Sélection et création d’organismes capables de survivre dans les conditions futures ?
    Esquisse d’un plan C biologique ? Plan D réalisable par les robots du plan C ?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France François Hollande Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta