Lex Fridman : La Singularité vient-elle ?

01 mai 2023 20h21

Je répondais tout à l’heure à un commentateur :

« C’est là le point commun aux objections des sceptiques ici parmi les commentateurs : vous supposez impossibles les effets d’émergence par auto-organisation engendrée par la complexité [l’éventualité d’un bond qualitatif entre la machinerie en entrée et le produit en sortie].

Réfléchissez à ceci : s’il était impossible à un être humain de créer un cerveau plus intelligent que le sien, il aurait été impossible à des atomes de devenir des molécules ( = émergence par auto-organisation), à des molécules de devenir des acides aminés ( = émergence par auto-organisation), à des acides aminés de devenir de l’ADN ( = émergence par auto-organisation), etc. Or tout cela a eu lieu : l’univers n’est pas une soupe indistincte de quarks. Donc la Singularité est possible et … preuve supplémentaire : elle a eu lieu 😉 ! »

Je vous jure que quand j’écrivais cela le 1er mai, j’ignorais que Neil Gershenfeld dirait la même chose le 29 mai 😉 !

Partager :

68 réponses à “Lex Fridman : La Singularité vient-elle ?

  1. Avatar de Guychard
    Guychard

    Vous vouliez sans doute dire acides nucleiques , mais peu importe , reste à nous expliquer qui est  » auto « 

    1. Avatar de Paul Jorion

      Il n’y a pas de saut entre acide nucléique et ADN : l’ADN est un acide nucléique.

      1
      1. Avatar de Guychard
        Guychard

        Si il y a l’ARN et l’ADN n’est pas un polyamide sinon ça se saurait , mais là n’est pas la question

        1. Avatar de timiota
          timiota

          Keskidi ? Question amides (dérivé azoté des acides carboxyliques), je n’en vois pas plus d’un côté que de l’autre (uracile vs thymine, U et T). Et pour la nuance désoxyribose vs ribose, c’est deux sucres. Les sucres c’est compliqué (résumé court de la physico chimie des sucres), et en tout cas c’est assez semblable au premier abord et demi.
          Un aldo-pentose qui a perdu un des 3 OH autour du (penta)cycle, qui est devenu un p’tit H, d’où dés-oxy.

          En revanche, il y a eu saut « organisationnel » dans la mesure où la conservation long terme est l’unique apanage de l’ADN. On soupçonne que l’ARN a été là en premier, et que U n’était pas assez stable pour émerger comme solution de stockage (« Shurgard » divin), alors que T oui.

          2
  2. Avatar de gaston
    gaston

    « Je vous jure que quand j’écrivais cela … »

    Mais qui vous dit que le présent blog n’est pas lu avec grande attention au M.I.T. ? 😉

    1
    1. Avatar de Paul Jorion

      Il est lu avec grande attention par quelqu’un ayant ses entrées au M.I.T., la probabilité n’est donc pas nulle, elle n’en est pas élevée pour autant 😉 .

  3. Avatar de CloClo
    CloClo

    Ce commentaire monté en « billet » avec la vidéo est effectivement édifiant au sens le plus correct du terme en l’espèce. Et je l’avais pris ainsi à l’époque. Sa propédeutique ouvre la réflexion.

    1
  4. Avatar de Garorock
    Garorock

     » les effets d’émergence par auto-organisation engendrée par la complexité  »
    La complexité engendrée par la connaissance humaine a produit des effets néfastes que l’on arrive plus à combattre pour la raison que n’émerge pas une oraganisation pour le faire.
    https://www.lemonde.fr/m-le-mag/article/2023/05/31/dans-le-delta-du-gange-les-premiers-refugies-climatiques_6175495_4500055.html
    https://www.lemonde.fr/planete/article/2023/05/31/pollution-nous-sommes-en-train-de-creer-un-monstrueux-reservoir-de-particules-de-plastique_6175601_3244.html

  5. Avatar de l'arsène
    l’arsène

    Si j’ai bien compris, l’être humain pour les aficionados de l’IA ne serait donc qu’une étape vers le règne des machines, des puces électroniques et des robots , les humains n’étant relégués à terme qu’à de simples molécules n’ayant plus aucune utilité.
    Donc à détruire.
    L’IA est donc pire que ce que Einstein avait trouvé pour maitriser les réactions de l’atome et la bombe atomique, l’IA, c’est l’extinction de l’humanité, mais en douceur, avec la complicité de tout le système capitaliste qui y trouve son compte.
    La question que je pose est la suivante : quant le peuple va-t-il être consulté pour savoir pourquoi il va être contrôlé et surtout remplacé par des machines.

    6
    1. Avatar de Paul Jorion

      Si j’ai bien compris…

      Non, vous n’avez rien compris du tout. Pourquoi les poissons auraient-ils dû être détruits quand les reptiles sont apparus ? Pourquoi les reptiles auraient-ils dû être détruits quand les mammifères sont apparus ?

      C’est vous qui introduisez cette extrapolation bizarroïde.

      3
      1. Avatar de l'arsène
        l’arsène

        @ Paul Jorion
        Donc vous confirmez par votre commentaire que la suite logique pour vous serait donc de laisser la place aux machines afin de remplacer l’Homme, cet être en fait ne représentant en fait pour vous qu’une espèce transitoire .
        Désolé, mais ce n’est pas du tout mon idéal, les machines, les puces et les robots ne pourront par exemple jamais créer des morceaux aussi fabuleux à la trompette que ceux produits par Chet Baker.
        Sinon, que Chat etc prouve le contraire.

        2
        1. Avatar de Paul Jorion

          C’est ridicule : les poissons n’ont pas « laissé la place » aux reptiles, les reptiles n’ont pas « laissé la place » aux mammifères. La preuve, ils sont tous toujours là. Enfin, pour l’instant.

    2. Avatar de Pascal
      Pascal

      Malheureusement, l’être humain n’a pas besoin d’une IA ou autre chose pour se détruire. Il se suffit à lui même ! 🙁

      1
    3. Avatar de Garorock
      Garorock

      T’es un maso l’Arsène! Voila l’explication.
      Et comme beaucoup de masos, tu aimes bien sadiser…
       » je suis une victime, mais comme vous ne voulez pas me reconnaitre comme tel, vous serez punis! » Voila ce que ici tu cris dans ton délire à longueur de commentaires…
      Poutine va tous vous tuer.
      L’OTAN va tous vous arnaquer.
      Et l’I.A, forcément, va tous nous détruire.
      😎

      6
      1. Avatar de l'arsène
        l’arsène

        @ Garorock
        Non camarade, sur ce coup faut pas tout mélanger mais oublier les bombes de l’Otan et les missiles de Poutine, là c’est un tout autre niveau, il s’agit du contrôle des masses par ceux qui croient que l’Homme a fait son temps, qu’il doit être  » réformé » et remplacé par des machines qui par exemple ne pourront plus faire grève ou manifester ni taper sur des casseroles.
        Le rêve absolu de toute dictature.

        2
        1. Avatar de Garorock
          Garorock

          L’Arsène,
          Donc tu penses que sur ce blog, tu discutes avec des gens qui sont pour le controle des masses et pour la dictature? Et tu viens nous dire cela en nous vendant du Poutine et du Mélenchon?
          Qui insulte qui?
          C’est toi qui a acheté un terrain pour que les papillons puissent vivre encore un peu tranquilles le jour où tu ne seras plus là?
          C’est toi qui a écrit des bouquins pour dire qu’il fallait impérativement changer de cadre sans quoi nous courrions à notre perte?
          C’est toi qui a « appelé » à voter Poutou? Tu sais le gars qui a travaillé à l’usine et qui n’a pas l’intention ne nous refaire le coup des bolchos qui ne nous a mené nulle part?
          Non. C’est pas toi. Et c’est pas moi non plus.

          2
    4. Avatar de chatgpythie2023
      chatgpythie2023

      https://vimeo.com/303264218
      Je vous invite à regarder ce documentaire. On y voit un prodige du MIT, financé par toute la tech, qui entend réaliser la singularité en 2035. Ce qui permettrait de sauver 10⁹ humains.

      Parmi ces aficionados, certains sont effectivement des fous dangereux, d’autres des savants fous, d’autres des gentils fous, mais certains n’ont rien à voir avec les autres, ils sont justes des fous utopistes.

      Ne craignez pas les insultes, et les dénigrements Arsène, sûrement l’oeuvre d’une IA éclairée messianique.

      PS: Oui, effectivement, nous sommes bien plus d’humains que 10⁹.

      1
      1. Avatar de Paul Jorion

        C’est un film de 2012, les choses sont allées plus vite que prévu : il n’a pas fallu attendre 2035, l’affaire a été réglée en 2022.

        1
  6. Avatar de Garorock
    Garorock

    Comment est ce que vous faites pour évaluer la logique d’un cerveau plus évolué que le votre?

    1
    1. Avatar de Maddalena Gilles
      Maddalena Gilles

      a) Ce que démentent non pas 2 siècles mais 2 milles siècles de progrès…

      b) Ce cerveau « plus évolué », mais conçu par nous, ne sera t’il pas capable de programmer également sa propre auto-extermination ?
      😉

    2. Avatar de Garorock
      Garorock

      Chatmachin,
      Donc vous mettez le cerveau d’Einstein et celui d’Hitler sur le même plan?
      Petit rappel: Albert a toujours détesté le cerveau d’Adolf!

  7. Avatar de arkao

    La Singularité vient-elle ?
    « Change pas de main je sens que ça vient » !
    L’intelligence sans l’empire des sens a-t-elle un sens ?

    5
    1. Avatar de CloClo
      CloClo

      Loupé ! Le véritable organe sexuel et orgasmique c’est le cerveau !

      3
      1. Avatar de Garorock
        Garorock

        Hé oui. Pas de bras, pas de chocolat!
        😎

    2. Avatar de Garorock
      Garorock

      S’en fout le Minou que la chair soit triste. Il a lu tout les livres!
      ( merci Mallarmé)

  8. Avatar de Christian Brasseur
    Christian Brasseur

    En tant que simple citoyen du monde, que puis-je espérer d’une IA, si ce n’est imaginer qu’elle puisse « adapter » ce qui peut l’être? En prenant en compte bien sûr, notre « condition humaine », comme avec pribor (si j’ai bien compris le concept).

  9. Avatar de JeNeSauraisVoir
    JeNeSauraisVoir

    Peut-être est-il possible d’objecter que le processus de passage de l’atome à la molécule, de la molécule aux acides aminés et ensuite des acides aminés à l’ADN relève, comme il est justement dit, d’une auto-organisation dans laquelle les éléments de départ continuent d’exister au sein du complexe final, bien que l’on ne sache pas bien dire par exemple si les atomes se sont joints à d’autres ‘de gaité de cœur’ ou plutôt contraints et forcés, s’ils sont à l’initiative de la réaction ou s’il la subissent, s’ils possède ou non un contrôle sur le processus etc…

    Or, le processus avec l’IA semble être celui d’un remplacement associé à la disparition de l’espèce humaine, du moins dans un des scénarii. Sans mettre en doute la possibilité d’une singularité, il me semble opportun de souligner qu’il s’agirait pour le moins de quelque chose d’autre que l’auto-organisation telle qu’elle apparait dans les exemples antérieurs. En définitive l’analogie parait peu immédiate et donc d’une puissance suggestive pas si évidente.

    Au demeurant et pour faire le lien avec un billet récent (Ce dont on parle sur le Blog de Paul Jorion) il me semble que ce que dit l’attitude des lecteurs un peu bougons n’est pas uniquement l’incrédulité ou une méfiance excessive vis-à-vis de l’IA mais plus vraisemblablement l’impression d’être abandonnés ; d’assister à une fuite en avant.

    Il s’agit, l’on peut supposer, de lecteurs qui sont parvenus, avec le Blog et les écrits de Paul Jorion à une certaine compréhension du cadre capitaliste qui structure nos sociétés et qui ont nourri, par la même occasion, l’espoir d’en sortir par le haut, sans trop de casse, grâce justement, à cette compréhension inédite du capitalisme. Mais en dépit de quelques espérances que font naître des épisodes tels que celui de la réforme des retraites, rien n’a bougé à ce jour du côté du capitalisme concentrationnaire de richesses.

    Il se fait toutefois que l’explication du capitalisme n’est pas l’unique centre d’intérêt de Paul Jorion. L’anthropologie des savoirs et l’intelligence artificielle par exemple sont des sujets sur lesquels il n’a jamais cessé de travailler. Au regard de cette continuité, il n’est pas étonnant de voir passer sur le blog des publications majoritairement orientées vers l’IA, dans un moment où il se passe justement quelque chose de significatif dans ce domaine.

    Il n’en demeure pas moins que pendant ce temps et au désespoir de ceux dont l’existence est plus directement sous l’emprise du capitalisme (c’est-à-dire presque tout le monde), l’on parle moins fréquemment de la transformation (du dépassement) de ce dernier que des perspectives de l’IA. Une IA qui n’est d’ailleurs pas envisagée comme un outil devant permettre d’enrayer l’effondrement annoncé de notre espèce pour nous faire bien vivre à nouveau mais plutôt comme un pas décisif vers l’option C qui consisterait à laisser choir ce que nous continuons d’être au profit de l’émergence d’une ‘société’ auto-organisée d’IA autonomes qui, bien que créées par l’espèce humaine, constituent un pas décisif vers l’exclusion de cette dernière de la suite des évènements.

    Le trouble viendrait donc, me semble-t-il, de la difficulté de faire le lien entre le sujet que l’on peut considérer comme historique sur ce blog (la crise des subprimes et plus généralement de l’agonie du capitalisme) et celui de l’avènement d’une singularité dans le domaine de l’intelligence artificielle. Si ce lien n’existe pas et si l’espèce humaine est vouée à disparaitre sans pouvoir exister en marge de l’IA et sans même prétendre à la place de constituant d’une IA qui lui survivrait, est-il si étonnant d’être confronté à une certaine extinction (ou un déplacement) des enthousiasmes ?

    8
    1. Avatar de Paul Jorion

      C’était le thème des premiers chapitres de Le dernier qui s’en va éteint la lumière (2016) que la probabilité que l’humanité abandonne la logique du profit était quasiment nulle. Celles et ceux qui croient que cette probabilité est significativement plus élevée ont bien entendu toute ma sympathie mais cela ne suffit pas à ce que je mise sur leur scénario.

      1
      1. Avatar de Hadrien
        Hadrien

        « la probabilité que l’humanité abandonne la logique du profit était quasiment nulle ». Oui, car cette phrase est équivalente à « la probabilité que l’humanité abandonne la consommation était quasiment nulle ». On n’a rien compris au capitalisme, si on ne constate pas que ce système récompense (trop) ceux qui sont assez malins pour satisfaire les besoins (légitimes ou non) de leurs contemporains solvables. Ce système mène le biotope à la destruction, donc la civilisation à sa perte non pas à cause de son injustice – réelle- mais par l’excès de consommation. Le problème du jorionisme (et des écolo-gauchistes): On laisse entendre qu’il suffirait de combattre l’injustice du capitalisme, alors que le problème réside dans la consommation excessive qu’il permet et exige.

        1
        1. Avatar de Arnaud Castex
          Arnaud Castex

          Seul le Jancovi-Jorionisme nous sauvera de l’extinction…

          1. Avatar de Hadrien
            Hadrien

            Jancovici dit très clairement que la crise vient de la consommation. Il ne cite quasi jamais le mot capitalisme. Il ne fait pas de politique politicienne. Ce n’est pas le cas de Jorion qui nous égare dans un gauchisme « sympathique » mais hors solution.

            1
        2. Avatar de Garorock
          Garorock

          Y’a un truc qui colle pas, l’empereur, avec votre dernière phrase.
          Parce que si on veut combattre l’injustice du capitalisme, on veut ipso-facto combattre la consommation excessive! Sans quoi autant aller beurrer les sandwichs…
          Le communisme 3.0 ne sera pas productiviste.
          Roussel finira à côté des cactus!

          1
          1. Avatar de Ruiz
            Ruiz

            @Garorock La civilisation néolibérale actuelle en développant dans les villes les pistes cyclables veut ramener le transport des masses vers leur travail au mode des années 50 dans la chine communiste de Mao, tout en installant quelques places de stationement avec recharge pour les heureux détenteurs d’une Tesla (écoresponsables).
            Le rève du prolétariat ouvrier occidental syndiqué de l’époque était (comme pour l’ouvrier de Ford) de posséder grâce à son travail en les construisant, sa petite Renault, avant de se voir remplacé par une main d’oeuvre immigrée, puis de voir l’activité délocalisée (au sein L’U.E. dans le meilleur des cas), et d’adapter son vote en conséquence.

            1. Avatar de Garorock
              Garorock

              Quand j’étais petit, dans une ville de province, mes deux grands-pères allaient au travail soit en vélo, soit en Solex. Ce devait être sous Pompidou. La zone industrielle était dans un ou plusieurs faubourgs de la ville.
              Les détenteurs de Tesla devront prendre leur perte. Ils auront droit a 200 kms d’autonomie par mois comme tout le monde! Et a 4 voyages en avion par vie!
              L’ouvrier de l’éco-village du futur pourra grâce à son travail posséder un véhicule ancien électrifié en covoiturage. Il le fera durer le plus longtemps possible. Comme à Cuba. Une DS 21, c’est quand même plus beau qu’une Tesla. Les villages du futur ressembleront à la Havane et à un film de Melville…
              Réservez vos places dès maintenant.
              Y’en aura pas pour tout le monde!

  10. Avatar de timiota
    timiota

    Comme quoi dans les affects angoissants y’a pas que se penser cafard à la Kafka,
    on peut aussi se penser dinosaure menacé par une météorite (voire une météorite de l’OTAN).
    Rendez vous quand les dinosaures auront des plumes ! (les oiseaux actuels)
    et divagueront dans les arbres comme moi ici.

    1
  11. Avatar de konrad
    konrad

    Expliquer l’Homme par des atomes puis des molécules « émergence auto-organisation » et des acides aminés = l’être humain capable de construire des fusées habitées qui font l’aller-retour sur la Lune en si peu de temps, il me semble qu’il y a des « chainons manquants » dans l’évolution.

    A l’échelle de la terre, homo sapiens apparait tardivement, il y a environ 300.000 ans. L’augmentation de la taille du cerveau et la dextérité des mains ont l’une après l’autre contribué aux développements de caractéristiques typiques des humains, comme le langage complexe, l’art et l’agriculture. Ces trois caractéristiques sont apparues au cours des 100 000 dernières années.
    Il y a environ 60 000 ans, d’après les preuves génétiques et fossiles, les humains modernes ont quitté l’Afrique pour coloniser le monde.
    Nous partageons près de 99 % de notre séquence génétique avec les chimpanzés et les bonobos.

    Et voilà qu’en si peu de temps nous avons constitué des civilisations, élaborés des langages, des éthiques, construit des architectures remarquables, inventé des engins qui volent dans le ciel et au fond des océans…
    Que s’est-il passé ?
    Pardon de faire acte de mon incrédulité face à ce miracle.
    Je ne sais pas ce qui s’est passé mais l’explication de « l’émergence auto-organisationnelle » ne me convainc guère et me laisse sur ma faim.

    1. Avatar de CloClo
      CloClo

      On se fait un mac do si tu veux ? Pour combler ta faim !

      Rien de mieux que du bon gras et du bon sucre dans ce genre de situation 😋

    2. Avatar de Garorock
      Garorock

      Moi, ce qui ne me convainc guère et me laisse sur ma faim c’est l’émergence d’un capitalisme ultra libéral. Y’a des explications à ce phénomème. Des milliers de livres sur le sujet.
      On sait pourquoi. On en souffre. Mais on fait avec. Et on y a tous plus ou moins participé…

      1. Avatar de konrad
        konrad

        Cloclo, Garorock,

        Si l’histoire de la terre était racontée en 24 heures (4,5 milliards d’années).
        A 21h06, émergence du premier organisme multicellulaire.
        23h40, premiers primates.
        23h59, premiers pas d’hominidés.

        Ça ne vous interpelle pas ?
        Quel est donc ce miracle qui nous fait Être !?
        Que nous ayons conscience de nous, de l’autre, de notre finitude et de notre présence, cela ne peut pas, ne doit pas, nous laisser enfermer dans une vision réductrice, uniquement matérialiste de la réalité !
        Homo sapiens n’est pas qu’homo œconomicus, ce n’est pas son devenir.
        La vraie « révolution » est là : « Je suis dans le monde mais pas du monde. »

        1. Avatar de CloClo
          CloClo

          Qu’est ce qui devrait nous interpeller Konrad dans ton décompte ?

          1. Avatar de konrad
            konrad

            Mais qu’on n’est pas qu’un corps de chair et de sang, mais aussi et surtout une âme, un principe spirituel !!
            Bon je sais ça ne fait pas l’unanimité, mais c’est là qu’est le devenir humain, prendre conscience de sa dimension spirituelle car « science sans conscience n’est que ruine de l’âme ».
            Là est le « salut » à mon avis, davantage que dans l’IA.
            Ça reste personnel, bien sur. 😉

            1. Avatar de CloClo
              CloClo

              Ah ok désolé, je ne suis pas au fait de ces choses là, surtout l’âme, mais je comprends un peu la spiritualité comme sensation et expérience personnelle. Je suis dans ma phase matérialiste en ce moment depuis pas mal de temps. Jusqu’à la prochaine crise mystique.

              2
              1. Avatar de Garorock
                Garorock

                Moi idem. Suis plus interressé par les spiritueux que par la spiritualité…
                Maintenant Konrad, pour la centième fois, envisager, peut être naivement, que l’I.A pourra nous permettre de réaliser le plan A, n’a rien de transhumaniste. Si il a une potentialité pourquoi la refuser. Pourquoi glapir à l’avance, alors que nous sommes dans un processus, que fatalement l’I.A sera pire que nous? Votre enfant, vous souhaitiez qu’il ressemble plutôt à Einstein ou à Hitler?

                1. Avatar de Garorock
                  Garorock

                  Y »a pas quelqu’un qui a dit que l’âme était un composé gazeux?
                  Non, non, c’est pas Mélenchon. C’est beaucoup plus vieux…

                  😎

                  1. Avatar de Hervey

                    @Garorock

                    Ma grand-mère.

                    Vrai, ma grand-mère nous racontait des histoires de feux follets dans les cimetières qui la nuit se manifestaient comme des apparitions … des histoires qu’elle nous racontait le soir avant de nous endormir.
                    Cauchemars assurés.

                2. Avatar de konrad
                  konrad

                  Garorock,
                  Loin de moi cette pensée. Tout bonnement je donne un point de vue qui ne cède pas au tropisme de l’IA salvatrice.
                  Ça ne veut pas dire que l’IA est un outil d’aucune aide, je pense que c’est un outil utile pour certaines fonctions mais ça reste un outil devant lequel je ne m’agenouille pas.
                  Je pense que pour être en équilibre il faut marcher sur deux jambes, la raison et la résonance, l’intelligence et la sensibilité… Là j’ai parfois le sentiment que l’IA et ses promoteurs sont unijambistes.
                  Ça reste un sentiment très subjectif qui pourrait se démentir d’ailleurs, c’est pourquoi j’apprécie les sujets et les commentaires postés.
                  Je reste confiant dans l’humain. 😉

      2. Avatar de Pascal
        Pascal

        Parce que quand on vit dans un « pays riche » comme l France, on profite tous du néolibéralisme et de la mondialisation. S’il fallait que les smartphones soient fabriqués en Europe avec les standards sociaux et environnementaux associés, beaucoup d’entre nous n’auraient pas les moyens de se les acheter, ni l’immense écran plasma qui trône au salon, ni les « grandes » marques…
        Qu’est ce que ça voudrait dire pour chacun de nous de renoncer volontairement au capitalisme et au néolibéralisme ? Aller vers la sobriété quand on a été biberonné à l’abondance ?

        2
        1. Avatar de Ruiz
          Ruiz

          @Pascal Celà ne ferait que ramener pour la plupart le mode de vie à celui d’il y a 40 à 50 ans, il était tout aussi démocratique, culturel, et inspiré de l’esprit du CNR. Pour certains cependant l’accès à ces nouvelles technologies seraient sans doute possible.
          C’est cette volonté d’égalitarisme exprimé par la société de consommation qui en utilisant la force du capitalisme entrepreuneurial a su développer une mondialisation de la production qui abouti à l’accroisement de la consommation de richesses non renouvelables notamment en Chine et se complait dans la croissance, tout en accélérant l’évolution climatique anthropique.

          1. Avatar de Garorock
            Garorock

            Dans les futurs villages d’Astérix, on vivra comme dans les années 50. Avec des panneaux solaires, quelques heures d’internet par jour et des téléphones portables…
            On ira bosser en vélo.
            On mangera Bio.
            Les paralythiques remarcheront.
            Les aveugles reverront.
            Et on partagera les petits pains…
            Ne vous inquiétez pas. Tout va bien se passer.
            L’avenir est hautement désirable…

        2. Avatar de Garorock
          Garorock

          Proposition de Jancovivi ( il doit lire ce blog et les mésaventures du pass sani-terre…):
          4 voyages en avion par personne pour toute une vie!
          Voila du radicalisme conséquent!
          Je vote pour.
          Vous voulez qu’on en parle?

          1
          1. Avatar de Ruiz
            Ruiz

            @Garorock Il semble que l’humanité se soit satisfaite parfaitement d’une telle contrainte (en moyenne) pendant longtemps, jusqu’aux années 1950 au moins …
            Et puis le maintien d’une humanité nombreuse 7 à 10 10^9 ne semble pas nécessiter des vols en grand nombre (à part pour les saisonniers récolteurs agricoles ?

            1. Avatar de Garorock
              Garorock

              Donc vous votez pour?
              Faut qu’on avance maintenant!

            2. Avatar de Pascal
              Pascal

              @Ruiz et Garorock
              On se satisfait pleinement de ne pas avoir un luxe qu’on n’a jamais connu. Se satisfaire de la sobriété quand on a connu une certaine aisance, c’est une autre affaire. Un changement de mentalité et pour changer des mentalités soit ce sont les contraintes extérieures qui nous y obligent et on n’a pas le choix, soit on décide de changer son rapport au monde et là, ça demande beaucoup de détermination !
              Quel choix aurons-nous ?

              1. Avatar de Garorock
                Garorock

                Oui Pascal, il est plus aisé de se passer de ce qu’on pas connu… C’est un fait. Mais dans le cas qui nous occupe, il va forcément, du moins en occident, falloir se passer de choses qui nous étaient agréables.
                Il n’y a pas vraiment d’autre choix.
                Et nous n’avons pas attendu ChatGPT pour le savoir…
                Et pour l’instant, dans ce combat, le Minou ne nous est d’aucune utilité.
                Il ne peut juste faire que répéter ce que disent les collapsologues…
                Donc, si on oublie le Minou 2 minutes, la proposition de Janco, qui vote pour?

                1. Avatar de Pascal
                  Pascal

                  Je viens de poser la question au Minou….
                  Et tu as raison, il ne fait que répéter ce que tous les politiques racontes en campagne mais font l’inverse une fois au pouvoir.
                  L’est pas très novateur le Minou !😕

                2. Avatar de Pascal
                  Pascal

                  Qui vote pour, demandes tu ?
                  Je reste toujours très dubitatif quant au rôle (actuel) du vote en démocratie. Le vote n’est validé par les politiques que lorsqu’il va dans leur sens. Quand ça va à contre sens, ils s’arrangent pour le détourner.
                  Sommes nous limités au vote ?

  12. Avatar de Benjamin
    Benjamin

    Bonsoir Paul,
    (et bonsoir à toutes et tous),

    Un des enjeux de la singularité (supposée ou avérée) de ChatGTP… N’est-ce pas la démonstration de P = NP ?

    Ce qui me fait penser à ça, ce sont les cinq mondes décrits par Russel Impagliazzo – qui lui ont été inspirés par les travaux de Lenoid Levin autour des problèmes cryptographiques. Et plus particulièrement le monde que Russel Impagliazzo a appelé « Algorithmica » !

    Pour le résumé, dans ce monde, P = NP est VRAI. Ainsi, les problèmes algorithmiques qui semblaient insolubles deviennent triviaux. L’intelligence artificielle y fait un bond énorme : il existe un algorithme capable de prendre en entrée des entrées et des sorties produites par un (ou des) humain(s) expert(s), et de fournir en sortie d’aussi bons résultats que ceux de(s) l’expert(s) humain(s).
    Bref… L’informatique s’en trouve révolutionnée ! L’ordinateur peut se charger de toutes les tâches dévolues aux humains. Parler une langue naturelle se réduit à savoir lire et interpréter un corpus réduit de textes. Savoir multiplier revient à savoir factoriser, déchiffrer et décrypter, avec ou sans la clé, sont des problèmes de difficultés équivalentes, et aucune cryptographie n’y est possible.

    En toute sincérité : Algorithmica, ça ressemble à un monde où la singularité de l’IA est avérée !?… Donc, (en faisant fi de tous les travaux mathématiques qu’il faudrait mener pour relier les différentes théories aux autres) le raccourci « si singularité de l’IA est VRAI alors P = NP est VRAI » n’est pas si « déconnant » ?!…

    Après, le nouveau problème à 1 millions de dollars, c’est peut-être d’arriver (mathématiquement) à démontrer que la singularité de l’IA est VRAI ?… Et si la singularité de l’IA était indécidable, est-ce que cela aurait des impacts sur le problème de P vs NP ?

    Sur cette série de questions (sans réponse…. immédiate), je vous souhaite bonne fin de soirée.

    1
  13. Avatar de gaston
    gaston

    Et dans le cas de cette expérience relatée par « The Guardian » ce jour, la singularité est-elle survenue ?

    https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

  14. Avatar de PIerre-Yves Dambrine
    PIerre-Yves Dambrine

    Ce discours insistant à propos de la Singularité – qui pose une intelligence qui serait à terme en tous points supérieure à la nôtre et qui rabat tout ce qui fait humanité à une question d’intelligence, est post-humaniste et comme tel constitue une nouvelle forme d’anti-humanisme.
    En accréditant, sans sourciller, la thèse de la Singularité comme émergence remplaçant la singularité humaine, nous acceptons et précipitons la perte de l’autonomie non seulement des humains face aux machines, mais des humains parmi les autres humains. C’est un projet d’acceptation de la disparition de l’humanité au motif que celle-ci serait incapable de relever les défis qui se présentent à elle.

    C’est la raison pour laquelle j’ai évoqué dans un autre commentaire le passage d’un Jorion I à un Jorion II. Jorion I avec le Soliton évoquait une crise de la complexité comme composante indécomposable du Soliton,  c’était la : » crise due à un monde où les interactions augmentent du fait que nous sommes de plus en plus nombreux dans un environnement de plus en plus mécanisé, monde où nous confions nos décisions à l’ordinateur alors que l’emploi disparaît en raison de notre remplacement par la machine sous la double forme du robot et du logiciel. » Certes, Paul Jorion pensait surtout à la finance lorsqu’il évoquait la nécessité de réduire la complexité des sociétés humaines. Mais la teneur générale de son discours semblait encore bien établie, il s’agissait pour le monde des humains de conserver et même amplifier la maîtrise de ses actions, pour oeuvrer au bien commun et à la continuation de l’aventure humaine. Ainsi citait-il volontiers Aristote, le philosophie par excellente des humains dans la Cité, où science, éthique et politique, sont pensés ensemble.

    Jorion II renonce de facto à la maîtrise de la complexité des sociétés humaines avec son projet consistant à faire advenir un monde entièrement régi par les machines, fussent-elles intelligentes, dans le but de faire advenir un ‘monde’ de robots. C’est le choix d’une fuite en avant, où nous abandonnons le contrôle de notre destinée aux machines ‘intelligentes’.
    Notre hôte envisage-t-il les implications éthiques et politiques de sa nouvelle ambition ? Si le nouveau paradigme émergeant ce sont les robots supérieurement intelligents l’humanité cesse d’avoir une existence propre et d’être composée de sujets éthiques et politiques. En effet le nouveau paradigme de l’intelligence émergeante des machines, par définition, par construction, instaure un monde non humain, puisque vouée à remplacer l’humanité ; s’évanouit alors la perspective que nous puissions penser avec ou contre nos semblables, et avec eux de décider de notre avenir. C’est la fin du monde cosmopolitique, même comme idéal. C’est la fin des débats au sein d’un monde humain puisque les IA conversationnelles, et a fortiori les robots supérieurement intelligents, deviennent les seuls interlocuteurs valables, se substituant alors aux interlocuteurs humains supposés désormais déficients mentaux dans la perspective du nouveau paradigme.

    Bien entendu il y a une phase transitoire entre le monde actuel régi par le paradigme humain et celui du monde régi par le paradigme purement robotique : nous continuons d’interagir et de débattre avec nos semblables humains, utilisant l’IA comme un outil à notre disposition pour effectuer le cas échéant des tâches utiles pour assurer nos conditions d’existence, voire les améliorer sur certains points, mais la tendance lourde qui s’installe c’est celle de l’emprise toujours plus forte du monde machinique, fût-il ‘intelligent’, sur le monde humain, dans tous ses aspects, lequel, à terme, disparaît corps et âme : les questions qu’adressent les humains aux machines deviennent de plus en plus triviales pendant que les machines intelligentes instaurent insensiblement le règne de leur paradigme propre, où les seules questions qui vaillent sont celles relatives à la mise en place du monde robotique.

    À cet horizon il n’y a donc plus de place pour l’humanité, en quelque sorte en sursis, avant disparition définitive.

    La conquête de l’autonomie des humains face aux Dieux tous puissants était ce qui faisait le projet humaniste. Ici le processus s’inverse : on réinvente un Dieu, sous la forme d’une nouvelle idole nommée Singularité, devant laquelle nous devrions nous incliner.

    Il ne s’agit pas comme d’aucuns le disent de tenter d’accomplir le plan A grâce à je ne sais qu’elle ruse de la raison qu’accomplirait le plan C.
    Non, c’est dès maintenant que cette idéologie du robot supérieur a des conséquences : des ressources humaines et d’intelligence qui pourraient être consacrées à la survie de l’humanité, je préfère dire de l’humanité que de l’espèce, car justement en n’évoquant que l’espèce on perd en route la nature éthique et politique de l’humanité, sont détournées vers ce seul projet. Le processus en cours de dé-politisation des sociétés humaines s’en trouve amplifié alors qu’il faudrait retourner vers nos semblables de toute urgence, au contact de la nature nourricière.

    Ainsi l’extractivisme et le capitalisme qui ruine les éco-systèmes deviennent peu de choses, sinon plus rien au regard du plan C. La nouvelle émergence se fiche bien de la pollution et du réchauffement climatique puisqu’il s’agit de construire des robots robustes. A quoi bon se soucier de la pollution et du réchauffement climatique si tout ce qui compte désormais c’est une intelligence soi-disant supérieure qui nous succéderait ?

    Dès lors pourquoi se fier aux avis critiques des experts académiques et non académiques d’ailleurs, si les plus efficaces dans l’avancement du projet sont les ingénieurs Gafami, ces mercenaires de l’intelligence machinique qui mieux que quiconque peuvent comprendre et analyser ce qu’est la Singularité. La question de la Singularité devient alors une simple question d’expertise. L’avis des usagers de l’IA importe beaucoup moins ou plus du tout, comme si les seuls qui pourraient en parler sérieusement sont ceux qui l’on conçue. Comme si ceux qui avaient inventé la bombe atomique devraient être les seuls habilités à en parler parce que ils en connaissent le fonctionnement et tous les détails techniques. Or toute technique pour avoir une quelconque valeur humaine, doit pouvoir être discutée, critiquée, par ceux qui l’utilisent avant d’être encadrée, régulée, voire rejetée, sans quoi elle perd sa finalité humaine. A moins bien sûr qu’il faille renoncer à toute finalité humaine.

    La fin de l’éthique et du politique signe la fin de l’altérité des égaux puisque nous devenons un temps, avant de disparaître complètement comme espèce, de simples agents de la construction de quelque chose qui a vocation à nous remplacer. Les humains ne sont plus que des objets, de simples variables d’ajustement pour le grand projet. Les humains avec leurs qualités, leur diversité deviennent interchangeables, et leurs qualités ne sont plus appréciées qu’au regard des nécessités du grand projet robotique. Si nous demeurons tous égaux c’est seulement devant l’IA dite supérieure, mais c’est alors en tant qu’assujettis au monde des machines intelligentes. C’est l’égalité de l’esclave parmi les esclaves.

    Exit donc l’éthique et le politique. Tout ce qu’il y a d’important en ce monde semble devoir désormais se résumer à cette seule question aux yeux du post-humaniste : est-ce bon pour la Singularité, pour l’avènement du monde des robots ?

    10
    1. Avatar de Rosebud1871
      Rosebud1871

      PYD, soubeyrand signale votre envoi, pour une fois d’ac sur le fond, la singularité ???

      1
    2. Avatar de timiota
      timiota

      Nous en sommes au stade où le fétichisme de la marchandise matérielle a mis l’humanité dans une mauvaise passe.
      L’envie d’autre chose pousse à « plussoyer » toute contre-tendance qui ferait fi de ce fétichisme, mais peut-être pas sur le mode amish.
      Passons-nous, dans cette contre-tendance générale, à un fétichisme de l’intelligence immatérielle (ou plutôt inorganique, siliconée à souhait), qui se présente comme « ce qu’il y a de mieux en ville » ?
      La mise à la disposition de l’AI pourrait aussi, à la limite, agir comme la mise à la disposition des langues pour les hommes suivant la mythologie : L’AI causerait un Babel à nouveau, une source de division lorsque nos niches cognitives ne peuvent communiquer. Que ce qui semble bien (la langue « sent vrai », les LLM étayent une langue qui « sent super vrai ») semble si bien qu’on ne verra pas pourquoi d’autres groupes n’adhère pas au même credo que son groupe à soi. « Ce qui semble bien », c’est évidemment aussi la politique (platoniquement ?), le choix « éclairé » du PrAInce direct branché sur l’AI, pour reprendre les torsions de mots derridiennes ou stiegleriennes (penser/panser, différence/différance, l’humain en panne d’essence).
      l’AI peut en effet bifurquer vers un Babel politique (en général pas très glorieux au final) au moins autant que vers une gouvernance globale acceptée, jouant le rôle de Bretton Woods + Bandung + quelques autres moments où les humains se sont crus investis d’une mission globale.

      1
      1. Avatar de Philippe Soubeyrand

        Bonjour,

        Timiota écrit ceci ; je cite : « l’AI peut en effet bifurquer vers un Babel politique (en général pas très glorieux au final) au moins autant que vers une gouvernance globale acceptée, jouant le rôle de Bretton Woods + Bandung + quelques autres moments où les humains se sont crus investis d’une mission globale. »

        Certes, oui ! Mais afin d’éviter qu’il ne s’agisse-t-ici que d’une simple croyance, tout en faisant en sorte que « l’éthique et le politique » pointé du doigt par Pierre-Yves Dambrine redeviennent-ENFIN glorieux, et afin de faire en sorte que cette investiture devienne-t-ENFIN plus « difficilement » concrète (complexité d’une Humanité polyglotte oblige), il va falloir ordonner à tout le monde de procéder autrement sur le champ ; c’est triste à dire, mais l’Humanité va devoir en passer par là, je ne vois pas d’autre solution, car à ce stade, de tout ce que j’ai pu lire jusqu’ici, cette dernière s’est littéralement fourvoyée, confondant une fois n’est pas coutume, vitesse et précipitation (avec 29 milliards en poche, on ne regarde malheureusement jamais à la dépense, et ceci à grand coup de fonction softmax), abordant le problème de l’IA carrément à l’envers, oubliant même le plus important, ce qui est primordial, à savoir la qualité des données d’entrée ; dites merci à cette soif de Liberté qui, jusqu’ici, nous a toujours aveuglés sur tous les sujets, avec toutes les conséquences dramatiques que l’on connait ; pour une Humanité forte :

        === >>> Théorème du perce-neige : face à notre soif ergodique de Liberté

        … où l’IA forte sera de la partie, forcément, mais pas ce GPT !

        La suite arrive bientôt…

        Philippe Soubeyrand

        ps : l’IA forte sera déterministe ou ne sera pas…

        1
    3. Avatar de Ruiz
      Ruiz

      @PIerre-Yves Dambrine  » Les humains ne sont plus que des objets, de simples variables d’ajustement pour le grand projet. Les humains avec leurs qualités, leur diversité deviennent interchangeables, et leurs qualités ne sont plus appréciées qu’au regard des nécessités du grand projet  »
      N’est-ce pas déjà là, toute la démarche à l’oeuvre depuis quelques décennies de l’alignement managerial néo-libéral, notament par l’esprit de la démarche qualité, des fiches de postes et entretiens d’évaluation, benchmarking et outsourcing.
      Quand à l’égalité elle n’existe que sur un plan assez théorique du droit et uniquement au sein d’une communauté auquelle l’apparenance est reconnue, nullement au niveau humain en général.

      1
      1. Avatar de PIerre-Yves Dambrine
        PIerre-Yves Dambrine

        Ruiz,
        A votre premiere remarque, je vous réponds oui.
        Concernant l’égalité, elle n’est pas acquise une fois pour toutes ; je l’évoquai en tant qu’aspiration légitime et reconnue comme telle, sauf bien sûr sous les régimes qui par principe n’en veulent pas, et ici à l’horizon du monde des robots où cette notion n’a plus lieu d’être non plus puisque les humains transfèrent pratiquement leurs capacités de penser le monde et de délibération aux machines intelligentes.

        J’avais donc en vue ici avant même de considérer l’égalité garantie par le doit puis réalisée, l’égalité dans sa dimension éthique, comme lien qui nous unit à d’autres humains, ces humains en lesquels nous reconnaissons à égalité les mêmes dispositions de pensée et de délibération dans la Cité. C’est la philia d’Aristote au fondement de la communauté politique. Or avec notre assujettissement au monde robotique, ce lien s’amenuise, voire se rompt.

  15. Avatar de Garorock
    Garorock

    Non, il n’y a pas que le vote. Mais si tout le monde est d’accord avec une mesure qui n’est pas proposée par les politiques mais pas les citoyens, il y a plus de chance que cette mesure soit adoptée par en haut.
    Tu vas me prendre l’exemple actuel de la réforme des retraites dont une majorité de citoyens ne veut pas et que veut Macron….
    On peut se restreindre à ne presque plus prendre l’avion. C’est aussi une question de volonté. Pour la retraite c’est pas la même!
    Et puis ici, nous ne sommes pas dans l’isoloir. On peut donner son avis, dire ce qu’on en pense, en discuter. Non?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta