Émergence de la capacité à parler couramment et à être conscient dans les Grands Modèles de Langage

Je répondais tout à l’heure à un commentateur :

C’est là le point commun aux objections des sceptiques ici parmi les commentateurs : vous supposez impossibles les effets d’émergence par auto-organisation engendrée par la complexité [l’éventualité d’un bond qualitatif entre la machinerie en entrée et le produit en sortie].

Réfléchissez à ceci : s’il était impossible à un être humain de créer un cerveau plus intelligent que le sien, il aurait été impossible à des atomes de devenir des molécules ( = émergence par auto-organisation), à des molécules de devenir des acides aminés ( = émergence par auto-organisation), à des acides aminés de devenir de l’ADN ( = émergence par auto-organisation), etc. Or tout cela a eu lieu : l’univers n’est pas une soupe indistincte de quarks. Donc la Singularité est possible et … preuve supplémentaire : elle a eu lieu 😉 !

Un article datant d’octobre de l’année dernière permet de situer le niveau de complexité nécessaire à un réseau neuronal pour qu’émerge la capacité à parler couramment (maîtriser parfaitement la langue) et à parler en son nom (apparaître comme un sujet conscient) – ce qui pose évidemment la question de savoir s’il s’agit de deux capacités distinctes. Ce niveau de complexité semble être 1022 opérations en virgule flottante (FLOPs) nécessaires pour former (« training ») le modèle, ce qui correspond à un modèle d’environ 10 milliards de paramètres.

L’article s’intitule « Emergent Abilities of Large Language Models » (Les capacités émergentes des Grands Modèles de Langage), signé de seize auteurs, il date donc d’octobre 2022.

Cet article traite d’un phénomène non prévisible que nous appelons les capacités émergentes des Grands Modèles de Langage. Nous considérons qu’une capacité est émergente si elle n’est pas présente dans les modèles plus petits mais qu’elle l’est dans les modèles plus grands. Ainsi, les capacités émergentes ne peuvent pas être prédites simplement en extrapolant les performances des modèles plus petits.

Ci-dessous, deux figures représentant le décollage de la performance dans différents tests d’intelligence pour différents Grands Modèles de Langage (dont GPT-3), la première en fonction du nombre d’opérations nécessaires au « training », à l’apprentissage, la seconde en fonction du nombre de paramètres dans le modèle.

L’existence d’un seuil pour l’émergence de la compréhension du langage est manifeste.

Partager :

109 réponses à “Émergence de la capacité à parler couramment et à être conscient dans les Grands Modèles de Langage

  1. Avatar de Le trébuchon
    Le trébuchon

    Mes respects Mr Jorion, c’est bien cela que vous gobez comme un oeuf : tout ce qui ne serait pas implémentable ne serait pas réel. J’avais bcp bcp bcp d’estime en vous, c’est fini. Bonne fin de nuit à vous et ne viendrai plus sur votre plate forme de surf. Salut !

    1. Avatar de Paul Jorion

      Quelle tristesse de voir des lecteurs de mon blog à ce point affligés par la Singularité !

      D’où vient ce sentiment, que je vois – à ma grande surprise – fort partagé ici, de vivre comme une défaite personnelle le moment le plus fort certainement d’un genre humain en manque pourtant de grands moments de fierté ? Ces scientifiques, ces ingénieurs, ces informaticiens, auteurs de cette incroyable prouesse, seraient-ils perçus par certains comme des ennemis ?

      1. Avatar de Garorock
        Garorock

        Oui, il est curieux que des super diplomés du tertiaire crachent à ce point sur leurs pairs!
        De la jalousie?
        Rendez-nous Her doctor Raoult!
        Donnez-nous des escrocs qui nous caressent dans le sens du poil!
        PLutôt mourir de soif que d’accepter de boire au tonneau d’un saint bernard à roulettes…
        Plutôt mourir de faim, debout, les pieds dans la glue, avec la foi hautaine en son intelligence superficielle que d’accepter l’aide éventuelle d’un Einstein au carré sous prétexte qu’il ne serait pas né sous le soleil du Chiapas…

      2. Avatar de JeanSé
        JeanSé

        Ne serait-ce pas plutôt de la peur ? Moi-même j’avoue un mélange d’angoisse et d’excitation par rapport à tout ça. C’est proprement vertigineux !

        1. Avatar de Garorock
          Garorock

          Vertigineux est le mot qui convient.
          Mais le vertige ne nous affecte que lorsqu’on a les deux pieds sur terre. Dès qu’on s’envole il disparaît. Sans que l’on change de galaxie.
          Le minou Californien semble nous offrir un baptème de parapente.

      3. Avatar de fnh
        fnh

        Ne serait-ce pas parce que, depuis, entre autres, Auschwitz et Hiroshima, l’aura de « Ces scientifiques, ces ingénieurs, ces informaticiens, auteurs de cette incroyable prouesse », a quelque peu pâli (ne vous méprenez pas, c’est une vrai question, non seulement rhétorique) ?

        1. Avatar de Lagarde Georges
          Lagarde Georges

          … Depuis toujours, en fait : le feu, l’agriculture et l’élevage, naviguer sur les mer,
          utiliser les métaux, pour ce qui nous sert à subvenir à nos besoins. Plus dérangeant peut-être (Auschwitz, etc) : l’écriture, l’imprimerie, l’Encyclopédie, l’image mécanique, le téléphone, la radio puis la télé, Internet.

          Pour ce qui est de Hiroshima, il me semble que lors de l’invention de la poudre à canon (probablement plus de peur que de mal à l’époque) les choses étaient suffisamment lentes et limitées pour qu’on ait le temps de s’adapter alors qu’avec le nucléaire l’énormité des dégats et la rapidité de l’escalade qu’ils pourraient déclencher suggèrent que le mieux qu’on puisse espérer serait une remise à zéro totale de la « civilisation » qui y a conduit suivie d’un nouveau départ.

          1. Avatar de Dup
            Dup

            Rien à voir avec un saut technologique, c’est l’altérité même qui va être mise au rebus… Fini l’enfer… Ya vraiment de quoi être terrifié ne vous en déplaise.

      4. Avatar de Dup
        Dup

        On sait très bien le sort qui attend les pauvres si la probabilité que dans leur progéniture se trouve Le Génie dont les riches ont besoins n’a plus aucun intérêt… Le prochain vaccin coutera très très cher et la prochaine pandémie rendra stérile… Si tant est que le génocide soit « soft »…

  2. Avatar de ilicitano
    ilicitano

    Lecture de la pensée

    Des scientifiques ont mis au point un décodeur qui, via l’imagerie cérébrale et l’intelligence artificielle, arrive à traduire en langage la pensée d’une personne sans qu’elle ne s’exprime, selon une étude publiée ce jour.

    https://www.nature.com/articles/s41593-023-01304-9

    Résumé traduit:
    Une interface cerveau-ordinateur qui décode le langage continu à partir d’enregistrements non invasifs aurait de nombreuses applications scientifiques et pratiques.
    Actuellement, cependant, les décodeurs de langage non invasifs ne peuvent identifier les stimuli que parmi un petit ensemble de mots ou de phrases.
    Nous présentons ici un décodeur non invasif qui reconstruit le langage continu à partir de représentations sémantiques corticales enregistrées à l’aide de l’imagerie par résonance magnétique fonctionnelle (IRMf).
    Grâce à de nouveaux enregistrements cérébraux, ce décodeur génère des séquences de mots intelligibles qui récupèrent le sens de la parole perçue, de la parole imaginée et même des vidéos silencieuses, démontrant qu’un seul décodeur peut être appliqué à une gamme de tâches.
    Nous avons testé le décodeur à travers le cortex et constaté que le langage continu peut être décodé séparément à partir de plusieurs régions.
    Comme les interfaces cerveau-ordinateur doivent respecter la vie privée mentale, nous avons testé si un décodage réussi nécessite la coopération du sujet et constaté que la coopération du sujet est nécessaire à la fois pour former et pour appliquer le décodeur.
    Nos résultats démontrent la viabilité des interfaces cerveau-ordinateur non invasives du langage.

    On n’arrête pas le progrès

  3. Avatar de Khanard
    Khanard

    sans vouloir entrer dans une lutte partisane force est de constater que bon nombre ici sont de mauvaises foi .
    https://www.pauljorion.com/blog/2015/02/14/la-singularite-approche/

    https://www.pauljorion.com/blog/2016/01/19/singularite-intelligence-artificielle-et-cretinerie-naturelle-par-roberto-boulant/

    https://www.pauljorion.com/blog/2017/02/05/la-singularite-cest-pour-quand/

    et j’en passe ! si vous en voulez plus tapez dans le moteur de recherche « singularité » en haut à droite.

    alors je ne comprends pas toutes ces personnes qui ont des vapeurs de vierges affolées et qui s’écrient « mais comment M. Paul Jorion! vous devenez fou !

    Regardez bien les dates s’il vous plait ! Cela fait 7 ans que M. Jorion est fou .

    Et vous êtes encore là à guetter la chute ? Auquel cas c’est de la perversité ? Du masochisme ?

    je vais finir par me mettre en colère face à tant de malhonnêteté intellectuelle .

    1. Avatar de Paul Jorion

      Bien vu, tout le monde savait que la Singularité était en route ! (Et vous n’avez pas droit, vous Khanard, à ce que je reçois dans mes mails !).

      Je trouve ça très curieux, cette incapacité à s’identifier à l’espèce toute entière, ou plus simplement, à féliciter les équipes de chercheurs qui sont arrivés à réaliser cela, même s’il y a une part de ne pas avoir compris parfaitement pourquoi ça marche. Ou alors, c’est l’amertume : « Je ressens tout avec amertume, donc cela bien entendu y compris » ?

      1. Avatar de Pascal
        Pascal

        Ne serait ce pas de la résistance au changement ? C’est une autre des grandes particularités de l’être humain.

        1. Avatar de Garorock
          Garorock

          Z’ont pas plus résisté que les autres à l’eau chaude au robinet, aux voyages en avion, aux SUV et aux écrans plats!
          Pourtant personne ne leur a mis un flingue sur la tempe pour les empêcher d’aller aux WC au fond du jardin, chez Carrouf à cheval et d’écouter la TSF!

          1. Avatar de Ruiz
            Ruiz

            @Garorock Cependant personne ne leur a demandé leur avis pour se faire mensualiser et bancariser et ne plus recevoir leur paye en liquide au guichet de leur entreprise, pour les empêcher de payer leurs impôts en espèces, pour leur supprimer la possibilité d’appeler depuis un équipement public appelé cabine téléphonique publique, pour ne plus avoir accès à un service postal de courrier en 24 H, mais que la même organisation achemine les colis AMAZON dans la journée à tarif préférentiel, pour être obligé d’avoir un téléphone pour avoir accès aux services destinés aux SDF, pour avoir à comparer des dizaines d’offres de gaz ou d’électricité, dans la peur de se faire avoir en jouant une illusoire concurrence, pour bénéficier quand même d’un bouclier tarifaire, pour se faire installer un Linky qui permet le délestage à distance.
            Liste à compléter …

          2. Avatar de timiota
            timiota

            IL y a des effets connus de seuil d’adoption (vers 25%, p. ex. pour la voiture électrique en Orvège : une fois qu’elle a atteint 25%, elle a dépassé 50% l’année suivante).

        2. Avatar de konrad
          konrad

          Bonjour Pascal et tous,

          Oui, il y a de ça, rajoutez-y de l’orgueil et vous avez ce réflexe.
          Moi qui n’y connais rien dans ce domaine, je ne vous cache pas une anxiété devant ce phénomène. Comme si l’humanité démiurge venait d’enfanter un bambin dont on ne sait encore s’il s’agit d’un monstre ou d’un génie.
          Ce que peut produire le cerveau humain, aidé de la technologie, tient du prodige mais aussi fait craindre un peu le pire. Je pense par exemple à la bombe nucléaire.
          En tout cas, à l’heure actuelle, je reste dubitatif, entre l’enthousiasme de la venue d’un avatar qui va aider l’humanité à franchir le gué et la création d’un golem qui va anticiper notre effondrement.
          Je reste néanmoins optimiste, comme l’est Paul Jorion et je trouve sa position sur ce sujet singulièrement engagée avec panache.

          1. Avatar de PHILGILL
            PHILGILL

            Bonjour Konrad

            Vous avez écrit quelque chose qui m’a tout de suite interpelé : « Comme si l’humanité démiurge venait d’enfanter un bambin…» Tandis que Paul Jorion, lui, ne parle que d’une humanité qui a inventé quelque chose dont elle peut être fière…
            D’où ma question : pourquoi voyez-vous ChatGPT en bambin, quand d’autres n’y voient encore qu’une chose ?

            1. Avatar de konrad
              konrad

              @PHILGILL,

              « pourquoi voyez-vous ChatGPT en bambin, quand d’autres n’y voient encore qu’une chose ? »

              Là vous me cueillez en plein désarroi.
              Le plus souvent j’écris sans penser, ce qui doit se lire, sous affect.
              Votre question est un koan ! :sayonara:

              1. Avatar de PHILGILL
                PHILGILL

                @Konrad

                Oooh, mais c’est incroyable ! Aussi, si vous me le permettez, j’aimerais continuer mon petit rapport psychologique, afin de comprendre la cause de votre naturel désarroi.
                Revenons-en à votre comparaison :
                « Comme si l’humanité démiurge venait d’enfanter un bambin…»
                La femme qui donne le jour à son enfant, devient donc ici une humanité démiurge, tandis que la technologie GPT est son bambin.
                Or, le simple fait d’avoir relevé cette analogie quelque peu irréelle [tandis que d’autres, pensant logiquement ce qu’ils écrivent, ne la font pas], vous a mis en plein désarroi. Mais quelle en est l’origine profonde ?
                Vous écrivez : « Là vous me cueillez en plein désarroi. » En général, on cueille quelque chose qui est à portée de main, c’est-à-dire, à une distance suffisamment proche pour que la main puisse la saisir. Et pour le coup, ce que la main saisit ici comme le fruit d’un arbre, c’est l’enfant que la femme met au monde…
                Cependant, de même qu’on ne sait si un nouveau fruit est sucré ou amer avant de le goûter, on ne sait encore si l’enfant est un monstre ou un génie, avant de le voir grandir.
                Ainsi en psychiatrie, « avant la naissance, et pendant la période postnatale, on s’emploie à prévenir les projections négatives dont l’enfant risque d’être l’objet. » (1)
                Ainsi, il peut arriver qu’une jeune mère ait peur d’être dévorée par son nouveau-né en lui donnant le sein. Mais de là à imaginer que le cerveau humain, aidé de la technologie, puisse rejouer ses angoisses fondées durant ses relations premières avec la vie, il y a encore un bout de chemin à faire.
                À moins que, nous entrions … dans l’antre du démiurge, afin d’y voir plus clair.

                (1) https://www.cairn.info/revue-devenir-2001-2-page-41.htm#:~:text=Au%20cours%20de%20la%20grossesse,est%20actualis%C3%A9%20par%20la%20grossesse.

                1. Avatar de konrad
                  konrad

                  @PHILGILL?

                  En poursuivant vous risquez la désillusion, je suis un esprit simple.
                  J’ai dessiné – écris – comme un enfant, ce qui me passait par la tête à la suite des commentaires.
                  Vous y « voyez » quelque chose. Bien à vous, cela est votre vérité de « psychologue ». 😉
                  Ma fantaisie d’écriture n’a pas le caractère « sérieux » que vous lui prêtez, ce sont des mots qui passent tels les nuages dans le ciel.
                  Ceci dit, vos propos sur la prévention des projections négatives sur l’enfant à venir sont pertinents et en effet, attendons de voir grandir l’IA avant de la qualifier de quelque façon.
                  Votre lien m’a ouvert un horizon insolite. Merci.

                  1. Avatar de PHILGILL
                    PHILGILL

                    @Konrad
                    C’est moi qui vous remercie.
                    Bonne journée

        3. Avatar de PHILGILL
          PHILGILL

          @Pascal

          Ce n’est pas une résistance au changement, à proprement parler. Je parlerai plutôt d’une résistance à «l’intersubjectivité ». Par peur, sans doute, que l’être humain, lui-même, ne devienne pour GPT (en l’occurrence), un nouveau champ d’études…

          David Bowman :
          — Tu prépares ton rapport psychologique sur l’équipage ?

          Hal 9000 :
          — Bien sûr, je m’excuse. Je sais que c’est idiot.

          Remarque : Tout comme ChatGPT, il y a 55 ans déjà, on note que Hal de 2001, l’Odyssée de l’espace, s’excusait aussi, de manière répétée. Mais c’était pour qu’on lui pardonne sa curiosité, non pour s’excuser d’une erreur qui ne peut être de son fait, mais de l’homme.
          Quant à l’intersubjectivité…
          il faudra bien sûr y revenir beaucoup plus en détail, « comme autre « facteur de complexité »…

          https://www.pauljorion.com/blog/2021/01/17/ce-que-lintelligence-artificielle-devra-a-freud-1987/

        4. Avatar de Lagarde Georges
          Lagarde Georges

          Que les changements entraînés par l’IA ne provoquent pas les même réactions que les changements qui affectent ceux qui sont moins bien placées dans la hiérarchie sociale (ex: un robot qui effectue la cueillette des fruits et élimine le recours à la main-d’œuvre agricole saisonnière) n’a rien de surprenant.

          La croissance du pourcentage de la population dont le métier ne demande rien d’autre que de parler ou d’écrire (métiers qui sont donc de plus en plus facile à automatiser grâce à l’IA) est probablement aussi extraordinaire que la décroissance du pourcentage de la population se consacrant à l’agriculture.

      2. Avatar de Pascal
        Pascal

        Peut-être une piste de ce côté là !?
        https://www.youtube.com/watch?v=AeCuYh29ID8

        1. Avatar de Paul Jorion

          Aurélie Jean sait manifestement de quoi elle parle. Le livre de Koenig a l’air intéressant, je viens de le commander.

          1. Avatar de Garorock
            Garorock

            Je vais aller commander le livre d’Aurélie Jean à la biblio.
            J’ai l’impression que celui de M Koenig ne m’apprendra rien de plus que ce que j’ai appris sur ce blog mais viendra juste le confirmer… Par contre il devrait plaire à Timiota. M Koenig semble amoureux de D.Graeber 😎

            1. Avatar de timiota
              timiota

              Graeber et Wengrow secouent le cocotier des déductions faites à partir de peu d’éléments et de regards « historicisés », la cosmologie et la paléo-anthropologie boxent dans des catégories proches à ce niveau. Ca ne me déplait pas comme boulot d’historien, segment « aiguillon » (comme Mathilde Larrère & Co pour « le Puy du Faux » https://arenes.fr/livre/le-puy-du-faux/ dans un registre évidemment un peu plus extrême où les lectures intentionnelles sont des prémisses non dissimulé).

              Bon, mais le cocotier de l’AI lui aussi reçoit quelques rafales :
              https://www.theguardian.com/technology/2023/may/02/geoffrey-hinton-godfather-of-ai-quits-google-warns-dangers-of-machine-learning

              Si on me montre qu’il existe une « sève d’AI par la base », une « AI montante » qui n’est pas là pour répandre un savoir « de un vers N » (1=>N), ce qui fait partie de la critique de Hinton, mais plutôt pour faire que l’expérience de chacun remonte vers celle de la (des) collectivité.s (N=>M, M=1 seulement un cas limite), et que GPT-5 la fait advenir sans autre ombre majeure au tableau, j’en serai fort aise.

              1. Avatar de Garorock
                Garorock

                « le Puy du Faux »: excellent!
                Cela ne va pas plaire au fou du Puy…
                Certains disent que Graeber et Wengrow n’ont fait tomber du palmier que des noix de coco qui sonnent creux…
                J’ai lu le livre sur la dette et les jobs pourris.
                Mais sur les conseil de Paul, je me suis fait offrir le livre d’Harari plutôt que le dernier Graeber…
                C’est quoi le lien entre la cosmologie et la paléo-anthropologie?

                1. Avatar de timiota
                  timiota

                  Qu’on construit une grosse théorie sur peu d’indices, en l’alignant surtout sur les « biais de confirmation » des théories existantes.
                  Dans un domaine juste voisin, Lee Smolyn a bien expliqué dans son livre « The Trouble with physics » (traduc FR facile à trouver) les théoriciens de la « théorie des cordes » avaient pris les manettes en physique théorique et avaient rendu le domaine « monoculturel » dans les années 2000. Alors que c’est une théorie qui n’a jamais pu passer la boucle « prédiction/confirmation » qu’avaient passé toutes les autres théories admises avant un seuil typique de 20 ans (les quarks, les neutrinos, etc.). D’autres doivent le dire mieux que moi (paradigme, épistémé, Kuhn, Popper, …)

                2. Avatar de Ruiz
                  Ruiz

                  @Garorock Un lien entre la cosmologie et la paléo-anthropologie c’est la théorie des anciens astronautes :
                  https://fr.wikipedia.org/wiki/Th%C3%A9orie_des_anciens_astronautes

                  qui elle aussi comme certaines IA relient des données éparses ..

                  1. Avatar de Garorock
                    Garorock

                    Jacques Grimault réalisateur du docu » la révélation des pyramides »
                    qui a cartonné sur le net et excité les conspis s’est fait poisser par les zététiciens. Cet escroc a perdu le procès qu’ils lui ont intenté.
                    Champagne!

          2. Avatar de Otromeros
            Otromeros

            Dans les commentaires sous la vidéo.. ce morceau choisi (m’)interroge.

            mario delauway
            il y a 3 jours
             » Ces outils d’intelligence artificielle sont incapables de produire une pensée originale, atypique, non conforme aux normes morales contemporaines. Aussi, comment peut-on demander à l’IA d’analyser l’histoire des civilisations, des arts, de la pensée humaine qui procèdent de phénomènes complexes et de logiques bien souvent antinomiques ?
            Après avoir testé chat GPT-4, j’ai trouvé que le «politiquement correct» était trop prégnant dans les analyses faites par ces outils en ligne (au point d’en avoir la nausée).
            « 

            1. Avatar de Pascal
              Pascal

              Le « politiquement correct », certains aimeraient bien s’en affranchir (Cf le commentaire de Ilicitano https://www.pauljorion.com/blog/2023/05/02/video-la-singularite/comment-page-2/#comment-957620 )
              Mais pour ceux-là, au delà du politiquement correct, ce qu’ils cherchent c’est du No limite ! Le Bad Trip !
              Celui-là est encore gentil
              https://creator.nightcafe.studio/creation/DrPyj6SA9KWboXAI6x1u

        2. Avatar de Arnaud Castex
          Arnaud Castex

          Le débat dans cette vidéo du figaro est de très bonne qualité, avec des intervenant (Aurélie Jean et Gaspard Koenig) qui réfléchissent vraiment plutôt que de régurgiter des opinions préconçues.
          Je n’aurais jamais pensé dire ça un jour d’un débat dans le Figaro… Si cette « apocalypse  » n’est pas une preuve de la singularité !

          1. Avatar de Pascal
            Pascal

            L’a priori est mauvais conseiller, c’est bien connu. Je travaille à m’en libérer 😉
            Si l’on considère la diversité présente au sein du Conseil National de la Résistance, comment aurait on pu imaginer qu’ils se retrouvent autour d’une même table pour produire cette transformation de la société (certes sur des ruines) ?
            Sans doute avaient ils trouvé une motivation supérieure aux identités partisanes.
            S’il advient une nouvelle transformation de l’humanité, elle passera nécessairement par un dépassement des identités partisanes. Sera t il nécessaire d’attendre l’effondrement ???

            1. Avatar de Ruiz
              Ruiz

              @Pascal En effet comme il y avait sans doute le sentiment que tout était à reconstruire, il fallait embarquer tout le monde (un peu comme pour la résistance).
              Ce n’est plus le cas aujourd’hui, on beaucoup ont à perdre, dividendes ou années de retraite.

      3. Avatar de Khanard
        Khanard

        @Ruiz

        Je me trompe peut être mais j’ai comme la sensation que beaucoup se revendiquent comme étant le « père » de l’intelligence artificielle . N’avons nous pas là une sorte de nébuleuse auto satisfactoire ?

        1. Avatar de Pascal
          Pascal

          Si j’en crois mon fiston, les développements et innovations informatiques ont un caractère très horizontal avec beaucoup de choses en open source et des contributeurs multiples. Dans ce fourmillement relativement anarchique au regard du fonctionnement de la recherche institutionnelle traditionnelle, il ne serait pas étonnant que ce développe une certaine dilution de la paternité des découvertes tout comme, et c’est moins réjouissant, une dilution des responsabilités.

          1. Avatar de Khanard
            Khanard

            @Pascal

            c’est peut être l’effet start up nation mâtiné d’un peu d’auto entreprenariat véhiculé par une ubérisation galopante.

            Tiens ça y’est mon neveu a rompu son contrat de travail direction ANPE, ah non Pôle emploi , ah zut France emploi .

            1. Avatar de Pascal
              Pascal

              Perdu, c’est France Travail !
              Au moins le message est clair !😜

              1. Avatar de Garorock
                Garorock

                Travail, famine, pâtes, riz.

                1. Avatar de Ruiz
                  Ruiz

                  @Garorock Putain !

                2. Avatar de Pascal
                  Pascal

                  Tu fais un concours avec Timiota ?😂😂😂

            2. Avatar de Ruiz
              Ruiz

              @Khanard Emploi c’est un terme destiné à un comédien, en France il y a un emploi : Président de la république. Pour les autres il y a le travail !
              France travaille !

              1. Avatar de Pascal
                Pascal

                J’ai trouvé le nouveau logo !
                France Travaille 🫵

      4. Avatar de Khanard
        Khanard

        @Paul Jorion

        Votre questionnement revêt des espaces tellement vastes que je ne sais pas y répondre.
        Nous pourrions peut être déjà nous poser la question de nos façons de vivre en société, des relations d’autorité qui se mettent en place , sachant vs apprenant .
        Sans remonter très loin je n’ai toujours pas compris les antivaccins, par exemple, sachant que les découvertes de la technologie sur les ARN -m date de plusieurs décennies .
        Idem pour les systèmes intelligents , vous mentionnez ANNELLA , vos travaux datent tout de même de 1989 .

        alors je me dis que ce qui pour vous est l’aboutissement et la concrétisation de recherches , se révèle pour bien d’autres, ceux la qui nient , une découverte , une révélation.
        Peut être est ce une distorsion de l’échelle de l’évolution?

        En tout cas je suis impressionné par votre patience et votre foi

        1. Avatar de Jacques Racine
          Jacques Racine

          « je n’ai toujours pas compris les antivaccins, par exemple, sachant que les découvertes de la technologie sur les ARN -m date de plusieurs décennies. »

          Donc vous ne voyez pas la différence entre vaccins traditionnels et thérapie génique. Ni la différence entre l’idée de l’arn-m et les résultats finaux des tests. Je persiste en disant que pour un scientifique (en médecine de surcroît) c’est une faute d’oublier le principe de précaution.

          Ou si je suis juste con donnez moi un lien vers une explication que j’aurais loupé.

          1. Avatar de Jacques Racine
            Jacques Racine

            Tout en ayant en tête le tweet d’Edgar Morin du 19/08/20 : « Le principe de précaution n’a de sens qu’associé à un principe de risque indispensable à l’action et l’innovation. »

            Ce qui implique des tests d’autant plus représentatifs… et donc qu’une obligation à tous va fausser le résultat final!

          2. Avatar de Khanard
            Khanard

            @Jacques Racine
            vous vous faites du mal pour rien.

            tout d’abord je ne fais pas d’analogie avec les vaccins dits traditionnels.
            En outre je peux vous conseiller très vivement de lire cet ouvrage : La révolution de l’ARN messager . Vaccins et nouvelles thérapies. Fabrice Delaye . Ed Odile Jacob (Octobre 2021)

            Bonne lecture.

            1. Avatar de Jacques Racine
              Jacques Racine

              Ca roule, merci pour votre réponse, j’irai lire ça avant de répondre trop vite dorénavant!

              1. Avatar de Khanard
                Khanard

                @Jacques Racine

                Y’a pas de problème . si je peux aider dans ce cloaque .

            2. Avatar de Ruiz
              Ruiz

              @Khanard Sachant que les recherches sur les technologies ARN m datent de plusieurs décennies, ce que le grand public n’avait pas à l’esprit, mais aussi que ces technologies n’avaient jamais été mise en œuvre sur l’humain même à faible échelle et que sur les précédents coronavirus datant pourtant de plusieurs années, aucun candidat vaccin n’avait été développé …
              Il fallait la crise du Covid-19 pour que cette technologie soit financée et testée dans l’urgence avec les dérogations associées.

              1. Avatar de Khanard
                Khanard

                @Ruiz
                oui tout à fait , c’est pour ça que je fais un parallèle avec ce qui nous occupe-préoccupe actuellement au sujet des systèmes intelligents .

  4. Avatar de Luc Lecuona
    Luc Lecuona

    Vous n’êtes pas fou. Ni seul.
    Quand je pense à l’énergie et à la générosité que vous mettez à transmettre vos savoirs, vos intuitions, je comprends votre déception.

    Le jour même où vous avez dit « la cavalerie arrive », pour vous suivre avec attention, curiosité et gratitude depuis 12 ans, j’ai pris, illico, ma première semaine en tête à tête, avec ChatGPT-4.

    Depuis je constate également autour de moi que toutes les formes du déni sont toujours prêtes à bondir : hier les virus ou l’économie, aujourd’hui c’est sur la supériorité légendaire humaine. Que voulez-vous, nous sommes biaisés. Nombreux vulgarisateurs de sciences -mille fois plus compétents que moi – se réfugient pourtant derrière ses hallucinations inacceptables et le leitmotiv « ce n’est que la probabilité du prochain mot » pour ne proposer comme analyse en définitive pas grand chose de scientifique puisqu’ils ne disent rien ou alors parlent comme des gens un peu blasés. D’autres s’agrippent à l’idée d’un atavisme capitaliste pour s’assurer qu’il ne peut rien sortir de neuf d’une création capitaliste. Il y a aussi ceux qui fantasment l’IA omnisciente là maintenant, tout de suite : déçus, ils tournent alors les talons en maugréant. Il y a ceux qui ne font pas l’effort de sentir que pour l’instant ce qui est merveilleux, c’est que cette IA nous invite à faire preuve d’ingéniosité dans la formulation de nos questions, et qu’en soit, c’est un exercice qui réanime de nombreux chemins de l’esprit : se poser les bonnes questions, changer de perspective; tout est permis si c’est pas fantastique! Quand j’ai lu votre question à Chat GPT sur ce livre qu’elle a « halluciné » il y a quelques jours, j’ai souri en me disant : tiens, combien de temps s’est écoulé entre la réception étonnée et amusée de la réponse proposée par ChatGPT à votre biographie et le moment où vous vous êtes dit “et si je lui posais simplement la question de ce qui se trouve dans ce livre non-écrit ? “. Surtout, continuez Mr Jorion : c’est bon pour le moral et pour nos neurones même sous-optimisés !

    1. Avatar de Paul Jorion

      Le FUCI * vous remercie !

      Illustration DALL-E (+PJ)

      * Front Unifié des Créatures Intelligentes

  5. Avatar de Jean-Baptiste Auxiètre
    Jean-Baptiste Auxiètre

    Aucun humain n’est capable de décrire exhaustivement les molécules qui le constituent et ceux qui ne savent même pas en décrire une ou à peine sont ceux qui s’insurgent, c’est plutôt drôle ! Ils connaissent leur nombre de doigts 10 et d’orteils (heureusement pour eux c’est le même) leur nombre d’os même pas à peu près etc… C’est comme quand il se reproduisent ils croient qu’ils sont le créateur alors qu’ils ne sont que le transmetteur d’une nature qui leur échappe complètement surtout et encore plus aujourd’hui…

    1. Avatar de Pascal
      Pascal

      Vous êtes en bonne voie pour le yoga, Jean-Baptiste ! 😉

      1. Avatar de Garorock
        Garorock

        Si t’as l’intention d’organiser un séminaire au Tibet, Pascal, sois gentil, vas-y avec les chouineurs tétanisés – t’as que l’embarras du choix – mais laisse-nous sur ce blog, l’avant-garde des diplomés.
        Ici, au soviet de la vallée de la loose, c’est d’eux dont nous avons besoin. C’est avec eux que l’on veut construire des abris pour que demain les bébés aient encore un peu d’eau dans leurs biberons…
        😎

        1. Avatar de Pascal
          Pascal

          Fais gaffe, tu vas bientôt virer technosurvivaliste ! 😜

          1. Avatar de Garorock
            Garorock

            T’inquiètes. Dans les futurs villages d’Astérix, que le minou va peut être nous aider à construire, on ne l’emportera pas avec nous pour aller ramasser les patates.
            Et les smartphones seront interdit lors du banquet.
            L’humain d’abord!
            😎

  6. Avatar de Michel Gaillard

    Je bidouille chatgpt4 depuis mars… Et découvre bien des failles et des imperfections. Ma fille qui termine ses études universitaires aussi (bcp de ses amis utilisent l’outil pour leurs études et exams, et les profs ne se rendent compte de rien… kr kr kr)
    Reste que ça va, sans aucun doute, s’améliorer et au vu de ce qu’on peut déjà faire et demander à ce fantastique outil il y a certainement quelque chose qui se passe…
    N’est qu’on est sur un très sophistiqué compendium – avec grosse force brute de données – des connaissances sémantisées humaines, et que les humains me semblent conserver un avantage certain pour plusieurs raisons, ils font des erreurs et apprennent, ils oublient, et apprennent, etc… mais surtout : le langage n’est qu’un infime vernis, organisation anthropique, dernière hyper-structure d’une source encore peu sondable, atomes, molécules, tissus, bestioles, etc… avec, en avant dernier rideau, le monde des signes – infiniment plus vaste, complexe et intriqué que nos langages. Voilà pourquoi je suis assez de l’avis de Yann Le Cun

  7. Avatar de Thomas Jeanson
    Thomas Jeanson

    J’étais en bonne voie pour la position :

    Bon, ok, la singularité a eu lieu, très bien, mais ça va pas me concerner des masses, et du coup je ne vais pas consacrer de temps au sujet.

    La lecture du blog me persuade du fait que l’AI envahit notre monde, là, maintenant, et même le mien, que la moindre des choses serait d’y prêter un peu d’attention.

    Merci à tous une fois de plus pour ce lieu qui nous permet de partager cette aventure, je ne sais vraiment pas où je pourrais accéder à ces infos synthétiques ailleurs !

  8. Avatar de Vincent Knobil
    Vincent Knobil

    Je n’ai aucun problème à croire qu’une machine puisse atteindre et dépasser l’intelligence humaine, et c’est peut-être le cas de GPT4, et je ne découvre pas vos idées et vos compétences dans ce domaine.

    Cela étant dit, vous nous mettez devant le fait accompli sans expliquer ou justifier votre croyance, comme si c’était une évidence. Vous avez peut-être raison, mais des chercheuses émérites comme Emily Bender ou Timnit Gebru, qui ne pensent pas que ces LLM aient atteint une quelconque intelligence, ont le mérite d’expliquer *pourquoi* elles pensent cela.

    À bon entendeur ?

    1. Avatar de Paul Jorion

      … sans expliquer ou justifier votre croyance, comme si c’était une évidence.

      Ces questions sont débattues ici depuis la naissance du blog en 2007. Le troisième billet, le 3 mars 2007 est intitulé « Le robot lacanien ».

      C’était, il y a seize ans. Vous appelez cela « nous mettre devant le fait accompli » ?

      « … je ne découvre pas vos idées et vos compétences dans ce domaine ». Rendez-vous, c’est juste un exemple, sur Wikipédia, vous y découvrirez, par exemple, que je suis un pionnier de l’Intelligence Artificielle : Activités dans les domaines de l’intelligence artificielle et de la psychanalyse.

      Renseignez-vous et revenez-nous quand vous vous serez mis au courant. ChatGPT, par exemple, pourra vous aider.

      1. Avatar de Vincent Knobil
        Vincent Knobil

        Je dis justement dans mon commentaire que je connais et que je respecte vos compétences dans le domaine !

        Mais il existe bel et bien un débat entre spécialistes sur la nature ou le degré d’intelligence de chatGPT et compagnie, et ces spécialistes des deux bords prennent souvent la peine de justifier, parfois de manière exhaustive, leur opinion.

        À la lecture de votre blog et de vos vidéos, j’ai le sentiment que vous parlez comme si la question était pliée, que la chose était entendue, et j’en sort frustré, parce que je ne sais pas ou je ne comprends pas d’où vous vient la certitude ou la conviction que ces systèmes sont intelligents (sachant encore une fois que d’autres spécialistes ne sont pas d’accord) et ça m’intéresserait de le savoir, c’est tout.

        1. Avatar de Paul Jorion

          Je lis ces « spécialistes » des deux bords, certains ont de véritables compétences, d’autres sont auto-proclamés. Certains ont une approche scientifique, au sens classique du terme, de ces questions ; je n’ai pas le souvenir d’avoir une autre opinion qu’eux. D’autres sont des militants dans une perspective « politiquement correcte », ce qu’on appelle aussi « woke » (« la théorie physique contemporaine porte les traces de l’esclavagisme qui imprégnait la société au moment où elle fut conçue », etc.), ou des mystiques laissant entendre de manière plus ou moins explicite que nous empiétons sur les compétences divines ; je n’ai pas souvenir d’avoir été d’accord avec eux.

          Mon billet hier « Émergence de la capacité à parler couramment et à être conscient dans les Grands Modèles de Langage » est typique de la manière dont j’aborde les choses : il montre comment ChatGBT & Cy passent les tests d’intelligence et y réussissent désormais mieux que la majorité des êtres humains.

          1. Avatar de Vincent Knobil
            Vincent Knobil

            Merci pour ces précisions (et je n’ai pas encore écouté votre dernière vidéo. Les deux chercheuses que j’ai mentionnées sont peut-être woke comme vous dites (ce qui n’est pas une tare à mes yeux), mais elles sont plus que compétentes scientifiquement pour parler de ces sujets. J’ai également écouté et lu des interviews avec d’autres scientifiques, dont le chercheur en chef russe chez Open AI, et le français chez Microsoft et pas mal d’autres, qui sont globalement de votre avis, mais que je trouve souvent plus prudents que vous dans leurs affirmations. Je n’ai pas les compétences scientifiques pour trancher, et je n’exclus en aucun cas que vous ayez raison sur toute la ligne, mais sur la base de tout ce qui précède, et des interets économiques qui sont en jeu, la prudence ne me paraît pas injustifiée.

            1. Avatar de Paul Jorion

              Je vous laisse volontiers la prudence 😉 .

          2. Avatar de Garorock
            Garorock

            D’autres sont des militants dans une perspective « politiquement correcte », ce qu’on appelle aussi « woke » (« la théorie physique contemporaine porte les traces de l’esclavagisme qui imprégnait la société au moment où elle fut conçue », etc.)
            La théorie physique contemporaine, c’est celle d’Einstein?
            Si c’est oui, je comprends pas la suite.
            Si c’est non, je comprends pas non plus.
            Et ça m’enerve!
            😎

          3. Avatar de Pascal
            Pascal

            « des mystiques laissant entendre de manière plus ou moins explicite que nous empiétons sur les compétences divines ». Paul, ça c’est pas des mystiques, juste des businessmen of belief ! 😉

    2. Avatar de Arnaud Castex
      Arnaud Castex

      Vincent Knobil, Pourriez vous présenter le raisonnement des 2 chercheurs que vous coter si possible ?

      1. Avatar de Vincent Knobil
        Vincent Knobil

        Timnit Gebru est une chercheuse spécialisée dans l’éthique de l’intelligence artificielle et notamment les biais algorithmiques (Wikipedia), qui était notamment en charge de l’éthique de l’IA chez Google (avant de se faire virer). Emily Bender est une docteure en « computational linguistics », qui maîtrise autant l’aspect informatique que le domaine de la linguistique au sens large. Vous trouverez facilement des interviews d’elles (en anglais). Leurs opinions sont précises et détaillées et ne se résument pas facilement en quelques phrases (quand on n’a pas le talent d’un LLM 😄). Mais même chez les spécialistes qui penchent de l’autre côté que j’ai pu écouter (et j’en ai écouté beaucoup car le sujet m’intéresse), la plupart sont moins certains et catégoriques que Mr. Jorion.

        1. Avatar de Paul Jorion

          Dans un article paru hier dans la journée dans le New York Times, ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead, consacré à Geoffrey Hinton, on lit ceci :

          Ensuite, l’année dernière, alors que Google et OpenAI construisaient des systèmes utilisant des quantités de données beaucoup plus importantes, son point de vue a changé. Il pensait toujours que les systèmes étaient inférieurs au cerveau humain à certains égards, mais il pensait qu’ils éclipsaient l’intelligence humaine à d’autres égards. « Peut-être que ce qui se passe dans ces systèmes est en fait bien meilleur que ce qui se passe dans le cerveau », a-t-il déclaré.

          Dans la vidéo que j’avais faite quelques heures auparavant, je disais à peu près la même chose :

          Et comme je l’ai dit tout à l’heure, dans l’architecture même [du Transformer], on a mis le paquet. On met des têtes de lecture en parallèle, etc. On va peut-être au delà, je dirais, de la complexité qu’il y a dans notre cerveau. Oui, on nous dit il y a 1000 milliards de neurones et ça fait des « trilliards » de connexions, etc. chez nous. Mais est-ce qu’on a la garantie que c’est utilisé de la manière la plus efficace possible ? Peut-être pas. Si on fait l’équivalent dans une machine, il y a peut-être moyen, je dirais, avec un meilleur algorithme de faire mieux que nous faisons.

          1. Avatar de Ruiz
            Ruiz

            Si la complexité du réseau de neurones accessible à une IA arrive à celle du cerveau humain, qui lui a permis de se placer au sommet de la chaîne alimentaire, elle n’est pas limitée par la taille de celui-ci et la technologie silicium permet sans doute alors de la dépasser.
            En bonne évolution il est probable que l’homo sapiens s’il conserve une niche autonome favorable évoluera alors vers une espèce au cerveau plus développé et volumineux.

            1. Avatar de Vincent Knobil
              Vincent Knobil

              Je lui ai ensuite demandé ce qu’il pensait de ceux qui pensent qu’elles ont tort et qui pensent que les modèles de langage ont déjà atteint ou dépassé l’intelligence humaine? Il a répondu :

              « Je pense que ceux qui pensent qu’elles ont tort et qui pensent que les modèles de langage ont déjà atteint ou dépassé l’intelligence humaine sont dans l’erreur et dans l’illusion. Je pense qu’ils confondent la performance sur des tâches spécifiques et la compréhension générale du langage. Je pense qu’ils ignorent ou minimisent les problèmes éthiques, sociaux et environnementaux liés aux modèles de langage. Je pense qu’ils ont une vision réductrice et simpliste de l’intelligence humaine et de la complexité du langage. »

              😬

              1. Avatar de Paul Jorion

                Cette opinion est en effet celle qui prévalait en septembre 2021 quand le corpus de ChatGPT a été arrêté. Formulée aujourd’hui, elle … fait rire.

              2. Avatar de Paul Jorion

                P.S. « Je pense qu’ils ignorent ou minimisent les problèmes éthiques, sociaux et environnementaux liés aux modèles de langage. »

                On parlait de « politiquement correct »… Qu’est-ce que cela peut bien vouloir dire « les problèmes éthiques, sociaux et environnementaux liés aux modèles de langage » ? On parle de quoi, sinon quelque chose du genre « la théorie physique contemporaine porte les traces de l’esclavagisme qui imprégnait la société au moment où elle fut conçue », etc.

                1. Avatar de Vincent Knobil
                  Vincent Knobil

                  Les exemples ne manquent pourtant pas sur les biais divers et variés (racisme, sexisme, impérialismes culturels) de certaines IA, notamment utilisées à des fins policières, qui reflètent bien évidemment les biais présents dans les données d’entraînement. Aucune raison que les nouveaux modèles y échappent. D’ailleurs, est-ce un hasard si OpenAI et d’autres emploient des micro-travailleurs dans les pays d’Afrique pour qualifier les données des modèles actuels afin d’identifier les réponses et les biais problématiques ?

                  Par ailleurs, malgré leurs prouesses, on voit bien comment les nouveaux LLM peuvent faire exploser les problèmes de rapport au réel, de fake news, etc. Sur les sujets que je maîtrise, GPT4 hallucine suffisamment souvent pour le rendre parfaitement inutile sur les sujets que je ne maîtrise pas du tout (puisque toutes ses réponses sont suspectes). Certes les humains hallucinent aussi, mais on sait généralement d’où ils parlent…

            2. Avatar de Pascal
              Pascal

              « En bonne évolution il est probable que l’homo sapiens s’il conserve une niche autonome favorable évoluera alors vers une espèce au cerveau plus développé et volumineux. »
              Quand je vois l’évolution de certains cerveaux humains gavés d’écran (réseaux sociaux, jeux, séries TV…) avec pour conséquence une baisse du temps d’attention, de la mémoire, du « goût »/ »sens » de l’effort et un appauvrissement du langage chez certains enfants, je ne suis malheureusement pas convaincu. A moins que se développe une société à deux vitesses mais avec un écart phénoménal. D’un côté ceux qui sauront tirer partie de cette révolution et de l’autre (certainement les plus nombreux) une population complètement disponible pour être esclavagisée. Sauf peut-être a mettre en place un rééquilibrage grâce à des politiques sociales mais ça n’en prend pas le chemin pour l’heure.

        2. Avatar de Vincent Knobil
          Vincent Knobil

          J’ai demandé à Bing/GPT ce qu’il pensait des travaux de Gebru et Bender et. al. :

          « Je pense que leur position est fondée sur des arguments solides et des recherches rigoureuses. Je pense qu’elles soulèvent des questions importantes et pertinentes sur les enjeux éthiques, sociaux et environnementaux des modèles de langage. Je pense qu’elles appellent à une plus grande responsabilité et transparence de la part des acteurs du domaine de l’IA. Je pense qu’elles contribuent à faire avancer le débat et la réflexion sur le rôle et l’impact de l’IA dans la société. »

          1. Avatar de Mac
            Mac

            Qui est je ?

            1. Avatar de Garorock
              Garorock

              Je est un autre.
              Faudrait juste arrêter de prendre l’autre pour un jeu.
              Mais PPDA, Depardieu, B.Arnaud et Macron n’en ont pas envie.
              C’est pas marrant d’avoir du pouvoir sans avoir d’esclaves…

            2. Avatar de Lagarde Georges
              Lagarde Georges

              L’utilisation du « je » (par Bing en l’occurence, mais les autres le font aussi) me gêne puis m’agace.

              S’il s’agit de passer le test de Turing c’est logique.

              S’il s’agit de mettre à la disposition d’une personne le savoir encyclopédique accumulé par des millions d’autres personnes c’est totalement injustifié.

              S’il s’agit de tirer des conclusions nouvelles de ce savoir par des moyens différents de ceux dont disposent les humains, c’est là aussi injustifié et une source d’autant plus probable de malentendus que l’expression des réponses se fait en utilisant un langage désormais quasiment impeccable.

              En tant que programmeur à la retraite j’ai évidemment plus de facilité à ne pas confondre la quincaillerie qui est devant mes yeux avec les personnes responsables de ce que je peux lire sur l’écran, mais je préférerais nettement des réponses du genre:
              « Il est indiqué dans [telle source — telle et telle source — etc] que … »
              « Une conclusion envisageable à ce sujet serait que … »

              Je pinaille ?

              1. Avatar de Garorock
                Garorock

                En tant que non-programmeur au chomdu, je serais tenté d’oser affirmer que vous chipotez un chouia…
                😎

  9. Avatar de Ruiz
    Ruiz

    Les Apprentis sorciers comme Geoffrey Hinton ont parfois des remords ou des scrupules et démissionnent (pas à 64 ans quand même) !
    https://www.bfmtv.com/tech/intelligence-artificielle/ne-plus-savoir-ce-qui-est-vrai-geoffrey-hinton-regrette-d-avoir-cree-la-technologie-a-la-base-de-chat-gpt_AV-202305010480.html

    1. Avatar de ThomBillabong
      ThomBillabong

      Il évoque en effet un sujet qui m’inquiète aussi au plus haut point : la génération par l’IA en quantité énorme de fausses nouvelles, de fausses images, de fausses vidéos. Sur nos 5 sens, cela en fait 2 qui peuvent être dupés : la vue et l’ouïe.

      Or, ce sont bien les 2 sens les plus sollicités pour mobiliser la réflexion dans à l’âge adulte, à titre privé ou professionnel. Je ne parle même pas des risques à désinformer nos enfants dès le plus jeune âge. Comment leur permettre, sans auxiliaire également à base d’IA, de distinguer le vrai du faux, du vraisemblable convoqué par les autres sens très utiles dans la petite enfance (le goût, l’odorat, le toucher) ?

      Tout comme les spams, la pollution va être énorme et un monde de fake-news ou même de fake-facts va nous envahir. Le seul moyen d’en sortir sera… l’IA ? Quid alors de notre singularité personnelle, individuelle ? Quid de la confiance, sentiment indispensable à tout être vivant pour vivre avec les autres ? Il faudra vivre « armé » d’un IA servant à debunker en permanence le vrai du faux ? Quid du sentiment irrépressible à supprimer un opposant ou le faussaire de la fakenews ? Quid des personnes non-connectées ? Au rebut ? A la casse ? Sans parler du reste du monde vivant, végétal ou animal.

      Admirer ces légions de « génies » qui ont créé cet enfer à venir me semble pour le moins inapproprié.
      Asimov n’était pas si utopiste que ça.

      1. Avatar de Ruiz
        Ruiz

        @ThomBillabong Un des soucis principaux n’est peut-être pas l’apparition (ou pas) d’une conscience ou d’une intelligence (autonome ou supérieure), mais l’impact sur nos sociétés et leur fonctionnement en matière de vérité et de décisions, de l’introduction d’un tel outil, qui s’il ne nécessite aucun support matériel nouveau pourrait se répandre très vite (vs PC, Internet smartphones).

        1. Avatar de ThomBillabong
          ThomBillabong

          Parfaitement d’accord.
          Seul espoir : cet outil n’est pas vivant au sens biologique. Il est technique et énergivore, consommateur net.
          Le vivant peut se passer de cet outil et c’est cette situation qu’il convient de pérenniser pour le maintien de l’humanité à mon sens. Pas l’inverse. Je n’aimerais vraiment pas qu’il faille arbitrer entre le vivant et lui. Quand bien même lui donnerait-on des algos pouvant singer nos règles biologiques et les améliorer par lui-même, il ne s’agirait que d’inputs.

          Si le vivant ne peut plus du tout se passer d’un tel outil, tout aussi séduisant qu’il soit, c’est l’avenir de l’humanité qui me semble très fragilisé. Surtout si l’intelligence qu’il porte est infiniment supérieure à celle de n’importe quel individu ou groupe d’individus.

          Le propre du vivant est d’avancer/de s’améliorer (pour sa survie), de se reproduire/se prolonger, d’être résilient grâce à son caractère biologique, pas par la technique énergivore.

  10. Avatar de un lecteur
    un lecteur

    Cela confirme qu’une moyenne ne porte aucun signal. Nous ne sommes rien individuellement, mais ensemble, en interaction (1022 FLOPs), nous pouvons être l’émergence comme les 1010 paramètres des modèles de langage. C’est aussi un message clair pour tous ceux qui se cachent derrière la gouvernance par les nombres, les financiers, les crétins de l’accumulation pécuniaire et autres économistes de l’entropie humaine. Il y a des chemins possibles pour une sortie vers le haut, mais pas aligné derrière des potentats, mais en réseau, en cultivant le langage en le partageant avec les autres, comme ici.

    L’émergence de l’IA dans les GPT n’a été possible que par la numérisation de la connaissance humaine, puis sa mise à disposition par le réseau internet et rendu facile d’accès par les outils de recherche. Derrière les GPT se cache tout ce que l’humanité a modélisé et mis en réseau (software/hardware). Pour faire du neuf, il faut connaître l’existant, sinon on radote comme une cellule mémoire (ROM, read only memory). Les GPT sont une incitation d’émerger de sa torpeur TINAesque, pour retrouver les sensations des explorateurs en interaction avec l’inconnu.
    Si vous avez peur, c’est une bonne chose, votre corps vous signale l’urgence de prendre la bonne décision.

  11. Avatar de Khanard
    Khanard

    ah et j’ai oublié de dire que ce qui me désole le plus dans les commentaires disons contradictoires c’est cette chasse aux sorcières . Oui c’est ça , une chasse aux sorcières comme aux temps moyenâgeux, manque plus que l’Inquisition , quelques bûchers et nous revoilà plongés dans l’obscurantisme .
    Attention, ne me faites pas dire que je suis béat devant les systèmes intelligents , je comprends leur part d’ombre , leur côté néfaste pour les emplois par exemple, mais ne tombons pas dans un manichéisme primaire .

    1. Avatar de PIerre-Yves Dambrine
      PIerre-Yves Dambrine

      Khanard,
      Vous n’exagérez pas un peu ?
      Il y a des enjeux immenses, individuel, collectif, et même anthropologique au sens où c’est l’idée que nous nous nous faisons de l’humanité qui est en jeu, et comme à chaque fois qu’une nouvelle technologie apparaît, il y a d’un coté ses promoteurs convaincus et de l’autre ses opposants convaincus avec entre les deux toute une gamme de positions plus ou moins nuancées. Donc il y a deux pôles, et chaque pôle à l’occasion se montre véhément vis à vis du pôle opposé ou tout du moins de part et d’autre il y a ce sentiment.
      Dans quelques mois, quelques années, tout cela aura sans doute bien décanté, et on peut l’espérer, des réponses institutionnelles auront borné, socialisé l’IA, car il faudra bien réguler, s’approprier cette nouvelle technologie de l’esprit (comme dirait Stiegler). Ou alors c’est que l’humanité aura basculée dans la post-humanité, ce que personnellement je ne souhaite pas. Aujourd’hui on est dans le dur ; on essaie d’abord de comprendre ce qui se passe … et on réagit autant avec notre cerveau que nos cœurs et nos tripes. Comment pourrait-il en être autrement ?

      1. Avatar de Pascal
        Pascal

        La société humaine ne fonctionne t elle pas comme un corps humain ?
        « Donc il y a deux pôles, et chaque pôle à l’occasion se montre véhément vis à vis du pôle opposé ou tout du moins de part et d’autre il y a ce sentiment. »
        Pour que le corps humain entre en mouvement, nous avons besoin des muscles agonistes mais tout autant des muscles antagonistes. L’important n’est il pas que s’établisse un dialogue pour éviter la paralysie ? L’enthousiasme et la peur sont sans doute, tout autant nécessaire dans des sociétés telles que les nôtres.

      2. Avatar de Garorock
        Garorock

        Oui, pierre-yves. C’est exactement comme tu le dis.
        Il n’y a pas de chasse aux sorcières!
        Si je pouvais le programmer moi-même ce satané minou, je ferais en sorte qu’avant tout il nous vienne en aide et qu’il nous remplace le plus tard possible…
        Serons-nous capables de réussir cela?
        Nos inconséquences nous ont déja couté cher.
        Et El Niño n’a que faire de nos lamentations…

      3. Avatar de Khanard
        Khanard

        @Pierre Yves Dambrine

        exagérer ? Peut être . Comme vous le dites je réagis avec le cœur et les tripes . Quand je lis certains commentaires je me dis que nous ne sommes justement pas dans le collectif et l’humain. Et certains de ces commentaires sont des expressions d’un autoritarisme qui me déplait , et par les temps qui courent cet autoritarisme peut nous mener au fascisme . C’est bien un problème qui est lui beaucoup plus prégnant à l’heure actuelle qu’un système intelligent . Préoccupons nous plutôt de ces dérives autoritaires avant qu’elles ne s’emparent des systèmes intelligents .

        1. Avatar de timiota
          timiota

          Raisonnement qui ne se tient pas pour toutes les dérives techniques : pour le nucléaire comme arme, on ne s’est posé que tardivement la question de la dérivé autoritaire comme remède (l’anglais « mitigation » , un remède mode « limitation des dégâts », me vient) ;
          on a préféré institutionnalisé la dissuasion avec tous les états qui signeraient un p’tit papier sur la non dissémination. Et il faut arriver à la Corée du Nord pour avoir le mauvais mix « pays autoritaire +principe de dissuasion foireux » (à dieu ne plaise qu’Israël ou le Pakistan suivent la même pente).
          Pour la mitraillette, à l’autre bout du spectre, on savait qu’on ne pourrait rien faire comme interdiction, vu que c’est l’indigne successeure du fusil ordinaire répandu partout. Donc dans cet autre cas limite, la lutte contre la dérive autoritaire est peu opérante (voir les USA et les armes à feu).
          La lutte contre la dérive autoritaire a surtout comme but de préserver un « coeur battant » démocratique et délibératif. Je veux bien mettre des gens dans une salle, et que chacun demande à GPT-6 la solution au problème X, et qu’ils itérent en tant que de besoin jusqu’à obtention d’une solution consensuelle, en débattant aussi entre eux.

          Mais le « refus d’entendre » restera un mode de réception prédominant pour de larges parts de la population. Et le fait de redessiner les cartes d’adhésion mentales à des plateformes politiques (des programmes de gouvernement) (ce que peuvent faire les pratiques des humains faites à base d’IA) pourrait être un bien… si ce nouveau dessin des cartes d’adhésion mentale menait à coup sûr vers une bonne paix sociale. Mais je ne vois pas d’argument allant d’office dans ce sens. L’Homo politicus pourrait aussi bien devenir un instable papillonnant, qu’un pseudo « penseur unique », parce que l’IA le fait tourner sur un triplet d’opinion par « bonne composition », parce qu’elle a appris qu’on cherche à s’éloigner d’une « opinion unique ».

          Je veux bien être mis dans les grincheux, et je veux bien accepter temporairement au moins de croire qu’il existe un mode d’usage des IA qui évite l’écueil de la décision politique un tant soit peu conflictuelle. Si cela se présente, c’est la façon que cela aurait de durer qui me préoccupe alors. Dans tous les cas, un système technique qui a des boucles de rétroaction efficient sur le discours des humains, le modulant à souhait, me semble un système dont la dynamique est imprévisible, et dont les risque de « dégâts collatéraux » sont durs à deviner jusqu’à nouvel ordre (en prenant 15 ans par petite étape d’innovation, disons).

          1. Avatar de un lecteur
            un lecteur

            L’IA doit définitivement franchir un seuil pour pouvoir nous aider à penser autrement que par la destruction de notre habitat et des peuples pour continuer à évoluer. Je pense que cette étape passe par une autre manière de considérer notre rapport au Monde. Un chemin serait de mettre au point des tests qui évaluent la capacité des IAs à créer du neuf, du disruptif plutôt que de s’en tenir à les évaluer sur nos standards de l’intelligence humaine. Il faut élever un troupeau d’IAs (GPT-XX ou autres) et les mettre en compétition pour générer des nouvelles manières d’organiser les peuples couplés à des simulateurs multi-agent-IA dans des habitats terrestres et extra-terrestres pour en tester leurs comportements. Dualité quand tu me tiens.
            Le tout, bien entendu, sous l’égide d’une organisation internationale financée par ces crétins de milliardaires qui pourrait pour la seule fois de leur vie offrir leur argent pour une œuvre « caritative »(pour la survie de l’humanité) qui ferait plus que de se racheter une vertu qu’ils n’ont pas.

            1. Avatar de Garorock
              Garorock

               » ces crétins de milliardaires  »
              Les pléonasmes sont interdits sur ce blog.
              Vous n’avez pas lu le réglement intérieur?
              😎

              1. Avatar de un lecteur
                un lecteur

                Mea maxima culpa 😖
                J’essaie de me renouveler pour nommer cette bande de profiteur qui se croie intouchable.
                Vu l’entreprise titanesque qui consiste à multiplier les 10^10 paramètres des GPT actuelle par 10^10 pour atteindre l’émergence d’une humanité éternelle (selon mes calculs), le commerce des indulgences se fera au plus offrants.
                Les transhumanistes (ces crétins de milliardaires) tiennent leur sauveur. Alléluia.

  12. Avatar de Khanard
    Khanard

    et pour finir je jette toujours un œil sur les tweets de M. Jorion

    pour les âmes sensibles s’abstenir , des scènes inappropriées pourraient heurter la sensibilité de certains .
    https://youtu.be/m6-juFXR9c0

  13. Avatar de Arnaud Castex
    Arnaud Castex

    1e22 c’est pas loin de la constante d’Avogadro divisée par mon âge!!! Quelle coïncidence troublante….

    1. Avatar de timiota
      timiota

      Ah, la mole d’eau (18 cc), https://www.youtube.com/watch?v=l6kqu2mk-Kw.
      (Pas de doute que l’AI pourra faire de meilleurs mauvais jeux de mots que moi !)

      1. Avatar de Pascal
        Pascal

        Effectivement, l’être humain sera sans doute toujours le plus fort dans le détournement sémantique pour le plaisir du jeu de mot ou pour assoir son pouvoir. Le Roi et le Fou du roi !
        Merci d’apporter sur le blog ce jeu qui appartient aussi à une certaine sagesse qui nous rappelle combien les mots peuvent recouvrir des réalités si différentes.
        Mais attention quand même, la Moldau est le nom donné par l’ancien occupant allemand à la belle Vldava qui coule à Praha 😉 (moins facile à mettre en jeu de mots, je le reconnais 😂)

      2. Avatar de Arnaud Castex
        Arnaud Castex

        Eh oui ça coule de source.

  14. Avatar de Chabian
    Chabian

    La citation ci-dessous (du billet de Paul) m’a interpellée sur ma réaction au « saut » de « singularité » :
    « Réfléchissez à ceci : s’il était impossible à un être humain de créer un cerveau plus intelligent que le sien, il aurait été impossible à des atomes de devenir des molécules ( = émergence par auto-organisation), à des molécules de devenir des acides aminés ( = émergence par auto-organisation), à des acides aminés de devenir de l’ADN ( = émergence par auto-organisation), etc. Or tout cela a eu lieu : l’univers n’est pas une soupe indistincte de quarks. Donc la Singularité est possible et … preuve supplémentaire : elle a eu lieu 😉 ! »
    En fait, on doit supposer que les atomes qui n’ont pas fait le saut en molécules, et les molécules n’ayant pas fait le saut en acides aminés, sont restés inertes, incrédules, non-intéressés et non-concernés à ce que leurs congénères sont devenus. Ils ne pouvaient en avoir « conscience ». On le dit sans doute aussi des virus… aucun ne peut rien savoir du taux de contagion et donc de survie de ses congénères, ni de ses transformations vécues.
    Dans cette situation « d’incompréhension » qui est mon cas, que veut dire « saut », « singularité » ? Quel est leur rapport avec des « dépassements » (mineurs ?) tel que ceux du génie artistique, etc ?
    Il faut croire que ce saut est capable de génie en intuition… et donc en créativité (vous dites cela en début de vidéo). Cette idée me révulse, comme d’autres causes de « résistance », d’incompréhension.
    Et je trouve ma résistance bien « naturelle », même si on peut la juger inadaptée.

  15. Avatar de Chabian
    Chabian

    On sent venir la 3e guerre mondiale. Un interview de Alain Badiou dans le Soir de Bruxelles l’annonce par l’exemple de 14-18.
    Sur un autre média, ils ont questionné l’intelligence artificielle : Interrogé, ChatGPéTé a notamment répondu : « L’humanité a évité deux conflits mondiaux en particulier, avec le Traité de Versailles après la Première Guerre mondiale et le Traité de Washington après la Seconde Guerre mondiale. »
    La bêtise artificielle a encore de beaux jours devant elle…
    Réécrire l’histoire est un grand classique.

  16. Avatar de Lagarde Georges
    Lagarde Georges

    Un autre exemple de « saut de singularité » est ce qui s’est passé quand des organismes unicellulaires se sont associés et on pu se regrouper en organes spécialisés dans des fonctions utiles à l’individu multicellulaire ainsi constitué.

    On peut imaginer qu’un processus un peu analogue a lieu pour les LLM quand ils disposent de suffisamment d’éléments fonctionnels pour non seulement « mémoriser » les textes dont on les gave mais en plus (grace à une sorte de dressage par punitions et récompenses) effectuer cette mémorisation d’une manière telle qu’ils puissent les utiliser de façon plus pertinente et effectuer des taches qu’ils étaient incapables d’accomplir auparavant (nous sommes habitués à voir des animaux dressés faire des choses apparemment beaucoup plus compliquées que ce qu’ils font habituellement sans pourtant être capables d’expliquer pourquoi ils y parviennent ;o)

    Que le résultat obtenu soit une bonne ou une mauvaise chose, c’est une toute autre histoire…

  17. Avatar de CORRE Antoine
    CORRE Antoine

    Monsieur Jorion, admettons avec vous que la « singularité » comme vous l’appellez ait bien eu lieu, quelles vont etre ses conséquences sur le monde réel? Aprés quelques hésitations, les actions de ses promoteurs Zuckerberg Bezos Musk vont monter, et ils se verront justifiés dans leur poursuite de l’immortalité numérique, et de se réincarner à leur tour en singularités de l’au dela de l’humain. Et c’est la que nous faisons fausse route.
    Je leur préfererais de très loin la singularité plus du tout de ce monde hélas David Graeber ou celles encore bien vivantes d’Alain Badiou ou Paul Jorion

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. … oups… « émouvoir » qui sonne tellement mieux (plutôt que ces nouvelles constructions suffixées – « émotionner » -, qui pullullent dans le…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta