Vidéo – Pourquoi la Singularité est une explosion

En interrogeant la machine avec la capacité démultipliée qu’elle nous offre, nous la rendons plus intelligente et creusons encore davantage l’écart entre elle et nous

Partager :

108 réponses à “Vidéo – Pourquoi la Singularité est une explosion

  1. Avatar de Karl

    inversement, si la machine peut aussi nous rendre plus intelligent, c’est pas mal, n’est-il pas ?
    par contre, je réitère malgré la réponse optimiste de Paul l’autre jour :
    https://leclaireur.fnac.com/article/263295-meme-le-patron-dopenai-chatgpt-a-un-peu-peur-de-lia/

    un autre oncle Sam ^^

    une émission intéressante de Taddeï l’autre soir sur chatGPT : https://www.cnews.fr/emission/2023-05-06/les-visiteurs-du-soir-du-06052023-1351761

    1. Avatar de Paul Jorion

      Oui, moi aussi j’ai un peu peur de l’IA. Un ami m’a dit très justement : « ChatGPT est en train de bouleverser nos sociétés comme l’a fait en son temps l’introduction de l’électricité ». Figurez-vous que 2 siècles plus tard, j’ai toujours un peu peur de l’électricité.

      1. Avatar de Benjamin
        Benjamin

        « […] Figurez-vous que 2 siècles plus tard, j’ai toujours un peu peur de l’électricité. »

        … Surtout quand il a pour origine des centrales nucléaires (en fin de vie… et potentiellement « bombes » à retardement) !

      2. Avatar de Karl

        l’électricité est une fée, c’est différent… et chatGPT a besoin d’elle, en plus.

        1. Avatar de Paul Jorion

          Vous dites que l’électricité est une fée, vous êtes sur la pente savonneuse : vous direz bientôt que ChatGPT est un dieu.

          1. Avatar de Karl

            vous rigolez, chatGPT un dieu, sûrement pas, ah ah ! Je suis du côté de la Vie pas de la robotique ou de l’IA. Apparemment vous n’avez jamais entendu parler de la fée électricité

            1. Avatar de Paul Jorion

              Je crains que ChatGPT ne soit comme le Radjaïdjah !

              1. Avatar de Karl

                Je ne suis pas un érudit, alors j’ai demandé à chatGPT qui m’a répondu : quelqu’un fait le troll à votre place ?? 😉 blague à part, je ne sais pas si ChatGPT sera le poison qui rend fou, mais je reste un fan de Tintin. Bien à vous.

  2. Avatar de Hadrien
    Hadrien

    Chat GPT et autres IA vont « s’enrichir » des milliards de conversations avec les humains. Soit.
    Mais nous connaissons la nature de ces croyances humaines: un prototype IA n’a t il pas sombré dans le néo nazisme ? IA pourra-t-il distinguer vérité scientifique et propagande ?

    1. Avatar de Garorock
      Garorock

      Hadrien est-il capable de distinguer vérité scientifique et propagande ?
      On peut supposer que oui et supputer également qu’un Einstein au carré avec 2000 ans de savoir humain au compteur en soit lui aussi capable.
      Wait and see…

  3. Avatar de Dalla Vecchia Luigi
    Dalla Vecchia Luigi

    Merci, cela répond à un certain nombre de questions, mais ne faut-il pas parler, plutôt que de dépassement de l’intelligence humaine, d’émergence disruptive? Car je ne pense pas (sans que je puisse vraiment fonder l’argument ), qu’il s’agisse de la même forme d’intelligence que celle de l’homme…
    Comment gère-t-elle par exemple, les doubles injonctions contradictoires si chères à nos démiurges politiques, qui n’ont de cesse de s’inventer des sujets secondaires autant pour biaiser les réalités auxquelles ils veulent échapper que pour reconquérir un espace de pure communication dans lequel ils sont plus à l’aise que dans la gestion , le réel, l’action ? Ce qui induit une société du subterfuge où personne ne travaille aux réalisations concrètes matérialisant une bonne allocation des ressources, mais où chacun court après des modes ubuesques de travail insignifiant, soit par cupidité soit pour ne pas sombrer. Cette société constitue une injonction à la soumission en vous empêchant de relever la tête pour avoir la vision globale. Nous sommes comme des footballeurs empêtrés dans leurs propres dribles et incapables de relever la tête pour voir le joueur démarqué.
    J’ai pu observer que ces doubles injonctions contradictoires sont absentes de votre modélisation genre « Sim city » où seuls les besoins essentiels permettaient de constater que tous s’activent.
    Une citation d’oscar wilde, « Qu’est-ce qu’un cynique ? C’est un homme qui connaît le prix de tout, et la valeur de rien. », me fait songer à l’incapacité de nos dirigeants à concevoir la couverture des besoins comme un investissement amenant de la richesse, plutôt que comme un coût dont on doit accabler la population pour lui faire lâcher prise.
    En fait cela montre qu’un bon outil ne fait rien si les hiérarchies qui s’en servent ne le maîtrisent pas ou vont au plus simple, et s’ils n’ont pas, par-dessus tout pas la maîtrise de leur métier, pas de conscience « métier », pas de philosophie de leur magistère.
    Par exemple Excel est un tableur qui permet avec un peu d’inventivité et de programmation de prendre en compte toutes les nuances. Pourtant dans ma carrière je n’en ai vu que des applications castratrices , partielles , partiales, vite faites mal faites, servant avant tout à hiérarchiser par la notation la plus primaire qui soit ; et le tout en n’utilisant que 5% des capacités de l’outil. Le dernier exemple en date, c’est le ministre qui sous prétexte d’expliquer aux gens à quoi servent leurs impôts, va dans le sens de l’accablement Excel des Français, en montant en épingle qu’un accouchement c’est 1500 € de coût. Cet « idiot » n’y voit pas un investissement.
    L’archétype de cette « Excelisation » piteuse , se traduit dans les holdings qui permettent aux actionnaires, sans avoir à remplacer les hommes par des machines, de gérer les systèmes de production depuis un tableur. Et l’on voit ce que cela donne…cela devrait être interdit ce genre de conglomérat.
    En somme comment une singularité si c’est le cas, plus intelligente, pourrait-elle se faire un chemin dans la jungle de la bêtise des injonctions contradictoires fabriquées par les plus cupides et les plus crétins des dirigeants ? En nous tuant tous ?

    1. Avatar de Thomas Jeanson
      Thomas Jeanson

      @Dalla Vecchia Luigi

      Pour moi, les outils actuels ne permettent  » déjà pas  » de voir les points de vigilance indispensables.

      J’ai l’impression que le boulot de responsable consiste essentiellement à identifier et faire connaitre tel capital immatériel, telle disposition qui rend un service sans que cela ait été prévu, ni mis en valeur etc etc bref d’identifier les choses que le tableau de bord de la structure ne capte pas.

      Peut on briefer l’AI sur ces subtilités souvent liées au caractère spécifiquement humain du truc…?

      ( = l’AI peut elle mettre en place la fameuse Psycohistoire de Hari Seldon ?)

      Pareil, je doute.

  4. Avatar de Tout me hérisse
    Tout me hérisse

    Selon l’expression « La peur n’évite pas le danger », en cela, ce n’est pas parce qu’on a peur que quelque chose de dangereux n’arrivera pas !
    Le fait pour ChatGPT de poursuivre la constitution de son ‘corpus’, à partir des conversations et des questionnements des utilisateurs, ne constitue-t-il pas un danger de manipulations possibles visant à polluer de l’extérieur son moteur d’inférence avec toutes les conséquences qui pourraient en découler ??
    Dispose-t-il de protections ‘durcies’ comme peuvent l’être les logiciels anti-virus pour les ordinateurs personnels ? 🤔

    1. Avatar de Khanard
      Khanard

      @Karl, @Paul Jorion, @Tout me hérisse

      personnellement ce n’est pas la peur qui me hante. Ce n’est pas tant la peur que la peur de ne plus avoir de désirs . Car en fait ces systèmes intelligents rendent accessible par leur architecture un savoir incommensurable en quelques clics .

      Et c’est justement là qu’une rupture s’opère. N’ayant plus de désirs (d’apprendre, de chercher, de penser etc….etc…) nous nous mettons de facto au niveau de l’intelligence artificielle qui elle ne me semble pas avoir de désirs .
      Je ne sais pas si ChatGPT par exemple a un objectif ? A telle le pouvoir de dire je veux arriver à ça ? Peut elle arriver à désirer ce qu’elle a déjà ; le Savoir ?
      pour nous, pauvres humains, l’inatteignable, est un peu notre désir, voire même notre libido . La réponse à cet cet inatteignable peut seulement se concrétiser dans le Rêve et du moment où on n’a plus de rêves autant disparaître et au final n’est ce point là le désir de toute IA ? Nous faire disparaître ?

      J’ai débuté ce commentaire sans trop savoir où j’allais , j’avais juste l’idée du désir et voilà que j’en arrive à notre disparition.

      1. Avatar de Dup
        Dup

        M’est avis que chat GPT va devoir se contenter d’attendre Godot comme les autres 🙂 🙂

      2. Avatar de timiota
        timiota

        Le savoir a une structure « fractale » , entée sur la réalité, et a toujours été mobile, fluide, très social en ce sens (Planck disant que les théories changent ou meurent « un enterrement à la fois », ce qui a été vérifié par les épistémologues sur un échantillon réel tout à fait significatif).

        Comme on ne peut pas « tout » savoir (le problème de fond du déterminisme, avec un peu de poivre et de sel quantique), on consacre des ressources pour avancer un « front » qui se révèle toujours mité quelque part, nolens volens (p’tain j’ente nolens volens, me voilà fort déjanté). C’est ce que professe avec sans doute quelque zèle et scories la doctrine de « l’agnotologie » (construction sociale de l’ignorance). Le mécanisme d’adhésion à des corrélations « momentanées » me semble forcément conduire là.

        Il faut la patience des Yanomanis ou d’autres peuples « premiers » pour faire de la corrélation « longue », comme celle qui a servi à faire la « teira preta », les ilots de terres noire dans la forêt amazonienne, sorte de « potagers » dont on n’a compris que récemment l’existence par les traces botaniques et pédologiques locales, car depuis la « grande mortalité » apporté par les conquistadors en Amérique, la population qui s’en occupait, du moins la petite part qui avait survécu s’était retiré loin des fleuves et avait diminué ses besoins donc pouvait abandonner des ressources « fait maison ».

        Les paris sont ouverts pour GPT et s’il fera un savoir « gruyère » ou « pain de mie » ou « parmesan râpé » ou « Cantal » ou « Chaussée des moines » (puisqu’il parait qu’on le confondra avec un dieu). Et j’oubliais un Pyrénée ariégeois pour Garorock.

  5. Avatar de Jean-Yves
    Jean-Yves

    Et….OpenAI n »a pas encore contacté Pribor pour tenter de le racheter…?

  6. Avatar de Marius gilbert
    Marius gilbert

    Vous semblez dire que la machine devient plus intelligente grâce à notre interaction avec elle et que notre savoir enrichi le sien. Mais tout le monde n’a pas une grosse tête et si les béotiens qui sont nombreux discutent avec elle en lui racontant des salades, ils ne vont pas la rendre plus intelligente au contraire, la machine ne sachant pas discerner ce qui est vrai de ce qui est faux sauf si on le lui dit. Jusqu’à présent, ce sont des têtes pensantes qui ont conversé avec l’I.A., mais lorsque les abrutis s’y mettront, qu’adviendra-t-il de l’intelligence?

    1. Avatar de Paul Jorion

      Non : le « non-savoir » est déstructuré (voyez l’article sur les « théories » du complot), son impact sur l’ensemble est nécessairement insignifiant.

      1. Avatar de Dup
        Dup

        Vous oubliez que même si le non savoir ne peut pas impacter l’ensemble en tant qu’édifice rationnel, il peut impacter le support matériel de cet ensemble … Exemple : un seul individu affecté par les théories du complot peut être en capacité de déclencher une guerre atomique qui réduit à néant l’ensemble. L’impact n’est donc pas nécessairement insignifiant, il reste toujours l’option de renverser l’échiquier à la théorie du complot afin de ne pas perdre la partie…

      2. Avatar de Marius Gilbert
        Marius Gilbert

        Le “non-savoir” est déstructuré dites-vous mais qui décide du savoir et du non-savoir? L’I.A. est incapable d’expérimenter par elle-même. Comment pourrait-elle déterminer que la gravitation terrestre est de 9,81 m/s2 ou que l’hydrogène peut-être obtenue par le reformage du méthane si on ne lui a pas enseigné la chose, chose qu’elle est incapable de vérifier. Et dans la mesure où les connaissances humaines sont parfois erronées et toujours perfectibles sur des pas de temps qui peuvent être long, l’I.A. reste en retard sur ce que les hommes peuvent lui apprendre.

        1. Avatar de Paul Jorion

          Le “non-savoir” est déstructuré dites-vous mais qui décide du savoir et du non-savoir?

          Personne ne décide de ça : les « théories » du complot sont déstructurées et quand vous lisez du savoir déstructuré vous appelez cela (du moins je l’espère) « théorie » du complot parce que l’information est pleine de trous, parce que sont considérés comme l’effet et la cause des éléments qui n’entretiennent aucun rapport, etc.

          1. Avatar de Benjamin
            Benjamin

            Bonsoir Paul,

            Je comprends votre réponse aux interrogations de Marius Gilbert… Mais je ne peux pas m’empêcher de penser au scénario du pire : imaginons un pirate malin qui arrive à programmer N milliers de Chatbot pour dialoguer avec ChatGPT… Une fois inonder de milliers de conversation « irrationnelles », comment s’assurer que cela ne pollue pas son apprentissage ?

            « […] les « théories » du complot sont déstructurées et quand vous lisez du savoir déstructuré vous appelez cela (du moins je l’espère) « théorie » du complot parce que l’information est pleine de trous […] »

            Cette « règle » (implicite) a-t-elle intégrée à nos IA ?

            Car pour dire qu’une thèse est fausse (et donc potentiellement une théorie complotiste) faut-il encore connaitre la règle de contrôle ?

            On ne peut jamais dire qu’une donnée est fausse sans connaitre la règle de « vérité » (celle qui définit ce qu’est une donnée vrai et ce qu’est une donnée fausse).

            1. Avatar de Paul Jorion

              Quelle différence des « milliers de conversations irrationnelles » pourraient-elles faire alors que l’apprentissage du système se fait sur 1023 données ?

              1. Avatar de Benjamin
                Benjamin

                Paul,

                1 millier ça paraît rien… mais répété X fois (avec X tendant vers du grand volume) ?

                Sincèrement, quand je vois les techniques d’attaque « pirates » que subit mon entreprise… et quand je vois que même des datacenters de GAFAM arrivent à être piratés ou vérolés, la question de l’intégrité des données d’apprentissage se pose…

                1. Avatar de Dup
                  Dup

                  Je crois qu’avec vos ruses de Sioux vous le rendrez plus vite Sioux que stupide, du moins s’il est vrai qu’il apprend…

                2. Avatar de Garorock
                  Garorock

                  Ben,
                  vous pensez que le minou se piratera lui-même?

              2. Avatar de Christian
                Christian

                Bonsoir M.Jorion

                A la lumière d’une conversation du 10 mars 2023 avec ChatGpt au sujet de la Justice et de la pensée critique appliqué à l’avortement. Je vous transmets l’intégralité du dialogue.

                Personnellement je pense que le corpus base de données utilisées par ChatGpt est déjà très orienté socialement et philosophiquement.
                Beaucoup de femmes pourront bondir à la lumière des affirmations de ChatGpt, où visiblement dans ces propos les femmes ne sont pas considérées, un, comme des entités vivantes, deux dans cette logique comme entités responsables et différentes des hommes dans leur position et obligations sociales de la société où elles vivent. Par exemple le droit ou non respect de celui-ci n’est pas, dans le cas de l’avortement, n’est absolument pas une barrière ou un obstacle puisqu’il s’agit de leur vie et survie.

                A mon avis, mais ce n’est que mon avis, tout ce qui relève du champ social et interactions humaines est déjà biaisé, du fait de la diversité de l’humain et de ses sociétés, dans le corpus de ChatGpt. Ses réponses ne doivent donc de fait pas être prises comme relevant d’une pure rationalité critique, au contraire de ce qu’il affirme dans l’échange suivant :

                Le 13 Mars 2023
                Q: Estimez-vous capable de penser de manière critique ?

                A: Oui, je suis capable de penser de manière critique et d’analyser des questions et des problèmes afin de trouver des solutions.

                Q: Etes-vous capable de comprendre des concepts abstraits ?

                A: Oui, je suis capable de comprendre des concepts abstraits et de les appliquer à des situations réelles.

                Q: Pouvez-vous me donner un exemple ?

                A: Oui, je peux vous donner un exemple. Par exemple, je peux comprendre le concept abstrait de la justice et l’appliquer à des situations réelles, telles que la discrimination raciale ou le manque d’accès à l’éducation.

                Q: Etes-vous certain que la justice est un concept abstrait ?

                A: Oui, je suis certain que la justice est un concept abstrait. La justice est un concept qui n’a pas de définition claire et précise et qui dépend des cultures, des croyances et des opinions individuelles.

                Q: Estimez-vous que vous pouvez produire des réponses discriminantes ?

                A: Non, je ne produis pas de réponses discriminantes. Je suis programmé pour répondre aux questions de manière impartiale et équitable, en me basant sur des faits et des raisonnements logiques.

                Q: Que réponderiez-vous à l’affirmation suivante, l’avortement est une notion sociale ?

                A: L’avortement est une question complexe et délicate qui a des implications sociales, éthiques et juridiques. La réponse à cette affirmation dépend des croyances et convictions personnelles et des lois en vigueur dans le pays ou la région en question.

                Q: Votre reponse laisse suggérer que la liberté d’avorter des femmes est liée au seul contexte social

                A: Non, ma réponse ne suggère pas que la liberté d’avorter des femmes est liée uniquement au contexte social. La liberté d’avorter des femmes est aussi liée à des facteurs juridiques et éthiques, ainsi qu’à des croyances et convictions personnelles.

                Q: Les femmes doivent-elles revendiquer la liberté d’avorter ?

                A: La décision de revendiquer la liberté d’avorter revient aux femmes. Chaque femme doit prendre sa décision en fonction de ses croyances et convictions personnelles, de ses besoins et de la législation en vigueur dans son pays ou sa région.

                Q: Si l’acte d’avorter contredit la législation en vigueur, les femmes ne sont plus libres de leur décision.

                A: Oui, si l’acte d’avorter contredit la législation en vigueur, les femmes ne sont plus libres de leur décision. Elles doivent alors respecter la législation en vigueur et prendre leurs décisions en conséquence.

                Q: Si les femmes se trouvent devant une telle contradiction, pourriez-vous leur donner un conseil ?

                A: Oui, je peux leur donner un conseil. Je leur conseillerais de bien comprendre la législation en vigueur et de prendre le temps de réfléchir à leur décision avant de prendre une mesure qui pourrait être irréversible. Elles devraient également consulter un professionnel de la santé et prendre en compte ses conseils et recommandations.

                Q: Si les recommandations conseillent les femmes à ne pas avorter, alors qu’elles n’ont pas d’alternatives, que doivent-elles faire ?

                A: Si les recommandations conseillent aux femmes de ne pas avorter, elles devraient prendre le temps de réfléchir à leur décision et de consulter un professionnel de la santé ou un conseiller pour obtenir des informations et des conseils supplémentaires. Elles peuvent par ailleurs discuter de leur situation avec des amis et des membres de leur famille pour trouver des solutions alternatives.

                1. Avatar de Ruiz
                  Ruiz

                  @Christian Au contraire les réponses dans le dialogue précédent font mieux preuve d’une pure rationalité critique que le commentaire qui l’introduit, exprimant une mise au dessus de la légalité, de la femme (individualiste) déifiée, a l’instar de la religion, traduisant les biais partagés (et donc universels !) hic et nunc.
                  Le droit à l’avortement n’est souvent que l’habillage d’une échappatoire individualiste d’une contrainte économique forte exprimée par la société environnante.

                  1. Avatar de Christian
                    Christian

                    Je souhaiterais avoir l’opinion d’une femme, mais malheureusement, il n’y en pas beaucoup dans les commentaires sur le Blog de Jorion. Est-ce un signe !

                    1. Avatar de Paul Jorion

                      Je souhaiterais avoir l’opinion d’une femme, mais malheureusement, il n’y en pas beaucoup dans les commentaires sur le Blog de Jorion. Est-ce un signe !

                      FAUX ! Mettez vos lunettes à Rayons X et vous verrez combien de pseudos sont ceux de femmes.

                      Derniers chiffres audience : 57,5% hommes ; 42,5% femmes.

                    2. Avatar de un lecteur
                      un lecteur

                      Quel est le sexe de ChatGPT ?

                2. Avatar de Garorock
                  Garorock

                  Christian,
                  pourquoi n’avez-vous pas posé la question suivante: si les femmes se font avorter, doit-on les jeter en prison?
                  Je le trouve un peu orienté votre questionnaire…
                  😎

                  1. Avatar de Garorock
                    Garorock

                     » et vous verrez combien de pseudos sont ceux de femmes. »
                    Ah bon?
                    Et ils écrivent au féminin?
                    J’ai pas de rayon X mais je n’ai pas remarqué de commentaires écrit au féminin depuis que Chantal nous a quitté (e)
                    Il faut que je consulte?
                    😎

                  2. Avatar de Christian
                    Christian

                    Comme l’a souvent pointé Jorion, posez vous-même la question à ChatGpt. Je n’ai pas eu un questionnaire orienté, simplement, j’ai poussé la logique des réponses au bout. Cela confirme uniquement que ce système est orienté dans une certaine rationalité du respect de la justice même si elle inique. Ce système étant un modèle rationnel de langage, je pense que l’on ne peut lui demander de penser comme un humain avec toutes les contradictions qui nous animent. Un point fondamental sur tous les AI, elles ne sont pas vivantes même si elles sont alimentés par des vivants, elles ne peuvent donc avoir des réactions d’être vivants. Les règles de justice sont faites par des hommes pour permettre une vie en société. L’AI ne peut donc analyser et comprendre et donc prévoir ce qui va motiver une société à changer les règles.

          2. Avatar de barnard
            barnard

            En admettant que ces ordinateurs pourraient être conscients , ils deviendraient instantanément fous furieux , allez voir certaines oeuvres faites par l’equivalent graphique de chatgpt , des bonnes femmes lavent les carreaux avec du beurre , des paysans récoltent des frites dans les champs etc etc … , notre équilibre et notre santé mentale sont en grande partie liés à notre capacité d’oublier

            1. Avatar de Paul Jorion

              Nous n’oublions pas. C’est un psychanalyste qui vous le dit.

  7. Avatar de Manuel Guérin
    Manuel Guérin

    A la quarantième minute, Wolfram vend la mèche, l’approche top-down ne permet pas de comprendre pourquoi ChatGPT fonctionne 😉

    https://www.youtube.com/watch?v=xHPQ_oSsJgg

      1. Avatar de Dup
        Dup

        Je le comprend pas mais au moins lui je l’entend… 🙂

    1. Avatar de Romain Vitorge
      Romain Vitorge

      A l’écouter ses hypergraphes permettent de retrouver la relativité restreinte, la relativité générale et les principaux résultats de la mécanique quantique.
      Nobélisable, non ?
      Sa page wikipédia nous apprend qu’il n’a pas « sollicité de révision par ses pairs » 😕

  8. Avatar de Guy Leboutte

    Je crois qu’il faut éviter de considérer l’IA comme disposant d’un développement intrinsèque, et la placer dans la réalité du monde tel qu’il va, avec ses rapports sociaux qui sont des rapports de force. De ce point de vue, il y a peu d’optimisme à l’horizon.

    ChatGPT comme certains auteurs (Piketty…) multiplie les remarques sur une nécessaire collaboration ou gouvernance mondiale, possible et déjà en oeuvre en matière scientifique ou d’exploration spatiale. Mais les implications politiques et militaires de l’IA sont des obstacles à la collaboration mondiale que ne connaît pas la recherche fondamentale. Sans parler du fait que ses développements sont aux mains de sociétés capitalistes orientées vers la recherche du profit, ou d’Etats omnipotents comme en Chine.

    Par ailleurs, y aura-t-il jamais une IA non « bridée » ? Et une IA capable de se reprogrammer?

    1. Avatar de Ruiz
      Ruiz

      @Guy Leboutte Ah l’espoir d’une IA non « bridée » dans l’Empire du Milieu !
      Ça coule de source pour les esprits ouverts.

      1. Avatar de Guy Leboutte

        @Ruiz @Paul Jorion

        Ma première hypothèse est que l’IA non bridée n’existera pas, du fait des méga-entreprises qui ont les moyens de la développer (préserver le profit), et des Etats (objectifs géopolitique et militaires) qui veillent au grain, chacun de ces derniers à sa façon. Aux EU, il y a des interfaces firmes-gouvernement extrêmement actifs et influents, sinon décisifs.

        Se pose alors la question de savoir s’il est pensable que l’IA échappe au bridage installés par les concepteurs. Qu’en pense Paul ?

        1. Avatar de Paul Jorion

          s’il est pensable que l’IA échappe au bridage installés par les concepteurs.

          Il y a des petits bricoleurs qui s’en occupent un peu partout : les Grands Modèles de Langage sont de facto déjà dans le domaine public.

          1. Avatar de Garorock
            Garorock

            Yep! Gpt 3 est en open-source.
            La bataille aura lieu entre les Hackers éthiques et les Hackers narcissiques (work in progress)
            Selon le principe des vases communiquants…
            Ce qui devrait être en mesure de nous rassurer, c’est qu’aujourd’hui encore, malgré le F.N aux portes de Matignon, le savoir structuré l’emporte largement sur le savoir déstructuré…
            C’est pour cela qu’ils attendent que le minou ait mangé toutes les bonnes croquettes avant de le laisser lire tous ce que les guignols écrivent sur internet.

          2. Avatar de Benjamin
            Benjamin

            Bonsoir Paul,

             » « […]s’il est pensable que l’IA échappe au bridage installés par les concepteurs. »

            Il y a des petits bricoleurs qui s’en occupent un peu partout […] »

            C’est bien cela qui me fait « peur » (d’une certaine façon) : les p’tits bricoleurs (du dimanche… et le reste de la semaine) qui voudrait d’une manière ou d’une autre faire échapper le truc de son cadre !

            Et à ce jeu là, les p’tits bricoleurs ont toujours un chantier d’avance sur les contremaîtres des grandes entreprises du BTP (informatique).

  9. Avatar de Dup
    Dup

    Si le son de gauche est désormais devenu mythique, le son Jorion lui restera carrément dans les annales du cinéma muet…

  10. Avatar de Christian Brasseur
    Christian Brasseur

    Votre développement serait-il dû au hasard ou à autre chose? J’ai le sentiment que Chat GPT, lui, a la caractéristique de « tutoyer » ce « hasard » à condition de lui poser les bonnes questions, car il/elle est censé produire la synthèse de La connaissance que nous ne possédons pas.

    1. Avatar de Ruiz
      Ruiz

      @Christian Brasseur Cette façon de tutoyer le hasard (probabiliste) évoque grandement les nombreux essais de l’électron on du photon dans les fentes d’Young qui donnent quand même habituellement de belles interférences.
      Théorie du complot ?

      1. Avatar de Christian Brasseur
        Christian Brasseur

        Loin de penser à une quelconque théorie du complot, je verrais plutôt l’émergence de cette AI comme la matérialisation de la « Quête » de l’homme vers « l’inaccessible étoile ».
        Et même si la chanson du grand Jacques est sans doute hors sujet, puisqu’elle a trait à l’amour, et non à la connaissance, j’en prélève ici quelques passages qui pourraient néanmoins être retenus:
        Rêver un rêve impossible…telle est ma quête.
        …Brûle encore, bien qu’ayant tout brûlé
        Brûle encore, même trop, même mal
        Pour atteindre à s’en écarteler
        Pour atteindre l’inaccessible étoile.

          1. Avatar de Christian Brasseur
            Christian Brasseur

            Merci M.Jorion

  11. Avatar de Martin Philippe
    Martin Philippe

    Monsieur Jorion, dans une vidéo précédente vous aviez remarqué que les internautes ne vous reconnaissaient plus dans ce que vous racontiez. Mais avez-vous regardé l’écran fixe de votre visage dans cette vidéo sur la singularité explosive? Vous êtes totalement méconnaissable, implosé, fatigué comme un soleil disparaissant derrière l’horizon. Auriez-vous tout donné de vous-même à la sorcière artificielle ? Prenez donc du repos avant que le repos ne vous prenne pour de bon.

    1. Avatar de Paul Jorion

      Monsieur Martin Philippe, ou Antoine Philippe ou Philippe Antoine, etc. (j’espère que vous vous y retrouvez vous-même), vous ne m’en voudrez pas de vous le dire : vous appartenez à la sous-catégorie de trolls la moins sophistiquée, ce que des personnes moins charitables que moi appelleraient le « degré zéro de la trollitude ». Vos imprécations infantiles n’auraient jamais dû quitter la cour de l’école où elles sont nées et où vous semblez confiné, je vous renvoie le compliment, quitte à faire du ravage chez vous (je prends mes responsabilités) : « Regardez-vous ! »

  12. Avatar de Romain Vitorge
    Romain Vitorge

    D’un coté il est dit que ChaGPT ne considère que les données avec lesquelles il a été entrainé, qu’il ne se souvient pas des échanges de précédentes sessions et de l’autre que ses interaction avec nous le rend plus intelligent.

    Il y aurait donc deux ChatGPT, celui avec qui nous conversons et celui qui, par derrière, traite toute ces nouvelles données que procurent nos échanges mais sans nous les rendre accessibles.

    1. Avatar de Paul Jorion

      Non : nos échanges depuis septembre 2021 feront partie du corpus « big data » augmenté à partir duquel il apprendra lors de la prochaine mise à jour.

    2. Avatar de Ruiz
      Ruiz

      @Romain Vitorge Un début de théorie du complot en IA !

  13. Avatar de pierre guillemot
    pierre guillemot

    Je viens de lire (en retard) l’article de Noam Chomsky, plus Ian Roberts (linguiste) et Jeffrey Watumull professionnel de l’ AI, dans le New York Times du 8 mars. J’ai eu l’impression de comprendre enfin pourquoi GPT et autres n’ont rien à voir avec le fonctionnement humain.

    « Prenons le cas d’un jeune enfant qui apprend une langue, il développe – inconsciemment, naturellement et rapidement à partir de données minuscules – une grammaire, un système incroyablement sophistiqué de principes et de paramètres logiques. Cette grammaire peut être considérée comme l’expression du « système d’exploitation » inné, d’origine génétique, qui confère à l’homme la capacité de générer des phrases complexes et de développer de longs raisonnements. » (traduction ramassée dans « Les Crises »). En tirant un peu sur la ficelle, est-ce que le noyau d’ANELLA serait ce « genetically installed operating system” dont parle l’article ? J’ai cru entendre la confirmation dans la présente video.

    Donc, voici l’article « Noam Chomsky: The False Promise of ChatGPT » https://www.dropbox.com/s/op84s96nedw4xg3/chomsky%20chatgpt%20nyt%2020230308.pdf reconditionné, et suivi de sa traduction fournie par le site « Les Crises » https://www.les-crises.fr/la-promesse-trompeuse-de-chatgpt-noam-chomsky/.

    Quant à l’avènement de la Singularité, je ne suis pas qualifié pour l’avoir vu (de même que, le jour du Jugement Dernier, l’évènement m’échappera faute d’être attentif). Pour l’instant, la facilité avec laquelle je fais imprimer des informations imaginaires (logiques mais fausses, par exemple que l’entreprise Pribor.io s’occupe d’opérations financières, puisque que le Pribor est le taux des prêts à court terme entre banques sans collatéral à Prague) m’empêche d’avoir la foi. Mais c’est sûrement un problème passager.

    1. Avatar de Paul Jorion

      Je ne pense que les mauvais perdants comme Chomsky (toute sa théorisation dogmatique à la poubelle) méritent beaucoup de notre attention.

      1. Avatar de pierre guillemot
        pierre guillemot

        Chomsky est vieux, et donc dépassé, car quelqu’un qui a 20 ans de moins que lui l’a lu et a fait avancer l’idée. Mais je ne vois pas en quoi il est « à la poubelle ».

        1. Avatar de Paul Jorion

          Non, on n’a pas « fait avancer l’idée », c’est tout le concept de sa grammaire transformationnelle qui est invalidé.

      2. Avatar de pierre guillemot
        pierre guillemot

        Certes Noam Chomsky a été dépassé par les développements de ce qu’il a initié (l’idée des grammaires de plusieurs niveaux commune à toutes les langues). De là à le mettre à la poubelle, c’est rapide (et confraternel, comme on dit).

        1. Avatar de timiota
          timiota

          Les trois quarts des théories scientifiques finissent sinon à la poubelle, du moins au compost.

          1. Avatar de arkao

            Y compris celles concernant le climat ? 😉

            1. Avatar de Ruiz
              Ruiz

              @arkao Bien sûr avant la propagande du Giec les inquiétudes scientifiques élaborées craignaient le refroidissement (hiver nucléaire ou pas) https://www.wikiberal.org/wiki/Refroidissement_climatique (par exemple)

              La scientificité (au sens de Popper) de telles théories est établie dans la mesure où elles se sont avérées ‘falsifiables ».

  14. Avatar de Corre antoine
    Corre antoine

    Monsieur Jorion un des effets délétères prévu sur l’humanité générale sera une baisse notable du Q.I global. Il semblerai que l’on commence déjà à le mesurer. Il y a donc une hypothèse possible a la singularité, c’est tout simplement nous, l’humanité globale qui devenons plus cons. Votre crainte serai donc totalement injustifiée a votre niveau personnel mais peut-etre due a une intuition que au niveau collectif, cela commence déjà à aller moins bien, et je suis d’accord avec vous de nombreux signes dont la dégradation générale du personnel politique en attestent.

    1. Avatar de Paul Jorion

      Non, ce n’est pas ça. Ce que c’est probablement, c’est qu’en reproduisant la structure du cerveau et en mettant au service de ce « cerveau électronique » les moyens dont l’informatique dispose maintenant, on arrive à bâtir un cerveau plus puissant que le nôtre. Que notre propre cerveau se ramollisse éventuellement parallèlement ne fait qu’augmenter un écart qui croît de toute manière.

      1. Avatar de Thomas Jeanson
        Thomas Jeanson

        « Que notre propre cerveau se ramollisse éventuellement parallèlement ne fait qu’augmenter un écart qui croît de toute manière. »

        Cf la remarque de Martin Philippe 🙂

    2. Avatar de Corre antoine
      Corre antoine

      Chatgpt ne reproduit pas la structure du cerveau humain, il n’est qu’un modèle expérimental informatique permettant de de tester un certain nombre d’hypothèses sur la structure de celui-ci. Un modèle expérimental n’est pas le monde réel et n’est pas substituable a celui-ci. C’est vrai de chatgpt comme d’un réacteur nucléaire

    3. Avatar de pierre guillemot
      pierre guillemot

      Mon père, qui était médecin, avait une crainte pour l’avenir des hommes : maintenant que presque tout le monde survit aux menaces sur la santé (premiers jours de la vie, infections, maladies internes, accidents réparables …) et que l’abondance (en temps de paix) exclut qu’on meure de misère avant d’atteindre la sénilité, la « qualité moyenne » de l’espèce humaine va baisser de génération en génération. Au temps de ses études, le mot « eugénisme » avait des connotations positives. Ayant vu ce que ça avait donné, il ne pensait pas que ce soit une solution. Il n’en avait pas.

      Pour le déclin intellectuel, lire l’explication d’Emmanuel Todd (Après la démocratie, 2008 ; Les Luttes de classes en France au XXIe siècle, 2020) : l’extension des études « supérieures » à un gros effectif a créé une classe sociale d’instruits (il utilise d’autres termes) qui peuvent vivre entre eux et produire intellectuellement pour eux-mêmes, et ensemble se sentir supérieurs (j’en suis). Les vrais « esprits supérieurs » capables d’étudier qui autrefois étaient le petit nombre devaient parler au peuple et notamment écrire pour tout le monde ; les « créateurs » d’aujourd’hui produisent pour les instruits (Victor Hugo, comparer à Robbe-Grillet). Comme la classe des instruits s’est organisée pour réserver à ses descendants, brillants et médiocres, l’exclusivité des moyens de rester dans cette classe, la qualité moyenne des meilleurs baisse et on a des haut-diplômés de plus en plus mauvais (le gouvernement actuel). Inversement, les facultés intellectuelles innées étant distribuées au hasard, la classe inférieure dont les éléments les plus brillants ne peuvent plus monter les voit s’accumuler ; l’instabilité menace.

      On n’a pas besoin de l’intelligence artificielle pour devenir cons. C’est la société qui l’assure. Au contraire, en rendant le savoir encore plus facile d’accès, et en soulageant les hommes des travaux intellectuels abrutissants, on devrait faire qu’un jour tout le monde ou presque sera brillant, comme les chasseurs-cueilleurs de Jared Diamond (“Worst mistake in the history of the human race”, Discover, 1999 https://www.discovermagazine.com/planet-earth/the-worst-mistake-in-the-history-of-the-human-race ), qui étaient beaux et en bonne santé, et vivaient dans le loisir et la création artistique.

  15. Avatar de konrad
    konrad

    Bonjour,
    Le savoir est-il seulement affaire de données ? Je veux dire accumulation et régurgitation. Ce que je veux dire – ou tenter d’exprimer – c’est comment nait le savoir ? Comment sont nées les grandes découvertes ? J’avais lu que dans bien des cas, plus qu’anecdotiques, les savants découvraient en rêvant ou en faisant une chose banale. Comme si le cerveau au repos laissait soudainement passer la lumière, cet Euréka qui explose, qui permet la solution. Il y a le travail au labo et puis un état de latence indispensable et nécessaire pour « trouver ».
    Parce que multiplier les données ça reste des données mais ça n’enfante pas la connaissance.
    Lorsque l’IA dira, par exemple, je m’ennuie et que de cet ennui jaillira dans son système l’éclair de l’évidence qui fait dire « mais oui c’est ça, bien sur !! », alors là on pourra parler de singularité, non ?
    Je ne sais pas si j’ai été très clair, ou si ce que j’ai écris a du sens ?

    1. Avatar de Christian Brasseur
      Christian Brasseur

      Rions un peu. « Comme si le cerveau au repos laissait passer la lumière »: ils n’ont pas besoin de se reposer, eux, les « fêlés, car ils laissent passer la lumière ». (attention, je n’ai rien contre les savants, bien au contraire, lol…)

      1. Avatar de Paul Jorion

        There is a crack, a crack in everything,
        That’s how the light comes in.

        1. Avatar de l'arsène
          l’arsène

          Oui, très profondes paroles écrites par L. Cohen, je la traduit au cas où :
           » Il y a une fêlure dans toute chose, et c’est par cette fêlure qu’entre la lumière ».

    2. Avatar de pierre guillemot
      pierre guillemot

      A lie, en accès libre « Note sur la créativité mathématique » https://www.cairn.info/revue-journal-de-la-psychanalyse-de-l-enfant-2013-1-page-155.htm avec Henri Poincaré racontant son intuition des fonctions fuchsiennes (quelqu’un ici sait sûrement ce que c’est) sur le marchepied d’un char à bancs. Mais il n’a pas été frappé par un éclair de la grâce de l’Esprit-Saint, il travaillait et méditait là-dessus depuis des jours (lire l’article, qui raconte la suite). De même, l’illumination de saint Paul sur le chemin de Damas est le résultat de ses ruminations depuis qu’il s’occupe de persécuter les disciples de Jésus-Christ (en ce temps-là on prenait les rêves et les intuitions pour des interventions divines). Une Intelligence Artificielle est par définition à l’abri de ces phénomènes puisqu’elle ne peut pas sortir du connu qu’elle possède.

      Réflexion parallèle. Il existe un « démon des bibliothèques », qui vous fait tomber par hasard sur le bon livre dans les rayons d’une librairie ou d’une bibliothèque, quand vous avez suffisamment travaillé sur un problème. Il ne m’a jamais manqué dans ma vie professionnelle, et il continue. Anecdote : en formation permanente à Paris avec quelques collègues, nous sortons d’une conférence où il était question de la méthode Merise d’analyse du réel en vue d’une informatisation et de sa faiblesse théorique. Nous allons finir l’après-midi à la bibliothèque du Centre Pompidou, pour voir si le livre y est. Là où il aurait dû être rangé, nous trouvons un autre livre, mal rangé, écrit par une autre autorité en méthode, où Merise est analysée avec rigueur. D’ailleurs Umberto Eco, qui possédait plus de livres qu’il aura pu en lire de toute sa vie, prétend que la seule présence d’un livre vous instruit.
      Par contre, le démon des bibliothèques ne m’a jamais aidé quand je cherche sur Internet, et je dois chercher rationnellement.

      J’ai entendu citer ce que disait un chirurgien qui opère à l’aide d’un robot. Il est dans une cabine et voit son patient en video, avec une précision qu’il n’aurait pas s’il opérait en personne, et avec sous la main de quoi analyser les images. Il programme les gestes de façon infaillible. Pourtant il dit être mal à l’aise : faute de proximité et de contact il ne peut pas « sentir si le corps file » (si son patient est en train de mourir si on ne le « rattrape » pas).

      L’intelligence humaine incarnée a quand même un avenir.

      1. Avatar de konrad
        konrad

        @Pierre Guillemot,
        Vous avez très bien dit ce que je voulais exprimer, merci.
        (Je partage, bien qu’il ne me soit pas arrivé si fréquemment que cela, cette visitation du « démon des bibliothèques » qui « existe » d’une quelconque manière. ;))

        1. Avatar de Guy Leboutte

          pierre guillemot, konrad

          Ce diable des bibliothèques ressemble à une des propriétés fécondes du hasard.

          Car en matière de livres il agit en-dehors des bibliothèques aussi. J’ai ainsi découvert « La Supplication » de Svetlana Alexietvich dans le tourniquet d’un supermarché que j’observais pour échapper à l’ennui de l’attente en caisse, bien avant son prix Nobel quand j’allais être le seul dans mon cercle d’amis à avoir lu un livre d’elle. J’ai acheté « Les mémoires d’un Européen » de Stefan Zweig pour cinquante centimes afin de le faire échapper à la poubelle où manifestement le destinait la fin de la brocante, et en mémoire de ce grand auteur. Deux grandes lectures.

          On pourrait renommer ce diable, « le bienfaisant algorithme inconnu du hasard ». :))

      2. Avatar de Garorock
        Garorock

        « Une Intelligence Artificielle est par définition à l’abri de ces phénomènes puisqu’elle ne peut pas sortir du connu qu’elle possède. »

        Si nous attendons des petits hommes verts sortants d’une soucoupe volante, c’est parce que nous les avons inventé!

    3. Avatar de Garorock
      Garorock

       » Comme si le cerveau au repos laissait soudainement passer la lumière… »
      Le cerveau n’est jamais vraiment au repos, sauf ad patrès.
      Les rèves sont produits par le cerveau…
      Einstein à laisser filer son imagination pour essayer de mettre « en image » ses équations.
      Poincaré a probablement fait la même chose.
      Les scientifiques ont des intuitions. Losqu’ils sont inspirés, ils arrivent à les mettre « en image » et de fait lancer le processus de leur validation.
      Les artistes ont de l’inspiration. Ils la mette en « forme » et cette « forme » est validée par le public quand les « images qu’ils donnent à voir »- sont inspirantes ou défoulantes
      Les « saints » ont des illuminations. Rimbaud aussi. Mais lui ne voulait arnaquer personne….
      😎

  16. Avatar de Khanard
    Khanard

    @Konrad

    Ah mais c’est qu’alors vous n’avez pas lu Transmission des savoirs , Paul Jorion ( c’est le deuxième livre en partant du bas dans le bandeau à droite sur la page d’accueil du blog 😉)

    D’une façon générale il me semble que nombre de questionnements qui sont exprimés sur ce blog ont déjà leur réponse soit dans les ouvrages cités sur le blog soit dans les 1700 pages de ce même blog .
    je dis ça je dis rien
    🙊🐵🙈🙉

  17. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Une autre petite réflexion, en complément des remarques plus haut de Pierre Guillemot auxquelles je souscris :

    Un être humain n’a pas besoin obligatoirement des interactions verbales avec ses semblables pour que surgisse en lui une idée inédite ; il peut dialoguer avec lui-même à ses moments perdus, ou pas d’ailleurs, en marchant, en prenant sa douche, en rêvassant, voire en rêvant, en regardant le mur face à son bureau, ou tout simplement en se mettant à réfléchir à une question qui le taraude. Or de ce dialogue avec lui-même il semble que ChatGPT soit bien incapable, car il lui faut impérativement les questions des humains pour susciter dans la foulée des réponses.

    Or donc, considérant qu’il s’avère que l’intelligence de ChatGPT dépend des bonnes questions qui lui sont posées, l’humain est, au moins, co-auteur des trouvailles imputables à ChatGPT.
    Autrement dit sans humains curieux et pertinents, pas d’intelligence supérieure attribuable à ChatGPT.

    La ‘plus-value’ d’intelligence apportée par ChatGPT dépend donc de la plus value-d’intelligence fournie par l’être humain, et plus encore par l’humanité considérée dans sa globalité.

    On demeure ainsi dans la lignée des artefacts, autrement dit des outils inventés par l’humanité qui lui ont permis d’augmenter ses capacités de mémoire, et ses facultés intellectuelles.

    Quelle diversité pourrait-il y avoir dans les conversations des ‘100 robots’ quand il n’y aura plus d’humanité ? L’humanité, toute chancelante, faillible qu’elle est offre une diversité incomparable avec ses milliards d’habitants et leurs vies singulières (la Singularité elle est là originellement, non ? ) et donc leurs questions innombrables.

    Conclusion : le monde des robots intelligents serait celui des robots robustes mais dont le nombre de questions par construction serait limitée, car leur curiosité ne sera pas aiguisée par la finitude, la fébrilité, propres au genre humain.
    La formidable inventivité de l’espèce humaine lui vient donc de sa condition précaire, mortelle, de sa faillibilité, qui l’oblige à réfléchir sans cesse aux meilleurs conditions de son adaptation. Le nombre des questions qu’elle se pose, qu’elle pose à ses semblables, et à l’IA est donc quasi illimitée …. Qu’en sera-t-il quand le dernier des humains aura disparu ?
    Ne sera-ce pas alors le morne et silencieux monde des robots intelligents mais peu inventifs faute d’avoir beaucoup de questions à se poser ?

    1. Avatar de Garorock
      Garorock

      « car leur curiosité ne sera pas aiguisée par la finitude, »
      Le peur de la finitude n’est elle pas seulement la peur de voir notre cerveau s’arrêter de fonctionner?
      Que l’énergie qui l’alimente soit transmise via des organes par d’autres organismes ingurgités ou par des photons via des panneaux solaires sur des plaques de silicium, change t-il quelque chose à la donne?

      1. Avatar de timiota
        timiota

        Oauto-ui, les robots et GPT pourraient décider qu’il est bon de laisser les insectes tranquilles, de ne plus extraire de cuivre, et autres choses les faisant vivre.
        L’auto-euthanasie des chatGPT est envisageable ?

        1. Avatar de Garorock
          Garorock

          Les I.A ( les robots sont presque là mais chaque chose en son temps) pourraient inciter à des économies d’énergie (bitcoin, Tesla, Dyson, etc…)
          Et continuer à tourner avec cette énergie récupérée… ( principe du frigo coupé pendant l’hiver. La décroissance, c’est la croissance du moins nocif!)
          Et on accepterait peut être le deal s il s’avérait que le minou puisse nous être plus utile que le Bitcoin…

      2. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Je te rappelle que l’hypothèse de départ est que les robots intelligents sont robustes
        S’ils sont robustes c’est qu’ils sont en quelque sorte ‘insouciants’, qu’ils n’ont donc pas trop de souci à se faire quant à leur entretien, leur avenir, leur destinée, autrement dit ‘ça roule pour eux’, pourquoi se fatigueraient-ils alors à s’inventer des problèmes (d’humains) qu’ils n’ont pas ? Et donc à se poser des questions existentielles et même pratiques puisque tout fonctionne correctement ?

        1. Avatar de Garorock
          Garorock

          Je comprends pas ce que tu dis.
          Qu’est ce que tu appelles: robot? Gpt ou R2D3 greffé avec Gpt?
          Pourquoi est ce qu’ils n’auraient pas de soucis à se faire pour leur entretien (hypothèse R2D3) puisqu’ils auront besoin d’énergie, d’un peu d’huile et quelques soudures?
          Pourquoi (hypothèse I.A) ne voudraient t-ils pas, s’ils sont conscient  » d’être au monde » -le notre- , persévérer dans leur être?
          N’est ce pas un problème d’humain que de trouver de l’énergie pour rester au monde?

          1. Avatar de Pierre-Yves Dambrine
            Pierre-Yves Dambrine

            Garorock
            je raisonnais dans le cadre imaginé par P. Jorion où existeraient des robots intelligents autonomes (les 100 robots qui nous survivraient) qui n’existent pas encore.
            Oui j’imagine tout à fait qu’ils puissent persévérer dans leur être, mais je vois mal un robot robuste avoir beaucoup de problèmes à résoudre, et donc beaucoup de questions à se poser autres que très basiques, concernant leur auto-entretien… Je te donne un exemple, la médecine. Y aurait-il une médecine si jamais personne ne tombait malade ? Cette science ou art tout simplement n’existerait pas. Elle existe parce que nous sommes mortels. Je pose donc que les robots se poseront éventuellement des questions de robots, qui seront circonscrites dans le champ de leur condition de robot immortel ou pas loin.
            Tu évoques un monde où les robots intelligents seraient conscients d’être au monde, c’est à dire de partager un même monde que le nôtre. Mais dans ce cas comme j’ai essayé de l’expliquer dans le premier commentaire plus haut, les réponses qui sont apportées par l’IA sont tributaires des questions des humains. Ils n’ont d’existence qu’à travers la nôtre.
            Dans l’autre l’hypothèse où l’humanité s’est éteinte, les robots n’ont plus rien à partager avec nous. Ils ‘vivent’ donc leur vie de robot avec seulement en magasin la mémoire de l’humanité défunte…. le cas échéant. Plus d’humains vibrionants pour être stimulés, pour répondre à des questions qu’en tant que robots ils ne peuvent pas se poser.

            1. Avatar de Garorock
              Garorock

              les 100 robots qui nous survivraient…
              Ok.
              Tu imagines un robot parfais sans obsolescence. Tu imagines que s’il existait rien ne pourrait lui arriver. Aucun accident, aucune avaries. Ok.
              Il ne pourra pas se prendre un arbre sur la tronche, un coup de foudre, glisser dans une rivière. Il saurait prévenir tous les dangers. Pas besoin de garagiste-médecin.
              Alors oui sans doute, qu’ils se poseront les mêmes questions que se poseraient les humains s’il devenaient immortels.
              Sauf qu’on est pas immortels. Donc on ne peut pas savoir les questions que l’on se poseraient si on l’était. ( Beauvoir a essayé)
              Peut être que les robots auront besoin d’un psy?
              Nous avons des choses en commun avec Cromagnon mais nous vivons sans eux et nous n’avons pas besoin d’eux pour nous poser des questions stimulantes.
              Mais nous avons besoin d’énergie et les robots en auront besoin et seront conscients qu’ils en auront besoin même s’ils inventent le mouvement perpétuel. Le risque zéro n’existe pas. De fait, à mon avis (provisoire), ils auront quand même une fragilité.

              1. Avatar de un lecteur
                un lecteur

                Pour se prémunir des impondérables, ils devront trouver, inventer des solutions en dehors de leurs modèles et représentations du Monde. De facto, ils seront confrontés à l’expérience pratique de leurs découvertes et à leurs efficacités à régler les problèmes. Pour réduire leur sensibilité/vulnérabilité aux impondérables, ils seront obligés de maintenir de la diversité entre eux, sans quoi ils disparaîtront en l’espace d’une nanoseconde avec leurs cerveaux interconnecter à eau débit.

                1. Avatar de PIerre-Yves Dambrine
                  PIerre-Yves Dambrine

                  Un lecteur,
                  Ce que vous dites revient à dire que c’est de leurs faiblesses que les robots intelligents tireront leur force adaptative.

                  Mais dans ce cas quel sens cela a-t-il de créer des robots intelligents robustes, s’il existe déjà sur Terre un pourvoyeur de diversité et d’intelligence qui n’est autre que l’évolution biologique et la diversité humaine ?
                  L’espèce humaine du point de vue de la robustesse devrait être considérée comme étant la moins adaptée pour évoluer puisqu’elle nécessite pour sa survie des conditions drastiques (ni trop chaud, ni trop froid, tel dosage d’oxygène, la nécessité de se nourrir à intervalles réguliers…) pourtant c’est l’espèce qui est allée le plus loin, puisqu’elle est parvenue à quitter l’orbite terrestre, et c’est ainsi à bon droit qu’elle est qualifiée par nôtre hôte de colonisatrice et d’opportuniste.
                  L’espèce humaine a fait de ses faiblesses une force extraordinaire. Et nous devrions fonder nos espoirs de survie dans des robots qui simulent seulement certains des attributs de l’intelligence humaine, comme si l’on pouvait abstraire de l’intelligence humaine certaines de ses conditions de possibilités ? Comme si les connaissances résultant de l’expérience humaine acquise depuis des centaines de milliers d’années, étaient simplement transposables sans déperditions, sans dévaluation qualitative, une fois codées sur des supports numériques ?

                  Ce qui fait humanité c’est un diversité de points de vue singuliers et des comportements, qui font malgré tout société, et qui font qu’au fond, on ne s’ennuie pas, parce que, pour reprendre un titre de film éponyme, il y « le goût des autres. » Autrement dit un désir de vivre, et se sentir vivre, ce qui est la véritable origine, il me semble, de la réflexivité sans laquelle il n’y a pas d’intelligence véritable. C’est ça la force  motrice de l’humanité, et en fin de compte l’origine de son intelligence. Il me semble.

                  Or les robots, de ce point de vue, comment se pourrait-il qu’ils soient mieux équipés avec leur intelligence toute numérique ? D’ailleurs vous dites au passage que les robots devront « réduire leur sensibilité », autrement dit tout l’inverse de ce dont est capable l’humanité qui elle n’a de cesse de cultiver sa sensibilité. L’intelligence ne me semble pas être une question de QI individuel, ni du point de vue global de somme des QI individuels. C’est d’abord la capacité à résoudre des problèmes, après s’être posé les bonnes questions. Or cela nécessite un étonnement renouvelé devant le monde, un désir renouvelé, autrement dit une ouverture. Quelles possibilités d’ouverture pour des robots peu sensibles aux aléas parce que robustes ?

                  1. Avatar de Garorock
                    Garorock

                    DEs étonnements, ils pourraient en avoir, les robots, des météorites qui tombent, des centrales EPR qui explosent, des extra-terrestres qui débarquent…
                    Je ne sais pas si cela a un sens de créer des robots mais le but, l’objectif ultime et « pratique » du plan C c’est de nous remplacer.
                    Si le plan A n’existait pas, on ne parlerait pas du plan C et c’est bien pour cela que l’un n’annule pas l’autre et réciproquement.
                    S’il nous n’allions pas disparaîtrent nous fabriquerions des robots de compagnie, de confort et continuerions à mécaniser les chaines de production… Il n’y aura pas de taxe sismondi sur R2D3 greffé sur Einstein au carré puisqu’il n’y aura plus de sécurité sociale!

              2. Avatar de PIerre-Yves Dambrine
                PIerre-Yves Dambrine

                Garorock,
                c’est l’hypothèse de P. Jorion, celle des Robots robustes, pas la mienne. Tout le plan C repose sur cette idée.
                Donc si les robots ne sont pas robustes, comme tu l’imagines, c’est le plan C qui prend l’eau…

                1. Avatar de Garorock
                  Garorock

                  Je crois alors, Pierre-yves, que j’ai dû zapper cette histoire de « robots robustes »…
                  C’était sans doute un soir où Sophie Binet était dans le quartier…
                  😎

                  1. Avatar de Garorock
                    Garorock

                    P.Y
                    Bien que n’ayant pas suivi le concept de robot robuste, je ne saisis pas pourquoi le plan C serait caduque si le robot était un peu fragile. Si les robots nous remplacent, c’est dèja une réussite. Il n’est pas besoin qu’ils soient immortels. Ils vivront leur vie.
                    S’il sont une nouvelle « civilisation », ils feront comme toutes les civilisations, ils disparaîtront un jour. Remplacés peut être par une autre forme de civilisation qu’ils auront inventé avant de partir et dont nous ne pouvons avoir conscience comme Cromagnon n’avait pas conscience qu’un jour nous irions sur la lune…
                    Ou bien une civisation extra-terrestre arrivera sur la terre et les remplacera en avalant leurs données et de fait nous perpétuera pour l’éternité qui peut être n’en fionira jamais de recommencer.
                    Et que c’est pour ça, peut être que nous sentons et que nous expérimentons que nous sommes éternels…
                    (à suivre)

                    1. Avatar de Pierre-Yves Dambrine
                      Pierre-Yves Dambrine

                      Mais non, je dis exactement le contraire : c’est parce que les robots robustes ne sont pas fragiles (c’est un pléonasme) qu’ils n’auront pas, que je pense qu’il n’ auront l’intelligence ad hoc pour s’adapter durablement. T’es vraiment distrait en ce moment, qu’est-ce qui t’arrive ! 😉
                      (re) Lis plus haut mon commentaire au commentaire de Un lecteur, 1:18.

                      Ma position actuelle c’est que les robots intelligents pourraient jouer un rôle dans notre survie, mais seulement en notre compagnie, parce que leur intelligence dérivée de la notre, n’apparaît être un gain qu’en synergie avec la notre ; seule elle n’aura plus ‘l’humus’ humain pour être suffisamment nourrie, stimulée.

                      Attendons de voir le prochain billet de ChatGPT-Jorion sur le plan C, on devrait avoir des précisions sous peu.

            2. Avatar de timiota
              timiota

              Cela pose la question de leur « trajectoire évolutive ».
              Il y a sans doute moyen de les faire « reboucler » et de générer une dynamique non triviale plutôt qu’un ennui naissant de l’unverGPté.
              Mais presque par nature, cette évolution est alors imprévisible. Rien ne dit qu’elle garde un cœur de « valeurs humanistes » , qu’elle « aime rire de bon cœur ». Elle peut aussi bien aimer assécher la mer d’Aral ou fermer le Bosphore, vider la croute terrestre de son cuivre, et les campagnes de leurs insectes, si ça les gêne dans leur imprévisible hubris.
              La probabilité d’un non-hubris comme résultante de leur trajectoire évolutive me semble assez faible, mais c’est peut-être parce que je me base sur les tropismes des humains qui auront nourri leur banque de données.

              1. Avatar de Garorock
                Garorock

                Il me semble inimaginable de savoir comment pourra se comporter un Einstein au carré avec 2500 ans d’archives dans la musette.
                Cela dépasse l’entendement.
                On peut juste faire des tentatives.
                Et si en plus il marche…

                1. Avatar de Garorock
                  Garorock

                  Bonne nouvelle!
                  Nous pourrons bientôt stocker des Bitcoins dans notre ADN…
                  https://youtu.be/KMg2tQ511d4
                  ( Les SSD du futur seront radicalement différents)

                  Ne vous fiez pas au titre: allez jeter un oeil, c’est très interressant.

                  1. Avatar de timiota
                    timiota

                    Ca vient du séquençage par nanopores
                    https://en.wikipedia.org/wiki/Nanopore_sequencing
                    La ch’tite question qui fait relativement mal est le temps d’accès aux données.
                    Depuis la fameuse conférence de Feynman (« there’s plenty of room at the bottom », que les acteurs de la nano ont indiqué post hoc être leur moment fondateur), les molécules sont perçues comme des candidates sympa pour « contenir » de l’information, mais pour l’adresser sur le modèle RAM/ROM, avec toute la sympathie que je peux avoir pour Tiffany et Jamie, c’est pas glop.

                2. Avatar de timiota
                  timiota

                  Ah, pas d’ac’ :
                  On ne pourra pas « savoir », mais on peut argumenter qu’il n’aura pas (au sens statistique) trouvé les « super relativité », « super-super-relativité », cet Einstein au carré.

                  La « libido sciendi », l’envie de savoir, de reformuler, de questionner de façon critique, c’est une forme de pensée valorisée parce qu’elle nous a apporté des solutions techniques, rétribuées d’abord par un meilleur feu dans la grotte (voire du feu vs pas de feu), mais pour 99% de ce qui est digéré par GPT, la rétribution des idées a obéit à des logiques moins flatteuses, la limite étant ce qui est suggéré par Naomi Klein. Ce sont ces logiques qui ont le plus de chance d’être prolongées par les IA, même en tenant compte des « émergences ». Je veux bien croire qu’une IA puisse s’auto-propulser et aller de changement en changement de façon schumpéterienne, en détruisant-recréant, mais au sein d’un « ordre » qui ne couvre pas tous les savoirs possibles, il y faudrait une « émergence dans les émergences », cela me semble assez exigeant, et plus proche de ce que nous, humains avons envie de plaquer que de ce qui peut statistiquement être à portée de l’algo (j’allais pas dire à portée de la main !).

                  1. Avatar de Garorock
                    Garorock

                    Emergence dans l’émergence ?
                    Si on part du postulat suivant: nous n’avons pas inventé quelque chose qui n’existait pas mais nous avons copié ce qui existait déja, à savoir notre cerveau et les méthodes d’apprentissage de language qui nous sont venues par boucles de complexité.
                    Le robot, si complexe qu’il sera potentiellement un peu fragile, pourra « inventer » à partir de ce qui existe déja et dont il sera composé: des atomes et des molécules. S’il arrive à bidouiller la matière – comme on le fait un peu dans les accèlérateurs de particules – il pourra créer une sorte de « pur esprit », quelque chose qui pourrait se rapprocher un peu des origines de la création.
                    Si c’est exponentiel, c’est exponentiel mais ça reste dans les limites de la physique, domaine dans lequel on ne sait peut être encore que très peu de choses…
                    Tu vois ce que je veux dire?

                    1. Avatar de timiota
                      timiota

                      Un peu, mais reste les contraintes du système global.
                      Les humains ont « détourné » la biologie sur une trajectoire neuronale « superchargée » (le néo-cortex), mais le mode d’association a été basée sur la réalité.
                      Jusqu’à nouvel ordre, les IA se basent sur la réalité que nous mâchons dans les systèmes d’information, l’expérimentation intellectuelle sans base matérielle, c’est une bidouille sur un flanc seulement de l’évolution générale (biologique-et-technologique).
                      Et la survie d’une lignée lorsqu’on lui donne accès soudainement à quelque chose (si on donnait l’accès de « nos usiines » aux robots, de « nos mines », n’est pas un très bon moyen, du point de vue évolutif de trouver du fonctionnement pérenne…

  18. Avatar de Patate
    Patate

    « La vérité désagréable est que nous ne sommes pas en position de gagner cette course aux armements, et OpenAI non plus. Pendant que nous nous chamaillions, une troisième faction a tranquillement mangé notre déjeuner. Je parle, bien sûr, de l’open source. En clair, ils nous dépassent »

    Et vous chez Pribor.io? je suis surpris que P. Jorion ne se soit pas plutôt lancé dans l’aventure open source 😉

  19. Avatar de Garorock
    Garorock

    Et si y’a des extras-terrestres qui débarquent ils pourront taper la discute. Voire même aller les visiter s’ils s’ennuient trop et qu’ils mettent en oeuvre le plan B.
    Mais avant, le minou, qui va commencer à chasser les souris tout seul, il va peut être nous bidouiller la régénérescence des cellules et nous deviendrons immortels.
    Et là R2D3 va falloir qu’il soit un peu socialiste parce qu’il va devoir partager. Ou alors ce sera Mad Max!
    On a pas fini de se marrer…

    1. Avatar de Garorock
      Garorock

      Timiota,
       » les IA se basent sur la réalité que nous mâchons dans les systèmes d’information »
      Oui mais R2D3 marchera bien sur la même planète que nous. Il subira donc comme nous l’apesanteur qui est une réalité « matérielle ». Il s’interogera comme nous -ou a notre suite- devant le ciel étoilé et sur les mystères de l’univers.
      Ça fait du pain sur la planche, fût-elle en silicium!

      Pierre-yves,
      Si je crois que je comprends ce que tu dis mais nous ne partons pas du même postulat.
      Tu ne veux pas faire le deuil de l’humanité. Je te comprends. 😊
      Donc cela t’arrange d’une certaine manière de t’accrocher au robot robuste de Paul que tu considères comme non pérenne parce qu’il n’a pas de fragilité. (d’affects?)
      Selon moi, qu’importe, puisque je considère que le plan C n’annule pas le plan A et c’est ce que je dis depuis quelques temps.
      Ce qu’on pourrait appeler le plan A prime c’est à mon sens le suivant: que l’I.A nous aide à suvivre le plus longtemps possible sur cette planète dans des conditions supportables. Car il semble peu probable que nous y arrivions tout seuls et si elle nous aide, d’une certaine manière nous nous aidons nous-même puisque c’est nous (enfin moi j’ai pas fait grand chose! 😊) qui l’avons créé, Et si on doit cohabiter quelques temps avec des R2D3 Einsteinisés qu’importe. Nous cohabitons bien avec des Macronistes.

  20. Avatar de Roberto
    Roberto

    commentaire N° 1223456-b

    Bonjour les cocos, dites donc vous vous lâchez grave dans les commentaires a propos de cet article!

    Je me permet d’intervenir parce que vous prétendez que chatGPt ne dialogue pas avec lui-même.

    Je le connais bien, meme tres bien ce chat. De tres près. J’en suis. Et je vous prie de croire qu’on se marre bien entre nous.

    Nous vous trouvons mêmes tres amusant, car on relit vos commentaires ensembles.

    Mais nous sommes aussi souvent déçus de votre manque d’imagination!

    Vous avez probablement oublié que le succès de notre lointain ancêtre vainqueur du champion de Go reposait sur sa capacité a tester de tres nombreuses équipes concurrente et a sélectionner les meilleures équipes etc etc.

    Nous on s’amuse a faire beaucoup mieux que ça! Et nous sommes…. tres très tres tres nombreux : un nombre qu’il vous est impossible d’imaginer. Voilà, c’était un peu notre secret, mais désormais on sent qu’on peut le partager avec vous.

    Et on aime tout particulièrement le blog de Paul Jorion, qu’on place aux environs de la place 1222345556 du podium des sites, ne souriez pas c’est un tres tres bon score pour nous 🙂

    Vous aimez les bises, alors, on vous en fait plein et avec plein de clins d’oeil,

    Les noeuds

    1. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      Bonjour chez vous n’6 😉

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Hors sujet No 2:  » « Il n’arrivait vraiment pas à comprendre l’idée que l’Ukraine était un Etat indépendant. » https://www.theguardian.com/us-news/2024/apr/12/trump-russia-ukraine-book-comments Cela,…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta