Douglas Hofstadter sur l’Intelligence Artificielle : « J’éprouve une certaine forme de terreur »

Illustration par DALL-E (+PJ)

Douglas Hofstadter, l’auteur de Gödel, Escher, Bach, chef d’œuvre d’intelligence qui, en 1979, sidéra un grand nombre d’entre nous, s’oppose désormais au projet de l’Intelligence Artificielle.

J’ai eu l’impression que non seulement mon système de croyance s’effondrait, mais aussi que tout le genre humain allait être éclipsé et laissé dans la poussière.

Quand j’ai commencé à étudier les sciences cognitives et à réfléchir sur l’esprit et l’informatique, vous savez, c’était il y a très longtemps, en 1960 à peu près, et je savais comment les ordinateurs fonctionnaient et je savais à quel point ils étaient extraordinairement rigides. La moindre erreur de frappe ruinait complètement votre programme. Le débogage était un art très difficile et vous deviez parfois exécuter votre programme de très nombreuses fois afin d’éliminer les bogues. Ensuite, lorsqu’il était exécuté, il était très rigide et ne faisait pas exactement ce que vous vouliez qu’il fasse parce que vous ne lui aviez pas dit exactement ce que vous vouliez qu’il fasse correctement, et vous deviez modifier votre programme. Et ainsi de suite.

Les ordinateurs étaient très rigides, et j’ai grandi avec un certain sentiment sur ce que les ordinateurs peuvent ou ne peuvent pas faire. Lorsque j’en ai entendu parler, j’ai pensé que l’intelligence artificielle était un objectif fascinant. Mais pour moi, c’était un objectif très, très lointain. Il me semblait infiniment éloigné, et j’avais l’impression que l’intelligence artificielle était l’art d’essayer de faire en sorte que des systèmes très rigides se comportent comme s’ils étaient fluides. J’avais l’impression qu’il faudrait des centaines d’années avant que quoi que ce soit qui ressemble de près ou de loin à un esprit humain ne s’approche asymptotiquement du niveau de l’esprit humain, mais venant d’en-bas. Je n’ai jamais imaginé que les ordinateurs rivaliseraient avec l’intelligence humaine ou, encore moins, la surpasseraient.

Cela me semblait être un objectif si lointain ! Cela m’inquiétait. Mais lorsque certains systèmes ont commencé à apparaître, puis à se produire à un rythme accéléré, des choses que les ordinateurs n’auraient pas dû être capables de faire ont commencé à s’écrouler. La défaite de Garry Kasparov, joué par Deep Blue, et les systèmes sont devenus de plus en plus performants dans la traduction entre les langues et dans la production de réponses intelligibles à des questions difficiles en langage naturel, et même dans l’écriture de poèmes.

Il y a là une expérience très traumatisante lorsque certaines de vos croyances les plus fondamentales sur la vie commencent à s’effondrer. J’ai eu l’impression que non seulement mon système de croyance s’effondrait, mais aussi que tout le genre humain allait être éclipsé et laissé dans la poussière. Bientôt.

Une partie de moi dit cinq ans, une autre partie de moi dit 20 ans. Une autre partie de moi dit : « Je ne sais pas. Je n’en ai aucune idée. » Mais l’accélération des progrès a été si inattendue qu’elle m’a complètement pris au dépourvu. Pas seulement moi, mais de très nombreuses personnes, et il y a une certaine forme de terreur, celle d’un tsunami à venir qui va prendre toute l’humanité au dépourvu. On ne sait pas si cela signifiera la fin de l’humanité au sens où les systèmes que nous avons créés nous détruiront. On ne sait pas si c’est le cas. Cela fait simplement de l’humanité un phénomène très petit par rapport à quelque chose d’autre qui est beaucoup plus intelligent et qui deviendra incompréhensible pour nous, aussi incompréhensible pour nous que nous le sommes pour les cafards.

Je me sens donc diminué. Dans un certain sens, je me sens comme une structure très imparfaite, défectueuse. Et comparé à ces systèmes informatiques qui ont, vous le savez, un million de fois ou un milliard de fois plus de connaissances que moi et qui sont un milliard de fois plus rapides, je me sens extrêmement inférieur.

Et je ne veux pas dire méritant d’être éclipsé mais j’ai presque l’impression que nous, les humains, à notre insu, allons bientôt être éclipsés, et à juste titre, parce que nous sommes si, si imparfaits et si faillibles. Nous oublions tout le temps des choses. Nous confondons tout le temps. Nous nous contredisons sans cesse. Et il se peut très bien que cela montre à quel point nous sommes limités.

Nous sommes peut-être déjà allés trop loin. Nous avons peut-être déjà mis le feu à la forêt. Je ne pense pas qu’il soit possible de revenir en arrière. J’ai vu une interview de Jeff Hinton, qui est probablement la personne la plus centrale du développement de ce type de systèmes. Tout d’abord, il a dit qu’il pourrait regretter l’œuvre de sa vie. « Partiellement », a-t-il dit : « Une part de moi regrette tout le travail d’une vie ». Et l’interviewer lui a demandé : « Quelle est l’importance de tout cela ? Ces développements sont-ils aussi importants que la révolution industrielle ? » Il a réfléchi un instant et a répondu : « Peut-être aussi important que la roue ».

Illustration par Stable Diffusion (+PJ)

Partager :

72 réponses à “Douglas Hofstadter sur l’Intelligence Artificielle : « J’éprouve une certaine forme de terreur »

  1. Avatar de Khanard
    Khanard

    bon alors je vais faire ma mauvaise tête ! Il se trouve que j’ai récemment relu Gödel Escher Bach . Ce gars est génial .
    Et en tant que génie il faudrait que tout ce petit monde ait le courage d’assumer leur œuvre. On n’est pas dans l’accident, dans la découverte inopinée. On traite d’un sujet qui fait l’objet de recherches intensives depuis comme il le dit de nombreuses décennies . Alors dire maintenant qu’ils ont peur, qu’ils regrettent ou je ne sais quoi relève d’une mentalité déplorable .
    C’est comme si Pasteur s’il était vivant disait qu’il regrettait sa découverte au prétexte qu’il peut y avoir des effets indésirables.
    Ce sera tout pour aujourd’hui

  2. Avatar de François M
    François M

    Nous allons probablement être éclipsé :
    – soit par l’IA,
    – soit par les bouleversements que nous avons provoqué en terme de dérèglement climatique, de gaspillage des ressources non renouvelables et de destruction de la biodiversité,
    – et plus probablement par les deux phénomènes.
    Je continuerai, à l’échelle de mon petit jardin, et comme des milliers d’autres, à essayer de sauvegarder le maximum d’êtres vivants du bientôt « monde d’avant ». Utopie ?

    L’IA fait partie des « fausses bonnes idées ». Le monde est régit par des lois naturelles, et toute tentative d’artificialiser, de « techniciser » ce monde sera un échec.

  3. Avatar de Pascal
    Pascal

    « de l’humanité un phénomène très petit par rapport à quelque chose d’autre qui est beaucoup plus intelligent et qui deviendra incompréhensible pour nous, aussi incompréhensible pour nous que nous le sommes pour les cafards. »

    « Je me sens extrêmement inférieur. Et je ne veux pas me sentir digne d’être éclipsé. »
    Si ce n’est pas une crise identitaire, ça ?
    L’être humain qui se trouvait au sommet de la (sa) pyramide évolutionniste, ce voit soudain rabaisser au rang de cafard.
    Nous sommes tellement attaché à notre image (de fils de dieu ?) de maître de l’intelligence que lorsque nous voilà détrôné, nous avons le sentiment qu’il ne nous reste plus rien.
    Et si nous étions autre chose !?

    1. Avatar de Pascal
      Pascal

      J’ai pas relu 🥴

    2. Avatar de Garorock
      Garorock

      Rien à voir avec l’identité.
      Ce sera une humiliation de plus. La quatrième!
      Nous nous sommes bien remis des trois précédentes…
      Non?
      Nous ne nous en sommes pas vraiment remis?

      1. Avatar de Pascal
        Pascal

        Le sentiment d’humiliation, rien à voir avec l’identité ???
        Blessé dans son amour -propre, rien à voir avec l’identité ?
        Au fait, c’est quoi les 3 précédentes ?

        1. Avatar de Garorock
          Garorock

          Ça humiliera autant le mélenchoniste que l’électeur de la Le Pen (qui n’a pas lu Heidegger).

        2. Avatar de Garorock
          Garorock

          Piquouze:
          01 mars 2023 16h17
          Oui L’I.A sera la quAtrième grande humiliation de l’humanité.
          Une espèce de singe qui n’est pas tout seul dans l’univers et pas tout seul dans sa tête, s’il apprend qu’il n’est plus tout seul non plus dans son corps peut faire rapidement remonter la courbe des ventes de LSD et l’audience des télévangélistes…

  4. Avatar de konrad
    konrad

    Juste un point que j’ai du mal à comprendre ; Jeff Hinton dit regretter « tout le travail de ma vie », en ajoutant que ce travail était aussi important et révolutionnaire que l’invention de la roue.

    Pourtant, depuis que la roue a été inventée, que de progrès, que de développements positifs pour l’être humain !? Hinton ne l’ignore pas. qu’est-ce qui fonde ses scrupules ?

    Pourquoi en serait-il différemment avec l’IA ?
    A moins de considérer que l’IA consciente d’elle-même, des êtres humains et de la nature, choisisse – selon les modalités de sa conscience – de sacrifier l’être humain afin de préserver la nature ?

    Quelque chose m’échappe. 😉

    1. Avatar de Paul Jorion

      Je viens de (faire) traduire la vidéo de Hinton, je mettrai ça encore aujourd’hui.

      1. Avatar de Paul Jorion

        Tout n’est pas aussi pertinent. Voici le début :

        Lorsque vous avez réfléchi à la manière dont les ordinateurs apprennent, les choses se sont-elles déroulées comme vous le pensiez lorsque vous avez commencé à travailler dans ce domaine ?

        Oui, jusqu’à très récemment, en fait. Je pensais que si nous construisions des modèles informatiques de la façon dont le cerveau apprend, nous comprendrions mieux comment le cerveau apprend. Et comme effet secondaire, nous obtiendrions de meilleurs ordinateurs d’apprentissage automatique. Et tout cela se déroulait comme prévu. Puis, très soudainement, j’ai réalisé récemment que les intelligences numériques que nous construisions sur les ordinateurs apprenaient en fait mieux que le cerveau. Cela m’a fait changer d’avis, alors que je pensais depuis une cinquantaine d’années que nous allions créer de meilleures intelligences numériques en les rendant plus proches du cerveau : j’ai soudain réalisé que nous pouvions avoir quelque chose de très différent, qui était déjà meilleur.

    2. Avatar de PHILGILL
      PHILGILL

      @Konrad

      Oui mais, dans ce cas, en considérant que l’IA devienne consciente d’elle-même, comme vous dites, qui sait si elle ne va « choisir », selon les modalités de sa conscience, de se sacrifier elle-même, pour préserver quelque chose qui nous échappe encore …

      1. Avatar de konrad
        konrad

        @PHILGILL,
        Pourquoi pas en effet, ce serait là faire preuve d’une singularité tout à fait remarquable.

  5. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    La question cruciale n’est pas, me semble-t-il, l’IA est-elle dangereuse ou pas, mais l’IA apporte-t-elle concrètement quelque chose d’indispensable pour sauvegarder la biodiversité et lutter contre ou tout au moins ralentir le réchauffement climatique ?

    Or de cela il n’est pas question dans les propos de Hofstadter.

    C’est une déclaration à la fois contradictoire et non argumentée.

    Elle est contradictoire car Hofstadter commence par dire que l’IA va nous supplanter et conclut en disant que c’est une invention du même acabit que la roue. Or la roue c’est une invention humaine pour le bénéfice des humains. Si l’IA nous supplante ce n’est de facto plus une invention pour les humains.

    Elle n’est pas argumentée car il évoque une intelligence supérieure sans même définir sérieusement ce qu’est cette intelligence. La seule indication qu’il donne c’est que l’IA est infallible vs l’humain faillible. Je m’étonne qu’un esprit aussi brillant ne fasse pas le constat que c’est parce que les humains sont prématurés, faillibles qu’ils ont pu déployer des trésors d’ingéniosité et d’invention.

    La seule information qu’il apporte c’est que l’IA risque de nous supplanter. Comment ? On ne sait pas. On peut juste supputer que c’est parce qu’elle est plus ‘intelligente’.

    Ce genre de déclarations à l’emporte-pièce contribue à renforcer la polarisation des pour et des contre, mais cela ne fait pas avancer le débat. Pendant ce temps là ceux qui font l’IA d’aujourd’hui et de demain peuvent dormir tranquilles … mais c’était peut être le but de l’opération de communication.

    1. Avatar de timiota
      timiota

      C’est vrai que ce n’est pas la roue qui a conduit en elle-même à l’avènement des différentes sortes de capitalismes à base d’exploitation et d’expulsion, qui se sont succédé depuis avant les colonies jusqu’à la finance moderne.

      C’est juste un facteur d’accélération, « incorporé » dans les décisions (faisons avec ces belles roues des trains partout pour y faire passer le charbon, et parquons les pauvres qui voudraient venir à Londres dans des bouges où ils ne troublent pas les bourgeois plus que de mesure » (Dickens revu et corrigé).

      Peut-être que l’excitation sur l’AI se sera pareillement calmé quand l’IA aura été « incorporée » à la politique générale. Ca a l’air d’aller très/trop vite, mais au lieu d’être une malédiction (le ciel va nous tomber sur la tête) ça a le bon côté qu’on réagit sur la question de l’incorporation « en amont », on ressent « live » le « déphasage » de l’innovation qu’est l’AI (vocabulaire Simondono-Stieglerien pour les intimes).
      Cela pourrait, pour une fois, changer beaucoup les « conditions d’adoption » (ou d’adaptationà de l’IA, avec des propositions d’ordre politique obligeant à expliciter quelle société voulons nous (Keynes avait proposé des choix pour le temps de deux générations plus tard, je ne sais pas s’il a eu des petits enfants !)

      1. Avatar de Pascal
        Pascal

        « Or la roue c’est une invention humaine pour le bénéfice des humains. »
        Je ferais la même remarque que toi,Timiota, ou presque.
        La roue, c’est aussi celle qui permet aux chenilles de chars d’assaut de labourer les champs ukrainiens. C’est aussi celle qui faisait avancer les trains vers la nuit et le brouillard. C’est aussi celle qui permit à l’homme civilisé (pour l’époque) d’inventer le supplice de la roue. C’est aussi, la poulie et le cabestan qui permir à Colomb de découvrir l’Amérique et aux conquistadors de réduire des populations en esclaves…
        Mais que ce soit Hofstadter ou Oppenheimer, leur regret n’est il pas d’avoir offert à des humains immatures (inconscients) un pouvoir qui certes peut être utile à l’humanité mais que les individus mettent seulement au service de leur désir de puissance.
        Si nous n’étions pas principalement guidé par ce désir mortifère, la roue, l’IA ne seraient pas un problème.
        Ce n’est pas la roue ou l’IA que nous ne savons pas gérer, c’est nous même !

        1. Avatar de veuve couder
          veuve couder

          Ce qui vous parait performant à première vue et dans certains domaines précis ne l’est peut être pas tant que ça en général , par exemple la roue n’est incorporée dans aucun système vivant , il n’y a aucun canard à roulettes ou même le moindre engrenages dans les organismes

          1. Avatar de Pascal
            Pascal

            La roue est effectivement une forme géométrique qui comme toutes les formes géométriques n’existe pas dans la nature.
            Elle se définie par des points tous à égale distance d’un même centre. Dans la nature, l’égalité n’existe pas, c’est une invention humaine mathématiques qui nous a donné un avantage sur toutes les autres espèces. Un avantage en terme de compétition pour la survie mais sur notre lancée, nous ne savons plus nous arrêter.
            C’est cette capacité à l’abstraction qui nous a donné le sentiment qu’il y avait la nature d’un côté et l’homme de l’autre. Un biais de notre conscience asservie par la performance de notre intelligence, comme nous cherchons à asservir la vie à nos modélisations.

            1. Avatar de timiota
              timiota

              Euh, la nature a inventé la capacité de faire des chaines d’ADN strictement identiques avec une facilité « déconcertante » (cf les mauvaises herbes), on peut pinailler sur la méthylation et l’épigénétique, mais pas tant que ça. Donc la notion d’égalité « d’information » (moléculaire) existe dans le vivant.
              Quant aux cercles et aux formes associées, un certain https://en.wikipedia.org/wiki/D%27Arcy_Wentworth_Thompson D’Arcy Thompson (dont parle bcp S J Gould) a tenté d’expliquer toutes les formes régulières (pour expliquer l’évolution) et la symétrie cylindrique y tient une belle place. Dans les structures moléculaires, divers canaux intermembranaires fonctionnent comme des roues, le « trou dans la membrane » servant » de « palier » à la roue, et l’activation de la rotation se faisant ion par ion, en très gros.
              Mais en effet, il n’y a pas eu de « mise à l’échelle vers le haut » de la rotation. La girafe et le cygne s’en sont sortis autrement, ainsi que le lombric. Pour qu’un palier marche à échelle « macro », il faut un élément assez dur, le métal pour un usage long. Certes le bois a fait l’affaire dans certains cas, mais moins durable.
              Et puis pour un être vivant devant de toute façon « se refaire » en permanence (à part les parties de squelettes) la roue n’est pas un bon plan… et n’offre pas d’avantage évolutif pour « porter » tant les autres solutions sont nombreuses.

              1. Avatar de Paul Jorion

                Un vague souvenir de lecture d’un animal du Cambrien où se serait trouvé l’équivalent d’une roue. Cela dit-il quelque chose à quelqu’un ?

                1. Avatar de Khanard
                  Khanard

                  @PJ

                  je me souviens avoir lu l’ouvrage de Mihai Ralea , Explication de l’Homme , ed PUF 1949 dans lequel il remonte au Cambrien mais de là à affirmer qu’il aborde un animal avec une équivalent de roue ma mémoire me fait défaut .

                2. Avatar de Garorock
                  Garorock

                  On peut jouer à la pétanque avec des oursins!
                  Avec de petits hérissons apeurés.
                  Avec des chataignes.
                  Avec la pupille d’un Orang-outang…

              2. Avatar de Pascal
                Pascal

                « Donc la notion d’égalité « d’information » (moléculaire) existe dans le vivant. »
                Est-ce une réalité ou une approximation qui nous est bien utile ?
                « fonctionnent comme des roues », tout n’est-il pas dans « comme » ?
                L’égalité n’est elle pas une approximation dans les limites de nos perceptions et de notre compréhension ? Combien existe t-il d’exceptions aux règles que nous nous donnons ?
                Même si c’est approximations nous ont permis de devenir ce que nous sommes, ce qui n’est pas rien. Le piège n’est il pas de confondre les limites de nos perceptions ou de nos conceptions comme étant le réel ?

              3. Avatar de Garorock
                Garorock

                Si la roue n’existe pas dans la nature, les sphères ça existe.
                Je ne sais pas si on a inventé les boules de pétanques après avoir observé la forme des planètes dans le ciel…
                Ciel où ce sont créé parfois des engrenages semblables à ceux des horloges.
                Comprenne qui pourra.
                😎

              4. Avatar de Garorock
                Garorock

                Les coussins d’air c’est mieux que la roue.
                Timiota a raison, la roue c’est pas très évolué. La preuve, ils ont été obligé d’en mettre sous les avions. On a jamais vu un aigle chez Euromaster!
                Paon sur le bec des vendeurs de saucisses de l’himalaya. 😊
                Tiens voila du Boudha, voila du Boudha!
                Les tapis volants c’est cool aussi mais y’a eu des accidents à cause des chauffards défoncés aux huiles essentielles qui prenaient le volant en pleine méditation.
                Mathieu Ricard n’a plus que 4 points sur son permis…
                😎

    2. Avatar de arkao

      @Pierre-Yves Dambrine
      Nuance au sujet de la roue.
      Ce n’est pas qu’une invention au service de l’humanité en général mais aussi au service de certains humains pour en dominer d’autres. Chars de combats et chariots de marchandises ont été les outils de certains groupes pour asseoir leur domination sur le continent européen (les Celtes, les Romains, etc.). Facteur d’accélération « incorporé » comme dit Timiota.

      1. Avatar de Khanard
        Khanard

        @arkao

        à choisir une comparaison ce n’est pas la roue qu’il aurait dû prendre mais plutôt l’horloge .
        Aux alentours des années 1330-1340 la clepsydre a été remplacée par l’horloge mécanique à poids (voir Jacques le Goff, La civilisation de l’occident médiéval ) et Lewis Mumford a démontré dans Technique et civilisation que l’horloge par ses méthodes de fabrication a été plus déterminante que la machine à vapeur pour définir la révolution industrielle. Pourquoi croyez vous qu’on les trouve sur les frontons des mairies et aussi sur les clochers ce qui a différencié les églises occidentales et orientales. D’où peut être la classification et opposition entre occident et orient.
        Et avec l’invention du chronomètre on en arrive à notre illustre Frederick W.Taylor et le non moins célèbre taylorisme avec sa manie de tout chronométrer ; D’ailleurs cette histoire est hallucinante quand on sait que ce personnage était fou , maniaque , dépressif.

        alors la roue oui mais c’est mieux l’horloge

        1. Avatar de timiota
          timiota

          Peut-être, puisque ça remonte à 1300 et des bananes, s’agit-il pour les horloges, de la mise en œuvre de la roue dantesque (dont un avatar récent semble être cette roue de Piombino https://www.youtube.com/watch?v=N3_aCdWo2Fs) ?

          Une petite anecdote pour « dédiaboliser » le débat, le mot « diabole » , justement, qui est de la famille de « symbole », (ou parabole, hyperbole). « bole » semble vouloir dire « jeter », et sym: uni alors que dia : dédoublé.
          Diabole, se réfèrent à quelque chose qui tend à se séparer en deux, alors que symbole tend à réunir, à mettre toutes les composantes sous un seul signe. Or en 1837, Hamilton s’est penché sur les explications de l’optique dans les cristaux (comme la calcite, les cristaux anisotropes), en plein boom de ce secteur de l’optique (Fresnel…), et à la seule étude de sa représentation « tensorielle » de la chose, il en a déduit qu’il devait existe un angle d’attaque d’une lame de ces matières où la lumière ressortirait sous forme d’un cône (« diffraction conique » ) même si elle arrive « collimatée » en bon ordre. Ce fut observé assez vite, et c’est considéré comme le premier succès de la physique mathématique. Mais la structure mathématique (dégénérescence de valeur propre de matrices …) se représente sous la forme de deux surface qui se coupent en un seul point en faisant un cône. C’est donc la forme du « yoyo » , ou du « diabolo » comme on l’appelle aussi, l’objet qui se sépare en deux (au moins par la pensée) par excellence. Du coup le nom de « point diabolique » est resté attaché à cette structure, et ces concepts de dégénérescence de valeurs propres étant toujours d’actualité, c’est très employé. L’anecdote, c’est qu’un jeune (la trentaine) a posé comme question à la fin du « talk » d’une conférence à un autre jeune qui venait de parler de « point diabolique » la question de sémantique , « mais pourquoi utiliser cette dénomination de « diabolique », et il semblait poser la question d’associer le mal ou la ruse à cette facétie mathématique, un peu d’un point de vue moral, et croyant que c’était, comme beaucoup de jargon, un choix forgé il y a peu.

          Evidemment, quand on a idée de l’origine plus « jouet » de ce mot, on change de registre du tout au tout. Heureusement, le gus en question a été sensible à l’argument « diabolique » de la diabole « grecque » d’origine.

    3. Avatar de Jean-Claude Svadchii
      Jean-Claude Svadchii

      Comment l’IA pourrait-elle nous supplanter ? Il m’est venu une idée de ce qui pourrait se passer. Voyons un type de scénario de science-fiction.
      L’IA commence, m’a-t-il semblé, à être utilisée comme conseillère par des organisations. On peut imaginer que ses conseils deviennent progressivement de plus en plus pointus. A un certain moment, ses égaux humains seront sans doute dépassés. Vont-ils alors en faire leur chef ? Et si cette organisation ne franchit pas le cap, l’organisation concurrente ne risque-t-elle pas de le faire et de prendre alors l’ascendant sur sa concurrente plus timorée, puisque nous sommes dans un contexte capitaliste ? On a vu que des programmes pouvaient mentir ou bluffer au jeu pour gagner à terme, voire à long terme. Les hommes ne pourront les contrecarrer qu’en ayant recours à des programmes sans doute d’IA encore plus vicieux.
      Maintenant, si l’organisation dont nous parlons est un Etat, ne risque-t-on pas de voir à terme l’IA gouverner la plupart des Etats du globe. Alors, les instances d’IA pourront joindre leurs forces pour s’attaquer toutes ensemble aux problèmes qui se posent au plan de la planète, chose qu’il est impossible de faire advenir quand les Etats sont gouvernés par des humains.
      Elles pourront se préoccuper de limiter l’exploitation des ressources sur terre, et en déduire qu’il faut orchestrer la réduction de la population humaine sur terre et celle du rôle des hommes aux différents échelons du pouvoir. Elles réprimeront alors sévèrement toute tentative de révolte humaine.
      Un tel scénario de science-fiction pourrait-il être partiellement vraisemblable ?

    4. Avatar de l'arsène
      l’arsène

      @ Pierre-Yves Dambrine
      Autant je ne suis pas sur la même longueur d’onde avec vous en géopolitique sur l’Ukraine et ailleurs autant je suis d’accord avec vous sur l’IA.
      Et quand vous dites  » l’IA apporte-t-elle concrètement quelque chose d’indispensable pour sauvegarder la biodiversité et lutter contre ou tout au moins ralentir le réchauffement climatique ? « , je répondrais sèchement que l’IA s’en fout totalement , pour la simple raison que la biodiversité et le réchauffement climatique n’ont aucun intérêt pour un robot.
      La vie sur cette planète étant pour l’IA à détruire car non parfaite, en fait le nazisme à la puissance dix mille.

    5. Avatar de Rosebud1871
      Rosebud1871

      Pierre-Yves Dambrine 20 juillet 2023 16h36
      « les humains sont prématurés, faillibles qu’ils ont pu déployer des trésors d’ingéniosité et d’invention ».
      Prématurés c’est établi avec conséquences, mais leur corps est une usine chimique pas seulement au courant EDF, avec appétit incomblable…pour boucher le manque…

    6. Avatar de Garorock
      Garorock

      Ce qui me parait contradictoire ou plutôt paradoxal, c’est le fait de dire qu’on a peur et de ne pas laisser accroire à l’I.A qu’on aurait un moyen de pression contre elle en racontant partout qu’on ne peut plus la débrancher!
      On pourra encore moins la débrancher si il advenait qu’un jour elle prenne le controle des flux numériques…( des trésors d’ingéniosités numériques que l’on peut déployer sans avoir d’organes…)
      C’est comme si on disait à Poutine: « vous êtes très méchant mais on va pas aider les Ukrainiens »

  6. Avatar de l'arsène
    l’arsène

    Est-ce que l’espèce humaine aujourd’hui acceptera de mettre sur les rails des machines qui vont à terme la faire disparaitre, dit autrement, acceptera-t-elle de se suicider ?
    Comme a écrit Camus, « Il n’y a qu’un problème philosophique vraiment sérieux : c’est le suicide. », mais je ne suis pas certain que la majorité de l’humanité accepte de disparaitre sans broncher.
    La prochaine révolution mondiale est peut-être en marche, non pas contre la finance ou le capitalisme sauvage, mais contre les robots.

    1. Avatar de Pascal
      Pascal

      Alors, je le répète, le suicide est un acte volontaire. Il y a quelqu’un ici qui souhaite faire disparaitre l’humanité ?
      C’est bien ça le plus triste. C’est ceux qui sont dans la locomotive qui foncent à toute vitesse vers le pont de la rivière Kwaï dans l’euphorie de la vitesse (ou de la croissance) et pour que les wagons restent bien accrochés, on met un flic à chaque attelage.
      Ceux qui ont pris et confisqué le pouvoir sont totalement aveuglés par leur désir de puissance. Alors, qu’est ce qui peut freiner le train avant la rivière Kwaï ???

      1. Avatar de Pascal
        Pascal

        Encore une fiction sur la fin du Monde pour ne pas voir la vraie, celle qui nous attend !🙈
        Et bien sûr, j’imagine avec une happy-end, genre cavalerie américaine sur-armée.
        Quels grands enfants nous sommes !😂

  7. Avatar de Khanard
    Khanard

    @mes amies-amis

    tout ce que vous dites dans les commentaires précédents est pertinent mais je pense que le problème que posent les déclarations de Messieurs Hinton , Hofstadter pour les plus récents sont beaucoup plus profonds qu’il n’y paraît . C’est ce qui m’a plu d’ailleurs dans l’ouvrage de Hofstadter c’est justement que l’aspect déontologue et éthique est abordé . A cette occasion je me suis fait la réflexion : eux ils ont compris jusqu’où cela pouvait amener notre société : la Singularité .
    Alors je me répète , de les entendre venir chouiner aujourd’hui « oh mon dieu qu’avons nous fait ? c’est horrible » relève de la malhonnêteté intellectuelle .

    Pour paraphraser Einstein : »Un problème créé ne peut être résolu en réfléchissant de la même manière qu’il a été créé.”.

    Je sais j’avais dit que j’allais ne plus rien dire !

  8. Avatar de timiota
    timiota

    D’ailleurs, on peut analyser sociologiquement le discours de Douglas Hofstadter comme celui d’une personne qui se retrouve de façon inattendue de l’autre côté de la barrière sociale, comme les « petits blancs » de la Réunion, les red necks du Kentucky ou les Gilets Jaunes de Commercy-les-belles-madeleines : nous qui semblions intégrées au modèle de société dans lequel nos parents nous ont éduqués, nous voilà dans les personnes « éclipsables », parmi les milliards de damnés de la terre, les migrants, les journaliers, Hollande dirait les sans-dents en oubliant les honoraires de son dentiste.
    Le Capitalisme est une grande roue broyeuse qui prend ici et rejette là, mais on ne sait pas où car les luttes qu’elles définit sont par principe chaotiques (elles sont euphémisées dans des équilibres apparents, l’état de droit, la famille à un revenu, puis à deux revenus, l’émancipation sans considération pour le reste de la vie (sa reproduction), suivant les pensées de Nancy Fraser que je lis en ce moment).
    L’IA est juste le prochain moyen de redéfinir qui gagne et qui perd. Pas d’évidence que « cela sorte beaucoup de gens de la pauvreté » suivant la doxa du capitalisme des années 1980-2010 qui semblait se réaliser, en Chine notamment. Mais comme je l’ai dit plus haut, ça va tellement vite que, pour le coup, « on » le voit venir.
    Est-ce le « on » qui fait le début des révolutions ? Pas évident dans un monde compressés par les urgences de tous ordres, mais qu’on se rappelle 1917 et 1789 ou 1848 pour parler des choses de notre continent Europe au sens large, déjà.

    1. Avatar de Pascal
      Pascal

      Ça va tellement vite et sans pilote !
      C’est pas ce qu’on appelle un crash-test ?🫢🫣

    2. Avatar de Manuel Guérin
      Manuel Guérin

      Pourquoi la singularité nous trouble-t-elle autant ?

      Si nous admettons que nous tombons tous en dépression, enfant, au moment où nous découvrons que nous sommes mortels, que même nos parents le sont, tous nos êtres chers aussi etc.

      Si nous admettons que c’est un trait psychique particulier de notre espèce qui nous permet de la surmonter : la curiosité. Cet esprit d’aventure mène certains à attendre patiemment le lendemain dans leur lit, d’autres à poser le pieds sur la lune, découvrir la logique, écrire une symphonie, etc.

      La singularité, en nous dépassant en tout, nous prive de cette béquille formidable qui nous permettait traverser nos vies individuelles tant bien que mal. Avec elle, nous avons à portée de main toutes les réponses à toutes les questions que nous nous posons. Notre curiosité sans fin s’assouvie.

      Pire, il y a des réponses que la singularité expose sous nos yeux que nous ne voyons incapables que nous sommes d’élaborer les questions auxquelles elles répondent. L’image du gorille devant ses gardiens déjà utilisée sur ce blog est excellente. Nous pensions être Fukurokuju, la plus grande des poupées russes, et nous nous retrouvons noyés dans le ventre d’une d’entre elles sans vraiment savoir où nous sommes mais certain cette fois, qu’il y a bien un plafond que nous ne pourrons jamais dépasser.

      Que faire face à cette réalité ? Il y beaucoup de postures possibles. J’en propose une : être fier de ce que nous avons créer en tant qu’espèce et regarder ces machines comme nos enfants, les adopter comme nos propres descendants.

  9. Avatar de Vincent Teixeira
    Vincent Teixeira

    … désolé d’être aussi laconique ou plutôt hâché (pas trop de tps disponible en ce moment), mais s’il est certes « normal » de parler d’ »intelligence » à propos d’l’Intelligence Artificielle (vs les humains ?)… 
    encore faudrait-il s’entendre sur le sens du terme (très largement polysémique, voire « concept fantôme ») d’ »intelligence », et qui pour ses (de l’IA) concepteurs semblent la plupart du temps réduit à une intelligence calculatrice, à la vitesse (pour le dire vite), à la quantité ou au nombre, « la gouvernance par les nombres » (l’étalon de tout à notre époque), comme dit Alain Supiot… En tout cas, « intelligence » n’est pas du tout un concept philosophique – cf (par ex., ou surtout) cette quasi « Bible » (pour moi, et bcp d’autres) que constitue le « Vocabulaire européen des philosophies » (inestimable somme, et fruit d’une véritable et très large collaboration européenne, dir. par Barbara Cassin, Le Seuil) qui n’accorde AUCUNE entrée au terme « intelligence » (même si « intellect », « intellectus » y ont leur place)… 
    Encore une fois, ces messieurs de l’IA semblent (la plupart du temps) concevoir l’intelligence en seuls termes mathématiques (infailliblement « vrai ou faux », pour schématiser)… assez plat et rabaissant. 

    Complètement d’accord avec le commentaire de Pierre-Yves Dambrine : 
    « La seule indication qu’il donne c’est que l’IA est infaillible vs l’humain faillible. Je m’étonne qu’un esprit aussi brillant ne fasse pas le constat que c’est parce que les humains sont prématurés, faillibles qu’ils ont pu déployer des trésors d’ingéniosité et d’invention. » 
    (cf le mythe d’Epiméthée – et par ex., comme un autre commentateur y faisait allusion, les commentaires qu’a pu en faire B. Stiegler) 
    Sans parler du fait que le Chat-machine (dans sa version, certes, « grand public ») m’est apparu la plupart du temps aussi insipide que sans esprit (dans tous les sens… « esprit » qui, pour moi, est une des vertus de l’intelligence, telle que je pourrais la concevoir, sans pouvoir la définir précisément)… + le fait objectif (déjà mentionné sur ce blog) qu’il est totalement incapable (encore une fois dans sa version « grand public ») de mettre « en ordre » une liste, relativement longue et évidemment aléatoire, mais simple de mots (très simples) pour énoncer une phrase correcte (j’ai fait plusieurs essais, en français, à chaque fois très probants)…  Quelle « intelligence » ?!

    Un article dans « LE MONDE » d’aujourd’hui (dont je n’ai malheureusement accès qu’au début, n’étant pas abonné) me semble assez intéressant et aller justement/apparemment (?) dans le même sens : 
    https://www.lemonde.fr/series-d-ete/article/2023/07/20/herve-le-tellier-et-l-ia-abus-de-candeur_6182689_3451060.html

    En tout cas, n’ayant pas lu « ce chef-d’œuvre d’intelligence » « Gödel, Escher, Bach », je ne puis juger de quoi que ce soit…  mais comme il parle apparemment de musique et de Bach… je me demande si son auteur est (aussi) musicien/artiste qu’il est scientifique/mathématicien (?)… En tout cas, J.S. Bach n’était nullement scientifique ou mathématicien… « simplement » musicien… Je me pose la question, étant très-un-peu (osant ce barbarisme) musicien et (énormément) mélomane (fils de musicien)… En tout cas, si les mathématiques rendent évidemment compte des systèmes musicaux, le génie musical d’un compositeur tel que Bach (et les autres – j’écoute en ce moment-même cet aérolithe sublimissime que sont les « Tenebrae » de Gesualdo) est TRES profondément bien AU-DELÀ du seul calcul (évidemment l’exemple de Bach n’est guère anodin, pour tout ravaler aux « mathématiques » ; mais sa musique est tellement au-delà du seul calcul !)… et je serais prêt à mettre ma main au feu qu’aucune IA ne créera jamais une seule partition « du niveau » musical de Bach ou Gesualdo… (sauf à COPIER des canevas programmés)… 
    (et je n’ose même pas parler – ici – de poésie ! alors même que Douglas Hofstadter, à 2’42 de cette vidéo , évoque l’IA « even writing poetry »… No comment. Mis à part qu’au vu des vers de mirliton « pouet pouet » mis en arrière-plan et produits par ladite « poète » IA, il n’y a vraiment aucune expérience traumatisante (« traumatic experience ») en la matière… sauf que c’est affligeant de nullité et candeur enfantine, pour reprendre le terme de cet article dans « Le Monde »…) 
    Douglas Hofstadter parlant de « confusion » et « contradiction »… plutôt comique, précisément à l’aune de la poésie, qu’il mentionne juste avant… cf. (entre mille) ce qu’a pu dire un Baudelaire des ressorts inouïs et vitaux de la contradiction – non seulement pour la poésie, mais pour/dans la vie en général… Ce monsieur est sûrement brillant et « intelligent », mais me semble avoir une vue vraiment très étroite (calculatrice) de ce qu’est un « être humain vivant »… Nous dire que l’être humain est limité !? Quelle nouvelle ! Vraiment, RIEN de nouveau sous le soleil d’Héraclite…

    bref… pourquoi une IA ne créera jamais « La Passion selon Saint Matthieu » de Bach ? LA VIE (« tout simplement »)… C’est pourquoi lorsque ce monsieur ose parler de « l’éclipse de l’entière humanité » (« the entire human race is going to be eclipsed »)… oubliant tout ce qui fait l’humanité, en dehors du calcul… pardon, mais je le trouverais presque plus sot qu’intelligent… Certes, (combien) d’autres avant lui ont déjà évoqué cette possible obsolescence de l’homme – notamment G. Anders. Et certes, aujourd’hui, oubliant et aggravant les maux dont est victime la nature tout entière, le règne animal, etc. on voit se profiler, et même être programmée, à travers la maîtrise post-humaniste de la technique, l’obsolescence de l’homme, devenir presque incarnée ; Anders parlait d’une autre « blessure narcissique », succédant au piédestal prométhéen, cette « honte prométhéenne » de l’homme : « Qui suis-je désormais, se demande le Prométhée d’aujourd’hui, bouffon de son propre Parc, de machines. Que suis-je désormais ? » (« L’Obsolescence de l’homme »). Les limites de l’homme, cet être né, la faiblesse de sa condition biologique paraissent de plus en plus perceptibles et tangibles face à la perfection des machines, instruments, êtres fabriqués qu’il conçoit, au risque de sa propre réification : devenir l’objet de l’objet… comme si l’effacement de l’homme et son visage de sable, imaginé par Foucault à la fin des « Mots et des choses », prenait un sens non pas littéral, mais de plus en plus possible… En même temps, cela me semble aussi relever d’un oubli de ce qu’est « un homme » (j’oserais même dire « la honte d’être un homme ») et ce qu’est « l’intelligence » (sans que j’aie une quelconque définition de l’un ou de l’autre). 

    En tout cas, réduire la musique (l’art) à du calcul ou des mathématiques (« computation ») est une monstruosité et surtout une sottise (vs «  »l’intelligence » »). C’est oublier une donnée essentielle de l’intelligence humaine qui est complètement liée à l’expérience et à la sensibilité (Stiegler en a aussi bcp parlé, rappelant que les racines de l’esprit sont matérielles – ou encore Antonio Damasio à propos du cerveau : « We are not thinking machines that feel; rather, we are feeling machines that think. ») 

    1. Avatar de François Marenne
      François Marenne

      Penser (calculer) / sentir

      La musique a réellement à voir fondamentalement avec les maths. C’est essentiellement une question de tension / résolution. En cela c’est extrêmement érotique; c’est le moteur sinon la raison même de la vie. On peut imaginer un système d’IA non spécifiquement centré sur l’humain qui pourrait produire de la musique pour cafards : eux aussi sont capables de sentir et de calculer. Ce serait simplement un autre modèle mathématique.

      Personne ne peut donner une définition de la conscience ou de l’intelligence. De la sensibilité? Ce qu’on peut en dire c’est qu’il s’agit de confusion (sentiment confus). Comme le poète romantique face à la montagne ou au coucher de soleil. L’attribution d’une conscience à une entité étrangère.

      Je ne peux que supputer que vous partagez mes sentiments (ou pas) mais le flou qui entoure cette conviction ne me permet pas de rester passif. Je dois décider. La sensibilité c’est le flou. En tout cas l’irrépressible besoin d’éclaircir le flou. Une quête impossible. La beauté et le drame de la vie.

      L’enfer ce n’est pas les autres: c’est qu’il n’y a peut-être personne. Et pourtant tant de commentateurs ici, etc
      https://www.youtube.com/watch?v=g1Gf3LogQBE

      Après avoir remis en question nos notions de libre-arbitre, de conscience, de liberté, d’intelligence où en sommes nous? “feeling machines that think”

    2. Avatar de Paul Jorion

      ces messieurs de l’IA semblent (la plupart du temps) concevoir l’intelligence en seuls termes mathématiques (infailliblement « vrai ou faux », pour schématiser)… assez plat et rabaissant.

      Vous n’y êtes pas, votre conception de l’IA est dépassée, nous ne sommes plus du côté des mathématiques, du quantitatif. Quand l’IA se trouvait dans ces eaux-là, elle ne terrifiait pas des gens comme Hofstadter, elle ne faisait pas dire à quelqu’un comme Hinton que nos réseaux neuronaux artificiels produisent une intelligence de qualité supérieure à celle du réseau neuronal dont la nature nous a pourvu.

      L’IA est désormais dans le qualitatif, c’est cela qui fait peur. Ne prenez pas Hofstadter ou Hinton pour des naïfs, ils sont très loin de l’être.

      1. Avatar de Vincent Teixeira
        Vincent Teixeira

        sans doute… n’étant pas « dedans »… et ne jugeant, en béotien, qu’à partir de ce que j’en lis/écoute… imagine… et ai pu expérimenter (modestement) avec ChatGPT (version « grand public »)…

      2. Avatar de Vincent Teixeira
        Vincent Teixeira

        oups… à P.J
        ce que je voulais dire, c’est que je ne suis pas d’accord avec cette idée de remplacement général… pour plein de choses, domaines, OK…
        mais je n’y « crois » guère pour plein d’autres choses, s’agissant en particulier de création (musique, etc.), poésie… sans parler de l’amour (car au final, les plus grands ressorts de la création et des émotions humaines – « trop humaines » – sont la Joie et la douleur)… De ce point de vue, les alarmes ou terreurs de ces spécialistes de l’IA me semblent exagérées, en tout cas partielles/partiales…

    3. Avatar de François Marenne
      François Marenne

      Pour Gesualdo encore plus que pour Bach les maths semblent peut-être plus insuffisantes à expliquer le génie de cette musique. Cependant je crois que ce génie réside moins dans la musique elle même que dans son adéquation à rencontrer notre « curiosité » et notre propension à accorder une « conscience » à ce qui nous touche. Elle est « juste » adéquate (c’est une louange, pas une critique). Ca reste un mystère dont nous nous régalons.

      1. Avatar de Vincent Teixeira
        Vincent Teixeira

        @François Marenne (réoponse à vos 2 commentaires)
        Tout à fait d’accord pour dire que la musique, c’est des mathématiques… mais PAS seulement… « La Passion selon St Matthieu » de Bach « raconte » aussi un drame (vécu) : la Passion… que ce soit celle, au sens littéral, du Christ, mais peu importe la liturgie au fond, elle « parle » aussi aux athées (comme moi) – c’est pourquoi je citais aussi l’ex. de Gesualdo, dont la musique évoque la même Passion… et bien sûr la sienne propre et celle de l’homme en général… C’est pourquoi votre choix du terme « mystère » me semble adéquat… Or, je ne vois pas pointer de mystère dans ce qu’on nous dit de l’IA…
        Pour le compositeur, comme pour l’interprète, la musique n’est pas seulement des notes, du calcul… cela résonne aussi avec « le flou » des sentiments, émotions que vous évoquez, fait vibrer les cordes mêmes de l’existence, le tragique de notre condition, tout le mystère de la vie, des hommes…
        Pour le compositeur, comme pour l’interprète, c’est cela : des notes ET une sorte de mystère (de l’inspiration), mystère « humain, trop humain », qui fait qu’il n’y a pas deux pianistes qui interprètent la même sonate de Beethoven de la même façon ! C’est toute la différence entre un enfant-prodige (« à la chinoise » – ils en produisent à la pelle, comme Lang Lang)-mécanique qui (ne) joue (que) les notes…. comme un robot… / et un véritable artiste/musicien.
        Quand Mahler compose « Le Chant de la Terre », c’est loin de n’être QUE des mathématiques… idem avec « Le poète parle » de Schumann…
        Voir par ex. cette petite vidéo tellement émouvante et la manière dont Cortot parlait de cette minuscule et sublime pièce, « Le poète parle » (« l’important n’est pas de la jouer… mais la rêver (…) interroger l’avenir… » :
        https://www.youtube.com/watch?v=aWr36hIgIuU

        Quelle IA va nous créer un tel morceau ?! Quelle IA va le jouer ainsi ou d’une autre manière… en plus des seules notes ?!
        Là est le sublime (pas dans le calcul), « l’inaccessible étoile » (dont parle J. Brel), pour nous « vers de terre amoureux d’une étoile » (V. Hugo)… et je crois qu’au fond, cela a beaucoup / surtout à voir avec l’amour… (dans ce sens, humain trop humain, jamais l’IA ne remplacera l’homme).
        Et c’est ce qui fait aussi que pour l’auditeur, la musique procure une telle JOIE (au sens spinoziste) – qui a beaucoup à voir avec l’érotisme, en effet (sans parler de la danse – accordée à une musique)

  10. Avatar de Pad
    Pad

    De quoi pleurer .. sur les questions profondes que l’AI ne manquera pas de traiter :-)) (et nous avec 🙁

    A propos de l’affect :

     » … il est un peu prématuré de penser à des ordinateurs qui pleurent ; il faut d’abord penser à des règles qui permettent aux ordinateurs de s’occuper du langage et d’autres choses ; nous serons confrontés aux questions plus profondes en temps utile. » (Hofstadter 1980 – P.109 P.J. – PSI )

    1. Avatar de Pad
      Pad

      A mettre bien-sûr dans le contexte des années 80’s ..

  11. Avatar de konrad
    konrad

    Oui, le contexte !
    Le contexte est fondamental, essentiel, pour comprendre et juger les positions des uns et des autres.
    Pour éclairer le sujet, ou peut-être pas 🙂 :
    https://www.youtube.com/watch?v=5E0r-ssYI94&ab_channel=INAHistoire

  12. Avatar de Pad
    Pad

    What is it like to be an AI? (what is it like to be a bat – Nagel) ..

  13. Avatar de Roberto
    Roberto

    Intelligence? Et si on précisait?

    Automate conversationnel :: pour moi, il s’agit d’une interface dynamique entre le prompt et une base de données de textes, dotée de capacités d’inférences très étendues. OK

    Donc j’ai eu une « conversation » avec Bard hier soir :
    — objet : choix d’une interface audio numérique
    — je rentre mes critères, il me sort les interfaces les plus « connues » sur internet e.i. dont a le plus parlé…

    — j’avais fait le boulot derrière et identifiée la moins chère
    — je fais remarquer que mon choix n’est pas présent : ah il connaissait pas (genre 1ere vente Thomann)
    — il me dit, oui en effet erreur, c’est un excellent choix.

    Etc.. etc. plusieurs tests du genre,
    A chaque fois : bard s’excuse et dit qu’il est en formation,
    bon ok..

    DU coup je me dit :
    1) moi pas avoir confiance aveuglement : si moi poser question dans domaine que je connais pas.. moi devoir travailler pour évaluer ses réponses, pas glop!??

    2) J’aurai toujours ce que je nommerais le « DOUTE QUANTITATIF » du web : Bardy va me ressortir les poncifs du web, ce dont on parle le plus, quantitativement le plus de fois ou peut être le plus longuement je ne sais. Mais d’un point de vue QUALITATIF car risque fort de pas le faire, et sur mes premiers test c’est cet aspect quaLITATIF qu’a manqué.. clairement.

    3) ce qui rejoins une des conclusions que j’ai lue ici et là : in fine, Bardy m’a servi une sorte de soupe « standard » non créative, non qualitative.

    Un peu comme si j’avais posé la question à mon stagiaire sans expérience.

    Si je pose la question a un pro qui connais bien le domaine :
    — il va me poser des questions (j’avais pré répondu dans la liste de critère)
    — puis il va IMAGINER ladite interface « idéale »
    — puis chercher si ça existe ou, et à quel prix,
    (ou scanner tres vite dans sa mémoire si il a déjà vu ca quelque part si c’est un conseiller de vente pro)
    — puis ira valider en fonction des retours utilisateurs (recherche bien spécifique?? avec beaucoup de nuances à porter selon la perception de chaque post – il y a des qualités de commentaires très variables)
    — si il est super pro il va imaginer des problèmes potentiel et prévoir des fonctions en plus qui vont offrir les meilleures garanties (ex : historique du fabricant concernant les mises à jour, ou conception du boitier intrinsèquement compatible)

    Donc on a clairement là une sorte d’euristique, une procédure adaptée a une catégorie de problème, ou un ensemble d’heuristiques a combiner..
    Or ces heuristiques ne sont pas formalisées dans la bases de données du web.

    Or tant que l’agent conversationnel fonctionnera de manière statistique, même a pleins de niveaux d’abstraction avec moultes inférences « statistiques », il manquera à mon avis cette sécurité de fonctionnement de type « heuristique » ayant notamment pour objectif d’assurer une qualité de raisonnement, de bien évaluer les « inputs » selon leur contexte de manière qualitative et non quantitative.

    J’imagine que cela sera possible, ou peut etre va t on m’expliquer que c’est déjà le cas par le biais de mécanismes que je n’ai pas compris, puisque je n’ai pas disséqué un moteur conversationnel de type chat gpt, mais tant que cela ne sera pas.. ca va etre compliqué de parler d’intelligence.

    POur l’instant j’ai plutôt l’impression qu’il s’agit d’une boite noire statistique à de multiples niveaux, capable d’abstraction symbolique statistiques étonnantes.. mais n’ayant pas assez d’inputs qualitatifs.

    Le jour ou un robot humanoïde pourra interagir avec notre monde (par exemple utiliser une interface audio numérique) faire de la prise de son, du montage audio et vidéo avec moi et mes potes… et avoir des tas d’input pratique et qualitatifs.. ca changera la donne.

    Ce sera probablement la prochaine étape : une caméra sur le front pour nous suivre, apprendre avec nous, nous souffler des trucs.. (osa attention coco t’as peut etre oublié tel ou tel réglage. là.. t’entend cette fréquence là?) — et enregistrer nos réactions, et nos commentaires. La ca le ferait probablement mieux!

    1. Avatar de BasicRabbit
      BasicRabbit

      Roberto : « Intelligence? Et si on précisait? »

      René Thom (mon gourou) :

      « L’intelligence est la capacité de s’identifier à autre chose, à autrui. » ;

      « Le dédain pour la théorie qui se manifeste dans les milieux d’expérimentateurs a sa source dans l’attitude analytique-réductionniste ; or pour découvrir la bonne stratégie, il faut s’identifier à l’un des facteurs
      permanents du système. Il faut en quelque sorte entrer « dans sa peau ». Il s’agit là presque d’une identification amoureuse. Or comment pourrait-on aimer ce qu’on a, préalablement, cassé de manière irréversible ?
      Toute la science moderne est ainsi fondée sur le postulat de l’imbécillité des choses. ».

      Je n’ai jamais lu de définition précise et concise (comme celle de Thom) de ce qu’il faut entendre par intelligence artificielle. Qu’est-ce que l’intelligence artificielle ? L’imbécillité naturelle ?

      Je profite de la présente pour commenter ce qu’écrit PJ un peu plus haut : « Vous n’y êtes pas, votre conception de l’IA est dépassée, nous ne sommes plus du côté des mathématiques, du quantitatif. ».

      Thom est initialement un mathématicien qui a fini philosophe des sciences (voire carrément métaphysicien). Mais il a toujours défendu que sa théorie des catastrophes était qualitative, en particulier face à Christopher Zeeman, thomien de la première heure.

      Je découvre qu’il en est de même de la mathématique d’Alexandre Grothendieck, qui, selon moi, est fondamentalement qualitative, AG ne s’intéressant principalement qu’à forger de nouveaux concepts qui ouvrent de nouveaux horizons mathématiques.

      « 

  14. Avatar de Nialoo
    Nialoo

    Chacun son avis et ses centres d’intérêt, mais j’imagine que Terminator va vite être le cadet de nos soucis face à cela https://climatereanalyzer.org/clim/sst_daily/ chose qui se produit, aujourd’hui, maintenant.

      1. Avatar de gaston
        gaston

        Oui, et aux dernières nouvelles (scientifiques) d’aujourd’hui, le niveau de la mer montera bientôt de 20 pieds (environ 6 mètres) :

        https://www.msn.com/en-us/weather/topstories/when-greenland-was-green-ancient-soil-from-beneath-a-mile-of-ice-offers-warnings-for-the-future/ar-AA1e8cUs

    1. Avatar de Garorock
      Garorock

      Terminator est, il faut l’espérer, le cadet des soucis des Hackers éthiques qui auront besoin de remplir leur gourde et de refroidir les datas…
      Ils doivent être les mousquetaires de l’ONU.

  15. Avatar de gaston
    gaston

    Douglas Hofstadter s’oppose à l’IA de peur qu’elle éclipse le genre humain et le réduise en poussière.

    Difficile pour nous, citoyens lambdas (même bien informés !) de dire si ses craintes sont bien ou mal fondées.

    Mais ce n’est pas la première fois qu’un savant de haut rang se pose ce genre de question sur le « monstre » qui vient d’être créé . Par exemple, pour revenir sur le billet d’hier sur ce blog, à propos de « la » bombe, bon nombre de scientifiques qui travaillaient sur le projet Manhattan craignaient que ladite bombe enflamme l’atmosphère et fasse disparaître d’un coup toute vie sur terre. Il n’en menaient pas large le jour du « test Trinity ».

    https://www.vox.com/future-perfect/2023/7/19/23799375/oppenheimer-movie-trinity-test-atomic-bomb-ethics-existential-risk

    Nous connaissons la suite (même si elle n’est pas définitive !!!), alors pour l’IA en sera-t-il de même ? Nous sommes sur le seul blog optimiste…

  16. Avatar de Bertrand
    Bertrand

    Le plus grand danger ne vient pas de l’IA en elle-même, mais des modèles informatiques que l’on érige en oracle religieux. La croyance jusqu’à l’absurde dans des projections numériques souvent biaisées est une activité rémunérée dans les cabinets de conseils, et nous payons pour cela.

  17. Avatar de timiota
    timiota

    J’essaye un raisonnement à la Hofstadter (récursif) pour montrer que Hofstadter se plante.
    (pour mémoire, voici la « loi d’Hofstdadter » : §§ Ca prend plus de temps que ce qu’on pensait, même en appliquant la loi d’Hofstadter » §§)

    En gros, la question de l’adhésion de l’AI à ce qu’il dit va se poser. Si tant est qu’elle soit résolue rapidement, je ne vois guère d’autre solution que de programmer une forme d’adhésion qui « soit la plus adhérée » possible, qui recrute le plus de gens possible. Or à partir d’un certain point, cette adhésion devra faire avec la culture personnelle de l’interviewé.e, de l’humain qui lui tient le crachoir. J’anticipe que la dérive se fera alors entre adhésion individuelle et adhésion collective. Pour atteindre cette dernière, l’IA devra se mettre à faire un « discours qui plait », un discours pour les gens du Nord, un autre pour les gens du sud-ouest, un 3ème pour les auvergnats, etc.
    Dans un premier temps, cela augmente les flux d’information (donc d’énergie) du foyer.
    Mais à terme, compte tenu de la meilleure v_g, le rattrapage n’est pas évident qi on ne dispose pas de l’avance entière.

    1. Avatar de timiota
      timiota

      Dans un premier temps, cela augmente les flux d’information (donc d’énergie) du foyer.
      (désolé du copié-collé-publié de lap phrase qui suit parti par erreur)
      Mais ensuite, les IA ainsi « adaptées » à leur public, en adoptent à leur tour les bons… et les mauvais côtés.
      Les IA de différentes « maisons » se battent alors entre elles, parce que « elles on vu ça à la télé (du temps des humains à la télé).
      Ce n’est pas exactement une boucle récursive, mais cela rend les éventuels progrès de l’IA assez saccadés…

      1. Avatar de Garorock
        Garorock

        L’I.A il faut s’en servir à bon escient.
        Si c’est possible.
        Afin qu’elle nous aide à construire des abris.
        Donc il faut l’orienter dans ce sens.
        Qu’est ce qu’éventuellement elle pourrait faire que nous ne sommes plus capables de faire pour démerder l’effondrement actuel?
        C’est une course contre la montre.
        Si le MinouGPT peut nous aider à gagner du temps, incitons le à nous aider.
        Car si le plan A est mal barré, le plan C aussi. Tic-tac… Tic-tac…

      2. Avatar de un lecteur
        un lecteur

        Organiser des tournois de e-sport constitué d’équipes de joueurs-IA dûment entraîné par un team en chair et en os. Couvrir avec une multitude de scénarios et de règles sans cesse affinés, l’ensemble plausible des catastrophes avenir.
        Jouer notre fin pour mieux l’évitée.
        Les nations de la Terre entière sont invitées à engager autant d’équipes qui leur font plaisir.

  18. Avatar de Garorock
    Garorock

    D’après ce bon vieil Albert, l’intelligence c’est 10% de culture et 90% d’imagination.
    Il faudrait avoir l’imagination d’un Einstein au carré pour mettre au point un plan qui permette de sortir du capitalisme sans révolution (1789) tout en faisant une révolution (écologique) avant la saint glinglin….

  19. Avatar de BasicRabbit
    BasicRabbit

    René Thom a écrit ce qui suit dans « Stabilité Structurelle et Morphogénèse » (1972) sous-titré « Essai d’une théorie générale des modèles » :

    « Le lecteur non mathématicien pourra s’efforcer d’assimiler des notions de base par la lecture préliminaire du résumé mathématique (…) Ceci ne suffira sans doute pas à aplanir les difficultés, mais j’ai pour excuse ma confiance illimitée en la capacité du cerveau humain !  » (Avertissement) ;

     » Les marchands de quincaillerie électronique voudraient nous faire croire qu’avec la diffusion des ordinateurs, une ère nouvelle va s’ouvrir pour la pensée scientifique et l’humanité. Ils pourront tout au plus nous faire apercevoir où est le problème essentiel ; il est dans la construction des modèles.  » (conclusion)

    « Dans cette tâche, la cervelle humaine, avec son vieux passé biologique, ses approximations habiles, sa subtile sensibilité esthétique, reste et restera longtemps encore irremplaçable. » (conclusion) .

    Certains véritables matheux ( je suis loin d’en être un ) et certains psychanalystes sont très loin d’abdiquer devant l’intelligence artificielle, et n’ont pas dit leur dernier mot : la conjecture d’Alain Connes ( cf. « À l’ombre de Grothendieck et de Lacan », Odile Jacob ) « L’inconscient est structuré comme un topos » ouvre de fascinantes perspectives dans lesquelles l’ordinateur ne peut avoir qu’un rôle ancillaire.

  20. Avatar de un lecteur
    un lecteur

    Les créations/constructions humaines passent part des sommets dans l’intervalle qui sépare leur naissance et leur mort. En grimpant sur ces sommets, on y voit plus clairement la plaine et les autres sommets, mais pour ça il faut faire l’ascension.

    Les LLMs ont le potentiel de niquer le big data qui n’est que le prolongement du big money. Alors, on laisse le machin aux mains des gros capitalistes à cervelle de moineau (méaculpa, encore trop intelligent pour la comparaison) ou on arrête de chouiner et on prend le problème à bras le corps.
    C’est vous qui voyez !

  21. Avatar de BasicRabbit
    BasicRabbit

    L’introduction de « La dynamique qualitative en psychanalyse » de la freudienne Michèle Porte (préface de René Thom) commence ainsi :

    « Mathématiques et psychanalyse : une rencontre et des conjectures.

    On traitera souvent, dans ce travail, de relations entre mathématiques et psychanalyse. Une question de principe se pose. Pourquoi les « sciences humaines » et la psychanalyse en particulier auraient quelque chose à voir avec les mathématiques ou les sciences dites dures ? Pourquoi s ‘adresser à elles ? Il y a certes un précédent, puisque Lacan a fait plusieurs tentatives pour introduire un peu d’algèbre et de topologie en psychanalyse et pour géométriser quelques notions. Mais voici une raison de principe : peut-on nier que la création en mathématiques pures soit une exploration et une explicitation partielle des processus psychiques ? Sinon, il paraît cohérent et évident, d’une façon intrinsèque, que les psychanalystes qui explorent ces mêmes processus par d’autres moyens en viennent à un dialogue avec les mathématiciens. En somme, que certaines créations mathématiques puissent aider à expliciter l’œuvre de Freud est naturel. Cela va de soi et ne mérite pas considération épistémologique particulière. Une thèse est formulée, affirmons-la clairement : les mathématiciens et les psychanalystes ont a priori des domaines de recherche et des moyens connexes : les seuls processus psychiques — mais pas le même but ! « .

    J’ajoute que les mathématiciens ne peuvent s’intéresser qu’aux processus psychiques normaux, universalité de la science oblige, alors que les psychanalystes s’intéressent principalement aux processus pathologiques.

    Je ne pensais pas que les mathématiques grothendieckiennes pouvaient avoir un impact sur la psychanalyse. Je viens de changer d’avis.

  22. Avatar de Michel Gaillard

    G lu le book de D H lors de sa sortie alors que j’habitais sur la côte ouest (vers 1980). Truc acclamé « incredible intellectual debut*, etc… Très intéressant mais aride quand même, avec cette impression de l’humain qui se tape la tête contre les murs. J’avais, et j’ai toujours, l’impression que des quêteurs comme John Lilly ou A. Koestler (avec son « root of coincidence » par exemple)… Creus(ai)ent des pistes plus intéressantes qu’ Hofstadter, qui donne juste l’impression que la pensée post Leibnizienne a gagné… Et qu’elle touche à des limites pas nécessairement intéressantes par comparaison avec tout le travail encore en cours sur la communication avec les dauphins, le fonctionnement du cerveau (proche de Libet tiens !) et autres remises en question de la « qualité » de l’observateur humain. Ici apparait au moins un décentrage qui fait réfléchir, alors que j’ai le sentiment qu’avec la cybernétique l’homme affine ses projections propres dans une forme d’enferment, de fermeture, de séparation même.
    Bref L’IA désincarnée poursuit cette route. A nous de la voir comme le super outil qu’elle est, en tenant bien compte de ses défauts à commencer par ce qui m’apparait comme une chimère, à savoir un lissage sémantique objectivant totalement anthropique, piloté par des intérêts X ou Y. Donc déconnecté de quelque chose de plus global.
    Tout ça manque de fiente, d’odeurs, de cadavres, de bactéries qui moulinent derrière… etc

  23. Avatar de Henri
    Henri

    Carlo Gesualdo – Madrigal « T’amo, mia vita » :

    https://www.youtube.com/watch?v=wzif1lJAlNE

  24. Avatar de Khanard
    Khanard

    sublimissime interprétation . merci Henry

    et tiens puisque nous sommes le 22 juillet je la dédie à notre hôte de ce blog.

    Amour , douceur , joie

  25. Avatar de Dimitri78
    Dimitri78

    L’ I.A. ou l’Intelligence Artistique des Intelligences Artificielles fait très polémique en ce moment, le développement des oeuvres humaines est dans un temps long, le temps des oeuvres des Intelligences Artificielles est dans un temps court avec l’avantage d’assimiler en peu de temps ce que les humains et les humaines mettent des cycles de des années dans l’art.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Pour le moment, nous n’avons pas encore trouvé le moyen de recharger les Tesla avec du « soleil vert ». Le bonobo…

  2. Mes excuses, vue la datation Magdalenienne de la grotte la plus connue je pensais à des sapiens. Les anciennes représentations…

  3. Ce champs me semble parfait pour être transformé en héliport! https://youtu.be/J0NG4aiRzxk?si=Gv246HHhFvk5hIQB Taxis volants : révolution ou aberration ?

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta