Le pseudo-désaveu de l’Intelligence Artificielle par Geoffrey Hinton ou plutôt : ce à quoi il n’avait pas pensé

Illustration par DALL-E (+PJ)

La démission de Geoffrey Hinton, pionnier de l’Intelligence Artificielle, de son poste de chercheur chez Google, a été interprétée par la presse unanime comme son désaveu de cette technologie; à laquelle il avait pourtant consacré sa vie.

Or, si l’on écoute attentivement ce qu’il dit ici, on comprend qu’il n’a jamais été question de désaveu mais de la chose suivante (je paraphrase) : « Je pensais qu’au mieux l’IA pourrait atteindre le niveau de l’intelligence humaine, je n’avais pas envisagé que l’IA pourrait, du fait d’une conception de son réseau neuronal meilleure que la nôtre, dépasser l’intelligence humaine par un facteur important difficile à déterminer, or c’est désormais le cas. De plus, deux IA peuvent se communiquer de manière instantanée la compréhension qu’elles ont d’un problème en se transmettant l’ensemble des poids attachés aux arcs de leur réseau neuronal, alors qu’il n’existe aucun mécanisme équivalent quand il s’agit des humains ».

Avoir quitté Google ? « Cela me permet d’alerter sans devoir tenir compte des intérêts de cette compagnie et me permet de dire tout le bien que je pense d’elle, sans que l’on me soupçonne de conflit d’intérêt ».

Illustration par DALL-E (+PJ)

Partager :

51 réponses à “Le pseudo-désaveu de l’Intelligence Artificielle par Geoffrey Hinton ou plutôt : ce à quoi il n’avait pas pensé

  1. Avatar de Bournoville
    Bournoville

    Le mérite de la clarté.

  2. Avatar de Bournoville
    Bournoville

    Dans mon domaine d’activité, la tendance est prise, en sourdine, très au sérieux.

  3. Avatar de Khanard
    Khanard

    eh oui ce brave Geoffrey Hinton n’avait peut être pas prévu qu’il y avait dans ce brouillard qu’il cite à la fin un certain autre M. Paul Jorion qui avait envisagé le plan C.

    C’est incroyable que les journalistes soient passé à côté de la vérité .

  4. Avatar de gaston
    gaston

    Positivons :

    D’autres éminentes spécialistes de l’IA,
    – Sophia,
    – Ai-Da,
    – Desdemona,
    – Grace,
    – Ameca

    ont dit « que les robots n’ont pas l’intention de voler les emplois ou de se rebeller contre les humains » ! (The Guardian le 08/07/23)

    https://www.theguardian.com/technology/2023/jul/08/robots-say-no-plans-steal-jobs-rebel-against-humans

    https://www.youtube.com/watch?v=T80yQHmqp6o&t=35s

    Ouf !

    1. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      La vidéo originale où l’on voit une palanquée de robots humanoïdes répondre à des questions, dont celle signalée par Gaston :

      https://www.youtube.com/watch?v=m9IN14e-PLk

      C’est visuellement impressionnant (on est plus très loin de l’apparence des robots humanoïdes de Real Humans), mais les réponses apportées par ces robots sont d’une banalité confondante. A la question comment résoudre l’inégalité et la pauvreté, ils répondent qu’il faut developper l’éducation. Fallait-il construire un robot ‘intelligent’ pour s’entendre dire ce qu’on entend déjà partout sans que rien ne change ?
      Quant à demander à un robot s’il va supprimer des emplois, c’est une question d’une bêtise confondante, autant demander à pdg d’une multinationale ou à un homme politique s’il va préserver les emplois.

      Cette démonstration prêterait à rire si cela n’avait aucune conséquences. Je ne doute pas que les prochaines générations de robots seront plus sophistiquées, mais seront-elles plus utiles à l’humanité ? Des milliards vont être investis dans ces technologies, et soyons en sûrs elles trouveront leur marché… pendant ce temps les vrais problèmes seront-ils résolus avec ou sans super intelligence ?

  5. Avatar de Rosebud1871
    Rosebud1871

    Pourquoi en anglais un bateau est du genre feminin quand les objets sont au genre neutre ?

    Why is a ship a she?
    Réponse Chatgipiti
    Referring to a ship as « she » is a linguistic convention that has been used for centuries. Ships are often personified and referred to with feminine pronouns, such as « she » or « her. » The reasons behind this practice are not based on any inherent gender of the ship but rather on tradition, cultural norms, and historical influences.
    One common explanation is that the tradition stems from the concept of ships being viewed as nurturers or providers of safety, similar to the role of a mother. The idea is that ships, like mothers, protect and care for their crew, carrying them safely across the sea. By assigning a feminine gender to ships, it may evoke feelings of protection and comfort.
    Additionally, in many languages, including English, nouns are often assigned gender for grammatical purposes. In English, ships do not have a grammatical gender, but the use of feminine pronouns for ships may have been influenced by languages that do assign gender to nouns.
    It’s important to note that the practice of referring to ships as « she » is not universal, and there are instances where ships are referred to as « he » or by other gender-neutral terms. The choice of gender pronouns for a ship can vary depending on the cultural, historical, or personal context in which it is being discussed.

    traduction Deep L
    Se référer à un navire en l’appelant « elle » est une convention linguistique utilisée depuis des siècles. Les navires sont souvent personnifiés et désignés par des pronoms féminins, tels que « elle » ou « son ». Les raisons de cette pratique ne reposent pas sur le sexe inhérent au navire, mais plutôt sur la tradition, les normes culturelles et les influences historiques.
    Une explication courante est que la tradition découle du concept selon lequel les navires sont considérés comme des nourriciers ou des pourvoyeurs de sécurité, à l’instar du rôle d’une mère. L’idée est que les navires, comme les mères, protègent et prennent soin de leur équipage, le transportant en toute sécurité à travers la mer. Le fait d’attribuer un genre féminin aux navires peut évoquer des sentiments de protection et de réconfort.
    En outre, dans de nombreuses langues, dont l’anglais, le genre des noms est souvent attribué à des fins grammaticales. En anglais, les navires n’ont pas de genre grammatical, mais l’utilisation de pronoms féminins pour les navires peut avoir été influencée par des langues qui attribuent un genre aux noms.
    Il est important de noter que la pratique consistant à désigner les navires par « elle » n’est pas universelle, et qu’il existe des cas où les navires sont désignés par « il » ou par d’autres termes non sexistes. Le choix des pronoms de genre pour un navire peut varier en fonction du contexte culturel, historique ou personnel dans lequel il est abordé.

    Réponse Humaine

    “A ship is called a she because there is always a great deal of bustle around her; there is usually a gang of men about; she has a waist and stays; it takes a lot of paint to keep her good-looking; it is not the initial expense that breaks you, it is the upkeep; she can be all decked out; it takes an experienced man to handle her correctly; and without a man at the helm, she is absolutely uncontrollable. She shows her topsides, hiders her bottom and, when coming into port, always heads for the buoys.”

    traduction Deep L
    « Un navire est appelé un navire parce qu’il y a toujours beaucoup d’agitation autour de lui ; il y a généralement une bande d’hommes autour ; il a une taille et des haubans ; il faut beaucoup de peinture pour le garder beau ; ce n’est pas la dépense initiale qui vous brise, c’est l’entretien ; il peut être entièrement paré ; il faut un homme expérimenté pour le manier correctement ; et sans un homme à la barre, il est absolument incontrôlable. Il montre son dessus, cache son dessous et, lorsqu’il arrive au port, il se dirige toujours vers les bouées ».

    Je soupçonne un joke entre buoys et boys…

    L’impensé de l’artificiel….

  6. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Ce n’est certes pas un désaveu formel de l’IA, mais dans la mesure où il s’inquiète d’un développement incontrôlable de l’IA, puisque celle-ci aurait atteint un niveau qui dépasse celui l’intelligence humaine, développant même une autre forme d’intelligence, c’est qu’il éprouve désormais quelque scrupule à continuer dans cette voie. Donc cela revient un peu au même. Avoir des réticences pour quelque chose dont on constate le caractère incontrôlable, et potentiellement dangereuse, c’est désavouer une démarche qu’on avait cru jusqu’ici raisonnable. S’il dit alerter c’est que pour lui il y a réel danger.

    https://fr.euronews.com/next/2023/06/27/les-4-dangers-de-lia-selon-geoffrey-hinton-un-de-ses-pionniers

  7. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Il me semble que nous nous trouvons actuellement dans une phase tout à fait paradoxale, ou plutôt indécidable.
    D’un coté nous avons les démonstrations puériles, ridicules, du genre de celle présentée dans la vidéo où sont interrogés des robots humanoïdes intelligents dont les réponses sont d’une grande banalité. Et de l’autre coté nous avons les « on-dit » de grands spécialistes que nous ne pouvons, nous les vulgum pecus, que croire sur parole quand ils affirment la supériorité de l’IA sur l’intelligence humaine faute d’avoir des preuves évidentes de la supériorité de ce type d’intelligence pour résoudre des problèmes concrets, de préférence vitaux pour l’humanité.
    Comment ne pas comprendre dans ces conditions le scepticisme d’un certain nombre d’ observateurs ?

    1. Avatar de Ruiz
      Ruiz

      Le problème n’est pas de savoir si les IA seraient bien intentionnées, encore moins en leur demandant !
      Ni de savoir si elles sont plus intelligentes que l’humain, et si oui depuis quand ou quand, mais de savoir si cela peut nous échapper, si nous pouvons le contrôler et comment.

      1. Avatar de Inox
        Inox

        Quand je lis « A la question comment résoudre l’inégalité et la pauvreté, ils répondent qu’il faut developper l’éducation. », et quand on sait que 10% des plus riches detiennent plus de 70% des richesses par exemple,

        Quelque part, il y a soit déja un bon controle, soit les IA sont encore tres loin d’une intelligence superieure à la notre.

        Personnellement je pense que les 2 options sont vraies.

        Le vrai danger actuellement, est la capacitée réelle de ces algorithmes à manipuler du big data et proposer une décision. Cela va donner un enorme pouvoir à un petit nombre d’être humain suffisamment malin pour convaincre qu’il faut implementer ces algorithmes partout.

      2. Avatar de Khanard
        Khanard

        @Ruiz

        Ne pensez-vous pas que les systèmes intelligents nous ont déjà échappé ? Dans la vidéo Geoffroy Hinton parle bien de singularité .
        J’ai la vague impression que nos gouvernements sont là comme une poule devant un couteau .

    2. Avatar de Khanard
      Khanard

      @PYD

      ne croyez vous pas qu’on nous préserve d’une réalité qui pourrait être néfaste à la stabilité de nos sociétés ?
      Il en va de même pour le réchauffement climatique, la montée du fascisme , les flux migratoires et ainsi de suite .
      Continuez à rester tels que vous êtes, stupides, ignorants , lobotomisés par une culture du plaisir , rassurez vous la « main invisible » veille sur vous .

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Je ne crois pas aux théories du complot.
        Je ne crois pas non plus aux théories selon lesquels il y a d’un coté ceux qui savent tout et de l’autre les ignorants.

        Nous ignorons tous des choses que d’autres savent et réciproquement, c’est en tous cas ma compréhension de l’intelligence humaine collective, et c’est ce qui me fait penser que l’IA ne peut être la panacée universelle. L’IA en tant qu’outil pourrait nous être utile, mais elle ne remplace pas certaines possibilités humaines qui sont liée à la condition humaine.

        D’autres pensent, dont l’hôte de ce blog que l’IA est vouée à nous remplacer, dans ce cas il n’y a plus d’affaires humaines et l’intelligence humaine qui vaillent, elles sont de facto dévaluées, et l’humanité avec, tous nos efforts devraient alors tendre vers la réalisation d’une super intelligence, celle qui nous remplacera. Bien sûr ce n’est pas mon option.

        Beaucoup de ceux qui développent l’iA dans les laboratoires font des choses sans se préoccuper outre mesure des conséquences de leurs inventions. Puis certains se réveillent, comme le note P. Jorion dans son billet.
        Il y a aussi ceux qui pensent faire le bien, tel un Oppenheimer qui met au point la bombe atomique pour que les Alliée l’aient avant Hitler. Puis Oppenheimer se rend compte qu’il a libéré dans la nature une puissance difficilement contrôlable. Il consacre alors beaucoup d’efforts pour essayer tout de même de la contrôler.

        1. Avatar de Pierre-Yves Dambrine
          Pierre-Yves Dambrine

          Errata :
          … aux théories selon lesquelles
          … possibilités de l’intelligence humaine qui sont liées à la condition humaine
          …. pour que les Alliés ….

        2. Avatar de Khanard
          Khanard

          Je n’évoque pas une théorie du complot . Je n’y souscrit pas .
          Bien sûr , et là je suis d’accord avec , bien prétentieux celui qui affirmerait tout savoir et je crois aussi à une intelligence collective. De nombreux exemples en ont émaillé l’histoire, le plus récent étant celui du covid.

          Je ne souhaite pas non plus que le genre humain soit remplacé par des machines gérées par IA.
          Mais force est de constater que cette même intelligence collective est bien en mal de réaliser qu’elle s’auto détruit . Alors je rejoins PJ en disant que l’homme ne fait rien pour prouver qu’il est plus intelligent .

          En ce qui concerne la fin de votre commentaire c’est un sujet qui nous suis depuis que le progrès technique existe et , je pense l’avoir déjà dit, je suis sidéré par toutes ces personnalités scientifiques qui crient au loup alors que les recherches sur l’IA datent de plus de 50 ans . Curieusement les aspects déontologiques, éthiques ont accompagné l’évolution des recherches . Ont elles été mises sous le boisseau ? Pas sûr mais c’était peut être contre productif d’en parler en temps voulu.

        3. Avatar de Pascal
          Pascal

          Je suis tout à fait sur la même longueur d’onde Pierre Yves.
          Quand homo erectus a taillé ses premiers silex, le seul risque qu’il avait c’était de se taper sur les doigts. Avec Oppenheimer, on change d’échelle avec le risque de disperser de la radioactivité un peu partout. Avec les laboratoires P4 pour manipuler génétiquement des virus, on prend le risque que l’un d’entre eux s’échappe (toute ressemblance… purement fortuite 😉). Avec l’IA dans une société ultra connectée, on prend des risques… encore inconnus mais potentiellement globaux à l’échelle mondiale.
          Avec la frappe nucléaire, chaque Etat possède plusieurs valises avec plusieurs responsables détenant le code d’accès. Avec l’IA, tout bon geek peut appuyer sur « download »!😱

          1. Avatar de arkao

            @Pascal
            Les premiers silex taillés ont permis aussi d’écraser la gueule de son voisin plus efficacement qu’avec un bâton 😉

            1. Avatar de Pascal
              Pascal

              C’est ça, le progrès !😂😂😂

      2. Avatar de Pascal
        Pascal

        @Khanar
        Vous voulez croire encore au Père Noël 😉!
        On se dit souvent ça pour se rassurer : « ils ne nous disent pas tout… » comme ça, on se donne encore un espoir qu’il y ait un pilote dans l’avion !😄

    3. Avatar de Pascal
      Pascal

      Je me demande si la question de la « supériorité » d’intelligence de l’IA est finalement la bonne ?
      Ce que nous pouvons observer de notre modeste position d’utilisateur, c’est surtout la puissance de gestions d’informations mais également la capacité d’auto-apprentissage dans le domaine unique du savoir théorique (puisque l’IA n’est pas en mesure d’explorer seule le monde physique).
      Ce qui inquiète n’est-il pas davantage le potentiel d’autonomisation qui échapperait au contrôle humain, sans que pour autant il soit question d’un enjeu d’intelligence (ou non).
      Le fonctionnement de nos sociétés modernes reposent désormais en grande partie sur l’accumulation de données (ou informations qu’on prélève sur le terrain avec force enquête et formulaire à remplir ou en direct via écran pour les Gafam ) qui ensuite nourrissent des algorithmes et des modélisations de tout acabit. C’est ce degré considérable de modélisation de nos sociétés sur lequel malheureusement s’appuie nos gouvernants (et les sociétés de conseil) pour définir la politique qui doit gouverner les humains, en oubliant de plus en plus souvent les critiques de simple « bon sens » des gens de terrain.
      Dés lors, dans une posture d’autonomisation y compris dans son évolution et sa transformation, l’IA peut effectivement devenir un danger pour nos sociétés dites « modernes ».
      Nous avons délégué de plus en plus de pouvoir à la machine comme dans le HFT qui aujourd’hui gouverne le monde financier et en retour nos décideurs deviennent de plus en plus aveugles, se reposant uniquement sur des modélisations sur lesquelles ils ne sont plus en mesure d’avoir d’esprit critique.
      Nous avons voulu faire de la complexité, l’alpha et l’oméga du « progrès » au point de devoir remettre celui-ci aux « mains » des machines, devant notre incapacité à gérer ce toujours croissant degré de complexité. Cela pourrait même certainement expliquer, du moins en partie, l’incapacité de nos dirigeants a simplement intégrer les « indicateurs » du monde réel, focaliser qu’ils sont sur des modélisations du monde, financières notamment, qui les rendent aveugles.
      N’avons nous pas déjà, au travers de nos dirigeants, abandonné notre responsabilité en confiant notre pouvoir de décision à l’objectivité supposée de la machine ? Est-ce que la peur de l’impact de l’IA sur la société n’est pas finalement liée au passage d’un seuil dans notre asservissement toujours plus grand à celui des machines et la prise de conscience de cet asservissement ?

      1. Avatar de timiota
        timiota

        Mais c’est à ce moment là assez parallèle avec l’idée de dire que les IA pourraient former une espèce hybride, « un peu humaine (ai-ïe) mais pas colonisatrice »,
        ce dernier mot subsumant tous les reproches faits à l’humaine gouvernance des masses, incarné dans les zépiphénomènes bolsonaro-trumpien (en attendant que, en France aussi et/ou ailleurs en Europe des chemises brunes chassant les boucs émissaires « grands remplaceurs » teintent ces épiphénomènes couleur de sang), et marqué par des dégâts irréversibles à la biosphères (ce contre quoi divers mâles alpha proposent du techno-solutionnisme autour du seul carbone).
        Cette espère hybride aurait 10 000 ans devant elle (euh… 9000 ?) contre nous êtres de chairs vaguement 180 ans (240 ?), et donc pour ces hybrides de quoi donner naissance à tant de cyberNewton, cyberSpinoza, et même, me dit-on au son décalé d’un rébêtiko, des cyberAristote.

        1. Avatar de Pascal
          Pascal

          @Timiota
          Tu connais le rebêtiko ?!😱

      2. Avatar de Pascal
        Pascal

        Sur Mediapart
        « Les cabinets de conseil, la drogue dure du gouvernement »
        12 juillet 2023 | Par Mathias Thépot
        « Un rapport de la Cour des comptes montre, exemples édifiants à l’appui, que le recours aux cabinets de conseil est une addiction répandue dans la Macronie pour privatiser l’action publique. Prévisible, car c’est depuis le début l’ADN politique de ce mouvement. »
        Extrait
        « Du reste, il y a peu de chance que l’exécutif retourne sa veste sur le sujet des cabinets de conseil. Cela ferait en tout cas figure de changement de logiciel intellectuel radical, car il faut rappeler qu’en Macronie, l’utilisation des cabinets de conseil pour la « modernisation » et la « transformation » de l’action publique est inscrite dans son ADN idéologique.

        Dans un ouvrage quasi programmatique publié debut 2017 et titré « l’État en mode start-up » qu’il a préfacé, Emmanuel Macron ne disait pas autre chose : pour être « efficace », assurait-il « l’État doit sans cesse recourir aux outils dont il dispose : la consultation, l’expérimentation et l’évaluation. C’est cette méthode qui nous permettra de répondre à l’unique question qui vaille : chaque euro dépensé l’est-il de la manière la plus efficace et la plus juste qui soit ? » »

      3. Avatar de Pascal
        Pascal

        « Grâce à l’intelligence artificielle (IA) qui vient de plus en plus au secours des fonctions transverses et des back-offices, les grandes entreprises se digitalisent à vitesse grand V transformant ainsi certains de leurs métiers et leurs organisations.

        Le métier du conseil ne fait pas exception et, s’ils doivent parfois accompagner leurs clients dans cette transformation, il est aussi impératif qu’ils intègrent cette technologie à leurs offres de services. Il s’agit pour les métiers du conseil de transformer en profondeur leurs process internes et de proposer à leurs clients un accompagnement nativement digital indispensable à leur transformation. Dans le cas contraire, ils pourraient bien être amenés à se voir dépasser par des purs players du digital et disparaître…

        Beaucoup de cabinets ont tendance à conseiller leurs clients sur des solutions d’IA sans nécessairement les maîtriser réellement, mais surtout sans avoir opéré eux-mêmes les transformations que ces technologies apportaient potentiellement à leur métier. On tombe alors facilement dans une approche par des solutions « gadgets » dont la portée en termes de performance opérationnelle est très limitée ce qui nuit bien souvent à l’adoption de solutions véritablement efficaces, l’effet de mode remplaçant la vraie transformation.

        Or, les technologies d’analyse de données et d’intelligence artificielle ont vocation à transformer en profondeur le travail des consultants les libérant des tâches d’agrégation des et d’analyse des données en particulier permettant un recentrage sur la relation avec les clients et sur les prestations à très haute valeur ajoutée. »
        La suite ici
        https://www.silicon.fr/avis-expert/lintelligence-artificielle-au-service-des-cabinets-de-conseil

      4. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Pascal
        je souscris à ton analyse que je fais mienne à la suite des analyses de Gorsz (alias Alain Bosquet) lui même inspiré par les analyses de Max Weber….

        Mais si je devais penser contre moi-même, je verrais tout de même pointer cette objection :
        L’histoire humaine a été une longue succession de substitutions de gouvernement (ou gouvernance dans le contexte actuel capitaliste néo-libéral) par les objets au gouvernement par les hommes : le travail artisanal est mécanisé, et au bout du bout du processus, c’est ce à quoi nous assistons aujourd’hui avec la politique elle-même même qui se mécanise, ce qui signifie une disparition partielle du politique : les algorithmes comme tu le relèves remplacent les processus de décision humain, c’est valable aussi bien au niveau des entreprises qu’au niveau des administrations publiques. C’est l’opposition administration des choses versus gouvernement des hommes que l’on doit à Auguste Compte.

        Or le fait est que l’administration des choses fut un progrès à une époque où régnait l’arbitraire de la monarchie absolue de droit divin. Là où il y avait des relations de servage, le paysan devient libre de ses mouvements parce que la seule propriété qui devient acceptable c’est la propriété de son propre corps, et celle que l’on acquiert à la force de son travail. Le paysan n’est plus lié à son seigneur par une relation d’obligation inégalitaire et qui le lit à sa terre.
        Bien sûr le capitalisme fera son lit sur cette révolution conceptuelle avec son cortège de nouvelles aliénations. Et cette administration des choses en faisant des choses le tout des sociétés humaines et combinée avec la révolution technologique informatique finit par réifier les humains, qui eux-mêmes deviennent des choses, comme l’a bien montré Alain Supiot dans la gouvernance par les nombres.

        Il me semble que certains thuriféraires de l’IA ( dont un anthropologue bien connu ? 😉 ont en tête l’idée que l’IA supérieure doit sa supériorité au fait qu’elle permet de se passer des médiations humaines trop incertaines, car trop sujettes aux passions, et que donc il serait nécessaire pour assurer notre survie que nous déléguions à l’IA la gouvernance de nos sociétés, en poussant à leurs limites les processus d’autonomisation.
        C’est un peu ce que fait Xi Jinping en Chine, avec sa société de contrôle et de surveillance généralisée via l’IA, d’ailleurs dans la continuité d’une traduction proprement chinoise, la tradition légiste, notamment celle du penseur de l’antiquité Han Feizi, qui avait pensé le premier l’administration des choses en mode totalitaire.
        La tentation existe aussi en occident…

        1. Avatar de Pierre-Yves Dambrine
          Pierre-Yves Dambrine

          lapsus : Auguste Comte et non pas Compte 😉

        2. Avatar de Garorock
          Garorock

           » et que donc il serait nécessaire pour assurer notre survie que nous déléguions à l’IA la gouvernance de nos sociétés »
          Non. Il serait peut être seulement nécessaire de déléguer à L’I.A le pouvoir de gouverner nos affects pour que nous puissions enfin gouverner nos sociétés et tous les rapports qui les composent avec intelligence…

          1. Avatar de Garorock
            Garorock

            Vous pouvez faire des tartines tant que vous voulez, ça ne résoud pas le problème et ne répond pas à la question: un Einstein au carré, ne risque t’il pas, s’il en est conscient, de se la péter un peu? Dit autrement: d’être narcissique!
            Si la réponse est oui: comment faire pour qu’il ne le soit pas?
            Faire converser le MinouGPT avec d’autres I.A moins « robustes »?
            Lui implémenter artificiellement des organes pour le rendre plus « fragile », plus sensible, plus éthique?
            Espérons qu’à Palo Alto, ils enfilent un peu moins des perles qu’ici…
            Na! 😎

        3. Avatar de Pascal
          Pascal

          « L’administration des choses en mode totalitaire.
          La tentation existe aussi en occident… »
          Il me semble qu’il serait intéressant de réfléchir justement à cette tentation totalitaire qui semble aussi vieille que l’humanité.
          L’individu conscient de sa finitude n’a que faire du pouvoir qu’il sait vain et illusoire. Serait ce à considérer que les assoiffés de pouvoir n’ont pas conscience de leur finitude ?
          Depuis les pharaons jusqu’à la Grande Bibliothèque François Mitterrand, les hommes de pouvoir se sont construits des pyramides cherchant à se procurer quelques miettes d’éternité. N’est ce pas notre refus de la mort qui nourrit le désir de pouvoir ?
          Si c’était le cas, seule la réconciliation de l’être humain avec la mort, avec sa propre finitude pourra un jour rendre la paix à l’humanité mais d’ici là, cette dernière sera toujours confisquée par cette peur qui nous taraude depuis la nuit des temps.

          1. Avatar de Pascal
            Pascal

            Et n’oublions pas que se réconcilier avec la mort, c’est aussi se réconcilier avec la vie !🙏☺️

            1. Avatar de Pascal
              Pascal

              Khanard, je t’ai reconnu ! C’est toi qui a plussoié !😄

              1. Avatar de Khanard
                Khanard

                @Pascal

                he he he he ………qui sait . Plussoie or not plussoie ,that’s the question!

                🙊🙈🙉🐵

                👍👍👍👍👍👍👍👍👍👍👍👍

        4. Avatar de Garorock
          Garorock

           » il serait nécessaire pour assurer notre survie que nous déléguions à l’IA la gouvernance de nos sociétés, en poussant à leurs limites les processus d’autonomisation. »
          Non plus. Il serait peut être nécessaire pour assurer notre survie que nous déléguions à L’I.A le soin d’assurer l’équité dans tous les flux, ce que nous n’arrivons pas à faire avec nos petits bras et nos cerveaux* pourtants conscients de ce qu’il faudrait faire si on avait une baguette magique. (Tout stopper?)
          Tu vois toujours la paille dans l’oeil du MinouGPT, Pierre-yves. Comment veux tu qu’on puisse l’aider à nous aider si on le met par avance contre nous par défaut?
          Tu fais exprès parce que tu aimes bien te chamailler avec moi? 😎
          Tu as lu l’interview de Bégaudeau?
          * cerveaux d’islamo-gauchistes éco-terroristes, of course!

          1. Avatar de Khanard
            Khanard

            @Garorock

            déléguer à l’IA ??????? vous êtes sûr (ou sure ?????) de l’emploi de ce verbe ? Je pense plutôt que l’IA fera un coup d’état . Elle prendra le pouvoir sans rien nous demander !

            on n ‘est plus dans les civilités là ! on n’est pas à l’heure du tea time en buvant son thé le petit doigt levé !

            eh Garorock ! déléguer ! 😂🤣🤣🤣🤣😂🤣

            1. Avatar de Khanard
              Khanard

              @Garorock
              mes excuses ! j’ai foiré la suite des réponses

              j’accepte votre châtiment (pas trop dur quand même ) 😉😉

  8. Avatar de Thomas
    Thomas

    Allez, un petit animé de 2021 qui nous dit que l’IA surhumaine est déjà là et pour le meilleur
    « Sing a Bit of Harmony » de Yasuhiro Yoshiura
    Ils ont une vision plus optimiste des robots au pays du soleil levant.

  9. Avatar de octobre
    octobre

    J’irai plutôt voir du côté des visionnaires :

    Je ne sais pas comment sera la troisième guerre mondiale, mais ce dont je suis sûr, c’est que la quatrième guerre mondiale se résoudra à coups de bâtons et de silex.
    A.Einstein

    1. Avatar de Ruiz
      Ruiz

      @ octobre La citation semble généreuse (Einstein est très connu).
      https://www.snopes.com/fact-check/einstein-world-war-iv-sticks-stones/
      Mais il ne faut pas désespérer en 30 ans il peut y avoir du progrès
      If the Third World War is fought with nuclear weapons, the fourth will be fought with bows and arrows.
      Lord Mountbatten in Maclean’s 17 November 1975
      https://www.oxfordreference.com/display/10.1093/acref/9780191826719.001.0001/q-oro-ed4-00007710

  10. Avatar de Tout me hérisse
    Tout me hérisse

    Ne va-t-on pas un peu vite lorsque l’on qualifie des machines d’intelligences artificielles, alors qu’elles ne devraient être qualifiées que de machines astucieuses ?
    Les machines d’IA actuelles sont indépassables quant à leurs possibilités de compulser une quantité incroyable de données en un temps très court et d’en tirer éventuellement un texte cohérent ou proposer un diagnostic en matière médicale par exemple.
    Certes, l’on peut malgré tout, considérer qu’elles sont dotées d’une certaine forme d’intelligence, puisque l’intelligence, c’est la faculté de connaître et de comprendre ; mais verra-t-on un jour l’une de ces machines sortir une théorie globale unifiant la découverte de l’abbé G.Lemaître et les travaux récents menés au CERN sur l’infiniment petit, ce jour arrivé, l’on pourra réellement qualifier la machine d’IA ? 🤔

  11. Avatar de Khanard
    Khanard

    @Pascal

    Le jour où j’ai dit à ma mère que le père noel (sans majuscules svp ) n’existait pas j’ai pris une raclée . Alors depuis j’ai avec ce personnage -comment dire- quelques réticences . D’ailleurs il n’est jamais venu s’excuser pour avoir été la cause de ce déboire . Bizarre non ?
    Pour en revenir à votre commentaire je ne cherche pas à me rassurer par des pseudos pilotes réels ou irréels .
    Et comme pour le père noel (tjs sans majuscules) je n’ai plus d’espoirs.

    1. Avatar de Pascal
      Pascal

      Ah, le petit papa noël ! Peut-être le plus grand mensonge de tout les temps (avec la petite souris, bien sûr).
      Pour l’histoire du pilote dans l’avion, j’ai compris ça avec le grand Jacques (Chirac, bien sûr) le jour où il a dissou l’assemblée nationale. Tous les commentateurs s’échinaient avec forces arguments à expliquer qu’en fait ça ne pouvait être qu’une stratégie, qu’il y avait indéniablement des calculs qui avait été fait avec ses conseillers… Jusqu’au jour où est venu sur un plateau télé un gars (dont j’ai malheureusement oublié le nom) pour dire : « Nan, mais faut arrêter là ! Chirac a simplement fait une énorme connerie. On veut toujours voir dans ceux qui nous gouvernent une intelligence supérieure qui calcule tout. Et bien non, là, c’est une énorme connerie ! »
      Et oui, ce dire que, potentiellement, celui qui nous gouverne est un incapable (ou un con) n’est pas supportable. Dans nos croyances fondamentales, ceux pour qui on a voté sont forcément des gens intelligents. Le contraire est inconcevable.
      Bon ok, depuis Trump, on a bien compris !😂

      1. Avatar de Khanard
        Khanard

        @Pascal

        ah non Pascal.
        Tous les matins quand je me rase devant la glace je me dis : quelle bande de cons tous ces types (*) ! et bizarrement dans la glace je ne vois que mon reflet !

        * pour des raisons de fainéantise je n’utiliserai pas l’écriture inclusive mais le cœur y est et je pense aussi aux femmes !

        1. Avatar de Pascal
          Pascal

          Effectivement, les cons non plus n’existent pas, si l’on veut bien considérer notre haut degré de déterminisme et notre si faible part de libre arbitre. Mais pour accéder à la grande compassion bouddhiste, encore faut il parvenir à faire la traversée du miroir. 😉

      2. Avatar de Tout me hérisse
        Tout me hérisse

        Concernant la ‘boulette’ commise par J.Chirac en 1997, Roland Cayrol en parle savamment (p.42-45) dans son récent ouvrage « Mon voyage au coeur de la Ve République), peut-être est-ce lui le gars du plateau télé ? 🤭

      3. Avatar de Ruiz
        Ruiz

        En quoi l’Ère Jospin a-t-elle été préjudiciable pour le français moyen ? Chirac a distribué un temps l’Humanité, peut-être est-ce un acte manqué ?. Et puis une phase de co-habitation (moyennant une sur confiance finale du précédent P.M.) a été de nouveau le garant du succès d’une réélection. Maintenant il ne fallait peut-être pas trop longtemps écouter de Villepin, comme pour le CPE. Il est vrai qu’à l’époque la démarche paraissait à beaucoup injustifiée et de ce fait l’occasion d’un désaveu. Elle a en fait redonné le pouvoir au peuple, démarche qui n’a pas été vraiment suivie avec Raffarin, après pourtant un score électoral digne d’une dictature (démocratique) .

        1. Avatar de Pascal
          Pascal

          Ah, c’était une époque où existait encore des Ministres qui savaient démissionner ou retirer des lois impopulaires. Le bon vieux temps, comme on dit.
          Les temps changent.😉

  12. Avatar de Chabian
    Chabian

    Je profite de ce billet pour interroger l’image. Ici, c’est un « morceau de tissu », une image qui n’a ni début ni fin. Encore faudrait-il qu’on puisse percevoir une intention (type « tableau de Mondrian »).
    Et je vous propose de jouer :
    https://www.rtbf.be/article/ia-or-not-ia-arriverez-vous-a-reperer-les-images-generees-par-lintelligence-artificielle-dans-ce-quiz-interactif-11227306
    Remarquez que la « demande à l’IA » est chaque fois expliquée (pas toujours explicite), ce que j’attends de P. Jorion.

  13. Avatar de Jacques Mamusechat
    Jacques Mamusechat

    Peut-être qu’au-delà de la puissance sous-evaluee des machines intellectuelles, il s’inquiète surtout de notre incapacité à transformer ce progrès technique en progrès social et en bien commun par l’intermédiaire, a minima, de ce qu’on pourrait appeler la « taxe Sismondi ».

    De tous les admirateurs de ces technologies, il ne serait pas le seul, d’ailleurs.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta