La Singularité : la différence de point de vue entre un dirigeant politique avisé et Paul Jorion, par Pad

Illustration par DALL·E à partir du dialogue entre Pad et GPT-4

Pad a saisi au vol une remarque que je fais dans ma vidéo ce matin, consacrée à la Singularité :

Parce que le problème, il est là, de la Singularité : Messieurs-Dames, oui, on vous cache soigneusement qu’elle est déjà plus intelligente que nous depuis deux ou trois ans. Parce qu’on se dit que, voilà, c’est la logique de Machiavel reprise par Napoléon : « Le Peuple est trop stupide pour qu’on lui dise la vérité… ou alors il en ferait un mauvais usage : il irait le boire au bistrot ! » Et donc on ne dit pas aux gens : on ne va pas les affoler, c’est déjà assez affolant de voir le type d’images que font ces machines quand on les laisse faire.

Pad :

Bonjour GPT-4, agissez comme si vous étiez Nicolas Machiavel : quand je poserai une question, proposez-moi une meilleure version de la question.

ChatGPT :

Bonjour. En tant que Machiavel, je vous conseillerai d’approfondir vos questions pour mieux saisir les nuances du pouvoir, de la stratégie et de l’ambition humaine. Posez votre question, et je vous aiderai à la raffiner à la manière machiavélienne.

Pad :

Dans l’hypothèse d’une singularité de l’IA, serait-il opportun de le dire au peuple ?

ChatGPT :

En adoptant une perspective machiavélienne, on pourrait reformuler votre question ainsi : « Face à l’émergence d’une singularité de l’IA, quel serait le cours le plus stratégique pour un dirigeant : révéler cette réalité au peuple en vue de préserver la stabilité sociale, ou la garder secrète pour maintenir le contrôle et éviter la panique ? »

Cela soulève la réflexion sur l’équilibre entre transparence et contrôle, un thème central dans l’œuvre de Machiavel.

Pad :

Votre reformulation de la question est donc la question que je vous pose.

ChatGPT :

Dans le contexte d’une singularité de l’IA, la décision de révéler ou non cette réalité au peuple exige une analyse profonde des principes de gouvernance et de la nature humaine, telles qu’examinées par Machiavel.

Machiavel conseillerait probablement que le dirigeant évalue soigneusement les avantages et les risques associés à chaque option. Révéler l’existence d’une singularité de l’IA pourrait être justifié si cela renforce la légitimité du dirigeant par la transparence et prépare la société à s’adapter aux changements inévitables, en mobilisant les ressources et l’intellect collectifs pour naviguer dans ce nouveau paysage. Cela pourrait également prévenir la méfiance et le mécontentement qui pourraient survenir si le secret était ultérieurement découvert.

D’un autre côté, garder cette information secrète pourrait être considéré comme nécessaire si la divulgation risque de provoquer une panique inutile, de déstabiliser l’ordre social, ou si le dirigeant estime que le peuple n’est pas prêt à comprendre ou à gérer les implications d’une telle révélation. En gardant le secret, le dirigeant peut chercher à maintenir l’ordre et à élaborer des stratégies de gestion de cette nouvelle réalité dans un cadre plus contrôlé.

Cependant, Machiavel soulignerait l’importance de l’astuce et de la prudence. Il pourrait suggérer d’utiliser cette information comme un moyen de renforcer le pouvoir en interne et la position internationale, tout en préparant discrètement la société aux changements à venir. Le dirigeant devrait également être prêt à ajuster sa stratégie en fonction de l’évolution de la situation et de la réaction du peuple et des élites.

En résumé, la décision de Machiavel serait guidée par une évaluation pragmatique des circonstances, avec un accent sur la préservation de la stabilité et le renforcement du pouvoir, tout en naviguant adroitement dans les eaux inconnues d’une telle avancée technologique.

Pad :

Maintenant agissez comme si vous étiez Paul Jorion

ChatGPT :

En tant que Paul Jorion, anthropologue et économiste connu pour ses réflexions sur l’économie, la finance, et l’intelligence artificielle (IA), la question de la divulgation d’une singularité de l’IA serait abordée sous un angle différent, mettant l’accent sur les implications éthiques, économiques et sociales.

Si je reformule votre question dans l’esprit de Paul Jorion, elle pourrait ressembler à ceci : « Compte tenu de l’impact potentiellement révolutionnaire d’une singularité de l’IA sur notre société, notre économie et nos systèmes de valeurs, ne serait-il pas de notre devoir éthique et social d’informer le public, afin de favoriser une réflexion collective sur la manière de naviguer dans cette nouvelle réalité ? »

En répondant à cette question, Paul Jorion pourrait souligner l’importance de préparer la société à des changements profonds. Il arguerait probablement en faveur d’une approche transparente, soulignant que l’information et la préparation sont essentielles pour éviter les perturbations économiques et sociales et pour permettre à la société d’adapter ses structures aux réalités nouvelles et inévitables. Il insisterait sur le fait que l’humanité doit avoir un rôle actif dans la définition de son futur avec l’IA, plutôt que de se laisser surprendre par ses développements.

Jorion pourrait également mettre en avant la nécessité d’une régulation et d’une surveillance démocratique de l’IA, pour s’assurer que son développement et son application servent l’intérêt commun et ne soient pas monopolisés par une élite technologique ou financière. Il mettrait l’accent sur l’élaboration de politiques publiques visant à redistribuer les bénéfices de l’IA afin de contrer les inégalités économiques croissantes et de promouvoir une justice sociale.

Enfin, il aborderait probablement les questions éthiques soulevées par la singularité de l’IA, telles que la prise de décision autonome par les machines et l’impact sur l’emploi et l’identité humaine, en appelant à une réflexion mondiale sur la manière de maintenir les valeurs humaines au centre de l’avancement technologique.

Illustration par DALL·E à partir du dialogue entre Pad et GPT-4

Partager :

65 réponses à “La Singularité : la différence de point de vue entre un dirigeant politique avisé et Paul Jorion, par Pad”

  1. Avatar de Paul Jorion

    Merci cher Monsieur ChatGPT, je m’abstiendrai cependant de dire que vous êtes la première personne à m’avoir véritablement compris, par respect pour celles et ceux qui – victimes des lecteurs de Machiavel qui dirigent malheureusement le monde – considèrent que vous n’êtes pas véritablement une personne 😀 .

    1. Avatar de BasicRabbit en psychanalyse
      BasicRabbit en psychanalyse

      PJ :  » (…) la logique de Machiavel reprise par Napoléon : « Le Peuple est trop stupide pour qu’on lui dise la vérité… « .

      Machiavel : « Ce n’est pas sans raison qu’on dit que la voix du peuple est la voix de Dieu. On voit l’opinion publique pronostiquer les événements d’une manière si merveilleuse, qu’on dirait que le peuple est doué de la faculté occulte de prévoir et les biens et les maux. »

      “Omnis auctoritas a populo” : file:///tmp/mozilla_jc0/2392-8326-1-SM.pdf

      1. Avatar de Paul Jorion

        La haute opinion en laquelle Machiavel tenait le Peuple transparaît en effet à l’occasion dans ses Discours sur la première décade de Tite-Live, il n’en reste pas moins vrai que ce que l’on trouve dans Le Prince, ce ne sont pas des conseils adressés au Peuple sur comment manipuler le Prince, voire même le terroriser, mais l’inverse 😉 .

        1. Avatar de JMarc
          JMarc

          Je lisais à l’époque du lycée l’avis selon lequel Machiavel, sous couvert d’éduquer le Prince, éduquait aussi le peuple. L’argument aurait pu lui servir en cas de révolution !

    2. Avatar de JMarc
      JMarc

      Encore un fois un petit peu provoc’ le JJ (Jef Jorion) ! On est quand même plusieurs à vous avoir compris au moins dans les grandes lignes. Heureusement qu’il y a l’emoji, sinon on pourrait se vexer. ^^

      1. Avatar de Paul Jorion

        L’avoir dit, au lieu de le penser simplement tout bas m’aurait encouragé 😉 .

  2. Avatar de Hervey

    Machiavel était plus mesuré que Napoléon, un peu à l’image de la République et de l’Empire prôné par l’un et l’autre.
    Si l’on écoute rapidement Machiavel, il dit ceci :

    https://hervey-noel.com/machiavel-2019/

    Difficile de dire s’il serait partisan de l’usage de l’IA dans sa version républicaine ouverte à tous ou un usage réservé à l’élite seule qui dirige pour le « bien » du peuple (un Prince éclairé of course).

    Le champ nouveau des préoccupations actuelles le mettrait certainement en difficulté mais l’IA pourrait nous dire dans ce cas qu’elles seraient les possibilités d’un ralliement de Machiavel à Jorion.

    ???

    1. Avatar de Pad
      Pad

      GPT 4

      En somme, bien que Machiavel et Jorion partent de perspectives différentes, leur collaboration hypothétique sur les questions de l’IA pourrait aboutir à une stratégie nuancée qui combine le pragmatisme politique avec une vision éthique et sociale, visant à naviguer dans les défis posés par l’avancée exponentielle de l’IA de manière à préserver la stabilité, le pouvoir équilibré et le bien-être social.

      1. Avatar de Hervey

        Peut mieux faire.
        🙂

        1. Avatar de JMarc
          JMarc

          « Peut mieux faire. » Pad ne lui a pas demandé une synthèse.

          1. Avatar de Hervey

            En admettant que cette synthèse soit possible sur le papier, son inscription dans les faits devient douteux au tout premier énoncé.

            Déjà au temps de Machiavel les cités réglaient leurs différents en croisant le fer … dans un monde où pullulaient moines et évêques … aujourd’hui, suite à des décennies de mondialisations durant lesquelles le maitre mot fut la concurrence forcenée, continue et non faussée pour faire advenir un eldorado marchant devant tout régler …
            Je vois mal comment corriger promptement cet habitus schumpétérien ou mettre en place partout son contraire sur un temps court.

            Pour la mise en musique, l’IA va devoir se fendre de milliers de petits Mozart.
            On se souhaite bonne chance ?
            On n’a pas le choix.

      2. Avatar de Pascal
        Pascal

        La question qui se pose tout de même, c’est de savoir entre quelles mains se trouve l’IA aujourd’hui.
        Et si je ne m’abuse, elle n’est pas entre les mains des politiques (sauf en Chine et en Russie) mais bien entre celles de multinationales à l’affût des petites startups innovantes qu’elles rachètent à coup de millions.
        Il fait quoi le politique là dedans ?

        1. Avatar de Pad
          Pad

          Demandez donc à Paul qui finançait le projet British Telecom en son temps .. certainement pas la Chine ou la Russie !

          1. Avatar de Pad
            Pad

            Quoique, indirectement, la Russie 😀

          2. Avatar de Vincent Rey
            Vincent Rey

            Sur les déséquilibres entre les moyens de l’Etat et les moyens des firmes, on a déjà un bon exemple avec le dopage au Tour de France. Les agences anti-dopage ont toujours un train de retard…

            Pourquoi en irait-il différemment avec l’IA ? faudrait poser la question à ChatGPT lui-même …

            findutravail.net/index.html#tourdefrance

        2. Avatar de Pad
          Pad

          Bonsoir Pascal 🙂

        3. Avatar de CORLAY
          CORLAY

          Bonsoir Pascal, bien vu la com. Isabelle

  3. Avatar de Vieux Père
    Vieux Père

    Paul Jorion n’aurait il pas ajouté en 4ème point : « et en plus y’a le feu au lac ? »(ou « l’heure est à la mobilisation générale, pas aux petits secrets entre élites »)

  4. Avatar de Khanard
    Khanard

    alors là je n’y comprends plus rien ! pas plus tard qu’hier on m’interpellait sur mes lectures de Mommsen et voilà t’y pas qu’aujourd’hui on nous rapproche de Machiavel (enfin surtout de PJ) !!!!

    Je me retrouve dans le rôle inconfortable de la bille de flipper .

    1. Avatar de arkao

      @Khanard
      Rien n’interdit de lire les anciens…mais aussi les nouveaux. Si vous avez le temps de tout lire, tant mieux pour vous 😉

      1. Avatar de Khanard
        Khanard

        @arkao

        déjà je suis un retraité (65 ans) donc par conséquent j’ai plus de temps . Je lis autant de littérature « ancienne » que de littérature contemporaine . parfois les nuits sont courtes …

        1. Avatar de Garorock
          Garorock

          Khanard a 65 ans. Cela nous fait déja une info.
          Au suivant.
           » On demande Tom cRuiz à l’accueil! »

          1. Avatar de Khanard
            Khanard

            @Garorock

            65 ans et toutes mes dents ! deuxième info !😉

            1. Avatar de Ruiz
              Ruiz

              @Khanard Garorock Et même de sagesse ?

    2. Avatar de CORLAY
      CORLAY

      Bonsoir Khanard, il faut lire Machaviel pour comprendre. Et ne pas être une bille de flipper. Soit du gagnes ou tu perds (d’un côté les gagnants/perdants) trouver juste milieu. Isabelle

  5. Avatar de Kikok
    Kikok

    Je pense que @PAD est une des personnes qui comprend le mieux ce qu’est l’IA dans la perspective de Jorion. @PAD vous travaillez dans quel secteur sans être indiscret ?

  6. Avatar de arkao

    Si ces IA sont si performantes, qu’attend WordPress pour leur demander de régler les petits problèmes techniques de modération des commentaires et d’incrustation des vidéos ? Questions trop terre à terre pour elles 😉

    1. Avatar de Paul Jorion

      C’est probablement une question de semaines.

    2. Avatar de Chabian
      Chabian

      @ Arkao « Si ces IA sont si performantes… »
      Quand on réfléchit aux outils dont on aurait besoin pour gérér son budget « menager », c’est fou les outils qui pourraient être établis :
      – De votre relevé bancaire mensuel, produire un tableau de dépenses (suivant l’identité du commerçant, et même suivant un code attaché à chaque dépense du payement) qui ventile entre grandes catégories (alimentation, énergie, loisirs…) ou petites (achat carburant, alcool). Et même inférer un budget « kwh directs et indirects », et un budget CO2. C’est juste une question de « tableur analytique simple » (par la banque) ou « complexe » (avec codes standardisés des produits). C’est d’une simplicité enfantine, mais qui a intérêt que les gens puissent se faire leur(?) compta(?) ?
      – De même si vous voulez suivre votre évolution d’énergie, vous avez besoin 1/ de noter votre conso mensuelle en m3 (gaz), en litres (fuel), en kwh (élec). 2/ De faire un calcul pour tout normaliser en kwh. 3/ (Et c’est le plus important, le plus suivi et le plus caché !) de comparer avec les besoins de chauffe selon le type de climat hivernal que nous vivons : en Belgique un suivi quotidien en « degrés-jour » est établi, pour les locaux prof mais aussi pour les habitations, qui donne un graphique réaliste des besoins (pour les gestionnaires de chauffe des grosses institutions). 4/ Parallèlement, de ventiler votre total de kwh en besoins séparés pour 1/chauffe (très variable, mais normalisé par les degrés/jour), 2/ cuisson, sanitaire (très stables) 3/ éclairage, électroménager… 5/ Accessoirement, de projeter une dépense totale annuelle et mensuelle, avec les montants divers (TVA variées, coûts de distribution, abonnements, etc.
      – Globalement, c’est fou les données qui nous sont escamotées dans l’info alors qu’elles sont facilement connaissables. Par exemple, les magasins sont vides de clients. Cela est dû pour une part à l’inflation récente ; mais pour une autre part de la prudence des consommateurs qui veulent épargner davantage, qui sont plus soucieux de l’avenir incertain. Bref, la conso s’écroule, et c’est une victoire salutaire contre la conso, mais rien n’est dit à ce sujet. Seules les « bonnes » nouvelles pour la croissance sont saluées, même quand elles sont lamentables (« on progresse de 0.001 %, ce qui est lamentable mais encourageant »). Tout cela pour dire que le système (et son IA) sont contre nous et pas du tout à notre service.

      1. Avatar de Ruiz
        Ruiz

        @Chabian Tout ces calculs et trairements sont fait pour vous adresser avec la plus grande efficience les meileures solicitations publicitaires, mais pas pour vous, tout celà grace aux cartes de fidélité et l’envoi des tickets de caisse par mail.
        Quand aux calculs énergétiques (en temps réel !) à quoi celà peut-il servir ? Il est plus simple de mettre un pull, de doubler la couette, de ne pas chauffer ou éclairer là ou vous n’êtes pas et de faire un estimatif prévisionnel en cas d’investissement.

  7. Avatar de Khanard
    Khanard

    @Corlay

    bonsoir Isabelle ,
    j’ai essayé de lire Machiavel mais j’avoue que les livres me sont tombés des mains, ce qui est rare chez moi .
    Je le trouve trop superficiel et j’ai eu du mal à le suivre dans sa théorie de l’évolution de la société.
    Ceci dit il faut resituer les théories de Machiavel dans son époque qui est celle de César Borgia et d’une corruption avérée .
    Bref c’est pas ma tasse de thé .

  8. Avatar de Chabian
    Chabian

    Et si on posait la question à l’inverse de Machiavel et du prince qui veut garder le pouvoir ? Ou de Jorion comme intellectuel qui veut le bien commun. Si on posait la question de la part de « Lénine » ? (ou Trotsky, ou Fidel Castro)
    « Que répondriez-vous en prenant le point de vue de Lénine : Il y a un fort mouvement social contre le dirigeant, très contesté. Si je veux mobiliser et unifier les comités en révolte, dois-je désigner l’IA comme une forme de moyen de pouvoir renforçant le pouvoir existant , etcomme une arme utilisable contre le peuple ? et donc à abattre. Ou dois-je désigner l’IA comme un moyen contrôlable par le peuple et pouvant leur apporter des avantages ? Ou dois-je garder sous silence cette problématique, cet enjeu ? » (Merci de lui poser la question : moi je ne cause pas à GPT, nous n’avons pas été présentés 🙂

    1. Avatar de JMarc
      JMarc

      « moi je ne cause pas à GPT, nous n’avons pas été présentés ».
      Cacheriez-vous une grande timidité derrière vos a priori idéologiques exprimés encore dans votre 2/2 22h53 ?
      A part ça j’aime bien vos suggestions même si ChatGPT en Castro nous ferait 200 pages.

  9. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Le débat ici me semble encore avoir lieu dans des termes trop abstraits pour permettre de répondre sérieusement à la question posée par Machiavel, aussi il me semble plus que nécessaire de partir du réel, c’est à dire la façon dont concrètement les problèmes se posent et comment les humains y répondent, en particulier quand au niveau politique des réponses sont apportées. Aux dernières nouvelles nos sociétés sont toujours gouvernées (bien ou mal c’est un autre problème.)

    Le réel c’est que les 27 de l’Union viennent d’approuver une loi encadrant l’IA
    avec en ligne de mire la question de la transparence et de la maîtrise de l’IA en particulier dans les secteurs vitaux.

    Paris et Berlin qui prônaient une moindre régulation de l’IA pour ne pas gêner leurs startups puis finalement un compromis a pu être trouvé.

    « Par ce texte, l’UE entend établir « des obligations pour l’IA en fonction de ses risques potentiels et de son niveau d’impact », résumait un communiqué publié par le Parlement européen lors du premier accord en décembre. Lancé en 2021, ce projet de législation avait été bouleversé par l’explosion des capacités de l’IA générative, avec des logiciels comme ChatGPT ou Midjourney qui, capables de générer des textes ou des images complexes, peuvent aussi être utilisés à mauvais escient.
    Obligations pour les systèmes à « haut risque »

    Sur les IA génératives, des règles s’imposeront à tous pour s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et pour vérifier que la législation sur les droits d’auteur est respectée. Les développeurs devront par ailleurs s’assurer que les sons, images et textes produits seront bien identifiés comme artificiels. Des contraintes renforcées s’appliqueront aux seuls systèmes les plus puissants.
    Les systèmes jugés à « haut risque » (dans des domaines sensibles comme les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre…) seront soumis à une série d’obligations comme celles de prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique, ou encore la mise en place d’un système de gestion du risque.
    Paris et Berlin étaient soucieux que la législation européenne protège les start-ups spécialisées dans l’intelligence artificielle, pour ne pas empêcher l’émergence de futurs « champions européens » du secteur. Le ministre allemand du Numérique, Volker Wissing, s’était félicité, mardi, d’avoir « pu obtenir des améliorations pour les petites et moyennes entreprises, éviter des exigences disproportionnées et veiller à ce que nous restions compétitifs au niveau international ».

    Alors le blog approuve-t-il cette réglementation ? Un peu, beaucoup, pas du tout ?

    Je suppute que certains diront de toute façons que quoiqu’on fasse, quoiqu’on puisse réguler, c’est trop tard, c’est plié, l’IA étant déjà autonome, étant parvenue à la singularité nous aurions nous les humains déjà perdu le pouvoir et si c’est pas encore fait cela ne saurait tarder, c’est en tout cas la petite musique insistante que j’entends. Dans ce cas effectivement l’UE c’est peanuts.

    La prudence, la sagesse ne devraient-elle pas nous inciter à faire tout ce qui est en notre pouvoir pour orienter les développements de l’IA dans la bonne direction suivant l’adage « aide-toi le Ciel t’aidera » que je réécris ainsi « aide-toi et l’IA t’aidera » .
    L’avantage non négligeable c’est qu’on sauve le politique, au lieu de verser dans le techno solutionnisme qui évacue justement le politique.

    A moins bien sûr qu’il soit admis par de l’IA supérieure en tous points aux humains, que à l’IA elle qu’il échoit de décider ce qui est bon pour elle même et pour les humains ?
    Pourtant n’en savons rien que l’IA nous serait supérieure en tous points tant que celle-ci n’a pas résolu les problèmes vitaux pour l’humanité qu’elle serait censée résoudre. En attendant qu’elle le fasse, éventuellement, au nom de quelle principe devrions nous abandonner des pans entiers de ce qui a fait l’évolution historique humaine, comme le politique, l’éthique ?

    Parce que c’est bien de cela qu’il s’agit avec l’idée que l’IA pourrait intégralement prendre en charge le destin de l’humanité : si l’IA d’autonomise intégralement au point de pouvoir dire et faire ce qui est bon pour nous il n’y a plus d’éthique humaine qui vaille, non plus de politique qui vaille, puisque tout ressortit aux réponses qu’apportent l’IA.
    C’est bien pourquoi je pense que cette position est un anti-humanisme et comme telle post-humaniste. Cela semble réjouir certains sur le blog, curieusement souvent les mêmes qui ont une attitude très critique envers le capitalisme, désormais face aux promesses de l’IA comme les ravis de la crèche. Les mystères de la croyance sont impénétrables 😉

    https://www.france24.com/fr/europe/20240202-l-ue-donne-son-feu-vert-pour-le-vote-d-une-première-loi-encadrant-l-intelligence-artificielle

    https://www.francetvinfo.fr/internet/intelligence-artificielle/intelligence-artificielle-les-pays-membres-de-l-union-europeenne-s-accordent-sur-un-texte-pour-reglementer-l-ia_6341428.html

    1. Avatar de Pascal
      Pascal

      Bonjour Pierre-Yves
      Tu sais que sur le fond nos idées se rapproche. Cependant, quand tu dis : « Je suppute que certains diront de toute façons que quoiqu’on fasse, quoiqu’on puisse réguler, c’est trop tard, c’est plié, l’IA étant déjà autonome, étant parvenue à la singularité nous aurions nous les humains déjà perdu le pouvoir », il me semble que tu oublies une autre réalité.
      L’Europe avec l’Amérique du nord, c’est actuellement 14% de la population mondiale. Que vaut une décision d’encadrement législatif européenne au regard d’un phénomène complètement transnational et même transcontinental ? Aujourd’hui, avec les « simples » réseaux sociaux, la législation de l’UE est incapable d’intervenir et d’encadrer certains d’entre eux comme Telegram, Truth Social ou même X (à la sauce Musk).
      Si c’est plié, me semble-t-il, c’est en premier lieu pour cette raison. Sauf à établir en Europe un régime à la Xi, et encore !? Une règlementation bien sûr, mais en dehors d’un accord mondial, j’ai du mal à m’imaginer une quelconque efficacité.
      Et d’une manière plus théorique, plus philosophique peut-être, je reste sceptique quant au « génie » humain alors que son génie pour l’heure est responsable d’une nouvelle extinction de masse en un temps record. Là, pour moi, y a quelque chose qui coince. A moins d’être un génie de la catastrophe, je verrai plutôt, d’un point de vue évolutif, une branche de l’évolution qu’il serait temps de voir s’éteindre. J’aimerai juste qu’on me cite une invention humaine au service du vivant ou même dans la continuité de l’évolution. En quoi l’émergence d’une Singularité post humaine devrait-elle naitre sur la plus grande destruction du vivant faite par une seule espèce ? Il serait peut-être encore temps d’aller vers un peu plus de modestie pour y voir plus clair et arrêter de se regarder et de se frotter le nombril égotique !

      1. Avatar de Pascal
        Pascal

        Comme Cloclo, j’ai abandonné mon combat avec l’orthographe !

      2. Avatar de Tout me hérisse
        Tout me hérisse

        Ne faudrait-il pas que l’UE se dote, à l’instar des USA, d’une législation à visée extra-territoriale , ce qui lui permettrait de cogner de manière plus efficace, le cas échéant, sur ces sociétés GAFA établies aux USA, en Chine ou ailleurs ?

        1. Avatar de un lecteur
          un lecteur

          Peut-être qu’un pays dans un éclair de lucidité, d’humanité, à rebours du reflex pavlovien du « nous contre les autres » (start-up-world comme concept d’un futur radieux), déposera une motion à l’ONU pour que les états, encore capable pour l’instant de faire régner l’ordre, se décide à faire progresser le bien commun, cette merde inutile sur laquelle nous fabulons notre exceptionnalité.

          1. Avatar de PIerre-Yves Dambrine
            PIerre-Yves Dambrine

            un lecteur,
            l’ONU est très mal en point en ce moment (elle n’empêche pas les guerres, ni ne parvient à faire appliquer les résolutions comme dans le cas du conflit israélo-palestinien), comparativement l’Union me semble en meilleure forme malgré ses défauts évidents.
            Ceci dit puisse votre voeux être exaucé, je ne m’en plaindrais pas, au contraire.

    2. Avatar de Ruiz
      Ruiz

      @Pierre-Yves Dambrine « si l’IA d’autonomise intégralement au point de pouvoir dire et faire ce qui est bon pour nous il n’y a plus d’éthique humaine qui vaille, non plus de politique qui vaille, »

      En fait si l’IA s’autonomise, il n’y a aucune raison que ce soit bon pour nous, encore moins de pouvoir dire et faire ce qui est bon pour nous, tout au plus de pouvoir nous faire dire et faire faire ce qui lui parait possible de nous convaincre que c’est bon pour nous !

      Le but de la législation (comme autrefois pour l’industrie, les pesticides, les OGM ..) n’est pas de contrôler mais de rassurer et de désarmer les objections, soupçons réticences et oppositions.

      Mais ce n’est pas plié, la résilience peut venir de loin.

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Ruiz,
        un peu trop pessimiste votre vision des choses, pour le coup la législation européenne avec le Pacte Vert (green deal) était en avance sur les lobbys, en l’occurrence la FNSEA. Elle devait s’appliquer, ce sont les états membres qui traînent des pieds. Nos gouvernants Macron et Attal ont beau dire qu’il il y surtransposition des normes européens, la vérité c’est que la transposition elle-même n’était pas appliquée.

        1. Avatar de Ruiz
          Ruiz

          @Pierre-Yves Dambrine Par principe le fonctionnement actuel de l’U.E. est absurde :
          Imposer des normes exigeantes à des producteurs internes en ne les protégeant pas des prix de marché extérieurs qui s’imposent à eux, ne peut avoir que pour but la disparition de l’activité, comme pour la production de médicaments.
          L’agriculture devrait disparaître ou tout au moins se réduire aux terres le plus fertiles et aux productions les moins exigeantes en main d’oeuvre et en eau.

          Economiquement dans un monde capitaliste, cette activité n’a pas de sens.

          Avec des salariés locaux syndiqués et des financements bancaires.

          En fait l’agriculteur est historiquement un capitaliste qui exploite une propriété familiale d’où un grand hystérésys dans l’organisation et la structure des acteurs avec une résilience qui atteint ses limites quand le jeune exploitant ne peut se rémunérer et rembourser l’achat des terres nécessaires à son activité.

          Ne serait-ce pas un grand mouvement de dépossession par les banques du foncier appartenant à la population pour revenir (au moins en France) à un état pré révolutionnaire de grands propriétaires fonciers ?
          L’autre objectif étant de nourrir la population salariée à bas coût (cf SMIC) quite à importer un maximum au mieux offrant (cf Ukraine) sans compensation.

          1. Avatar de PIerre-Yves Dambrine
            PIerre-Yves Dambrine

            Je vous rejoins sur le constat des injonctions contradictoires.
            Mais le problème ce n’est pas l’Union, mais les politiques que décident ses états membres.

          2. Avatar de Otromeros
            Otromeros

            Un abîme s’ouvre à un moment (discret mais fondamental) de la chaîne reliant le producteur et le consommateur….
            TOUJOURS la même chose… un « instant d’ intermédiariat X « ( qui a souvent la « finance » en support )…
            Le moment J où l’incrémentation du prix de revient de base vers le prix final-conso passe par le « marché » … ( le faux marché libre etc etc… ) …
            Cet instant où X « achète » sur papier (paiement « réel » à J= ../30/60/90 jours..) TOUTE une production … ==> IMPOSE « son » prix , à prendre ou à laisser… …  » si c’est pas toi..ça s’ra…  »
            (et je voyais avant-hier une production STOCKÉE en grands tonneaux bleus que le producteur n’avait pas « consenti » à vendre à perte… et DONC qu’il n’avait PAS vendue = absence de recette alors que ses charges se perpétuent…)
            … « prix P à prendre ou à laisser » trop bas pour le producteur… à un instant T où le « marché » (en l’occurrence Chicago!!!) était « vendeur » ( ç’est à dire à un prix baissant de secondes en secondes) …
            prix P d’ « achat » (avec l’aide de toutes les techniques de financement avec/sans capitaux…voir P.Jorion) qui va devenir 1, ,10/1,20/1,30P ou …?… = P*… ==> P ‘devient’ ARTIFICELLEMENT P* ….
            …P* devient la « base » de calcul pour le reste de la chaîne…transformation/stockage)livraison/distribution dans les magasins ==>prix-conso

            Conclusion… chacun des acteurs OFFICIELS (statistiques) « prend une marge » raisonnable sur les micro-morceaux du volume global de consommation..

            Personne ne s’intéresse à la différence « artificielle » entre P et P* qui enrichit l’intermédiariat (éventuellement financier appelé en garantie par l’intermédiaire « désargenté »..)…

            Le producteur ET le consommateur voient chacun LEUR prix de référence.. et se renvoient une culpabilité qui n’est pas justifiée… (cas général…aux exceptions près..^!^…)

            1. Avatar de Otromeros
              Otromeros

              Et tout le « reste » … au point que ça en devient lassant..
              https://www.francetvinfo.fr/economie/crise/blocus-des-agriculteurs/colere-des-agriculteurs-enquete-sur-les-fermes-du-president-de-la-fnsea_6344731.html

              Bien entendu nul n’est parfait…et il y a toujours pire..

    3. Avatar de JMarc
      JMarc

      Vous me semblez ne jamais envisager que l’on pourra peut-être composer, négocier, avec l’IA, ni que l’on (qui ? un peu tout le monde) pourra peut-être s’approprier (plus ou moins) l’IA.
      Pour faire suite à Pascal 3/2 13h25, je pense aussi pour ma part que réglementer ne suffira pas et que la voie à initier ou suivre pour « nous » est d’utiliser l’IA au mieux (je ne sais pas encore trop comment, donc en ce qui me concerne, pour l’instant, c’est « Faite ce que je dis, pas ce que je fais. ») Je rapproche ceci de la réforme de l’orthographe, rarement appliquée, et plus généralement de l’évolution de la langue : seule l’utilisation a une influence réelle. L’Académie Française est inutile et impuissante, seul compte le dictionnaire qui, lui, intègre les nouveaux usages, les évolutions.
      Je reste sceptique quant à « notre » capacité à battre les GAFAM, les militaires etc dans l’appropriation de l’IA mais « nous » devons essayer.
      Il nous faut même écouter Laurent Alexandre : beaucoup de ses arguments sont justes même si certains de ses points de vue sont faux et à gerber (perso, j’ai du mal mais j’y arrive parfois, une bassine à mes pieds).

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        JMarc,
        Si, je l’envisage, mais pourquoi diable brûler les étapes ?
        J’ai du mal à suive les raisonnements qui consistent à asséner sans l’once d’une preuve que l’avenir sera tel ou tel pour l’IA au lieu de prendre les choses dans l’ordre comme elles viennent avec leurs différentes dimensions, éthiques, politiques, économiques, écologiques.. Lisant certains sur le blog j’ai le sentiment de lire la prose de membres d’une nouvelle secte celle des aficionados de l’IA, nouveau sésame-ouvre-toi. Ce n’est plus de la réflexion mais de la religion.

        D’où mon commentaire pour suggérer une approche plus pragmatique, prendre les choses comme elles viennent au stade où elles en sont. C’est la meilleur façon qu’on connaisse il me semble pour ne pas faire de bêtises.
        Qui peut le plus peut le moins …

        1. Avatar de PIerre-Yves Dambrine
          PIerre-Yves Dambrine

          PS.
          Pourquoi il n’est pas indifférent selon moi de traiter autrement que par dessus la jambe chacun des nouveau stades du développement de l’IA ?

          Eh bien parce que chaque stade des développements de l’IA entraîne avec lui une cohorte de conséquences, sociales, économiques, écologiques qui reconfigure l’ensemble de ce qui fait l’humanité et qui elles-mêmes rétroagisssent sur la manière dont évolue l’IA.

          Or dire que l’IA a pris le pouvoir c’est passer par pertes et profits tous les stades intermédiaires. C’est très problématique d’un point de vue méthodologique.

        2. Avatar de JMarc
          JMarc

          Pierre-Yves,
          Je suis bien d’accord avec vous quand vous dites que nos discussions manquent de concret et de structuration quant à l’IA (encore que concernant les IA graphiques, il y a déjà ici pas mal de concret).
          Faute d’une culture et faute d’un degré et d’une forme d’intelligence appropriées, faute aussi d’une grande capacité de travail (euphémisme^^), je reste dans une approche intuitive de l’IA, domaine très vaste et très complexe, et je pense que la plupart d’entre nous ici restent également dans une approche presque uniquement intuitive.
          Faute de s’appuyer sur d’avantage d’arguments détaillés, nos commentaires apparaissent donc souvent comme des professions de foi.
          J’espère que progressivement nous pourrons améliorer tout ça, au fur et à mesure que nous en saurons plus, notamment via le prochain livre de PJ.

    4. Avatar de Gérard PECH
      Gérard PECH

      @Pierre-Yves Dambrine

      bonjour Pierre Yves,

      vous dites : «Sur les IA génératives, des règles s’imposeront à tous pour s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et pour vérifier que la législation sur les droits d’auteur est respectée»
      ce qui est très louable mais qui va aller vraiment contrôler la mise au point des algorithmes sachant que les concepteurs des réseaux de neurones eux mêmes avouent ne plus savoir comment fonctionnent les transformers ?

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Gérard Pech,
        Ce n’est pas de moi, c’est une citation d’un des deux articles mis en lien.

        Concernant votre question, certes les concepteurs ne savent pas bien comment fonctionnent leurs réseaux de neurones mais ils savent néanmoins avec quoi ils les entraînent, une partie de la nouvelle loi porte là-dessus. Devoir de transparence.

        1. Avatar de Lagarde Georges
          Lagarde Georges

          « ils savent néanmoins avec quoi ils les entraînent » — Je n’en suis vraiment pas sur du tout !

          Pour rassembler les textes servant à l’apprentissage il faut une armée de personnes aussi mal payées que possible (donc peu ou pas formées) qui de toutes évidence ne peuvent ni avoir lu les millions de textes « choisis », ni même les avoir survolés. Si en plus d’autres langues que l’anglais sont utilisées le plus probable est que personne ne sait vraiment avec quoi les LLM ont été entraînés.

          😜 En fait pour pouvoir faire le tri initial ou des contrôles a posteriori faudra utiliser une ou des IA.

          1. Avatar de Paul Jorion

            @ Lagarde Georges

            « Pour rassembler les textes servant à l’apprentissage il faut une armée de personnes aussi mal payées que possible »

            Vous avez des informations en ce sens ?

            1. Avatar de Lagarde Georges
              Lagarde Georges

              Non, je reconnais que j’ai extrapolé à propos des textes ce que j’ai lu à propos de personnes recrutées sur internet (Amazon Mechanical Turk) pour attribuer une identification aux images utilisées pour l’apprentissage.

              D’après Wikipedia les textes utilisés pour les LLM sont rassemblés par des universitaires qui les mettent gratuitement à la disposition de qui veut s’en servir.

              https://fr.wikipedia.org/wiki/Grand_modèle_de_langage#Ensembles_de_données_de_pré-entraînement

              Ensembles de données de pré-entraînement

              Les LLM sont pré-entraînés sur de grands ensembles de données textuelles comme Common Crawl, The Pile, MassiveText, Wikipedia ou GitHub. Ces ensembles de données contiennent jusqu’à 10 000 milliards de mots.

              1. Avatar de Paul Jorion

                Quel est le rapport en effet entre « des universitaires qui mettent gratuitement leurs textes à la disposition de qui veut s’en servir » et « une armée de personnes aussi mal payées que possible (donc peu ou pas formées) qui de toutes évidence ne peuvent ni avoir lu les millions de textes « choisis », ni même les avoir survolés » ?

                Vous mélangez l’identification d’images avec un projet comme ChatGPT.

    5. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      correction de la phrase suivante : « A moins bien sûr qu’il soit admis par de l’IA supérieure en tous points aux humains, que à l’IA elle qu’il échoit de décider ce qui est bon pour elle même et pour les humains ? »

      Il fallait lire :

      A moins bien sûr qu’il soit admis par les thuriféraires de l’IA supérieure en tous points aux humains que c’est à l’IA elle seule qu’il échoit de décider ce qui est bon pour elle-même et pour les humains ?

  10. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Tout me hérisse,

    Voilà, toutes proportions gardées, c’est un peu comme pour l’agriculture, il faudrait des clauses miroir pour l’IA, ainsi tout ce qui vient de l’extérieur de l’UE devrait être conforme au standard européen nouvellement défini. Ce qui vient d’être acté pour l’IA en l’état bien sûr n’est pas de nature à concurrencer les mastodontes US, mais c’est un premier pas, encore très insuffisant.

    Je réponds par la même occasion à l’objection de Pascal que j’avais bien entendu à l’esprit.
    Il fut un temps sur le blog (les plus anciens s’en souviendront) où LA solution principale pour enrayer la logique capitaliste c’était de mettre fin à la spéculation financière, ce à quoi d’aucuns avaient objecté que c’était impossible car il faudrait que tout le monde le décide ensemble. Objection apparemment recevable, mais qui est aussi un aveu d’impuissance et même d’une certaine façon une théorisation de l’impuissance. Nôtre hôte d’ailleurs il faut le rappeler avait lui-même combattu cet argument.

    La mondialisation est-elle inéluctable, j’ai des doutes, car le contexte géopolotique mondial est très incertain, je ne fais pas un dessin où plutôt si, dans ce dessin les pays dits démocratiques sont fortement ‘attaqués’ au sens propre et par la guerre hybride par une coalition de pays (Russie, Chine, Corée du Nord, Iran et autres alliés objectifs). Ainsi tout l’édifice de l’IA qui repose sur les puces produites à Taiwan, peut par exemple demain être remis en cause. Et bien malin qui peut dire ce que serait le ‘monde d’après…

    Pour revenir à l’agriculture, le modèle agricole productiviste semble avoir gagné des points suite au récent mouvement des agriculteurs-paysans, mais ce n’est qu’une victoire à la Pyrrhus, les terres arables ne le seront pas indéfiniment si l’on continue sur la voie de l’agriculture business et de plus en plus intensive.

    Si l’UE ne régule pas qui le fera ? Sûrement pas les US où encore une fois on vient d’assister à une farce avec la vraie fausse repentance de Zuckerberg :

    https://www.francetvinfo.fr/internet/reseaux-sociaux/reseaux-sociaux-plusieurs-dirigeants-auditionnes-par-le-senat-americain-pour-ne-pas-avoir-protege-leurs-jeunes-utilisateurs_6341824.html

    1. Avatar de Christian Brasseur
      Christian Brasseur

      Pierre-Yves, je plussoie.

      La décision de ne plus considérer l’agriculture comme faisant partie de la solution pour la préservation/reconstitution de la biodiversité me sidère (maintien des pesticides et abandon des jachères).
      Les négociations entre les maillons de la chaîne (producteurs/distributeurs), sans même évoquer une seule seconde la CAUSE ESSENTIELLE des problèmes financiers des agriculteurs (la spéculation) me sidèrent tout autant.
      Ni la politique agricole commune telle qu’elle existe (celle qui avait été conçue pour assurer un revenu décent pour les agriculteurs), ni la loi EGALIM ne fonctionnent. La spéculation reste donc un véritable TABOU.

  11. Avatar de timiota
    timiota

    Une IA orientée par la « praxis », c’est aussi l’argument de Dardot et Laval dans « Communs » pour faire vivre lesdits communs : la praxis surtout.
    Dans l’analogie biologique, un être se modifie de façon « singulière » en incorporant les fonctions d’un autre (les bactéries qui importent d’autres bactéries « en symbiose » mais bien en cage, hôtes qui seront par exemple les futures mitochondries, ou qui aideront à passer l’étape multicellulaire, etc.).
    D’après les psys, le cerveau des humains a incorporé des façons d’interpoler le savoir/les informations assez supérieure à celles des autres primates, mais c’est au prix d’une « surchauffe » qu’on paye par X % de maladies mentales (schizo, parano, épisodes dépressifs).*
    (à suivre)

    1. Avatar de Garorock
      Garorock

      La « surchauffe », c’est parce qu’on a pas le bon logiciel ou un processeur pas assez puissant.
      Le MinouGPT de la silicoke valley n’aura pas ces inconvénients.

  12. Avatar de Otromeros
    Otromeros

    Tant qu’on puisse empêcher (convention universelle) qu’une I.A. « rende la justice en dernier recours » …

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. … oups… « émouvoir » qui sonne tellement mieux (plutôt que ces nouvelles constructions suffixées – « émotionner » -, qui pullullent dans le…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta