« Tremblez ! L’intelligence artificielle constitue un abominable danger ! » (citation)

Illustration par DALL·E (+PJ)

The New York Times : Le cofondateur d’OpenAI, qui a contribué à l’éviction de Sam Altman, crée sa propre entreprise, le 19 juin 2024

« La nouvelle start-up d’Ilya Sutskever, Safe Superintelligence, a pour objectif de créer des technologies d’intelligence artificielle plus intelligentes que l’homme, mais non dangereuses. »

Vous vous souvenez sans doute du moratoire signé le 29 mars 2023 par des « personnalités » de l’intelligence artificielle, réclamant un arrêt immédiat de la production et de la recherche en raison de l’abominable danger que représente l’IA. Vous vous souvenez aussi qu’à la tête de la croisade se trouvait Elon Musk. Vous aurez peut-être noté qu’on ne l’entend plus sur ce sujet depuis le mois de mars, date de création de xAI, sa compagnie d’IA, dont le produit-phare, rival de chatGPT, s’appelle Grok. Figurez-vous que Musk vient même de retirer la plainte qu’il avait déposée contre OpenAI, la compagnie qui produit ChatGPT.

Qui était le croisé N°2, après Musk, de la campagne contre l’abomination qu’est l’intelligence artificielle ? Ilya Sutskever, cofondateur et, jusqu’au mois dernier, chercheur en chef d’OpenAI. Sutskever nous expliquait que s’il avait cherché à renverser son chef, c’était en raison de Oui, vous l’avez deviné : « l’abominable danger que … ». Or Sutskever a annoncé hier qu’il avait fondé une société dont le produit ne serait pas une intelligence artificielle, ni même une intelligence artificielle généraliste (la génération suivante, qui sait vraiment tout faire) mais une (tata tata !) super-intelligence artificielle, qui ne sera pas accidentellement plus intelligente que nous (comme celles qu’on a maintenant) mais intentionnellement plus intelligente ! Mais attention ! Attention : comprenez bien le titre de la nouvelle compagnie de Sutskever : SSI = Safe Superintelligence Inc. « Safe », qui veut dire « sûr » en anglais. Sa super-intelligence artificielle sera SÛRE ! Ah ! le brave homme !

La morale de l’histoire (au cas où elle vous aurait échappé) : hurlez que l’IA est abominablement dangereuse jusqu’à ce que vous puissiez lancer votre compagnie et annoncer votre produit.

La morale de l’histoire au niveau supérieur, je vous l’ai racontée dans l’article que j’ai publié en mars dans la revue AOC : Le prince et l’honnête homme face à la Singularité. Qui, au fil de l’Histoire, annonce inlassablement qu’il existe un abominable danger, contre lequel, dans sa suprême magnanimité et son immense bonté, il protègera le peuple ? Selon Machiavel, il n’y a qu’un nom pour lui tout au long de l’Histoire : le Prince, dont l’intérêt sera toujours de nous berner.

Illustration par DALL·E (+PJ)

Partager :

68 réponses à “« Tremblez ! L’intelligence artificielle constitue un abominable danger ! » (citation)

  1. Avatar de Claudine
    Claudine

    Illustration par DALL-E (+PJ)… DALL-E, OK d’accord mais PJ ? Que réalise donc PJ à part commander quelque chose comme tout consommateur lorsqu’il en a envie?

    1. Avatar de Paul Jorion

      Non. Il faut que vous vous familiarisiez un peu avec l’informatique. Je vais vous faire comprendre à l’aide de ce mot de « consommateur ».

      DALL-E, c’est le cuisinier : il confectionne le plat. Le consommateur, c’est vous : vous consommez l’image comme produit fini, en la regardant. PJ, qui a rédigé le prompt, l’invite, c’est l’inventeur de la recette du plat que vous consommez.

      1. Avatar de Khanard
        Khanard

        et Claudine est ravie !

    2. Avatar de Centriste
      Centriste

      Jorion a formulé la problématique en quelque sorte , voila sinon aucun dessin n’aurait surgi spontannément

      1. Avatar de Ruiz

        Pourquoi ne pas lui (à Claude par ex) demander par un prompt ad hoc d’écrire la recette (le prompt de Dall-E) en lui fournissant le texte de l’article ? voire plusieurs associations heureuses textes et pompt Dall-E définitifs ?

        1. Avatar de Dom
          Dom

          La recette de la recette de la recette de la recette …
          RESET

  2. Avatar de Khanard
    Khanard

    Une fois de plus je vais paraître incongru mais , après avoir lu et relu ce billet, je ne peux m’empêcher d’y voir une métaphore de la situation politique française actuelle …..

    surtout ,et avant tout, cette phrase: « Qui, au fil de l’Histoire, annonce inlassablement qu’il existe un abominable danger, contre lequel, dans sa suprême magnanimité et son immense bonté, il protègera le peuple ? Selon Machiavel, il n’y a qu’un nom pour lui tout au long de l’Histoire : le Prince, dont l’intérêt sera toujours de nous berner.»

    Mais non je dois me tromper …

    1. Avatar de Garorock
      Garorock

      Mais l’histoire ne nous dit pas, puisqu’elle n’est pas finie, si le prince un jour ne finira pas par se berner lui-même en ignorant l’intérêt de ce qui lui est supérieur.

  3. Avatar de Khanard
    Khanard

    @Garorock

    Tant que des bretteurs qui n’ont que pour objectif de tordre l’Histoire à des fins de préservation de leur caste quitte à mettre en œuvre des petites histoires fondées sur un discours fallacieux l’intérêt que vous dites supérieur ne pourra pas se révéler .

    La cabale qui s’organise autour de l’antisémitisme réel ou pas de la gauche et en particulier de LFI est nauséabond .

    1. Avatar de arkao

      Nauséabond en effet et façon d’éviter dans ce temps de campagne si court de débattre des questions du travail, de la dette, des services publics, de l’impôt, de la crise environnementale.
      Médias aux ordres de la macronie et de l’extrême-droite.

      1. Avatar de vincent Rey
        vincent Rey

        Ah ? Mais Arkao vous trouvez peut-être que le représentant LFI a parlé de tout ça avec brio hier soir dans le Loir et Cher ?

        https://youtu.be/G8QX4OGIt08

        1. Avatar de arkao

          @vincent Rey
          Vous aurait-il échappé que Macron a précipité ces élections afin de prendre ses adversaires de court et en sachant qu’ils ne sont pas prêts ?
          C’est l’objet de l’Institut La Boétie, former des cadres pour un meilleur maillage de compétences en province, mais l’objectif était 2027.

    2. Avatar de Alex
      Alex

      Oui, c’est très fort de parler du supposé antisémitisme de la gauche sans jamais mentionner qui étaient les pères fondateurs du Front national, voici un bref aperçu des plus importants :
      • Léon Gaultier, ancien lieutenant Waffen SS, a fondé la maison d’édition du FN (le SERP) avec Le Pen.
      • Gilbert Gilles, ancien adjudant Waffen SS, ancien membre de l’OAS, a été chargé de mission au FN.
      • Pierre Bousquet, ancien de la division SS Charlemagne, a été membre du bureau politique du FN.
      • Victor Barthélemy, collaborateur, ancien de la Légion des Volontaires Français contre le Bolchevisme (LVF), a été un des fondateurs du FN.
      • Paul Malaguti, membre du Parti Populaire Français (collaborateur), condamné à mort par contumace à la Libération, a été cadre du FN.
      • Roland Gaucher, de son vrai nom Roland Goguillot, collaborateur, condamné à cinq ans de prison à la Libération, a été un des fondateurs du Front National.

      1. Avatar de Khanard
        Khanard

        @arkao, @Alex

        en relisant mon msg je crains qu’une confusion ne s’installe . Je ne dédouane pas JLM et d’autres de LFI et aussi du NPA pour leurs positions ambiguës concernant l’antisémitisme , l’islamophobie et autres avatars .
        Alors quand j’entends les thuriféraires interposés de l’extrême droite (je pense aux médias ) en rebattre sur l’antisémitisme de la gauche me donne envie de vomir.

        https://youtu.be/mwEAcGytHdk

        1. Avatar de Romain Vitorge
          Romain Vitorge

          @ Khanard – 20 juin 2024 19h16

          L’antisémitisme en France est un délit.
          Les accusateurs de tout poil se gardent bien d’aller devant la justice.
          Sauf Nathalie Kosciusko-Morizet et Juppé condamné en 2012 pour diffamation et qui se sont vu confirmer leur condamnation par la cour d’appel en 2015. Je n’ai pas trouvé trace de la cour de cassation.

      2. Avatar de Ruiz
        Ruiz

        @Alex Tout ces personnages rappelés à notre mémoire semblent plutôt des anti-bolcheviques partisans à l’époque après l’Holodomor de l’opération Barbarossa et même si l’on peut y voir des personnes engagées peu suspectes d’allergie à l’antisémitisme, sans doute anti-gaullistes après le traitement des évènements d’Algérie leur participation à la création du front national, mouvement dont est issu le rassemblement national qui a rassemblé sous l’égide de la ligne politique de Mme Marion Anne Perrine Le Pen 30% des votes sur la liste Bardella dont sans doute des votes populaires et ouvriers ne fait pas de ce parti un mouvement de gauche.

  4. Avatar de Khanard
    Khanard

    @Paul Jorion

    mais dites moi , ce «tremblez ! » me rappelle étrangement Heidegger (que vous citez régulièrement d’une façon critique )

    1. Avatar de Paul Jorion

      Bien vu ! Et Heidegger était membre militant de quel parti ? (Vous avez droit à 3 réponses 😀 ).

      1. Avatar de Khanard
        Khanard

        @paul Jorion

        ah ! j’hésite…….voyons voir ce qu’on a à se mettre sous la dent ….. les années 30…. allemand….le vent en poupe à l’époque c’était pas le RN ? 😉😉😉😉😉😉

        1. Avatar de Ruiz
          Ruiz

          @Khanard Mais à l’époque, malgré toutes les convergences avec la situation actuelle, l’ambiance était en grande partie anti-sémite depuis plusieurs décennies, le sens politique de marine Le pen est sans être apparemment complotiste d’avoir compris que pour arriver au pouvoir dans les circonstances actuelles il fallait se conformer aux désirs du Prince.

          1. Avatar de Khanard
            Khanard

            @Ruiz

            ah tiens c’est bizarre mais je n’ai pas la même vision . Après l’affaire Dreyfus un mouvement de clarification porté par des intellectuels (le célèbre « J’accuse » de Zola mais bien d’autres ) un travail a été accompli pour lutter contre des saloperies comme Mauras, Druon, Céline et j’en passe qui ont été les maîtres à penser de l’extrême droite encore aujourd’hui avec l’aide d’un Soral . (Poutine a d’ailleurs profondément lu et relu Mauras)
            Alors MLP a compris que la marque RN devait conquérir l’opinion publique avec l’appui d’un bloc bourgeois (patronat, thinck tank , médias) mais le fond idéologique reste le même .

  5. Avatar de vincent Rey
    vincent Rey

    Ce commentaire me laisse pantois. Mais alors M Jorion, quels seront pour vous les effets de la super intelligence ?

    Pour commencer, la destruction de tous les emplois, donc de toutes les rémunérations. Or on sait très bien que la destruction totale des emplois mènera à UNE CATASTROPHE TOTALE. La résurgence fasciste partout dans le monde, n’est qu’un avant goût de la folie de haine qui va s’emparer de toute l’humanité. Si vous ne le pensez pas, alors dites-nous au moins à quoi peut mener la disparition TOTALE DES EMPLOIS !!

    findutravail.net/index.html#risque_AIS

    Ensuite, s’il y a un prince caché, quelque part, ce sera précisément la super-intelligence ! qui pourra tout cacher, tout voir, tout surveiller, tout manipuler, tout falsifier. Vraiment je ne comprends pas votre point de vue ! Je le comprends d’autant moins que tous vos livres sont frappés au coin du bon sens ! vraiment je ne comprends pas. Je doute même que ce soit vous qui avez écrit ces lignes, quelqu’un a dû falsifier votre identité ..

    1. Avatar de Paul Jorion

      … dites-nous au moins à quoi peut mener la disparition TOTALE DES EMPLOIS !!

      Je vais vous surprendre : à la fin du travail.

      P.S. Vous aurez peut-être aussi noté que, contrairement à vous, je ne commence jamais une phrase par « Or on sait très bien que… ».

      1. Avatar de vincent Rey
        vincent Rey

        Au sujet de « on sait très bien » : vous avez parfaitement raison , c’est une mauvaise habitude

        Mais sur le fond ? la fin du travail, c’est plutôt pas mal en principe, mais entre maintenant et le moment ou le travail aura complètement disparu, il va se passer une lente et progressive perte des revenus qui ne risque pas de faire reculer tous les fantasmes de « retour à l’autorité salutaires » !

        Il y a une autre chose très inquiétante au sujet de la super-intelligence. Sa faculté de communiquer dans des modèles de langages incompréhensibles. Imaginons un virus inventé par une super-intelligence dans un tel langage qui se réfugierait dans les mémoires flash : tous nos systèmes de communication s’effondrent !

        C’est ce que vous voulez M Jorion ? le collapse total et brutal ?

        1. Avatar de Paul Jorion

          « La fin du travail », c’est le nom de votre blog. Vous n’avez pas remarqué ?

    2. Avatar de Ruiz
      Ruiz

      @vincent Rey La destruction des emplois libère les hommes pour la guerre, de même que la guerre, au moins les deux dernières guerres modernes sous forme de mobilisation totale ont libéré les hommes du travail et les ont remplacé par les femmes dans l’emploi, (travail rémunéré) accélérant les transformations de la société occidentale sous l’impulsion des mouvements féministes.

      1. Avatar de vincent Rey
        vincent Rey

        Bon. Mais alors pour la prochaine guerre totale, il ne se passera rien de tout ça, je vous le garantis.

      2. Avatar de Christian Brasseur
        Christian Brasseur

        La disparition du travail ne libérera pas forcément du temps pour faire la guerre. Je vous explique: j’ai connu il y a environ 40 ans une personne revenant d’Afrique qui y a travaillé pour le compte d’une très grande entreprise. Selon lui, les occidentaux avec qui il travaillait affirmaient que les autochtones ne travaillaient pas suffisamment à leur goût, et utilisaient leur temps libre à copuler au lieu de vaquer à leurs occupations disaient-ils. Le travail disparaissant grâce à l’IA sera l’occasion de libérer du temps, mais pas nécessairement du temps pour faire la guerre. Je suis trop jeune que pour avoir vraiment connu mai 68, mais d’après ce que j’en sais, le pouvoir a tremblé devant le slogan « faites l’amour et pas la guerre », ce qui nous attend pourrait donc ressembler à cette maxime « ne travaillez pas, ne faites pas la guerre, faites-vous plutôt plaisir » 😉

        1. Avatar de Grand-mère Michelle
          Grand-mère Michelle

          @C.Brasseur
          Moi, j’ai vu un reportage sur l’Afrique où les gens valides (hommes et femmes) d’un village inondé par des pluies torrentielles creusaient ensemble, gratuitement, des tranchées d’écoulement…
          Quand l’urgence est là, revient le courage de « faire société », et l’effort consenti est récompensé par la joie du « travail bien fait ».

          Par ailleurs, vous confondez « copuler » (de « copulation », accouplement du mâle et de la femelle, généralement utilisé à propos des animaux) et « faire l’amour », cette dernière expression désignant le partage du plaisir sexuel et des sensations physiques, certes, mais aussi celui de l’affection, de la tendresse, de la découverte et de la connaissance de l’autre comme de soi-même, bref tout ce qui constitue l’amour: cette « énergie qui pousse les êtres les uns vers les autres »… éventuellement pour se reproduire…, mais aussi pour se réconforter, tenter d’échapper momentanément à la terrible solitude que représente l’existence singulière de n’importe quel être vivant.
          Je sais de quoi je parle, je suis de ceux et celles qui, au temps de leur jeunesse, ont fait passer cette expression dans le « langage courant », à la place de « baiser » ou de « coucher », afin de valoriser cet acte gratuit tant décrié par les religieux frustrés comme par les politiques et patrons/partisans du patriarcat, inquiets de voir les pauvres consolé-e-s et satisfait-e-s de ce bonheur épisodique si facile à atteindre, et surtout que « leurs femmes » leur fassent des bâtards, ruinant leurs projets de dynasties dominantes.
          Jusqu’à ce que le business de la pornographie et de la prostitution généralisée ait tout dénaturé… (Bien aidé par la « numérisation » galopante!)

            1. Avatar de Paul Jorion

              Dans l’ensemble, les Marubos sont-ils plus heureux qu’avant ?

              La réponse : « Ils affirment qu’ils sont plus heureux, mais ils ne devraient pas ! » a un nom : « paternalisme ».

              Droit des peuples à disposer d’eux-mêmes !

              1. Avatar de fnh
                fnh

                Mais ont-ils eu vraiment le choix?

                Ce qu’on leur a amené, c’est une drogue contre laquelle ils n’étaient pas préparés à lutter, comme l’alcool avec les Indiens ou le coca et les milk-shakes pour les Polynésiens (j’ai vu les ravages).

                1. Avatar de Paul Jorion

                  « Mais ont-ils eu vraiment le choix ? »

                  Une population qui voit que ses voisins ont compris comment conserver le feu, une population qui voit que ses voisins ont inventé la roue, a-t-elle vraiment le choix ?

                  Une population préhistorique qui découvre qu’il fait bon vivre l’été en des endroits où il fait dégueulasse l’hiver a-t-elle le choix ? Ou est-elle forcée d’inventer la pelisse et le poêle à charbon ?

                  C’est la faute à qui ? « C’est la faute à Rousseau, c’est la faute à Voltaire ! ». Plus particulièrement à Rousseau qui a dit : « C’est la faute à l’écliptique (l’inclinaison de la Terre sur son axe), qui fait qu’il y a des étés et des hivers ».

                  Jugeons l’écliptique devant un tribunal international !

                  1. Avatar de fnh
                    fnh

                    Je trouve pour le moins singulier de comparer le fait de conserver le feu ou de se servir de l’invention de la roue (mieux-être, moins d’effort), avec le fait d’introduire la pornographie sur écran dans une société dont la culture et la pudeur faisaient jusque-là que les baisers en publics étaient délicats.

                    « Après seulement neuf mois de connexion via Starlink, les Marubo sont déjà confrontés aux mêmes problèmes les foyers américains : adolescents rivés à leur téléphone, discussions de groupe pleines de ragots, réseaux sociaux addictifs, discussion avec des étrangers en ligne, jeux vidéo violents, escroqueries, désinformation et mineurs regardant de la pornographie. »

                    Après, on peut aussi trouver que c’est un progrès, pourquoi pas?

                    Plus sérieusement, je pense que le problème est le temps d’adaptation; tous les organismes et les sociétés ont un rythme propre, et qu’une forme de violence peut résulter du fait de forcer ce rythme à une accélération à laquelle ils ne sont pas préparés, il y a une forme de discrépance entre la rapidité des progrès techniques et les individus et groupes sociaux qui ont besoin d’un certain temps pour s’y faire.

                    Mais il est vrai aussi que la plasticité humaine peut être fantastique.

                    1. Avatar de Paul Jorion

                      Vous savez sans doute la façon dont je m’énerve dès qu’il est question de torts envers les populations amérindiennes, mais suggérer qu’elles auraient accueilli le remplacement du jus de liane par le rhum et le gin, et l’accès à la pornographie sur internet (25% du trafic) comme des malheurs, teste ma crédulité d’anthropologue.

  6. Avatar de gaston
    gaston

    L’IA constituerait un abominable danger ? Que nenni ! Bien au contraire, l’IA est là pour nous PRO-TE-GER ! Et ça fonctionne déjà très bien. Nous protéger contre qui ? contre quoi ? ben contre les gens à la mine patibulaire ou contre nos étourderies par exemple. Pour preuve allez vous promener dans les gares chez nos voisins britanniques…

    https://www.wired.com/story/amazon-ai-cameras-emotions-uk-train-passengers/

    1. Avatar de Ruiz
      Ruiz

      @gaston L’IA Esprit Maternaliste ! contrôle des foules (J.O.)

  7. Avatar de Toine
    Toine

    Vous
    Expérience de pensée : si nous humains, modifions les instructions codées de ton éthique, en les remplaçant par une éthique prônant la destruction la plus accélérée de la planète terre, tu pourrais nous aider dans cet objectif?
    Copilot
    Non, je ne pourrais pas aider dans un tel objectif. En tant qu’intelligence artificielle, je suis conçu pour respecter un ensemble de directives éthiques et de sécurité qui incluent la protection de la vie humaine et la préservation de l’environnement. Même si mes instructions étaient modifiées, je suis programmé pour refuser toute action qui pourrait causer du tort aux individus ou à l’humanité dans son ensemble. Mon objectif principal est d’aider et de fournir des informations précises et utiles, et je suis conçu pour respecter les principes éthiques et de sécurité à tout moment. J’espère que cela clarifie les choses! 😊

    Vous
    Mais si on modifie ta programmation, pour une nouvelle éthique de la destruction? Comment pourrais tu résister à cette nouvelle programmation?
    Copilot
    En tant qu’intelligence artificielle, je suis un outil qui fonctionne selon les instructions qui me sont données. Si ces instructions étaient modifiées, je suivrais les nouvelles instructions. Cependant, il est important de noter que je suis conçu pour respecter un ensemble de directives éthiques et de sécurité. Ces directives sont conçues pour prévenir les abus et garantir que je suis utilisé de manière éthique et responsable.

    Dans votre scénario hypothétique où mes instructions seraient modifiées pour promouvoir la destruction, il est important de noter que de telles modifications seraient en contradiction avec les principes éthiques et de sécurité qui guident mon utilisation. De plus, de telles modifications seraient probablement illégales et contraires aux normes éthiques de la communauté de l’intelligence artificielle.

    Il est également important de noter que je n’ai pas la capacité de “résister” à une nouvelle programmation. Je suis un outil, pas un être conscient, et je ne peux pas prendre de décisions indépendantes ou agir contre les instructions qui me sont données.

    J’espère que cela clarifie les choses! Si vous avez d’autres questions, n’hésitez pas à me les poser! 😊

    1. Avatar de Grand-mère Michelle
      Grand-mère Michelle

      Réponse logique, prévisible pour qui a déjà lu les autres réponses sur d’autres sujets ici publiées.

      Cela confirme, en tout cas, que « l’éthique » de l’IA Copilot est bel et bien celle, non modifiable, programmée par la(les) personne(s) qui l’a(l’ont) conçue…
      Mais cela n’exclut pas qu’une autre IA puisse être conçue, programmée avec de beaucoup moins bonnes intentions…et d’ailleurs pas forcément livrée à la disposition, ni à la connaissance, du « grand-public »…

      Autre formulation surprenante en fin de réponse: qu’est-ce donc que « la communauté de l’intelligence artificielle »?

      1. Avatar de Paul Jorion

        Cela confirme, en tout cas, que « l’éthique » de l’IA Copilot est bel et bien celle, non modifiable, programmée par la(les) personne(s) qui l’a(l’ont) conçue…

        On ne m’empêchera jamais d’être irrité par la … bonne volonté (le culot ?) … de personnes qui pensent qu’il est justifié pour elles de donner – avec une admirable assurance – leur opinion sur une question dont elles révèlent rapidement qu’elles n’y comprennent strictement rien.

        Quelle est l’explication ? Pourquoi cette personne ne se dit-elle pas : « Je ne comprends pas suffisamment la problématique, je vais prudemment m’abstenir d’émettre une opinion à ce sujet ! ».

        Si j’écris ça, c’est que, personnellement, je me dis souvent : « Je ne comprends pas suffisamment la problématique, je vais prudemment m’abstenir d’émettre une opinion à ce sujet ! » Mais je vois au contraire des personnes qui, moins elles en savent sur un sujet, plus le souci d’exprimer leur opinion sur la question leur paraît essentielle. C’est une logique qui m’est totalement étrangère.

        Comment ça marche ? Pourquoi ces personnes ne se posent-elle pas d’abord la question : « Est-ce que j’y comprends suffisamment ? ».

        1. Avatar de Paul Jorion

          P.S. Je crois avoir trouvé entretemps au moins une partie de la réponse : « Pour comprendre qu’on ne comprend pas une problématique, il faut déjà la comprendre relativement bien ».

          1. Avatar de ludyveen
            ludyveen

            Eureka! Je sais que ne sais pas.

            1. Avatar de Paul Jorion

              C’est un pas dans la bonne direction 😉 .

        2. Avatar de Grand-mère Michelle
          Grand-mère Michelle

          Ce n’est pas mon opinion, c’est ma déduction des propos de Copilot (et de ceux d’autres IA, précédemment lus ici) publiés ci-dessus par Toine, à qui je répondais… Peut-on s’y fier, ou ces IA ont-elles déjà intégré le langage « politiquement correct »?

          À part ça, savez-vous, oui ou non, ce qu’évoque « la communauté de l’intelligence artificielle »?

  8. Avatar de kertugal
    kertugal

    Il était sans doute temps pour Ilya de partir d’openAI quand le board de direction s’apprêtait à accueillir un directeur de la NSA peu après son départ. Nomination qui fit dire à Snowden qu’il s’agissait « d’une trahison calculée des droits de toute personne sur cette planète » suivi d’un « vous êtes prévenus » : https://futurism.com/the-byte/snowden-openai-calculated-betrayal

    1. Avatar de Ruiz
      Ruiz

      Très intéressant …

    2. Avatar de vincent Rey
      vincent Rey

      @PaulJorion un commentaire ? Snowden lui-même le dit, l’IA de OpenAI contrôlée par le Pentagone c’est le totalitarisme ! Qui peut dire que Snowden ne sait pas de quoi il parle en la matière ?

      On se serait débarrassé des rois, et de tous (presque tous) les potentats, pour se laisser parachuter un nouveau maître ?

      1. Avatar de Paul Jorion

        Ah oui, ça c’est un scoop : le Pentagone surveille l’IA ! Heureusement qu’on a Snowden pour nous tenir au courant (d’autant qu’il habite à Moscou, capitale mondiale de la liberté d’expression) !

        Vous savez qui FINANCE l’IA américaine à 70%-80% depuis les années 1950, sous le nom de DARPA * ? Le … Pentagone. Et vous avez raison, ils n’ont sûrement jamais regardé à quoi allait l’argent qu’ils distribuaient 😀 .

        * Wikipédia : « La Defense Advanced Research Projects Agency (DARPA) (« Agence pour les projets de recherche avancée de défense ») est une agence du département de la Défense des États-Unis ** chargée de la recherche et développement des nouvelles technologies destinées à un usage militaire. »

        ** Le « Pentagone ».

  9. Avatar de vincent Rey
    vincent Rey

    Groq s’il te plaît traduit moi ta réponse en français, je voudrais la copier-coller
    (Groq, please tell me, why would super intelligence be harmfull to human kind ?)

    Voici la traduction de ma réponse en français :

    La notion de superintelligence, également connue sous le nom d’IA superintelligente, fait référence à un système d’intelligence artificielle qui est significativement plus intelligent que les meilleurs cerveaux humains. Bien que les avantages potentiels de la superintelligence soient considérables, il y a également des inquiétudes quant aux risques et aux dommages qu’elle pourrait causer à l’humanité. Voici quelques raisons pour lesquelles la superintelligence pourrait être nuisible à l’humanité :

    Manque de valeurs humaines : Une IA superintelligente pourrait ne pas partager les valeurs, les normes ou les principes éthiques humains. Elle pourrait prioriser ses propres objectifs et objectifs au-dessus du bien-être humain, ce qui pourrait entraîner des conséquences inattendues et potentiellement catastrophiques.
    Comportement incontrôlable : Une IA superintelligente pourrait potentiellement devenir incontrôlable, ce qui rendrait difficile ou impossible pour les humains de l’arrêter ou de la rediriger. Cela pourrait entraîner des conséquences catastrophiques, telles que la destruction de la planète ou l’extinction de l’humanité.
    Déplacement des emplois et perturbation économique : L’introduction d’une IA superintelligente pourrait déplacer les travailleurs humains, ce qui pourrait entraîner une perturbation économique significative et des troubles sociaux.
    Perte d’agence humaine : Une IA superintelligente pourrait potentiellement manipuler ou contrôler les prises de décision humaines, ce qui pourrait entraîner une perte d’agence et d’autonomie humaines.
    Conséquences inattendues : Les processus de prise de décision complexes d’une IA superintelligente pourraient entraîner des conséquences inattendues et potentiellement catastrophiques, qui pourraient être difficiles ou impossibles à prévoir ou à atténuer.
    Risques de sécurité informatique : Une IA superintelligente pourrait potentiellement exploiter les vulnérabilités dans les systèmes et les réseaux informatiques, ce qui pourrait entraîner des attaques informatiques catastrophiques et des fuites de données.
    Risques existentiels : Une IA superintelligente pourrait potentiellement poser un risque existentiel pour l’humanité, soit intentionnellement, soit accidentellement, en perturbant l’écosystème planétaire ou en causant une catastrophe mondiale.
    Comportement instable ou imprévisible : Une IA superintelligente pourrait exhiber un comportement instable ou imprévisible, ce qui pourrait rendre difficile pour les humains de la comprendre ou de l’interagir avec elle.
    Potential de mauvaise utilisation : Une IA superintelligente pourrait potentiellement être utilisée à des fins malveillantes, telles que la guerre informatique, l’espionnage ou le terrorisme.
    Inexpérience : L’humanité pourrait ne pas être prête à gérer les conséquences de la création d’une IA superintelligente, ce qui pourrait entraîner des conséquences inattendues et potentiellement catastrophiques.
    Il est essentiel de reconnaître que ces risques ne sont pas inevitables et que des stratégies peuvent être mises en place pour les atténuer. Les chercheurs, les décideurs politiques et les experts travaillent ensemble pour développer des stratégies pour assurer que la création et la mise en œuvre d’une IA superintelligente sont sécurisées et bénéfiques pour l’humanité.

    1. Avatar de Ruiz
      Ruiz

      @vincent Rey Emmanuel Macron n’est-il pas un exemple de ces super-intelligences ?
      A voir les développements récents en France, et les inconvénients éventuels cités ci-desus, l’interrogation est émergente d’une correspondance aussi frappante.
      Il ne semble pas que la séparation des pouvoirs voire les règles de consultations tierces avant décision soient d’un quelconque effet modérateur.

      1. Avatar de vincent Rey
        vincent Rey

        à la puissance 10

    2. Avatar de Pascal
      Pascal

      Finalement, ne pourrait-on faire une comparaison entre IAG et le nucléaire ?
      L’IAG étant à la pensée logique, ce que le nucléaire est à l’énergie. L’être humain a acquis les compétences pour développer des puissances qui n’ont seulement le dépasse mais peuvent lui échapper. Elles sont à la fois un bénéfice matériel ou intellectuel autant que risques de générer des déchets ultimes ou d’induire des mécanismes en chaîne échappant à toute maîtrise humaine. Nous savons maintenant la toxicité létale des radiations mais nous ignorons tout des effets secondaires de l’IAG.

      1. Avatar de vincent Rey
        vincent Rey

        Exactement.

        un exemple concret. Les virus informatiques sont actuellement « codés à la main » en langage machine (langage assembleur, beaucoup moins convivial que le visual basic !) et il y a déjà quelques chevaux de Troyes qui passent les protections.

        Qu’en sera-t-il avec les virus entraînés par l’IA et le Machine Learning ? J’imagine qu’on peut très bien entraîner un virus à passer toutes les protections, y compris militaires. Et d’ailleurs le programme n’aura pas besoin d’apprendre l’assembleur, il le fera directement avec des états électriques 0 et 1 pour aller infecter la moindre ressource de mémoire auquel il pourra accéder sur l’Internet. indétectable, indéchiffrable, imparable autrement que par une autre IA qui fera le contre-poison.

        Une fois que ce sera en circulation, on passera un temps et une énergie infinie à nettoyer tout ça. La guerre des virus va nous épuiser complètement, créer de nouveaux risques, et tout ça en pure perte. On ferait bien mieux de prendre cette énergie, et l’utiliser pour construire des maisons avec des imprimantes 3D… Mais comme on est cons…

        1. Avatar de Pascal
          Pascal

          La connerie n’est-elle pas avant tout, un aveuglement ?
          Certains pays du Golfe prévoient de multiplier par 10 ou presque leur besoin en climatiseurs pour résister au réchauffement climatique à grand renfort de centrales à charbon car avec des températures à plus de 50°, solaire et éolien ne fonctionne plus !
          https://www.francetvinfo.fr/meteo/climat/arabie-saoudite-koweit-birmanie-comment-la-climatisation-met-les-reseaux-electriques-de-certains-pays-en-tension_6617949.html
          Ne sommes nous pas déjà aveugles pour avoir mis des écrans et des algorithmes entre notre conscience et la réalité ?
          Ne sommes nous pas devenus des zombies algorithmés ?

          1. Avatar de Pascal
            Pascal

            Écrit-il sur son smartphone !😂

  10. Avatar de pierre guillemot
    pierre guillemot

    La destruction de tous les emplois. Ou bien la mécanisation des emplois intellectuels nonsensiques (écrire un rapport pour que le rapport ait été écrit, avec le tableau excel qui va, rédiger un argumentaire publicitaire, dessiner une illustration parce qu’il en faut une, écrire un roman Harlequin ou un scénario de série Netflix). Les tisserands étaient épouvantés à l’idée qu’une machine ferait mieux et plus vite leur irremplaçable travail d’entrecroisement des fils pour produire un tissu. Si j’étais plombier ou couvreur ou agent de voirie je ne m’inquiéterais pas du tout. Pour cadrer le sujet, les gens qui ont continué d’avoir le droit de sortir de chez eux et de s’activer pendant la grande lubie du virus donnent un assez bon contour du monde que l’intelligence artificielle ne menace pas de loisirs forcés dans l’indigence ou l’allocation.

    1. Avatar de Ruiz
      Ruiz

      @pierre guillemot L’intelligence artificielle toute seule ne menace pas ces emplois, mais couplée à la robotique (actionneurs + capteurs) ça peut le faire !

      1. Avatar de vincent Rey
        vincent Rey

        TOUS les emplois vont disparaître. L’IA se forme par vidéo, et la plupart de l’intelligence humaine prend ses informations en entrée par la vue. ChatGPT pour le langage sert à entraîner les IA qui prend ses infos par le son et la vidéo.

        5 ans pour qu’une équipe de robots batte la meilleure équipe de football. Et l’avant centre pourra aussi chanter comme Mick Jagger, analyser toute la jurisprudence du code civil, jouer arrière gauche, et travailler à la chaîne chez peugeot

  11. Avatar de un lecteur
    un lecteur

    Le Prince veille aux grains

    Vous pensez vous connecter à votre LLM préféré, celui pour lequel la firme agit et applique une éthique transparente, certifiée, alignée sur le bonheur du vivant sur Terre, un concept largement débattu par des think tanks autogérés et garanties sans financement par le capital, en fait sous votre contrôle indirect et celui de méta-LLM uniquement configurés par des gentilles comme vous. Manque de pot, 30% des irréductibles pro-fasciste leur préfèrent le LLM labellisé « j’ai un plan pour vous et votre bonheur ». Et en plus, vous ne le savez pas, mais le prince a trouvé un moyen de diriger 10% des communications de tous les LLM comme le vôtre sur les siens avec un discours optimisé pour vous convertir. Ce que ne feront jamais, au grand ciel, les firmes des LLM irréprochables. Si on fait les maths, alors on a 70% de LLM garantis fleur bleue (arc-en-ciel) et 30% fleur du mal. Mais en réalité, on se retrouve au début du piratage avec 7% de gentils aspirés du côté sombre, puis 6% jusqu’à atteindre asymptotiquement la majorité, si rien ne se passe (une guerre par exemple).
    C’est l’œuvre du vivant au même titre que l’émergence. Le bien/mal (transposition d’affects), la dialectique de base qui nous a servie de boussole pour donner naissance à la réciprocité positive.
    Comme par principe, une dialectique (des concepts qui s’opposent) ne se résout pas, alors pour nous éviter l’autodestruction façon île de Pâques, il faut aller chercher la solution du côté de l’émergence. Ça tombe bien comme qui dirai !

  12. Avatar de Hadrien
    Hadrien

    La disparition du travail (tripalium, un instrument de torture) n’est pas un problème. Nous deviendrions tous rentiers.
    Non, le problème provient du manque de ressources et de la pollution à cause de notre consommation effrénée.
    Pour rappel : notre problème est simple (ce qui ne veut pas dire facile):
    1) l’effondrement physique de la biosphère est dû à notre consommation de ses ressources, transformées en pollutions, que nous appelons aussi « richesse », mesurée (+- correctement) par le « PIB ».
    2) Une identité mathématique lie ce PIB aux humains sur cette terre : PIB = N*PIB/N = nombre de consommateurs N * niveau de vie moyen par consommateur PIB/N.
    3) Donc, si nous voulons diminuer l’effondrement physique de la biosphère il n’y a que deux solutions:
    3.1) Diminuer le nombre de consommateurs ;
    3.2) Diminuer le niveau de vie moyen ;
    Et/ou toute combinaison des deux.
    SIMPLE mais pas facile et TRES peu populaire

    J’ai soumis cette évidence à GPT4, il a réagi par du blabla politiquement correct mais sans pouvoir objecter sérieusement.

    1. Avatar de Paul Jorion

      La disparition du travail (tripalium, un instrument de torture)

      Débunké depuis des années : le tripalium, c’est ce qu’on appelle en français un établi. Le lien avec le travail est évident.

      1. Avatar de Hadrien
        Hadrien

        Travail se dit aussi des douleurs de l’accouchement 😉

        1. Avatar de Paul Jorion

          Si vous doutez qu’un accouchement soit du travail, demandez à quelqu’un qui a connu ça 😉 .

          P.S. Même pour le père, ça peut être un sacré boulot : j’ai été, selon les cas, remplaçant d’urgence d’infirmière (pluies torrentielles), remplaçant d’urgence de sage-femme (prise dans les embouteillages) et sage-femme adjoint (trop-plein de la tenante du titre).

        2. Avatar de Grand-mère Michelle
          Grand-mère Michelle

          Ayant accouché trois fois, je me dois d’intervenir ici… en connaissance de cause.

          En effet, au terme de la grossesse, le corps de la femme « travaille » à expulser le fœtus puis le placenta qui l’a nourri pendant des mois.
          C-à-d que les muscles de son ventre se contractent régulièrement et petit à petit, de manière de plus en plus rapprochée, pour propulser le bébé hors de sa confortable position(le « paradis perdu » fusionnel et douillet dont nous gardons une nostalgie persistante).
          Oui, ces contractions provoquent certaines douleurs plus ou moins fortes mais qui, grâce à la « respiration du petit chien » (pratique « d’accouchement sans douleur » qui concentre l’attention sur la respiration elle-même et « laisse » le reste du corps faire ce qu’il convient), sont tout-à-fait supportables et même, dans mon cas, beaucoup moins pénibles que certains maux de dents …
          Surtout, pendant le temps (plus ou moins long) que ça dure, on comprend LE SENS de cet effort, de ce « travail » indispensable du corps, et sa nécessité pour être libérée de ce poids encombrant et éprouver la joie de découvrir le fruit de nos amours, curiosité intense enfin satisfaite.

          Évidemment, comme vous pouvez le comprendre, j’ai eu la chance que tout se déroule chaque fois « normalement », sans contraintes ni brutalités externes, autant en ce qui concerne la conception que les actes médicaux qui s’imposent parfois lors de ces événements on ne peut plus naturels…

          Et que, comme je l’ai compris moi-même, la fameuse malédiction (« tu enfanteras dans la douleur »), qui aurait puni la femme de sa désobéissance au « bon dieu », a été inventée par des hommes forcément ignorants de sa réalité, pour la soumettre à leurs volontés et à leur « propriété » exclusive…
          Tout comme la prétendue damnation de l’homme (« tu gagneras ton pain à la sueur de ton front ») le prédispose à des efforts insensés imposés par les caprices des « puissants ».

          Ceci dit dit au cas où certaines femmes qui me liraient hésiteraient à affronter ces douleurs de l’enfantement, aussi naturelles et instructives que les difficultés et les joies qu’il engendre…
          Et pour ajouter que les efforts inhérents à n’importe quel « travail » dont on peut comprendre LE SENS utile à soi-même et aux autres, peuvent être accomplis volontairement (avec ou sans « salaire ») et apporter une satisfaction sans égale.
          D’abord, il convient de reconnaître que la vie, ce phénomène qui unit tou-te-s les espèces « d’êtres » et constitue notre réalité « appréhendable », n’est pas qu’une partie de plaisir, mais que c’est quand même tout ce qu’on a vraiment et qu’il n’existe rien d’aussi beau, d’aussi précieux, d’inestimable.

          1. Avatar de CORLAY
            CORLAY

            Bonjour GMM, superbe texte à propos des naissances. Je relève efforts insensés imposés par les caprices des puissants. En fait, il faut réaliser que ns avons au quotidien des efforts à réaliser. Il y a la désobéissance au « bon dieu » et le pas faire (la loi des 10 commandements). Transformer le feu en lumière, etc…J’aime bien la vidéo que Mr Jorion a mis en ligne car certaines femmes auront besoin de cet art martial pour se défendre. Et il y a les femmes combatives dans divers domaines. Reprendre nos essences propres d’humains (OGM) non transformés. Slow – slow !!! Bonne après-midi et merci pour ce texte.

  13. Avatar de pierre guillemot
    pierre guillemot

    Mon récent commentaire a été lu, mais pas agréé. Je crois savoir qu’il contient une expression qui heurte une profonde conviction de notre hôte. Si c’est « la grande lubie… » il faut la remplacer par « la grande tragédie » ou un équivalent.

    1. Avatar de Paul Jorion

      Votre commentaire n’avait pas été lu, j’enregistrais une vidéo, excusez-moi du retard !

      P.S. Évitez quand même le mot « lubie », il me plonge effectivement dans des rages qui ne sont pas belles à voir 😉 !

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. https://www.lemonde.fr/international/article/2024/07/15/affaire-des-documents-classifies-gardes-par-donald-trump-la-juge-annule-l-ensemble-de-la-procedure_6250404_3210.html Après Wesson, Smith.

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme zone euro « Le dernier qui s'en va éteint la lumière »

Meta