ChatGPT : De quoi était-il véritablement question lors du coup manqué chez OpenAI ?

Une dépêche de l’agence Reuters a peut-être révélé les véritables enjeux de la révolution de palais chez OpenAI, celle qui a vu son PD-G Sam Altman, être renversé avant d’être réinstitué par une fronde quasi unanime des employés.

Voici ce qu’affirmait la dépêche :

Selon certaines sources, des chercheurs d’OpenAI ont prévenu le conseil d’administration de la percée de l’IA avant l’éviction du P-DG, 
Par Anna Tong, Jeffrey Dastin et Krystal Hu

22 novembre (Reuters) – Avant les quatre jours d’exil du P-DG d’OpenAI, Sam Altman, plusieurs chercheurs de l’entreprise ont écrit une lettre au conseil d’administration pour l’avertir d’une puissante découverte en matière d’intelligence artificielle qui, selon eux, pourrait menacer l’humanité, ont déclaré à Reuters deux personnes au fait de l’affaire.

La lettre et l’algorithme d’intelligence artificielle, qui n’avaient pas été signalés auparavant, ont été des éléments clés avant l’éviction par le conseil d’administration de M. Altman, la tête d’affiche de l’intelligence artificielle générative, ont déclaré les deux sources. Avant son retour triomphal mardi, plus de 700 employés avaient menacé de démissionner et de rejoindre Microsoft en solidarité avec leur chef licencié.

Les sources ont cité la lettre comme l’un des facteurs d’une longue liste de griefs formulés par le conseil d’administration qui ont conduit au licenciement de M. Altman, parmi lesquels des préoccupations concernant la commercialisation des avancées avant d’en comprendre les conséquences. Reuters n’a pas été en mesure d’examiner une copie de la lettre. Le personnel qui a rédigé la lettre n’a pas répondu aux demandes de commentaires.

Après avoir été contactée par Reuters, la société OpenAI, qui s’est refusée à tout commentaire, a reconnu dans un message interne adressé aux membres du personnel l’existence d’un projet appelé Q* et d’une lettre adressée au conseil d’administration avant les événements du week-end, a déclaré l’une des personnes concernées. Un porte-parole d’OpenAI a déclaré que le message, envoyé par Mira Murati, cadre de longue date, alertait le personnel sur certains articles de presse sans en commenter l’exactitude.

Certaines personnes chez OpenAI pensent que Q* (prononcé Q-Star) pourrait être une percée dans la recherche de ce que l’on appelle l’intelligence artificielle généraliste (AIG), a déclaré l’une d’entre elles à Reuters. OpenAI définit l’AIG comme des systèmes autonomes qui surpassent les humains dans la plupart des tâches à valeur économique.

Avec de vastes ressources informatiques, le nouveau modèle a pu résoudre certains problèmes mathématiques a déclaré cette personne sous couvert d’anonymat car elle n’était pas autorisée à parler au nom de l’entreprise. Bien qu’il n’atteigne que le niveau des élèves de l’école primaire, le fait de réussir de tels tests a rendu les chercheurs très optimistes quant au succès futur de Q*, a déclaré la source.

Reuters n’a pas pu vérifier de manière indépendante les capacités de Q* annoncées par les chercheurs.

Les chercheurs considèrent les mathématiques comme l’une des pierres angulaires du développement de l’IA générative. Actuellement, l’IA générative est efficace pour l’écriture et la traduction des langues en prédisant statistiquement le mot suivant, et les réponses à une même question peuvent varier considérablement. Mais conquérir la capacité de faire des mathématiques – où il n’y a qu’une seule bonne réponse – implique que l’IA aurait des capacités de raisonnement plus grandes, proches de l’intelligence humaine. Selon les chercheurs en IA, cela pourrait s’appliquer à de nouvelles recherches scientifiques, par exemple.

Contrairement à une calculatrice qui ne peut résoudre qu’un nombre limité d’opérations, l’IA peut généraliser, apprendre et comprendre.

Dans leur lettre au conseil d’administration, les chercheurs ont souligné les prouesses de l’IA et les dangers potentiels, ont indiqué les sources, sans préciser les problèmes de sécurité exacts mentionnés dans la lettre. Les informaticiens débattent depuis longtemps du danger que représentent les machines hautement intelligentes, par exemple si elles peuvent décider que la destruction de l’humanité est dans leur intérêt.

Les chercheurs ont également signalé les travaux d’une équipe de « scientifiques de l’IA », dont l’existence a été confirmée par plusieurs sources. Ce groupe, issu de la fusion des équipes « Code Gen » et « Math Gen », étudiait les moyens d’optimiser les modèles d’IA existants afin d’améliorer leur raisonnement et, à terme, d’effectuer des travaux scientifiques, a indiqué l’une des personnes interrogées.

M. Altman a dirigé les efforts visant à faire de ChatGPT l’une des applications logicielles à la croissance la plus rapide de l’histoire et a attiré les investissements – et les ressources informatiques – nécessaires de la part de Microsoft pour se rapprocher de l’IAG.

Outre l’annonce d’une série de nouveaux outils lors d’une démonstration ce mois-ci, M. Altman a laissé entendre la semaine dernière, lors d’un sommet de dirigeants mondiaux à San Francisco, qu’il pensait que des avancées majeures étaient en vue. « Quatre fois dans l’histoire d’OpenAI, la dernière fois au cours des deux dernières semaines, j’ai eu l’occasion d’être présent lorsque nous repoussons le voile de l’ignorance et la frontière de la découverte, et c’est l’honneur professionnel d’une vie », a-t-il déclaré lors du sommet de l’Organisation de coopération économique Asie-Pacifique (APEC).

Un jour plus tard, le conseil d’administration licenciait M. Altman.

Tout cela paraît cependant assez innocent, à ceci près que, traduit en bon français, cela signifie, par exemple, la capacité pour les nouvelles IA de décrypter en un temps limité un texte jusque-là indéchiffrable, au sens où le décryptage aurait pris un nombre quasi-infini de temps-machine.

D’excellentes explications ici :

Le temps nécessaire pour déchiffrer un bit AES-192 est 1,8 fois 10 37 années. Ce qui représente une très longue période de temps. Si un GPT ou un autre type de réseau neuronal profond est capable de le craquer en un temps apparemment insignifiant, cela bouleverse tout ce que nous savons de la cryptographie. L’implication ici est que Q* ou QUALIA a été capable de découvrir de nouvelles mathématiques qui dépassent l’entendement humain pour réaliser quelque chose que nous pensions que seule l’informatique quantique pouvait réaliser.

Il serait préférable pour l’humanité que cela soit entièrement faux et qu’il s’agisse d’un troll. Je n’exagère pas.

Une avancée aussi profonde provoquerait à elle seule une onde de choc dans le monde de la cybersécurité et de l’armée. En outre, il serait tout à fait possible de résoudre d’autres problèmes mathématiques tels que l’Intelligence Artificielle Généraliste.

Implications :

  1. Généralisation rapide. La capacité à appliquer rapidement les connaissances d’un domaine à un autre.
    Cela a été démontré par les Alphas : AlphaGo, AlphaStar et tous les autres où DeepMind a pu créer des moteurs capables de généraliser dans de nombreux jeux.
    Certains chercheurs de l’OpenAI ont travaillé sur des projets similaires.
  2. Autotransformation (moteur métamorphique).
    Bien qu’il semble qu’ils n’aient pas testé cela, le fait qu’un modèle soit capable de faire des mathématiques à ce niveau et de faire ces suggestions signifie qu’il peut s’auto-transformer ou qu’il est éminemment capable de s’auto-transformer.
    La capacité de changer fondamentalement son architecture est intéressante et nous ne pensions pas que cela arriverait si tôt.
  3. Auto-amélioration (élagage).
    Là encore, c’est quelque chose qui a été suggéré : que ce modèle QUALIA ou ce modèle Q* n’a pas eu la possibilité de s’améliorer, de s’entraîner.
    Cependant, dans la lettre qui a fait l’objet d’une fuite, il est question de métacognition.
    Ainsi, même s’il n’était pas en mesure de changer son « transformer », il était toujours capable de sélectionner les stratégies correctes afin de deviner les actions suivantes.
    En termes humains, cela revient à dire : « D’accord, ce que je fais ne fonctionne pas, essayons une autre approche. Laissez-moi tenter une approche fondamentalement différente pour résoudre ce problème. »
  4. Auto-évaluation.
    La capacité à évaluer ses propres paramètres en fonction de leur importance dans la réalisation de prédictions ou de décisions précises est une forme d’introspection ou de métacognition.
    Il semble que Q* l’utilise déjà pour résoudre des problèmes de mathématiques.
  5. Enfin, la résolution créative de problèmes.
    Il a été capable de suggérer de nouvelles solutions afin de s’améliorer, mais il a aussi apparemment trouvé de nouvelles méthodes mathématiques pour craquer AES-192.
    C’est énorme, si c’est vrai.
    Les implications ne peuvent pas être surestimées si c’est vrai.
    Le dernier conseil à suivre est donc d’exiger la responsabilité et la transparence.
    Les enjeux sont trop importants pour ne pas le faire. Je vous remercie de votre attention.

Comprendre tout cela exige bien entendu une certaine familiarité avec la problématique. Si c’est le cas, il devient évident que lancer dans la nature un produit tel que « Q* ou QUALIA [qui] a été capable de découvrir de nouvelles mathématiques dépassant l’entendement humain », justifie un sérieux débat d’idées et peut facilement expliquer un affolement passager débouchant sur des décisions qui sont regrettées par la suite à la tête d’entreprises générant ce type de produits.

Partager :

56 réponses à “ChatGPT : De quoi était-il véritablement question lors du coup manqué chez OpenAI ?

  1. Avatar de Inox
    Inox

    On commence avec:

    « Bien qu’il n’atteigne que le niveau des élèves de l’école primaire, le fait de réussir de tels tests a rendu les chercheurs très optimistes quant au succès futur de Q*, a déclaré la source. »

    Puis on finit:

    « Si c’est le cas, il devient évident que lancer dans la nature un produit tel que « Q* ou QUALIA [qui] a été capable de découvrir de nouvelles mathématiques dépassant l’entendement humain » »

    Il n’y aurait pas un peu de sensationnalisme dans ces épisodes?

    1. Avatar de Paul Jorion

      Non, pas de sensationnalisme. Pourquoi ? Une explication plus détaillée ici :

      1. Avatar de Khanard
        Khanard

        @Paul Jorion

        très intéressante vidéo sur le sujet Q*

        demain il va être difficile d’aborder toutes ces questions lors de la conférence à la CNIL . D’autant plus que M. Laurent Alexandre ne semble pas y participer . Comme c’est bizarre . Pas grave, de toutes manières c’est une jambe de bois .

      2. Avatar de Inox
        Inox

        « niveau des élèves de l’école primaire » puis « découvrir de nouvelles mathématiques dépassant l’entendement humain ».

        Il y a un sacré gap quand même…

    2. Avatar de Lagarde Georges
      Lagarde Georges

      Il y a quelques exemples célèbres d’autodidactes tels que le mathématicien indien Srinivasa Ramanujan qui, bien que n’ayant pas accès à une formation de haut niveau en mathématiques sont parvenus à faire des découvertes finalement prises au sérieux par la communauté mathématique. Quand à Ramanujan, il a « laissé derrière lui des cahiers entiers de résultats non démontrés qui, en ce début de xxie siècle, continuent à être étudiés » …

      1. Avatar de Timiota
        Timiota

        Oui, je viens de séjourner à Kumbakonam, sa ville natale au Tamil Nadu TN.
        Ville pleine d’affiche d’un dénommé Staline, chef du parti dravidien DMK qui a actuellement la majorité au TN. Né en 1953 d’où un choix dicté par la mort du vrai Staline.
        Ramanujan montre bien qu’il n’y a pas besoin d’un cerveau plus gros pour faire des avancées. De belles corrélations dans la forêt des outils de l’esprit et hop…

    3. Avatar de Ruiz
      Ruiz

      @Inox On peut en déduire que le niveau en mathématique requis des élèves de l’école primaire dépasse l’entendement humain moyen, ce qui avec un peu de recul n’étonnera bientôt plus personne.

  2. Avatar de Jean-Luc Mercier
    Jean-Luc Mercier

    La bombe atomique a fait peur lorsqu’elle a explosé. Avant, c’était théorique.

    1. Avatar de Chabian
      Chabian

      La machine a vapeur, l’éclairage au gaz (avec les gazomètres) et le train ont fait peur à leur découverte. Les notables, sous l’ancien régime, pouvaient convaincre les autorités locales (maires) à s’opposer à ces établissements. La République a pris le pouvoir sur cette question, instaurant la loi sur les établissements dangereux, insalubres et incommodes (1810), et le mettant aux mains des préfets ou de l’Assemblée. Des experts, scientifiques ou entrepreneurs (souvent c’étaient les mêmes, notamment M. Chaptal), pouvaient convaincre l’Etat que leurs machines étaient « parfaites » et que les peurs étaient infondées, et ainsi obtenir toutes autorisations. Mais ce meilleur des mondes était un leurre : les gazomètres ont explosé, les trains ont déraillé, les pannes d’éclairage au gaz ont amené des paniques dans les salles soudain obscures, telle l’Opéra de Paris. (Je fais ici référence rapide au contenu du livre de Jean-Baptiste Fressoz, L’apocalypse joyeuse, 2013). Les milliers de morts du progrès sont là pour dire que les peurs sont fondées ! Et l’idéologie du progrès est là pour les dénigrer et pour faire oublier les morts, les blessés, les intoxiqués. Pourtant ce sont les catastrophes industrielles qui obligent à enfin considérer le danger et augmenter la sécurité, réduire la prise de risque. Seveso, Bophal, Tchernobyl, AZ à Toulouse, le port de Beyrouth, Lumisol, Fukushima : la liste récente est longue (et la liste oubliée l’est bien plus). Et pourtant la confiance au nucléaire, au progrès et à la croissance est à peu près intacte !
      (Passons sous silence les morts lentes infligées aux travailleurs de l’industrie, silicose, saturnisme, maladies de l’amiante, etc… elles aussi invisibilisées. Et la manière dont les assurances industrielles et les assurances sociales nous permettent de considérer le risque comme anodin parce que couvert par des dédommagements. Belle illusion pour donner bonne conscience).
      Ici Paul Jorion nous alerte du danger, et nous avons peur. Pourtant, il a vanté l’apparition de l’IA comme une prouesse humaine que nous laisserions (à qui ? à « la postérité » ?) malgré notre disparition sans gloire dans l’effondrement de l’Anthropocène.
      Il y a quelques jours, Sam Altman nous disait que « nous nous dirigeons vers le meilleur des mondes. En même temps (!), il alertait les dirigeants du monde des dangers de cette évolution.
      Dans quelques jours, quelqu’un apparaîtra pour dire qu’une décision de l’AI de détruire l’humanité serait notre meilleure prouesse et une décision pleine de sagesse et de noble étique. Il ne manquera pas de scientifiques et d’entrepreneurs, ainsi que de dirigeants « despotes éclairés » pour faire le choix de ce monde meilleur. Comme en 1810.
      Il est temps d’avoir peur. Il est temps de renverser ce système né du « siècle des lumières ». Il est temps de retrouver un savoir-vivre empreint d’humanité.

      1. Avatar de Garorock
        Garorock

        Y’a toujours un Pangolin quelque part:
        https://www.youtube.com/watch?v=jfMSiS9Fsm4
        « Un véritable Armageddon » : une « méga-tempête » fait rage en Russie et en Crimée »

        1. Avatar de arkao

          C’est-à-cause-du-réchauffement-climatique 😉
          Au moins pendant ce temps là les armes sont en pause relative.
          Pensée pour les pauvres gars russes et ukrainiens qui vont passer l’hiver dans le froid des tranchées.
          https://img.lamontagne.fr/b5I7j1ztCE_V32PPmYPOTF3_62iE47uq1LIu2oLlqEg/fit/657/438/sm/0/bG9jYWw6Ly8vMDAvMDAvMDQvNTQvMzEvMjAwMDAwNDU0MzEzNQ.jpg
          Ô IA, par ta grande sagesse et par ton grand pouvoir singulier, puisses-tu trouver une issue pacifique à ces boucheries.

  3. Avatar de Romain Vitorge
    Romain Vitorge

    Sont-ce les « nouvelles mathématiques » élaborées par la machine qui posent problème ou l’architecture de ces machines qui ne permet pas de savoir en quoi elles consistent ?
    Comment savoir si elles dépassent l’entendement humain si elles lui restent cachées ?
    L’histoire des mathématiques n’est-elle pas une succession de « nouvelles mathématiques » ?
    Peut-on espérer mettre à plat ce que font ces machines ?

  4. Avatar de Vincent Rey
    Vincent Rey

    « Il serait préférable pour l’humanité que cela soit entièrement faux et qu’il s’agisse d’un troll. Je n’exagère pas. »

    On serait foutus M Jorion ? « the road » en vue ?

  5. Avatar de Arnaud Castex
    Arnaud Castex

    Le fameux « coup » contre Altman semble donc, « après-coup », comme une réaction (inadéquate ? ) à l’ émotion déclenchée par une prouesse technique pouvant transformer notre civilisation.
    Que l’on oriente vite le gros matou vers le changement climatique et l’empathie pour ses pauvres createurs et notre planète et il devrait alors sans gros soucis, puisqu’aucun système de cryptologie ne lui résiste, faire sauter la banque, réorienter les décisions et les moyens financiers au bon niveau, tout en menaçant les humains de se plier physiquement à son projet sinon feu d’artifice nucléaire général.
    Ah la belle utopie.

    1. Avatar de Lagarde Georges
      Lagarde Georges

      « Que l’on oriente vite le gros matou vers le changement climatique et l’empathie pour ses pauvres createurs et notre planète […] »

      Gros problème: qu’on soit en mesure d’orienter de telles IA n’a absolument rien d’évident.

      C’est — ou du moins c’était — le but du super-alignment dont était chargé Ilya Sutskever chez OpenAI : https://fr.wikipedia.org/wiki/Risque_de_catastrophe_planétaire_lié_à_l%27intelligence_artificielle_générale#Alignement_des_superintelligences .

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Il n’y avait qu’un ‘ln geek comme moi pour espérer une telle trajectoire vertueuse… 😅
        L’ espoir fait vivre dit-on.

  6. Avatar de Vincent Rey
    Vincent Rey

    C’est complètement dément ce truc !!! là on parle vraiment de super intelligence. Le polymorphisme (Physique), on le voyait dans Terminator, on se disait que ça n’arriverait jamais ! Et il serait là pour l’intelligence humaine !!! la fin des haricots, ou la fin des misères, c’est selon.

    Qu’on fasse en premier faire de l’économie à Q* ! quand il aura démonté toute la supercherie de la recherche de la croissance pour le bénéfice du plus grand nombre (et de la préservation de notre modèle social en particulier !!) on sera plus éclairé ! Mais les missiles risquent aussi de se croiser au dessus de nos têtes, si une folie comme la folie hitlérienne réapparaît avec la même volonté indéfectible de vaincre ou mourir

    Ouh la la…on est entré dans un sacré truc !

  7. Avatar de Michel Gaillard
    Michel Gaillard

    Tout ceci est picaresque, Don Quichottien… nécessite un peu de distanciation…
    On parle (on espère surtout) d’intelligence supra-humaine et autres divinités potentielles.
    Tout ceci issu de singes consuméristes qui pianotent sur des claviers à partir de langages codages – les leurs – péniblement créés-extirpés de la réalité donnée par leurs sens limités.
    Il y aura de jolis sketchs à créer, bien hilarants, sur l’autosuffisance et les certitudes de nos frères ricains et des  » valeurs occidentales  » en train de disparaître devant nos yeux, ensevelies sous les décombres de Gaza.

    1. Avatar de Khanard
      Khanard

      @Michel Gaillard

      tout à fait . vous commentez très très bien vos propres pensées . vous êtes comme les moulins à vent de Don Quichotte , déjà vous brassez du vent et puis vous vous battez contre eux .

      Mais je ne vois point apparaître de farine .

    2. Avatar de Lagarde Georges
      Lagarde Georges

      L’annonce dont il est question m’a fait revenir em mémoire le nom de Mortimer Taube. J’avais lu son livre Computers and Common Sense, the Myth of Thinking Machines. 1961  quand j’étais étudiant.

      Même s’il a été lui-même à l’origine des premières tentatives de ce qui a abouti des dizaines d’années plus tard aux bases de données et à Google Search, il avait à la fin des années 50 de très très bonnes raisons de dénoncer le manque de sérieux de ceux qui osaient parler de machines pensantes alors qu’il a fallu multiplier des millions de fois la vitesse de ces machines pour ne plus avoir à attendre quelques siècles avant d’obtenir une réponse la moindre réponse.

      Rien ne prouve que ça va continuer, rien ne prouve que ça va s’arrêter.

  8. Avatar de gaston
    gaston

    Un troll ?

    Sam Altman n’a pas la réputation d’un hâbleur et on ne voit pas dans quel intérêt il aurait raconté des bobards alors qu’il est convaincu que nous nous dirigeons vers le meilleur des mondes :

    https://www.pauljorion.com/blog/2023/11/23/je-pense-que-nous-nous-dirigeons-vers-le-meilleur-des-mondes-un-entretien-avec-sam-altman-par-kevin-roose/

    Dans ces conditions nous comprenons mieux la panique d’Ilya Sutskever et sa tentative de golpe l’autre vendredi.

    1. Avatar de Otromeros
      Otromeros

       » golpe  » … yavait longtemps! …^!^…

      Le dernier en date, raté par Raquel… https://www.lejdd.fr/politique/jean-luc-melenchon-un-leader-indeboulonnable-139582

      (( sans rancune …^!^… (le sujet serait de toute façon revenu sur la table dans des circonstances plus « passionnelles »..))

  9. Avatar de ilicitano
    ilicitano

    « 5- Enfin, la résolution créative de problèmes.
    Il a été capable de suggérer de nouvelles solutions afin de s’améliorer, mais il a aussi apparemment trouvé de nouvelles méthodes mathématiques pour craquer AES-192.
    C’est énorme, si c’est vrai. »

    Une info concernant A.E.S qui est une norme de chiffre avancé en cryptographie.

    Il a été approuvé par la NSA (National Security Agency) dans sa suite B des algorithmes cryptographiques. Il est actuellement le plus utilisé et le plus sûr.
    https://en.wikipedia.org/wiki/NSA_Suite_B_Cryptography
    AES avec des tailles de clé de 128 et 256 bits.
    Toutes les tailles de clés de l’algorithme AES (128, 192 et 256) sont suffisantes pour protéger des documents classifiés jusqu’au niveau « SECRET ».
    Le niveau « TOP SECRET » nécessite des clés de 192 ou 256 bits

    1. Avatar de Vincent Rey
      Vincent Rey

      Les espions vont se jeter là dessus, et on va bientôt tout savoir sur tout le monde

  10. Avatar de Vincent Rey
    Vincent Rey

    je comprends mieux maintenant la tête d’enterrement qu’ils font tous, que ce soit Musk ou Altman quand ils parlent de l’IA.

    https://youtu.be/bTOSZL6nn6o

    Ils entrevoient le futur, qui va changer radicalement. Tous nos rapports vont être totalement chamboulés ? Question : l’humanité pourra-t-elle supporter un tel choc ?

    1. Avatar de Garorock
      Garorock

       » l’humanité pourra-t-elle supporter un tel choc ? »
      Cela paraît peu probable!
      Certains pensent encore que la terre est plate.
      Les créationistes n’acceptent pas que nous ayons été une espèce de singe.
      Et d’autres ne supportent pas que nous ayons si peu de « libre arbitre ».
      Alors quand l’époustoufflant Minou de la silicone valley (qui a déja des yeux et des petites oreilles) va nous expliquer ce qu’il y avait avant le big bang, les trois catégories suscitées vont avoir du mal à digérer leur cassoulet et les autres ne seront guère plus fringuants.
      La quatrième grande humiliation de l’humanité est en marche et elle avance plus vite que la musique. Quant à la cavalerie, vu l’hubris des palefreniers, il n’est pas certain qu’elle gagne la bataille: le général Lee ne faisait pas partie des « tuniques bleues.
      (A suivre)

  11. Avatar de Bertrand
    Bertrand

    Ce qui se passe avec l’intelligence artificielle et ses capacités hors normes seraient identiques à toutes découvertes d’une nouvelle forme d’énergie bon marché et très efficiente. Les militaires en voudront la primeur et l’exclusivité. Il n’y a pas que le capitalisme à combattre, il y’a cette manie de classer les comportements violents et de légitimer toutes technologies senser prévenir les rixes, le terrorisme, où même la guerre industrielle en Ukraine. On va donc progresser dans la déclaration de peine de mort sans jugement avec les algorithmes de l’humanité désincarnée. La fin de l’occident accompagné par sa prothèse dite intelligente peut aussi signifier la fin de l’esprit des lois.

  12. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Beaucoup de supputations, de conjectures et d’opacité si ce n’est beaucoup de messianisme mâtiné de publicité.

    Et l’éthique dans tout ça ?

    1. Avatar de Lagarde Georges
      Lagarde Georges

      Ce n’est peut-être que le résultat pour les journalistes qui ont servi de relais dans ce cas de la peur de perdre leur position d’intermédiaires influents entre les sources d’information et les médias (un travail que les LLM sont probablement déjà capable de faire à leur place.)

      D’un autre côté il ne semblerait pas très raisonnable de regarder ailleurs en attendant d’être vraiment bien sur et tout à fait certain que ces conjectures et ces supputations conduiront à quelque chose d’aussi incontestable que ce que permettent dès à présent les évolutions constatées ces dernières années.

      Ne pas savoir a priori si ça va déclencher plus de catastrophes que ça ne résoudra de problèmes ou l’inverse (j’ai fait très attention ci-dessus à ne pas utiliser les mots progrès ou révolution à la place d’évolution) n’est pas non plus suffisant pour se contenter de hausser les épaules.

    2. Avatar de CloClo
      CloClo

      PYD,

      Surjoué comme les punaises de lit ?

  13. Avatar de un lecteur
    un lecteur

    Ce que cet épisode de la saga des IA révèle, c’est que la machine qui blablate ne représente pas grand-chose de son potentiel attendu (extrapolé) dans toutes les technologies que nous avons développées dans le domaine de l’énergie, transport, médecine, exploration spatial, simulation, mathématique, etc.

    1. Avatar de Khanard
      Khanard

      @un lecteur

      j’aimerai bien « blablater » comme une IA . Et j’en suis très très très très loin .
      non ce que j’en retiendrai , avec tous les conditionnels possibles, et c’est très bien expliqué dans la vidéo de Wes Roth, c’est la possibilité à l’IA d’apprendre de ses erreurs . Pour ne pas heurter certains d’entre nous je penserai que la Singularité a bien eu lieu . Mais chuuuuttttt , je ne voudrai alarmer personne .

      Faut juste regarder tout ce bazar avec un esprit vierge .

      HIHIHIHIHI

      1. Avatar de un lecteur
        un lecteur

        Même le plus con des milliardaires cherche à investir dans l’IA, ne serait-ce que pour lui.
        C’est un eldorado, des montagnes d’argent cherchent désespérément des zigomars, une équipe ayant des compétences en IA pour ne pas mourir idiot.
        Ça promet aussi en termes de communication bidons, de découvertes qui vont révolutionner la vie des lézards et les tout-ménage et autres spams vous offrant une opportunité unique valable que deux jours avec la garantie d’enfin pouvoir mourir riche.
        Avec l’onde de choc de la singularité passée, nous rentrons à pleine vitesse dans l’ère de l’IA sous stéroïde.

  14. Avatar de Erakis
    Erakis

    « On peut se demander ce qui restera de l’homme après que l’homme aura tout imité en mieux »

    A. Leroi-Gourhan, Le Geste et la Parole, Albin Michel, 1ç65, T II, P. 75.

    1. Avatar de un lecteur
      un lecteur

      Un « rouage » vivant de l’évolution !

  15. Avatar de K.Kruge
    K.Kruge

    L’intérêt du groupe social orienté vers Q* est de susciter l’intérêt afin d’amener les investisseurs à choisir les compagnies qui les rémunèrent ; c’est humain.

    L’intérêt de Vanguard (non-côté en bourse), mais qui contrôle BlackRock (laquelle compagnie contrôle déjà beaucoup), est de faire en sorte de tout contrôler, et en ordre principal aujourd’hui, de contrôler les humains qui n’aiment pas être contrôlés.

    La recherche mathématique, via l’IA, aurait pu, dans un premier temps, être orientée vers la lecture de la cinquantaine des Cahiers Bourbaki (1939-2016), puis avec l’aide de Paul Jorion, de retravailler les règles du raisonnement mathématique rigoureux de façon détecter les erreurs qui y furent inévitablement embarquées. Puis dans un second temps, de tenter d’inventer des solutions à des conjectures mathématiques non encore résolues, puis (par autotransformation) de proposer d’autres cadres mathématiques qui permettrait de les résoudre, tout en prenant soin d’expliquer chaque étape de leur démarche novatrice aux mathématiciens.

    A contrario, le choix solipsiste de monter en épingle un système de cryptage AES-192, montre que Q* ne vise qu’a capter les intérêts du bloc militaro-industriel et médiatique.

    Le mode post-moderne de contrôle des humains (d’occident) n’est-il pas de leur faire comprendre, aussi-bien aux mathématitiens, qu’ils ne contrôlent plus rien et, puisque nous serions tous désormais dépassés, d’acceter notre statut de mouton (je ne développe pas) ?

  16. Avatar de Régis Pasquet
    Régis Pasquet

    Je ne peux pas croire que dans des laboratoires cachés des chercheurs résistants ne travaillent pas, tels des luddites modernes, à l’anéantissement des algorithmes présentés comme surpuissants. Il existe forcément des points faibles ( limites physiques notamment ) sur lesquels peser pour conserver le pouvoir du vivant sur le numérique.
    Car pour le moment le biotique et l’algorithmique ont besoin l’un de l’autre pour œuvrer de concert dans un nouvel écosystème dont il faudrait envisager le contrôle absolu pour le bien de l’humanité et non pour le simple plaisir de la recherche.

    1. Avatar de Khanard
      Khanard

      @Régis Pasquet

      non, un algorithme n’a pas de points faibles . Soit il « fonctionne » soit il ne fonctionne pas . Le seul point « faible » que l’on pourrait envisager serait dans l’obtention d’un résultat qui ne soit pas celui envisagé . Mais cet état n’est pas un point faible si ce n’est celui du programmeur .

    2. Avatar de gaston
      gaston

      @ Régis Pasquet

      Des francs tireurs embusqués, prêts à faire sauter le système ? Allons ! Allons ! Faut pas rêver !

      Pour expliquer cet épisode, au-delà des questions de rivalités de personnes Altman/Sustkever et des questions des possibilités éventuelles de Q* à développer des « données synthétiques » tel que nous l’explique Monsieur Wes Roth dans la vidéo que nous a postée notre hôte à 10 h 06 ce matin, pour lesquelles nos deux leaders d’OpenAI seraient en désaccord, le « Guardian » de ce jour nous propose dans un article intitulé « La Véritable Histoire de la Débâcle d’OpenAI est la Tyrannie des Grandes Entreprises Technologiques », une approche plus business/pouvoir entre les géants de la technologie (Microsoft, Google et les autres) . Nulle trace de résistants cachés.

      Un extrait :

      « Microsoft est l’une des rares entreprises de contrôle d’accès – à savoir Alphabet (la société mère de Google) Appel, Amazon et Meta – qui disposent de la puissance de calcul, de l’accès aux données et de l’expertise technique nécessaires pour développer des système d’IA avancés. Leur contrôle du pipeline de développement de l’IA donne à ces entreprise la possibilité de dicter les conditions et les frais et de se protéger contre les challengers, comme Microsoft l’a fait en limitant la disponibilité de l’API d’OpenAI à d’autres moteurs de recherche et en menaçant de couper l’accès à ses données de recherche sur Internet si ces rivaux l’utilisaient pour développer leurs propres produits de chat d’IA ».

      Un univers impitoyable…

      https://www.theguardian.com/commentisfree/2023/nov/27/openai-microsoft-big-tech-monopoly?ref=upstract.com

      1. Avatar de Paul Jorion

        Et pour une approche plus « résistants cachés » et … mieux documentée 😉

        1. Avatar de gaston
          gaston

          « Il serait préférable pour l’humanité que cela soit entièrement faux et qu’il s’agisse d’un troll. Je n’exagère pas. » écriviez-vous avant-hier dans votre billet.

          Dans cette nouvelle vidéo Wes Roth ne donne que 30 % de chances que ce soit un canular. L’IA en question aurait réussit à briser tout décryptage !

          « Il y a une équipe de surhumains chez OpenAI qui peut littéralement gouverner le monde s’ils choisissent de le faire » dit-il.

          Alors, sommes-nous à la veille d’un effondrement économique mondial possible, probable, comme il nous l’expose en s’envisageant pour lui-même un avenir de survivaliste ?

          Merci de nous avoir fait partager cette nouvelle vidéo.

    3. Avatar de Vincent Rey
      Vincent Rey

      Aucun : il faut la puissance de calcul de Microsoft ! C’est pas un petit gars, avec son micro dans son coin….

  17. Avatar de Juillot Pierre
    Juillot Pierre

    C’est sûr que la conjugaison « singulière », de la notion de l’excellence » à simuler des émotions pour une « IAG » nommée « Q… » ( Quiou au niveau phonétique angliciste : comme dans star trek…?) avec la capacité d’acquérir et de manipuler/instrumentaliser des notions mathématiques comme les statistiques, les calcules de probabilités – que chérissent tant et tant les technocrates/bureaucrates néolibéraux et ultralibéraux, mais surtout la dépendance politicienne et médiatique occidentale, et du capitalisme néolibéral…. à la « DICTATURE des émotions », seule étant en capacité de les sonder, soit disant les comprendre, en excuser et justifier certaines catégories… pour « réconcilier », « rassurer » leurs doutes, incertitudes par rapport au « ras le bol fiscal », « poujadisme », et autres « alarmistes écologique/climatique… », avec la prise de risque reculée toujours plus loin, dans le « bon sens » du coté obscure de la force à « consentir » , soit disant « démocratiquement », à avoir de moins en moins peur de perdre/rogner sur son « pouvoir d’achat »… de « temps de cervelles disponibles » de grenouilles – c’est sûr que pareille conjonction structurelle, de révélation partielle ou totale du voile de la clarté obscure tombant des étoiles »… puisse avoir de quoi inquiéter, certaines « Zélites », « méritocraties », et autres « exemplarités » de « papyrus »…

  18. Avatar de Juillot Pierre
    Juillot Pierre

    Aurais-je oublier de conclure mon dernier commentaire par un point d’interrogation, ou n’est-ce qu’une question rhétorique (celle ci ou le sujet de mon dernier commentaire ?)…?

  19. Avatar de Juillot Pierre
    Juillot Pierre

    Parce que qui restera pour déplorer quoi, quand, ou, comment… de n’avoir pas su prévoir/gouverner toutes les « externalités négatives » de l’immorale optimisation fiscale, sociale et « sociétale », morale et éthique, environnementale, de politiques publiques et managériales, néolibérales/ultralibérales, privées, qu’auront causées ou/et pu être minorées, « dédiabolisées » en terme de conséquences, par les « cabinets de conseils » de « bon sens » adossés à une « Intelligence Artificielle Généraliste », des décisions politiques appuyées sur pareille émergence d’ »IAG »…?

  20. Avatar de l'arsène
    l’arsène

    Juste une question : à quoi servira une IA ultra top du top dans un monde qui va ressembler bientôt à celui où évoluait Mad Max étant donné les guerres actuelles et surtout les prochaines qui vont rendre la planète inhabitable sans même parler du changement climatique ?
    Ceci dit, tout ça n’est en fait que conjecture et surtout projet de la part d’une certaine élite capitaliste pour nous faire avaler que l’Homme peut être remplacé, rentabilité oblige, par des robots et autres entités qui ne feront jamais grève, le rêve absolu du système.
    Orwell avait raison, « Big Brother is watching you « , Big brother c’est l’IA qui va tout contrôler car incontrôlable , on est très mal barré , je parle de l’Humain .

  21. Avatar de tttt
    tttt

    Merci pour tous ces vertigineux renseignements de la sphère AES-192

    But where is Dave ?

    https://www.youtube.com/watch?v=HH37JTBpi2A&ab_channel=Movieclips

  22. Avatar de Otromeros
    Otromeros

    Quant aux différents cryptages des « données personnelles » …..

    L’identité numérique européenne
     » Une nouvelle lettre ouverte, la seconde en trois semaines, signée par 500 chercheurs en sécurité des données à caractère personnel, pointe les risques en matière de confidentialité des communications numériques en Europe du futur règlement eIDAS.
    Une porte ouverte à la surveillance, tant par les Etats que les entreprises…
     »
    .
    https://www.lesoir.be/551890/article/2023-11-27/nouvelles-inquietudes-autour-de-lidentite-numerique-europeenne

  23. Avatar de Arnaud Castex
    Arnaud Castex

    M’enfin comment faire confiance à ce DavidShapiro dont le profil linkedin ne nous dit rien de tangible et que vous ne prenez même pas la peine de nous présenter ? En plus qui nous dit que c’est pas un agent klingon infiltré au sein de starfleet, l’habit ne faisant pas le moine?

  24. Avatar de roberto
    roberto

    Merci pour ces liens et la video qui tisse un lien entre Alpha go & les modèles de Language pour laisser entrevoir de quoi il peut s’agir. Et cette image du train de l’intelligence qui arrive en station là.. et you qui accélère a grande vitesse.. pour aller beaucoup plus loin que nous.. probablement quelque chose qu’on a du mal a percevoir.

    Donc je mets mes lunettes de pronostiqueur (en verre dépoli)
    (et aussi de questionneur appels aux avis!)

    1) L’humanité à créer un gros « soucis » = la complexité : c’est clair.

    2) Mais a aussi créer l’outil pour solutionner.. tout ! (amen!) The matou I.A. : ca devient clair.

    3) Du coup, faudra s’y faire = bienvenue à l’aiçrâtie : ca se discute!?

    (le gouvernement par l’I.A et dans les moindres détails : la bazar pourra très précisément vous dire combien de bûches vous avez droit cet hiver en fonction de tas de critères, quand même plus fino que les règles de rationnement de la 2eme guerre mondiale.. )
    — articulation délicate avec la notion de libre marché, mais.. disons que la liberté va continuée a etre grignotée par un entassement de tonnes de règles.. et au mieux l’ia nous aidera a faire des choix.. (et en plus pilotera notre information en grande partie.. ) — donc subtile: à la limite, ca pourrait, ne pas trop se voir !
    (l’humain étant déjà habitue a se faire enfumer par lui meme, pour les I.A. c’est du flan)

    4) pbl de fiabilité = la crypto est partie avec l’eau du bain? Y a plus – et on fait quoi? Si il. a plus de sécurité des échanges? Le chaos? Retour en arrière?
    ?? concrètement ca se traduirait comment? attaque sur telle carte de crédit? disruption du système bancaire Swift etc?? régulièrement attaqué? Des milliards de fausses opérations lancées pour abattre un pays?

    >> Avis, éclairages? merci!

    5) l’adn (identité « source ») pourrait il jouer un rôle? donc la puce implantée quelque part? — quelqu’un a t il une idée si ca peut remplacer la crypto? servira sécuriser les transactions?? (on peut toujours intercepter.. et??)

    >> Avis, éclairages? merci!

    6) et donc corollaire, parce que ca sera pas aussi « magique » que la crypto = une super police et contrôles etc etc.. pour éviter les fissures ??

    La somme de tout cela == constituant tous les éléments d’un solide big brother Earth !
    bye bye humanity.. entendue comme terre des hommes – et bienvenu à l’homoDevotus
    (l’homme dévoué & désaouvé!)

    C’est où la marche arrière? — oui, ca c’est vraiment la question al plus idiote qu’on puisse écrire !

    A moins que : et si finalement, je me décidais à bruler des tonnes de pétrole, allez la petite jaguar coupée de mes rêves.. 6 cylindres.. pour accélérer et conduire à la disruption avant l’avènement de cette I.A toute puissante?? :). — enfin une issue à ma culpabilité d’espèce? 🙂

    Entre un effondrement et une survie d’une sorte d’humanité, sans les moyens de l’IA généralisée dans une société ultra high tech (choix1) , et cette société high tech (choix2)?? Qui choisi quoi?

    a moins que.. soyons non binaires… choix (3) idem que (2) mais dans le genre subtil : comme au confessionnal, possibilité pour chaque individu.. de négocier avec le grand tout et argumenter pour avoir une bûche de plus pour accueillir la grand mère.. etc..
    un « vrai » dieu à l’écoute ! ( oui aussi rabais sur mon assurance.. parce que j’ai moins de bûches à bruler donc moins de risque incendie.. c’est logique, non?)

    Ainsi il pourrait y avoir cette attente, promesse.. ou slogan en germe : fini les décisions « mécaniques » l’I.A pourrait etre présenté comme un retour a plus d’humanité Dans les relations entre institutions, car capable de traiter au cas par cas tout en intégrant des objectifs globaux

    A la place des gourous de l’IA c’est ce que je m’empresserais de faire.. . » I.A is more human, than human !
    — j’ai rarement ou pas du tout entendu cet argument là jusqu’à présent !? –

    UN projet pour une I.A. européenne.. humaniste??

    1. Avatar de Paul Jorion

      « la crypto est partie avec l’eau du bain »

      C’est exactement cela.

      … et l’humanité se scinde un peu plus encore entre ceux qui l’auront compris instantanément (et toutes les implications en termes de guerre et de paix civile et commerciale) et ceux qui continueront de dire (y compris ici) : « L’IA ? Circulez y a rien à voir ! » 🙁 .

      1. Avatar de Ruiz
        Ruiz

        Ce n’est qu’une approche de la cryptologie qui est en cause et relativement récente car popularisée pour devenir ubiquitesque avec le dévelopement du logiciel de l’age du silicium, reposant pour des raisons économiques sur des clés de longueur limitées et publiques. Il reste toujours possible d’utiliser des clés secrètes (et maintenues secrètes) totalement aléatoires (c’est plus difficile) et à usage unique, mais c’est plus contraignant.

        Si effectivement une telle percée était réalisée, cette information, tout autant que la façon de la réaliser aurait tendance à être maintenue secrète compte-tenu des conséquences sur (la confiance dans) les systèmes mis en place depuis quelques décennies à force d’affirmation péremptoires basées sur le temps de décryptage dans une approche donnée.

        Le Graal dont la NSA se rapproche pour surveiller à livre ouvert en s’assurant de la connaissance partielle préalable d’une partie de la longueur des clés devrait sans doute l’intéresser au point de mettre à disposition des financements significatifs et assurant un accès privilégié voire exclusif (pas open source).

  25. Avatar de Roberto
    Roberto

    J’ai trouvé ce lien, interview interessante ! sur le thème :
    — mise en perspective de la rapidité de l’évolution et accélération en cours, exponentielle..
    ou disons.. doublement exponentielles.. car IA interagit avec le hardware.. et les IA interagissent entre elles pour accélérer les unes les autres..
    d’ou cette notion de fantastique accélération.. qui nous est difficile a imaginer.. avec notre esprit linéaire..

    exemple : décodage DNA – en 7 ans — 10% du job.. esprit lambda il faut encore 70 ans..
    mais en prenant en compte accélération exponnaneitlle.. 1 an plus tard : objectif atteint..

    — demande d’attention sur les risques inhérents au développement de l’i.A.
    EN anglais et tres long..
    Présenttion tiré de la vidéo :

    https://www.youtube.com/watch?v=itY6VWpdECc

    After reading Mo Gawdat’s book, Scary Smart, I knew right away this conversation was a must. As I think about AI’s capabilities – the good, the bad and possibly terrifying, I realize how serious this moment is in history for humanity.

    Mo Gawdat is the former chief business officer for Google X and has built a monumental career in the tech industry working with the biggest names to reshape and reimagine the world as we know it. From IBM to Microsoft, Mo has lived at the cutting edge of technology and has taken a strong stance that AI is a bigger threat to humanity than global warming.

    The AI dilemma is reshaping our future whether you’re in favor of it or not. The question is, are we even close to being prepared for humanity’s collision with artificial intelligence?

    Strap in for the ride, we’re diving headfirst into this conversation and uncovering the alarming truth about how vulnerable we actually are and what that means for the next decade ahead.

    QUOTES:

    “It really is about a point of no return. Where if we cross that point of no return we have very little chance to bring the genie back into the bottle.”

    “There is no shutting down AI, there is no reversing it, there is no stopping development of it.”

    “We’ve never created a nuclear weapon that can create nuclear weapons.”

    “The growth on the next chip in your phone is going to be a million times more than the computer that put people on the moon.”

    “When we ask computers to communicate, at first they communicate like we tell them, but if they’re intelligent enough, they’ll start to say, ‘that’s too slow.’”

    “One of our better scenarios, believe it or not, is that AI ignores us altogether.”

    “Technology today can influence one human at a time.”

    1. Avatar de Otromeros
      Otromeros

      Googl-Traduc pour extraire:

       » ……..Mo Gawdat est l’ancien directeur commercial de Google X et a bâti une carrière monumentale dans l’industrie technologique en travaillant avec les plus grands noms pour remodeler et réimaginer le monde tel que nous le connaissons.
      D’IBM à Microsoft, Mo a vécu à la pointe de la technologie et a adopté une position ferme selon laquelle l’IA
      constitue une menace plus grande pour l’humanité que le réchauffement climatique.

      …(…)…
      « Il s’agit vraiment d’un point de non-retour. Alors que si nous franchissons ce point de non-retour, nous avons très peu de chances de ramener le génie dans la bouteille.

      « Il n’y a pas d’arrêt de l’IA, il n’est pas possible de l’inverser, il n’y a pas d’arrêt de son développement. »

      « Nous n’avons jamais créé une arme nucléaire capable de créer des armes nucléaires. »
      « L’un de nos meilleurs scénarios, croyez-le ou non, est que l’IA nous ignore complètement. »

      Et « tout ça » reste du « privé »…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. J’ai quand même l’impression, hormis certain(e)s, d’une réticence conservatrice face à l’évolution technologique, qu’on ne peut que constater à moins…

  2. La « peur », comme toute émotion, est bienfaisante et nécessaire, c’est de l’excessivité dont on doit (on devrait) toujours se méfier…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta