14 mars 2023 : le jour où le genre humain fut assailli par le doute XII. La « Singularité »

Illustration par DALL-E (+PJ)

Cela fait un moment que la Singularité est attendue et qu’on en parle. L’une de ses définitions possibles est : « Le moment hypothétique de l’avenir où la croissance technologique devient incontrôlable et irréversible, entraînant des changements imprévisibles dans la civilisation humaine. » Nous pouvons désormais retirer « hypothétique » puisque c’est là exactement que nous sommes parvenus.

Dans la notice nécrologique que Stanislaw Ulam (1909 – 1984) avait consacrée au physicien et pionnier de l’informatique théorique que fut John von Neumann (1903 – 1957), il avait écrit ceci :

« Un progrès dans l’accélération constante de la technologie et des modifications du mode de vie humain qui nous fait penser que nous approchons d’une sorte de singularité essentielle dans l’histoire du genre humain au-delà de laquelle le train-train qui est le nôtre maintenant ne pourra pas se poursuivre ».

L’expression « singularité » qu’utilisait Ulam appartient au vocabulaire des mathématiques où elle signifie ceci : « un point, une valeur ou un cas où un objet mathématique n’est pas bien défini (par exemple, x2 pour x = 0) ou subit une transition ». Dans les propos d’Ulam, c’était bien d’une transition qu’il s’agissait : celle où le destin du genre humain cessait d’être entre ses propres mains pour être désormais déterminé par la machine dont l’homme avait été le géniteur.

Dans son remarquable ouvrage intitulé To Be a Machine , Mark O’Connell commentait :

« … bref, nous déléguerions à la machine toutes les innovations futures : tout le progrès scientifique et technologique […] L’Intelligence Artificielle se trouverait rapidement en position de programmer de nouvelles itérations d’elle-même, étant l’étincelle déclenchant un brasier exponentiel d’intelligence qui consumerait toute création ».

Passant la parole à Nate Soares du MIRI, le Machine Intelligence Research Institute à Berkeley, O’Connell rapportait :

« Une fois que nous aurons automatisé la recherche en informatique et en IA, la boucle de rétroaction positive se refermera et l’on commencera de voir des systèmes capables à leur tour de construire des systèmes meilleurs encore. Plus la technologie deviendra sophistiquée plus rapides seront alors ses progrès ».

Une illustration de cela :

L’utilisateur soumet initialement au LLM son propre savoir, mais c’est un savoir accru par l’existence-même de l’IA que l’utilisateur lui offre dans leurs échanges ultérieurs dont celle-ci tirera parti lors de sa prochaine mise à jour pour devenir encore plus intelligente.

Les connaissances neuves auront été générées avec une économie de moyens considérable car le LLM n’a pas lui à se rendre dans une bibliothèque, à consulter Wikipédia, à mener une recherche Google ou Bing, etc. : il vous propose à chaque échange toute l’information dont il dispose. GPT-5 aura intégré toutes les conversations qu’aura eu GPT-4, alors que la valeur ajoutée par chacun de ses utilisateurs aura été fécondée par la synthèse que l’IA lui aura offerte de milliards de données qui étaient hors de sa portée avant l’invention des LLM. Une courte-échelle perpétuelle a été créée entre l’intelligence humaine et celle de la machine.

Mais il ne s’agit pas seulement de quantités de connaissances : la machine dépassant l’humain dans ses capacités, fait qu’à partir de là, une explosion qualitative de savoir, de la connaissance humaine, a lieu, le savoir de la machine continuant d’augmenter et donc de creuser l’écart avec ce dont l’humain, désormais dans son sillage, est capable à partir de son propre cerveau.

C’est là le processus qu’avait prévu Irving Good (1916-2009), un mathématicien, agent du contrespionnage britannique qui, durant la Seconde Guerre mondiale, avait été le collègue d’Alan Turing à Bletchley Park, pionnier de l’informatique comme lui, à l’époque où ils s’efforçaient tous deux de déchiffrer les codes de l’armée allemande. L’article de Good, publié en 1965, s’intitulait « Speculations Concerning the First Ultraintelligent Machine » : spéculations relatives à la première machine ultra-intelligente, où celle-ci était qualifiée de « dernière invention que l’homme devra jamais faire ». Voici ce que Good écrivait :

« Définissons une machine ultra-intelligente comme une machine capable de surpasser de loin toutes les activités intellectuelles d’un homme, aussi intelligent soit-il. La conception de machines étant l’une de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une « explosion de l’intelligence », et l’intelligence de l’homme se retrouverait à la traîne. Ainsi, la première machine ultra-intelligente serait la dernière invention que l’homme devrait jamais faire, à condition que la machine soit assez docile pour nous dire comment la conserver sous contrôle ».

Good définissait donc il y a plus d’un demi-siècle déjà, la problématique que nous désignons aujourd’hui du néologisme de « super-alignement ». Bien avant lui déjà, en 1863, le romancier anglais Samuel Butler écrivait : « Nous créons nous-mêmes nos propres successeurs. L’homme deviendra à la machine ce que le cheval et le chien sont à l’homme ».

À partir de ce point de basculement qu’est la mise au point de la « machine ultra-intelligente », l’Intelligence Artificielle s’emballe dans le processus de l’invention, tandis que nous, êtres humains, nous retrouvons par rapport à elle dans la position inconfortable de l’orang-outang vis-à-vis de ses gardiens tentant d’interpréter ce qu’un être plus intelligent que lui décide de faire dans son entourage.

Explosion de l’intelligence, la Singularité est l’équivalent dans l’ordre du numérique contemporain de l’Apocalypse dans la tradition biblique, à savoir un événement constituant un bouleversement absolu amorçant l’avènement dans le monde d’ici-bas d’un royaume qui n’était jusque-là que céleste : la machine devenue plus intelligente que nous aura fait de nous des dieux, seuls des dieux ayant été capables dans nos récits de faire advenir une créature nous dépassant par son intelligence.

Illustration par DALL-E (+PJ)

Partager :

6 réponses à “14 mars 2023 : le jour où le genre humain fut assailli par le doute XII. La « Singularité »”

  1. Avatar de Lagarde Georges
    Lagarde Georges

    (Ma question serait probablement plus intéressante si j’étais capable de définir ce qu’est l’intelligence, mais tant pis.)

    Est-il exclu que l’IA nous aide à devenir plus intelligents — autrement dit moins bêtes ?

    1. Avatar de Jacques Racine
      Jacques Racine

      Faudrait faire passer un test de qi, aussi imparfait soit-il, à gpt. Déjà sans, puis avec l’aide de « wolfram mathematica » ?

  2. Avatar de Jacques Racine
    Jacques Racine

    « « Speculations Concerning the First Ultraintelligent Machine » : spéculations relatives à la première marine ultra-intelligente »

    => machine 😉

    1. Avatar de Paul Jorion

      « Drame de l’auto-correction ! » 😉

  3. Avatar de BasicRabbit
    BasicRabbit

    PJ : « Explosion de l’intelligence, la Singularité est l’équivalent dans l’ordre du numérique contemporain de l’Apocalypse dans la tradition biblique, à savoir un événement constituant un bouleversement absolu amorçant l’avènement dans le monde d’ici-bas d’un royaume qui n’était jusque-là que céleste : la machine devenue plus intelligente que nous aura fait de nous des dieux, seuls des dieux ayant été capables dans nos récits de faire advenir une créature nous dépassant par son intelligence. ».

    N’en jetez plus!

    Au fait, c’est quoi l’intelligence ? Voilà ce que j’ai trouvé dans les 90 pages de citations de mon maître à penser :
    https://fr.readkong.com/page/citations-de-rene-thom-2165022

    – « [L’intelligence] c’est la capacité de s’identifier à autre chose, à autrui. »;

    – « (…) ce que propose la théorie des catastrophes – en ses modèles – c’est un nouveau type d’intelligibilité. » (et donc une nouvelle forme d’intelligence…);

    – « Le dédain pour la théorie qui se manifeste dans les milieux d’expérimentateurs a sa source dans l’attitude analytique-réductionniste ; or pour découvrir la bonne stratégie, il faut s’identifier à l’un des facteurs permanents du système. Il faut en quelque sorte entrer « dans sa peau ». Il s’agit là presque d’une identification amoureuse. Or comment pourrait-on aimer ce qu’on a, préalablement, cassé de manière irréversible ? Toute la science moderne est ainsi fondée sur le postulat de l’imbécillité des choses. »;

    – « Il y a très tôt en phylogénèse un imaginaire géométrique, qui a d’ailleurs joué un rôle fondamental dans l’organogénèse, par exemple dans la construction du squelette des Vertébrés. (…) De ce point de vue l’« intelligence » peut être considérée comme liée à une flexibilité permanente de cette « blastula physiologique » qui sous-tend toute la régulation de l’être vivant (néoténie de l’espèce humaine ?) : l’intelligence est alors vue comme la capacité de créer des processus finalisés nouveaux. »;

    – « Je caractérise volontiers le rôle du philosophe de la nature comme celui d’un gardien de l’intelligible. Jetant un coup d’œil panoramique sur les pratiques et les théories des sciences de son temps, il s’efforcera d’évaluer le
    caractère d’« intrinsèque intelligibilité » attaché à chaque théorie. »;

    – « Il est certain que le succès pragmatique est une source de sens ; mais c’est un mode inférieur d’intelligibilité, à peine supérieur à l’assentiment provoqué par la prégnance du conditionnement pavlovien dans le monde animal ; l’intelligibilité humaine requiert une comparaison plus globale des différents modes d’intelligibilité, ceux en vigueur dans le langage et dans les autres disciplines de la science : elle requiert de sortir de la situation locale
    considérée pour prendre en compte les modes les plus généraux de compréhension. On aborde donc là le domaine de l’analogie ; ce faisant, on touche à l’autre côté, le versant philosophique de l’interface science-philosophie. »;

    – « L’emploi de la langue ordinaire en science soulève une grande difficulté. Il est possible qu’on tienne parfois un discours intelligent. Or la science doit pouvoir convaincre tout le monde et pas seulement les gens intelligents. La
    grande objection qu’on peut faire aux sciences humaines, quand on lit les travaux des sociologues, des économistes etc., est qu’on a l’impression d’avoir affaire avec des gens et des textes extrêmement intelligents, et pour
    cette raison, non scientifiques. Ce qui se passe en biologie est l’inverse ; les gens sont très terre à terre et ne volent jamais très haut. Je pense que les mathématiques offrent une possibilité d’un moyen terme entre le terre à
    terre de la description concrète qu’on trouve en biologie et les spéculations intellectuelles assez vagues qu’on trouve dans les sciences humaines. En un certain sens, seul le mathématicien a le droit d’être intelligent en science,
    parce qu’il sait dissimuler son intelligence derrière une démonstration. »;

    – « Un problème majeur de l’Embryologie est d’expliquer la simulation précise des grandes lois physiques par la morphogenèse biologique. Comment, par exemple, s’imaginer la formation du cristallin ? Il est difficile d’échapper à
    l’idée qu’il y a dans la matière vivante une intelligence implicite de ces grandes lois à simuler. »;

    – « Je suis de ceux qui pensent que, même en science, l’introspection et l’expérience mentale jouent un rôle important. Tous les grands progrès théoriques, à mon avis, proviennent de la capacité des inventeurs à se « mettre dans la peau des choses », pour pouvoir s’identifier par empathie à n’importe quelle entité du monde extérieur. Et cette espèce d’identification transforme un phénomène objectif en une sorte d’expérience concrète et mentale. ».

  4. Avatar de Ruiz
    Ruiz

    La suprématie d’une intelligence ne garantit pas forcément l’accession au pouvoir, l’histoire semble montrer qu’il existe de nombreuses formes d’organisation où une entité d’intelligence supérieure reste contrôlée par des entités moins intelligentes.
    Les scientifiques du projet Manhattan ou leurs émules en Corée du Nord en sont des exemples frappants.
    Sinon il suffit de regarder autour de vous.
    Il reste donc quelque espoir que l’espèce humaine puisse contrôler son avenir.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. D’après les archéologues contemporains que j’ai entendu, la taille de silex est une tâche mentale des plus complexe, nécessitant un…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta