Mark O’Connell, To Be a Machine (V) Qu’est-ce que la Singularité ?

La notion de vitesse de libération de la longévité, calquée sur la vitesse de libération de l’attraction terrestre (11,2 km/s, soit 40.320 km à l’heure) implique que, selon les transhumanistes, nous serons arrachés à la mortalité lorsque les progrès constants de la médecine feront que notre espérance de vie augmentera chaque année de davantage que douze mois. Une révolution aura ainsi eu lieu, comme conséquence d’une évolution graduelle, celle qui fait que notre espérance de vie augmente d’ores et déjà chaque année de quelques mois.

Or les transhumanistes évoquent un autre événement majeur susceptible de faire basculer l’histoire humaine d’une préhistoire qui est la nôtre aujourd’hui, vers sa « post-histoire » : l’émergence de la « singularité informatique ».

La singularité informatique est l’équivalent dans l’ordre du numérique contemporain de l’Apocalypse dans la tradition biblique, à savoir un événement constituant un bouleversement absolu amorçant l’avènement dans le monde sensible d’ici-bas, d’un royaume qui n’était jusque-là que céleste dans nos représentations.

De quoi est-il question quand les transhumanistes invoquent la Singularité ? Il s’agit, comme l’explique Mark O’Connell dans son remarquable To Be a Machine (2017), du rappel d’une remarque faite en 1958 par Stanislaw Ulam (1909 – 1984) dans la notice nécrologique qu’il consacra alors au physicien et pionnier de l’informatique théorique que fut John von Neumann (1903 – 1957).

Ulam avait alors écrit ceci : « Un progrès dans l’accélération constante de la technologie et des modifications du mode de vie humain qui nous fait penser que nous approchons d’une sorte de singularité essentielle dans l’histoire du genre humain au-delà de laquelle le train-train qui est le nôtre maintenant ne pourra pas se poursuivre ».

L’expression « singularité », telle que l’utilisait Ulam, est empruntée au vocabulaire des mathématiques où elle renvoie à ceci : « un point, une valeur ou un cas où un objet mathématique n’est pas bien défini [par exemple, x2 pour x = 0] ou subit une transition ». Dans le passage cité, il s’agit d’une transition : celle où le destin du genre humain cesse d’être en ses propres mains pour commencer d’être déterminé par la machine dont l’homme a été le géniteur.

O’Connell commente : « … en deux mots, nous déléguerions à la machine toutes les innovations futures : tout le progrès scientifique et technologique […] L’Intelligence Artificielle se trouverait rapidement en position de programmer de nouvelles itérations d’elle-même, étant l’étincelle déclenchant une fournaise exponentielle d’intelligence qui consumerait toute création » et, redonnant la parole à Soares : « Une fois que nous aurons automatisé la recherche en informatique et en IA, la boucle de rétroaction positive se refermera et l’on commencera de voir des systèmes capables à leur tour de construire des systèmes meilleurs encore ». « Plus la technologie deviendra sophistiquée plus rapides seront alors ses progrès ».

Pourquoi une telle transition produirait-elle des effets à ce point explosifs ? Après tout, ces machines ont été conçues par nous, pourquoi leur comportement cesserait-il d’être subordonné à nos exigences et aux ordres que nous leur intimons dans notre programmation ?

L’un des témoins interrogés par O’Connell apporte la réponse. Il s’agit de Nate Soares, membre du MIRI, le Machine Intelligence Research Institute à Berkeley en Californie, qui fait observer qu’« il devient extrêmement difficile de prévoir l’avenir une fois que l’on est entouré de choses plus-intelligentes-que-l’homme, de la même manière qu’il devient très difficile à un chimpanzé de prédire ce qui va se passer quand il est entouré de choses plus-intelligentes-qu’un-chimpanzé. C’est ça la Singularité : le point au-delà duquel il faut s’attendre à cesser de saisir ». Or une telle évolution avait déjà été anticipée par le romancier anglais Samuel Butler en 1863 : « Nous créons nous-mêmes nos propres successeurs. L’homme deviendra à la machine ce que le cheval et le chien sont à l’homme ».

Mais de même que j’ai souligné les raccourcis qui mettent à mal la simplicité apparente et la vraisemblance de la notion de vitesse de libération de la longévité, des confusions du même ordre entachent les propos des transhumanistes relatifs à la « singularité informatique ».

(à suivre …)

Partager :