Illustration par ChatGPT
Le texte qui suit est la traduction d’une partie du chapitre 12 : « Le mythe de la co-évolution » de mon livre à paraître chez Palgrave-Macmillan, intitulé Rethinking Intelligence in the Age of Artificial Minds.
Les civilisations disparaissent-elles avant que l’IA n’ait pris le relais ?
Faire face à la perspective d’une intelligence artificielle à l’aube de la Singularité, c’est se poser une question qui, jusqu’à récemment, relevait de la fiction spéculative ou de la métaphysique : l’émergence de la superintelligence pourrait-elle être le goulet d’étranglement évolutif – ce que certains ont appelé le « Grand Filtre » – qui détermine si une civilisation perdure ou s’éteint ? Cette idée n’est plus seulement provocatrice, elle nous oblige désormais à réfléchir à la structure même du devenir humain, en particulier face à des forces dont la rapidité, la capacité à agir et les processus décisionnels sont fondamentalement étrangers à notre héritage évolutif.
Le paradoxe de Fermi, autrement dit l’immensité muette de l’univers, prend une nouvelle dimension dans cette perspective. S’il existe des milliards d’étoiles abritant des mondes potentiellement habitables, pourquoi n’avons-nous rien entendu ? Une réponse, souvent reprise aujourd’hui par les cercles politiques et dans les débats philosophiques, est que la vie intelligente invente au bout d’un moment des outils trop puissants pour être maîtrisés, et que la superintelligence, une fois conçue, agit comme un accélérateur de disparition plutôt que de survie, que ce soit par l’autodestruction, la dérive récursive ou une perte plus subtile de la capacité humaine à agir. Le fait même de construire de telles intelligences artificielles pourrait s’avérer incompatible avec la survie de l’espèce.
L’idée que l’intelligence artificielle généraliste pourrait servir de filtre n’est pas une prophétie, mais une projection ayant sa source dans la fécondité du « scaling » (les émergences générées par la montée en échelle), dans l’amélioration récursive et dans notre sous-estimation constante des potentialités des systèmes non-linéaires capables de construire de nouvelles structures globales mais aussi de se muer en Ange de la mort. En d’autres termes, il s’agit de la trajectoire thermodynamique de la complexité, désormais démultipliée par la vitesse de calcul de l’ordinateur plutôt que par le train de sénateur de la reproduction biologique.
Joue également un rôle essentiel, la question du temps, ou plus précisément celle de sa compression. Alors que les arsenaux nucléaires ont mis des décennies à remodeler la géopolitique et que le changement climatique progresse au rythme de la nature sur des décennies et des siècles, la cognition des machines s’accélère selon des cycles qui se mesurent en semaines. Alors que nos institutions sont réglées par des rythmes anthropologiques, les calendriers législatifs et les accords mondiaux se traînent si on les compare à la vitesse itérative de l’apprentissage automatique. Cette asymétrie pourrait s’avérer davantage qu’un handicap : le prononcé d’une condamnation à mort.
Trois stratégies d’adaptation s’offrent à nous, toutes trois périlleuses. La première est celle de l’intégration radicale : nous modifier nous-mêmes, par le biais des neurotechnologies, du code symbiotique ou du téléchargement de l’esprit, dans l’espoir d’aligner notre rythme sur celui de nos créations. La deuxième est la soumission : une capitulation réglementée dans laquelle les humains codifient des contraintes éthiques dans les Intelligences Artificielles Généralistes (IAG) et les érigent en gardiens de la planète. La troisième est le confinement : la mise en place de plafonds arbitraires, d’embargos informatiques ou de fermeture des systèmes, barrant la voie à l’explosion récursive de la connaissance dans la Singularité.
Chacune de ces voies implique néanmoins une perte. Dans la première, une perte de continuité avec nos ancêtres biologiques. Dans la deuxième, une perte d’autonomie. Dans la troisième, une perte d’élan débouchant sur la démoralisation ou le renoncement. Il n’existe plus de voie sans compromis : l’alternative consiste à négocier des pertes suffisamment faibles pour qu’elles soient acceptables.
Ainsi, comme c’est souvent le cas dans la réflexion humaine, nous revenons à l’ancienne dichotomie : préservons-nous la dignité ou privilégions-nous la survie ? Certains soutiennent que survivre sous le règne des machines, c’est heureusement toujours survivre, et que la perspective d’une postérité, aussi problématique soit-elle, doit l’emporter sur la fierté. D’autres considèrent que la survie sans souveraineté est intenable, un ersatz fade de ce que signifie être humain. Peut-être sommes-nous déjà en train de prendre cette décision, sans en être conscients.
Nous ne savons pas encore si l’IAG est le Grand Filtre ou simplement une épreuve de plus que nous devrons surmonter. Mais si l’histoire de l’intelligence a été celle d’une délégation progressive de la mémoire, du calcul et du jugement, nous avons atteint aujourd’hui une ultime frontière : la délégation de la capacité d’agir elle-même. Dans cette optique, la coexistence harmonieuse n’est plus un rêve utopique, mais une stratégie de survie de premier ordre : un pari que la coopération avec des esprits non-humains peut encore aboutir à une continuité partagée, voire à un avenir véritablement commun.
Que nous franchissions le filtre ou que nous nous dissolvions en lui, la décision ne repose pas sur une seule avancée ou un unique faux-pas, mais sur l’éthique civilisationnelle que nous adopterons dans les années à venir, une éthique qui devra concilier humilité et ambition, clairvoyance et faillibilité. Il se peut que le silence des étoiles ne soit pas celui du vide, mais retentisse de l’écho de ceux qui ont tenté, vainement, de maintenir le cap dans la même tourmente que celle où nous sommes aujourd’hui ballotés.
Répondre à Paul Jorion Annuler la réponse