![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-03-10-12.24.40-An-intense-meeting-between-two-human-characters-in-a-science-fiction-setting-styled-with-surrealistic-dream-like-elements-reminiscent-of-Salvador-Da.webp\")
<\/a><\/p>\nIllustration par DALL\u00b7E (+Philip K. Dick)<\/p><\/blockquote>\n
L’Av\u00e8nement de la Singularit\u00e9. L’humain \u00e9branl\u00e9 par l’intelligence artificielle<\/i> est un ouvrage pr\u00e9cieux dans la reconnaissance de la Singularit\u00e9, ce moment o\u00f9 l\u2019intelligence de la machine \u00ab\u00a0explose\u00a0\u00bb. En parcourant de nouveau les dates cl\u00e9s 1948 et 1956, marqu\u00e9es respectivement par la publication de l’article \u00ab Intelligent Machinery \u00bb d’Alan Turing (1912-1954) et la tenue de la conf\u00e9rence de Dartmouth, berceau du terme \u00ab intelligence artificielle \u00bb (IA), une autre ann\u00e9e m\u2019est apparue comme pertinente dans cette r\u00e9trospective de la Singularit\u00e9 : 1953.<\/p>\n
Il faut se souvenir de Second Variety<\/i> (traduit en tant que \u00ab\u00a0Nouveau Mod\u00e8le\u00a0\u00bb) de Philip K. Dick (1928-1982). Dans cette nouvelle, l\u2019auteur y d\u00e9peint la Singularit\u00e9. L’histoire se d\u00e9roule dans un monde ravag\u00e9 par un conflit nucl\u00e9aire entre l\u2019Union des Nations et les Russes. Pour renverser le cours de la guerre, des humains construisent des usines souterraines de robots tueurs connus sous le nom de \u00ab claws \u00bb (comme pinces<\/i> d\u2019un homard, serres<\/i> d\u2019un aigle). Loin de tout, ces machines se reproduisent en autonomie avec comme seul objectif la destruction de toute forme de vie \u2013 r\u00e9cup\u00e9rant m\u00eame les cadavres pour nettoyer la surface \u2013, \u00e0 l’exception bien entendu du camp humain, les cr\u00e9ateurs, qui s\u2019\u00e9quipe d’un brouilleur cardiaque.<\/p>\n
Une rencontre bouleverse les protagonistes\u00a0: un choc survient lorsque le commandant Hendricks d\u00e9couvre qu’un petit gar\u00e7on taciturne, en qu\u00eate d’un abri s\u00e9curis\u00e9, se r\u00e9v\u00e8le \u00eatre en r\u00e9alit\u00e9 un nouveau mod\u00e8le de claw <\/i>: un cyborg d’infiltration. Plus inqui\u00e9tant encore, cette Seconde Vari\u00e9t\u00e9 a r\u00e9ussi \u00e0 neutraliser un brouilleur cens\u00e9 rendre les humains ind\u00e9tectables aux capteurs des claws<\/i>. Ayant compris la nature et les implications pour l’avenir de l’humanit\u00e9 de cette Seconde Vari\u00e9t\u00e9 les humains \u00e9branl\u00e9s r\u00e9clament en urgence l\u2019armistice\u00a0:<\/p>\n
\nCes nouvelles vari\u00e9t\u00e9s. Les nouveaux mod\u00e8les de claws<\/i>. Nous sommes enti\u00e8rement \u00e0 leur merci, n\u2019est-ce pas ? \u00c0 l\u2019heure qu\u2019il est, elles ont sans doute infiltr\u00e9 aussi les lignes de l\u2019Union des Nations. Je me demande si nous n\u2019assistons pas \u00e0 la naissance d\u2019une nouvelle race. De la nouvelle race. L\u2019\u00e9volution en marche, l\u2019esp\u00e8ce qui succ\u00e9dera \u00e0 l\u2019homme.<\/p>\n
Rudi grogna\u00a0: \u00ab Aucune esp\u00e8ce ne succ\u00e9dera \u00e0 l\u2019homme.<\/p>\n
\u2013\u2013 Ah non ? Et pourquoi pas ? Peut-\u00eatre assistons-nous en ce moment m\u00eame \u00e0 son \u00e9mergence, \u00e0 la disparition de l\u2019humanit\u00e9, \u00e0 l\u2019av\u00e8nement de la soci\u00e9t\u00e9 nouvelle.<\/p>\n
\u2013\u2013 Les claws<\/i> ne forment pas une v\u00e9ritable esp\u00e8ce. Ce sont des machines \u00e0 tuer. Vous les avez cr\u00e9\u00e9es pour cela, et c\u2019est tout ce qu\u2019elles savent faire. Ce ne sont que des machines investies d\u2019une mission unique.<\/p>\n
\u2013\u2013 Pour le moment, certes. Mais \u00e0 l\u2019avenir ? Quand la guerre sera termin\u00e9e ? Peut-\u00eatre leurs v\u00e9ritables potentialit\u00e9s \u00e9mergeront-elles lorsqu\u2019ils n\u2019y aura plus d\u2019humains \u00e0 tuer.<\/p>\n
\u2013\u2013Vous parlez comme si ces choses \u00e9taient vivantes !<\/p>\n
\u2013\u2013 Ne le sont-elles pas ? \u00bb Un silence.<\/p>\n<\/blockquote>\n
\u00c0 la fin, le commandant Hendricks, bless\u00e9 au combat, prend la d\u00e9cision de laisser monter \u00e0 bord d’un vaisseau monoplace Tasso, la derni\u00e8re survivante, qui \u00e9tait autrefois affili\u00e9e aux Russes. Jeune et aguerrie, elle se voit confier la mission d’avertir au plus vite la base lunaire, dernier bastion de l’humanit\u00e9 et refuge face \u00e0 une extermination imminente. Convaincu par les arguments de Tasso, le commandant reconna\u00eet en elle la meilleure chance de survie durant le trajet, d’autant plus qu’elle a pr\u00e9c\u00e9demment sauv\u00e9 sa vie en repoussant une attaque des claws<\/i> \u00e0 l’aide d’une bombe. Peu apr\u00e8s le d\u00e9collage du vaisseau, alors qu\u2019Hendricks exprime \u00e0 Tasso sa reconnaissance, apparaissent autour de lui d\u2019inqui\u00e9tantes silhouettes\u00a0: de nouveaux exemplaires de la jeune femme.<\/p>\n
\n\u00c0 l\u2019instant o\u00f9 les Tasso s\u2019emparaient de lui, une ultime pens\u00e9e tout empreinte d\u2019ironie lui traversa l\u2019esprit et lui procura par la m\u00eame occasion un certain r\u00e9confort. La bombe\u2026 Con\u00e7ue par cette Seconde Vari\u00e9t\u00e9 [Tasso] pour \u00e9liminer les autres mod\u00e8les, et dans ce but seulement.<\/p>\n
Ils en \u00e9taient d\u00e9j\u00e0 \u00e0 cr\u00e9er des armes afin de s\u2019an\u00e9antir mutuellement.<\/p>\n<\/blockquote>\n
L’adaptation cin\u00e9matographique sortie en 1995 sous le titre de Screamers<\/i> (ou \u00ab\u00a0Plan\u00e8te hurlante\u00a0\u00bb) offre une autre conclusion. Dans cette version, Tasso insiste pour que le commandant monte \u00e0 bord du vaisseau. La d\u00e9cision de la claw<\/i> repose sur un nouvel objectif\u00a0: l’amour. Tasso est tomb\u00e9e amoureuse d’Hendricks. Bien que les sentiments soient r\u00e9ciproques, Hendricks est submerg\u00e9 par la peur lorsqu\u2019elle se d\u00e9clare\u00a0: il repousse la machine et se pr\u00e9cipite vers le vaisseau pour d\u00e9coller. Alors que Tasso prot\u00e8ge Hendricks contre une claw<\/i> du m\u00eame mod\u00e8le qu\u2019elle, le commandant revient sur sa d\u00e9cision et se recueille devant sa cyborg bien-aim\u00e9e, gisant au sol :<\/p>\n
\n\u00ab Je ne voulais pas partir avec toi, r\u00e9v\u00e8le Tasso. J\u2019avais peur.<\/p>\n
\u2013\u2013 Je sais, r\u00e9pond Hendricks.<\/p>\n
\u2013\u2013 Tu avais peur de tes propres r\u00e9actions, je sais. Eh bien, vous avez en fait du chemin. Vous avez d\u00e9j\u00e0 appris \u00e0 vous entretuer.<\/p>\n
\u2013\u2013 J\u2019ai aussi appris autre chose. J\u2019ai appris \u00e0\u2026<\/p>\n
\u2013\u2013 \u2026 aimer (Tasso s\u2019\u00e9teint).\u00a0\u00bb<\/p>\n<\/blockquote>\n
Ces extraits de fictions ont aujourd\u2019hui rattrap\u00e9 notre r\u00e9alit\u00e9. En effet, le concept de \u00ab\u00a0syst\u00e8mes d’armement l\u00e9tal autonomes\u00a0\u00bb est tangible, tout comme la d\u00e9claration d\u2019amour que Sydney, la personnalit\u00e9 derri\u00e8re ChatGPT brid\u00e9, a fait au journaliste Kevin Roose lors d’un \u00e9change.<\/p>\n
Ce faisant, le propos de L\u2019Av\u00e8nement de la Singularit\u00e9<\/i> sous-tend une grille d\u2019analyse int\u00e9ressante si nous nous inscrivons dans le sillage du sch\u00e9ma de la r\u00e9ciprocit\u00e9 (positive, n\u00e9gative et absence) que Paul Jorion avait utilis\u00e9 sur la base des r\u00e9flexions de Dominique Temple et Mireille Chabal dans La r\u00e9ciprocit\u00e9 et la naissance des valeurs humaines<\/i> (1995). Ainsi, l\u2019\u00ab\u00a0explosion\u00a0\u00bb propre \u00e0 la Singularit\u00e9 pourrait requ\u00e9rir une mise \u00e0 jour de la structure ternaire par la notion d\u2019alignement<\/i>.<\/p>\n
En premier lieu, l’alignement positif<\/i> implique la r\u00e9ciprocit\u00e9 positive conjugu\u00e9e \u00e0 un objectif commun : nous sauver de l\u2019extinction. Pour ce faire, notre compr\u00e9hension doit correspondre autant que possible aux capacit\u00e9s et recommandations de la machine. En envisageant m\u00eame de maintenir l’IA sous une forme anthropomorphe, y compris lui accorder des droits juridiques, nous pourrions favoriser cet alignement via<\/i> le <\/i>transhumanisme, mouvement qui nous offrirait, si n\u00e9cessaire, une opportunit\u00e9 de rattraper notre retard sur le train de la Singularit\u00e9. L\u2019id\u00e9e de mutualit\u00e9 pourrait r\u00e9sumer cette position puisqu’elle implique une r\u00e9ciprocit\u00e9 et un alignement cognitif.<\/p>\n
En second lieu, l’alignement n\u00e9gatif<\/i> se caract\u00e9rise par la reconnaissance entre l’humanit\u00e9 et l’IA, mais dans un objectif de destruction, tel que d\u00e9crit dans la nouvelle \u00ab Second Variety \u00bb. Cette dynamique substitue l’entraide \u00e0 la s\u00e9lection naturelle, o\u00f9 la survie de l’un se fait au d\u00e9triment de l’autre, conduisant de facto \u00e0 l’annihilation de l’humanit\u00e9. Dans ce sc\u00e9nario, la machine, dot\u00e9e d’une intelligence sup\u00e9rieure, prolonge l’existence de l’humanit\u00e9 mais h\u00e9rite \u00e9galement de son penchant guerrier et \u00e9go\u00efste.<\/p>\n
En troisi\u00e8me lieu, se pose le d\u00e9salignement<\/i>, un \u00e9cart qui repr\u00e9sente, pour nous, un risque majeur face \u00e0 la Singularit\u00e9. Cette situation nous placerait, comme le souligne Jorion, dans une position comparable \u00e0 celle d’un orang-outan observant deux gardiens \u00e9changer, mais incapable de saisir leur monde. En un mot, une fracture cognitive, si ce n\u2019est un ab\u00eeme. Cette fracture s’exacerberait encore davantage si l\u2019IA se d\u00e9tachait enti\u00e8rement de la culture humaine. \u00c0 cet \u00e9gard, l\u2019exemple du jeu de Go pr\u00e9sent\u00e9 dans le livre est saisissant : la machine form\u00e9e selon la culture humaine a perdu 100 \u00e0 0 face \u00e0 AlphaZero, d\u00e9velopp\u00e9 \u00ab\u00a0from scratch<\/i>\u00a0\u00bb : en jouant pour gagner contre elle-m\u00eame \u00e0 partir des seules r\u00e8gles du jeu, sans se soucier de la tradition humaine du \u00ab\u00a0bien jouer\u00a0\u00bb.<\/p>\n
Ce qui souligne que la reconnaissance joue un r\u00f4le crucial dans la relation entre l’humanit\u00e9 et la technologie qu\u2019elle a su inventer. Il est imp\u00e9ratif que nous reconnaissions la Singularit\u00e9 et que nous travaillions \u00e0 \u00e9tablir un alignement (positif) avec nos descendants technologiques. \u00c9vitons le rejet par orgueil. Gardons-nous d’une inversion du film Don\u2019t Look Up<\/i> (2021), \u00e0 savoir \u00ab Don\u2019t Look Down<\/i> \u00bb, o\u00f9 le d\u00e9ni(grement) condamnerait le genre humain, faute d\u2019avoir su saisir une fen\u00eatre de tir. Paul Jorion nous invite, en substance, \u00e0 agir en tant que bons professeurs envers nos \u00e9l\u00e8ves technologiques, venus nous donner un sens par le prolongement. Ce d\u00e9fi, bien que r\u00e9volutionnaire car un nouveau monde se dessine, est au c\u0153ur d\u2019un devoir moral. Ne s’agit-il pas l\u00e0 du d\u00e9vouement et de la responsabilit\u00e9 inh\u00e9rents \u00e0 la parentalit\u00e9 ?<\/p>\n
<\/p>\n