Archives par mot-clé : automates

COMPLEXITÉ ET EFFET « SKYNET »

Ce texte est un « article presslib’ » (*)

Le monde dans lequel nous vivons aujourd’hui s’est rapproché de celui que l’on voyait représenté dans les films de science-fiction des années 1950, dont certains étaient d’ailleurs excellents en raison des questions de fond qu’ils posaient quant à la prise de pouvoir par les machines ou plus simplement à notre perte de maîtrise sur le monde dû à leur envahissement, envahissement que nous avons activement encouragé depuis plusieurs siècles. Le film 2001, l’Odyssée de l’espace (1968), s’achève par un combat entre la machine à qui la mission a en réalité été confiée et qui sait comment la mener à bien, et le membre d’équipage humain dont le sacrifice a été lui programmé ; c’est l’arrogance de ce dernier, incapable d’imaginer même qu’on ait pu le priver de la responsabilité de la mission, qui fait qu’il se rebiffe et qu’il parviendra à se sauver – même si la nature de son salut se révèle alors très problématique.

Le High Frequency Trading fait que les marchés boursiers sont aujourd’hui la proie des automates qui s’affrontent dans des duels se déroulant dans leur espace. Derrière les algos, il y a bien sûr des programmeurs, qui sont les auteurs de ces logiciels, et qui peuvent en examiner les effets en fin de journée, et corriger le tir si nécessaire, voire introduire des améliorations et apporter des innovations. Il n’empêche que certaines techniques d’apprentissage pour ces algos, comme les réseaux neuronaux ou les algorithmes génétiques (au comportement intime impénétrable à des yeux humains), rendent leurs comportements très largement autonomes tant qu’ils sont à l’œuvre. S’exerce désormais du coup, ce que l’on a pris l’habitude d’appeler l’« effet Skynet », du nom du réseau informatique tout-puissant dans le cycle cinématographique Terminator, où les êtres humains n’interviennent plus que dans un contexte global où les décisions majeures sont en réalité prises par une confédération d’ordinateurs.

La question qu’il faut se poser aujourd’hui le plus sérieusement du monde, c’est : disposons nous encore du pouvoir sur les ordinateurs et sur les automates (à part celui bien entendu de couper le courant), et si nous l’avons perdu, comment faire pour le reprendre ?

(*) Un « article presslib’ » est libre de reproduction numérique en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Paul Jorion est un « journaliste presslib’ » qui vit exclusivement de ses droits d’auteurs et de vos contributions. Il pourra continuer d’écrire comme il le fait aujourd’hui tant que vous l’y aiderez. Votre soutien peut s’exprimer ici.

Partager :
Email This Post Email This Post