COMPLEXITÉ ET EFFET « SKYNET »

Ce texte est un « article presslib’ » (*)

Le monde dans lequel nous vivons aujourd’hui s’est rapproché de celui que l’on voyait représenté dans les films de science-fiction des années 1950, dont certains étaient d’ailleurs excellents en raison des questions de fond qu’ils posaient quant à la prise de pouvoir par les machines ou plus simplement à notre perte de maîtrise sur le monde dû à leur envahissement, envahissement que nous avons activement encouragé depuis plusieurs siècles. Le film 2001, l’Odyssée de l’espace (1968), s’achève par un combat entre la machine à qui la mission a en réalité été confiée et qui sait comment la mener à bien, et le membre d’équipage humain dont le sacrifice a été lui programmé ; c’est l’arrogance de ce dernier, incapable d’imaginer même qu’on ait pu le priver de la responsabilité de la mission, qui fait qu’il se rebiffe et qu’il parviendra à se sauver – même si la nature de son salut se révèle alors très problématique.

Le High Frequency Trading fait que les marchés boursiers sont aujourd’hui la proie des automates qui s’affrontent dans des duels se déroulant dans leur espace. Derrière les algos, il y a bien sûr des programmeurs, qui sont les auteurs de ces logiciels, et qui peuvent en examiner les effets en fin de journée, et corriger le tir si nécessaire, voire introduire des améliorations et apporter des innovations. Il n’empêche que certaines techniques d’apprentissage pour ces algos, comme les réseaux neuronaux ou les algorithmes génétiques (au comportement intime impénétrable à des yeux humains), rendent leurs comportements très largement autonomes tant qu’ils sont à l’œuvre. S’exerce désormais du coup, ce que l’on a pris l’habitude d’appeler l’« effet Skynet », du nom du réseau informatique tout-puissant dans le cycle cinématographique Terminator, où les êtres humains n’interviennent plus que dans un contexte global où les décisions majeures sont en réalité prises par une confédération d’ordinateurs.

La question qu’il faut se poser aujourd’hui le plus sérieusement du monde, c’est : disposons nous encore du pouvoir sur les ordinateurs et sur les automates (à part celui bien entendu de couper le courant), et si nous l’avons perdu, comment faire pour le reprendre ?

(*) Un « article presslib’ » est libre de reproduction numérique en tout ou en partie à condition que le présent alinéa soit reproduit à sa suite. Paul Jorion est un « journaliste presslib’ » qui vit exclusivement de ses droits d’auteurs et de vos contributions. Il pourra continuer d’écrire comme il le fait aujourd’hui tant que vous l’y aiderez. Votre soutien peut s’exprimer ici.

Partager :

302 réflexions sur « COMPLEXITÉ ET EFFET « SKYNET » »

  1. La maîtrise par l’informatique et la robotique a permis des avancées considérables qui peuvent se retourner contre nous comme l’instrument que l’on utilise mal. Certains domaines doivent rester la propriété de l’homme. C’est la responsabilité et la raison. Nous voulons aller trop vite……
    Et la machine a-t-elle le choix de se connaître soi-même (cf Delphes). L’usage et la philosophie des sciences ?

  2. http://www.zdnet.fr/actualites/jean-emmanuel-casalta-npa-conseil-tout-est-reuni-pour-que-la-tv-mobile-personnelle-devienne-un-marche-de-masse-39381455.htm

    écoutez bien le présentation des différents, »clients,acteurs »de cette synchronisation mise en pratique en 2009? 2010 assurément;
    Mais comme il est étrange de ne pas retrouver cette vidéo dans son intégralité,car en 2010,je cherchais de tous côtés ce que l’on faisait de ma propre vie .Encore aujourd’hui ,je pense que les clients de Mr Casalta ,dont les médias ignorants ou pas de ce à quoi ils se prêtaient ont participé à cette synchronisation qui nécessitait des cobayes .Ce que j’écris semble imbécile,hors sujet et pourtant,j’ai vécu quelque chose de cet ordre

Les commentaires sont fermés.