Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant

Billet invité. Ouvert aux commentaires.

Alexis Toulet dans son dernier billet se demandait si les ordinateurs pourraient atteindre un niveau d’intelligence similaire à celui de l’être humain ou si des robots pourraient devenir indépendants de leurs créateurs, voire hostiles, en allant même jusqu’à les remplacer. Questions dans l’air du temps certes, mais qui au vu des colossaux budgets de recherche de la DARPA et de ses homologues étrangers se posent très sérieusement. Notre espèce étant ainsi faite que les domaines de recherche susceptibles de déboucher sur une quelconque supériorité militaire voient aussitôt s’ouvrir les vannes du financement.

Il n’est donc pas illogique d’imaginer sous la traction irrésistible des complexes militaro-industriels, voir des avancées de l’IA militaire qui à l’exemple du GPS, des drones ou des réacteurs nucléaires, auront des retombées concrètes dans notre vie quotidienne.

Les prévisions étant difficiles – particulièrement celles concernant le futur -, il est tout de même possible de se tourner vers l’histoire des découvertes scientifiques pour observer le cheminement improbable de certaines d’entre elles. Ainsi, avant l’invention de la spectroscopie, il était rationnel de penser que les hommes ne connaitraient jamais la composition chimique des objets célestes avant de pouvoir s’y rendre physiquement. C’est-à-dire dans un très lointain futur ! Et pourtant, avant même la mécanique quantique ou l’invention de la première fusée, il fut possible de connaître le spectre des différents éléments chimiques et par voie de conséquence, la composition des étoiles.

Sans même parler des découvertes fortuites et totalement inattendues, car provenant d’un domaine a priori totalement étranger à l’objet de sa recherche. Ainsi en alla-t-il pour les astronomes qui virent au lendemain de la seconde guerre mondiale leur discipline révolutionnée par les techniques de détection électromagnétique des avions ennemis. Qui aurait pu imaginer un seul instant que cette technologie militaire allait déboucher sur de nouvelles fenêtres pour observer l’univers et nous dévoiler des objets à proprement parler inimaginables, comme les étoiles à neutrons ?

Mais pour en revenir à nos moutons électriques, nous les envisageons toujours au travers des filtres légués par notre évolution. Cela se traduit en langage courant par la classique série de questions : c’est dangereux ? ça se mange ? je peux copuler avec ? m’en servir pour mettre sur la g** de mon voisin ? La liste n’est pas exhaustive, mais vous aurez compris son principe : elle est basée sur le rapport au monde des primates sociaux, et part de notre nombril pour aboutir à… notre nombril !

C’est ainsi que nous affublons cette intelligence étrangère de l’adjectif ‘artificiel’. Terme convenant parfaitement à des automates ou à des programmes idiots (même si très performants dans un domaine précis, comme le programme AlphaGo qui peut mettre la pâtée à l’humain Lee Sedol… tout en ne sachant pas qu’il joue au Go), mais qui est quelque peu réducteur pour désigner une conscience autonome. Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot.

Là est le vieux paradoxe : si je reconnais en l’Autre une intelligence et une sensibilité égales à la mienne, alors je ne peux le traiter qu’en semblable. Et si malgré tout je veux le réduire en esclavage, alors j’en suis réduit à inventer des fables démontrant ma supériorité tout en me déculpabilisant (la version faible de l’esclavage, l’ubérisation, reposant sur l’idéologie des fainéants que l’on croise dans les gares et qui ne sont rien).

Sous ces conditions, force est d’admettre que nos réactions face à l’éventualité d’une IA forte et de son statut, ressemblent étrangement à une nouvelle Controverse de Valladolid

Controverse qui pourrait finalement se révéler dépourvue de sens ! Car si nous ne pouvons nous empêcher d’anthropomorphiser une IA forte, c’est à dire de lui prêter des intentions et des comportements semblables aux nôtres, il est fort possible en réalité que nous ne puissions jamais la comprendre…

En effet, alors que nous avons déjà les plus grandes difficultés à définir notre propre conscience, comment pourrions-nous nous y prendre pour imaginer celle d’une ‘entité’ ayant sa conscience disséminée dans x lieux et x corps physiques différents ? Comment imaginer une conscience dont l’existence sera de plusieurs ordres de grandeur supérieure à la durée d’une vie humaine, alors même que ses processus cognitifs seront plus rapides de plusieurs ordres de grandeur que les nôtres ?

Incompréhensible et inhumaine seront alors sans doute les qualificatifs les plus appropriés.

Peut-être même en viendrons-nous à considérer que la conscience tout comme le cosmos, n’est pas à l’échelle de notre humanité ? Serons-nous obligés alors de nous représenter la conscience comme une échelle d’une hauteur indéterminée dont les différentes espèces du genre Homo ne furent que les premiers barreaux ?

Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ?

Un petit jeu spéculatif qui relèvera peut-être à jamais de la catégorie ‘combien d’anges peuvent-ils tenir sur la tête d’une aiguille ?’, mais qui n’empêche pas de se poser une dernière question (non, pas de savoir à quelle heure on mange !) : notre humanité se survivra-t-elle assez longtemps pour que cette singularité ait une chance d’apparaitre sur notre petite planète bleue ?

Partager :

97 réflexions sur « Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant »

  1. Bonjour,

    Vivement l’IA!
    En effet, car la stupidité naturelle de l’humain n’a plus de limite!
    A moins qu’il ne s’agisse seulement de la mienne…

    Voyez plutôt:
    J’ai visionné il y a quelques mois, ici même, une vidéo présentant les essais d’un robot quadrupède programmé pour se déplacer en terrain accidenté.
    Je n’ai pas retrouvé le lien vers cette vidéo, mais des intelligences supérieures à la mienne, certainement nombreuses sur ce forum, la retrouveront facilement …
    Beaucoup s’en souviennent certainement, l’opérateur testait avec réussite la mobilité de son automate en milieu naturel boisé, ainsi qu’en laboratoire, où, tentant de s’opposer par la force à la progression de son robot, il se mit à le pousser et à le heurter violemment pour le faire tomber, montrant à quel point il se relevait habilement pour poursuivre inexorablement son déplacement.
    Le robot, se relevait et repartait toujours avec la même obstination électronique, puis penchait et basculait sous les assauts de son maître pour repartir inlassablement dans la même direction.
    C’est alors que, subitement, et à ma grande surprise, la portée « purement expérimentale » de la scène qui se déroulait devant moi
    m’échappa, et que je me mis à éprouver de la compassion pour ce tas de boulons, de vérins hydrauliques et de cartes à puces sans défense, méchamment malmené par un échantillon représentatif de ma propre espèce qui commençait à m’indisposer .
    Voyez ici, chers amis , l’infamie du fonctionnement absurde d’un cerveau humain (j’ai dis « un »; loin de moi l’idée de généraliser).
    Voyez cette coupable faiblesse qui entrave si gravement les légitimes aspirations de l’homme dans ses progrès pour s’élever au delà de
    modèles ancestraux obsolètes.
    Mais, heureusement chers ami, rassurons nous, j’ai probablement été le seul à éprouver (j’allais dire pour autrui…Pfff, ridicule!) des sentiments si subversivement décadents.
    Et dire que certains veulent doter l’IA de compassion!
    Saboteurs!
    Eric

      1. Merci Mr Boulant, j’apprécie!
        Mais toutefois moins efficace émotionnellement…
        Le cri des bébés dinosaures en caoutchouc m’émeuvent peut-être moins que le silence des agneaux mécaniques.
        Allez savoir pourquoi!
        Compassion pour les moutons en puissance?
        Eric.

    1. Ça dû vous échappez mais c’est un futur engin de guerre, un porteur d’armement et munitions, un potentiel assassin… capable de progresser dans les conditions d’un bombardement ( léger tout de même, je dirais du mortier de 82 mm sans recherche de saturation). Tant qu’y a pas de coup au but, y’a de l’espoir pour ces infâmes militaristes.
      Qu’y crèvent. La recherche de financement n’excuse pas n’importe quoi.

      1. Arrête, on va pleurer. Tu préfères que ce soit ta belle et jeune amazone YPJ qui se fasse éventrer et/ou démembrer et/ou décapiter au Rojava ou bien ce clébard mécanique augmenté ? Huh ?

      2. Trop bon, cher vigneron.
        Il n’y a pas de réponse simple et claire, Ni l’une, ni surtout pas l’autre. De toute façon, une guerre de libération est une bonne chose, quelque peu sacrée. A soutenir tant que l’objectif moral est acceptable. Et il l’est. Je vous rappelle que Bookchin est opposé au capitalisme et prône un municipalisme écologique, plus évidemment la libération de la Femme, asservie depuis la fin du Néolithique. ( dans le texte: « l’homme a inventé le capitalisme et la domination de la nature pour asservir la femme »);

        Je crains que ces délires guerriers ne servent qu’à la répression de mouvements que les US ne contrôleraient pas, étant entendu qu’un conflagration mondiale n’est pas en vue, même dans le Pacifique. Ajoutons à ça que le Sénat a voté le budget des forces armées: 700 milliards de dollars. Ce faux clébard-vrai arme de guerre et ce budget délirant sont un des signes que les USA sont profondément malade de la tronche. Ils font peur.
        Heureusement , il reste Bob Dylan et quelques autres.
        Des restes ou des résidus.

    2. L’autre, seul au monde…

      j’ai probablement été le seul à éprouver (j’allais dire pour autrui…Pfff, ridicule!) des sentiments si subversivement décadents.

      Mais non Jeff t’es pas tout seul…

      Sinon c’est mieux avec doublage…
      https://youtu.be/zkv-_LqTeQA

  2. Bien distinguer Intelligence Artificielle et Humanité…
    Ex:
    Je préfère ne pas passer pour trop intelligent,
    afin naturellement de ne pas être pris pour totalement artificiel…
    Eric.

  3. Yann le Cun (directeur du Facebook Artificial Intelligence Research et titulaire pour l’année 2016 de la chaire Informatique et sciences numériques du Collège de France) chez Soumier sur BFMBusiness ce matin.

    – Yann Le Cun est-ce qu’un jour les robots seront incontrôlables ?
    – Franchement ? il est beaucoup trop tôt pour ce genre de questions.

  4. L’union rationaliste :

    https://www.franceculture.fr/emissions/divers-aspects-de-la-pensee-contemporaine/divers-aspects-de-la-pensee-contemporaine-dimanche-24-septembre-2017

    Sur l’I.A. Jean Gabriel Ganascia

    Et là aussi :

    https://www.franceculture.fr/emissions/linvite-idees-de-la-matinale/jean-gabriel-ganascia-craindre-lintelligence-artificielle-est (peu justifié)

    Jean-Gabriel Ganascia est professeur à l’université Pierre et Marie Curie, chercheur en intelligence artificielle, président du comité d’éthique du CNRS et auteur de Le mythe de la singularité, faut-il craindre l’intelligence artificielle ? (Seuil, 2 février 2017)

Les commentaires sont fermés.