Quand les robots jouent aux jeux vidéos… ils nous font honte !

Demis Hassabis explique le projet DeepMind dans Technology Review : Google’s Intelligence designer.

Un article un peu plus technique sur le même sujet : Google’s Secretive DeepMind Startup Unveils a « Neural Turing Machine ».

Enfin, pour les ingénieurs et autres matheux, l’article qui a fait dire à Elon Musk que la « Singularité », le dépassement de l’intelligence humaine par celle de la machine, a sans doute déjà eu lieu : Neural Turing Machines.

Alors, sommes-nous d’ores et déjà hors-course ? Et la politique la plus cohérente pour un robot sera-t-elle de se débarrasser de nous : lents, fantasques, et pas fiables pour un sou ?

Le débat est ouvert !

Partager :

203 réflexions sur « Quand les robots jouent aux jeux vidéos… ils nous font honte ! »

  1. C’est extcrèmement viral cette IA.
    Pour parler concrètement,
    Sans concrétion, l’écrit est d’abord le doute, les cris c’est la fixation des prix à payer et de la suite qui s’en suit.
    Calculi et tutti quanti.
    Grace à notre culturisme, vas y Nabilla, explique leurre que tout corps ingurgité ressort et que cela s’appelle digestion ou gestation, c’est pareille aux même, I Han

      1. …Toute dévolue aux méandres/ De mes caprices irisés,/ où suis-je au fond de ces baisers/ d’aurore et de salamandre ?…
        Mais moi, vapeur, forme de neige/ souffle de moi-même excédé/ vais-je rompre le sortilège/ de ma veine mobilité…
        Je sais un ciel qui se désiste/ de ses azurs et de ses ors/ afin qu’un merveilleux retors/ les change en une nuit de schiste/ où tout s’inscrit, glisse, ricoche/ pour atteindre au son le plus pur…
        Quelle I.A. sera jamais à même de produire l’équivalent sémantique de ces trois poèmes d’où j’ai extrait ici seulement trois fragments des six pages. Et où Robert Ganzo parle tour à tour pour la méduse, la danseuse, et le poète, trois modes d’être du vivant ?Les poèmes se suivent sans aucune indication titrée.
        Qui ici se risque à écrire quatre vers évoquant le cyborg ?

      2. @arciatus :

        mais le cyborg est sans doute déjà en état d’écrire quatre vers sur Robert Ganzo .

        Peut être , même , trouverait on des humains pour trouver ça poétique , et réclamer le génial auteur .

      3. Pire, il aurait sorti 500 vers par seconde dans le style de n’importe quel poète, et il y aurait un mode ‘improvisation, peut être un peu plus lent mais capable d’exercices techniques prodigieux…
        Les humains en seraient tout émoustillés !

        Quelques vers en prose…

        Des jeux de lois, des jeux des mots, des jeux de mains,
        Ils ont cru, et encore, croient s’y fier
        mais comme le monde
        l’homme est absurdement crucifié.

        Etant môme l’écran était notre fierté
        mais aujourd’hui, c’est tout un corps qui prend comme vie.

        solides, l’air ne sentons pas, ni le mal
        notre divine énergie est infinie
        tout est bon, sécurité optimale,
        la carte en mère est maintenant
        en totale abstraction.

  2. Certains d’entre vous (Lucas ?) sont effrayés par les idées de « perte de contrôle de l’homme », « prise de contrôle de notre monde par la machine »…

    Vous rendez vous compte que nous n’avons jamais eu aucun contrôle sur nos décisions, que la volonté est une illusion, que toutes les aventures ont été et seront tentées ?

    Mais qu’il est toujours possible de revenir en arrière, et que évidemment cela à un prix.

    Et donc, que la seule et intéressante question, c’est qui est prêt à payer quel prix en terme de « besoins, connaissances et envies » ?

    Qui parmi nous est prêt à payer le prix de la « pause » salutaire et indispensable, du soit-disant progrès ?

    Qui souhaite réellement discuter des limites ?

    Je vous rassure, plein de peuples des pays du sud, bien plus sages que nous, ont déjà pris leur décision, et se battent tous les jours pour la faire respecter.

    Dans ce monde qui change très vite, je ne parie pas un kopeck sur nos chances, à nous autres soit-disant « pays avancés », …

    Les belles histoires d’espèces flamboyantes, hyper spécialisées, hyper adaptées à leur milieu, hyper efficaces dans la consommation des ressources disponibles, finissent toujours mal …
    Ouvrez le moindre bouquin de microbiologie, si vous ne me croyez pas.

    1. Disons que l’homme qui délègue (donc sans le vouloir) son travail et une multitude de tâches à la machine perd de sa consistance.
      Nos habitudes ont changé à une allure telle qu’on ne se rend pas compte, et si vous voulez j’en rajoute, mais c’est uniquement pour que ce phénomène soit pris au sérieux.
      Après, choisir son camp, sachant que tout n’est pas binaire… Si ?

      1. Tout à fait d’accord avec l’accélération en cours, de là à dire qu’on ne s’en rend pas compte… Pourquoi alors certains, une minorité certe, luttent et meurent ?

        Bien sûr, rien n’est binaire, mais complexe, changeant, dynamique, mouvant, fuyant, … moi j’aime bien « continu », par exemple, et puis, ça fait plaisir à notre lapin de base.

        Mais le continu n’empêche évidemment pas de se situer, chaque jour qui passe.

        Comme toujours et depuis la nuit des temps, il faut choisir son camp.

      2. « Pourquoi alors certains, une minorité certe, luttent et meurent ? »

        Peut être que c’est justement parce que la majorité ‘ne se rend pas compte’ et a une forte tendance (donc sans le vouloir) à étouffer les minorités dérangeantes, par le biais d’un domaine devenu ce à quoi il n’aspire pas (à savoir la politique, et je suis français).

  3. Depuis longtemps maintenant, le samedi sur jeuxvideo.com (sur le nesblog pour les réfractaires à la publicité invasive) on peut profiter d’une chronique étonnante intitulée speed games.

    La plupart du temps il s’agit de faire jouer quelqu’un très vite et de se dire que si le jeu avait été conçut pour ça il aurait eu du mal à trouver son public (cible en markéteu).

    Mais parfois ils commentent un TAS (ToolAssistedSpeedrun), c’est à dire que le quelqu’un à cette fois programmé un robot pour « jouer » à sa place. On assiste alors à des grands moment, comme quand le personnage s’envole parce qu’il reçoit au même moment les commandes « sauter » et « s’accroupir ».

    Et c’est l’occasion de se rendre compte qu’il y a des robots à qui l’on raconte n’importe quoi.

    Et c’est tant mieux.

    1. Je voulais dans mes commentaires précédents dire que si c’est positif, je ressens un gouffre entre les capacités du monde vivant dans son infinie diversité (de la frustre méduse – infiniment disponible aux qualités de son milieu- aux pulsations construites de la danse, de la musique, du geste graphique, vers l’écriture du poète à l’écoute des signes), et d’autre part la difficulté de construire des outils complémentaires,utiles et non pas nuisibles à partir des sciences de l’information. Prolongation extraordinaire des outils dont nous disposons, pour mieux connaître, comme disait Mallarmé notre «séjour terrestre ». Je trouve la recherche dans ces technologies désirables , avec beaucoup de craintes.
      Crainte que des codes existant chez l’homme soient considérés comme des handicapes à un projet. Un certain eugénisme? Que l’on néglige les sensations subjectives en les jugeant incommunicables, alors que des chercheurs comme Uexküll ont décrit , en tant que véritablement des sujets, des formes de vie jugées auparavant comme primitives, viles. Enfin il y a la difficulté, si la motivation du chercheur est en priorité commerciale, de poser a priori comme première dans la succession des phénotypes l’aptitude à reconnaître les formes sur le modèle le plus familier : le perception humaine fondée sur des images. Ce qui conduirait à supposer, pour un animal domestique n’existant pas dans la nature un corps physique qui soit ressemblant au formes familières. Donc figuratives par anthropocentrisme? Et partant de cette limitation mercantile ne pas expérimenter le modèle d’animaux existants pour qui la seule perception « visuelle » motivante c’est le mouvement. Comme le choucas aveugle à toute sauterelle immobile.Et ainsi négliger des possibilités? Enfin, si la motivation c’est la création de stratégies de jeu ( c’est le plus immédiatement rentable pour occuper la jeunesse au chômage!) on pourrait chercher à quitter le principe de motivation par la récompense ou par la sanction ( modèle du jeu d’arcade et stratégie de compétition)…

  4. J’ai essayé de m’imaginer la disparition des humains sur notre planète qui ne laisserait sur place que des robots…qui ne mangent pas, ne boivent pas, n’ont aucune activité sexuelle, pas de femmes ni d’enfants, pas de vêtements, aucune maladie si ce n’est l’usure – mais comme ils se réparent eux-mêmes, pas de problèmes – pas de congés, ni sommeil,et, j’ai tenté de répertorier tout ce qui disparaîtrait ( usines, administration, argent, bourse, Etat, bâtiments publics, lieux de villégiature, religions) ou serait voué à l’abandon (sports, jeux, écologie…). On peut se demander ce que seraient les activités de ces robots. Même si on laisse quelques humains pour profiter de tout ça ils finiraient par disparaître; et comme les robots de donnent pas naissance à des humains, on se retrouve dans la situation précédente.
    En fait, le seul vrai problème que pose la robotisation, c’est celui de la survie de l’espèce qui, pour l’instant, n’a montré qu’une grande propension à l’auto – destruction.
    « Combien durera ce manque de l’homme mourant au centre de la création parce que la création l’a congédié. » René Char
    « Les doctrines qui m’expliquent tout m’affaiblissent en même temps. Elles me déchargent du poids de ma propre vie et il faut bien pourtant que je le porte seul. »
    A.Camus (le mythe de sisyphe)

  5. @ Paul Jorion

    Vous avez une idée pourquoi ? Tout simplement selon moi parce que ces gars là n’ont pas la moindre idée comment ils rebâtiraient une psychologie sans « la volonté », sans « l’intention ».

    1. Ce n’est pas parce que l’on ne comprend pas une chose (la conscience, l’intention..) que cette chose n’existe pas
    2. Ce que j’ai compris moi c’est que la conscience, l’intention sont des processus, plus ou moins synchrones, mobilisant simultanément différentes cartes mentales
    3. Certains organismes mono-cellulaires (spermatozoïdes, bactéries) possèdent des propriétés chimiotaxiques (se déplacent dans un gradient). On n’en déduit pas qu’ils ont une volonté.
    4. Chez l’animal, l’intention semble avoir émergée sous pression de sélection pour donner un avantage compétitif aux espèces capables de focaliser leur attention les actions les plus utiles à leur survie (Edelman)
    5. Dans le cerveau humain un seuil supplémentaire de complexité semble avoir été franchi (avec la conscience) qui n’est plus assimilable à des simples boucles action/réaction
    6. Il est possible que le substrat organique de l’information (le cerveau) soit substituable par un autre substrat (transistors, silicium..) et une autre architecture pour autant qu’un certain degré de complexité soit disponible. L’avenir le dire

    Mais cela ne met pas hors jeu le phénomène de l’intention et de la conscience – à mon avis.
    A suivre

    1. Vous n’avez pas compris…mais encore un tout petit effort, vous n’êtes vraiment pas loin.

      Je vous met sur un piste : il faut que vous creusiez le « plus ou moins synchrones »…

      1. Hé bien justement, voici la piste.
        Le fait que l’action précède la représentation dans la conscience n’est peut-être qu’un mécanisme visant à plus d’efficacité en court-circuitant des cartes neuronales qui vont prendre plus de temps et d’énergie pour aboutir par rétro-action à d’autres actions qui à leur tour vont déclencher d’autres prises de décision….
        Le modèle de base étant le réflexe qui court-cuite toute réflexion pour donner la priorité absolue à l’action (bien utile quand on pose la main sur un poêle brûlant)
        Ce modèle ayant évolué, on peut appeler intention/conscience le processus global de prise de décision avec cet aspect paradoxal de non-synchronicité.
        Disons que le cerveau doit prendre une décision. Il la prend, et immédiatement APRES, il informe la conscience qu’une décision a été prise, que des moto-neurones ont été activés (parfois à tord: Oups, j’ai appuyé sur le mauvais bouton)
        Mais au final, il faut bien qu’une décision soit prise, et ce peut pas être « quelqu’un » d’autre que le sujet.
        Pas de sujet, pas de décision, pas d’action, sauf à supposer que nous sommes tous des automates et alors je me demande soudain pourquoi je vous réponds

      2. « me demande soudain pourquoi je vous réponds »

        Si vraiment vous voulez tout savoir, ça risque de prendre très longtemps, sûrement le temps de se remémorer l’ensemble des actions(et pensées qui en découlent..) qui vous ont amené à écrire cela depuis votre naissance (et bien avant…), en votre lieu, à ce moment etc…(même si avec le réseau, ces deux choses en prennent un petit coup). Et aussi ce qui se passait autour pendant qu’on y est…
        Et leur donner un sens.

    2. @MerlinII

      « aspect paradoxal de non-synchronicité » ?

      Oui, une décision est prise par le sujet, évidemment.
      La question n’est pas qui, mais ce « qui » est-il conscient de la décision prise ?

      « Pas de sujet, pas de décision, pas d’action »
      Ben justement si, mais dans cette ordre « sujet, action puis décision ».

      Le point le plus important, c’est le suivant:

      Avouez que ça vous fiche une trouille bleue de « n’être qu’un automate » , hein ….?

      Il faut que vous surmontiez cette peur, qui vous empêche de réfléchir, et ensuite on pourra repartir…

      A chaque fois qu’on avance vraiment dans la connaissance, ça fout la trouille, c’est comme ça. Puis on s’habitue, et on en recommence à penser et à avancer.

      1. Avouez que ça vous fiche une trouille bleue de « n’être qu’un automate » , hein ….?

        Évidemment. Pas vous ?
        Si nous sommes tous des automates, qu’est-ce qu’on fout ici ?

        Je veux bien admettre tous les décentrements déjà observés, mais si JE n’existe pas, si ON pense à ma place, on tourne en rond. Qui est ce ON

        Je préfère attendre encore quelques progrès dans les explications de la conscience et suspendre encore mon jugement. Laissez moi encore l’illusion de croire que j’existe. Please.

  6. Si je vous suis correctement, votre proposition est argumentée comme suit :
    L’action chez l’homme précède la conscience de l’acte (preuve avec le secret de la chambre chinoise). Cette conscience agit comme rationalisation i.e. explication a posteriori de l’acte.
    L’ordre qui a mené à l’acte est inscrit par une conscience (la nôtre ou une autre, celle d’un autre être humain par exemple) dans notre cerveau. Ce cerveau héberge tous les ordres qui y tournent « en boucle » jusqu’à leur exécution (et même parfois après générant des perturbations psychiques).
    Ces ordres peuvent aussi consister en un besoin par exemple en une minimisation de contrainte, primaire (faim, froid, émotions).
    Nous sommes aujourd’hui face à une IA qui fonctionne presque de la même façon : on lui donne un ordre ou un gradient de contrainte et elle l’exécute.
    Je dis presque car il semble (et détrompez-moi si nécessaire) qu’il manque sa capacité de conscience à générer des ordres pour elle-même ou pour d’autre. Cette « feature » additionnelle est probablement conditionnée par une capacité de conscience à rationaliser son action après exécution. A quel point en sont-ils poche ?
    Après examen de votre proposition, j’ai l’impression que l’heure est en effet grave, les autos ont remplacées les chevaux il y a un siècle à peine. Serions-nous les canassons de notre époque et de sa modernité?

    1. Je suis d’accord là-dessus.
      Et si la conscience est bien un processus supplémentaire produit par l’évolution pour optimiser et développer les capacités d’adaptation et d’interaction d’un individu (d’une espèce) avec son environnement, et si un substrat non organique peut faire le même travail, alors il ne manque aux systèmes neuro-mimétiques que la conscience comme il ne manque aux chiens que la parole.

      D’où votre question ; serons-nous les canassons …
      …ou les machines seront-elles des puces savantes ?

      1. Ma thèse, je l’ai déjà expliqué dans Le secret de la chambre chinoise (1999), c’est que la conscience, c’est un dispositif qui permet la synchronisation des imputs venant des différents sens, avant inscription dans la mémoire. Que ça nous donne l’impression que nous avons une « volonté » qui a des « intentions », blablabala, ça c’est un artefact.

        Mais il faut reconstruire toute une psychologie à partir de ça : d’une conscience qui n’est absolument pas aux manettes. C’est au programme : à partir du 7 février ! (je dépose le manuscrit du bouquin sur Keynes le 6 😉 ).

      2. Dans quel but ? La survie : la meilleure adaptation à la répétition de la situation.

        Je touche un serpent. Il se dresse vers moi, ouvre la bouche et siffle.

        Ces informations parviennent à mon cerveau, le long de mon bras (c’est long), par le nerf optique (c’est court), par le nerf auditif (court mais pas aussi court). Il faut un dispositif qui ignore les contraintes de temps du nerf de mon bras; de mon nerf auditif et nerf optique et fasse apparaître comme simultanées ces différentes perceptions qui correspondent à un seul événement dans le Réel, et aille inscrire la configuration globale comme dangereuse dans ma mémoire.

        Si je n’ai pas un dispositif de ce type, le coup suivant je suis mort.

        C’est pour ça que je suis convaincu que la « conscience » n’est pas propre à l’homme, ni même aux animaux « supérieurs ». L’homme est uniquement la seule créature qui écrit des bouquins au sujet de sa conscience 🙂

      3. C’est pour ça que je suis convaincu que la « conscience » n’est pas propre à l’homme, ni même aux animaux « supérieurs »

        Oui ! Tout être humain qui arrive à se « détendre » par rapport à toutes ses « pensées », tous ses « savoirs » imposés par de longs apprentissages, qui arrive à approcher des animaux, à vivre avec eux — domestiqués ou non — devrait comprendre et surtout accepter cette conclusion.
        Celle que tous nos prédécesseurs avant la révolution néolithique connaissaient, celle que de petits peuples en voie d’extermination connaissent encore et celle que nous sommes forcés d’oublier car nous sommes en train de procéder à une extermination massive des animaux et leurs survivants enfermés (ceux dont nous consommons les produits) sont réduits à l’état de marchandises.
        En réalité nier qu’une IA est impossible est tout à fait cohérent avec le fait de nier la « conscience » aux animaux.

      4. @ PJ

        Ce qui nous sépare tient dans mon  » Pour moi en effet l’IA ne deviendra IN (N pour Naturelle) que lorsqu’on sera capable de dialoguer avec la Nature. Vaste programme que PJ n’effleure pas dans PSI. » de mon commentaire 22.

        Pour moi le coeur de PSI est déjà contenu dans le comportement de Jean Pouillon lorsqu’il rédige les comptes-rendus de je ne sais quel conseil d’administration. Pouillon fait là, à mon avis, typiquement un travail qui pourrait être fait par un robot suffisamment « formé » par un logiciel de type ANELLA (j’espère que Pouillon, lorsqu’il rédige, est animé par une dynamique de pertinence et qu’il garde sa dynamique d’affect pour d’autres occasions).

        En 199? vous écriviez dans PSI (chap. 12) que « Ce qui est visé avec la notion de système intelligent, c’est, rappelons-le, une simulation ».
        Du fait de votre commentaire 36 « on est très près d’avoir des robots qui marchent de la manière dont nous fonctionnons » j’infère que « faire semblant d’être intelligent » est pour vous très près « d’être intelligent ».

        Je pense que deux robots, initialement « formés » chacun par un humain intelligent jusqu’à ce qu’ils paraissent intelligents aux yeux de leur formateur, vont rapidement affadir leur intelligence lorsqu’ils dialogueront entre eux, la raison étant que la structure qui sous-tend cette intelligence n’est pas contenue dans le programme ANELLA.

        Nous sommes tous les deux, je crois, convaincus que le langage, ce dépositaire du savoir ancestral de notre espèce, contient dans sa structure les clés de l’universelle structure de l’être.

        Votre position vous conduit à postuler que le langage est parti de rien, est exclusivement de l’ordre de la cause efficiente, de l’épigénétique. Le langage, tel que je crois que vous le concevez, permet aux individus qui l’utilisent de communiquer seulement intersubjectivement c’est à dire artificiellement, « hors sol ».

        Ma position est qu’il y a au départ un noyau dur, de l’ordre de la cause matérielle, de la génétique. Le langage tel que je le conçois doit permettre une communication objective, ancrée dans le « réel », c’est à dire une communication intersubjective dans laquelle la Nature est partie prenante. Dans ces conditions et seulement dans ces conditions, « être intelligent » se confond avec « faire semblant d’être intelligent ».

        Le fossé qui nous sépare est immense. Pour moi nous sommes très loin d’être capables de créer des robots qui nous ressemblent.

      5. Je pense plutôt que c’est le langage , dont le « nôtre » , qui est structuré comme ( et par ) l’univers , et pas l’inverse .

      6. @ juannessy

        « Je pense plutôt que c’est le langage , dont le « nôtre » , qui est structuré comme (et par) l’univers , et pas l’inverse . »

        L’hypothèse universaliste de Thom (rejetée par les linguistes « classiques » -dont PJ?-) consiste à affirmer que les grandes structures syntaxiques sont issues de la structure formelle des grandes interactions de la régulation biologique. Pour lui la prédation biologique qu’il associe à la catastrophe « fronce » est prototypique de l’action transitive SVO (Sujet Verbe Objet). Pour lui, parce que notre espace-temps est de dimension 4, il y a une borne supérieure à la complexité des processus que l’on peut décrire avec une phrase atomique.

      7. Je voudrais tenter (ne serait-ce que pour essayer de me clarifier les idées) de préciser ce qui sépare l’IA telle que la conçoit PJ et l’IN telle que je la conçois.

        L’idée de base est que la matière s’organise (aspire à la forme pour reprendre le schéma hylémorphique aristotélicien) selon les dynamiques les plus simples possibles. C’est une position finaliste. Mais, en mécanique newtonienne, le principe de moindre action de Maupertuis est de ce type et est accepté puisque prouvé équivalent au principe efficient de Newton. Ce n’est pas PJ qui me contredira lorsque je dis que les dynamiques les plus simples possibles sont les dynamiques de gradient à attracteur ponctuel (le fond de la cuvette).

        Je n’ai qu’une vague idée du programme ANELLA mais ce qui me semble important ce n’est pas la descente selon la plus grande pente indiquée par le gradient de potentiel jusqu’au fond d’un puits de potentiel, mais ce sont les modifications du paysage épigénétique de l’interlocuteur que cette descente entraîne, modifications qui « excitent » ce dernier et le conduisent à continuer la conversation (selon le même principe).

        Un problème fondamental est celui de la stabilité structurelle des processus d’apparition, de disparition, de fusion ou de scission des cuvettes de potentiel. Pour moi, faute de cette stabilité structurelle, le dialogue ne pourra être qu’inintelligible. Aussi il me semble que ANELLA ne peut fonctionner correctement que si l’un des deux interlocuteurs est un humain car la stabilité structurelle de ces processus est implicitement inscrite dans notre langage naturel; autrement dit je pense qu’ANELLA ne peut fonctionner lorsque ce sont deux robots « ANELLA » qui dialoguent.

        Thom a fait la liste des sept dynamiques de gradient structurellement stables les plus simples que l’on rencontre dans notre espace-temps (de codimension au plus 4), dynamiques sur lesquelles on voit, pour les plus simples, comment se modifient les cuvettes de potentiel. J’espère ne pas déformer la pensée thomienne en disant que pour lui l’embryologie animale est dirigée par une dynamique de gradient structurellement stable de grande codimension (8?), un « centre organisateur* », qui assure l’homéostasie de l’animal. Pour lui cette organisation se reflète dans le langage naturel (cf. le commentaire ci-dessus à juannessy), et pour moi cette organisation doit transparaître dans l’IN.

        * je ne sais pas si ce centre organisateur est auto-organisateur (en un sens à préciser…).

    2. Bien vu ! On n’est pas proche de créer des robots qui ressemblent à l’image grandiose que nous nous sommes faits de nous-mêmes mais on est très près d’avoir des robots qui marchent de la manière dont nous fonctionnons vraiment.

      1. Si notre volonté, nos intentions (et j’imagine nos sentiments ainsi que notre bonheur ou malheur) ne sont que des artefacts, il n’y a pas à s’inquiéter de se qui peut nous arriver, non? Que de robots prennent le dessus ou non, notre volonté de nous en sortir n’étant qu’un artefact, quelle importance?
        Je fais juste un peut de provocation pour insister sur le fait que les robots que nous avons ne montrent pas de signe d’artefact d’intentions. Le jour des machines donnerons de signes d’artefacts de volonté, il faudra surveiller ça de près, mais ce n’est pas sur que ça arrive. L’exemple de la vidéo est proche des réseaux de neurones que je manie parfois dans mon travail: des algorithmes d’optimisations performants, mais sans aucun artefact d’intention ou volonté. Ça viendra peut être, il n’y a aucun exemple troublant à ce jour.

      2. @PJ
        Pas mal le coup du serpent sauf que certains sujets qui ont vu ces séquences au ciné, à la télé où in live auront la sagesse de ne pas se mettre en danger et sans que leur bras ait « vécu » cette expérience .
        @Juannessy
        Merci d’avoir signalé l’article de It-Expertise dont j’avais connaissance avant de donner mes arguments datant de 30 ans !

      3. « qui ont vu ces séquences au ciné, à la télé où in live auront la sagesse de ne pas se mettre en danger // et sans que leur bras ait « vécu » cette expérience . »
        Je crois que la 1ere partie de cette proposition ne colle pas avec la 2ième.

  7. Ce vous expliquez Paul à propos du serpent est un mécanisme réflexe qui passe par le cerveau reptilien (justement) et ou la conscience n’a rien à dire (et heureusement)

    Mais la conscience réflexive c’est autre chose (je suis conscient de l’objet de mon désir et conscient d’être désirant (d’avoir un désir)), cela met en jeu le cortex frontal (et bien d’autres structures dont une mémoire autobiographique…)

    Vous en déduisez que la « conscience » n’est pas propre à l’homme, ni même aux animaux « supérieurs »
    C’est un peu rapide, trop schématique (et à mon avis prématuré) comme conclusion.
    En tous cas on ne voit pas de liens de cause à effet, et ce n’est pas du tout l’avis d’une majorité de neurobiologistes
    Décidément, vous aimez bien l’hétérodoxie 🙂

      1. Je pense au bouquin de Chris Frith
        « Comment le cerveau crée notre univers mental »

        Il faudrait développer.
        J’ai l’impression que les neurosciences avancent de leur coté et que les ingénieurs en programmation (y compris en IA) avancent de leur coté mais que les passerelles sont fragiles et mal bâties ce qui engendre des incompréhensions de part et d’autre (et au pire des anathèmes).
        En plus certains physiciens s’en mêlent (et s’emmêlent)

        Gerald Edelman était très intéressé par le rapprochement des deux disciplines mais il doit être vieux maintenant et je n’ai pas suivi ses travaux

  8. Paul Jorion m’a conseillé un jour de regarder la série « Real Humains ».
    J’ai gardé en mémoire cette anecdote (c’est dans les premiers épisodes) :
    Un robot « ménager » arrive dans une famille. (Ces robots ressemblent physiquement comme deux gouttes d’eau à des êtres humains).
    Les enfants (ados) se mettent à mal lui parler. A lui donner des ordres « comme à un chien », j’ai envie de dire… Alors la mère, qui était au départ très réfractaire à l’arrivée de la machine, dit aux enfants (je cite de mémoire) :
    « – A partir de maintenant, vous allez respecter ce robot, vous cesserez de mal lui parler.
    – Mais pourquoi, C’est qu’une machine !
    – Par dignité. »
    Et dans le contexte de la série, cette réaction étonnante apparaît comme parfaitement logique : les enfants effectivement devenaient indignes d’eux mêmes à maltraiter ce « pauvre » robot.

    Je n’ai jamais trouvé manière plus percutante de décrire le « lien » qui nous relie nécessairement aux « choses » qui nous entourent, et à travers lesquelles nous prolongeons notre être propre. Je pense que le temps est proche où une nouvelle Brigitte Bardot viendra défendre « l’association de protection des robots ».
    Lecteur, ne ris pas tout de suite. Je pense qu’il faudra prendre au sérieux la nouvelle Brigitte. Parce que ce que ça protègera, au fond, c’est nous mêmes. Notre humanité contre (notre) barbarie.

    1. J’ajoute qu’on pourrait résumer la chose ainsi : le « droit à la dignité » existe pour les objets, algorithmes ou animaux dans l’exacte proportion selon laquelle nous nous identifions à eux. (C’est pas pareil d’écraser un chien ou une bactérie).

      1. Certains réfléchissent déjà au concept de « personnalité juridique des robots » . ( voir mon lien plus haut sur les travaux conduits à polytechnique de Lausanne) .

      2. De son côté , Michel Serres ( en tous cas , c’est chez lui le premier que j’ai rencontré cette idée ) ,prêche depuis de nombreuses années pour faire du vivant un sujet ,et non pas un objet, de droit .

      3. >Juanessy
        Je préfère l’approche « Real Humains » à celle de M. Serres, parce que la condition de récit métaphorique de la série la conduit à analyser l’essentiel qui est la relation que chacun peut avoir au sujet.
        Je veux bien, le vivant sujet de droit, mais s’il faut un statut juridique à chaque bactérie, ça risque d’être compliqué…

    1. La caméra va du visage vers nous. Le symbole play va de nous vers le visage.
      (Analyse graphique uniquement !)

      1. C’est juste le contraire,c’est vous qui regardez la camera et c’est le bouton qui vous fait cliquer. Le robot Jorion est d’une nouvelle génération plus interactive et …manipulatrice.

  9. Commentaire supplémentaire pour un week-end de réflexions:
    Une étude plus approfondie montre que le Swartzy,photo de gauche,bien qu’assez populaire sur grand écrans et ayant été choisi pour gouverner la Californie il y a quelques années, a quelques faiblesses de construction notamment avec les femmes de chambre,tout comme le vieux model DSK employé naguère dans le FMI . Le model Jorion ne semble pas avoir ce défaut de fabrication – au moins je n’ai pas lu ou entendu de tels rapports – Bien que souvent ses allusions a Freud nécessitent quelques précautions. Néanmoins sous son air bon Papa il se présente comme un redoutable adversaire dans notre guerre contre la robotisation: Il aurait tendance a nous faire baisser les bras,au sens propre comme au figuré, en disant que le travail disparaît et que les robots ont déjà gagné – Que la Résistance est futile – Formule connue par ceux familiers avec les Borgs (Star Trek) –

    1. Dont acte. Bravo pour ce montage:
      L’opposition entre l’œil en tant que « caméra subjective » pour Schwarzy et en tant qu’icône d’entrée vers Paul Jorion, m’a conduit à relire le texte d’Yvan Illich « Surveiller son regard à l’âge du show » ( La perte du sens, ed. Fayard) Il y expose en résumé une histoire du regard. D’Euclide à la caméra se construit un regard subjectif si l’on considère que les rayons visuels sont émis par l’oeil – on jette un regard doux, ou méchant, ou le mauvais œil. Au Moyen Age le régime scopique scolastique conserve l’idée d’un regard actif, sans image, qui se dirige vers l’extérieur( le personnage le plus grand n’est pas le plus proche, mais le plus important) Mais la vision ne pose plus une volonté personnelle sur l’objet là où il se trouve. L’œil a désormais le pouvoir d’extraire des « universaux » [à partir] des formes que les choses émettent par leur rayonnement, et sont des « signatures » empreintes de Celui qui les éclaire. Il y aura évolution vers le perçu de valeurs objectives partageables sur les choses indépendamment du sujet individuel. A partir de la Renaissance « l’oeil est perçu comme un instrument sur le modèle de la chambre obscure » où la rétine constitue un écran d’échange entre une intelligence interne émise vers elle et les rayons lumineux émis sur ce « mur » depuis l’extérieur. Une perspective ( comme point de vue objectif choisi comme le meilleur cliché sur les choses) ouvre une symbolique des images figuratives.. Au XIX eme siécle dit Illich s’ouvre « une époque des horizons sans entraves, des points de vue indépendants de toute position » L’écran-tableau ( mur d’images symboliques, fausse fenêtre sur la nature…) devient l’image de cette interface qu’est la chose vue entre une diversité de cônes visuels possibles et une variété du rayonnement lumineux qui rend contingentes les impressions colorées, le ton des choses . Aujourd’hui sur l’écran de l’Ipad je scanne à la recherche des icones ( signes purement arbitraires) qui font signe d’ouverture à un show d’images, avec ce pouvoir magique des doigts et de la main ( digitalité) d’élargir ou resserrer la prise du vue, ouvrir ou fermer les séquences à ma guise, de me faire tout un film ou de zapper… Ma petite fille ouvre sur son écran, avec ses gestes de méduse, pour moi qui ne suis plus de son monde, des pulsations
      irisées de vie sous-marine…

  10. @ PJ
    Bonjour,
    Je ne sais pas pourquoi, mais votre « Le « pas mal » est-il là pour signaler une objection ? Si oui, laquelle ? » m’a fait penser à la machine de Turing. Ceci dit il y a des objections. Si vous retirez le bras c’est que vous savez que la morsure est dangereuse. Alors pourquoi vouloir caresser ce danger ? Par contre si vous vous brûlez accidentellement alors le mouvement du bras est réflexe. Le câblage est prévu pour ça. D’autre part si je demande à quelqu’un de me restituer tout ce qu’il a en mémoire, ce sera mission impossible. La mémoire est incompatible avec la conscience. Les souvenirs surgissent à l’occasion, par exemple, de stimuli extérieurs et ne se manifestent pas toujours par des actes. Un autre exemple : un gardien de but au hand-ball avance le bras ou la jambe dans la direction du tir de l’attaquant, bien sûr, avec quelques centièmes de secondes de retard, mais ce qu’il faut savoir, c’est qu’il prend des informations sur la position du corps, de l’avant bras et de la main au moment du tir; ça va très vite mais c’est conscient. Sinon il n’arrêterait aucun tir, sauf coup de pot.
    Et puis, avec des câblages identiques, les individus présentent des comportements et des personnalités différents. L’homme est une merveilleuse créature !

  11. Gerald Edelman, Biologie de la conscience.

    Le fait de considérer la mémoire comme une recatégorisation et les concepts comme les produits d’un cerveau qui classe ses propres activités par catégories va nous fournir les éléments nous permettant d’atteindre notre objectif : donner une description biologique de la conscience. En partant des principes de base de la TSGN*, nous avons pu relier la triade fondamentale constituée par la catégorisation perceptive, la mémoire et l’apprentissage à l’apparition de capacités conceptuelles. Remarquez cependant que nous n’avons eu besoin d’aucune hypothèse théorique supplémentaire, mais seulement de supposer qu’il se produit, au cours de l’évolution, des changements dans la morphologie cérébrale qui modifient l’organisation des connexions réentrantes. Il se trouve qu’une autre modification de la connectivité réentrante va également nous permettre de comprendre comment nous sommes devenus des êtres conscients.

    *TSGN : Théorie de la sélection des groupes neuronaux.

    Les hypothèses sur la conscience, en particulier celles des philosophes, sont innombrables. Mais la plupart d’entre elles ne forment pas ce que nous pourrions appeler des théories scientifiques bâties sur des principes, fondées sur l’observation et associées aux fonctions du cerveau et du corps. Plusieurs théories fonctionnalistes et computationnelles de la conscience ont récemment été formulées. Elles sont en général de l’un des deux types suivants : la conscience est supposée efficace ou bien considérée comme un épiphénomène. Dans le premier cas, la conscience est assimilée aux programmes superviseurs des systèmes informatiques et dans le second, à un sous-produit fascinant, mais plus ou moins inutile, des calculs.
    Cependant, aucune de ces notions ne fait directement appel à la biologie ou à la nature de l’incarnation de la conscience. Or il est évident que cela est indispensable a toute théorie de la conscience fondée sur l’évolution. Une théorie de ce genre doit en effet proposer des modèles neuronaux explicites permettant d’expliquer comment apparaît la conscience. Elle doit nécessairement expliquer comment la conscience apparaît au cours de l’évolution et du développement. Elle doit relier la conscience aux autres aspects de la vie mentale, tels la formation des concepts, la mémoire et le langage. Et elle doit décrire des tests permettant de confronter, de façon très rigoureuse, les modèles qu’elle propose aux données neurobiologiques. Ces tests devront être effectués de préférence au moyen d’expériences réelles, et au moins à travers ce que l’on appelle des Gedanken experimenten – des expériences de pensée. Dans ces dernières, toutes les propriétés postulées devront être parfaitement compatibles avec les observations scientifiques actuellement connues, quel que soit le domaine de recherches dont elles sont issues, mais, surtout, avec celles de la neurobiologie.

    Il est vrai qu’en jetant la pièce conscience à la poubelle, les difficultés théoriques de l’AI se voient singulièrement simplifiées. Réjouissons-nous. Il ne manquait plus qu’on invente une machine consciente et inconsciente à la fois, héritière de notre Å’dipe, de nos pulsions assassines envers le père et amoureuses envers la mère et qui terminerait par nous considérer comme une horde primitive dont la sélection naturelle l’aurait extrait. Ce serait qui sa mère, au fait ?

    1. Mais je pense aussi volontiers que la physique, alliée à la biologie, nous feront progresser plus vite que l ‘apport divin des mathématiques .

    2. @ Paul
      Je viens de lire votre article du mystère de la chambre chinoise et je crois bien que la conversation va mourir, après avoir suivi son gradient, dans un puits de potentiel.
      Vous m’avez convaincu (quel mot affreux con vaincu)

      1. Mais non , mais non !

        Convaincre , c’est vaincre ensemble !

        Ceci étant , il faut maintenant faire lire le « mystère de la chambre jaune » , au juge invoqué par Michel Leîs dans son réquisitoire ;

        Pour le convaincre .

      2. Comme je ne m’attarde en général que sur la fin des textes , j’ai trouvé que les trois dernières lignes étaient fortes .

        Du vécu de l’intérieur ?!…

  12. Une blonde .

    Si naissent des jumeaux , elle demandera qui est le père du second marmot .

    ( Qu’est ce que je vais déclencher !)

      1. ça n’est pas à elle que je pensais , mais si vous le dîtes ….

        ( PS : j’espère pour mon intégrité physique qu’il n’y a pas de blondes dans l’assistance , et même sans ça, je ne suis plus qu’à moitié tranquille ) .

  13. On va donc attendre la réponse des trois Google-men .

    Mais on aurait bien aimé avoir des réponses d’autres sites de recherche sur le sujet .

    Sinon Vigneron va dire que Paul Jorion est à la solde de Google .

  14. Le « corps » semble secondaire dans cette approche (un input sensoriel au systeme), alors qu’il est central a celui-ci. Il me semble que d’autres chercheurs prennent plus en compte cet aspect central du « corps ».

    http://www.internetactu.net/2014/09/25/les-metaphores-aux-sources-de-la-pensee/

    « Pour ce chercheur (Lakoff), en effet, toute notre pensée est conditionnée par notre corps : elle est incarnée. Les chercheurs parlent d’ailleurs de “cognition incarnée” ou embodied cognition.

    Lakoff ne s’est pas imposé facilement. Au début de sa carrière, il s’est heurté à Noam Chomsky et à ses disciples qui considèrent le langage comme un système formel de relations câblées dans le cerveau. »

    De plus, cette perspective (que je qualifirai « sans corps ») decrit un fonctionnement « reactif » de l’individu, cela induit logiquement qu’il n’y a aucun « libre-arbitre » (il n’y en a pas besoin dans cette perpective). Spinoza a d’ailleurs deja explicite cela des le XVIIe siecle: les hommes se croient libre, car ils ont conscience de leur actions, et non des causes qui les determinent.
    Et c’est fort juste, mais c’est ignorer la « liberte » qui est lie a l’adhesion au « 3eme ordre de connaissance », l’intuition. En effet quel est le status d’un acte « creatif » dans cette representation ? Qu’est ce que la « creativite » dans cette perspective ? Elle me semble comme nie, ou plutot reduite a une dynamique d’affect pour evaquer des trop pleins…juste faite pour descendre des montagnes…pour rester confrome au cadre du systeme proposé.

    Cela propose un systeme tres coherent, mais cela demande de passer un certain nombre de choses sous silence…par exemple, l’intuition, et « le langage oubliée » tel qu’un Erich Fromm l’a tres bien explique (http://fr.m.wikipedia.org/wiki/Erich_Fromm).

  15. sur twitter #enmi14 Simondon: nous sommes des machines différentes car imprévisibles. Imprévisibilité menacée par la « vérité » des datas ++

  16. Les robots, l’intelligence artificielle et en particulier le « machine learning » presentent de grands dangers pour l’humanite par les perturbations de l’organisation qu’elles vont entrainer, diminution du travail, neo-luddisme, la je suis d’accord. Par contre, de la a penser que les machines pourraient nous survivre, comme les mammiferes ont survecu aux dinosaures lors de la derniere extinction de masse, je reste plus prudent. Bien sur, certaines machines sont en passe de devenir plus imaginatives et d’avoir de plus grandes capacites d’apprendre que nous. Mais notre adaptation aux conditions de vie sur terre ne sont pas liees a notre intelligence. Elle sont liees a notre capacite de nous reproduire et a survivre a partir des choses les plus abondantes, de l’eau, de l’air, des sucres vegetaux. Tandis que pour produire le moindre microprocesseur, il faut une usine et des quantites d’energie enormes, des materiaux provenant de sites dissemines dans le monde entier. Ces machines sont donc loin pouvoir de se reproduire de maniere aussi elegante que le vivant, ni d’etre aussi resilientes et donc durables. Mais qui sait.

    Les tenants de la singularite souffrent du biais d’optimisme selon moi, ils voient la loi de Moore, se prolonger indefiniment suivant sa loi geometrique, alors que la caracteristique des lois geometriques dans le monde reel, c’est d’atteindre tres rapidement des limites physiques. Tout biologiste ayant manipule des boites de Petri connait bien le phenomene.

    Bref, je reste plus inquiet de la betise naturelle que de l’intelligence naturelle. D’autant que les dangers qui menacent notre survie en ce siecle sont nombreux et varies. Donc, l’intelligence artificielle est pour moi un danger parmi d’autre pour notre survie.

    Paul Jorion n’a t’il pas dit: « les peurs fantasmatiques des hommes ont joué un rôle plus décisif dans leur histoire que leur évaluation objective des dangers qui les menaçaient réellement. »

    😉

    Je viens de lire le mystere de la chambre chinoise, qui m’a rappelee d’autres lectures.. En vrac:

    Spinoza, pour la fin du libre arbitre https://www.youtube.com/watch?feature=player_detailpage&v=87sEeVj057Q#t=904.

    Festinger, pour la dissonance cognitive, qui me fait penser au gradient que nos consciences tendent a minimiser.

    Kahneman, dont les « slow and fast thinking » ressemblent a la division corps / imagination, mais surtout pour le « sense of agency », l’attribution causale qui nous donne l’illusion d’etre maitres de nos actes.

    Je crois que je vais commencer « Principes des systemes intelligents »

  17. Ce n’est pas la honte prométhéenne de Günther Anders ?!
    Dans les années 50, Günther Anders avait formulé 3 thèses principales face au progrès technologique dans son œuvre « L’Obsolescence de l’homme » :  » que nous ne sommes pas de taille à nous mesurer à la perfection de nos produits ; que ce que nous produisons excède notre capacité de représentation et notre responsabilité ; et que nous ne croyons que ce qu’on nous autorise à croire – ou plutôt ce que nous devons croire, ou plutôt ce qu’il faut impérativement que nous croyions ».

Les commentaires sont fermés.