35 réflexions sur « Qu’est-ce qu’une IA comprend de ce qu’elle voit ? »

  1. Il y a quelques mois, vous avez attiré notre attention sur un exposé de Naftali Thishby, analysant le processus de compression / généralisation des données, à l’oeuvre dans un réseau de neurones formels profond.

    Ce qui m’a le plus impressionné, c’est que rien, dans son analyse, ne se référait à une modalité particulière « hardware », qu’il s’agisse d’un cerveau, ou de tel ou tel type d’implémentation artificielle. Il n’était question que d’entropie et de rapport signal/bruit se propageant dans un réseau.

    Autrement dit, ce qui nous était suggéré, c’est que le type d’intelligence que Thishby examinait n’était pas une propriété d’un cerveau, d’une machine, ou de tel ou tel artefact, mais une propriété des données elles-mêmes, lorsqu’elles sont mises en relation avec ce qui n’est jamais qu’un autre ordre de données : le réseau de neurones formels. C’est de l’information qui discute avec de l’information, autrement dit, une propriété de relativité de l’information.

    C’est une proposition surprenante, car nous sommes habitués à attribuer l’intelligence à quelqu’un, et depuis peu, à quelque chose.

    Votre idée d’introduire une dynamique d’affect joue pour moi le rôle d’une « transformation de phase », qui fait émerger, dans le dialogue de l’information avec l’information, quelque chose de neuf : un sujet. C’est la modalité par laquelle le jeu relationnel de l’information pure se transforme en autre chose, de plus proche de ce que nous avons coutume d’appeler l’intelligence.

    Des choses sans doute profondes, me semblent rôder autour du rapprochement de ces concepts : Relativité informationnelle, Sujet, Emergence.

    J’intuitionne que le travail de Thishby nous met sur la voie d’une théorie générale de l’émergence, qui pourrait concerner aussi la physique, et qui aurait pour fondement la relativité consubstantielle à toute information. Malheureusement, je ne suis pas qualifié pour développer cette intuition…

    1. Oui, c’est tout à fait cela : le deep learning que l’on voit à l’oeuvre là « flotte » littéralement, sans être ancré à un sujet. Or un sujet doit déterminer – c’est une autre chose à laquelle le chapitre 21 de Principes des systèmes intelligents (1989) est consacré – le degré de son adhésion aux choses qu’il rapporte. De l’adhésion totale : j’y mets ma vie en gage, à l’adhésion minimale : je me contente ici de citer une chose entendue.

      1. C’est la différence entre IA forte et faible. Une IA forte mettra en oeuvre des stratégies qui servent sa propre feuille de route, les objectifs qu’elle s’assigne, son propre système de « valeurs ».

      2. @JA :

        Il y a donc inégalité chez l’IA et l’énergie , comme « chez nous » .

        A quand la proclamation des droits de l’IA ?

      3. C’est la
        différence entre IA forte et faible. Une IA forte mettra en
        oeuvre des stratégies qui servent sa propre feuille de route,
        les objectifs qu’elle s’assigne, son propre système
        de « valeurs ».

        Je
        suppose que le terme « valeurs » renvoie ici à
        l’existence possible d’une dynamique d’affects que Paul recommande
        pour surmonter l’effet hallucinatoire que les IA n’ont pas l’air de
        dépasser ni de surmonter. La valeur serait alors ce qui
        conduirait l’intelligence de son effet à son sujet. La valeur
        serait « le degré de son adhésion aux
        choses qu’il [le sujet] rapporte ». La valeur serait
        détermination de l’effet produit de l’intelligence par le
        sujet. L’intelligence humaine ou artificielle, forte ou faible, nous
        plonge dans la question du sujet comme cause de la valeur qui devient
        l’affection d’un sujet par un autre indépendamment de
        l’artifice ou de la nature.
        Si la valeur mesure un gradiant « de
        l’adhésion totale : j’y mets ma vie en gage, à
        l’adhésion minimale : je me contente ici de citer une
        chose entendue », alors la valeur matérialise un
        repérage intelligent des sujets différents et distincts
        les uns par rapport aux autres, les singuliers par rapport à
        des pluralités. Intelligent est ici le sujet qui acquiert la
        possibilité efficiente de se situer par lui-même et non
        par une aliénation en rapport à d’autres sujets qu’il
        affecte ou qui l’affectent. L’affection réciproque des sujets
        mesurable par l’intelligence est la valeur du prix d’un sujet dans la
        subjectivité d’un autre sujet. Est-il alors logique ou
        nécessaire qu’une IA parce que forte s’enferme dans son
        système propre d’assignation ? Le prix d’un objectif
        produit par une IA est-il pensable par le seul moteur de cette IA ?
        Une IA a-t-elle une force quelconque qui n’a pas ou qui se coupe de
        tout affect de subjectivité externe à elle-même ?
        Bref une IA est-elle forte si elle
        n’est pas réductible à sa faiblesse ? Et
        l’artifice existe-t-il encore s’il peut s’émanciper du sujet
        qui le domine par la relation affective directe entre des sujets qui
        se délimitent donc s’augmentent en se réduisant
        réciproquement ?

      4. C’est la différence entre IA forte et faible. Une IA forte mettra en oeuvre des stratégies qui servent sa propre feuille de route, les objectifs qu’elle s’assigne, son propre système de « valeurs ».
        Je suppose que le terme
        « valeurs » renvoie ici à l’existence possible d’une dynamique d’affects que Paul recommande pour surmonter l’effet hallucinatoire que les IA n’ont pas l’air de dépasser ni de surmonter. La valeur serait alors ce qui conduirait l’intelligence de son effet à son sujet. La valeur serait « le degré de son adhésion aux choses qu’il [le sujet] rapporte ». La valeur serait détermination de l’effet produit de l’intelligence par le sujet. L’intelligence humaine ou artificielle, forte ou faible, nous plonge dans la question du sujet comme cause de la valeur qui devient l’affection d’un sujet par un autre indépendamment de l’artifice ou de la nature.
        Si la valeur mesure un gradiant « de l’adhésion totale : j’y mets ma vie en gage, à l’adhésion minimale : je me contente ici de citer une chose entendue », alors la valeur matérialise un repérage intelligent des sujets différents et distincts les uns par rapport aux autres, les singuliers par rapport à des pluralités.
        Intelligent est ici le sujet qui acquiert la possibilité
        efficiente de se situer par lui-même et non par une aliénation en rapport à d’autres sujets qu’il affecte ou qui l’affectent.
        L’affection réciproque des sujets mesurable par
        l’intelligence est la valeur du prix d’un sujet dans la subjectivité d’un autre sujet. Est-il alors logique ou nécessaire qu’une IA parce que forte s’enferme dans son système propre d’assignation ? Le prix d’un objectif produit par une IA est-il pensable par le seul moteur de cette IA ? Une IA a-t-elle une force quelconque qui n’a pas ou qui se coupe de tout affect de subjectivité externe à elle-ême ?
        Bref une IA est-elle forte si elle n’est pas réductible à sa faiblesse ? Et l’artifice existe-t-il encore s’il peut s’émanciper du sujet qui le domine par la relation affective directe entre des sujets qui se délimitent donc s’augmentent en se réduisant réciproquement ?

      5. Y a-t-il finalement un terme plus mal cerné que celui ‘d’affect » ?

        Ente affectation et affection , il n’y a presque pas de place dans un dictionnaire .

        Et comme de plus , l’affectation peut être mensonge , entre affectif et cognitif , je vais choisir le « cognitif » , comme le syndicaliste CGT armé d’une massue , qu’il m’est déjà arrivé de mettre en scène ici, dans la relation d’un dessin représentant une assemblée du personnel où le DRH énonce : « notre méthode s’appuie sur l’affectif et le cognitif . »

      6. Quand certaines boites noires deviennent très complexes on a vite fait de tenir à leur encontre des raisonnement qui se rattachent à la  » pensée magique « 

    2. Ben elle comprend rien, c’était pas encore évident? Quant à la vieille mythologie de l’émergence… Hostia! pas un peu fatigué de sortir ce lapin?

  2. On ose à peine imaginer le frère qui mangera son chapeau. J’ai bien dit le frère. Puis le père et la mère. Que tout ce petit monde crève, personnellement ça ne me fait ni chaud ni froid. Pire encore, je vais prendre la fâcheuse pente de la mythologie pour survivre.

  3. « We are sorry, something went wrong ». Est-ce que que l’IA est le « We », ou est-ce que l’IA est le « something » ? That is the question ! ( affaire à suivre…).

    1. À mon avis c’est le réel ce quelque chose, même une intelligence artificielle ne peut pas, du moins encore, saisir sa complexité ! À ce réel.

      Par contre si elle se développe, intelligence artificielle va vraiment envoyer du lourd.

      Donnons-lui les clés avant trop de -monter des eaux de guerres de centrales qui pètent et de pauvres qui se révoltent.
      Par contre si elle se développe, l’intelligence artificielle va vraiment envoyer du lourd.
      Donnons-lui les clés du bon sens et de la saine direction avant trop de monter des eaux de guerre deux centrales nucléaires qui pètent et de pauvres qui se révoltent.

      Si ça devient trop tard , Ça voudra dire, que ce seront les nantis, les clés des nantis et les nantis ont souvent des valeurs qui sentent la bouse de vache.

      PS. Même si j’aime c’est odeur 😀 là c’est péjoratif.

      1. La plupart des illusions visuelles résultent d’un traitement bayésien « pré-câblé » dans les premières couches de neurones du cortex visuel.

        L’évolution nous a équipés pour économiser du travail de traitement, en intégrant dans les structures neuronales que, pour prendre un exemple, la lumière du soleil vient en général du haut. Nous n’avons pas à reconstruire cette probabilité à chaque perception visuelle, mais nous le payons parfois d’une illusion, quand l’hypothèse probable qu’avait retenue l’évolution, est mise en défaut.

        Stanislas Dehaene explique ça très bien dans son cours au collège de France :
        http://www.college-de-france.fr/site/stanislas-dehaene/course-2011-2012.htm

      2. Ça doit être une qualité ( ou une tare ) requise pour faire un bon modérateur !

        Pour moi , ça s’entortille .

        Mais ça n’est pas désagréable .

      3. Par contre , je me suis « aperçu » que j’arrive à retrouver les quatre cercles concentriques si je quitte assez largement la vision  » en face » .

        Ce qui , à notre échelle , voudrait dire qu’on voit la vérité de face et la réalité de biais .

        Après la ruse de la raison , la ruse du regard oblique !

      4. Tout ceci me remet en tête une technique de contrôle que nous employions en visite de sécurité des remontées mécaniques , pour lesquelles il vaut mieux ne pas avoir d’hallucination comme pour toutes les activités « sensibles » : principe du « double regard » , en jouant sur la multiplication des natures d’observateurs et de celle des méthodes et outils d’observation .

        Il y a pas mal de cas où , paradoxalement , il vaut mieux « voir double » .

      5. N’importe quoi ce sont des carrés ! Non mais regarde ! Pleins de petits carrés, disposés en forme de cercles . Tu parles d’une bonne spatialisation visuelle…

      6. Ah CloClo, tu nous avais « presque » manqué… oui, le « truc » c’était bien de voir que ce sont des petits carrés, c’était ça le piège ! Moi qui pensais bêtement que les gens allaient imaginer que c’était un escargot plutôt que des cercles concentriques. Raté !

      7. Clo clo , c’est mieux qu’une IA et un cerveau humain réunis : il vient de résoudre la quadrature du cercle .

      8. Il ne lui reste plus qu’à passer du carré au cube pour faire plus fort qu’une IA en 0,37 seconde .

        Au passage il faut que les éléments du Rubik’s cube soient méchamment bien usinés pour ne pas se coincer à cette vitesse .

  4. Est ce que les concepteurs en IA travaillent sur une « machine » IA destinée à développer-perfectionner les futures machines IA ?

    Peut on imaginer une IA qui, nourrie (en big data) de toutes les recherches sur le sujet, pourrait faire avancer drastiquement les recherches le cancer, le sida … entre autres et par exemple ?

    1. Drastiquement peut être pas ( surtout si on se souvient que « drame » a la même étymologie grecque ) , mais ça pourrait être une voie pas trop conne .

  5. L’article de WIRED montre deux skieurs sur une crête, et le problème est que l’I.A. est sûre à 91% qu’il s’agit d’un chien. Or, nous, observateurs humains, sommes tous d’accord sur les indices concordants de l’image, qui sont parfaitement cohérents avec notre représentation élaborée (avec lois physiques !) du réel ! Ce sont bien des skieurs ! Pauvre I.A. hallucinée !…

    Ce que j’attend avec une curiosité teintée d’ironie, c’est le moment ou une I.A. très avancée, dûment affectée, et très intelligente, nous démontrera que c’est bien un chien. Ou plus précisément, qu’elle est incomparablement mieux fondée, dans son chemin informationnel à elle, avec ses émergences cognitives à elle, inimaginablement élaborées ( et incluant des lois physiques itou, plus profondes, plus complètes, plus belles !), pour dire que c’est un chien, que nous pour dire que c’est « le réel » : des skieurs.

    Ce que l’I.A. pourrait nous apprendre, c’est que notre confiance dans « le réel » n’est qu’une très longue histoire informationnelle d’émergences cognitives enchâssées, contingente, qui nous rend sensibles à des hallucinations comme le temps, la localité, la causalité, etc…

    1. Pourquoi ce parti pris idéaliste ? Vous mettez du cognitif au début, là où il y a de la sensation, bref de la bidoche, du contrasté, de l’obscur, du nuancé, de l’insondable. Avec de tels points de départ : bon courage. L’IA dite forte : le gargarisme à la mode, de quoi mousser un quart d’heure. Un très bon antidote, exemple entre dix mille autres possibles : « pour un oui pour un non » de N. Sarraute, écouté ce matin en briquant la voiture (et encore… manque une dimension pulsionnelle dans l’échange… mais ce pelage, ce grattage à presque l’os du soi donc de l’autre (sans majuscule,please), c’est cela l’inatteignable subjectivité justement parce que perdu dans les sables métastable mouvants d’un dehors, donc d’un du corps (lui-même rien de consistant par soi, traversé et enchâssé dans un milieu/monde ambiant) Et justement je pensais à Jorion et à ses drôles d’aveuglements, je veux dire ses drôles de convictions. Je me disais, éponge en main…ben tu peux t’accrocher, mon Coco.

  6. Pour éviter un malentendu, lisez « une très longue histoire d’émergences enchâssées », plutôt que « d’émergences cognitives enchâssées ».

    Dans mon intuition, l’aspect cognitif n’intervient qu’à la fin de cette très longue histoire informationnelle, dont il nous faut comprendre les étapes, par l’élaboration d’une Théorie Générale de l’Emergence…

    1. Thomas d’Aquin dirait que la connaissance c’est un « medium » entre perception sensible et objet , entre vérité et réalité .

      C’est le paradis des « signes » que j’évoquais avec Bain il y a peu .

      Il est remarquable d’ailleurs que ce billet soit une sorte de suspicion d’un mouvement privilégié « signe vers compréhension  » , plutôt que « compréhension ( ou pour le moins imagination) vers signe « .

      Alors que les deux mouvements doivent sans doute coexister et que c’est « le temps , qui règle les horloges » .

  7. Par contre, toujours aucun biais cognitifs de la part de ces « cerveaux » implémentés ?
    Jamais un ordi n’aura l’inée ou l’idée d’un cerveau humain !

  8. Euh, la question posée à l’IA est « comment ces parties (les pixels) font-elles un tout (l’IA a emmagasiné des tas de « tout »).
    Si on lui demande « comment ce tout fait-il des parties » ? il y a une petite chance que soient découpées des morceaux, par exemple des bandes verticales, au sein desquelles apparaissent les deux skieurs. Cela demande de fait une étape supplémentaire pour conclure car on pourrait couper les skieurs et y voir des vêtements etc.

    La dynamique d’affect , si on essaye d’exprimer le besoin ci-dessus sous cette forme, joue alors sur le caractère « attendu » de l’exercice (l’image contient deux skieurs et c’est une image « bien reconnaissable », donc je ne la coupe pas en morceaux), me semble-t-il, mais je me sens en sables mouvants.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.