Qu’est-ce qu’une IA comprend de ce qu’elle voit ?

Ouvert aux commentaires.

L’article dans Wired : L’IA a un problème d’hallucination difficile à résoudre. (La solution ? Simuler une dynamique d’affect cf. Principes des systèmes intelligents).

Partager :

35 réponses à “Qu’est-ce qu’une IA comprend de ce qu’elle voit ?”

  1. Avatar de Marc PELTIER
    Marc PELTIER

    Il y a quelques mois, vous avez attiré notre attention sur un exposé de Naftali Thishby, analysant le processus de compression / généralisation des données, à l’oeuvre dans un réseau de neurones formels profond.

    Ce qui m’a le plus impressionné, c’est que rien, dans son analyse, ne se référait à une modalité particulière « hardware », qu’il s’agisse d’un cerveau, ou de tel ou tel type d’implémentation artificielle. Il n’était question que d’entropie et de rapport signal/bruit se propageant dans un réseau.

    Autrement dit, ce qui nous était suggéré, c’est que le type d’intelligence que Thishby examinait n’était pas une propriété d’un cerveau, d’une machine, ou de tel ou tel artefact, mais une propriété des données elles-mêmes, lorsqu’elles sont mises en relation avec ce qui n’est jamais qu’un autre ordre de données : le réseau de neurones formels. C’est de l’information qui discute avec de l’information, autrement dit, une propriété de relativité de l’information.

    C’est une proposition surprenante, car nous sommes habitués à attribuer l’intelligence à quelqu’un, et depuis peu, à quelque chose.

    Votre idée d’introduire une dynamique d’affect joue pour moi le rôle d’une « transformation de phase », qui fait émerger, dans le dialogue de l’information avec l’information, quelque chose de neuf : un sujet. C’est la modalité par laquelle le jeu relationnel de l’information pure se transforme en autre chose, de plus proche de ce que nous avons coutume d’appeler l’intelligence.

    Des choses sans doute profondes, me semblent rôder autour du rapprochement de ces concepts : Relativité informationnelle, Sujet, Emergence.

    J’intuitionne que le travail de Thishby nous met sur la voie d’une théorie générale de l’émergence, qui pourrait concerner aussi la physique, et qui aurait pour fondement la relativité consubstantielle à toute information. Malheureusement, je ne suis pas qualifié pour développer cette intuition…

    1. Avatar de Paul Jorion

      Oui, c’est tout à fait cela : le deep learning que l’on voit à l’oeuvre là « flotte » littéralement, sans être ancré à un sujet. Or un sujet doit déterminer – c’est une autre chose à laquelle le chapitre 21 de Principes des systèmes intelligents (1989) est consacré – le degré de son adhésion aux choses qu’il rapporte. De l’adhésion totale : j’y mets ma vie en gage, à l’adhésion minimale : je me contente ici de citer une chose entendue.

      1. Avatar de Julien Alexandre

        C’est la différence entre IA forte et faible. Une IA forte mettra en oeuvre des stratégies qui servent sa propre feuille de route, les objectifs qu’elle s’assigne, son propre système de « valeurs ».

      2. Avatar de Juannessy
        Juannessy

        @JA :

        Il y a donc inégalité chez l’IA et l’énergie , comme « chez nous » .

        A quand la proclamation des droits de l’IA ?

      3. Avatar de Pierre Sarton du Jonchay

        C’est la
        différence entre IA forte et faible. Une IA forte mettra en
        oeuvre des stratégies qui servent sa propre feuille de route,
        les objectifs qu’elle s’assigne, son propre système
        de « valeurs ».

        Je
        suppose que le terme « valeurs » renvoie ici à
        l’existence possible d’une dynamique d’affects que Paul recommande
        pour surmonter l’effet hallucinatoire que les IA n’ont pas l’air de
        dépasser ni de surmonter. La valeur serait alors ce qui
        conduirait l’intelligence de son effet à son sujet. La valeur
        serait « le degré de son adhésion aux
        choses qu’il [le sujet] rapporte ». La valeur serait
        détermination de l’effet produit de l’intelligence par le
        sujet. L’intelligence humaine ou artificielle, forte ou faible, nous
        plonge dans la question du sujet comme cause de la valeur qui devient
        l’affection d’un sujet par un autre indépendamment de
        l’artifice ou de la nature.
        Si la valeur mesure un gradiant « de
        l’adhésion totale : j’y mets ma vie en gage, à
        l’adhésion minimale : je me contente ici de citer une
        chose entendue », alors la valeur matérialise un
        repérage intelligent des sujets différents et distincts
        les uns par rapport aux autres, les singuliers par rapport à
        des pluralités. Intelligent est ici le sujet qui acquiert la
        possibilité efficiente de se situer par lui-même et non
        par une aliénation en rapport à d’autres sujets qu’il
        affecte ou qui l’affectent. L’affection réciproque des sujets
        mesurable par l’intelligence est la valeur du prix d’un sujet dans la
        subjectivité d’un autre sujet. Est-il alors logique ou
        nécessaire qu’une IA parce que forte s’enferme dans son
        système propre d’assignation ? Le prix d’un objectif
        produit par une IA est-il pensable par le seul moteur de cette IA ?
        Une IA a-t-elle une force quelconque qui n’a pas ou qui se coupe de
        tout affect de subjectivité externe à elle-même ?
        Bref une IA est-elle forte si elle
        n’est pas réductible à sa faiblesse ? Et
        l’artifice existe-t-il encore s’il peut s’émanciper du sujet
        qui le domine par la relation affective directe entre des sujets qui
        se délimitent donc s’augmentent en se réduisant
        réciproquement ?

      4. Avatar de Pierre Sarton du Jonchay

        C’est la différence entre IA forte et faible. Une IA forte mettra en oeuvre des stratégies qui servent sa propre feuille de route, les objectifs qu’elle s’assigne, son propre système de « valeurs ».
        Je suppose que le terme
        « valeurs » renvoie ici à l’existence possible d’une dynamique d’affects que Paul recommande pour surmonter l’effet hallucinatoire que les IA n’ont pas l’air de dépasser ni de surmonter. La valeur serait alors ce qui conduirait l’intelligence de son effet à son sujet. La valeur serait « le degré de son adhésion aux choses qu’il [le sujet] rapporte ». La valeur serait détermination de l’effet produit de l’intelligence par le sujet. L’intelligence humaine ou artificielle, forte ou faible, nous plonge dans la question du sujet comme cause de la valeur qui devient l’affection d’un sujet par un autre indépendamment de l’artifice ou de la nature.
        Si la valeur mesure un gradiant « de l’adhésion totale : j’y mets ma vie en gage, à l’adhésion minimale : je me contente ici de citer une chose entendue », alors la valeur matérialise un repérage intelligent des sujets différents et distincts les uns par rapport aux autres, les singuliers par rapport à des pluralités.
        Intelligent est ici le sujet qui acquiert la possibilité
        efficiente de se situer par lui-même et non par une aliénation en rapport à d’autres sujets qu’il affecte ou qui l’affectent.
        L’affection réciproque des sujets mesurable par
        l’intelligence est la valeur du prix d’un sujet dans la subjectivité d’un autre sujet. Est-il alors logique ou nécessaire qu’une IA parce que forte s’enferme dans son système propre d’assignation ? Le prix d’un objectif produit par une IA est-il pensable par le seul moteur de cette IA ? Une IA a-t-elle une force quelconque qui n’a pas ou qui se coupe de tout affect de subjectivité externe à elle-ême ?
        Bref une IA est-elle forte si elle n’est pas réductible à sa faiblesse ? Et l’artifice existe-t-il encore s’il peut s’émanciper du sujet qui le domine par la relation affective directe entre des sujets qui se délimitent donc s’augmentent en se réduisant réciproquement ?

      5. Avatar de Juannessy
        Juannessy

        Y a-t-il finalement un terme plus mal cerné que celui ‘d’affect » ?

        Ente affectation et affection , il n’y a presque pas de place dans un dictionnaire .

        Et comme de plus , l’affectation peut être mensonge , entre affectif et cognitif , je vais choisir le « cognitif » , comme le syndicaliste CGT armé d’une massue , qu’il m’est déjà arrivé de mettre en scène ici, dans la relation d’un dessin représentant une assemblée du personnel où le DRH énonce : « notre méthode s’appuie sur l’affectif et le cognitif . »

      6. Avatar de siecle
        siecle

        Quand certaines boites noires deviennent très complexes on a vite fait de tenir à leur encontre des raisonnement qui se rattachent à la  » pensée magique « 

    2. Avatar de Jicé
      Jicé

      Ben elle comprend rien, c’était pas encore évident? Quant à la vieille mythologie de l’émergence… Hostia! pas un peu fatigué de sortir ce lapin?

  2. Avatar de octobre
    octobre

    On ose à peine imaginer le frère qui mangera son chapeau. J’ai bien dit le frère. Puis le père et la mère. Que tout ce petit monde crève, personnellement ça ne me fait ni chaud ni froid. Pire encore, je vais prendre la fâcheuse pente de la mythologie pour survivre.

  3. Avatar de Emmanuel

    « We are sorry, something went wrong ». Est-ce que que l’IA est le « We », ou est-ce que l’IA est le « something » ? That is the question ! ( affaire à suivre…).

    1. Avatar de Lucas
      Lucas

      À mon avis c’est le réel ce quelque chose, même une intelligence artificielle ne peut pas, du moins encore, saisir sa complexité ! À ce réel.

      Par contre si elle se développe, intelligence artificielle va vraiment envoyer du lourd.

      Donnons-lui les clés avant trop de -monter des eaux de guerres de centrales qui pètent et de pauvres qui se révoltent.
      Par contre si elle se développe, l’intelligence artificielle va vraiment envoyer du lourd.
      Donnons-lui les clés du bon sens et de la saine direction avant trop de monter des eaux de guerre deux centrales nucléaires qui pètent et de pauvres qui se révoltent.

      Si ça devient trop tard , Ça voudra dire, que ce seront les nantis, les clés des nantis et les nantis ont souvent des valeurs qui sentent la bouse de vache.

      PS. Même si j’aime c’est odeur 😀 là c’est péjoratif.

  4. Avatar de Lucas
    Lucas

    Au fait Monsieur, pourquoi Big Brother Mangera son chapeau ?

    1. Avatar de PHILGILL
      PHILGILL

      Mangera-t-il son chapeau, ou est-ce sa conscience qui le rongera ?
      https://youtu.be/9fs6hlOczcs
      Hum! Et que risque-t-il d’arriver s’il oublie son parapluie ?

  5. Avatar de ajave
    ajave

    L’humain possède probablement ce que vous appelez une dynamique d’affect, il est pourtant sujet à des hallucinations – hallucinez par exemple en regardant la page 26 de ce document http://www.iro.umontreal.ca/~memisevr/dlss2015/goodfellow_adv.pdf. Pas sûr que cette dynamique d’affect soit la solution à tous les maux de l’IA.

    1. Avatar de Paul Jorion

      Il s’agit des limitations de notre propre système nerveux. Ça ne prouve rien, ni dans un sens ni dans l’autre, quant à l’IA.

    2. Avatar de Julien Alexandre

      Je vois juste 4 cercles concentriques. Suis-je dépourvu de « dynamique d’affect » ou plus simplement doté d’une bonne spatialisation visuelle ?

      1. Avatar de Marc PELTIER
        Marc PELTIER

        La plupart des illusions visuelles résultent d’un traitement bayésien « pré-câblé » dans les premières couches de neurones du cortex visuel.

        L’évolution nous a équipés pour économiser du travail de traitement, en intégrant dans les structures neuronales que, pour prendre un exemple, la lumière du soleil vient en général du haut. Nous n’avons pas à reconstruire cette probabilité à chaque perception visuelle, mais nous le payons parfois d’une illusion, quand l’hypothèse probable qu’avait retenue l’évolution, est mise en défaut.

        Stanislas Dehaene explique ça très bien dans son cours au collège de France :
        http://www.college-de-france.fr/site/stanislas-dehaene/course-2011-2012.htm

      2. Avatar de Juannessy
        Juannessy

        Ça doit être une qualité ( ou une tare ) requise pour faire un bon modérateur !

        Pour moi , ça s’entortille .

        Mais ça n’est pas désagréable .

      3. Avatar de Juannessy
        Juannessy

        Par contre , je me suis « aperçu » que j’arrive à retrouver les quatre cercles concentriques si je quitte assez largement la vision  » en face » .

        Ce qui , à notre échelle , voudrait dire qu’on voit la vérité de face et la réalité de biais .

        Après la ruse de la raison , la ruse du regard oblique !

      4. Avatar de Juannessy
        Juannessy

        Tout ceci me remet en tête une technique de contrôle que nous employions en visite de sécurité des remontées mécaniques , pour lesquelles il vaut mieux ne pas avoir d’hallucination comme pour toutes les activités « sensibles » : principe du « double regard » , en jouant sur la multiplication des natures d’observateurs et de celle des méthodes et outils d’observation .

        Il y a pas mal de cas où , paradoxalement , il vaut mieux « voir double » .

      5. Avatar de CloClo
        CloClo

        N’importe quoi ce sont des carrés ! Non mais regarde ! Pleins de petits carrés, disposés en forme de cercles . Tu parles d’une bonne spatialisation visuelle…

        1. Avatar de Julien Alexandre

          Ah CloClo, tu nous avais « presque » manqué… oui, le « truc » c’était bien de voir que ce sont des petits carrés, c’était ça le piège ! Moi qui pensais bêtement que les gens allaient imaginer que c’était un escargot plutôt que des cercles concentriques. Raté !

      6. Avatar de Juannessy
        Juannessy

        Clo clo , c’est mieux qu’une IA et un cerveau humain réunis : il vient de résoudre la quadrature du cercle .

      7. Avatar de Juannessy
        Juannessy

        Il ne lui reste plus qu’à passer du carré au cube pour faire plus fort qu’une IA en 0,37 seconde .

        Au passage il faut que les éléments du Rubik’s cube soient méchamment bien usinés pour ne pas se coincer à cette vitesse .

  6. Avatar de François
    François

    Est ce que les concepteurs en IA travaillent sur une « machine » IA destinée à développer-perfectionner les futures machines IA ?

    Peut on imaginer une IA qui, nourrie (en big data) de toutes les recherches sur le sujet, pourrait faire avancer drastiquement les recherches le cancer, le sida … entre autres et par exemple ?

    1. Avatar de Juannessy
      Juannessy

      Drastiquement peut être pas ( surtout si on se souvient que « drame » a la même étymologie grecque ) , mais ça pourrait être une voie pas trop conne .

  7. Avatar de Marc PELTIER
    Marc PELTIER

    L’article de WIRED montre deux skieurs sur une crête, et le problème est que l’I.A. est sûre à 91% qu’il s’agit d’un chien. Or, nous, observateurs humains, sommes tous d’accord sur les indices concordants de l’image, qui sont parfaitement cohérents avec notre représentation élaborée (avec lois physiques !) du réel ! Ce sont bien des skieurs ! Pauvre I.A. hallucinée !…

    Ce que j’attend avec une curiosité teintée d’ironie, c’est le moment ou une I.A. très avancée, dûment affectée, et très intelligente, nous démontrera que c’est bien un chien. Ou plus précisément, qu’elle est incomparablement mieux fondée, dans son chemin informationnel à elle, avec ses émergences cognitives à elle, inimaginablement élaborées ( et incluant des lois physiques itou, plus profondes, plus complètes, plus belles !), pour dire que c’est un chien, que nous pour dire que c’est « le réel » : des skieurs.

    Ce que l’I.A. pourrait nous apprendre, c’est que notre confiance dans « le réel » n’est qu’une très longue histoire informationnelle d’émergences cognitives enchâssées, contingente, qui nous rend sensibles à des hallucinations comme le temps, la localité, la causalité, etc…

    1. Avatar de Juannessy
      Juannessy

      l’IA s’en sortira en avançant que c’est un chien skieur .

    2. Avatar de Jicé
      Jicé

      Pourquoi ce parti pris idéaliste ? Vous mettez du cognitif au début, là où il y a de la sensation, bref de la bidoche, du contrasté, de l’obscur, du nuancé, de l’insondable. Avec de tels points de départ : bon courage. L’IA dite forte : le gargarisme à la mode, de quoi mousser un quart d’heure. Un très bon antidote, exemple entre dix mille autres possibles : « pour un oui pour un non » de N. Sarraute, écouté ce matin en briquant la voiture (et encore… manque une dimension pulsionnelle dans l’échange… mais ce pelage, ce grattage à presque l’os du soi donc de l’autre (sans majuscule,please), c’est cela l’inatteignable subjectivité justement parce que perdu dans les sables métastable mouvants d’un dehors, donc d’un du corps (lui-même rien de consistant par soi, traversé et enchâssé dans un milieu/monde ambiant) Et justement je pensais à Jorion et à ses drôles d’aveuglements, je veux dire ses drôles de convictions. Je me disais, éponge en main…ben tu peux t’accrocher, mon Coco.

  8. Avatar de Marc PELTIER
    Marc PELTIER

    Pour éviter un malentendu, lisez « une très longue histoire d’émergences enchâssées », plutôt que « d’émergences cognitives enchâssées ».

    Dans mon intuition, l’aspect cognitif n’intervient qu’à la fin de cette très longue histoire informationnelle, dont il nous faut comprendre les étapes, par l’élaboration d’une Théorie Générale de l’Emergence…

    1. Avatar de Juannessy
      Juannessy

      Thomas d’Aquin dirait que la connaissance c’est un « medium » entre perception sensible et objet , entre vérité et réalité .

      C’est le paradis des « signes » que j’évoquais avec Bain il y a peu .

      Il est remarquable d’ailleurs que ce billet soit une sorte de suspicion d’un mouvement privilégié « signe vers compréhension  » , plutôt que « compréhension ( ou pour le moins imagination) vers signe « .

      Alors que les deux mouvements doivent sans doute coexister et que c’est « le temps , qui règle les horloges » .

  9. Avatar de Fred Lulu Berlu...
    Fred Lulu Berlu…

    Par contre, toujours aucun biais cognitifs de la part de ces « cerveaux » implémentés ?
    Jamais un ordi n’aura l’inée ou l’idée d’un cerveau humain !

    1. Avatar de Juannessy
      Juannessy

      Est-on bien certain que « le cerveau humain » est enfin au clair sur l’inné et l’acquis ?

  10. Avatar de timiota
    timiota

    Euh, la question posée à l’IA est « comment ces parties (les pixels) font-elles un tout (l’IA a emmagasiné des tas de « tout »).
    Si on lui demande « comment ce tout fait-il des parties » ? il y a une petite chance que soient découpées des morceaux, par exemple des bandes verticales, au sein desquelles apparaissent les deux skieurs. Cela demande de fait une étape supplémentaire pour conclure car on pourrait couper les skieurs et y voir des vêtements etc.

    La dynamique d’affect , si on essaye d’exprimer le besoin ci-dessus sous cette forme, joue alors sur le caractère « attendu » de l’exercice (l’image contient deux skieurs et c’est une image « bien reconnaissable », donc je ne la coupe pas en morceaux), me semble-t-il, mais je me sens en sables mouvants.

Répondre à Juannessy Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta