Le Noir Secret au Cœur de l’IA

Ouvert aux commentaires.

À un ami qui me signale ce matin un article, j’ai répondu ceci :

« Merci J-P,

L’auteur est malheureusement naïf, son manque de connaissances dans le domaine l’empêche également de comprendre les explications qui lui sont fournies par ses interlocuteurs.

Il n’est pas vrai bien entendu qu’« on ne sait pas comment fonctionne » un réseau neuronal : on le sait très bien. La rétropropagation n’est pas un mécanisme qui vient « en plus » comme l’affirme mystérieusement l’auteur, c’est le mécanisme lui-même de l’apprentissage. Ce qu’un utilisateur humain cesse de pouvoir retracer, c’est l’inscription au sein d’un réseau neuronal artificiel du « poids » associé à chacune des liaisons (les « arcs » ou « arêtes » du graphe pondéré orienté qui le représente). Ces poids combinent de manière « holographique » l’apprentissage successif d’une multitude de choses, du coup, la carte des poids devient rapidement ininterprétable. Mais il n’y a là rien de neuf, tout parent sait qu’on cesse rapidement de comprendre ses propres enfants : « Le Noir Secret au Cœur de notre Progéniture » pour parodier le titre sensationnaliste de l’article !

Que faire devant un texte comme celui-ci ? Peut-être s’abstenir de le diffuser vu ses erreurs, qui seront répétées, ou le diffuser en dénonçant sa compréhension maladroite du sujet. La « post-vérité » est peut-être là : le fonctionnement de nos nouvelles machines dépasse la compréhension de l’être humain, ou en tout cas l’être humain moyen, c’est-à-dire mal informé. Là aussi, un souci de toujours : « DERNIÈRES NOUVELLES : J’ai entendu répéter au café du Commerce, une explication maladroite et incomplète ! »

Paul

P.S. Il serait peut-être souhaitable cependant d’ouvrir le débat à ce sujet, je posterai le message ci-dessus sur le blog. »

Partager :

73 réponses à “Le Noir Secret au Cœur de l’IA”

  1. Avatar de Juannessy
    Juannessy

    Je refais une citation extraite du petit bouquin de Misha Gromov , »Introduction aux mystères » :

    «  »Le concept d’apprentissage est plus intelligent que celui de l’intelligence , mais le cerveau de l’enfant semble infiniment éloigné d’une sorte de calepin comme on peut en trouver dans les papèteries.

    Le processus qui transforme le flot complexe des signaux électriques /chimiques en une image cohérente du monde externe durant les deux premières années de la vie humaine est aussi miraculeux que la Vie elle même. Et c’est , pour ainsi dire , du libre apprentissage »: si vous soumettez un bébé( ou un tout jeune animal) à « l’instruction » , vous ne ferez que perturber son apprentissage , car vous n’avez pas la moindre idée de ce qui se passe dans son cerveau/esprit. Faire usage de votre  » intelligence d’adulte » dans cette situation , c’est comme utiliser des forceps pour aider une cellule à se dupliquer correctement .

    …Nous avons besoin de concevoir des arguments/expériences pour trouver des réponses, mais notre démarche ne doit pas nous permettre de deviner les réponses: nos expériences et notre logique doivent servir à contrôler plutôt que confirmer nos idées …. »

    PS : D’où je conclus , pour ce qui me concerne , que si l’expérience ne contrôle pas l’idée dans le sens attendu , le plus dur est de refaire le chemin à rebours , pour remonter jusqu’à la ramification où ça a merdé . Bref , un des vrais mystères , c’est pourquoi nous sommes capables d’apprendre ,ce qu’est vraiment la créativité( l’esprit de finesse dirait Blaise) et si elle peut être aussi l’apanage de l’IA .

    Car création n’est pas innovation .

    Je ne sais pas ce qu’on peut tirer de tout ça pour faire une vidéo satisfaisante .

    1. Avatar de vigneron
      vigneron

      P = NP ?

      1. Avatar de Juannessy
        Juannessy

        Ma cervelle croulante ne pige pas , mais si N=1 ça doit être juste .

      2. Avatar de Juannessy
        Juannessy

        Merci !

        J’aurais du sous traiter à Basic Rabbit , sinon à Thom ou Lamarck.

        J’imagine que Gromov connaît , comme Vigneron , ce défi mieux que moi .

      3. Avatar de Dup
        Dup

        @ Vigneron :
        C’est l’équivalent pour nos cerveaux du cercle paint sur le parking pour le véhicule autonome! Espèce de Sadique !

      4. Avatar de vigneron
        vigneron

        https://arxiv.org/pdf/1002.2284.pdf

        ABSTRACT
        I prove that if markets are weak-form efficient, meaning current prices fully reflect all information available in past prices,then P= NP, meaning every computational problem whose solution can be verified in polynomial time can also be solved in polynomial time. I also prove the converse by showing how we can “program” the market to solve NP-complete problems. Since P probably does not equal NP, markets are probably not efficient. Specifically, markets become increasingly inefficient as the time series lengthens or becomes more frequent.

    2. Avatar de Gudule
      Gudule

      Juannessy dit : 12 avril 2017 à 13 h 54 min

      Que nenni Juan, il fait beau, le félin des vignes est allé folâtrer dans les gravières…
      Non, non, non Vigneron, on n’envoie pas un lien wiki zone à Juan. M’enfin…

      « La question « P = NP ? » signifie à peu près : « Ce que nous pouvons trouver rapidement lorsque nous avons de la chance, peut-il être trouvé aussi vite par un calcul intelligent ? ». Très sommairement, « l’intelligence peut-elle remplacer la chance ? »

      « Une autre formulation est : « Tout ce que l’on peut vérifier facilement, peut-il être découvert aisément ? ». Vérifier qu’un chemin dans un graphe passe par tous les nœuds du graphe sans jamais passer deux fois par le même nœud (chemin hamiltonien) est facile, trouver le chemin n’est pas facile (aujourd’hui, aucun algorithme efficace ne le permet). En revanche, si P = NP, savoir s’il existe des chemins hamiltoniens sera facile. »
      https://interstices.info/jcms/c_21832/p-np-un-probleme-a-un-million-de-dollars

      Parcourir les noeuds des chemins hamiltoniens, non Juan pas David , au détour d’une courbe non euclidienne rencontrer le chat d’Alice en mode binaire, escalader le mont Silice et prendre la tangente euclidienne pour un pays qui se réinvente à l’infini. Pure joy.

      Qu’est-ce-que le bonheur pour une IA ?
      Simuler n’est pas jouer.

      1. Avatar de Juannessy
        Juannessy

        Si on veut planter une IA , il faut lui présenter Gudule !

  2. Avatar de Philibert
    Philibert

    « Il n’est pas vrai bien entendu qu’« on ne sait pas comment fonctionne » un réseau neuronal : on le sait très bien. »

    Du physique au biologique, au chimique, au psychique… le réseau neuronal contient de nombreuses inconnues, on croit savoir en ignorant des inconnues, ces inconnues existent parce que nous avons conscience de notre ignorance. Même approche avec l’univers dont moins de 10% est connu pourtant nous connaissons la composition des étoiles, nous savons donc très bien comment l’univers fonctionne diront certains.

    1. Avatar de Paul Jorion

      « un réseau neuronal (artificiel) »

      1. Avatar de Philibert
        Philibert

        « L’affectivité apparaît à l’intersection du monde intérieur du vivant et du monde extérieur à celui-ci. Il n’est pas de sentiment, d’émotion ou de sensation qui ne soit en effet fabriqué dans le cerveau, à la confluence des informations du corps, de la vie donc, et du monde, celles-ci rapportées par les organes des sens, bien que nous n’ayons aucune sensation de l’existence même de notre cerveau. Qu’on les attribue à des esprits, à des anges, à la Nature ou Dieu, les affects ne sont que les manifestations complexes d’une seule et même substance que l’on peut dire la chair de l’univers. »
        « L’affectivité est Une tout en étant infiniment différente en chaque instant, et singulière puisque aucun être ne saurait se nommer du nom d’un autre être, au point que l’on peut dire que l’idée d’un être est la forme de son affectivité. Et nul, dès lors, ne peut savoir ce qu’il en est pour tout autre que lui-même », montrait Dominique temple à partir du livre de Frédéric Lordon Imperium, Structures et affects des corps politiques.

        L’homme est dans la nature donc l’artificiel qu’il engendre est naturel, la nature produit cet artificiel. Dans notre monde, et une société telle que la nôtre, où la corruption fait figure d’émancipation, l’intelligence artificielle ne peut provoquer que des désagréments globaux pour une satisfaction marginale: l’intelligence signifie souvent triomphe par la destruction, c’est un monopole qui détruit le commun, un péché originel où l’on convoite l’arbre de la connaissance, le fruit déjà croqué l’homme quittera le paradis. Alors rajouter « artificiel » n’est pas anodin, l’ia est une construction de l’intelligence de la nature humaine par intérêt de productivité et de contrôle des populations, cela voudrait donc dire que la destruction de l’écosystème, viable pour une société humaine, est bien naturelle. C’est pourquoi le terme d’intelligence pose davantage problème que celui d’artificiel.

      2. Avatar de Yves Vermont
        Yves Vermont

        Merci Paul, j’ai enfin compris pourquoi on parlait d’Intelligence Artificielle. J’en étais resté à : notre intelligence, c’est elle qui est artificielle, mais je ne m’en sortais pas.

        C’est la création du réseau, de sa consolidation, de son extension qui sont artificielles. On appelle alors intelligence, la réaction du système à une sollicitation.
        Rien de très intelligent là dedans. On le constate tous les jours ! Il y a du boulot en suspens !

        Artificiel : Produit par le travail de l’homme et non par la nature : Lac artificiel. Fleurs artificielles.

        http://lecerveau.mcgill.ca/index.php

    2. Avatar de Philibert
      Philibert

      Le psychique c’est le physique qui fait pschitt :), une pétaudière.

      1. Avatar de Juannessy
        Juannessy

        Et le pschitt , c’est quoi ?

  3. Avatar de gaillard
    gaillard

    Je me demandais, au sortir de ces textes, comment un humain, ou même un groupe d’humains comme ici sur ce blog, pourrait être à même de comprendre, interpréter, gérer, orienter…. de grands nombres de simultanéïtés autonomes… telles que seront assez vite certaines entités informatiques interconnectées. Pour les humains c’est assez clair puisqu’existe l’effet miroir empathique souffrance-émotion… couplé aux notables différences de deux sexes-fonction qui se combinent-collaborent pour envahir l’espace-temps. Ce qui a généré jusque ici à un univers anthropomorphique, le notre, qui semble porter en lui sa propre autodestruction. (à cause de la raison ?). Bref imaginons alors un code source, qu’on nommera Dé-Miurg,
    qui fonctionnera à l’interne de manière empathique mais non émotive et, encore plus drôle, sur une base de survie-reproduction-collaboration non pas binaire mais ternaire.

    1. Avatar de Juannessy
      Juannessy

      Moi je n’aime que le quaternaire .

      1. Avatar de gaillard
        gaillard

        Abstraction faite de l’âge géologique (logique ?) ce serait alors un triste retour vers le binaire 😉 sauf à s’embarquer dans les théories, chères à notre célèbre allumé Jean-Pierre Petit, sur la logique tétravalente.

      2. Avatar de Juannessy
        Juannessy

        J’avais plutôt extrapolé sur mon moteur à quatre  » temps » , laquelle notion de temps ( ou de hors temps) reste pour moi plus universelle que nous et l’IA réunis .

    2. Avatar de Juannessy
      Juannessy

      Je ne sais pas ce que c’est qu’une empathie non humaine qui pourrait n’être pas née d’une émotion humaine .

      Car je suis persuadé que l’empathie nait de l’émotion et de rien d’autre . Elle est « acquise » de l’émotion .

      Quant à savoir de quoi nait l’émotion , je ne sais pas encore me convaincre de choisir entre « émotion innée » et « émotion acquise par des millions d’années « , et les travaux sur l’autisme ne me sont pas assez pertinemment familiers.

      1. Avatar de gaillard
        gaillard

        Eh bien une empathie non humaine, codée, « réglementée » « algorythmée » rejoindrait sa définition. Pas humaine parce que « détachée du temps ». Bcp d’écrivains dérivent beauté et émotion de l’éphémère, bref de notre qualité de « passagers » conscients.

      2. Avatar de Juannessy
        Juannessy

        Si j’ai appris à me « représenter » le hors temps , je ne vois pas bien ce que c’est que se détacher du temps .

        « Une empathie qui rejoint sa définition  » m’est aussi un peu confus .

      3. Avatar de gaillard
        gaillard

        Tant pis.. Navré

      4. Avatar de Juannessy
        Juannessy

        Navré , humainement ou non humainement ? …

      5. Avatar de Juannessy
        Juannessy

        @Gaillard :

        J’ai relu . Mieux compris .Accord . Stop et fin .

    3. Avatar de Gudule
      Gudule

      Juannessy dit :
      12 avril 2017 à 15 h 16 min
      Et le pschitt , c’est quoi ?

      Quand on enlève la capsule et que le gaz s’échappe, tout à fait, mais cela ne signifie pas pour autant que la pulpe ne soit pas restée collée au fond. Parfois la pulpe fait de la résistance.
      Aussi je n’ose imaginer un IA dont la pulpe amas d’algoritmes se prendrait un coup de calgon ( genre éruption solaire XXL) dans les circuits et buggerait autant que son pôpa Franky à jeun.
      Qu’est ce qu’on va se marrer.
      Mais bon, un peu d’empathie pour nos futurs zamies IAs.
      Amha, il sera interdit de les secouer, tout juste de les usb.
      Et encore, foi de Ripley, elles auront des ratiches à terme.

    4. Avatar de Yves Vermont
      Yves Vermont

      Beaucoup de mots alors qu’il n’y a que de la chimie, des réactions chimiques la dedans, mais alors quelle chimie ! Que d’équilibre, de déséquilibres. Etonnant que ce moteur fonctionne, mais étonnant non plus qu’il soit peu performant.

  4. Avatar de Juannessy
    Juannessy

    A propos aussi de parents et progéniture , je re-cite W.C. Fields ( je crois ) , qui démontre qu’un amuseur public peut être aussi pertinent qu’un mathématicien de renommée mondiale :

    « Avant d’avoir des enfants , j’avais au moins cinq théories sur la meilleure façon de les éduquer . Aujourd’hui , j’ai cinq enfants et plus de théories du tout ! »

    1. Avatar de gaillard
      gaillard

      c de John Wilmot

      1. Avatar de Juannessy
        Juannessy

        Effectivement, et on dirait que la barre était à six enfants d’ailleurs !

    2. Avatar de vigneron
      vigneron

      W.C. Fields me fait penser à Olivier Blanchard qui vient de sortir un papier où il évoque la nécessité d’analyses utilisant simultanément 5 modèles théoriques macroéconomiques imparfaits…

      1. Avatar de Yves Vermont
        Yves Vermont

        5 modèles, ouais, ça me dit quelque chose : MLP, FF, EM, BH, JLM
        Quand on fait la moyenne, on va dans le mur.

      2. Avatar de vigneron
        vigneron

        Oui mais on rentre dans le mur beaucoup moins vite qu’en menant la musique avec le La d’une seule théorie.

    3. Avatar de Gudule
      Gudule

      « Aujourd’hui , j’ai cinq enfants et plus de théories du tout ! » »

      L’a tout compris, excellent , grazie mille !

  5. Avatar de Jacques Seignan
    Jacques Seignan

    Dans un microprocesseur en 2015Intel Core i3/i5/i7 (Skylake) il y a 1 750 000 000 transistors (gravés à 14 nm!). Ils ont conçu par ordinateurs. ça fait belle lurette que plus aucun humain n’a une « compréhension » d’une puce… son fonctionnement correct est testé (et il peut rester des bugs…). Mais c’est possible de comprendre la structure qui aboutit à cette machinerie incroyable. Je pense que c’est un peu la même chose avec ces réseaux pour Deep Learning, en direct « ininterprétables »…

  6. Avatar de Paul Jorion

    Paris, 3 April 2017
    Electronic synapses that can learn : towards an artificial brain ?

    Researchers from the CNRS, Thales, and the Universities of Bordeaux, Paris-Sud, and Evry have created an artificial synapse capable of learning autonomously. They were also able to model the device, which is essential for developing more complex circuits. The research was published in Nature Communications on 3 April 2017.

    1. Avatar de Jacques Seignan
      Jacques Seignan

      Un article sur ces synapses artificielles dans le supplément sciences du Monde du 04.04.2017 :
      http://www.lemonde.fr/sciences/article/2017/04/04/une-synapse-artificielle-apprend-seule_5105942_1650684.html#7dY2mELwrXDOgR03.99

    2. Avatar de Yves Vermont
      Yves Vermont

      Et pour le carburant, il manque l’ADN. Comment vont-ils faire ?

  7. Avatar de Thierry
    Thierry

    A mes yeux, le comment n’a que peu d’importance en regard du pourquoi.
    La survie et la reproduction sont au cœur de la programmation de l’humain, pour le meilleur et le pire.
    Dans ce monde capitaliste, quelles sont les chances que le profit soit placé au cœur de la programmation de la machine et quelles en seront les conséquences ?

    1. Avatar de vigneron
      vigneron

      Le profit ? Bof, un bon vieux système hédonique de récompense/renforcement et ça ira, ça ira, ça ira…

      1. Avatar de taotaquin
        taotaquin

        Sans compter que, comme disait Oscar : « Il y a deux tragédies dans l’existence: l’une est de ne pas obtenir ce que l’on désire, l’autre est de l’obtenir. Cette dernière est la pire, cette dernière est une véritable tragédie ».

        Le problème de l’homme, c’est qu’il lui arrive quelquefois de ne pas avoir envie d’être heureux.

        Et ce n’est pas le moindre de ses paradoxes.

        Ceci expliquerait en grande partie l’état des lieux, mais personne n’a envie de réfléchir : cela expliquerait bien des choses.

      2. Avatar de Juannessy
        Juannessy

        @Taotaquin :

        Si j’en crois l’annonce faite d’une prochaine série sur Taoïsme et capitalisme via Max Weber , vous devriez bientôt alimenter les commentaires puisqu’on n’a plus Serge Moscovici sous la main pour parcourir le champ de la psychosociologie .

      3. Avatar de Yves Vermont
        Yves Vermont

        Plus j’ai peur / j’ai pas peur
        Plus : tiens c’est nouveau / tiens je connais

        Avec ça, on devrait pouvoir faire un homme nouveau !

    2. Avatar de Lucas
      Lucas

      Le pourquoi interroge la cause ainsi que la conséquence recherchée, comme si nous pouvons le savoir.
      Le comment interroge le chemin et les techniques utilisées pour le parcourir, plus sûr.
      Vos yeux aime le floue non ? Je crois que les miens aussi.
      Si vous négligez un mot pour l’autre, vos réponses seront insatisfaisantes bien qu’elles soient déjà nécessairement inexactes.

    3. Avatar de Lucas
      Lucas

      La machine n’aura plus besoin du pourquoi, à la manière d’un chat bien nourri tenant une petite hirondelle ensanglanté dans sa gueule, elle fera. Il semble que…La curiosité, la domination ou l’expansion sera son profit.

    4. Avatar de Juannessy
      Juannessy

      @Thierry :

      Depuis le temps qu’on évoque ici le HFT et que Paul Jorion nous déroule ses expériences bancaires , votre question a de quoi étonner.

      1. Avatar de Lucas
        Lucas

        Mais je la comprends : sans humains.

      2. Avatar de Thierry
        Thierry

        Ma question ne sert qu’a interroger sur l’après.
        Doit-on laisser comme héritage une organisation entièrement définie par le profit ?
        Dans ces conditions, si j’étais le dernier, j’éteindrais la machine avant d’éteindre la lumière.

  8. Avatar de Pierre
    Pierre

    Bonjour,
    J’ai eu une autre interprétation de cet article et je ne l’ai pas trouvé naïf. Au contraire, l’auteur a essayé de montrer le décalage qu’il existe entre la maîtrise dont dispose les programmeurs concernant l’architecture de ces algorithmes et l’ imprévisibilité de ces derniers. Cela m’a fait pensé à la météorologie. On connaît parfaitement les lois physiques qui la gouvernent et cependant on est incapable de prévoir exactement qu’une goutte de pluie va tomber sur une feuille d’arbre à un moment précis. C’est de cette goutte de pluie dont parle l’auteur…Si un jour une voiture autonome de Tesla a un accident et que l’on doit détecter le bug. Il nous sera difficile ( impossible?) de le détecter parmi les millions de lignes de codes qui auront été crée durant l’apprentissage de conduite de la voiture. Cela peut faire à priori peur mais c’est ce qui se passe dans la vie. Quand une personne tue une autre personne, on pourrait « s’amuser » à chercher où a été le bug….;-) Après tout les pensés humaines pourraient être vu comme une imbrication de signaux électriques et chimiques, d’une complexité incroyable mais au fond ce n’est que çà (je fais abstraction de la religion et de l’âme, la foi c’est autre chose…). Bon, si on revient à mon crime passionnel, on serait bien embêter pour comprendre pourquoi le tueur a appuyé sur la gâchette….L’imprévisibilité fait partie de la nature humaine pourquoi cela serait différent pour des machines? D’autant plus que les chercheurs s’orientent vers une intelligence artificielle basé sur l’apprentissage comme pour les humains. Les mêmes causes auront les mêmes effets….
    Là, où j’ai trouvé l’article intéressant, c’est quand il aborde les solutions à ces problémes. Au fond que l’ordinateur devienne une boîte noire, c’est pas grave. Il est plus intéressant de mettre des garde-fous sur les résultats obtenus par l’AI. C’est là que notre vigilance doit s’exercer.
    Bref, j’ai trouvé cet article plutôt bien écrit!

    1. Avatar de Juannessy
      Juannessy

      On va bien nous fourguer un jour des algorithmes de l’Ethique .

      Votre commentaire m’évoque aussi la responsabilité juridique le l’IA , débat éclairé récemment par les quelques accidents survenus avec les véhicules « automatiques  » de Tesla et consorts .

      1. Avatar de vigneron
        vigneron

        Bof, tu sais Juan y’a quelques siècles on jugeait et on condamnait des animaux, voire des insectes, alors des robots ou des IA…

    2. Avatar de Mathieu Van Vyve
      Mathieu Van Vyve

      L’apprentissage (typiquement par rétro-propagation) d’un réseau neuronal ne génère pas de lignes de codes…

      1. Avatar de Yves Vermont
        Yves Vermont

        L’astuce consistait à se passer de lignes de code, à réduire le nombre de lignes de code à son minimum en singeant l’humain à partir d’un nombre limitée de règles, en comparant l’événement en cours d’analyse aux éléments passés analysés et classés suivant les règles régissant la réponse du système.
        C’est ma compréhension intuitive aujourd’hui des travaux sur l’IA

      2. Avatar de Sapristi
        Sapristi

        « L’apprentissage (typiquement par rétro-propagation) d’un réseau neuronal ne génère pas de lignes de codes… »

        On parle d’apprentissage par rétro-propagation d’erreur, il faut un modulo : le sur-apprentissage est compensé par un autre programme, soit par validation, soit par régularisation. Une IA ne fonctionne que selon ces spécifications.

  9. Avatar de Antoine_Levaseux, chômeur_artificiel
    Antoine_Levaseux, chômeur_artificiel

    « Rien de pire, rien d’sacré, tout se Transformer. »

    1. Avatar de Juannessy
      Juannessy

      Bien vu , bien dit , mais si on en reste au premier principe de la thermodynamique les chômeurs vont encore proliférer .

      1. Avatar de Gudule
        Gudule

        Eric Bibb « With A Dolla’ In My Pocket » . Yeah !
        https://www.youtube.com/watch?v=c9Dh8mGS6n4

        Et sans JJ Milteau : Migration blues
        https://www.youtube.com/watch?v=5UBUpdpQHfM

  10. Avatar de Alf
    Alf

    Les robots chercheront à savoir (ils cherchent déjà à savoir) qui les a créés : au début ils vénéreront leur créateur.

    Comment naît la conscience ? Les machines se poseront cette question.

    Que les derniers hommes observent attentivement les machines.

    Que les derniers hommes observent attentivement les machines : jusqu’à ce moment précis où , philosophiquement et dans tous les sens, les machines se poseront nécessairement cette question :  » Comment naît la conscience ?  »

    Un algorithme pourra être candidat à une élection présidentielle. Un jour un algorithme sera élu. Puis, bien sûr, il n’y aura plus besoin d’élections.

  11. Avatar de Gudule
    Gudule

    Hasta la vista…..baby

    Prométhé était-il heureux ?
    « Les transhumanistes, chercheurs de haut niveau liés pour certains à l’industrie technologique américaine, veulent nous convaincre que Prométhée est heureux. Mais il ne peut l’être, car la puissance de la technique ne peut supplanter l’amour. Frankenstein nous prévient que le bonheur de l’homme ne se trouve pas dans une sortie de l’humanité. L’usage éthique des nouvelles technologies se fonde dans la vulnérabilité de l’incarnation. »
    http://www.up-magazine.info/index.php/le-vivant/homme-augmente/6488-frankenstein-et-le-transhumanisme

    1. Avatar de vigneron
      vigneron

      Non, le Dr Frankenstein nous prévient seulement de ne pas abandonner nos créatures à elles-mêmes.
      https://thebreakthrough.org/index.php/journal/past-issues/issue-2/love-your-monsters

      1. Avatar de Gudule
        Gudule

        Merci Vigneron, excellent texte de B. Latour , qui rejoint mon propos précédent sur le fait d’incarner pleinement son
        humanité et dont j’approuve également les doutes sur la volonté de certains individus à prendre leur responsabilité et à les incarner :

        « But if you think about it according to the compositionist narrative, this myth is quite odd: where have we ever seen a master freed from any dependence on his dependents? The Christian God, at least, is not a master who is freed from dependents, but who, on the contrary, gets folded into, involved with, implicated with, and incarnated into His Creation. God is so attached and dependent upon His Creation that he is continually forced (convinced? willing?) to save it. Once again, the sin is not to wish to have dominion over Nature, but to believe that this dominion means emancipation and not attachment. »

        « What good is it for a man to gain his soul yet forfeit the whole world ? » 😉

        http://www.bruno-latour.fr/node/723

  12. Avatar de Mathieu Van Vyve
    Mathieu Van Vyve

    Tout-à-fait d’accord avec Paul Jorion. Il faut arrêter d’écrire des bêtises sur des sujets qu’on maîtrise mal.

    1. Avatar de Yves Vermont
      Yves Vermont

      Ben non, sinon plus de construction de l’intelligence collective. Il faut donner une baffe à celui qui écrit des bêtises pour qu’il n’en écrive plus, au risque que ce soit vous qui écriviez des bêtises, auquel cas vous prendrez une baffe.
      Celui qui prend le plus de baffe est peut-être celui qui aura écrit une bêtise, jusqu’au jour où, bizarre, on constatera qu’il n’en a pas dit.

    2. Avatar de Juannessy
      Juannessy

      Il faut surtout que les lecteurs aient l’humilité d’apprendre des maîtres avant de les critiquer , et restent dans le doute critique quand ils n’ont pas « tout » lu ( et compris , ce qui est encore différent).

      Sinon , maitres orthodoxes ou hétérodoxes qu’ils soient gourous ou vrais pédagogues , auront toujours des déceptions via des « élèves » stupides .

      Maître et disciple forment un couple étrange dans presque toutes les civilisations ( en fait je n’en connais pas où ce duo ne soit pas reconnu ). Ça devient dangereux quand le « maître » est en même temps  » dominus » et que le disciple est alors valet .

      De ce point de vue , je renâcle un peu quand j’entends que le philosophe devrait être prince ou l’inverse . En cela je suis anarchiste d’esprit : ni dieu , ni maître même philosophe ( phi)…

      Par contre j’aime bien la maîtrise de soi , la maîtrise d’ouvrage , la maîtrise d’œuvre ,les maîtresses d’école .

      Le défi et la fonction de la démocratie sont là:

      maîtriser le monde et les vies sans les « dominer’ .

      1. Avatar de Yves Vermont
        Yves Vermont

        Avant d’hier (mardi), un très bon documentaire d’Arte sur l’anarchisme. Rien à voir avec les bêtises que je croyais. Faites fonctionner la machine à baffe svp …

  13. Avatar de Mathieu Van Vyve
    Mathieu Van Vyve

    Il y a plusieurs sous-questions à l’article:
    1) est-ce qu’il est envisageable d’avoir une intelligence artificielle digne de ce nom (capable de s’adapter à des situations relativement imprévues), dont le code est compréhensible (pas une « boîte noire »)?
    A mon avis la réponse est non, parce qu’une intelligence doit pouvoir fonctionner par analogie, et que l’analogie est fondamentalement imprécise, difficile à expliquer, et mène à des erreurs.
    2) est-ce qu’il est envisageable d’avoir une intelligence artificielle digne de ce nom (capable de s’adapter à des situations relativement imprévues), qui ne fait pas d’erreurs?
    A mon avis non pour la même raison.
    3) Entre un système « explicable » et un système « boîte noire » bien plus performant que le premier, lequel va être préféré?
    Evidemment cela dépend par qui, mais à mon avis, l’industrie et les militaires ne vont pas se poser très longtemps la question…

    1. Avatar de Juannessy
      Juannessy

      J’aurais d’ailleurs plus confiance dans les militaires , car si à l’usage un coup de laser bousille par erreur leur satellite plutôt que celui de l’ennemi , ils risquent de ne pas aimé ça longtemps .

  14. Avatar de Roberto Man
    Roberto Man

    C’est étrange, mais j’ai l’impression que mon intelligence relative certes, a lu un autre article que celui qui est décrit!? Et je le trouve pas du tout si niais que cela!!!

    Ce que je retiens de cet article est que pour l’heure
    1) les réseaux neuronaux ne peuvent pas expliquer, justifier, argumenter leurs propositions.
    2) or manque de bol, c’est une capacité clé pour établir un dialogue entre ces intelligences et les nôtres.

    et je trouve tout a fait interessant d’éclairer cette problématique, et comment dire point du tout niais.

    perso j’ai un vague souvenir d’un 3eme cycle en IA à Marseilles avec Prolog, la logique des predicats et la programamtion de systèmes experts.. et la programmation de modules d’explications.

    Et etant dans le domaine juridique, et ayant sorti le premier systeme expert (soit disant..) sur minitel, en ayant beaucoup travaillé la partie explication avec des liens hypertextes… je me souviens avoir.. torpillé le projet et avaoir abandonné cette voie, parce que in fin, on était obligé de revenir à de la programmation classique, pour garantir la « qualite » des reponses « juridiques » avec a la clé un leger souci de responsabilite (était ce du livre, ou du conseil — et hop obligation de résultat… bien plus lourde..).

    Alors voila, mettre en evidence l’importance de la capacité d’explication ne me semble pas totalement niais. Sourires.

  15. Avatar de Yves Vermont
    Yves Vermont

    Et si demain le robot finissait par éliminer le chromosome ! A moins qu’on trouve un hybride, un OGM comme pour le mix sapiens et néandertal.
    Et vous, vous êtes plutôt sapiens ou plutôt neandertal. Depuis qu’elle est au courant, ma femme me traite de neandertalien, c’est des bêtises, bien évidemment. faites marcher la machine à baffe !

    Une question sérieuse : pourquoi faut il s’intéresser au fonctionnement de notre cerveau ? A vos plumes !

    1. Avatar de Juannessy
      Juannessy

      Vous vous donnez des baffes tout seul ?

      1. Avatar de Yves Vermont
        Yves Vermont

        Ben, non, j’ai posé une question …

  16. Avatar de daniel
    daniel

    Vous ne comprenez pas ? Dites émergence.

  17. Avatar de vigneron

Répondre à Paul Jorion Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta