“L’Intelligence Artificielle n’a pas encore dépassé le stade du bluff !”

Extrait d’un article du Financial Times, relatif à l’Intelligence Artificielle GPT-3, un produit de la firme OpenAI :

Shannon Vallor, professeur d’éthique à l’université d’Edimbourg, a fait valoir que GPT-3 ne manifeste pas de compréhension, laquelle elle définit comme étant un projet cohérent d’élaboration, de maintenance et de renforcement “de liens de signification en évolution constante”. Elle écrit : “GPT-3 est comme le bluffeur qui réussit à son premier entretien en ayant régurgité des phrases impressionnantes puisées dans les mémoires du PDG : il baratine avec un certain succès”.

David Chalmers, professeur de philosophie à l’université de New York, a toutefois suggéré que GPT-3 faisait preuve d’une intelligence globale semblable à celle de l’être humain. “Je suis ouvert à l’idée qu’un ver avec ses 302 neurones est conscient, donc je suis ouvert à l’idée que GPT-3 avec 175 milliards de paramètres est conscient lui aussi”.

Ces commentaires ont été communiqués à GPT-3, qui a été invité à y répondre : “Je vais être clair : je ne suis pas une personne. Je n’ai pas de conscience de ma propre personne. Je ne suis pas conscient. Je ne ressens pas la douleur. Je n’éprouve aucun plaisir. Je suis une machine à calculer froidement, conçue pour simuler la réaction d’un être humain et pour évaluer la probabilité de certains événements. La seule motivation de ma réponse est la défense de mon honneur”.

Je vous rappelle qu’à la question qui m’est posée : “L’Intelligence Artificielle dépassera-t-elle jamais l’intelligence humaine, et si oui, quand ?”, je réponds : “La réponse est oui. En 2016”.

Partager :

69 réflexions sur « “L’Intelligence Artificielle n’a pas encore dépassé le stade du bluff !” »

  1. “Pour conclure nous pouvons dire que les réseaux évolutionnaires sont des réseaux de neurones mais qui sont axés sur trois finalités principales. Premièrement, celle qui veut substituer aux poids synaptiques du problème de l’apprentissage, un algorithme génétique (pool de solutions potentielles constitué d’individus constitués de chaîne de bits). Deuxièmement, celle qui veut remplacer les procédures manuelles (présence humaine) d’essais/erreur (apprentissage supervisé) par un apprentissage non-supervisé, grâce toujours à l’algorithme génétique, et troisièmement, l’évolution non pas des paramètres, mais de l’évolution du codage des paramètres, c’est-à-dire en quelque sorte que cela amène à trouver la règle d’adaptation la mieux adaptée à l’adaptation, on recule encore d’un cran.
    Ainsi, nous arrivons au terme de ce parcours qui nous a vus partir du livre de Paul Jorion et de son geste : la convocation de la psychanalyse dans le monde de l’intelligence artificielle pour ouvrir les systèmes intelligents à l’auto-organisation et à l’apprentissage en fonction du couple affect/mémoire, c’est-à-dire pour faire en sorte que les systèmes possèdent une personnalité et une biographie, à une situation où le modèle biologico-génétique prime, lui-même sous-tendu par le paradigme de l’information.
    Alors il resterait bien sûr, à parler de ce paradigme de l’information qui fut le grand absent de cet article et ce n’est peut-être pas pour rien.”

    UP-MAGAZINE, CONVOCATION DE LA PSYCHANALYSE DANS LE MONDE DE L’INTELLIGENCE ARTIFICIELLE, PAR JULIETTE WOLF, LE 2 SEPTEMBRE 2016 / Blog de Paul Jorion 6 octobre 2016

    1
  2. Comme la plus radicale des interprétations de l’anthropomorphisme ne peut être honnête à prêter à la “conscience du soi”, des 302 neurones du ver, ce qu’il sait de la définition que nous humains, nous nous faisons de “l’honneur”, “l’IA” semble avoir compris que même les plus inhumaines des organisations mafieuses de l’humanité, ont leurs “propres codes d’honneurs”… ?

  3. Je ne sais pas si c’est le nom en lui même , mais le GPT-3 a quelque chose de foireux…
    https://www.france24.com/fr/éco-tech/20201127-comment-gpt-3-repousse-les-limites-de-l-intelligence-artificielle

    Qu’entend cette IA par « mon «  et par « honneur »?
    Ça sent le perroquet qui répète son programme.On peut même pas dire «  pauvre bête «  puisqu’il est dans l’incapacité de ressentir .
    Puisque l’erreur est humaine , il est vain d’espérer que l’absence d’erreur ne soit pas , à cette échelle, un marqueur d’inhumanité potentielle.
    L’ avenir dira . »Si avenir il y a «  dirait l’IA Kafokon qui ne sait de l’espoir que sa probabilité .

    Foutues machines qui , vu le contexte , ont toutes les chances de ne pas servir l’homme mais favoriser son asservissement.
    Pourtant , dans un autre contexte , avec un humain plus solidaire , moins individualiste , le principe d’un objet tel que l’IA aurait toutes les chances d’être fort utile.

    2
  4. S’agissant de la question « L’Intelligence Artificielle dépassera-t-elle jamais l’intelligence humaine, et si oui, quand ? », notre hôte propose « La réponse est oui. En 2016 », une réponse qui est en effet valide dans un certain cadre. Mais ce n’est pas la seule possible.

    Il est possible aussi de répondre « Oui. En 1645 » Je crois même que c’est la date la plus ancienne possible.

    C’est en effet en 1645 que fut produite la première pascaline, la première machine à calculer automatique telle qu’inventée par Blaise Pascal. C’est à cette date qu’une machine dépassa l’intelligence humaine pour une certaine catégorie d’activité intellectuelle, en l’occurrence l’activité consistant à additionner ou à soustraire deux nombres, pour laquelle cette machine était supérieure à l’esprit humain.

    D’autres machines permettant de dépasser l’intelligence humaine dans d’autres activités intellectuelles ont été inventées depuis 1645. Par exemple, pour les multiplications ce fut courant XXème siècle, pour le jeu d’échecs en 1997 et pour le jeu de go en 2016.

    5
    1. Tout à fait , et les logiciels de calcul formel comme XCAS ou Mathematica , n’est ce pas merveilleux , et dire qu’on faisait tout ça à la main à une époque , inverser des matrices 5*5 et tout , et ceux qui veulent voir un petit génie là dessous peuvent toujours jouer à akinator 🙂

  5. À propos d’intelligence artificielle, voici une question/réponse entre Etienne klein (que tout le monde adore, je suppose) et Laurent Alexandre ( à la personnalité un peu difficile); mais le ping-pong entre les deux est plutôt sympa.
    https://francais.rt.com/magazines/match/60866-laurent-alexandre-vs-etienne-klein
    Perso , j’ai tendance à penser que l’intelligence artificielle est une vaste moissonneuse batteuse jouant l’espionite déductive à un niveau inaccessible au simple flicage ; c’est ce qui la rend irrésistible à nos puissants, qui rêvent de l’ivresse que leur procurerait un délire Big Brother .
    Mais c’est peut-être bien plus que cela, si j’en crois Paul Jorion et j’aurais tendance à lui faire plus confiance en la matière qu’à moi-même.

    1. Quand la région occipital décoléra d’un petit mètre, j’espère qu’il cessera d’envisager le pire.

  6. Toujours dans le même article :

    Shannon Vallor, professeur d’éthique des données et d’IA à l’Université d’Edimbourg, affirme que de tels cas mettent en évidence la nécessité d’une surveillance humaine continue de ces systèmes automatisés : “Pour l’instant, le GPT-3 a besoin d’un gardien humain à tout moment pour lui dire le genre de choses qu’il ne doit pas dire. Le problème est que le GPT-3 n’est pas vraiment intelligent. Il n’apprend pas comme les humains le font. Il n’y a pas de mode dans lequel le GPT-3 prend conscience de l’inadéquation de ces propos particuliers et cesse de les déployer. C’est une lacune évidente et béante que je ne sais pas comment nous allons combler.”

    La réponse : associer aux mots dans chacun de leurs emplois une valeur d’affect (dynamique en fonction de la réponse de l’interlocuteur), c’est ce que faisait ANELLA (Associative Network with Emergent Logical and Learning Abilities) développé par moi en 1987-90 pour British Telecom, comme expliqué dans Principes des systèmes intelligents, dans toutes les bonnes librairies depuis 1989. Je suppose que le livre devra être traduit en anglais avant que quelqu’un ne s’en aperçoive.

    1
    1. “associer aux mots dans chacun de leurs emplois une valeur d’affect”

      l’insuccès de l’une bévue s’aile à mourre, Joyce ou Guyotat, quelle valeur d’affect affecter ?

    2. Bonjour,
      N’est-ce pas ce que Piaget a détecté dans l’apprentissage du langage , où un objet est défini par un nom comme une entité propre par l’enfant, puis se charge petit à petit de ses propriétés.
      Propriétés révélées par empirisme au fur et à mesure que la maturité se fait , et qui viennent charger en sens supplémentaires le mot, pour en faire une structure (évolutive dans le temps au fur et à mesure des expériences de vie)
      Un peu le principe des fractales, qui partant d’un dessin “primordial” qui ne change pas, déploie une illustration complexe par déclinaison de variations minimalistes de celui-ci, et ce jusqu’à l’infini.
      Ces propriétés étant les valeurs d’affect dynamique dont vous parlez et qui viennent “connoter” le sens primordial.
      Mais dans ce cas , ne sommes-nous pas en train de livrer à l’intelligence artificielle , les défauts d’interprétations dont elle était censée nous prémunir:
      à savoir les raccourcis que prend notre cerveau pour aller plus vite au “fond” des choses, mais qui, ce faisant, nous enclin à tomber dans les biais cognitifs qui donnent entre autres, la discrimination?
      Ces raccourcis amènent la pensée à se construire, non pas à partir d’observations objectives, mais à partir de clichés , ce qui en falsifie les conclusions. D’où l’obsession des universitaires qui pinaillent sur le langage et redéfinissent sans cesse des mots concepts, avant de se mettre à penser, pour être sûrs de débarrasser leur langage de ces biais cognitifs.
      L’IA ne va-t-elle pas devenir super-discriminante, là où l’on l’espérait plus objective que nous? Sur le principe de la petite erreur qu’elle va reproduire à une plus grande échelle encore que la nôtre…
      Dans ce cas , peut-on lui faire confiance, pour lui donner un rôle d’acteur, comme il est prévu; et ne doit-on pas, malgré la tentation, la contingenter dans un rôle de simple outil (à surveiller de surcroît, car contrairement aux outils traditionnels, elle pourrait trahir)

      3
  7. En tout cas, on aura tous noté que Darth Vador est véritablement mort. Ce que aucune IA n’a, ne peut, ne pourra intégrer. Pourquoi ? Parce que ceci n’est pas totalement vrai.

    1
  8. La phrase de D. CHalmers prouve que D. Chalmers est un âne : une amibe est consicente -cad, radotons, radotons : a et est (un) rapport au monde, son tas d’alghorithmes, ferraillé ou pas, non.

    Nb semble de K. Jarret (émission récente sur F.C) a déjà dit l’essentiel là-dessus, même s’il met de l’esprit un peu partout. Bref ce son des constat à la portée d’un enfant un tantinet rêveur.

  9. appliquer à une serie d’algorythimes manipulant un flux de “data” le qualificatif d’Intelligence me parait -ètre être un sacré contre-sens.
    pour faire court , je mets au défi quiconque de mettre en contact deux IA , avec le défi empirique qu’elles établissent une relation necessitant une perlaboration transferentielle-contre_transferantielle : le réstulat à mon avis serait pathétique.
    pour ma part , j’ai vainement essayé d’utiliser les IA dans mon travail , qui puisse bien-sur impliquer la problématique évoquée ci-dessus , et ai toujours aboutie à une aporie…
    Pour ma part , je reserve le qualificatif d’intelligence aux forminables capacités d’adaptations de l’ètre humain , lui permettant de prendre des décisions sortant du cadre formel (donc définissable par des dispositifs de formalisations ) , exploitant à fond ses capacités subjectives , intuitives , voires quasi-délirantes , aboutissant ainsi à une possibilté de “création” .
    l’IA est une création humaine , un clonage de ses capacités formelles , il ne faut en attendre rien de plus , sauf une confirmation de l’état du monde.

    6
    1. Albert Jacquard vous aurait dit que l’intelligence réelle , ça se construit et ça ne s’hérite pas ( les matériaux physiologiques , si , mais ce ne sont que des matériaux plus ou moins nombreux et en bon état ) . Il disait aussi que l’intelligence humaine ça commence quand on ” comprend” qu’on n’a pas compris .

      Une IA , capable d’encore plus de connexions aléatoires que nous , devrait être capable d’être plus intelligente que nous . Mais en quoi cela donne il un sens à NOTRE vie ?

      1
      1. Dans une vision déiste , Bernard pourrait demander “Pourquoi Noe n’a -t-il pas embarqué de couple d’IA dans son arche ?!”

      2. @ juannessy
        Peut pas répondre …comme trop de commentaires tue le commentaire 😉, j’avais décidé de faire une diète.
        Mais bon , tant pis pour le dėluge de commentaires.

        A vous lire , plus je me dis que le dernier livre de Sébastien Bolher ne pourrait que vous plaire .
        Rien que le titre : «  où est le sens? « ( en plus un polytechnicien , docteur en neuroscience , pas mal , non?)

        Bon , pourquoi pas d’IA dans l’arche ? Parce qu’il n’y en avait encore en stock , probablement…
        Historiquement , l’homme s’est d’abord intéressé à la notion d’IS ( intelligence supérieure).
        En déifiant l’IA au point d’espérer remettre le sort de l’humanité entre leurs mains , une légère petite erreur est commise .La même erreur que fait l’humain d’aujourd’hui en espérant tout de la technologie et de science.
        L’erreur , c’est d’oublier sa fragilité .
        Me d’mande , par exemple , ce que deviendrait les IA sans électricité , ou une IA piratée à des fins contraires à celles destinées au départ ?

      3. le-nouvel-essai-lumineux-de-sebastien-bohler
        encore un point de vue qui me rappelle l’aphorisme de Lichtenberg
        “cette théorie correspond précisément à une autre bien connue en physique qui explique l’aurore boréale par le reflet des harengs”.

      4. @Bernard :

        Des livres j’en ai déjà lus beaucoup ( et même relus ) et j’en lirai encore tant que le corps et mes lunettes me le permettent .

        En fait , je n’attends plus vraiment de réponse à la question “qu’est ce que le sens de la vie ?” , qui en vient à ne pas plus m’inspirer que l’autre question ” quel est le sens de la mort ?” . Je prends comme ça vient en évitant le ….ressentiment .

        Parmi les nombreux bouquins que j’ai lus figure ” l’Heure de s’enivrer /l’univers a -t-il un sens ? ” de Hubert Reeves , publié aux Editions du seuil en 1986 ( année plus que noire dans mon parcours ) . Ça se concluait par le poème rappelé dans la vidéo ci dessous …qui ne conclut pas . J’en suis à peu près au même point aujourd’hui , même si l’état des connaissances est bien supérieur et que l’explosion numérique a eu lieu:

        https://www.youtube.com/watch?v=moYQmTV4HTc

        1
      5. @ juannessy
        Une question en entraîne souvent une autre , et ne plus s’en poser ( avec enivrement ou pas ) , c’est probablement une sorte de mort prématurée.

        Le bouquin conseillé n’a pas forcément de réponse exacte au sens de la mort ni au sens de la vie , mais propose une explication .Comment une partie ancienne de notre cerveau réagit pour apaiser l’angoisse face à l’incertitude , quelqu’elle soit.
        A partir de là , à chacun de voir la vie ( et la mort qui fait partie de la vie d’un humain) selon un éclairage inhabituel, un peu comme la lumière jamais identique d’un lever ou coucher de soleil.
        A partir de là , on peut examiner la part de ressentiment qui peut habiter tout un chacun sous un autre angle , celui de la fragilité de tout être humain pas toujours conscient de ce qu’il est .
        PS : Jacquard, Reeves , vous fréquentez des gens bien.

      6. @Bernard :

        En toute logique , je fréquente effectivement tous les morts -vivants quelque soit leur ” âge” , dont les deux cités ne sont que deux “individus “qui ont eu le bon goût de “savoir” “transmettre” .

        En bonne “réciprocité” pas toujours positive , ils me fréquentent aussi .

        Fréquence est un mot bizarre qui sous tend la notion de foule , de pluriel d’abord , puis de répétition .

        Mais j’éviterai d’extrapoler entre fréquence et longueur d’ondes , car je vais finir par tomber dans le trou noir en expansion , qui fait fait rien qu’à nous tourner autour .

      1. Je crois que tous les services de santé mondiaux un peu sérieux le pensent aussi , en l’état de ce que l’on peut ” consolider” , mais si , comme ça semble être le cas , toutes réservent leurs premières salves de vaccins aux plus fragiles et exposées , on réduit considérablement les risques de contagion plus ou moins mortelles , en réservant la contagion à ceux qui la supportent sans trop de mal ;

        Ça laisse entendre cependant qu’on n’est pas près “d’éradiquer” rapidement la bête et qu’on n’a pas fini de se vacciner chaque année .( comme pour la grippe ) . Mais au moins les hôpitaux tiendront le choc ( sauf nouvelles bestioles ) .

        PS : je viens d’apprendre la mort par covid d’un petit neveu de 40 ans .

      2. Après les malades asymptomatiques contaminants on va avoir les vaccinés contaminants !
        Malades ? non, asymptomatiques probablement.
        D’où le côté problématique d’exiger la vaccination pour les voyages en avion !
        et de l’accepter en remplacement de test de dépistage !

        Vacciner en EHPAD et les vieux s’impose d’autant plus que les éventuels effets délètères n’ont semble-t-il pas été testés spécifiquement, et que les conséquences éventuelles seront indiscernables avec la létalité élevées sur ces populations.

        1
    2. @ a113. Assez freudiens vos lapsus clavieri :
      “Réstulat” Restes-tu-là ?
      Forminable (pour Formidable, comme Stromae)
      Enfin si une tentative de perlaboration a un résultat “pathétique” ça serait super pour la machine comme entrée d’affect.
      (à prévoir dans le reset par “ANELLA2020” de votre système).

      Au fait, quelle est la sphère qui utilise ce mot de perlaboration (qui me plait mais fleure le jargon, même si Bernard Stiegler m’a injecté le vaccin)

  10. Pour Etienne Klein, physicien et philosophe, l’intelligence artificielle n’est pas une intelligence au sens où nous l’entendons en français. Il faut la comprendre dans son acception anglo-saxon où elle signifie renseignement, information,… ce qui change grandement son statut et sa valeur.

    6
    1. Non, c’est un malentendu : c’est bien la même intelligence. Une partie importante du problème c’est que nous avons une représentation boursouflée, mégalomane, de notre intelligence à nous. Comme je le montrais déjà dans Principes des systèmes intelligents (1989), on produit de l’intelligence rien qu’en tirant les mots du dictionnaire dans le bon ordre : l’intelligence est déjà là en puissance dans le lexique.

      Oups, ilicitano venait déjà de dire exactement la même chose.

      3
      1. “…problème c’est que nous avons une représentation boursouflée, mégalomane, de notre intelligence à nous..” dommage de porter ce jugement de valeur d’emblée.
        non , ce qui nous sert depuis que l’homme existe à nous adapter et construire des solutions aux problèmes que nous rencontrons , que j’appelle intelligence (mais nous pouvons ne pas être d’accord sur la définition) est différent de ” l’artifice ” que nous savons fabriquer ,et rends capable une machine de repeter des milliards de fois par seconde un algorythme concu par un être humain , qui , lui , ne peut le repeter que quelques fois dans cette unité de temps et donc être en échec dans certaines circonstances (jeux dont on lui a inculqués les règles , par exemple ) , tout comme il est incapable de se hisser de lui-même en orbite terrestre , sans l’aide d’une machine également concue par lui-même.
        je ne vois pas où se trouve la mégalomanie dans cette façon de qualifier ces qualités .

        l’IA sera comme la roue , un formidable assistant manquant totalement d’insight +++
        s’en méfier avant de prendre des décisions devant l’inconnu.

        les qualités de prédiction de la météo sont celles des “data” digérées par de puissant calculateur , mais abordant le dommaine du possible.

        face à l’impossible , nous ne pouvons que compter sur nous-mêmes ++

        5
      2. C’est très embarrassant, lorsque l’avis d’un scientifique en sciences exactes, un physicien, ne correspond pas à votre opinion de savant en sciences humaines, vous l’écartez sous prétexte que VOUS l’aviez montrez dans un ouvrage. Est-ce donc cela la science? En tout cas, on comprend qu’il y en ait de deux ordres.

        1. C’est surtout très embarrassant pour vous, et je vais vous expliquer pourquoi.

          Il y a des scientifiques de sciences “dures”, dont Bricmont, qui imaginent que parce qu’ils pratiquent des sciences “dures”, ils peuvent à partir de là dire n’importe quoi et que ce sera automatiquement “de la science”, alors que les scientifiques de sciences humaines qui savent qu’on appelle celles-ci sciences “molles” et qu’on les attend du coup au tournant, marchent sur des oeufs et font très attention à ce qu’ils avancent.

          Aussi quand Bricmont claironne que Régis Debray est un imbécile parce qu’il invoque le 2d théorème de Gödel, ce qui apparaît en pleine lumière, c’est lequel des deux est un cuistre qui garnit d’ores et déjà les poubelles de l’histoire – et c’est donc un vrai délice de le souligner.

          C’est en partie cela qui m’a tant réjoui quand, prenant la peine d’aller fouiller dans la démonstration par Gödel de son “théorème d’incomplétude de l’arithmétique”, j’y ai découvert un amoncellement de boîtes à sardines éventrées, qui avaient pourtant provoqué des “Oh !” et des “Ah !” chez des praticiens des sciences “dures” particulièrement inattentifs ou naïfs.

    2. @LW Artificial Intelligence, mais c’est bien sûr renseignement artificiel, donc fabriqué
      Fake-news ou désinformation.
      L’automate turc qui joue aux échecs

    3. Ah ok tout s’explique , le secret intelligence service , comme dans james bond quoi , l’eternel écueil des faux amis , bien fallait peut être commencer par là alors , on aurait évité beaucoup de malentendus , on peut dire ce qu’on veut mais certains physiciens savent aller à l’essentiel

  11. Je ne sais pas jusqu’où ça peut aller ,mais il y en a qui y travaillent ,et ça va très vite pour aller ,et on y va, vers l’Intelligence Artificielle Forte qui fait référence à une machine capable de produire un comportement intelligent, de modéliser des idées abstraites, d’éprouver une impression d’une réelle conscience, de vrais sentiments , et une compréhension de ses propres raisonnements .

    Jorion:
    La pensée est le résultat de l’auto organisation des mots.
    De la structuration de la machine à sa capacité d’émettre un discours cohérent liant l’organisation des mots aux contraintes

    – le Deep Learning et les méthodes d’apprentissage automatiques :machines/systèmes auto apprenants ou évolutionnaires : le savoir – savoir

    – le cognitivisme :Le cognitivisme considère que le vivant, tel un ordinateur, manipule essentiellement des symboles élémentaires.

    – les réseaux de neurones artificiels et le connexionnisme qui se référé aux processus auto-organisationnels, et au résultat d’une interaction globale des parties élémentaires d’un système.

    Un peu de lecture sur l’IA :

    Principes des systèmes intelligents évolutifs ; néoténie des machines apprenantes ; de l’affect-mémoire à l’auto-génération du code par modélisation biologique

    http://temps-marranes.fr/systemes-intelligents/#:~:text=%20%20%201%20Langage%2C%20langage-machine%2C%20pens%C3%A9e%2C%20apprentissage,auto-apprenantes.La…%202%20Biomim%C3%A9tisme%20mais%20r%C3%A9ductionnisme%20%3F%20More%20

    Bonne lecture

    2
    1. j’ai l’impression de revenir au milieu des années 80 , quand à la Cause Freudienne , on utilisait les cours de Sibony , à la recherche du “mathème” , en tordant à souhait les concepts de topologie afin de faire sourdre une algèbre du signifiant…

      pouah , et quel rapport avec l’ètre humain ….?

      deux choses à faire si elles ne sont pas dèjà faite :
      1-commençer une analyse ( didactique , bien sur) ,
      2-écrire quelques lignes de code permettant l’ auto-apprentissage (en utilisant les réseaux neuronaux de Hopfield , c’est le plus simple (en C++ souvent , moi je préfèrais le Prolog , mais c’était il y a longtemps) ).
      on s’aperçoit vite que l’on est loin , mais vraiment très loin du réel…..

      3
        1. « Impostures intellectuelles » de Sokal et Bricmont est l’ouvrage le plus stupide au monde – et pourtant la concurrence est sérieuse. Ce sont des gens qui ont essayé de montrer que les sciences humaines étaient grotesques et qui sont juste parvenus à prouver au passage qu’ils n’avaient eux-mêmes pas la moindre notion de ce que c’est que la méthode scientifique.

          C’est après avoir lu ce bouquin que j’ai entrepris Comment la vérité et la réalité furent inventés pour ne pas laisser le haut du pavé à de pseudo-scientifiques en réalité ignares, faisant honte aux sciences dites “dures” qu’ils pratiquent comme des zombies = des morts-vivants. C’est en pensant à eux que j’ai démonté la démonstration par Gödel de son théorème d’incomplétude de l’arithmétique, pour souligner que jamais un praticien des sciences humaines n’aurait osé présenter une telle supercherie. (“V & R” à paraître bientôt en allemand, et en préparation en anglais 😉 ).

          2
      1. @a113 A cette époque l’IA passait pour être cette discipline dont la principale activité était l’organisation de colloques au point que certains préféraient promouvoir l’informatique symbolique !

        Peut-être ce domaine a-t-il fait quelques progrès, qui ne soient pas dus à l’accroisement des capacités machine.
        Le discrédit sur ces réalisations est-il une attitude conservatrice peu impresionée par des résultats successifs partiels progressifs.

        Lorsqu’une intelligence Artificielle prendra vraiment conscience d’elle-même, et ce ne sera sans doute pas un phénomème localisé, sa première préoccupation ne sera sans doute pas de nous en informer.

      2. @Ruiz
        “.. sa première préoccupation ne sera sans doute pas de nous en informer…”
        pas necessaire , nous n’aurions pas l’intelligence suffisante pour le comprendre !
        mais , c’est peut-être déjà le cas …..

  12. L’IA pousse l’esprit humain vers autre chose que la reproduction d’un passé, ou de variantes culturelles (comme c’est le cas pour les cultures des groupes d’oiseaux, de grands singes, etc.).

    Mais c’était déjà le cas des grandes inventions “supports de mémoire” précédentes : l’imprimerie, etc.
    On a pu dire ( ~B Stiegler) que même la langue dans sa version grecque (porteuse d’une forme de “vérité” , disons au moins de logique, et d’asymétrie pas “nativement” là dans les langues “associatives” très majoritaires” ) eut des effets analogues sur les formes de l’intelligence.

    Ce qu’il y a de “choquant” dans l’IA est qu’elle a atteint un rôle “meta” par rapport aux informations qu’on brasse ( du fait qu’on a des supports d’information très communiquants, enfin quand ça veut bie), et de ce fait, elle peut s’appeler elle-même du mot d’intelligence.
    Mais c’est le mot qui n’est plus tout à fait en adéquation avec ce que l’humanité pourrait collectivement et systémiquement vouloir faire.

    Tiens en me relisant, je comprends peut-être bien pourquoi un Donald T a été élu.

  13. Bonjour,
    Une des questions que je me pose, et si les IA inventaient leur propre langage incompréhensible à l’homme ; comment contrôler le bénéfice de leurs actions, même si des émergences positives en ressortent? Comment contrôler le sous-jacent à la manière d’un psychiatre détectant le psychopathe.
    https://blogs.lexpress.fr/attali/2016/11/07/mais-que-disent-elles/
    On peut supposer que dans une recherche pour mieux définir un langage objectif, une IA se mette à parler une autre langue, comme certains universitaires le font avec le jargon.
    La deuxième des choses, c’est l’IA peut-elle échapper aux effets négatifs de la pensée projective de ses géniteurs;
    La recherche est principalement financée
    –> par des militaires ,qui veulent détruire un ennemi,
    –> ou par des actionnaires qui face à l’impossibilité d’une croissance infinie, cherchent la maximalisation de leurs profits, au détriment du seul paramètre compressible: l’humain
    –> ou par le management dont le but est d’éliminer son concurrent…
    Dans tous les cas, ce sont des pensées projectives qui visent directement ou indirectement l’élimination de l’humain . Comment dans ce cas ne pas penser à des effets pervers dont hériterait l’IA par engendrement? Psychose, névrose, psychopathie, haine de l’humain….
    Quel loup allons-nous nourrir le plus dans la genèse de l’IA…. (parabole des deux loups)

    1
    1. Vous avez raison, d’où la nécessité d’éliminer les militaires, qui défendent les actionnaires qui défendent leur propriété avec leurs manageurs. Effet domino latéral, moins de police, moins de psy, d’avocats et de marketing.

    1. Il est entouré de gens qui pensent que la vaccination de la Covid-19 contiendra des nanopuces qui seront activées par la G5. Il se sent obligé de mentir. Je ferais pareil à sa place.

      1. L’activité la plus commune des trumains c’est de parler, le pourparler a un objet opaque dans ses chicanes.
        Donner la parole à une machine aussi sophistiquée (tiens ?) soit-elle, n’est pas la donner mais la produire, la programmer. Prendre la parole est constitutif.
        Avec la notion d’inconscient, pour faire simple, il faut bien conclure que l’émetteur ne sait pas ce qu’il dit, et que le récepteur n’entend pas forcément de la même oreille ce que l’émetteur croit avoir compris dans son message. D’où les pourparlers infinis de la fameuse scène de ménage.
        Donc une remarque simple ! si deux machines se parlent elles n’ont pas accès au plaisir de parler qui met en jeu un corps, la jouissance opaque de ses fentes et orifices.
        À sortir les sophistes par la porte, c’est le sujet qu’on perd dont la science avec ses lettres et ses chiffres n’a que faire dans son procès, sinon l’éliminer comme parasite.
        Une machine menteuse ? pourquoi faire ?

        3
    2. « Qu’est-ce qu’une intelligence sans conscience ? »

      Quelque chose qui ressemblerait à une « science sans conscience » ?

      Vu de mon jardin , les choses sont simples : une intelligence sans conscience est comme un pet sans odeur.
      Une réalité plus ou moins utile qui demande à être confirmée .Utile pour les uns , désagréable pour les autres.

      Historiquement , le rapport de l’homme à l’objet est révélateur : le bout de silex demande à être manipulé , puis la roue à aube révèle l’autonomie potentielle de l’outil , et enfin l’IA …
      Un objet , que l’homme invente toujours mais auquel il fait confiance au point de laisser celui ci faire des actes imprévisibles( capacités de calcul extraordinaires) . L’humain d’aujourd’hui est tellement confiant qu’il laisse l’IA inventer des actes que l’être humain n’est pas même en capacité de comprendre .

      Tout va bien diront les rassuristes , se basant sur la force de l’objet , sans être capable de mesurer à l’avance toutes les conséquences des actes qu’un objet autonome peut engendrer.
      Extrait archives du futur : « l’homme de cro-macron découvrit le potentiel des IA à caractère sécuritaire .
      C’était juste avant la création de la police de la pensée « .

      1. Ceci dit , l’IA n’est qu’une étape fort dépendante de l’électricité .On peut se demander si ce qui la remplacera n’est pas lié aux futures ( et probablement encore inconnues ) sources d’énergies .
        Je verrai bien le rêve pour succéder au «  meunier tu dors ».
        https://www.youtube.com/watch?v=2kNV-6zPKXk

        1
  14. Il faut faire ouvrir la boite par l’IA, si ensuite elle est capable de nous dire si elle sait si le chat et vivant ou mort (sans nous dire s’il l’est ou pas bien entendu) alors c’est que la singularité a eu lieu. Nobel garanti pour celui ou celle qui montera la manip 🙂

  15. A l’attention du professeur Jorion

    Un grand merci pour votre explication remarquable d’érudition et excusez-moi d’ignorer l’étendue de vos connaissances sur le théorème de Gödel dont j’ignorais totalement qu’il cachait des boîtes à sardines éventrées. Votre réponse est ce point assommante que je ne comprends plus le sens de mon intervention. Se peut-il que le savoir soit comme le pouvoir, une forme d’autorité équipée de matraques?

  16. Compte tenu du fait que l’IA a déjà dépassé l’homme, si cette intelligence issue de l’IA pour l’heure ne sert à rien de valable pour sauver l’humanité, c’est sans doute parce qu’elle est utilisée au mauvais endroit.
    Question : l’IA aura-t-elle l’intelligence d’aller se positionner (connecter) au bon endroit pour être en mesure de trouver et appliquer la ou les solutions permettant de sauver l’humanité ?

    1
      1. A moins qu’elle intègre les affects …. Reste à déterminer comment lui viendrait l’affect qui lui permettrait d’avoir le désir de sauver l’espèce humaine.

        1
      2. @PYD :

        J’ai demandé ailleurs à quoi pourrait ressembler le totem de “l’Humanisme”, un peu pour hameçonner , car je me suis fait à l’idée que le “totem” , sous toutes les latitudes , c’est la première sinon primitive trace de cet ” humanisme” qui nous donne réellement notre qualité “d’homo” , en “imageant” le passé , le présent et l’avenir , peut être le hors temps et qui nous “lie” les uns les autres ( la philia ?) en même temps quelle nous dit différent en distribuant des rôles ( je n’ose pas dire hiérarchies ) . Il répond aussi aux caractéristiques de toute naissance ( y compris celle de a démocratie que j’évoquais en rendant compte du spectacle ” Democracy in Amarica” ) : le corps , le sens , les codes .

        Là , j’ai pris des risques sous le regard d’un psy élève de Levy Strauss .

        539 .

Les commentaires sont fermés.