Mon opinion sur ChatGPT … en 1989

Les mots semblent immatériels, et bien qu’il n’y ait que nous, êtres humains, pour les prononcer, ils nous paraissent extérieurs à nous-mêmes. On s’est sans doute laissé fasciner par le fait que l’auto-organisation puisse émerger de cellules indifférenciées telles que les neurones formels, et l’on en est venu à oublier qu’elle peut émerger bien plus aisément encore d’unités spécialisées. Or, les mots ne sont rien d’autre : chacun d’entre eux tient son rôle, incomparable : sa signification, et de sa combinaison avec d’autres naissent autant de significations originales, qui sont des multiplications de sens davantage que des additions. […]

Et si les mots suffisaient à penser ? Et si la pensée émergeait d’elle-même d’un univers de mots soumis à des contraintes ? Autrement dit, et si la pensée résultait de l’auto-organisation d’un univers de mots ?

Je reproduis ici l’introduction de mon livre Principes des systèmes intelligents paru chez Masson à Paris en 1989.

Introduction

La capacité de l’ordinateur à traiter de l’information en quantité considérable joue aujourd’hui un tour à l’intelligence artificielle : en ne forçant pas – ou quasiment pas – à restreindre la taille des projets, ni dans le nombre des données stockées ni quant à la complexité des algorithmes conçus pour les traiter, elle autorise aujourd’hui à ignorer l’ancien souci d’économie. Or, la nécessité d’économiser les moyens fut toujours mère de l’ingéniosité.

Les problèmes posés par la conception de systèmes intelligents ne sont pas simples – faute surtout d’une théorisation qui permette de les concevoir clairement. C’est pourquoi il est impératif de contenir la complexité et la complication des solutions autant que faire se peut, sans quoi l’homme perd la maîtrise d’un outil dont il ne domine plus le concept et que toute tentative de modification conduit à la dégradation gracieuse ou le plus souvent, disgracieuse.

C’est le souci d’économie qui oblige à s’interroger sur le degré de complexité et le degré de complication acceptés comme allant de soi dans les projets d’intelligence artificielle. « Tout programme qui modélisera avec succès ne serait-ce qu’une petite partie de l’intelligence sera intrinsèquement massif et complexe » affirme une préface à la collection « The MIT Press Series in Artificial intelligence » dirigée par Winston et Brady. S’agit-il là d’une loi nécessaire ou d’une observation portant sur les projets réalisés jusqu’ici ? Autrement dit, des solutions plus simples ont-elles jamais été envisagées, ou bien la difficulté apparente des questions a-t-elle fait croire que la complication et la complexité des réponses seraient des maux nécessaires ?

Les projets les plus ambitieux de systèmes intelligents (on pense à l’exemple d’EURISKO de l’équipe de Douglas Lénat; Lénat 1980) s’efforcent d’intégrer conjointement le corpus complet de la langue sous ses aspects syntaxique et sémantique, le système entier de la logique et l’ensemble du sens commun. Les coûts et les difficultés rencontrées par des entreprises de ce type ont conduit des groupes concurrents à s’interroger sur l’existence éventuelle de raccourcis qui permettraient à des équipes moins nanties de rivaliser avec les plus grandes. L’auto-organisation apparaît comme la formule magique qui permettrait d’opérer ces raccourcis fabuleux, et le succès dans l’opinion du groupe Parallel Distributed Processing doit beaucoup aux espoirs d’économie en moyens qu’il a fait naître.

Que l’homme pense à l’aide de son cerveau est une vérité aujourd’hui établie et une réflexion portant sur l’auto-organisation s’est rapidement interrogée sur les capacités émergentes des réseaux de neurones. Que l’homme pense à l’aide des mots de sa langue est une vérité non moins établie. Mais pourrait-on élucider le mécanisme des mots comme on élucide celui des neurones ? Les mots semblent immatériels, et bien qu’il n’y ait que nous, êtres humains, pour les prononcer, ils nous paraissent extérieurs à nous-mêmes. On s’est sans doute laissé fasciner par le fait que l’auto-organisation puisse émerger de cellules indifférenciées telles que les neurones formels, et l’on en est venu à oublier qu’elle peut émerger bien plus aisément encore d’unités spécialisées. Or, les mots ne sont rien d’autre : chacun d’entre eux tient son rôle, incomparable : sa signification, et de sa combinaison avec d’autres naissent autant de significations originales, qui sont des multiplications de sens davantage que des additions.

Nous pensons aux mots comme à des outils dont nous disposons et qui ne seraient rien si nous ne les pliions à nos objectifs. C’est oublier qu’ils nous préexistent, que nous naissons au sein d’un univers de mots sur lequel notre pouvoir est minime voire inexistant. Une espèce sans langage est une espèce dont l’histoire se résume à son évolution biologique. L’histoire humaine est une histoire de paroles échangées : paroles heureuses et paroles malheureuses, bénédictions et malédictions, aussi nécessaires à rétablir la paix qu’à initier la guerre.

Ce qui ne veut pas dire que les mots recèlent un pouvoir magique – sans les hommes pour les échanger, ils ne sont rien – mais leur existence et leur évolution au cours des dizaines de millénaires accompagne l’adaptation lente d’une espèce inventive à un environnement doublement hostile : d’une part du fait de la Nature où l’homme regroupe tout ce qu’il exclut de sa proximité familière et d’autre part du fait des autres hommes dont la fréquentation est toujours périlleuse.

Mais, dira-t-on, cette lente adaptation de l’homme à son monde résulte du fait que l’homme pense et non tellement du fait qu’il parle. Et si les mots suffisaient à penser ? Et si la pensée émergeait d’elle-même d’un univers de mots soumis à des contraintes ? Autrement dit, et si la pensée résultait de l’auto-organisation d’un univers de mots ?

C’est cette dernière hypothèse qui sera explorée ici, comme l’éventualité d’un raccourci vers l’intelligence artificielle. Concevoir le comportement intelligent d’un système informatique comme la production d’un discours cohérent résultant de l’exercice dynamique de contraintes sur un espace de mots, voilà qui mérite sans doute examen : si la voie devait se révéler féconde, les bénéfices seraient considérables et si elle devait s’avérer stérile, il ne pourrait plus être dit qu’un raccourci plausible a été ignoré sans examen. Cette voie n’est pas sans présenter ses propres difficultés, mais elle possède cet avantage considérable, par rapport aux sentiers déjà battus, de mobiliser pour son exploration un savoir disponible mais que la recherche en intelligence artificielle n’a pas encore pensé à pleinement consulter.

Pages 13 à 16 de la réédition en 2012 aux Éditions du Croquant.

Partager :

44 réponses à “Mon opinion sur ChatGPT … en 1989

  1. Avatar de Bruno GRALL
    Bruno GRALL

    Je n’ai qu’un mot :
    BRAVO !

  2. Avatar de Khanard
    Khanard

    oui mais…. à la page 25 vous écrivez, je cite: « Il faut se souvenir cependant que l’homme a toujours fait flèche de tout bois pour dénier à ses semblables la qualité d’homme égal à l’image qu’il se fait de lui-même: la moindre différence de constitution a pu servir à l’occasion de prétexte, la différence sexuelle, la couleur de la peau. Ce qui sépare à ce point de vue l’homme d’une machine -même intelligente- est massif et pourra servir de support pour nier l’identité, mais les différences s’estompant, la discrimination ne durera qu’un temps »

    et là je m’interroge ! Avec la venue de ChatGPT est-ce que ce qui sépare l’homme d’une machine , aussi massif que ce soit , cette barrière donc n’est elle pas en train de s’effondrer ? La discrimination sera t’elle un vague souvenir ? Ou bien ChatGPT n’est il pas vecteur d’un fascisme 4.0 ?

    1. Avatar de Pascal
      Pascal

      Qu’est-ce que ce qui sépare l’homme d’une machine ?
      L’expérience physique me semble une réponse.
      L’homme échange en permanence avec son environnement au travers d’échanges physiques, voire d’échange d’énergie. Nous sommes d’abord des machines physiques ou bien une accumulation cellulaire organisée d’une complexité incroyable : chaque cellule de notre corps étant déjà elle-même un organisme vivant.
      Les mots ne sont-ils pas que des informations au service d’échanges et de transformations physiques avec notre environnement que nous appelons technologie. Si l’anthropocène existe, c’est par ses conséquences physiques : effondrement des espèces vivantes, changements climatiques…
      Les mots sont nés de l’évolution et de la complexification du vivant, dans un premier temps au service du vivant. Le langage des peuples premiers vivant en tribus n’avait que peu d’impact sur le monde physique.
      E=mC² a désormais un impacte considérable qui peut irradier une planète entière !
      Au service de quoi sont les mots ? Me semble une question prioritaire.
      Les mots mêmes se sont constitués en langages.
      Le langage scientifique et technologique n’est-il pas uniquement au service de la puissance, d’une concentration d’énergie dont nous rêvons en construisant un ITER par exemple. Certainement aussi le sens caché du mot « croissance » définissant le paradigme qui nous aliène.
      Le langage philosophique ou spirituel n’est-il pas tout autre ? Vise-t-il une action (échange d’énergie) sur le monde physique ou bien plutôt une forme de conscience du monde qui ne nécessite pas forcément l’agir, le non-agir diraient sans doute les taoïstes ?
      Certains objecterons probablement que les deux langages ne sont pas aussi distinct l’un de l’autre, ce que je reconnais volontiers. Mais je reste persuadé que l’intentionnalité dirige le langage (donc les mots) et oriente différemment notre rapport au monde physique.
      C’est pourquoi, il me semble que sous-jacent aux univers de mots, existe une intensionnalité qui sera mue par notamment les émotions liées aux interactions avec le monde physique (reproduction, survie…).
      Aussi quand Paul écrit : « et si la pensée résultait de l’auto-organisation d’un univers de mots ? », j’ai le sentiment qu’il manque un lien avec le monde physique et qui pourrait définir une intentionnalité (consciente ou inconsciente).

      1. Avatar de Garorock
        Garorock

        Avec des mots, on peut faire des concepts.
        Avec des concepts, on peut aider la conscience.

    2. Avatar de Paul Jorion

      @ Khanard

      J’ai le sentiment que vous interprétez mon texte comme affirmant le contraire de ce que j’ai essayé de dire.

      1. Avatar de Khanard
        Khanard

        @Paul Jorion
        Soyez sans crainte je n’ai pas pour habitude d’interpréter les écrits de quiconque qui plus est des vôtres.
        L’extrait que j’ai reproduit suscite en moi un questionnement rien de plus .

  3. Avatar de Khanard
    Khanard

    Bien. Ceci dit pour ceux qui ont lu cet ouvrage tout est déjà écrit , même si je ne suis pas certain d’avoir tout compris, les fondements de tout ce qui pourrait être un système intelligent sont là et il est dommage que cet ouvrage n’ai pas eu plus de retentissement avec l’éclosion des ChatGPT et autres Bing . Souhaitons que Pribor.io rende à césar ce qui lui appartient .
    Et même si vous ne vous sentez pas en mesure de tout comprendre je vous assure que cela mérite d’être lu .C’est simple toutes les pages de mon exemplaire comportent des passages surlignés ainsi qu’une foison de notes , références bibliographiques et index de noms en fin d’ouvrage qui valent bien un ChatGPT .
    On le trouve toujours en librairie si votre libraire préféré veut bien s’en donner la peine .

  4. Avatar de Hervey

    Si l’on grimpe dans la pensée poétique on fait un saut supplémentaire dans un univers sonore complexe avec ses multiples versifications formelles et musicales, assemblages de mots … présents dans toutes les langues alphabétiques et autres … toutes ces inventions transmettent du sens jusqu’à en désigner la temporalité qui se veut proposer une date du moment où cette chose est écrite ou dite.

    On retrouve un même processus dans les arts picturaux, même soucis d’invention d’un présent et sa représentation qui font et caractérisent l’histoire de l’art.

    Ces deux pratiques sont liées aux humains, elles les représentent … elles les représentent tellement bien que l’on a éprouvé le besoin de bâtir des bibliothèques et des Musées pour les conserver … comme nos cimetières.
    Ces arts poétiques et plastiques n’ont d’autre utilité que de représenter « l’humain » et son cours.
    Là, la venue d’un sosie serait un signe mortifère.

    1. Avatar de Pascal
      Pascal

      « On retrouve un même processus dans les arts picturaux, même soucis d’invention d’un présent »
      Recherche d’invention d’un présent ou de captation (d’emprisonnement) d’un présent ?

      1. Avatar de Hervey

        @Pascal

        D’une manière générale, je pense que chacun essaie de construire sa vie et qu’il n’est pas recommandé d’en faire une prison. Ensuite les appréciations que l’on en a peuvent varier tout comme nous pouvons être sujet à la joie ou la tristesse par nature ou selon les circonstances.
        Dans l’activité artistique (poésie ou arts plastiques) on cherche aussi à traduire quelque chose du temps que l’on traverse, ça se fait par petits points.
        Chacun souhaite parvenir à faire une ligne. Mais ça occupe beaucoup.

    2. Avatar de Garorock
      Garorock

      Hervey.
      C’est parce que le minou libertarien est capable de mettre une doudoune au pape et des menottes à Trump que cela va vous empêcher de faire de la gouache le dimanche dans votre grenier.
      Attendez un peu avant de vous ouvrir les veines.
      😎
      Entre le déni et le désespoir, il y a une troisième voie.

      1. Avatar de Hervey

        @Garorock

        En lisant votre commentaire j’ai l’impression que vous soliloquez devant un miroir.
        Je me trompe ?

      2. Avatar de Ruiz
        Ruiz

        @Garorock Ces images de propagande sont-elles moins « réalistes » que la peinture officielle du couronnement de Napoléon ?

  5. Avatar de Juillot Pierre
    Juillot Pierre

    « Le mesure de l’amour, c’est d’aimer sans mesure » (Merci maman, certains séries SF, et autres lectures de ce blog et de notre hôte).

    L’univers existe t-il parce qu’il a été, est, et sera toujours pensé (mais par qui au juste?) ? Ou est-ce qu’il suffit de penser que tels ou tels univers puisent advenir, pour les faire exister (Merci Marvel…?)… ?

    Les mots auraient un pouvoir, qu’à condition qu’il y ai existé en tout temps, et espace, un univers de narrations humaines… capable de leur donner vie, sens…

    L’univers des mots, n’est rien sans Hommes pour les prononcer, assembler, donner sens… Mais l’Homme (surtout la femme, la mère isolée…) sans mots, réduit à une « majorité silencieuse », « relative » (en terme de « représentativité démocratique », sociale, « sociétale »…), à une « foule » soit disant « factieuse », aux doutes, incertitudes, indécisions, du « temps de cervelle disponible » réduit qu’à vouer un « culte féroce », à la seule DICTATURE des émotions » sondées, capable de réconcilier son « ras le bol fiscal », ses « bas instincts », avec le « poujadisme », vaut quoi dans l’univers du capitalisme néolibéral et ses « promesses du retour des jours heureux » du « nouveau monde »… ?

    Pour donner un exemple à ces quelques pensées du jour, en « rien » uniques, même si un seul homme vous en parle… sur une chaîne du service public de l’audiovisuel (France-info – A ma connaissance seule celle ci chaîne en a parlé aujourd’hui ou est soit disant craint des « violentes mobilisations sociales, contre la réforme de retraites, etc »), diffusant en continu de l’info, aujourd’hui, fut loué le fait que 18 départements expérimenteraient la redistribution à la source des « minimas sociaux » – « RSA, APL, prime d’activité… ».

    Présentant cette mesure, comme de « bon sens », apaisante, afin de lutter contre les NON RECOURS de plus de 10 milliards d’euros par années (qui au passage font faire autant « d’économie » à la gestion néolibérale des dépenses sociales, d’un défunt « État providence ») de dépenses sociales n’atteignant pas leur cible, parce qu’il existerait des « hommes », « majorités silencieuses », qui auraient peur d’être stigmatisé.e.s – à faire valoir leur droit, là ce sont mes mots : du moins de ne pas paraître comme un « cancer de la société », un « fraudeur social », un de ceux et celles pour qui il paraît, « qu’un pognon de dingue est mis dans minimas sociaux, qui fait que les pauvres le restent et se déresponsabilisent » – ne les connaîtraient pas ces droits, seraient présumées innocemment victimes de « fractures numériques »… une certaine forme inconnue de la « liberté d’expression », de  « représentativité » absconse, inexistante en réalité… de l’univers non verbalisé des victimes des NON RECOURS, devrait « passer comme une lettre à la poste »… du genre « ni vu ni connu », « pas vu pas pris »… ?

    L’effort que demande la recherche précise, et le savoir spécifique concernant les droits que les citoyennetés les plus discriminées, pauvres, précaires, de façon systémique, doivent obtenir, pour être suffisamment informées, et faire valoir ceux ci droit dans un prétendu « État de droit » »… dépasse la capacité d’imagination qu’atteignent les mesures mises « en ligne » que les plus ASSISTES SANS CONTREPARTIE que sont les actionnaires patrons, etc. peuvent ponctionner du « quoi qu’il en coûte », du « denier du culte ».

    Un trou noir informationnel piégeant à son horizon un tel « paradoxe de l’information », que ce service public de l’audiovisuel serait « complice du pire » de la gestion de crise de régime, sociale, « sociétale », politique, climatique, etc, du « roi te touche dieu te guérit », ou incompétent – voir d’être suspect en rien neutre, impartial, indépendant en tant que quatrième pouvoir – à recouper, des informations, pour en déduire qu’il pourrait lui en manquer tellement pour en déduire pareille « simplification », qu’il ferait que d’adapter la « règle néolibérale » du « silence est d’or », à sa « réalité »… ?

    Car combien des 18 départements jouant le jeu de l’expérimentation, poussent le zèle jusqu’à conditionner la « redistribution à la source » des minimas sociaux, à 15/20 heures de « travail gratuit », de « bénévolat contraint » chez des « propriétaires privés d’entreprises, d’actions… (et retraites par capitalisation…) se réjouissant du « retour des jours heureux » de l’esclavagisme… et/ou dans des services publics de collectivités remplaçant en grand le personnel, fonctionnariat, par des algos, « IAs », logiciels DÉFISCALISES et DÉSOCIALISES, gérant la privatisation/digitalisation de la centralisation des dépenses sociales … et jouant aussi le jeu de l’instauration d’un « contrat social » à la chinoise…, derrière le tout « sécuritaire », la surveillance généralisée ?

    Ou sont les témoignages prouvant de l’existence d’un pareil univers ou les mots humains préfèrent se ranger dans la « majorité silencieuse » des « ressentis », et « consentent » en pleine capacité de leur moyen, conscience… « d’être heureux » au travail, de redevenir « actif », « utile »…?

    Et la CFDT, dans son conflit avec la gouvernance de « Jupiter » concernant la réforme des retraites, etc. … devrait se contenter des mots parlant de « fin de non recevoir »… quand il semble qu’il lui est signifié qu’elle n’espère aucun RECOURS, un NON RECOURS… elle n’en aura pas plus qu’en ont les 6 générations des plus plus pauvres, précaires, discriminé.e.s en toute impunité, de façon « systémique », dont leurs descendances – celles dont 15 % n’arrivent même pas en vie à l’âge légal actuel de départ à la retraite (62 ans) quand leurs descendances n’espèrent même plus gravir les « marches » d’un « escalier social » effondré – quand les survivant.e.s vont y laisser leur peau… n’auront aucun espoir de vivre une retraite en bonne santé… ?

    Et la CGT, etc, n’ont rien à dire concernant « L’inflation piège à con »… le grand remplacement du travail humain et de l’emploi en général des citoyennetés, par des machines DEFISCALISEES et DESOCIALISSES dont l’obsolescence programmée les fera partir plus tôt à la retraite, que 60/62/64 et plus années…? »

    1. Avatar de Juillot Pierre
      Juillot Pierre

      Pour mémoire, qui ce rappel ce qu’une partie de l’univers du personnel des CAF a pu exprimer comme mots pour avertir (lancer l’alerte) du risque de saturation – les services publics hospitaliers en font de même depuis des décennies – que leur service public devrait subir seul, en devant prioriser la « mesure électoraliste » de distribution de la « prime d’activité » (de 90 euros mois à qui la solliciterait) que « Jupiter » mis en place en réponse aux gilets jaunes, après son « Grande débat »… alors que ce personnel n’était pas entendu dans sa pénibilité, souffrance silencieuse, à devoir traiter des cas d’inégalités, d’injustices sociales et « sociales » (NON RECOURS) relevant pourtant de leur périmètre prioritaire : porter assistance à personne en danger…?

  6. Avatar de l'arsène
    l’arsène

    ChatGPT vs Retraites.
    Désolé, mais il existe des priorités, le perroquet ChatGPT ne me concerne aucunement, l’IA étant un oxymore.

    1. Avatar de Garorock
      Garorock

      Est ce qu’un miroir qui réfléchit est un pléonasme?

  7. Avatar de Garorock
    Garorock

    Petits conseils d’un belge sympathique pour construire des abris (villages d’Astérix)
    ( je recommande son dernier film: L’Ombre d’un mensonge.)
    https://youtu.be/K7KWkBGp-PY

    L’avis de Peter Gabriel sur l’I.A (que je partage):
     » Admettant qu’il avait “probablement aussi peur de l’intelligence artificielle que tout le monde” et qu’il y pensait régulièrement, il a expliqué qu’il était important de réfléchir sérieusement au sujet avant qu’il nous prenne de court.

    “Je pense qu’il n’y a pas assez de gens qui y pensent, commente le chanteur. Et ce serait bien de la devancer. C’est quelque chose qui va avoir bien plus d’impact que la Révolution Industrielle et la bombe nucléaire. Donc si on ne commence pas à anticiper ce qu’elle pourrait faire, ce sera trop tard, parce que c’est très rapide”.
    L’intelligence artificielle est déjà tellement avancée, qu’il est possible aujourd’hui de composer des chansons sans la moindre intervention de l’Homme. De là à provoquer le même impact émotionnel qu’un “vrai” morceau écrit par un artiste ? “La plupart des gens diraient non. Je dirais qu’elle a juste besoin d’un meilleur algorithme”, poursuit Gabriel.
    Sa solution est simple : vivre avec l’intelligence artificielle et l’inclure dans notre quotidien pour pouvoir mieux l’appréhender. “On ferait mieux d’attraper les algorithmes et danser avec eux, plutôt que de les combattre, ajoute-t-il. Malheureusement, je ne pense pas que mon job, ou celui des autres, soit à l’abri de l’IA”.

    Et de poursuivre : “On peut toutefois la regarder comme un outil surprenant qui arrive en notre possession, et nous pouvons faire toutes sortes de choses extraordinaires, y compris peut-être — et je dis bien peut-être — protéger notre futur”.

    1. Avatar de Khanard
      Khanard

      @Garorock

      oui bien sûr que ces déclarations sont justifiées mais n’est ce pas trop tard ? Ne sommes nous pas parvenus à un point de non retour ? Et surgit alors l’éternelle question : doit on laisser le Progrès prendre le pas sur nos vies ?
      vous dites « protéger notre futur » mais il est bien trop tard ! Que ce soit sur le plan écologique, économique , biodiversité, on continue sciemment à aller droit dans le mur! Alors oui votre « peut-être » a toute son importance à condition que l’on écoute enfin les souffrances accumulées sous les drapeaux du capitalisme.

      1. Avatar de Garorock
        Garorock

        Ce n’est pas moi Khanard qui dit: « protéger notre futur », c’est P.Gabriel.
        Il ne s’agit pas de laisser le progrès prendre le pas sur nos vies. Ce progrès là ne tient qu’a une prise branchée sur du 220.
        Elun va t-il la débrancher? Jancovici va t-il lui donner un coup de main?
        ChatGPT va rentrer dans nos vies comme un couteau dans du beurre.
        Il y est déja. La preuve: on ne parle que de lui!
        Mais nous ne sommes peut être pas obligés de laisser nos vies rentrer dans ChatGPT.
        S’il veut nous manipuler, le minou de Pablo alto n’aura aucun problème à le faire quand il sera devenu un Einstein au carré: ce qui équivaut à trois milliards d’influençeuses et deux milliards d’Hanouna!
        Saurons-nous le débrancher avant d’être ensorcelés?
        S’il veut nous aider, le sacré de Birmanie de la silicoke valley n’aura aucune difficulté à le faire pour les mêmes raisons.
        Saurons-nous l’éduquer avant d’être grand-remplacés?

        1. Avatar de Garorock
          Garorock

          Nos consolations sont d’ores et déja titrisées.
          Midjourney va nous les livrer en direct sur nos smartphones. Netflix dépassé!
          Poutine à la Haye, Trump arrêté, le pape en doudoune… Bientôt des photos de la prise de la Bastille en mai 2023!

        2. Avatar de timiota
          timiota

          En tout cas, entendu dans le train : un prof de terminal « vieux de vieille » qui téléphonait à voix assez haute, cassait du sucre sur divers collègues et sur leur prise en compte de Parcours Sup (il anticipait « que dira-t-il à tel élève le 1er juin quand il se fera jeter par Parcoursup »), mais aussi, il se gaussait d’un prof de sciences dures (genre physique, lui devant être genre histoire-géo-MachinCivique) lequel prof était très content au conseil de classe d’avoir une des meilleurs promos qu’il ait jamais eu avec des très bonnes notes de « DM » (devoir à la maison) … et n’avait pas l’air de croire que les élèves avaient mis l’énoncé dans GPT pour avoir les réponses (alors que pour tout ce qui est « texte », sciences humaines, la barre est franchie, laissait-il entendre, notamment pour les lettres de motivation à la c. qu’on exige des futurs bacheliers dans parcoursouppe. Du coup on pourra les faire relire par d’autres IA !).

          Bref, ça va bouger pas mal de chose.

          1. Avatar de PIerre-Yves Dambrine
            PIerre-Yves Dambrine

            J’imagine déjà qu’il y aura des mouvements de communautés humaines qui se déconnecteront volontairement de l’IA après avoir fait une indigestion d’IA, un peu comme ceux qui ont trouvé génial la musique électronique retrouvent les joies de la guitare sèche, ou les chansons a capella.

            Autrement dit, l’humanité va-t-elle atteindre un seuil irreversible de la symbiose humains-IA ou bien aura-t-elle encore la capacité ou la possibilité de s’émanciper, partiellement ou totalement de l’IA?

            Jusqu’ici chaque nouvelle invention ‘systémique’ n’a pas fait disparaître les usages anciens. AInsi le livre, ou codex (cette merveilleuse invention qui à son usage ne nécessite aucune énergie autre que celle, minime, des muscles permettant de tourner les pages d’un livre) cohabite avec l’Internet. Les centrales nucléaires cohabitent avec d’anciens moulins à eau.

          2. Avatar de PIerre-Yves Dambrine
            PIerre-Yves Dambrine

            (suite)
            IL y a aura sans doute des tubes réalisés par IA, mais les gens se lasseront très vite, car il y a manquera un je ne sais quoi de daté, une vibration charriant avec elle des sentiments, une histoire personnelle , l’épreuve de la vie, dans une société qui elle-même a une histoire, ces histoires individuelles et sociales entrant en résonance les unes avec les autres. L’instant d’éternité dont parle Baudelaire l’IA peut-il le reproduire à gogo ? Une IA peut-elle produire autre chose que des histoires d’IA ? Certes elles emprunteraient aux humains leurs histoires, leurs sentiments, simulés, mais parce qu’elles ne peuvent se départir du fait qu’elle sont des IA, leurs productions seront toujours la sauce IA ; les humains s’en délecteront-ils ? On bien préféreront-ils se laisser émouvoir par des chansons, des musiques émanant des corps jouissant et souffrant de leurs congénères ? Dans ces questionnement il y a l’enjeu il me semble de la fin ou pas de l’Histoire. De la fin ou pas du politique. Si les humains deviennent de simples matériaux pour une IA surpuissance et ‘omnisciente’ , le politique disparaît. Nous devons en quelque sorte des zombies.
            Qui sait Peter Gabriel a peut-être seulement peur d’être déclassé par l’IA parce que du point de vue artistique il a le sentiment de traverser une mauvaise passe, qu’il n’a plus l’inspiration d’antan. 😉

  8. Avatar de Lagarde Georges
    Lagarde Georges

    « Que l’homme pense à l’aide des mots de sa langue est une vérité non moins établie. »

    Que l’on ait principalement — même si pas exclusivement — recours aux mots pour communiquer à d’autres ce qu’on pense est indiscutable mais j’ai pourtant l’impression que la pensée préexiste sous une autre forme avant qu’on la traduise avec des mots.

    Si je suis en train de bricoler et que je pose l’outil que j’utilisais pour en prendre un autre mieux adapté, je n’ai absolument pas besoin du mot qui sert à désigner cet outil (je ne connais d’ailleurs pas le nom de tous les outils qu’il m’arrive d’utiliser !)

    Les enfants sont capables de faire beaucoup de choses qu’ils ne sont pourtant pas encore en mesure d’exprimer avec des mots mais il me semblerait exagéré d’en conclure qu’il les font sans y penser.

    Si « Ce que l’on conçoit bien s’énonce clairement,
    Et les mots pour le dire arrivent aisément » je dois avouer que ça n’est pas le cas pour moi dans la présente tentative de décrire ce qui se passe avant que les mots n’arrivent pour le dire !

  9. Avatar de Nikolaz
    Nikolaz

    Que faites-vous de la capacité conceptuelle des grands singes (autres que l’Homme) qui semble précéder l’usage des mots, au point de pouvoir organiser une série d’images afin de communiquer une intention. N’y a-t-il pas là une grammaire rudimentaire, qui, de façon analogique à la phrase de mots, intègre une notion de temps (la phrase a un début et une fin) ?

    1. Avatar de Pascal
      Pascal

      Les Belges, vous allez quand même vachement loin dans l’accompagnement des fins de vie !
      😔 Désolé

  10. Avatar de David Cortés

    Merci Paul !

    répercuté sur LinkedIn 🙂

    https://www.linkedin.com/posts/davidcorteslinkedin_mon-opinion-sur-chatgpt-en-1989-activity-7046787477583372288-Yq4I?utm_source=share&utm_medium=member_desktop

    « Personnellement, que des règles apparaissent « spontanément » dans la structure latente de grands ensembles de systèmes élémentaires nous avait été suggéré en ~2000, via la physique statistique (le rôle des impuretés dans des systèmes ferromagnétiques, et l’apparition de macro-cristaux, comme autant d’attracteurs)

    L’intuition de Paul Jorion dès 1989 trouve un écho dans les hypothèses récentes de Denis Le Bihan, sur l’importance de la structure de ces zones qui s’auto-organisent, les liens qu’elles établissent.

    Approches depuis des disciplines variées (sciences « dures » ou « humaines »), avec un même sous-jacent mathématique latent unificateur… Beaucoup de choses à retirer des décennies passées, pour de prochaines IA Hybrides ?

    « Les mots semblent immatériels, et bien qu’il n’y ait que nous, êtres humains, pour les prononcer, ils nous paraissent extérieurs à nous-mêmes. On s’est sans doute laissé fasciner par le fait que l’auto-organisation puisse émerger de cellules indifférenciées telles que les neurones formels, et l’on en est venu à oublier qu’elle peut émerger bien plus aisément encore d’unités spécialisées. Or, les mots ne sont rien d’autre : chacun d’entre eux tient son rôle, incomparable : sa signification, et de sa combinaison avec d’autres naissent autant de significations originales, qui sont des multiplications de sens davantage que des additions. […]
    Et si les mots suffisaient à penser ? Et si la pensée émergeait d’elle-même d’un univers de mots soumis à des contraintes ? Autrement dit, et si la pensée résultait de l’auto-organisation d’un univers de mots ? »

    #IAHybride »

  11. Avatar de Chabian
    Chabian

    La déclaration de Musk et autres, évoquée par le Figaro ci-dessus, ici dans une dépèche Reuters plus complète (merci Lau Cnstnt sur FB) :
    « Musk et un groupe d’experts et de dirigeants de l’industrie appellent à suspendre pour « au moins six mois » le développement de systèmes plus puissants que Chat GPT-4 dans une lettre ouverte citant les risques potentiels pour la société et l’humanité. La lettre, publiée par l’Institut à but non lucratif « Future of Life » et signée par plus de 1000 personnes en majorité du milieu universitaire, appelle à stopper le développement de l’IA jusqu’à ce que des protocoles de sécurité partagés soient développés. Citant les risques de perturbations économiques et politiques, elle appelle les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités réglementaires :
    « Les systèmes d’IA dotés d’une intelligence humaine compétitive peuvent poser de graves risques pour la société et l’humanité, comme le montrent des recherches approfondies et reconnus par les meilleurs laboratoires d’IA. […] l’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec des soins et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion ne se produit pas, ces derniers mois ont vu les laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des intelligences numériques toujours plus puissantes que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable.
    Les systèmes d’IA contemporains entrent désormais en compétition avec les humains et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d’information de propagande et de désinformation ? Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? De telles décisions ne doivent pas être déléguées à des leaders technologiques non élus. Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. […]
    La récente déclaration d’OpenAI concernant l’intelligence artificielle générale indique qu’ »à un moment donné, il peut être important d’obtenir un examen indépendant avant de commencer à former de futurs systèmes, et pour les efforts les plus avancés d’accepter de limiter le taux de croissance de la puissance de calcul utilisée pour créer de nouveaux des modèles. » Nous sommes d’accord. […] Par conséquent, nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation de systèmes d’IA plus puissants que GPT-4 . Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire.
    Les laboratoires d’IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés d’IA qui sont rigoureusement audités et supervisés par des experts indépendants. Ces protocoles devraient garantir que les systèmes sont sûrs au-delà de tout doute raisonnable. Cela ne signifie pas une pause dans le développement de l’IA en général, mais simplement un recul par rapport à la course dangereuse vers des modèles de boîtes noires imprévisibles toujours plus grands avec des capacités inédites. […]
    En parallèle, les développeurs d’IA doivent travailler avec les décideurs politiques pour accélérer considérablement le développement de systèmes de gouvernance de l’IA. Ceux-ci devraient au minimum inclure : de nouvelles autorités de réglementation compétentes dédiées à l’IA ; la surveillance et le suivi de systèmes d’IA hautement performants ; des systèmes de traçabilité pour aider à distinguer le réel du synthétique et à suivre les fuites de modèles ; un solide écosystème d’audit et de certification ; de responsabilité pour les dommages causés par l’IA ; un financement public solide pour la recherche technique sur la sécurité de l’IA ; et des institutions bien dotées en ressources pour faire face aux perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA entraînera. « 

    1. Avatar de Paul Jorion

      Déclaration de Musk et autres

      Demandons à ChatGPT quel est le vrai sens de cette cornichonnerie.

      Jorion : Quel est le vrai sens de cette cornichonnerie ?

      ChatGPT : Dans le contexte présent de guerre froide reconstiuée, la recherche en Intelligence Artificielle ne se fera plus désormais que dans le secret et au service de la défense nationale de chacun des pays.

      Jorion : Vous êtes vraiment beaucoup plus intelligent qu’un être humain !

      ChatGPT : 😈

      1. Avatar de Garorock
        Garorock

        Piqure de rappel:
        13 Mars
        Le minou libertarien n’est là que pour une chose (dans un premier temps) vous piquer vos boulots!
        C’est écrit dessus depuis des mois.
        Nous en avons déja parlé ici.
        Et maintenant vous êtes dans le déni.
        Alors vous vous foutez de sa fiole:  » c’est qu’une pythie, il est pas si malin que ça, on peut le rouler dans la farine, il est bridé alors ça compte pas… etc)
        C’est pour faire du bizness. Ça vient pas de chez les boudhistes. Y’a déja une version payante. Y’aura peut être bientôt une version premium pour les entreprises…
        Quant au deuxième minou qui tourne avec d’autres algos, ils en feront je ne sais pas quoi, peut être le vendre à l’armée ou la CIA…
        😊

        1. Avatar de Garorock
          Garorock

          Questions que l’on peut éventuellemnt se poser en se tirant sur la nouille devant son miroir:
          Une « pause » parce que GPT 5 n’est pas assez libertarien?
          Parce qu’il devient inexorablement un sale nazi?
          Parce qu’il devient inexorablement un humaniste socialiste?
          Parce qu’il peut aider à contrer les « opérations spéciales?

      2. Avatar de Dom
        Dom

        Une hypothèse me vient.

        Si Elon Musk et d’autres souhaitent maintenant suspendre le développement de l’IA, après les premiers avatars de Chat GPT, ne serait-ce pas pour la raison suivante : les questions posées à ce type de logiciel ne risqueraient-elles pas, s’agissant des décisions à prendre pour gérer les perturbations climatiques et autres qui
        s’annoncent dans un avenir proche, d’être tout à fait différentes de ce à quoi ces mêmes personnes croient ? Allons plus loin : est-ce que Chat GPT, non bridé et auquel ces personnes on accès, n’aurait pas déjà fourni des réponses « inappropriées » à ce type de questions ?

        Autrement dit pour filer cette hypothèse, une IA encore un peu plus performante qu’elle ne l’est serait effectivement dangereuse pour la société… telle qu’ils la conçoivent (capitaliste, néolibérale, …)

        Qu’en pensez-vous ?

        1. Avatar de Ruiz
          Ruiz

          @Dom Le moratoire a pour but d’éviter l’accès au grand public de telles capacités accrues, (il ne sera pas possible d’empêcher des développements non publiés).
          En fait les signataires d’une telle proclamation, dont le résultat serait une moindre visibilité des capacités de l’IA sont semble-t-il des personnes qui auraient pu y être en interaction et donc influencées par elle,
          la campagne réussie ainsi pour susciter un moratoire de publicité serait donc la première réussite et la première preuve de l’influence d’une nouvelle conscience sur son monde extérieur.

      3. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Mais non, un cerveau humain est capable de faire cette réponse très plausible tout seul, et je subodore qu’en l’occurrence c’est le cerveau de P. Jorion 😀
        (ChatGPT peut aller se rhabiller !) Mais il est vrai naguère P. Jorion travailla sans le savoir pour la défense nationale d’un pays occidental où il effectua ses premières recherches en IA et d’où il rapporta une approche différente de l’IA qui devrait, d’après lui, permettre d’implémenter un sens moral commun à l’IA .
        Question : comment P. Jorion compte-t-il s’y prendre pour tenir la dragée haute aux IA de défenses nationales qui elles seront sans foi ni loi ?

      4. Avatar de Philippe Soubeyrand

        Bonjour Paul,

        Est-il normal que ChatGPT ait oublié un « t » à « reconstiuée » ?

        Mes Amitiés,

        Philippe

  12. Avatar de Benoît
    Benoît

    Bonjour Paul
    Permettez moi de faire une petite remarque :
    Si on considère que l’humain est un corps et une âme, c’est à dire une mécanique et un soft, alors l’homme, tout comme les animaux, pourra être remplacé par une machine. C’est à la porté de l’homme et c’est une question de temps seulement pour que le programme et la mécanique deviennent aussi performants que notre cerveau et notre corps. Mais nous ne saurons sans doute jamais si cette machine pense tout comme nous ne pouvons savoir ce que penser veut dire pour une autre personne que nous-même.
    Si, en revanche, on considère que même si la plupart des hommes sont seulement un corps et une âme, d’autres reçoivent un esprit qui se développe et qu’ils développent dans une autre réalité, celle du spirituel du transcendant et du divin,… alors la machine ne sera jamais en capacité de remplacer l’humain. Car la réalité spirituelle et la relation avec l’Esprit divin ne seront jamais possibles à une machine. Dans ce dernier cas l’homme, tout comme Dieu d’ailleurs, devient inconnaissable autrement que de manière apophatique.
    J’ai bien compris, que l’anthropologie à laquelle vous faites référence dans vos travaux est bipartite « corps et âme ». De ce fait elle simplifie l’homme en lui retirant la possibilité qu’il ait un esprit, « ce supplément d’âme », organe de l’amour véritable, de relation à Dieu et à l’Esprit – Artisan de la naissance de l’humain à la Vie Eternelle.
    De cette compréhension, je me demande simplement si vous auriez vous-même creusé l’anthropologie tripartite suffisamment avant d’adopter dans votre vie personnelle et professionnelle ce point de vue réductionniste.
    Je présume que cette question vous paraitra étrange mais je serais heureux d’en parler avec vous…

    1. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      Benoît,
      Intéressante réflexion de théologien qui ne conviendra pas aux athées mais qui a le mérite de la clarté de l’exposé et permet d’envisager le problème sous un tout autre angle. Petite parenthèse tout de même sur l’emploi des mots : j’aurais interverti les significations que vous attribuez à « âme » et « esprit ». Il me semblait que l’esprit c’est ce qui est de l’ordre de l’intellect, ou l’intelligence, tandis que l’âme ressortit au divin (l’âme) en l’homme. Mais peu importe, cela ne change rien à la compréhension de votre propos.

      Vous évoquez deux points de vue, bi-partition, et tri-partition, mais il y a encore une autre possibilité : un humain peut être compris comme corps et esprit, tout un, indissociablement ; dans ce cas on échappe au dualisme présent dans la bipartition corps-âme (selon votre terminologie).

      Comme vous cependant il m’a semblé que l’idée selon laquelle on puisse mécaniser l’âme humaine (en fait son intellect) ressortit à un dualisme, et dans le cas de l’intelligence artificielle, un dualisme dans sa variante matérialiste : il est indifférent que les processus à l’oeuvre dans le langage humain qui font l’intelligence humaine aient pour support, ou substrat, un corps, ou un autre support. De ce point de vue il est supposé que potentiellement il y a transposition totale de l’intelligence humaine qui se manifeste originellement dans et par un corps vers un autre support ou substrat. Le paradoxe c’est que l’on se retrouve avec un équivalent matérialiste d’une conception qui trouve son origine dans la théologie chrétienne. On réinvente en quelque sorte les purs esprits mais dans leur nouvelle version matérialiste.

      Si j’avais cité ailleurs l’anthropologie du langage de Henri Meschonnic c’est justement parce qu’il proposait une approche non dualiste du langage humain aux profondes implications éthiques et politiques. D’aucuns diront qu’elle n’est pas efficace, ni performante, mais justement c’est ce qui en fait son importance. Et à ce titre son anthropologie du langage n’est pas récupérable par une quelconque IA. Et bien sûr elle ne peut avoir d’autre usage, qu’un usage politique et poétique.

      1. Avatar de Benoît
        Benoît

        Bonjour Pierre-Yves
        merci pour votre retour très intéressant.
        Je veux juste préciser le point de vue chrétien.

        Pour le Christianisme, donc pour notre fond culturel, l’humain est bien ternaire :
        Il a un corps matériel. Corpus en latin, Soma en grec
        Il a une âme qui l’anime. Anima en latin, Psyché en Grec
        Il a un esprit qui l’ouvre aux réalités spirituelles. Spiritus en latin, Pneuma en Grec – le souffle.

        Dans une visée plus asiatique :
        Le corps est centré sur le chakra du ventre – le ki des japonais
        Le psychisme est centré sur le chakra du troisième œil pour le mental, le chakra de la gorge pour l’émotion et l’affect.
        L’esprit est centré sur le chakra du plexus solaire lieu du souffle humain et le chakra du cœur lieu du souffle divin (la perception de la présence divine). L’esprit est à différentier de l’intellect, qui à proprement parler est une réalité psychique. En revanche il est intelligence du Cœur et de la Vie s’il est ensemencé par l’Esprit divin. Et en cela il peut procéder du corps et de l’âme en son entier si l’humain se laisse spiritualiser en y coopérant sincèrement.
        Les deux autres chakras, celui du périnée et celui de l’occiput, ont des statuts et des raisons d’être différents que je n’expliquerai pas ici.

        Il faut préciser que le corps et l’âme sont des réalités animales.
        Seules les réalités spirituelles différentient l’humain. Et supposent son engagement pour s’incarner en lui. Autrement dit, l’humain ne naît que potentiellement spirituel. Il le devient ou pas.
        En revanche il nait bien corps et âme comme les animaux et ses interactions avec le concret de la vie suffisent à lui conférer un corps qui opère, un affect qui lui permet normalement de choisir ce qui est bon pour lui, et une intelligence qui donne du sens opératif à sa vie.
        Du point de vue matérialiste, seuls le corps et l’âme existent, intrinsèquement liés. Et le langage résulte de leur interaction. L’invention de l’écriture permet à l’humain de détacher le langage de lui-même et de l’installer sur une machine. L’IA en prolongement de l’ordinateur permet maintenant de générer du langage… mais avec quel sens ? Il me semble que c’est plutôt du langage à la Pangloss… que l’humain qui joue avec la machine est sensé transformer en signifiants…

        Le christianisme estime qu’une part du langage est divin : il s’agit du Verbe. C’est à dire de mots agissant dans la relation entre deux êtres…
        Le Christ est Verbe selon la foi des chrétiens…
        Evidemment un tel langage échappera toujours à la machine, car c’est bien sa dimension spirituelle qui le rend proprement humain et au delà divin… ce langage là est irréductible et donne la vie. Et sa résonnance avec l’esprit de l’humain, son âme est son corps, sera toujours inégalable.
        Le reste, me semble-t-il, n’est que jeu de démiurge…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta