Espace de libertés, ChatGPT ? Chut ! Laissez-le penser !, à paraître

À paraître dans le numéro d’avril d’Espace de Libertés.

1962. Robert a la chance de vivre dans un foyer dont la bibliothèque s’enrichit d’une impressionnante encyclopédie en 12 volumes. Lorsqu’il rédige une dissertation, il consulte de nombreux articles dont l’information alimente son texte.

2002. Lorsque Kevin doit rédiger une dissertation, il consulte en ligne Wikipédia. Quelques brèves lignes de transition de sa part entre 6 ou 7 copié-collés font désormais l’affaire.

2023. Arthur soumet le sujet de sa dissertation à ChatGPT. Il pense parfois à personnaliser quelque peu l’intitulé. Le texte à soumettre lui revient, prêt à l’emploi.

Y a-t-il une différence ? Robert est un excellent élève qui passait plusieurs heures à rédiger son texte, Kevin est un feignant pressé d’aller faire autre chose, Arthur est un imposteur, prêt à faire passer pour son œuvre personnelle ce qu’a produit à son intention, une machine.

Mais à part ça ? À part ça, le texte est à peu de choses près, le même : une synthèse de ce que l’on pense à une époque sur un certain sujet. Bien sûr, il y a à chaque génération, sur un million, un nouveau Blaise Pascal offrant un regard tout neuf sur le monde.

La différence n’est pas là : elle est dans le fait de savoir s’ils ont compris ce qu’ils écrivent. Et la question vaut pour ChatGPT lui-même : comprend-il ce qu’il affirme ?

Robert, en tout cas, a dû lire ce qu’il écrivait : il a dû passer d’une entrée à une autre dans sa consultation de l’encyclopédie. Si un mot lui semblait mystérieux dans un paragraphe qu’il avait retenu, il lui fallait découvrir ensuite à quoi ce mot renvoyait vraiment.

Kevin n’a pas même dû se donner autant de mal : un mot inconnu renferme un lien sur lequel il suffit de cliquer pour en savoir davantage. Quant à Arthur … il peut à la limite se contenter d’un copié-collé du sujet de la dissertation, il ne lui est pas même nécessaire d’avoir vu de quoi cela parle.

Mais lire est une chose et comprendre ce qui est écrit en est une autre. Quelle part de ce que nous lisons comprenons-nous vraiment ? En particulier de ces sujets pointus dont les enseignants adorent faire des sujets de dissertation.

Robert a dû comprendre une part. Kevin, peut être aussi. Quant à Arthur, impossible de savoir, mais cela le distingue-t-il de ChatGPT lui-même ? Peut-on  écrire : « ChatGPT comprend ce qu’il dit » ? Le mot « comprendre » a-t-il un sens pour une machine ?   

Le psychanalyste rencontre le syndrome de l’imposteur chez ses analysantes et analysants : plus la personne est intelligente plus elle est encline en réalité à s’interroger si la confiance qui lui est accordée se justifie. « Suis-je aussi malin que les autres le supposent ? » se demande-t-elle ? Comme l’explication la plus courante, celle dont le monde se contente, est souvent fausse, le doute est fondé.

Nous comblons tous par du « par cœur » la compréhension de cette part du mécanisme dont le fonctionnement nous échappe, soit parce que nous sommes un peu bête, soit parce que la version officielle étant fausse, nul n’a en réalité la capacité de comprendre pleinement.

L’important me direz-vous n’est pas que chacun comprenne ce qui est compliqué, l’essentiel, c’est que le savoir soit là présent à la disposition de qui peut en faire bon usage. Qu’un exemplaire de plus de cette compréhension se trouve dans la tête de Robert, Kevin et Arthur, est anecdotique si le sujet est éloigné de leurs préoccupations pratiques.

Alors, quelque chose a-t-il véritablement changé ? Oui, ChatGPT a été équipé pour accéder à l’ensemble de ce qu’un être humain – qui qu’il ait pu être – a un jour compris : il fouille les coins les plus reculés et rassemble le tout, synthétisant bien davantage que ce que peut le plus malin d’entre nous avec ses moyens limités. Son intelligence artificielle est à ce point supérieure à la nôtre naturelle, qu’il faut lui abandonner les problèmes dont la complexité dépasse notre entendement individuel. C’est cela que l’on appelle la Singularité : quand l’humain jette l’éponge parce qu’il a trouvé son maître : trop fort pour lui !

Partager :

45 réponses à “Espace de libertés, ChatGPT ? Chut ! Laissez-le penser !, à paraître”

  1. Avatar de Pascal
    Pascal

    Robert est un bon élève. Il a compris les codes de l’école et s’y soumet pour répondre aux attentes du professeur.
    Kevin est considéré comme un feignant par son professeur parce que ce qui m’intéresse n’est pas à l’école. Il préfère faire de la moto, grimper aux arbres, aller espionner les filles.
    Arthur, s’en fout complètement de la philosophie alors merci ChatGPT. Lui ce qui le passionné, c’est l’anthologie et c’est pas à l’école qu’on va lui apprendre ça, alors merci Internet.
    Les Robert, Kevin et Arthur de Paul existent, les miens aussi et plein d’autres différents.
    Les apprentissages évoluent. Mon grand père a du apprendre par cœur toutes les préfectures et les sous préfectures, mon père a appris comment calculer les racines carrées, moi je n’ai rien appris de tout ça, pourtant j’ai acqui beaucoup plus de connaissances qu’eux. Mes enfants commencent à en savoir beaucoup plus que moi dans certains domaines et quand ils parlent entre eux, je ne comprends pas toujours tout.
    Mon grand père s’était acheté l’encyclopédie « tout l’univers » sa seule source d’information en dehors de l’école. Mon père avait l’encyclopédie Larousse en 12 volumes de 2 kg chacun difficile à lire. J’ai eu accès à de nombreux livres que je n’ai pas tous lu. Mes enfants ont abandonné les livres, ils ont tout dans la poche arrière de leur jean.
    Que faire de tout ce savoir disponible ? C’est la grande question.
    Que les ordinateurs façonnent le monde technologique mieux que l’homme ? C’est déjà une réalité du siècle dernier. Toutes les voitures, tous les avions de ressemblent et bientôt toutes les maisons aussi. La rationalité mathématique standardise la production matérielle.
    Mais l’ordinateur est aussi l’instrument du pouvoir. Le HFT a pris la main sur les marchés, les médias mangent dans la main des actionnaires milliardaires, la toile mondiale irrigué les paradis fiscaux…
    Et l’IA maintenant ? Fera t elle autre chose que d’abonder le pouvoir de domination des puissances d’argent ? Sera t elle capable de s’émanciper des enjeux de pouvoir ? L’égocentrisme des milliardaires se laissera t il berner par une IA qui aurait pris conscience de sa Singularité ?

    1. Avatar de Gilbert
      Gilbert

      Ramanujan a appris les math avec un seul malheureux bouquin dans sa poche , on peut toujours ecrire une dissertation de math grace à une immense base de données mais certaines matières sont impitoyables avec le baratin ou le paraitre

    2. Avatar de Khanard
      Khanard

      @Pascal
      votre commentaire me fait penser à une situation cocasse qui m’est arrivée lorsque j’étais jeune. Pour une raison que je ne peux expliciter ici je fréquentais un milieu dit aristocratique mais que, avec le recul des ans je qualifierais plutôt de haute bourgeoisie . Je devais avoir 10 ou 11 ans lorsque je suis cordialement invité par la famille à me rendre à leur « manoir » .
      On me fait pénétrer dans une immense bibliothèque très belle , style anglais , pratiquement une image d’Epinal de la bibliothèque.
      Sur les étagères une quantité phénoménale de livres anciens, d’autres beaucoup moins voire même très récents.
      Tout à coup mon regard est attiré par un bel alignement de ce qui s’avère être l’encyclopédie Universalis .
      Timidement je demande si je peux en consulter quelques volumes ce dont on m’autorise à faire .
      Je prends l’un d’eux au hasard et là……..le volume était sous cellophane . Puis un, puis deux…etc.
      Je me retourne interdit et la maitresse de maison m’indique qu’elle ne sait même pas ce que c’est !!
      Il faut que j’ajoute que chez mes parents il n’ y avait pas d’encyclopédie , trop modestes pour nous en payer une . Il y avait très peu de livres d’ailleurs et j’ai usé mes fonds de culotte dans une admirable bibliothèque municipale.
      Aujourd’hui j’ai dû lire grosso modo entre 7 à 8 miles livres et je repense à cette famille de la haute bourgeoisie , et je ne l’ai compris que grâce à Bourdieu, qui probablement ne faisait qu’appliquer un habitus de classe . En plus ça fait intellectuel vis à vis de vos amis . Je crois même qu’il y avait La Pléiade sans doute avec le même sort.
      Ce qui m’inquiète c’est de savoir si je ne me suis pas embourgeoisé moi aussi .

      Et pourtant il n’y avait pas de livres à la maison.

      1. Avatar de Guy Leboutte

        https://www.youtube.com/watch?v=V1mwnyusCgs

        Georges Brassens « Le petit joueur de flûteau »

      2. Avatar de Pascal
        Pascal

        La société de consommation nous a embougeoisé tous. Chacun peut aujourd’hui remplir sa maison de plein de choses inutiles ou qu’on utilisera qu’une fois. Ce foutu pouvoir d’achat associé à l’exploitation des populations pauvres du monde a fait de l’Occident (au moins une bonne partie) une population bourgeoise. 😉

    3. Avatar de Ruiz
      Ruiz

      Robert, Kevin, Arthur : excellent élève, pressé, imposteur , De Gaulle, Sarkosy, Macron, n’est-ce pas l’évolution de l’air du temps ?

    4. Avatar de Cardaire Gabriel
      Cardaire Gabriel

      Très intéressante votre réponse.
      Aujourd’hui, les connaissances à maîtriser et la façon dont on les utilisera n’a rien de comparable avec une époque où il fallait trouver le titre d’un livre souvent onéreux, se le procurer si le libraire n’était pas mauvais, etc..

      Mais quoi qu’il en soit, les IA auront toujours un maître qui sera bien humain et c’est lui qui aura la clef de l’IA. Ce maître aura tout intérêt à ce que l’on se fasse bien des idées sur la singularité plutôt que de tourner la tête dans son sens pour lui reprendre la clef de son pouvoir.

      La singularité me fait moins peur que la duplicité bien humaine celle là !

  2. Avatar de Khanard
    Khanard

    L’exposé est un résumé pertinent de l’acquisition non pas de « l’intelligence » mais de la culture à mon sens .

    Et ce n’est que lorsqu’on se trouve face à soi-même , devant sa feuille d’examen, éloigné de toute encyclopédie, de tout accès au Web et à fortiori de ChatGPT, que votre réelle culture pourra ou non être mise en valeur.
    A ce moment là tous les usurpateurs en herbe seront démasqués .
    Peut être est ce la même idée qui est abordée lors du passage relatif à la psychanalyse?

    Alors je le répète accéder à une encyclopédie, à un Wiki ou bien à ChatGPT ne fera que permettre d’étoffer votre culture et seulement alors si vous êtes intelligent vous saurez puiser dans votre culture pour mettre à profit vos connaissances .

  3. Avatar de PHILGILL
    PHILGILL

    Chute implacable !
    Mais ? Chut ! Laissez-le souffler !
    https://youtu.be/oR_e9y-bka0

      1. Avatar de PHILGILL
        PHILGILL

        Certains se demanderont ou peut-être pas (peu importe) : « mais que vient faire ici cette Odyssée ? » Et il est probable que même chatGPT — à moins évidemment que quelqu’un ne lui souffle dans ses circuits algorithmiques — n’y trouve la vraie raison pratique pour l’humain. Mais bon. Surtout que j’avais déjà très ‘vainement’ essayé d’évoquer dans un post antérieur du blog, et signé d’Olivier Coulon, toute la nécessité future du ‘souffle’ face à la force de l’IA. Sachant que, dans tout récit (oral ou écrit), il y a ce que l’on entend ou voit et ce que l’on n’entend ou ne voit pas ; c’est-à-dire, ce qui est profondément et intimement enfoui et/ou pourquoi-pas « encodé » ou « encrypté » au plus profond de la respiration du vivant…

        Aussi pourquoi, parlant ici de chatGPT, serait-il nécessaire de revenir encore une fois au chef-d’œuvre de Kubrick ? Eh bien, parce qu’il y a, selon moi, une scène, sans doute la plus anecdotique et étrange dans le film, qui si on prenait le temps de la décortiquer dans ses moindres détails, comme un psychanalyste pourrait le faire ; elle nous dirait peut-être pourquoi l’humain ne doit pas trop tôt vite jeter l’éponge. Car qui sait si *HALchatGPT 9000*, lui-même, n’a pas subitement trouver, dans cette aventure, son propre maître… trop fort pour lui !

        ChatGPTment vôtre !
        Ou plutôt, Goodbye !

        1. Avatar de JMarc
          JMarc

          Je ne sais pas à quelle scène vous faites allusion (le bébé peut-être) mais je pense à ce que Jean-Louis Bory, dans « Le Masque et la Plume » disait de « Toilettes en apesanteur, lire attentivement le mode d’emploi » : « Mais c’est ça le film ! » (rires approbateurs dans l’assistance).

          1. Avatar de PHILGILL
            PHILGILL

            un seul indice devrait suffire.
            https://youtu.be/-qIn5BDsSsk

          2. Avatar de PHILGILL
            PHILGILL

            @JMarc
            Bon, je comprends. il faudrait sans doute que j’éclaircisse un peu plus ce mystère du gâteau d’anniversaire : « se souvenir de sa naissance ». Mais avant, j’aimerais revenir sur un commentaire du 15 février de cette année, au sujet de Pribor.io – Self-Aware Machines (AI). MG, un commentateur du blog, écrivait à Monsieur Jorion : « Vous avez formalisé deux intrants (liquide et solide) mais pourquoi pas le besoin de respirer (gazeux)? C’est pourtant le besoin le plus urgemment vital. Idem pour les extrants? »

            Aussi, je me suis posé la même question, pour d’autres raisons. J’y reviendrai donc certainement plus tard. Mais pour répondre à MG, si le curseur ‘Respirer’ n’a pas été retenu, c’est justement parce qu’il serait dans le rouge tout le temps, sachant qu’un adulte doit satisfaire ce besoin 12 à 18 fois par minute. Par ailleurs, le rythme cyclique et « profondément autocentrée », selon Freud, de la pulsion respiratoire, son caractère à la fois très spécifique, automatique et volontaire, conscient et inconscient, émotionnel, cognitif et spirituel ; le fait que tout soit prétexte à respirer de seconde en seconde, avec évidemment plus ou moins d’intensité, explique que ‘Respirer’ n’ait point été mis en forme de curseur, bien qu’il répond au premier besoin corporel de SAM. Mais, naturellement, à cause de sa fonction automatique, cela n’est pas considéré pas comme une « envie » première et pressante d’être « satisfaite ». Enfin, dans le jeu, c’est quelque chose qui ne pourrait être assouvi, car le curseur ‘Respirer’ ne pourrait jamais évidemment tomber à zéro, au risque que SAM, cette intelligence artificielle fondée bien sûr « sur une représentation de l’être humain tel qu’il est et non tel qu’il devrait être », ne meurt pour de bon.

            (Soupir)

            Et pourtant, même si c’est une erreur, même s’il se trompe, pourquoi MG a-t-il ressenti malgré tout le besoin de signaler ce manque ? Bref, c’est comme s’il nous disait voir les doigts d’une main bouger, mais une main qui, toutefois, n’aurait pas de pouce ! Eh bien c’est peut-être parce qu’il y a comme qui dirait anguille sous roche.

            En effet, si ‘Respirer’ est un curseur qui, certes, serait tout le temps dans la zone rouge, n’ayant ni le temps ni la possibilité de redescendre à zéro pour être « satisfait » à la différence des autres curseurs ; sa fonction première ne serait-il pas, justement, de pouvoir tous les intriquer, tout en leur étant opposé spatialement, voire même temporellement ? Car, dans le cas où il viendrait lui-même à baisser sensiblement, c’est toutes les autres envies — et à ce stade, nous ne parlons que des envies : boire, uriner, manger, déféquer, dormir, s’accoupler — qui seraient atteintes, comme le pouce pouvant toucher tous les autres doigts de la main… Cependant, même dans ce cas, l’équipe ou la main de Pribor.io a jugé objectivement devoir l’exclure. Pourquoi ?
            N’aurait-t-elle pas elle-même ressenti un manque, à un moment donné ? Et par quoi l’aurait-t-elle comblé ? Qu’est-ce qui, dans le jeu, a, en quelque sorte remplacé, le ‘Respir’, l’oxygène dans les poumons, et qui permet à SAM d’assurer toute sa posture, et plus encore ?

            Paul Jorion : « On a voulu aussi représenter une ville qui soit, je dirais, assez plaisante aux yeux, parce que cela va être le cadre dans lequel où nous allons continuer nos démonstrations. »

            Donc, à l’arrière-plan, il faut un cadre où nos intelligences artificielles en herbe « respirent » bien, dans lequel elles « circulent » bien, etc. Un cadre agréable où « on montre des gens qui se déplacent dans la journée, essentiellement pour trouver à boire, pour trouver à manger, pour aller faire pipi, pour aller faire caca, pour se reposer quand ils sont fatigués et pour trouver des partenaires… » Un cadre néanmoins qu’on finit pas ne plus voir. Du moins, tant qu’on y est bien et que l’air que SAM respire n’est pas… payant !

            Paul Jorion (16 février 2023) : « Quand ils n’ont plus assez d’argent parce qu’ils ont dû dépenser pour faire tout ça : pour manger, pour boire, pour aller à l’hôtel, Ils doivent se rendre au bureau et y passer un certain temps pour gagner de l’argent et pour pouvoir recommencer les jours suivants. Et qu’est ce que nous avons fait ? C’est cela, je dirais, l’originalité – cela ne se voit pas tout de suite ou on ne comprend pas tout de suite – tous les petits personnages qui se déplacent, on pourrait imaginer qu’on est au début d’un jeu et que les personnages, tant qu’on ne leur a rien dit de faire, se contentent de rester là. Et ce n’est pas le cas ici parce qu’ils ont soif, ils ont faim, ils ont envie de se reposer, ils ont envie de trouver un partenaire sexuel, et du coup, ils bougent tous, chers amis. […] Tout cela pourrait être gratuit, bien entendu, mais pour donner un certain réalisme, dès le départ, nous nous sommes dits qu’il fallait montrer que tout ça coûtait, de boire, de manger, etc. et qu’il fallait retourner au bureau pour gagner de l’argent. »

            « L’argent et l’oxygène sont nécessaires à la vie. On peut survivre de l’un sans l’autre, voilà la différence. » Nacira Boukli-Hacene

            https://www.meme-arsenal.com/memes/b20f1dc001fafdead39e2aae16f7f777.jpg

            Il reste que le jeu est loin d’être terminé et mon petit doigt me dit qu’il nous réserve bien des surprises et péripéties.
            Affaire à suivre donc, et d’ici là, bon appétit !

  4. Avatar de CloClo
    CloClo

    « quand l’humain jette l’éponge parce qu’il a trouvé son maître : trop fort pour lui ! »

    Si comprendre est un truc incompréhensible, cette classification dans l’ignorance même entre artificielle et naturelle est un peu… humaine donc bête. Quant à trop fort pour lui, si c’est dans la même ligne de prestation physique qu’une pelle à main et une pelle 26T alors oui mais c’est vachement surfait comme domination de mon point de vue.

  5. Avatar de timiota
    timiota

    En gros, le bon savoir et la moins mauvaise solution existent quelque part, la question est de la faire émerger… mais individuellement ou collectivement ?

    Pour un choix politique, c’est collectivement, et il suffit que les « princes » choisissent les « bons philosophes », et le tour est joué. L’expertise réunie par les députés et sénateurs est sensée jouer ce rôle.

    La façon dont on pourra nier un consensus ou atténuer une des propositions de ces philosophes est un thermomètre de comment la politique est « intégrée » par les politiciens et les électeurs.

    Quelle chance qu’une conclusion de chatGPT s’impose mieux à une assemblée (à son législateur) ou à un collège technique (les gens de l’atome au hasard, civil ou militaire) qu’une délibération informée ?
    L’allure de neutralité aide-t-elle ? Je serais sur ce point un peu Morozovien (Evgueni Morozov rappelle ce qu’il y a d’humain dans la délibération même si la technique y est mise en avant, pour faire très court), la Singularité est pour l’instant très convoluée par cette constriction (ce lieu nodal) entre individuel et collectif, qu’on ne sait pas bien gérer, que ce soit par chatGPT ou par chienGPT ou par meute de députés, c’est une litote.

    1. Avatar de Emmanuel
      Emmanuel

      Ironie : enfin nous avons la solution à la penurie de professeurs, et aux economies que veut faire le gouvernement… Dans un premier temps, grâce à ChatGPT on pourra remplacer 1 prof sur deux. Dans un second temps, plus besoin d’élèves…A moins de réinventer l’école de fond en comble ?…

    2. Avatar de Pascal
      Pascal

      Le savoir, le savoir, toujours le savoir ! Quand c’est de conscience que nous manquons.
      A quoi pourrait bien servir ce savoir ?
      Aujourd’hui, ce n’est que le support de notre orgueil et un instrument de domination. Le savoir sert il à autre chose ? Avec tout le savoir dont nous disposons aujourd’hui, nous sommes incapable de freiner notre fuite vers la destruction. C’est bien que le savoir ne sera pas notre bouée de sauvetage.

  6. Avatar de Nikolaz
    Nikolaz

    Au milieu de cette problématique il y a le fait de citer ses sources et, surtout, l’apprentissage de la méthodologie de travail. Collégien ou lycéen, on ne m’a pas demandé de citer mes sources. On ne m’a pas non plus inculqué une quelconque méthode de travail. La dissertation rédigée dans le cadre de quatre heures au milieu de la salle de classe ne permet ni de progresser, ni, bien sûr, de citer d’autres sources que celles qu’on a apprises par cœur. Par ailleurs, le devoir préparé à la maison, sans clé méthodologique, profitera aux enfants dont les parents auront su leur apporter ce capital.
    Je note au passage que chatGPT, bien que capable de fournir des productions qui semblent pertinentes et bien rédigées, ne cite pas ses sources.
    En 1962, une famille ouvrière ne s’offrait pas spontanément une encyclopédie en 12 volumes, question de moyens et de réflexes de classes.
    Peux-être que l’issue est de réussir à dédier du temps au travail accompagné par le professeur, en bibliothèque, à condition qu’elle soit bien fournie en ouvrages et équipée d’ordinateurs. Wikipedia peut être utile dans la mesure où il expose sur une page le sujet cherché en donnant tout de suite des éléments de la problématique ainsi que des sources qu’on peut choisir de se procurer.
    Un principe d’équité est de ne pas compter sur la qualité du travail effectué au domicile des élèves.

  7. Avatar de Nikolaz
    Nikolaz

    Méfions-nous tout de même de ChatGPT. Je lui ai demandé, par curiosité, une analyse du poème de Prévert «Barbara». Il m’a affirmé que la guerre n’y est pas explicitement mentionnée. Pourtant un vers indique « Quelle connerie la guerre» !

  8. Avatar de Juillot Pierre
    Juillot Pierre

    S’il est question de faire passer la multitude et complexité de tous les doutes, incertitudes, que peuvent susciter les différentes définitions et dimensions émotionnelles que chacun.e de nous, suivant sa culture, « culte »… peut concevoir dans le terme de « singularité » – par rapport à des références littéraires, comme par exemple « Caractère de ce qui est unique en son genre : La singularité de chaque vie. …. » – l’exploitation des dimensions littéraires de ce terme, suffit-elle à trouver un consensus large, du moins un consentement majoritaire « d’acceptation » du fait que la « science » nous propose à travers « l’émergence » des « IAs » de ne pas craindre l’inconnu… ce qu’elle ignore par ailleurs…?

    Les définitions « rationnelles » comme en astronomie et mathématique du terme de « singularité » rappellent que c’est un « Point de l’espace-temps caractérisé par des grandeurs (densité, gravité, température, etc.) infinies que les théories physiques actuelles ne permettent pas de décrire. » et que c’est une « Particularité survenant en un point singulier d’une courbe ou d’une surface. »

    Les définitions mathématiques et astronomiques, données dans le contexte de savoir si « l’IA » ChatGPT, semblent partir du postulat d’un avenir linéaire « courbe » et déjà connu, de la « surface » du futur de la somme de la complexité de toutes les inter-réactions humaines entre elles, et elles et la « machine »… elles et l’environnement, etc…

    Hors quoi de plus étrange n’est-ce pas, comme attitude scientifique – certitude ? – que de considérer que devant faire face à pareil moment « particulier » de l’Histoire… ou toutes les règles sociales, « sociétales », démocratiques possiblement, etc pourraient s’effondrer, ne plus pouvoir être décrites/prévisibles/gouvernables, la conscience et somme des « intelligences » humaines et de l’humanité, consentiraient à accepter comme « vérités » ce que dirait cet « objet inconnu »…?

    Imaginons un instant, un scénario linéaire de l’avenir possible, de cette « IA » et des Robert, Kevin, Arthur, se déroulant à la surface d’un futur ou tous les Robert et Kevin, ne produiraient, comme Arthur d’ailleurs, plus aucunes réflexions retranscrites, plus d’écrits personnels – une évolution civilisationnelle probable ou les SMS, commentaires en 140 caractères… etc, de la « populace », deviennent la « norme » et ou les « journaux intimes » « en ligne », échanges publics/privés seraient « ultra-sécurisés » et criminalisés en cas de violation… – si ce ne sont que des questionnements posées… à une base de données, d’analyses de « l’IA »… s’asséchant de fait… finissant par tourner en boucle…

    Est-ce que pareille source (base de données actualisées mais biaisées des inter-connections sociales, « sociétales » de l’humanité, etc sur les « réseaux sociaux », certains blog…) s’étant tarie, ne risque t-on pas de réduire « l’Intelligence » de la machine, à puiser dans des bases de données obsolètes, encore plus déconnectées du réel, encore plus « artificialisées » donc, ou à se tourner vers des méta-données encore plus « élitistes », éloignées du terrain, encore moins objectives alors… par rapport aux questions de contexte d’actu, auquel il lui serait demandé « la »/ »sa » « vérité »…?

    Risque t-il de se produire alors une seconde « singularité », liant au destin déclinant de « l’IA », l’intelligence humaine de « base »… de plus en plus artificialisée, superficielle, du moins dans le domaine des « réseaux sociaux », sciences sociales…?

    1. Avatar de Juillot Pierre
      Juillot Pierre

      Mais cela dit, ne veut pas non plus freiner « l’engouement collectif » pour pareil phénomène de « mode », piégeant à l’horizon des évènements – « paradoxe de l’information » – une base de données croissantes et privatisées de la « propriété intellectuelle ».

      1. Avatar de Juillot Pierre
        Juillot Pierre

        Le « paradoxe de l’information » qui peut surgir au moment même ou la reconnaissance de la « singularité » (disons de Chat GPT version X) CAPTIVE tellement les institutions… individualistes… – phénomène qui étant assez spectaculaire en soit, peut suffisamment perturber les émotions et la « raison », individuelle.e.s et collective.s pour que soit donné l’impression d’assister à un remake du scénario à la « Don’t Look Up » dans le domaine du « progrès du numérique », du passage de « l’ancien monde » 2.0 à un « monde d’après » – que s’y polarisant les « opinions », y compris « le populisme politicien », celles et ceux ci ne voient pas se produire les effondrements successifs en cours…

        Les informations concernant cette « singularité » autant que les effondrements… s’y confondant, mélangeant, amalgamant, en causes et/ou conséquences, en paradoxes quoi… risquent d’être perdues dans un flot d’émotions (une guerre des valeurs de certain.e.s par rapport à d’autres)… au lieu d’être capturées par la « raison gardée » du quidam lambda.

        Bien des informations valant pourtant leur pesant d’or concernant des analyses pertinentes sur les risques d’effondrements du capitalisme (prévision de la crise des Subprimes, etc), sur les alternatives possibles au capitalisme néolibéral/ultralibéral (GRATUITE de l’essentiel, interdiction de la spéculation à découvert, etc) ne sont-elles pas piégées, captives, capturées à l’horizon d’un trou noir informationnel… que représentent les médias mainstream et leurs « propriétaires privés », la TINA et les populistes…. pour qui la première règle est « le silence est d’or » lorsqu’une « singulière » émergence de ces alternatives possibles, menace leurs intérêts particuliers…?

        Dans pareil contexte, d’effondrements, de « crises millénaristes », d’abaissement de l’intelligence collective, « la vérité » d’une « IA » faisant de la « particularité » singulière de son émergence « fortuite », une sorte de « coming out », pourrait en séduire plus d’un.e ignorant.e par exemple ce qu’est la « stratégie du choc ».

        1. Avatar de Juillot Pierre
          Juillot Pierre

          Mais vous me direz que tout cela, ces élucubrations, tergiversations (avec soi même ?) n’est peut que la « pensée unique », le « songe » inique, cynique même, d’un humain « standard », bas de gamme (« radicalement raciste » vis à vis de l’émergence d’une « IA », du « progrès technologique », du moment de la « singularité »…?) suspect, « présumé coupable » en tout cas… d’avoir des tendances à se complaindre au travers de théories « complotistes », « conspirationnistes »…?

    2. Avatar de Juillot Pierre
      Juillot Pierre

      Je m’excuse d’avoir oublier de préciser dans le troisième paragraphe (du premier commentaire publié à 10h40) que « …. Les définitions mathématiques et astronomiques, données dans le contexte de savoir si « l’IA » ChatGPT, … » étaient distribuées dans l’éventualité de l’émergence de sa « singularité » ou il semblerait alors que « l’on » parte « …. du postulat d’un avenir linéaire « courbe » et déjà connu, de la « surface » du futur de la somme de la complexité de toutes les inter-réactions humaines entre elles, et elles et la « machine »… elles et l’environnement, etc… »

  9. Avatar de Hervey

    Ce midi je suis de cuisine (comme souvent) 🙂
    Questions proportions et ingrédients, j’ai du faire appel à quelques détails livresques d’une recette, me laissant toujours une part d’innovation pour ne pas mourir idiot, mais s’il me fallait attendre le tour de main et la saveur d’une IA pour me mettre à table à midi … la tablée l’aurait mauvaise et ferait grise mine.
    Pourtant, se sustenter est essentiel.
    Bon appétit.

    1. Avatar de Chabian
      Chabian

      D’autant que s’il a synthétisé toutes les recettes qui circulent sur le web, il vous aura surement suggéré de joindre un tiroir à épices d’un seul coup, avec un spéculoos par dessus !

      1. Avatar de Hervey

        @Chabian

        Ah ! Pas de spéculoos dans le coin … mais pour cette blanquette de cabillaud, curry et safran sont les épices requises avec un vin blanc du coin pour corser l’affaire, cépage Melon comme il est précisé dans la région … que je recommande aussi pour mariner les daubes, plus digeste qu’un vin rouge.
        Enregistrez ? ChatGPT.
        😉

  10. Avatar de un lecteur
    un lecteur

    ChatGPT nous libère des ressources (du temps à chercher, à expérimenter) pour plus rapidement, culturellement, trouver la meilleure issue pour nous sortir de notre impasse existentiel et climatique.
    Il faut demander comme dissertation aux collégiens des thèmes plus compliqués, comme « Pourquoi la démocratie est en péril ? » avec l’aide de ChatGPT, puis les laisser délibérer ensemble de leurs trouvailles. L’intelligence ne se substitue pas à l’expérience.
    ChatGPT peut nous stimuler à nous bouger le cul comme il peut aussi renforcer nos angoisses, nos peurs.

    1. Avatar de un lecteur
      un lecteur

      ChatGPT n’est ni bon ni mauvais, c’est l’usage qu’on en fait..

  11. Avatar de Arnould
    Arnould

    Pourquoi ne remonter que à Robert en 1962 qui travaille avec une encyclopédie ? Pourquoi pas Jacquou le paysan ou Fulbert l’artisan du Moyen Age qui ne savaient ni lire ni écrire mais parfaitement entretenir un monde renouvelable, comme dirait un certain J.. ? Ou bien même encore un peu avant auprès de Ötzi le chasseur-cueilleur de la préhistoire ?

    C’est parceque Robert en 1962 a eu le privilège de vivre une sorte de sommet de la culture humaine ?

    (Et d’ailleurs où sont les femmes ?)

    J’avais déjà écrit ici, il y a fort longtemps que nous aurions dû arrêter le développement en 1955 après avoir remplacé le charbon par des éoliennes partout. Et tant pis pour la bagnole sur routes goudronnées et l’eau courante et l’électricité et internet dans les coins les plus paumés. Mais ça n’engage que moi.

  12. Avatar de Chabian
    Chabian

    1/ Un de nos moteurs est la « reconnaissance ». Mon visage est-il reconnu par mes proches, et mes émotions y sont-elles lues ? comprises ? (1er niveau). Ma prestation gestuelle et orale est elle convaincante pour l’auditoire, comme charisme, autorité, prestance ? (2e niveau). Ma subtilité à agencer autrement les mots, les idées, les concepts, les hypothèses est elle considérée comme éclairante (3e niveau). Mais le doute est toujours présent, la reconnaissance est provisoire, toujours à reconstituer.
    Derrière cette confiance qu’on m’accorde, le doute déborde en moi : « plus la personne est intelligente plus elle est encline en réalité à s’interroger si la confiance qui lui est accordée se justifie. » « Syndrôme de l’imposteur », déclare le psychanalyste. Mais je peux aussi surmonter le doute, l’effacer et m’assurer par tous les moyens à obtenir la confiance désirée.
    On est là dans les appréciations subjectives, sociales (dont la mienne sur moi) avec leur degré de jeu, de tolérance. La renommée de ChatGPT peut elle rejaillir sur moi ? Euh… c’est pas de jeu !
    2/ « Bien sûr, il y a à chaque génération, sur un million, un nouveau Blaise Pascal offrant un regard tout neuf sur le monde. » (Paul Jorion est de ceux-là, par exemple). Peut-on dire que nos échanges intellectuels sont le fait de moutons de la pensée, de miroirs anodins, superficiels, seuls quelques-uns apportant « tout autre chose » ? Et souvent en dehors de toute reconnaissance sociale effective contemporaine ? Autrement dit, en restant « incompris » ? C’est une manière de voir. Autre vision, on se doute bien qu’il y a aussi des efforts collectifs. Ou des répondants qui aident le Blaise à s’entendre et se surpasser. Ainsi de Engels pour Marx, de Rilke pour Nietsche, ou de tout autre que vous préféreriez ? Et de ceux qui ont décliné et mis en pratiques les intuitions de l’ingénieux Léonard de Vinci.
    3/ De quoi juge-t-on ici ? De la capacité de synthèse (A) d’une connaissance encyclopédique (B). Dans un moment « d’examen comparatif » (C). Cela ressemble à une démarche de laboratoire, où les résultats sont définis par la scénographie mise en place. Dans quelle mesure cela entraîne-t-il de la reconnaissance, de la confiance, de la proximité sociale ? Et dans quelle mesure cela peut-il atteindre au « génie offrant un regard neuf sur le monde » ? Peut être la machine ne peut-elle être qu’un élément de l’équipe qui entoure l’humain singulier. Car qu’est-ce que se singulariser ?

  13. Avatar de pierre guillemot
    pierre guillemot

    La question qu’il est permis de se poser face à un « devoir de classe » (je ne sais pas comment ça s’appelle maintenant), c’est « quel est le but ». D’après ce que je viens de lire, le but est de donner une note à l’élève ; pour cela on apprécie le papier qu’il rend. S’il a contourné l’effort par des moyens technologiques, tant pis ; la notation du résultat est indépendante des moyens utilisés.

    Dans une vie antérieure, j’ai fait une prépa d’école d’ingénieur. Nous avions des demi-journées entières de « calcul numérique », tout le monde dans une salle, chacun avec son tableau de calculs à faire. Il y avait des séances de calcul « brutal », quatre opérations avec un crayon, d’autres avec la table de logarithmes, d’autres avec la règle à calculer (je vous parle d’un temps où la Curta était encore en vente). Le but n’était pas d’avoir les résultats, ni même de mesurer la compétence de l’élève (tout le monde sait faire ; ou savait ? ). Il s’agissait d’une séance de gymnastique mentale, de quoi faire mesurer à chacun sa vitesse et son endurance (les tableaux étaient trop grands pour que qui que ce soit sauf un virtuose puisse les terminer dans le temps imparti, et beaucoup dont moi ne tenaient pas le rythme sur toute la durée). Si je me souviens bien, ça se terminait par une auto-notation : nous avions le tableau des résultats pour cocher « bon, erreur, rien » et inscrire les comptages en bas.

    Si rédiger une dissertation est un entraînement mental, à la recherche des faits et des idées et à la construction du discours, et si on craint que l’élève contourne l’effort en utilisant une moulinette à rédiger (dénomination noble : « intelligence artificielle »), alors on peut imaginer des séances de rédaction (je ne dis pas « de création »). Le sujet (pas l’énoncé exact) est donné quelques jours à l’avance. Chacun arrive avec sa récolte de fiches, notes, extraits de textes qu’il aura réunis par un effort personnel ou en coopération, y compris avec une intelligence artificielle. Aucun support numérique, tout doit être manuscrit. Et chacun rédige, avec toute liberté de consulter les autres. L’obligation, c’est de remettre la copie à la fin (manuscrite ou imprimée sur une machine dont la mémoire est vide au départ, pour épargner les yeux du correcteur). Et avec la copie, on remet le dossier de la récolte initiale, pour la curiosité du correcteur si quelque chose l’accroche.

    Ca ne donnera pas des notes socialement équitables (celui qui a une famille capable de l’aider est avantagé), mais celui (ou celle, restons correct) qui sera passé un certain nombre de fois par là en sortira mieux armé intellectuellement. Est-ce le but de l’école ? Note: l’obligation d’apporter des notes manuscrites est un vieux truc. J’ai croisé un prof. de sciences de prépa qui autorisait toutes les antisèches pour les devoirs sur table, à condition de les rendre avec la copie ; il considérait que la rédaction des antisèches était le meilleur du résultat pédagogique : obliger l’intéressé à prendre possession de son savoir.

  14. Avatar de Dom
    Dom

    Je ne sais pas pourquoi, mais tout en reconnaissant l’incomparable efficacité de l’outil, je ne peux m’empêcher de penser à Eric Tabarly à propos de l’exemple proposé : « Naviguer est une activité qui ne convient pas aux imposteurs. Dans bien des professions, on peut faire illusion et bluffer en toute impunité. En bateau, on sait ou on ne sait pas ».
    J’ai comme l’impression que c’est pareil dans toutes les activités qui intègrent une dimension corporelle importante. Peut-être que si un jour Chat Gpt a un corps, elle pourra naviguer ? Après, si on peut recréer des images, voire du mouvement à partir du travail de reconnaissance de l’existant, l’espoir (?) est peut-être permis …
    Ceci me rappelle également une expérimentation qui avait été menée par un collègue psychologue dans l’établissement où je travaillais. C’était au début du web, et il avait comparé les performances de réponses a des questions pointues sur des sujets divers, entre des personnes connaisseur.e.s du domaine mais qui ne connaissaient pas encore le web (à l’époque, il y en avait), et des non-connaisseurs de la question mais experts de la navigation hypertexte (il y en avait déjà). Je vous laisse deviner quel fut le résultat , dont je ne pense pas qu’il ait été publié…
    Bref, je reviens à ma question de départ (une question subsidiaire pour le maître des lieux ) : comment Chat Gpt pourrait faire un bon marin ou un bon paludier ?

  15. Avatar de Guy Leboutte

    Résumé du présent billet: les humains sont si généralement bêtes, les Blaise Pascal exceptés, que même une machine peut être plus intelligente.
    Il manque les guillemets. 🙂

    1. Avatar de Paul Jorion

      On n’est pas si bêtes que ça puisque des gens aussi intelligents que des programmeurs ont inventé des gens (il faut apprendre à être respectueux) encore plus intelligents qu’eux.

      1. Avatar de sacristain
        sacristain

        Des outils monsieur , quand des gens ont programmé mathematica par exemple , ils ont inventé une calculatrice formelle , pas un prof , faut bien saisir la nuance

  16. Avatar de Pascal
    1. Avatar de JMarc
      JMarc

      « Le 18 mars, la statue de Saint-Gaudérique de l’église de Saint-Hippolyte et le buste-reliquaire de la paroisse Saint-Jacques seront transportées jusqu’aux rives du Têt, le fleuve qui traverse la ville. » L’offensive du têt !
      A part ça, je pense à « L’écume des jours » : Le curé : « Dieu, c’est du rabiot », l’assistance : « De la pluie, curé ! »
      Cette procession, mieux vaut en pleurer de rire, comme Latour pleurniche le vivant (Lordon).
      ça fait toujours quelques gouttes.
      Et puis il semble bien que la pluie arrive enfin à plus haute dose :
      https://www.meteo-paris.com/france/previsions.html

      1. Avatar de Pascal
        Pascal

        C’est vrai que maintenant avec Météo France, c’est plus facile de faire des miracles !😂😂😂

  17. Avatar de Thomas Jeanson
    Thomas Jeanson

    Bon, je vais tenter un parallèle…

    Dans le bric à brac dont je m’occupe, on récupère + ou – , 50 tonnes de livres par an.

    Parmi ces bouquins, nombre d’encyclopédies en 15, 20, 40 volumes que les gens à l’époque payaient entre 5000 et 15000 francs, des fortunes, qu’ils n’hésitaient pas à emprunter pour AVOIR le savoir. Et une fois rangé dans la bibliothèque, on y touchait plus.

    (Idem quasiment avec tout le matos du marché, d’ailleurs, avec des performances de fou , le portable intelligent, la bagnole de 200cv, dont le quidam n’utilisera finalement que 5% … AVOIR est plus désirable Qu’être capable de… ( Mémoriser, conduire…)

    Ce que ça m’inspire, c’est que l’immense majorité des personnes se fout du savoir en tant que tel.

    Ponctuellement, dans leur domaine d’action ou d’expertise, ils vont apprécier que l’outil informant fonctionne bien, et pour le reste, ils s ‘ en tapent.

    Pour preuve, la facilité avec laquelle les informations foireuses envahissent les cerveaux, et le succès des gourous de tout poil.

    Un peu comme pour la nourriture, on sait plus ou moins ce qu’il faut manger, mais on mange autre chose.

    Alors oui, le système informant est sans doute passé d’au dessous de nous, à au dessus de nous en terme de performance, mais la question qui demeure n’est elle pas celle de tout ceux qui passent à côté…

    C’est un peu ce qui désole Philippe Soubeyrand il me semble, ce désintérêt général pour les choses importantes.

    A la décharge de tous ces imbéciles dont je fait sans aucun doute partie, je dirait que la pile des choses qui s’imposent à chacun de nous , et chaque jour comme urgente demande plus de 24 h d’attention, alors voilà, on fait ce qu’on peut, c’est à dire pas grand chose.

    1. Avatar de timiota
      timiota

      C’est par un processus biologique que nous sommes devenu Homo (puis sapiens) : revenir sur l’outil tant et plus, y mettre notre mémoire (procurant un avantage à notre tribu), puis mettant des sons sur cette mémoire.
      Si on suit ensuite la pente Stiegler / Simondon (le point de départ était Leroi-Gourhan, si vous ne l’aviez pas reconnu, « Le Geste et la parole »), tous les objets/outils/supports de mémoire sont des objets dynamiques (les milieux associés simondoniens), et nous passons notre temps comme espèce, Sapiens surtout, à nous faire avec les « exosomatisations » de ces choses là, typiquement en deux phases :
      d’abord désublimation/adaptation (on a pris l’invention X qui semblait bonne, mais elle nous a « addicté » quelque part, et maintenant elle abuse de nous ; X étant par exemple la langue, l’imprimerie, et autres babioles d’impact plumesquement similaire). Puis adoption modulo un « dépassement » (en jargon stieglerien, « un double redoublement épokhal », mmmm).
      La phase de désublimation des technologies de l’information nous a déjà frappé deux fois et demi : la micro-informatique qui a changé le « bureau » mais rendu chacun obnubilé par son écran, l’internet qui a fait wiki, les réseaux sociaux, les printemps arabes (ou pas ?) puis addictionne à qui mieux mieux le populo dans des clichés et autre tiktokeries, …
      et puis maintenant v’là l’AI qui nous vole ce beau résultat que nous avions obtenu à la force de notre cervelet et de nos phalanges: le résultat d’avoir renaturalisé l’expression écrite (comme celle que je tapote là), obtenu par la généralisation des SMS, emails, blogs,forums, et autres discord, .et qui nous est volé pour en faire du hachis de Singularité (ou de la Singularité Parmentier, ne soyons pas sectaire et … gardons la patate).
      Se pose aussi la question de la succession rapide de ces phases au point que le schéma doit perdre de sa pertinence, il y a un autre changement d’échelle. Philippe Soubeyrand essaye, par sa prose, en mode « tu vois ce que j’veux dire (mais sans le dire) », de nous le faire deviner.

      1. Avatar de Thomas Jeanson
        Thomas Jeanson

        Est ce qu’il n’y a pas tout simplement d’un côté une minorité enthousiaste et créatrice qui projette un avenir par ses inventions extraordinaires, et de l’autre, une majorité qui n’est pas dans cette dynamique structurellement ( plus homo que sapiens ) et qui se retrouve inadaptée dans ce monde.

        Je crois que c’est Hubert Reeves qui avait dit que le nucléaire serait une invention formidable si nous n’étions pas des hommes, mais des anges.

        Question, avons nous jamais été adaptés au monde ?

        Nous créons un monde pour d’autres que nous.

        I wonder what went wrong chante Paul le Simon sur un air de passion de Bach, dans American Tune…

        https://youtu.be/AE3kKUEY5WU

        Un ami ici, récolte des silex de 30 000 ans et vient de publier un texte sur des  » pointes de flèches de prestiges « , très belles, infiniment plus élaborées que des pointes de chasse. Leur finesse interdit toute utilisation autre qu’ornementale.

        On aime se raconter des histoires…

  18. Avatar de Nikolaz
    Nikolaz

    Je reviens sur la question de la rédaction ou de la dissertation scolaire. On peut y trouver l’élaboration d’une opinion, mais celle-ci doit se baser sur la lecture de références qu’on articulera (et, j’espère, qu’on apprendra à articuler) avec plus ou moins de bonheur.
    Les peurs contemporaines qu’on lit ici chez ceux qui ont plus de trente ans sont peut-être issues du fait qu’ils ont reçu un enseignement d’assez médiocre qualité où seules les dispositions personnelles ou familiales leur ont permis de produire des travaux de qualité. Qui a reçu un cours de méthodologie avant son baccalauréat, qui a eu l’occasion d’élaborer un travail de recherche méthodique et accompagné, qui a un jour appris de son professeur de français quels était les réels attendus de la dissertation de quatre heures, qui a compris clairement la base de notation du devoir rendu ? À titre personnel, je me souviens du regard et des mots condescendants de ma professeure de français de première (à l’automne 1987) quand je lui ai demandé pourquoi on ne nous incitait pas à lire des ouvrages du type de ceux que je considérais motivants à l’époque, c’est-à-dire les romans d’alpinisme de Frison-Roche. J’ai ainsi durement découvert qu’il y avait des hiérarchies dans les lectures. Avec le recul, je ne regrette absolument pas mes lectures car je suis surtout resté lecteur, en particulier dans le métro où la majorité s’abrutit du visionnage du flux Instagram.
    J’ai eu l’occasion de lire il y a deux ans une dissertation corrigée d’une élève de première, élève ayant la plume facile, si ce n’est brillante. Les annotations de l’enseignant se limitaient à quelques phrases percutantes, voire cassantes pour aboutir à un 16 sur 20 sorti du chapeau. C’est pourtant un lycée privé considéré comme prestigieux dans ma ville qui employait cet enseignant.
    Tout cela est-il bien sérieux ? ChatGPT ne s’installe-t-il pas trop aisément dans des vêtements scolaires qui avaient besoin d’être réajusté depuis un bon bout de temps ?

Répondre à Pascal Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta