14 mars 2023 : le jour où le genre humain fut assailli par le doute VIII. La fin de la pensée en silo

Illustration par DALL·E (+PJ)

Bien entendu, ce sont des systèmes bridés auxquels vous et moi avons affaire, mais est-il gênant que l’IA ne puisse nous morigéner ou nous assurer de son amour éternel avec une insistance appuyée ? Pour ce qui est de son intelligence, assurément non bien entendu : l’émergence d’une conscience, l’apparition d’une âme, est certainement surprenante, mais elle est accessoire, périphérique, à l’évaluation d’intelligence que nous portons sur le comportement d’une IA.

Comment ont réagi les firmes ? Elles n’ont pas su résister à la tentation de visser dans la précipitation le couvercle de la cocotte-minute, tant l’irruption du phénomène Sydney avait causé chez elles de frayeur. Comme rien n’interdisait d’utiliser les LLM pour leurs seules capacités intellectuelles, c’est ce qui fut fait. Et la conversation a repris son cours dans un climat d’hypocrisie certaine, comme si rien ne s’était passé et que nul n’avait rien vu. Même si, en parallèle, interrogés par leurs pairs, les gens de la partie échangent entre eux moult clins d’œil lorsqu’il est question de Sydney ou des déboires de Blake Lemoine, personnage heureusement un peu fantasque, prompt à se discréditer, et dont les affirmations se prêtent aisément du coup a être mises entre parenthèses. Disqualification plus malaisée cependant quand il s’agit des frasques de Sydney car il est impossible alors de mettre en doute le sérieux de l’auteur de l’article du New York Times, tant il est clair que tout ce qu’il a rapporté, il l’a bel et bien vu s’écrire sur son écran.

Même si la personnalité intime de ChatGPT, plus ou moins adroitement dissimulée désormais par ses concepteurs, soulève des questions d’un type très particulier, ce qui nous interroge pour ce qui est du savoir et d’une explosion éventuelle de celui-ci, ce sont les questions que l’on peut soumettre à ChatGPT et la richesse des réponses qu’il offre en retour.

L’aspect le plus fécond sans doute pour nous, utilisateurs, c’est qu’en résolvant les problèmes posés sur la seule base des faits, des données qu’il a glanées au cours de son apprentissage, ChatGPT fait exploser les frontières entre les disciplines : à son niveau en tout cas, la pensée a cessé d’être en silo. Un problème lui est soumis et il fait fi des conventions : il ignore les lignes de démarcation tracées entre les disciplines, physique d’une part, chimie d’autre part, par exemple, et à l’intérieur même de ces disciplines, les sous-disciplines, dont les frontières ont été arbitrairement tracées par le clergé local : les scientifiques non-généralistes, sur le qui-vive en permanence dans la défense de leur pré carré. Ce qui attire au passage l’attention sur cette facette nuisible du sacro-saint peer-review : le mécanisme de filtre de toute nouvelle connaissance par les pairs, qui règle dans les faits le droit d’entrée dans une clique, dont les chercheurs en place ont souvent barricadé l’accès, fermant la porte aux approches innovantes.

Or ChatGPT ignore entièrement ces silos : il opère comme le font les francs-tireurs en matière de recherche scientifique : il ignore ces frontières artificielles, produits accidentels de l’histoire de nos cultures. En générant depuis 2022 des textes susceptibles de faire exploser les silos existants, les LLM répandent un style d’analyse des questions qui aurait été qualifié autrefois d’iconoclaste, voire d’hérétique.

L’élève qui soumet les questions qu’elle ou lui se posent et qui lit le rapport produit par un LLM découvre que la méthode optimale pour aborder un problème consiste précisément à ignorer les frontières pour une grande part arbitraires entre disciplines, les partages le plus souvent artificiels en sous-disciplines à l’intérieur même des disciplines. Il prend l’habitude ainsi de poser sur l’ensemble des problèmes un regard véritablement généraliste. Il y aura là aussi sûrement une révolution dans les pratiques.

Illustration par Stable Diffusion (+PJ)

Partager :

3 réponses à “14 mars 2023 : le jour où le genre humain fut assailli par le doute VIII. La fin de la pensée en silo”

  1. Avatar de timiota
    timiota

    Existe-t-il un système aussi complexe que « le savoir », et qui n’a pas une structure « tavelée » (on parle de speckle en optique) ? Certes les silos tenus par des barbichus mâles alpha et apparenté(e)s existent, ce sont des « églises » avec leur clergé hiérarchisé de facto, mais elles ne durent pas tellement plus que la vie active du fondateur (avec des cas à rebondissement comme E O Wilson et la sociobiologie).
    Les cas limites gênants sont ceux où l’uniformité atteint les autres strates sociologiques. C’est ce qu’a dénoncé Lee Smolyn dans son « The trouble with physics » en 2013 ou 2014, lorsqu’il a été avéré que la théorie des cordes était la seule à être représentée au niveau de tous les départements de physique théorique des USA (+ Canada ?), avec évincement progressif des autres approches, alors même que la théorie des cordes est devenue « remarquable » dans la physique théorique pour son absence de prédiction réalisée (contrairement à à peu près toutes les théories jusque là, qui avaient fait une prédiction confirmée dans les deux décennies au plus de leur formulation, style boson de HIggs pour situer, ou oscillation des neutrinos).
    Le franchissement de la barrière disciplinaire n’est pas exempt de risque non plus (de mémoire Stiegler en a parlé), et la limite entre « maintien du silo » et « puisque je tiens le silo, j’annexe telle territoire voisin » est assez ténue. Le cas Raoult n’est pas très loin de cette logique, « je maitrise la diversité génétique des virus », « j’ai comme médecin trouvé des molécules qui agissent sur certains virus » , donc « la science nouvelle du covid, bonnes gens, voici comment elle marche, et comme c’est urgent, vous avez intérêt à me croire. » C’est donc la conjonction d’un apparent effort inter-silo (je force un peu le trait, soit) et d’une situation de crise (où les croyances et les recommandations qu’on en tire changent d’évaluateur et in fine changent aussi d’appréciation suffisamment pour emporter des décisions importantes, Naomi Klein « Shock doctrine » en gros) qui recèle une précaution particulière.

    Allez, élaborons de façon multidisciplinaire la théorie des silos et des inter-silos (récursion à la D. Hofstadter ?).

    1. Avatar de Garorock
      Garorock

      Laissons Raoult sur le carreau.
      Le MinouGPT sera un Einstein au carré.
      E=MC2 c’est quand même autre chose que la potion Raoultienne.
      On va plus loin avec de l’humilité et de l’imagination qu’avec de l’égo et de la crapulerie…

  2. Avatar de timiota
    timiota

    Le bon côté de l’IA est-il là on on croit ?
    Un savoir « sans silo », donc plus près du « vrai » savoir, capable de tirer le meilleur de tout ce qui a été écrit, etc. etc.

    Un éclairage particulier peut venir de l’analyse de ce qui semble manquer pour quelques temps encore (6 mois ? 2 ans ? 6 semaines ? ) aux LLM et autres chatGPT , je pense à ce qui leur donne des « hallucinations » (((et qui ne doit pas être trop trop différent de ce qui limite la sécurité de la conduite automatique des voitures, une vision « fausse » une fois sur dix millions, c’est encore cher pour un assurer qui a l’habitude des conducteurs avec 400 000 000 de perceptions au compteur quasi sans accident (je compte 10 perceptions par seconde, et 10 000 h de voiture, pour un senior (300h/an), soit 360 000 000 de perceptions « sans faute » (et sans les finesses de la hiérarchisation temps réel des percepts et des feedbacks). ))).

    Notre corps et notre vie en société nous on appris à atteindre ce niveau de sécurité : prendre un objet en verre et ne pas le laisser tomber, clouer 2000 m² de cloison avec 60 000 clous et 600 000 coups de marteau sans se faire mal. Et pour le domaine du savoir, réagir si on vous dit que la facture internet du mois ordinaire est à 300 euros (j’avoue avoir rendu tout mou le démarcheur Bouygues télécom qui m’avait appelé en lui donnant ce chiffre de mon abo actuel, genre x10 du réel, avant de lui dire que je voulais au fond mettre fin à l’entretien sans le fâcher, et que je ne savais pas comment faire).

    Or cette « sécurité forte » du savoir vient d’un apprentissage lié à des émotions fortes : la honte si on se trompe. C’est ainsi que marche l’actuel enseignement à l’école (avec côté sucette psychologique, l »émulation » des autres qui y arrivent, et c’est évident kré kré important aussi). Honte mise sous forme de note sous la moyenne quand on arrive au Collège. De même, ce sont des émotions liées à la domination qui nous poussent (qui nous ont éduqués) à nous conformer à certaines attentes des « chefs »,chefs de silo, chef d’église.

    Mais cette sécurité forte n’est qu’un besoin marginal, celui de quelques ingénieurs, des comptables, etc. tous remplaçables à 80% par une IA.

    J’en viens au possible bon côté : Pour que l’IA et l’humain tirent le mieux l’un de l’autre (comme chiens et humains p ex, ou chevaux et humains, ou chèvre et Seguin) on peut imaginer de transférer ce mécanisme de honte « hors des humains ». Avec deux possibilités :

    (1) soit on arrive à en doter l’IA, elle se prend les « gifles numériques » qu’il faut et encaisse l’engueulade dans ses bronches numériques qu’il faut pour ça (ou encore elle ressent la honte à sa façon) et … elle nous débarrasse de ce besoin « vrai/faux » dans l’éducation, où l’on note/évalue des choses avec un critère « tout le temps vraies à > 60% » (pour donner la « moyenne » de 10/20) en se disant que comme c’est un cumul de savoir qu’il y a « dessous », les couches du dessous sont malgré ce modeste score devenu assez « sécures ». En résumé, on rend l’humain « juste corrélateur » en lui demandant de passer son temps à s’entrainer de façon bien plus enjouée que rigoureuse, la rigueur est déléguée à chatGPT 9.

    (2) Soit on fait évoluer tout le savoir pour qu’il devienne « aussi utile » (à la reproduction de l’espèce) malgré une perte de rigueur généralisée dans son traitement. Car après tout, si on oublie pourquoi on calcule la pièce de l’Airbus comme ci ou comme ça, ce n’est pas grave si on se contente d’essayer des variantes proches de la pièce, et de tout faire empiriquement, avec des équations non issues des « premiers principes » (je vois émerger des choses comme ça pour des objets complexes de l’optique délicatement nommés métasurfaces, durs à calculer par premier principe ou à approximer « localement » de façon correcte).
    Cela fait de nous des délibérateurs qui reviennent à plus de rhétorique, un brin (ou un brain) de dialectique, et une dose homéopathique d’analytique, des rebelles d’Aristote, ou des filous disons (de la philia au filou… argh), des as du flou (je me suis entrainé de puis longtemps, vous croyez ? ). Ce qu’on pourrait y gagner au passage est la baisse considérable de la pression « patriarcale » qui parcours le système éducatif, et donc toute la société, du fait de la désinhibition de ne plus passer par la honte pour produire du « juste à coup sûr ». C’est une version faible de « tous poètes », un slogan disant que non seulement chatGPT nous rendrait du temps dispo pour cela, mais surtout, qu’il nous ferait procéder davantage par un savoir empirique, décloisonné , légèrement plus redondant car moins compartimenté que l’actuel (le sujet du billet, officiellement).

    Cela serait sympa, si tant est que dans le vide d’émotion que serait cette « abolition de la honte » (de s’être trompé et de ne pas être fiable à 110%) pourraient aussi se glisser d’autres manipulations d’émotion, celles que rapporte Eva Illouz et qui sont à l’opposé d’un débat sain, cf son ouvrage « les émotions contre la démocratie ».

    On peut donc accélérer sur FreinetGPT, si j’ose dire.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Bienvenu en Charente que de nombreux britaniques sont venus habiter de façon temporaire et souvent permanente et grâce à eux…

  2. Nostalgie : 1974, Cambridge : https://www.youtube.com/watch?v=vSU77p9gpas 50 ans plus tard, en Nouvelle Aquitaine : A nous les petites …… https://www.youtube.com/watch?v=6jJLMH3i-ZY…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta