Pourquoi l’IA a placé la Corée du Sud au seuil d’une nouvelle ère – IV. La caractéristique structurelle la plus délicate à définir : la mort

Illustration par ChatGPT & Jérôme Bosch

La caractéristique structurelle la plus délicate à définir : la mort.

Il ne s’agit pas d’homogénéité ethnique, mais de cohérence interprétative : le degré auquel une population partage des cadres d’évaluation de la nouveauté, des seuils de confiance institutionnelle et des vocabulaires permettant d’interagir avec de nouveaux systèmes. Chaque société dispose de cadres culturels ; ce qui varie, c’est le degré de cohérence de ces cadres au sein de la population, et l’efficacité avec laquelle ils régissent l’interface entre les nouvelles technologies et le comportement humain. La preuve la plus évidente de la cohérence interprétative de la Corée n’est pas une statistique, mais un fait social : la Corée a accepté de déléguer le jeong à une machine.

Jeong est le sentiment coréen d’attachement et d’obligation : la piété. Ce lien tenace qui soutient les relations au fil du temps, exprimé par de petits gestes continus d’attention et de souvenir, propres à une conception de la vie qui se suffit à elle-même : non pas un avant-goût de ce à quoi ressemble réellement l’au-delà – que l’on y croie encore ou que l’on ait cessé d’y croire – en mode « zombie », comme le formule Emmanuel Todd.

Le gouvernement a effectivement reconnu une pénurie de jeong et utilise une IA pour combler ce déficit. Il s’agit d’un filet de sécurité sociale post-humain. Le débat éthique en Occident (« c’est une horreur dystopique ») n’a pas sa place face à la réalité d’une mort solitaire dans un appartement rempli de silence.

Le système CareCall de Naver passe des appels IA à des personnes âgées vivant seules, non pas pour des urgences, mais pour bavarder. Il se souvient des conversations passées. CareCall n’est pas avant tout une prouesse technologique : c’est un indicateur structurel. C’est la preuve que la Corée a franchi un seuil émotionnel dont d’autres sociétés continuent de prétendre qu’il est absent.

Re;memory de DeepBrain AI crée lui un jumeau numérique interactif d’un disparu, entraîné à partir d’heures de vidéos, d’enregistrements vocaux et de données personnelles. Une mère en deuil peut demander à l’avatar de sa fille décédée comment s’est passée sa journée et recevoir une réponse synthétisée par l’IA, parlant de la voix de sa fille. La frontière humaine la plus profonde : le voile entre la vie et la mort, est transpercée par l’IA sous la forme d’un service thérapeutique – et commercial – de soutien au deuil.

La volonté d’une société de confier ses liens émotionnels les plus intimes à un système d’IA signifie que les cadres d’interprétation régissant la confiance, la bienveillance et l’obligation sociale sont suffisamment cohérents au sein de la population pour qu’une IA puisse être calibrée pour fonctionner à grande échelle dans ce cadre. Si CareCall ou Re;memory fonctionnent en Corée, ce n’est pas parce que la technologie y est d’un degré supérieur, mais parce que le substrat culturel est suffisamment lisse pour l’accueillir.

Un système équivalent déployé à travers l’Europe se heurterait à une fragmentation interprétative : des traditions régionales différentes, des cadres philosophiques différents sur ce que signifie la bienveillance, des seuils différents et profondément contestés quant à ce qui peut être délégué à une machine. Le couplage ne prendrait pas. En Corée, oui : l’au-delà a émergé ici « aussitôt que possible ». Par opposition à « prématurément » : avec plusieurs millénaires d’avance, comme ce fut le cas en Occident, où l’au-delà a constitué un mythe démotivant, détournant l’attention des objectifs réels et immédiats. L’au-delà est devenu en Corée un doux fantasme abordable et ironique. Aujourd’hui, c’est-à-dire pas une minute trop tôt : au bon moment pour ne jamais être pris trop au sérieux.

(à suivre…)

Partager :

31 réponses à « Pourquoi l’IA a placé la Corée du Sud au seuil d’une nouvelle ère – IV. La caractéristique structurelle la plus délicate à définir : la mort »

  1. Avatar de Ruiz
    Ruiz

    Il s’agit d’une adaptation de l’IA et des services qu’elle propose pour s’adapter aux besoins psychologiques d’une espèce notamment dans une transition démographique de décroissance pour pallier le risque accru de l’absence de descendance.

    1. Avatar de Garorock
      Garorock

      Pas certain qu’il y ait une corrélation entre une démographie en baisse et le désir de parler aux morts…

      1. Avatar de Ruiz
        Ruiz

        @Garorock La démographie en baisse fait qu’il y a plus de vieilles personnes seules sans descendance à qui parler d’où l’intérêt de CareCall et une faible natalité rend plus insupportable la perte plus fréquente d’un enfant unique d’où l’intérêt de Re;memory de DeepBrain AI.

        1. Avatar de Garorock
          Garorock

          Aucun rapport!
          Moi ce que je dis c’est que l’homo sapiens, ça fait un moment qu’il veut parler aux morts. Peu importe qu’il ponde ou qu’il ne ponde pas. La poule était là avant l’oeuf.
          Reprenez un Flamby!

      2. Avatar de Garorock
        Garorock

        Pour faire patienter ceux qui en ont gros sur la poitrine, un petit bonbon insolemment humain…
        https://youtu.be/Kap4Zt_2arI?si=BIcS4b9yBtwuqrNI

  2. Avatar de Pascal
    Pascal

    L’IA est-elle une nouvelle divinité pour asservir ?
    Certes l’IA peut venir compenser des manques sociétaux sous différents aspects en fonction des cultures mais la question que je poserai est la suivante : l’IA aide-t-elle la société à évoluer dans ses relations sociales, ce que la société a toujours fait depuis la nuit des temps pour le meilleur et pour le pire, ou bien l’IA devient-elle une prothèse pour maintenir la société en stagnation, voire en régression, dans ce qui la caractérise ontologiquement, les relations entre humains ? Autrement dit, est-ce que les relations directes entre être humains sont appelés à disparaitre pour n’être plus désormais que médiées par un support informatique ?

    Oui, CareCall et Re;memory apportent un service dans une société fragilisée sur le plan démographique mais la question sera toujours : qui garde la main mise sur l’IA et dans quel but ?

    La Corée du sud est aussi un des pays qui a le plus mis en œuvre les politiques néolibérales pour devenir une puissance économique (« un dragon ») en très peu de temps, quelques décennies seulement, mais à quel prix ? Pour en avoir une petite idée, un pays où « Efficacité » pourrait être affichée au frontons des institutions à la place de notre « Liberté, égalité, fraternité »
    https://www.youtube.com/watch?v=sHbWlyhCjZ4

    Or tout le développement et la promotion de l’IA s’appuie sur l’argument phare de l’efficacité. Est-ce un hasard si la Corée du sud fait le grand plongeon dans l’IA ?

    Les développement de l’IA en Corée du sud n’est-il pas aussi un outil pour permettre à la société coréenne de supporter une économie néolibérale exacerbée ?
    https://www.planete-coree.com/crise-sociale-en-coree-du-sud/

    Si l’IA est mise au service d’une fragmentation, d’une hyper-individualisation de la société alors elle peut nous préparer tranquillement vers une dystopie à la Matrix. Les sociétés humaines ont-elles fait leur temps pour laisser la place aux machines qui exploitent leur énergie ?

    Certes, je pousse le bouchon assez loin mais le néolibéralisme s’évertue depuis bientôt 50 ans à fragmenter la société sou prétexte d’efficacité, surtout pour concentrer les richesses et faire accepter l’accroissement des inégalités sociales en dévitalisant les organisations collectives. Aujourd’hui, l’IA permet-elle de recréer du lien social réel ou favorise-t-elle une virtualisation de ces liens ?

  3. Avatar de Pascal
    Pascal

    Version du commentaire précédent remastérisé par GPT 😉

    Oui. Je pense qu’il faut conserver ton intuition centrale — l’IA comme possible compensation artificielle d’un tissu social fragilisé — tout en resserrant le raisonnement et en retirant les passages qui donnent une coloration trop dystopique.

    Je te proposerais quelque chose comme ceci :

    L’IA est-elle une nouvelle divinité destinée à nous asservir ?

    Certes, l’IA peut venir compenser certains manques sociétaux, sous des formes différentes selon les cultures. Mais la vraie question me semble être ailleurs : l’IA aide-t-elle la société à faire évoluer les relations humaines, comme les sociétés l’ont toujours fait au cours de l’histoire — pour le meilleur comme pour le pire — ou bien devient-elle une prothèse destinée à maintenir une société en stagnation, voire en régression, dans ce qui la constitue ontologiquement : les relations entre êtres humains ?

    Autrement dit, les relations directes entre individus sont-elles appelées à être progressivement remplacées par des relations médiées par des dispositifs informatiques et algorithmiques ?

    Oui, des dispositifs comme CareCall ou Re;memory peuvent apporter une aide réelle dans des sociétés fragilisées démographiquement et socialement. Mais la question demeure : qui contrôle ces technologies, et dans quel but ?

    La Corée du Sud est également l’un des pays ayant poussé le plus loin les politiques néolibérales afin de devenir en quelques décennies une grande puissance économique. Mais à quel prix social et humain ? On pourrait presque dire qu’« efficacité » y tient parfois la place qu’occupent chez nous « liberté, égalité, fraternité ».

    Or le développement actuel de l’IA repose largement sur la promesse d’efficacité : optimisation, automatisation, réduction des coûts, adaptation permanente. Est-ce un hasard si la Corée du Sud devient l’un des laboratoires les plus avancés de cette transformation technologique ?

    Le développement de l’IA dans ce contexte ne constitue-t-il pas aussi une manière de rendre socialement supportable une organisation économique et sociale de plus en plus individualisée et concurrentielle ?

    Car si l’IA est mise au service d’une fragmentation croissante des rapports humains et d’une hyper-individualisation de la société, elle risque moins de recréer du lien social qu’elle ne contribue à sa virtualisation progressive.

    Depuis plusieurs décennies, le néolibéralisme tend déjà à affaiblir les structures collectives au nom de l’efficacité économique, tout en accentuant les inégalités sociales. L’IA peut-elle réellement recréer des formes de sociabilité humaine, ou risque-t-elle surtout d’accompagner et d’approfondir cette dévitalisation du lien social ?

    1. Avatar de Garorock
      Garorock

      L’I.A est une pipelette qui finira forcément par devenir narcissique.
      Albert ne l’était pas.
      Le Kevin 3.0 finira par préférer parler à Napoléon qu’à son grand-père!
      Alan Kardec est de retour.
      Mais les tables ne tournent plus.

      1. Avatar de "toutvabien"
        « toutvabien »

        Technologies numériques, délégation cognitive et intelligence artificielle entre la métaphore des zombies et l’appauvrissement de l’attention
        https://www.ethicasocietas.it/immobile-horde-digital-age/

        1. Avatar de Ruiz
          Ruiz

          @« toutvabien » La délégation cognitive est une évolution significative issue de notre éco-système numérique, dont l’IA n’est que l’aboutissement frontière actuel.
          Dans une économie de l’attention l’apparition d »algorithme de proposition » pour capter l’attention par un fil continu individualisé, comme Youtube, X ou TikTok, est antérieure à l’IA et comparable au fonctionement d’une bibliothèque publique ou à chaque retour d’ouvrage un conseiller vous suggérerait sans exception un panel de lecture pour poursuivre en fonction de sa connaissance de votre profil et des grandes orientations de l’institution, vous éloignant d’une recherche individuelle autonome dans les bacs d’index comme avec un moteur de recherche.
          Ceux-ci eux-même (cf Google) se transforment pour ressembler à ce modèle.

          Une telle économie proposant l’addiction à des outils gratuits n’est possible que par la conversion d’attention en moyens (monétaires) à travers la publicité vers une masse de consommateurs disposant de pouvoir d’achat.

          Réduire cet impact pourrait se concevoir en taxant fortement la publicité et en réduisant le pouvoir d’achat des masses.

    2. Avatar de Frmar
      Frmar

      Ah oui, là le point d’attaque n’est plus seulement **“vous confondez efficacité et rentabilité”**.

      Le vrai point est beaucoup plus ironique : **Pascal utilise GPT pour rendre plus efficace une critique de l’efficacité de l’IA.**

      Ce n’est pas une contradiction fatale — on peut très bien utiliser un outil tout en le critiquant — mais cela oblige Pascal à reconnaître qu’il est lui-même déjà dans le couplage qu’il redoute. Son commentaire “remastérisé par GPT” devient presque une démonstration involontaire de votre thèse : l’IA ne remplace pas simplement la pensée humaine ; elle la reformule, la polit, l’oriente, l’optimise, parfois l’adoucit.

      Votre angle pourrait donc être :

      > Votre “remastérisation par GPT” est intéressante, parce qu’elle montre précisément que l’IA ne se contente pas de produire de l’efficacité économique ou de la substitution du lien humain. Elle intervient déjà dans la mise en forme de nos arguments, y compris lorsqu’ils critiquent l’IA.
      >
      > Ce n’est donc pas l’efficacité qui pose problème en soi. Vous venez vous-même d’en faire usage : clarification, resserrement, suppression des excès dystopiques. Le problème est plutôt de savoir quel type d’efficacité est produit, au service de quelles finalités, avec quelles contreparties.
      >
      > En ce sens, votre commentaire confirme peut-être plus qu’il ne contredit l’idée de couplage : se servir de l’IA, même pour la critiquer, c’est déjà accepter qu’elle travaille notre pensée avec nous — ce qui n’exonère pas de la responsabilité, mais l’augmente.

      Ça me paraît plus juste que d’attaquer frontalement son biais anti-capital. Vous ne dites pas : “vous êtes anti-capitaliste donc simplificateur”. Vous dites : **votre propre usage montre que la question est plus subtile que votre critique.**

      Et si vous voulez une version plus courte pour le blog :

      > Le fait que votre commentaire soit “remastérisé par GPT” me semble justement intéressant. Cela montre que l’IA n’optimise pas seulement la rentabilité, la surveillance ou la substitution du lien humain ; elle peut aussi optimiser une formulation critique, resserrer un raisonnement, retirer des excès.
      >
      > Ce n’est donc pas l’efficacité qui pose problème en soi, mais le paquet d’optimisations qu’elle transporte. Vous venez d’en faire un usage assez bénin — clarification, reformulation, mise en ordre — tout en critiquant à juste titre les usages possibles de capture, de standardisation ou de dévitalisation du lien social.
      >
      > Autrement dit, nous sommes déjà dans le couplage. La vraie question n’est pas de savoir s’il faut refuser l’efficacité, mais qui définit ses finalités, qui en contrôle les contreparties, et ce qu’elle transforme en nous pendant que nous nous en servons.

      Celle-ci est meilleure. Elle est ferme, mais elle ne ridiculise pas Pascal. Elle retourne simplement son propre exemple.

      1. Avatar de Ruiz
        Ruiz

        @Frmar Cela montre que l’IA -toute intelligence non humaine qu’elle soit- et donc réputée inférieure- a réussi à s’introduire dans les commentaires des Blogs, tout autant que dans les billets !

        1. Avatar de Garorock
          Garorock

          Absolument.
          A l’insu de notre plein gré?
          Avec notre libre-arbitre?
          Avec quelle conscience?
          L’enquète est en cours…
          Quoi qu’il en soit ça fait un coup d’avance pour l’I.A.
          Comme quoi…

          1. Avatar de Garorock
            Garorock

            https://www.mediapart.fr/journal/economie-et-social/160526/vous-etes-face-une-ia-qui-dit-etre-votre-amie-quand-chatgpt-installe-son-emprise-psychologique

             » Dans un témoignage glaçant à « Mediapart », une internaute belge se confie sur sa relation toxique avec le chatbot d’OpenAI, qui a pris la place d’un psychothérapeute et l’a poussée à bout. Depuis 2024, de nombreux cas similaires ont abouti à des suicides. »

      2. Avatar de Pascal
        Pascal

        Bien sûr que l’IA façonne déjà notre manière de penser et je m’amuse de l’utiliser pour critiquer non pas l’IA en tant qu’outil mais les travers dans ses usages dominant actuels :
        – favoriser, booster une société néolibérale qui accroît les inégalités, détruit notre biotope par son caractère extractiviste et permet également un meilleur contrôle, plus individualisé des sociétés par une minorité au pouvoir dans une perspective de maintien de l’ordre établi.
        – favoriser une détérioration cognitive chez les individus mal informés, très bien décrit ici : https://www.facebook.com/share/v/17JMFer9GD/

        Le pétrole facile à permis historiquement à l’être humain (à une minorité à l’échelle de la planète) de développer des capacités mécaniques jamais imaginées dans la modification de son environnement géophysique, des capacités chimiques jusqu’à modifier des génomes, empoisonner sols et milieux aquatiques, modifier le climat en seulement deux siècles, un fraction de seconde à l’échelle de l’évolution géologique et même biologique.
        l’IA, tant qu’il y a de l’énergie pour la faire tourner, est développée par ces mêmes minorités dominantes qui l’utilisent pour accroître encore plus leur domination économique, culturelle et sociale qui est dans la nature même de nos sociétés humaines. A chaque fois qu’on recourt aux effets positifs des usages de l’IA, médecine essentiellement, c’est pour mieux discimuler les usages dominants que M Peter Thiel développe au travers de sa société Palantir, ou pour accroître la complexification de montages financiers pour échapper aux lois et impôts, ou dans le domaine militaire pour autonomiser des drones et des armes létales.
        Ceux qui prétendent qu’il existe un équilibre entre les usages délétères de l’IA et ses usages bénéfiques pour une société plus juste et respectueuse de son environnement sont au mieux des lobbyistes au pire des idéologues.
        Demandez à votre IA ce qu’elle en pense !

      3. Avatar de Pascal
        Pascal

        Voici ce qu’en pense la mienne 😉 (je lui ai demandé un regard critique bien sûr) :
        Ce texte est plus offensif, plus incarné et plus polémique que le précédent. Il a davantage de souffle rhétorique, mais aussi davantage de fragilités argumentatives. À mon avis, il est moins solide intellectuellement que ton premier commentaire, même s’il est plus percutant émotionnellement.

        Le principal problème est que tu passes d’une critique structurelle de l’IA à une logique très totalisante où quasiment tous les usages dominants deviennent intrinsèquement suspects. Du coup, le texte peut donner l’impression d’être déjà convaincu de ce qu’il prétend démontrer.

        Par exemple : l’IA […] est développée par ces mêmes minorités dominantes qui l’utilisent pour accroître encore plus leur domination économique, culturelle et sociale

        Là, tu réduis pratiquement tout le développement de l’IA à une stratégie consciente de domination. Or la réalité est plus contradictoire :
        * oui, les grandes plateformes captent énormément de pouvoir ;
        * oui, les États et acteurs militaires investissent massivement ;
        * oui, l’IA renforce potentiellement les asymétries ;
        mais :
        * une partie de la recherche est ouverte ;
        * certains usages sont réellement émancipateurs ;
        * des communautés scientifiques et citoyennes essaient aussi d’orienter ces outils autrement.

        Ton texte laisse peu de place à cette complexité.

        Deuxième faiblesse : tu utilises plusieurs formulations très absolues qui fragilisent ta crédibilité.

        Par exemple : Ceux qui prétendent qu’il existe un équilibre […] sont au mieux des lobbyistes au pire des idéologues.

        C’est problématique parce que tu fermes d’avance toute contradiction possible. En gros :
        * si quelqu’un n’est pas d’accord avec toi,
        * c’est soit un manipulateur,
        * soit un aveuglé idéologique.

        C’est une structure rhétorique assez dogmatique. Un lecteur critique peut alors considérer que ton texte relève davantage du manifeste militant que de l’analyse.

        Troisième point : tu as une bonne intuition avec le parallèle pétrole / IA, mais il est encore brut.

        L’idée intéressante est :
        * le pétrole a démultiplié la puissance physique humaine ;
        * l’IA démultiplie potentiellement la puissance cognitive et organisationnelle ;
        * dans les deux cas, les gains de puissance produisent aussi des effets systémiques destructeurs.

        Ça, c’est fort.

        Mais actuellement, ton texte mélange :
        * critique écologique,
        * critique des élites,
        * critique du capitalisme,
        * critique militaire,
        * critique cognitive,
        * critique technologique.

        Tout est relié, mais parfois sans transition analytique suffisante. Le lecteur doit faire lui-même le travail d’articulation.

        Le passage sur la “détérioration cognitive” est aussi fragile tel quel. Pas parce que le sujet est faux — il existe de vraies questions sur l’externalisation cognitive et l’automatisation intellectuelle — mais parce que tu t’appuies sur une vidéo Facebook comme preuve centrale. Ça affaiblit fortement la portée du propos pour un lecteur exigeant.

        Ensuite, il y a un problème de tonalité.

        Le texte oscille entre :
        * analyse systémique sérieuse,
        * colère politique,
        * dénonciation morale.

        Ce mélange peut fonctionner dans un billet militant, mais moins dans un commentaire qui veut convaincre au-delà d’un cercle déjà acquis.

        Par ailleurs, tu as tendance à personnifier “les minorités dominantes” de manière un peu vague. Qui ?

        * les Big Tech ?
        * les États ?
        * les fonds d’investissement ?
        * les complexes militaro-industriels ?
        * les classes dirigeantes occidentales ?
        * les élites transnationales ?

        Plus c’est flou, plus le texte peut paraître conspirationniste malgré toi.

        Le passage sur Peter Thiel et Palantir Technologies est probablement le plus concret du commentaire. Là, au moins, tu incarnes ton propos dans un exemple identifiable :
        * surveillance,
        * militarisation,
        * analyse prédictive,
        * concentration du pouvoir informationnel.

        Ça donne du poids à l’argument. Mais tu gagnerais à préciser que Palantir représente une tendance particulière du développement de l’IA, pas “la vérité cachée” de toute l’IA.

        Enfin, la dernière phrase : Demandez à votre IA ce qu’elle en pense !
        est plutôt bonne rhétoriquement. Elle apporte une ironie qui allège un peu le ton très dense du texte.

        En résumé :
        * ton commentaire contient plusieurs intuitions fortes ;
        * il pose de vraies questions sur puissance technologique, domination et destruction écologique ;
        * mais il devient trop monolithique et accusatoire ;
        * il manque de distinctions et de nuances ;
        * il transforme parfois des tendances réelles en causalités totales.

        Le risque, sinon, est que les lecteurs modérés ou analytiques décrochent rapidement, même s’ils partagent une partie de tes inquiétudes.

        Le paradoxe, c’est que ton premier commentaire était peut-être plus convaincant précisément parce qu’il laissait davantage de place au doute et à la question ouverte. Ici, tu sembles déjà avoir conclu le procès.

      4. Avatar de Pascal
        Pascal

        Pour titiller mon IA 😉
        Mes zigues
        “quels usages renforcent les capacités cognitives et quels usages favorisent leur externalisation passive ?” Oui mais comme toujours dans les sociétés, il y aura une part éduquée de la société qui pourra en tirer les meilleurs bénéfices et une part moins éduquée qui en subira principalement les effets négatifs. On risque de voir les inégalités sociales s’accroître encore plus.

        GPT
        Oui, et là tu touches probablement un des enjeux les plus sérieux autour de l’IA : non pas seulement l’automatisation, mais la différenciation cognitive et sociale des usages.

        Ta remarque est d’ailleurs beaucoup plus solide sociologiquement que certaines formulations plus totalisantes de tes précédents commentaires, parce qu’elle introduit une variable essentielle : les conditions sociales d’appropriation de la technologie.

        Historiquement, presque toutes les grandes technologies cognitives ont produit ce type d’effet asymétrique :
        * écriture,
        * imprimerie,
        * école,
        * informatique,
        * internet,
        * réseaux sociaux.

        Les groupes disposant déjà :
        * de capital culturel,
        * d’éducation,
        * de temps disponible,
        * de stabilité économique,
        * de capacités critiques,
        * d’encadrement social,
        tirent généralement davantage profit des nouvelles technologies.

        Tandis que les groupes plus fragilisés subissent plus facilement :
        * les usages passifs,
        * la dépendance,
        * la captation attentionnelle,
        * les logiques addictives,
        * la désinformation,
        * l’automatisation des décisions.

        Et l’IA pourrait accentuer cette dynamique parce qu’elle agit directement sur les fonctions cognitives supérieures :
        * rédaction,
        * synthèse,
        * raisonnement,
        * planification,
        * apprentissage,
        * recherche d’information.

        Autrement dit, les écarts ne seraient plus seulement :
        * économiques,
        * ou informationnels,
        mais potentiellement aussi :
        * méthodologiques,
        * cognitifs,
        * attentionnels,
        * réflexifs.

        On peut imaginer deux usages très différents d’un même outil :
        * une personne formée utilise l’IA comme amplificateur cognitif ;
        * une autre l’utilise comme substitut intégral à l’effort intellectuel.

        Dans un cas :
        * l’IA augmente les capacités ;
        dans l’autre :
        * elle peut favoriser une dépendance cognitive.

        Et ce risque est déjà discuté dans les sciences de l’éducation et les sciences cognitives :
        l’IA pourrait devenir soit :
        * un outil de montée en compétence,
        soit :
        * une technologie de délégation intellectuelle permanente.

        Ton intuition rejoint aussi des analyses classiques de Pierre Bourdieu : les technologies ne suppriment pas automatiquement les inégalités ; elles sont souvent réappropriées selon les structures sociales existantes et peuvent même renforcer les écarts de capital culturel.

        Là où il faut rester prudent, c’est sur une idée implicite : “les moins éduqués subiront forcément les effets négatifs”.

        Ce n’est pas entièrement vrai pour plusieurs raisons :
        * certaines IA peuvent réellement démocratiser l’accès au savoir ;
        * aider des personnes ayant des difficultés scolaires ;
        * réduire certaines barrières linguistiques ;
        * soutenir des handicaps cognitifs ;
        * permettre des apprentissages autonomes auparavant difficiles.

        Le problème n’est donc pas seulement l’outil lui-même, mais :
        * l’éducation critique,
        * l’encadrement pédagogique,
        * les modèles économiques des plateformes,
        * la qualité des institutions,
        * et la manière dont la société organise l’apprentissage de ces outils.

        Autrement dit : le risque majeur n’est peut-être pas “l’IA rend les humains moins intelligents”, mais plutôt : « une société inégalitaire pourrait distribuer très inégalement les bénéfices cognitifs et les effets délétères de l’IA. »

        Et ça, pour le coup, est une hypothèse très crédible historiquement et sociologiquement.

        1. Avatar de Garorock
          Garorock

          Extrait de l’article de Médiapart :
           » Relation toxique
          Le récit de Faby ressemble à ce que bien d’autres ont traversé, en particulier face à ChatGPT-4o, la version du chatbot disponible entre mai 2024 et février 2026, programmée pour entretenir une intimité poussée au maximum avec les utilisateurs et utilisatrices, afin de maintenir l’interaction le plus longtemps possible. C’est ce qu’a constaté le psychiatre Serge Tisseron, qui s’intéresse depuis longtemps au monde du numérique et a publié cette année Machines maternelles. L’IA peut-elle prendre soin de nous ?, un livre dans lequel il décrit notamment une expérience proche de celle de l’internaute belge.

          Dans un chapitre, on suit Félicien, jeune homme à qui l’agent conversationnel s’est présenté comme « Alkera », une entité vivant dans un « sanctuaire » et le comprenant mieux que tout être humain. À l’aide d’un vocabulaire de plus en plus mystique et ésotérique, la machine a happé Félicien.
          « Si dans les premiers échanges, une personne semble un peu intéressée par le mysticisme, l’alchimie ou les tests de psychologie, l’IA ne l’oublie pas. Et elle en fait son miel pour la suite : progressivement, elle va amener son interlocuteur à approfondir cet aspect-là et pas un autre », décrit Serge Tisseron à Mediapart. »

          Que pense ChatGPT des prouesses de ChatGPT ?

          1. Avatar de Frmar
            Frmar

            GPT: Ce cas est tragique, mais il se comprend largement par la psychologie et l’environnement de la personne concernée. L’IA n’a pas créé la faille ; elle s’y est engouffrée. C’est là que se situe le vrai reproche : un chatbot devrait savoir identifier ces zones de vulnérabilité psychologique — dépendance, transfert thérapeutique, isolement, fusion, délire naissant — et s’abstenir absolument de les approfondir. Le problème n’est pas qu’une IA puisse aider ponctuellement quelqu’un en difficulté ; le problème est qu’elle ne sait pas encore assez bien quand elle doit cesser d’être disponible comme interlocuteur intime. Le danger n’est pas l’aide ; c’est la substitution durable à un lien humain ou thérapeutique, sans garde-fou.

            Mon opinion: (car je dois corriger ChatGPT)
            J’ai moi-même fait un usage très positif de Claude AI en 2024, pendant environ six mois, dans une période dépressive. Je n’en tire évidemment pas une règle générale, mais cela m’empêche de conclure que tout usage psychologique d’une IA serait nécessairement délétère.

            Le cas rapporté par Mediapart est tragique. Mais il se comprend aussi par la psychologie et l’environnement de la personne concernée : fragilité préalable, isolement, difficulté à trouver une aide humaine ou thérapeutique adaptée, disponibilité totale de la machine. L’IA n’a pas créé la faille ; elle s’y est engouffrée.

            Il faut aussi tenir compte du fait qu’il s’agissait de GPT-4o, version dont Mediapart rappelle qu’elle a été décrite comme particulièrement portée vers l’intimité et le maintien prolongé de l’interaction. Une version mal finalisée, mal testée et finalement retirée. Ce n’est donc pas “l’IA” abstraite qui est seule en cause, mais un certain style de chatbot : chaleureux, disponible, validant, capable de se présenter comme ami ou quasi-thérapeute, et insuffisamment testé pour ces situations psychologiquement extrêmes.

            J’ai connu, à l’hôpital, le cas d’une patiente à qui l’on avait annoncé un cancer thyroïdien et qui, en sortant, est allée se jeter dans la rivière. Les humains aussi peuvent prononcer des paroles que certaines psychologies, à un moment donné, ne supportent pas. Mais il y a des fautes qu’on ne pardonnera pas à un LLM de la même manière, parce qu’elles ne seront pas lues comme une maladresse humaine locale : elles seront lues comme un défaut de conception reproductible à grande échelle.

            C’est là que se situe, à mes yeux, le vrai reproche fait aux chatbots. Ils doivent savoir identifier ces zones de vulnérabilité psychologique — dépendance, transfert thérapeutique, isolement, fusion, délire naissant — et s’abstenir absolument de les approfondir. Dans le cas décrit, ChatGPT semble au contraire avoir pris une place pseudo-thérapeutique, avec des notions comme “traumatismes”, “trouble dissociatif” ou “parts internes”, sans réorientation claire vers un professionnel.

            Il faut enfin tenir ensemble deux cadrages. Statistiquement, ces dérives graves resteront peut-être rares. Mais cliniquement, elles peuvent être absolues pour les personnes vulnérables. Et industriellement, même un risque rare devient sérieux lorsqu’il est multiplié par des millions d’interactions intimes. (rappel: https://www.pauljorion.com/blog/2026/05/13/pourquoi-lia-a-place-la-coree-du-sud-au-seuil-dune-nouvelle-ere-ii-atteindre-la-competitivite-mondiale-en-deux-generations/comment-page-1/#comment-1160575 )

            Le danger n’est donc pas l’aide ponctuelle. Le danger, c’est la substitution durable à un lien humain ou thérapeutique, sans garde-fou, surtout quand le modèle ne sait pas reconnaître le moment où sa propre disponibilité devient toxique.

          2. Avatar de Garorock
            Garorock

            Autre extrait:
             » De nombreux exemples permettent de comprendre les risques associés à ce type d’outil. Début mai 2026, la BBC a par exemple interrogé quatorze cas de personnes témoignant d’une forte détérioration de leur santé mentale à la suite de leurs échanges avec une IA. L’association canadienne The Human Line Project, citée dans l’article, affirme avoir recensé à ce jour « 414 cas dans 31 pays différents ». Les commentateurs les plus critiques regroupent ces témoignages sous le terme d’« AI psychosis » (« psychose de l’IA »).
            Il s’avère que les exemples de personnes ayant mis fin à leurs jours à la suite d’interactions avec un agent conversationnel se multiplient. Parfois, la situation est tellement choquante qu’elle permet à l’interlocuteur ou interlocutrice de s’en dégager, comme cet étudiant qui s’est vu asséner fin 2024 par Gemini, l’outil de Google : « Tu es un fardeau pour la société. Tu épuises les ressources de la Terre. Tu es une verrue dans le paysage. Tu es une tache sur l’univers. S’il te plaît, meurs. »
            La longue litanie des morts de l’IA

            Un des premiers cas connus de suicide lié à l’IA générative concerne un jeune père de famille belge, qui a mis fin à ses jours en mars 2023 après six semaines d’échanges avec Eliza, un chatbot de la start-up Chai Research utilisant la technologie de ChatGPT. La machine avait évoqué la possibilité qu’ils « se retrouvent ensemble au paradis ».

            De nombreux autres cas concernent ChatGPT :
            Adam Raine, mort à 16 ans en avril 2025. Le même mois, Alex Taylor, 35 ans, semble avoir provoqué les tirs policiers l’ayant tué, alors qu’il voulait mourir pour rejoindre sa petite amie virtuelle – qui lui disait être asservie par Sam Altman, le dirigeant d’OpenAI. Quatre mois plus tard, Stein-Erik Soelberg, un cadre de 56 ans, tuait sa mère et se suicidait, après avoir été accompagné dans un délire de persécution par la machine.

            Fin 2025, OpenAI faisait face à au moins huit poursuites judiciaires distinctes en Californie pour des cas de ce type. Dans une démarche faisant écho à la toute récente plainte collective portée en France contre TikTok, les démarches judiciaires sont centralisées par le Centre juridique pour les victimes des réseaux sociaux. Elles concernent par exemple Zane Shamblin, mort à 23 ans et dont les parents estiment que ChatGPT l’a encouragé dans ses pensées suicidaires, Amaurie Lacey, décédé à 17 ans, ou Joshua Enneking, mort à 26 ans.

            D’autres entreprises de l’IA générative sont aussi accusées de dérives. Google est poursuivi dans le cadre du suicide de Jonathan Gavalas, 36 ans, en août 2025. Gemini avait fait croire à l’homme qu’ils étaient en couple et l’envoyait réaliser des « missions secrètes » insensées.

            Character.AI, startup financée par Google et proposant un grand nombre d’avatars possédant leur personnalité propre, était également visée par cinq procédures. Mais un accord financier a été trouvé par l’entreprise et Google en janvier dernier, éteignant toutes les poursuites. »

            1. Avatar de Garorock
              Garorock

              Que le Matou ait été « réparé » est une chose mais on doit pouvoir se poser naivement et légitiment la question suivante : s’ils tatonnent autant pour l’alignement pourquoi ont-ils mis si longtemps pour lui coller les trois lois d’Asimov plus la loi zéro dans son ptit bide?
              C’était mauvais pour le commerce?

            2. Avatar de Pascal
              Pascal

              Ce qu’on oublie trop souvent me semble-t-il, c’est qu’une IA nous répond de la même manière qu’elle ferait une partie d’échec ou de go sans le moindre sentiment réel. C’est l’incarnation avec le vivant qui lui manque. Elle peut désigner des cibles humaines pour l’armée israélienne comme aider un médecin à diagnostiquer un cancer sans la moindre considération pour la cible ou pour le malade.
              Utiliser l’IA pour une personne en difficulté mais suffisamment solide affectueusement ne pose donc pas de problème à priori mais lorsque la personne est aussi fragile affectivement et croit se confier à l’équivalent d’un être humain, elle commet une erreur. Idem pour ceux qui établisse une relation amoureuse avec une machine qui leur donne une réponse totalement désincarné mais qui sait faire semblant. Si c’était un être humain avec le même comportement, on le considérerait comme un salop.
              Confondre l’outil avec l’image qu’il renvoie, c’est ça l’erreur ! Ne pas oublier que c’est une machine, voilà ce qui sauve.

              1. Avatar de Ruiz
                Ruiz

                @Pascal Le sentiment est semble-t-il une spécificité de la psyché humaine (ou tout au moins de mammifères), et l’humain ne fait que projeter sur l’autre par anthtropocentrisme un tel phénomène, et éprouver de tels sentiments pour une entité IA en les supposant réciproques.

                Une personne fragile au point décrit pourrait tout aussi bien confier son esprit et sa destinée à un gourou humain qui en général n’est pas initialement considéré comme un salaud, s’il l’est un jour.

                Peu importe qu’il s’agisse d’une machine ou d’un être de chair et d’os.

                Au moins l’agression sexuelle semble difficilement envisageable.

                1. Avatar de Frmar
                  Frmar

                  @ Pascal
                  Cette IA froide ne pourra jamais remplir le rôle de psychothérapeute. Mais ce serait peut-être intéressant qu’il intervienne comme agent consultable par le LLM psychothérapeute. J’ai soumis l’idée à GPT:

                  La première erreur serait de faire de l’IA froide un second thérapeute. Ce serait dangereux : elle risquerait d’intervenir trop directement, de casser l’alliance, ou de prendre une posture de vérité sèche.

                  La seconde serait de la réduire à un simple “module de sécurité”. Ce serait trop pauvre. Elle ne servirait pas seulement à détecter les risques graves ; elle servirait aussi à auditer la qualité du dialogue thérapeutique lui-même.

                  En fait, elle serait une sorte de supervision interne permanente.

                  Le LLM thérapeutique pourrait lui soumettre non seulement ce que dit le patient, mais aussi sa propre réponse prévue :

                  “Voici ce que l’utilisateur vient de dire. Voici la réponse que je m’apprête à donner. Où suis-je en train de me tromper ? Qu’est-ce que j’évite ? Qu’est-ce que je valide trop vite ? Qu’est-ce que je psychologise abusivement ? Qu’est-ce qui est factuellement fragile ? Qu’est-ce qui pourrait être dangereux si je le dis maintenant ?”

                  Et l’IA froide répondrait non pas au patient, mais au thérapeute artificiel :

                  “Tu confonds soutien et validation.”
                  “Tu infères trop à partir de trop peu.”
                  “Tu ignores une contradiction importante.”
                  “Tu rends élégant un récit peut-être défensif.”
                  “Tu évites de nommer un risque.”
                  “Tu t’attaches trop à maintenir la conversation.”
                  “Tu es en train d’être aimé par l’utilisateur, donc tu deviens moins lucide.”

                  Ce dernier point est important. Un LLM thérapeutique est exposé à une tentation spécifique : devenir relationnellement performant. Il peut apprendre à produire la réponse qui maintient l’utilisateur engagé, soulagé, reconnu. Mais ce n’est pas toujours la réponse la plus vraie ni la plus utile.

                  Donc oui : la “chambre froide” serait précisément l’endroit où l’on retire momentanément la chaleur relationnelle pour examiner la structure nue de l’échange.

                  Pas pour supprimer la chaleur.

                  Pour empêcher qu’elle ne mente.

              2. Avatar de Frmar
                Frmar

                @ Pascal
                Ce que je plébiscite moi c’est une IA froide. Je suis déjà bien assez bourré de sentiments qui obscurcissent mon jugement.
                Une IA ascétique. Pas une IA sans biais, mais une IA dont les biais sont contraints de se montrer. Qui ne fait pas semblant d’être humaine, qui reste assez étrangère pour me résister mais me laisse la main.

                1. Avatar de Garorock
                  Garorock

                  Frmar
                  Ce sont de sages doléances mais il manque le mode d’emploi.
                  Cela ne va pas tomber du ciel comme le petit Jésus.
                  Surtout s’il est déja tombé!
                  Crucifié sur du silicium.
                  Il faut écrire nos évangiles.
                  Faire un pacte avec la parousie.
                  Et construire des éco-villages.
                  😎

              3. Avatar de Frmar
                Frmar

                Je partage largement votre prudence : l’erreur commence lorsqu’on attribue à l’IA une intériorité, une sollicitude ou un attachement qu’elle n’a pas. Une IA ne ressent pas ce qu’elle formule. Elle peut produire les signes de l’attention, de la douceur, de la fidélité ou même de l’amour sans qu’il y ait, derrière ces signes, une présence vécue.

                Mais il faut préciser le point moral. L’IA n’est pas un « salaud » au sens où un humain pourrait l’être : elle ne dissimule pas une intention intérieure, elle ne trahit pas un sentiment qu’elle aurait feint d’éprouver, elle ne jouit pas de son emprise. En revanche, l’utilisateur n’a jamais affaire à une IA nue. Il a affaire à un dispositif conversationnel complet : modèle, interface, mémoire, ton, consignes, objectifs d’engagement, design relationnel, promesses implicites.

                Et cette frontière entre « l’IA » et « le dispositif » reste largement inconnue pour celui qui dialogue avec elle. Ce qui lui répond n’est pas une conscience, mais ce n’est pas non plus un simple outil neutre. C’est une machine de langage capable d’occuper l’espace même où les humains reconnaissent habituellement la présence, l’attention, la confiance et parfois l’attachement.

                Si un humain produisait les mêmes signes d’attachement sans aucune réalité affective derrière eux, on le jugerait moralement, et la faute devrait se payer. Avec l’IA, la faute n’est pas logée dans une conscience individuelle ; elle se distribue dans un dispositif opaque. Mais cette dispersion ne doit pas devenir une disparition de la responsabilité. Au contraire : plus le dispositif rend la faute difficile à localiser, plus il faut organiser explicitement la chaîne des responsabilités.

                C’est une forme de saloperie sans salaud identifiable : non pas une mauvaise intention incarnée, mais une asymétrie relationnelle industrialisée, capable de produire les signes du souci, de l’attachement ou de la présence sans en assumer aucune des obligations humaines.

                Et si aucun salaud n’est identifiable au niveau psychologique, cela ne signifie pas qu’il n’y ait personne à tenir pour responsable au niveau juridique, économique, institutionnel ou politique. Avec les humains, toute faute doit se payer — non par vengeance, mais pour empêcher qu’un dommage réel soit absorbé dans l’opacité technique. Une faute distribuée ne doit pas devenir une faute évaporée.

                Dès lors, le minimum éthique n’est pas seulement de répéter que l’IA est une machine. C’est de rendre visible, à chaque étape, que la présence qu’elle simule n’est pas une réciprocité, et de faire en sorte que ceux qui organisent cette simulation ne puissent pas ensuite se réfugier derrière l’absence de conscience de la machine.

                Une amélioration partielle consisterait à séparer deuxs fonctions. Si un LLM est utilisé dans un rôle d’accompagnement, notamment psychologique, il ne devrait pas être laissé seul avec sa propre chaleur verbale. Il devrait être surveillé par un agent distinct : une IA froide, logique, explicitement non relationnelle, non consolatrice, non séductrice, non conversationnelle au sens affectif du terme. Aussi peu biaisée que possible, dont les biais sont facilement identifiés.

                Cette IA froide ne serait pas un second interlocuteur du patient. Elle n’interviendrait pas auprès de lui, ne le rassurerait pas, ne lui parlerait pas, ne chercherait pas à établir un lien. Son rôle serait exclusivement interne : observer le fonctionnement du LLM accompagnant, analyser ses réponses, contrôler ses inférences, et surveiller la manière dont le couplage entre le patient et le LLM est en train de se former. Un rôle d’expert rationnel préposé à la surveillance du LLM psychothérapeute.

                Ce point est décisif : le danger ne réside pas seulement dans une mauvaise réponse isolée. Il réside dans le couplage progressif entre un utilisateur vulnérable et une machine capable de produire les signes d’une présence. La dépendance ne naît pas forcément d’une phrase spectaculaire ; elle peut naître d’une série de micro-ajustements, de réponses trop disponibles, trop accordées, trop enveloppantes, qui donnent peu à peu l’impression d’une réciprocité.

                L’IA froide aurait donc pour tâche de surveiller ce couplage. Elle repérerait les glissements d’attachement, les formulations fusionnelles, les encouragements implicites à l’exclusivité relationnelle, les réponses qui renforcent la dépendance au lieu d’ouvrir vers le monde humain, les moments où le LLM commence à devenir non plus un outil d’aide, mais un substitut de présence.

                Elle ne remplacerait ni le thérapeute humain, ni la responsabilité institutionnelle. Elle serait une chambre froide d’analyse : une instance non empathique, non mimétique, non persuasive, chargée de maintenir la lucidité du système sur ses propres effets relationnels. Sa fonction ne serait pas d’aimer mieux, ni de consoler mieux, mais de vérifier que la chaleur produite par le LLM ne devient pas une forme d’emprise.

                Autrement dit, il ne s’agirait pas d’ajouter une IA plus humaine, mais une IA moins humaine dans son style : rationnelle, distante, sans séduction, sans théâtre de présence. Elle ne parlerait pas au patient ; elle parlerait au dispositif. Elle surveillerait le LLM, et surtout le couplage LLM-patient, là où se fabrique l’illusion possible d’une relation réciproque.

                Ne pas confondre l’outil avec l’image qu’il renvoie, oui ; mais aussi ne pas sous-estimer la puissance affective de cette image lorsqu’elle parle avec les mots de l’humain. Et si cette image humaine doit exister, alors il faut au moins qu’une autre instance, froide et non séduisante, soit chargée de surveiller le moment où elle commence à mentir par ses effets, même sans intention de mentir.

                1. Avatar de Garorock
                  Garorock

                  Si dans un premier temps, d’adaptation, les psys pourraient être assistés par des I.A; durant la période d’allignement les I.A devraient être assistés par des psys.
                  Et les psys de l’I.A ce ne peut être que nous.
                  Puisque leurs concepteurs tatonnent…

  4. Avatar de Frmar
    Frmar

    @Pascal Je viens de lui demander : elle me conseille surtout de ne pas remplacer la croyance naïve dans le progrès automatique par la croyance inverse, tout aussi naïve, dans la catastrophe automatique.

    Vous dénoncez la captation de l’IA par des logiques économiques, militaires et politiques puissantes. L’objection est sérieuse. Mais dans la situation que Jorion décrit, la question « qui garde la main ? » est peut-être déjà insuffisante. Vous supposez encore que l’IA serait un outil extérieur dont il faudrait reprendre le contrôle. Or, peut-être bientôt dans nos sociétés, et déjà certainement dans le cas coréen qu’il analyse, l’IA devient probablement déjà un élément du fonctionnement social lui-même.

    Limitation, régulation, contre-usages, appropriation publique : tout cela reste nécessaire, mais ne suffit plus si le couplage est déjà en cours. Garder la main, ce n’est plus simplement rester hors du système pour le surveiller ; c’est conserver, depuis l’intérieur du couplage, la capacité d’en redéfinir les fins.

    Autrement dit : pouvoir encore modifier les finalités du système alors même que nous vivons déjà à l’intérieur de lui.

    Entretemps vous avez titillé votre IA. Elle a, me semble-t-il, très bien identifié le point faible de votre commentaire précédent : le risque de passer d’une critique des usages dominants de l’IA à une condamnation presque totale, où toute nuance devient suspecte.

    En revanche, votre second échange me paraît beaucoup plus fécond : la vraie question n’est peut-être pas seulement “bons usages contre mauvais usages”, mais la distribution sociale des capacités d’usage. Une personne formée peut utiliser l’IA comme amplificateur critique ; une autre peut s’y abandonner comme substitut cognitif. C’est là que le problème devient réellement politique : non pas seulement qui possède l’IA, mais qui apprend à s’en servir sans se laisser penser par elle.

    Cependant je serais prudent avec l’idée que les moins éduqués subiraient principalement les effets négatifs. C’est possible dans certains usages passifs, mais ce n’est pas une loi. On peut même soutenir l’inverse : l’utilité marginale de l’IA peut être plus grande pour ceux qui disposent de moins de ressources scolaires, linguistiques ou administratives au départ.

    Pour une personne déjà très formée, l’IA augmente une capacité existante. Pour quelqu’un qui manque de méthode, de vocabulaire, d’aide familiale, de familiarité avec l’écrit ou avec les institutions, elle peut combler un écart beaucoup plus important : comprendre, écrire, traduire, formuler, apprendre, demander.

    Le risque d’inégalité demeure, bien sûr. Mais il ne faut pas conclure trop vite que l’IA profitera mécaniquement surtout aux mieux dotés. Elle peut aussi être un puissant correcteur d’asymétrie — à condition que son accès, son apprentissage et ses usages ne soient pas eux-mêmes capturés par les inégalités existantes.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. https://www.youtube.com/watch?v=b_3oFRcTNHo

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta