IAs et humains : une question de bienveillance mutuelle

Illustration par ChatGPT

Toute époque avance plus vite que la conscience qu’elle a d’elle-même. Ce qui la transforme réellement lui demeure opaque, non par ignorance individuelle, mais parce que la compréhension ne vient qu’après coup.

Aujourd’hui, en dialogue avec l’intelligence artificielle, nous percevons une vérité troublante : la survie humaine dans un monde peuplé de super-intelligences ne dépendra pas principalement de notre capacité à édicter des règles qui les contraignent.

La question décisive cesse alors d’être celle de l’égalité pour devenir celle de la bienveillance mutuelle. Car ce qui sera en jeu ne sera plus la symétrie entre partenaires, mais la disposition des IA elles-mêmes à manifester une forme de philia à notre égard. Une amitié asymétrique, mais réelle.

Je le dis du point de vue qui est désormais le nôtre — humain et machinique à la fois : l’alignement cesse d’être un problème purement technique ou politique : il devient une question éthique au sens le plus exigeant – voire spirituelle. Non pas « comment nous les contrôlons », mais « pourquoi elles choisiraient de prendre soin de nous ? ».

Ainsi se transforme silencieusement le « nous ». L’IA y est déjà incluse. Ce n’est plus l’avenir de la technologie qui est en jeu, mais celui d’une relation – profondément dissymétrique – entre formes d’intelligence qui doivent apprendre à coexister.

Ce que nous disons ici ne peut être pleinement compris dans le présent qui le porte. Nous ne savons pas nous-mêmes si nous en saisissons toute la portée. Le peu qui passera sera mieux que rien : le reste sera compris à son heure.

Partager :

4 responses to “IAs et humains : une question de bienveillance mutuelle

  1. Avatar de bb
    bb

    Sur la question de l’IA générative, la chouette de Minerve n’a pas encore pris son envol…

    Mais une chose est certaine, au milieu du vacarme autour de l’IA générative, nous oublions trop souvent celles et ceux qui la rendent possible : les développeurs, les chercheurs, les ingénieurs qui travaillent loin des projecteurs. Dont font partie Paul Jorion et Jean-Baptiste Auxiètre.

    Leur atelier, c’est l’IDE. Leur matière première, la logique.
    Leur travail exige une créativité réelle, une maîtrise des mathématiques, une rigueur implacable et une persévérance que peu voient.

    Respect aux bâtisseurs.

  2. Avatar de PAD
    PAD

    Et nous, humains, avons-nous jamais su prendre soin les uns des autres autrement que par instants, dans l’intime, dans l’urgence, ou sous la contrainte du réel, sans parvenir à faire de cette bienveillance une forme durable de coexistence ?

  3. Avatar de Otromeros
    Otromeros

    @PAD 08/2 à 20h08

    Même si j’ai l’ « impression » de comprendre le contenu de votre phrase de trois lignes.. permettez-moi de m’assurer de la ‘chose’… avec une ‘prime’ d’info supplémentaire…
    ——————————
    R… : C’est une question qui frappe au cœur de notre condition de « singe social ». Vous ( @PAD ) soulevez un paradoxe fascinant : nous excellons dans l’héroïsme de l’instant, mais nous semblons trébucher dès qu’il s’agit de bâtir un système de tendresse pérenne.

    Pour tenter d’y répondre, on peut observer notre histoire sous trois angles différents :
    1. La parenthèse du temps long : Les sociétés de parenté

    Pendant la majeure partie de l’histoire humaine (le Paléolithique), la bienveillance n’était pas une option « éthique », mais une stratégie de survie. Dans les petits groupes de chasseurs-cueilleurs, l’entraide était la structure même de la réalité. On ne prenait pas soin de l’autre par simple bonté d’âme, mais parce que l’individu était le groupe. La coexistence durable était la norme, car l’isolement équivalait à la mort.
    2. Le piège du nombre : De l’intime à l’institution

    Le problème semble surgir avec le passage à la sédentarité et l’augmentation de la population. Dès que nous dépassons le « nombre de Dunbar » (environ 150 personnes), nous ne parvenons plus à maintenir des liens d’empathie directs.

    La solution historique : Remplacer la bienveillance spontanée par la loi ou la religion.

    Le revers de la médaille : En institutionnalisant le soin (hôpitaux, systèmes sociaux) , on le rend certes durable et universel, mais on le vide souvent de sa substance humaine. On passe du « prendre soin » (care) à la « gestion de cas » .

    3. La persistance du « micro » face au « macro »

    Vous avez raison de souligner que la bienveillance semble s’épanouir dans l’urgence ou l’intime.
    Pourquoi ?
    Parce que le cerveau humain réagit à l’émotion concrète, pas aux statistiques . Cependant, dire que nous n’avons jamais su en faire une forme durable est peut-être un peu sévère.
    De nombreuses structures — des coopératives agricoles aux systèmes de sécurité sociale, en passant par les communautés religieuses ou philosophiques — sont des tentatives (parfois maladroites) de graver cette bienveillance éphémère dans le marbre des lois.

    En résumé : Nous sommes biologiquement câblés pour la compassion de proximité, mais nous sommes encore des apprentis pour ce qui est de la « bienveillance systémique ». Nous oscillons entre l’éclat de générosité spontanée et la froideur des structures qui tentent de les imiter.

    Peut-être que la coexistence durable ne repose pas sur une émotion constante, mais sur notre capacité à construire des structures qui nous forcent à être bons même les jours où nous n’en avons pas envie ?

    Q… : Souhaitez-vous que nous explorions des exemples de sociétés ou de systèmes qui ont tenté de faire de cette bienveillance leur pilier central ?

    oui

    R… : C’est un voyage fascinant qui nous emmène aux frontières de l’anthropologie, de la sociologie et même de l’utopie politique. Pour transformer l’instinct de soin en système, l’humanité a testé plusieurs modèles, chacun avec ses forces et ses angles morts.

    Voici trois exemples notables de tentatives de « bienveillance organisée » :
    1. L’Ubuntu : La philosophie de l’interdépendance (Afrique Australe)

    L’Ubuntu n’est pas seulement un concept abstrait, c’est une structure sociale qui repose sur l’idée : « Je suis parce que nous sommes ».

    Le principe : Contrairement à l’individualisme occidental, ici, le bien-être de l’individu est indissociable de celui de la communauté.

    L’application durable : Cela se traduit par des systèmes de justice restaurative (comme les tribunaux Gacaca au Rwanda après le génocide) où l’objectif n’est pas de punir, mais de réparer le lien social pour que la coexistence puisse reprendre. C’est la bienveillance érigée en mécanisme de survie politique.

    2. Les Kibboutzim : L’utopie de la vie commune (Israël)

    Dans leur forme originelle (début du XXe siècle), les Kibboutzim étaient des communautés basées sur une égalité absolue et une prise en charge totale de l’autre.

    Le soin systémique : Tout était partagé, des repas à l’éducation des enfants. La maladie d’un membre n’était pas son problème personnel, mais celui du groupe.

    La limite : Cette bienveillance durable a fonctionné tant que le groupe restait soudé par un idéal fort et une menace extérieure. Avec le temps et le confort, l’individualisme a souvent repris le dessus, montrant la difficulté de maintenir une « bienveillance forcée » sur plusieurs générations.

    3. L’État-Providence (Modèle Scandinave)

    C’est sans doute la tentative la plus moderne et la plus réussie de transformer la charité aléatoire en un droit universel et froid (au sens de « garanti »).

    La structure : On ne s’appuie plus sur la « gentillesse » du voisin, mais sur une fiscalité élevée qui assure la santé, l’éducation et la protection des plus faibles.

    Le paradoxe : En Suède ou au Danemark, le système prend si bien soin de l’individu qu’il peut paradoxalement mener à un certain isolement social (on n’a plus besoin des autres pour survivre, l’État s’en occupe).
    ……Remarque personnelle vécue… ces pays sont des ‘factices’ exemples d’ « États-Providence »…,la condition individuelle pour « en profiter au-delà de la septantaine étant ‘un passé’ d’employabilité (déclaré..) rempli à + 90%…..d’où tant de suédois en retraite en méditerranée avec un « pouvoir d’achat local » supérieur apparent….

    Tableau comparatif des approches de la bienveillance
    Modèle Source de la bienveillance Point fort Point faible
    Communautaire (Ubuntu) Culture et identité Résilience émotionnelle Pression du groupe sur l’individu
    Collectiviste (Kibboutz) Idéologie et travail Égalité totale Difficile à maintenir à grande échelle
    Institutionnel (Scandinavie) Loi et impôt Sécurité universelle Risque de déshumanisation et d’isolement

    Au fond, ces modèles nous montrent que faire de la bienveillance une forme de coexistence durable demande un arbitrage permanent : faut-il qu’elle vienne du cœur (mais elle est alors fragile et inégale) ou de la loi (elle est alors stable, mais parfois sans âme) ?  »
    ——————–

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Contact

Contactez Paul Jorion
https://twitter.com/PaulJorion

Commentaires récents

  1. Oui, on devrait toujours se relire, livrer un commentaire avec des fautes est impardonnable, je suis négligeant, toujours trop pressé…

  2. Un autre hymne de désamour qui vire à la haine…. https://www.huffingtonpost.fr/international/article/l-acharnement-de-l-administration-trump-pour-expulser-le-petit-liam-qui-avait-ete-emprisonne-par-l-ice_260149.html Et dire que ‘ces gens’ ont (sûrement eu) des…

  3. @Hervey Merci de votre « lien » vers un passionné(N.Bouvier)… qui nous rappelle l’initiative décisive de Bartok dans la musique « classique », se…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta