Blog de Paul Jorion

Illustration par ChatGPT & Jérôme Bosch

Ce qui émerge

L’émergence est l’apparition, à une interface, de propriétés qu’aucun des composants d’un système couplé ne possède à lui seul. Cette définition risque d’être mal interprétée comme désignant quelque chose d’exotique : un surplus mystérieux, un résidu de complexité. Or, ce n’est pas exotique : c’est structurel. Lorsque la cohérence du couplage franchit un certain seuil, le système couplé peut faire et savoir des choses qui ne sont pas la somme de ce que ses composants peuvent faire et savoir. L’unité de cognition change. C’est là que réside l’astuce.

À l’échelle sociale, le changement est le suivant : l’unité de cognition passe de l’individu, en passant par l’institution, au réseau couplé humain-IA. Ce que le réseau sait n’est pas ce que sait un individu quelconque qui en fait partie, ni une institution quelconque qui en fait partie, ni ce que savent les systèmes d’IA qui en font partie. C’est ce qui émerge de leur interaction structurée. Ce n’est pas une amplification de l’intelligence : c’est une transition de phase.

Cette distinction est importante car la plupart de ce qui est actuellement célébré comme un progrès de l’IA n’est pas une émergence au sens strict, mais un gain d’efficacité. Un radiologue qui lit les scans plus rapidement et avec plus de précision grâce à l’aide de l’IA est un radiologue plus compétent. L’unité de cognition n’a pas changé : elle reste le radiologue, désormais mieux équipé. Une chaîne d’approvisionnement qui optimise ses itinéraires en temps réel est une chaîne d’approvisionnement plus rapide. Le lieu de la décision n’a pas changé. Ce sont là de réels gains, mais ce n’est pas de l’émergence.

L’émergence commence lorsque le couplage est suffisamment dense, cohérent et rapide pour que le processus lui-même – et pas seulement le résultat – change de nature. La Corée la génère dans trois domaines distincts mais qui se recoupent.

Le premier domaine est l’environnement physique.

Dans chaque salle de classe des écoles coréennes, des capteurs de qualité de l’air connectés à l’IA et reliés au système CVC du bâtiment purifient l’air avant que la pollution extérieure n’atteigne son pic, en s’appuyant sur des modèles prédictifs à l’échelle de la ville plutôt que sur des mesures locales. Le bâtiment ne réagit pas à la qualité de l’air : il l’anticipe. L’école n’est plus un ensemble de salles dans lesquelles les enfants respirent : c’est un nœud d’un réseau national de cognition environnementale dont l’intelligence distribuée dépasse la somme de ses capteurs. Aucun capteur individuel ne sait ce que le système sait. Aucune école individuelle ne pourrait agir comme le système agit. Ce qui émerge au niveau du réseau, c’est la prévoyance environnementale – une forme de conscience collective qui n’appartient à aucun composant mais qui naît structurellement de leur couplage. Il s’agit là de l’émergence sous sa forme la moins spectaculaire mais la plus éclairante : une propriété présente au niveau du réseau, absente au niveau des composants, générée par le seul couplage structuré.

Le second domaine est l’identité transactionnelle.

Lorsque l’algorithme de KakaoBank synthétise la solvabilité d’une personne à partir de la totalité de son comportement numérique – non pas en complément des dossiers financiers, mais comme base épistémique principale –, quelque chose de nouveau apparaît à l’interface entre l’individu et l’institution. L’identité économique de la personne n’est plus un document qu’elle détient et présente : c’est une propriété émergente continue de sa présence couplée au sein du réseau. La travailleuse indépendante qui obtient un prêt hypothécaire sur la base de ses données comportementales n’est pas évaluée par une version plus rapide de l’ancien processus. Elle est connue par un type d’entité différent – une entité qui n’existait pas avant le couplage, qui ne peut être réduite ni à la banque ni à elle-même, et qui génère des connaissances à son sujet que ni elle ni la banque ne pourraient produire seules. L’unité de cognition économique a changé. Le lieu du crédit n’est plus l’institution qui évalue l’individu : c’est le réseau couplé qui génère une propriété de leur interaction.

Le troisième domaine est le plus déterminant : la cognition émotionnelle et sociale.

CareCall ne se contente pas de fournir un service aux personnes âgées isolées. À l’échelle de la population – des milliers de citoyens âgés dans plusieurs municipalités, chaque conversation générant des données sur les schémas de solitude, les trajectoires de dépression, la dégradation des réseaux sociaux –, il produit une connaissance collective sur la manière dont une société vieillit émotionnellement, qu’aucun travailleur social individuel, aucun ministère, aucune agrégation d’observations cliniques ne pourrait générer. Le système connaît des aspects de la texture émotionnelle du déclin démographique coréen qu’aucun humain ne connaît, et ne pourrait connaître, car ce savoir est irréductiblement réparti à travers des millions d’interactions. Il s’agit là d’une émergence à l’échelle sociale dans sa forme la plus aiguë : une capacité cognitive collective, née du couplage de la vie émotionnelle humaine avec des systèmes d’IA, qui produit des connaissances et des actions à un niveau qui n’existait pas auparavant.

(à suivre…)