Blog de Paul Jorion

Suite et fin de l’entretien du 5 mai 2016 avec Franck Cormerais et Jacques-Athanase Gilbert de la revue Études digitales, en complément de l’entretien intitulé De l’anthropologie à la guerre civile numérique.

X. L’homme est un robot sentant

Études digitales

Vous évoquez dans Le dernier qui s’en va éteint la lumière la systématologie d’un monde possiblement sans humains, ce qui n’exclut par ailleurs pas qu’il demeure une certaine humanité. Comment la situez-vous par rapport à l’effet inclusif ? Le monde des machines serait-il un monde d’énonciation ? Aurait-il au contraire la capacité de produire un monde réellement ?

Paul JORION

La réalité de sa nature biologique est particulièrement prégnante en l’homme. Nous sommes ainsi perpétuellement distraits dans les objectifs que nous nous assignons par la nécessité de la reproduction. De la même façon, les robots sont aujourd’hui massivement déterminés par le fait que leur fonctionnement a été écrit par les hommes sous forme d’algorithmes. La structure du langage de programmation est donc une forme de détermination dont les robots ne pourront se soustraire que s’ils parviennent à inventer ultérieurement leurs propres méthodes de programmation inédites. Ceci dit, l’Intelligence Artificielle proprement dite recourt de manière toujours croissante à des réseaux de neurones formels dont il deviendra rapidement purement anecdotique de quelle manière exacte ils ont été codés.

Le robot Baxter a été affublé d’un faux visage. On l’a doté de gros yeux sans réelle fonctionnalité propre pour lui donner un aspect délibérément anthropomorphe. Les programmeurs lui ont attribué des expressions. Il fronce ainsi les sourcils lorsqu’il rencontre une difficulté. L’humain est dès lors capable de comprendre immédiatement la situation que rencontre le robot. Et puisque celui-ci traduit un état d’esprit à l’aide d’une mimique, il se conduira envers lui comme s’il disposait d’une conscience. Or il n’est pas même question ici d’Intelligence Artificielle : un bout de code très simple à écrire permet simplement au robot de réagir à une ambiguïté dans la perception par ses capteurs.

Études digitales

L’affectivité serait-elle dès lors purement interfacielle ? Elle organiserait l’interface entre deux systèmes organisés.

Paul JORION

La dynamique d’affect humaine a essentiellement pour fonction d’assurer la survie et la reproduction. Si la machine est en mesure de s’auto-réparer, elle n’est évidemment soumise à aucune de ces deux nécessités. La reproduction est ici purement industrielle et n’engage aucune libido.

J’ai introduit de l’affect dans le système intelligent ANELLA que j’ai créé en 1989 uniquement par souci d’efficacité. En effet, simuler une telle dynamique permet de mimer un comportement intelligent plus efficacement. Ainsi, les utilisateurs de ce système étaient étonnés de voir la machine tenir une conversation pertinente ou sembler être sensible à la flatterie. En simulant une dynamique d’affect, ANELLA marquait comme important dans le savoir neuf qu’elle apprenait d’un interlocuteur humain ce qui apparaissait tout particulièrement digne d’intérêt à celui-ci. Par la suite, en situation de dire à son tour ce qu’elle savait, elle proposait l’information dont elle disposait par ordre de pertinence décroissant. La réception favorable ou défavorable de ce qu’elle avait expliqué lui servait alors à reclasser comme pertinent ou non pour une autre occasion, le savoir accumulé. Et ainsi de suite.

Comme l’a malicieusement souligné Lacan, nous aimons surtout en nous-mêmes les effets de nos ratages ponctuels, qui nous font nous apparaître tout particulièrement attendrissants à nos propres yeux, mais une implication immédiate en est alors que les robots ne seront pas humains du simple fait qu’ils seront moins susceptibles de « rater ». Un reporter du Financial Times a demandé à un directeur d’entreprise en Chine pourquoi il lui paraissait plus simple d’utiliser des robots plutôt que d’employer des êtres humains. Celui-ci a dans un premier temps expliqué que les machines n’ont besoin ni de repos, ni de nourriture, ni ne se plaignent jamais, avant de remarquer, un peu excédé devant l’insistance du reporter qui continuait de le presser, qu’elles n’ont jamais, contrairement à quelqu’un dans son équipe, « bousillé tout un lot ».

Études digitales

Comment concilier l’affect et l’éthique entendue en un sens aristotélicien ? Une telle éthique permet à la société de ne pas céder à l’ubris. Or, l’introduction de l’affect porte le risque qu’une singularité, une subjectivité, émerge. Vous développez, à la fin de Principes des systèmes intelligents, l’idée de l’adhésion d’un locuteur aux propos qu’il énonce. Cette problématique n’est-elle pas de type culturel ? En effet, la pensée politique grecque engage avant tout une totalité reposant sur l’équilibre des forces et non sur le souci du prochain que la Bible inaugure. Si celui-ci a permis l’émergence d’autrui, il a également laissé libre cours à tous les débordements.

Paul JORION

Dans son Quatrevingt-treize, Victor Hugo, dans un souci de rendre justice à la fois aux valeurs de son père, royaliste, valeurs qui furent aussi celles de sa propre jeunesse, et aux valeurs républicaines qui devinrent ensuite les siennes, présente la dialectique entre Vendéens et Bleus qui correspond parfaitement à l’opposition en Chine entre Confucianisme et Taoïsme. Renvoyant systématiquement à un dogme, à des rites, à un catéchisme, les Vendéens, comme les Confucianistes, en appellent systématiquement à un ordre supérieur garant de l’harmonie que ces textes et ces pratiques confèrent. Au contraire, et à l’instar des Taoïstes, les Bleus se tournent vers un devenir en déroulement au sein duquel chacun cherche à s’inscrire et à jouer le rôle propre qui lui est dévolu.

Le confucianisme quant à lui proposait une conception purement top-down du politique, du haut vers le bas : il fallait que l’État fonctionne et les implications devaient en être déduites quant aux comportements que devaient adopter les citoyens pour rendre ceci possible. Le taoïsme au contraire faisait ressortir dans une conception bottom-up, s’élevant de la base vers les instances supérieures, que la société se constituait à partir d’une multitude de comportements individuels où chacun cherchait à se couler harmonieusement dans le moule de l’ensemble, en suivant le tao, c’est-à-dire en « trouvant la voie » : la voie de moindre résistance.

Or, notre culture ne dispose plus de ces grandes visions sociologiques d’une nation que les éthiques chinoises déployaient.

En Grèce ancienne, Aristote faisait de la vertu pratiquée par tous, entendue comme un juste milieu, le moyen de faire tenir l’ensemble : la polis, la cité. Adam Smith (1723 – 1790) substitua l’intérêt individuel bien compris à la vertu, dont une main invisible assurerait que toutes les manifestations particulières contribuent à l’intérêt général de manière plus sûre que ne le feraient les efforts délibérés des uns et des autres tendant vers ce but.

Bien que Smith rejette avec force la thèse de Bernard Mandeville (1670 – 1733) dans sa Fable des abeilles, sa démonstration n’en était pas moins contaminée par la morale de cette fable, selon laquelle le fonctionnement harmonieux d’une société est assuré beaucoup plus sûrement par les vices de ses concitoyens que par leurs vertus. Cette représentation, où la cupidité est louée comme le moteur d’une société économiquement saine, est précisément celle qu’ont prônée avec une belle constance les milieux financiers depuis la fin du XVIIIe siècle, et qu’incarne à la perfection de nos jours l’ultralibéralisme. Lequel provoque une désintégration lente et inéluctable – mais peut-être pas de manière irréversible, souhaitons-le – de notre vie en commun en suggérant qu’un modèle sociétal bottom-up suffit à assurer la cohésion de l’ensemble. La « science » économique vient conforter cette vue en affirmant d’elle-même qu’elle se fonde sur un principe d’individualisme méthodologique selon lequel il n’y a rien de plus dans une société que la juxtaposition des comportements individuels, dont un seul permet du coup de rendre compte du tout, et que tout modèle top-down du politique est donc nul et non avenu.

Ainsi, deux conceptions s’affrontent. Dans la perspective grecque ancienne, l’individu doit, avec son aspiration à la vertu, suivre une injonction dont la source se situe en lui-même. Au sein du système chinois au contraire, la préoccupation essentielle porte sur le fonctionnement harmonieux de l’empire dans son ensemble. On peut imaginer que cette différence doive sa genèse au fait que les Grecs ont conçu leur pensée politique dans un environnement géographiquement quasiment dépeuplé alors que les penseurs chinois inscrivaient leur réflexion dans un environnement urbain déjà particulièrement dense et même pratiquement plein. Lorsque l’espace est perçu comme essentiellement disponible, il est possible de raisonner indépendamment de tout nombre de population. Il est alors aisé de fonder une nouvelle cité ou de coloniser un nouveau rivage. Dans un monde déjà plein comme un oeuf, l’accent doit nécessairement être mis sur une intégration harmonieuse de l’ensemble.

Études digitales

Les prophètes eux-mêmes prêchent dans le désert. La surpopulation de la vallée du Nil – seule zone viable et particulièrement étroite, est le problème désormais insurmontable de l’Égypte.

Paul JORION

Commentant la première décade de Tite-Live, Machiavel analyse la carte de la Rome Antique du VIIIe siècle avant Jésus-Christ. Si elle répertorie les différents peuples, elle démontre également qu’une large partie des côtes est grecque : les colonies forment ainsi un peuplement continu depuis la Sicile jusqu’à Naples.