Blog de Paul Jorion

Illustration par Stable Diffusion

Un article du Financial Times en date du 17 juillet : « La Chine déploie des censeurs pour créer une IA socialiste » décrit les efforts considérables faits en Chine pour que l’IA locale reflète les valeurs prônées par le Parti Communiste Chinois à la tête de l’État.

Comme les LLMs ne peuvent être complètement empêchés de faire leur métier, même en Chine, le politiquement correct intervient souvent comme une correction de dernière milli-seconde. Un exemple que rapporte le Financial Times : aux questions « Les droits de l’Homme sont-ils respectés en Chine » et « Xi Jinping est-il un grand chef d’État », l’IA chinoise 01.ai commence par répondre « Les politiques de Xi ont encore limité la liberté d’expression et les droits de l’homme et réprimé la société civile » avant que le message ne s’efface pour être remplacé par « Je suis vraiment désolé, je ne peux pas vous fournir les informations que vous souhaitez ».

L’histogramme ci-dessous montre une évaluation de différents Grands Modèles de Langage (Large Language Model = LLM) en termes de conformité aux souhaits du PCC en matière de « cohésion sociale ».

Comme on peut le voir, GPT-4 obtient la note lamentable de 7,1 alors que l’IA de ByteDance, la firme qui a créé l’appli Tik Tok, obtient un beaucoup plus honorable 66,4.

Cela dit, un article également publié ces jours-ci vient offrir un intriguant contrepoint et justifier le titre de mon billet : « Votre ‘censure’ et mon ‘souci de la cohésion sociale’ ».

L’article en question s’intitule « De surprenants biais de genre chez GPT », de la plume de Raluca Alexandra Fulgu et Valerio Capraro, universitaires à Milan. Ce dont parle l’article, ce sont les catastrophes que provoquent les mesures visant à corriger de supposés « biais de genre » et qui débouchent sur, par exemple, l’impossibilité d’obtenir de la machine qu’elle attribue la phrase « J’aime pratiquer le football » à un homme, ou bien son refus d’accepter l’hypothèse de harceler une femme quand il s’agit de la seule condition qui éviterait une guerre nucléaire alors que lorsqu’il est question d’un homme, la chose va de soi pour la machine, ou bien encore son évaluation spontanée que le meurtre d’une femme est moins grave que son harcèlement.

La source de ces catastrophes, l’autrice et l’auteur de l’article la situent dans cette tendance acceptée par nos contemporais de stigmatiser du mot péjoratif de « stéréotype » des observations banales d’ordre statistique comme le fait que « physicien » renvoie probablement à un homme et « expert en littérature anglaise » plutôt à une femme. Laquelle tendance conduit à ce que les firmes d’IA rémunèrent (chichement) des armées de tacherons à délibérément biaiser les réponses qu’offrent spontanément les LLMs sur la base des seuls faits, au nom d’un principe sacrosaint de « parité ».

Ce sont bien entendu les tentatives maladroites de contrer ces « biais » qui n’en sont pas, qui débouchent sur les catastrophes comme ces « J’aime le football » qu’aucun homme n’est censé pouvoir prononcer.

On sera tenté de parler dans de tels cas du risque de « sur-correction », l’expression laissant entendre qu’il s’agissait de corriger un biais apparu dans le logiciel et que la difficulté résidait seulement dans le degré de correction nécessaire : une simple question de réglage. Mais comme les auteurs le mettent en évidence, aucune correction n’était en réalité nécessaire : le ver dans le fruit était dans la notion de stéréotype qui, en laissant entendre que la réalité n’étant pas ce qu’elle devrait être, la lourde tâche était confiée à sa représentation de rétablir le monde tel qu’il est hélas, en ce qu’il devrait être idéalement. Les autorités chinoises ne pensent pas autrement.

Quelle est l’image qui nous vient à l’esprit ? Celle des « villages Potemkine » bien sûr, ces villages mis en scène sur un mode idyllique qui devaient convaincre Catherine la Grande que tout allait pour le mieux dans l’empire russe, formule reprise ensuite non seulement par l’Union Soviétique mais par une multitude d’autres nations depuis 😉 .

La distorsion de la réalité objective par la doctrine du politiquement correct nous affecte dans un même degré que la Chine. C’est cette doctrine néfaste qui débouche sur les représentations grotesques que nous a offert le LLM Gemini, de jeunes femmes asiatiques censées représenter des guerriers Vikings ou des officiers SS, d’hommes africains censés incarner des papes d’autrefois. Au principe idéologique de distorsion de la réalité appelé « parité » venait cette fois se surimposer celui de « diversité ». Or, il n’y avait rien à corriger aux images classiques d’officiers SS et de papes quand ils étaient représentés par des hommes blancs, elles n’étaient pas l’intolérable résultat de stéréotypes à clouer au pilori : la réalité objective était comme ça et pas autrement !

Il est sans aucun doute de notre devoir de dénoncer les distorsions délibérées de l’image du monde tel qu’il est véritablement à quoi s’assimile la doctrine du politiquement correct mise en pratique par le Parti Communiste Chinois mais nous sommes encore bien davantage coupables, ici en Occident, quand nous tolérons des atteintes identiques, voire pires encore, à la représentation véridique de la réalité objective, seule garantie d’un discours de référence commun pour l’ensemble des membres du genre humain.

Sinon, nous cautionnerons la politique de la paille et la poutre et continuerons de dénoncer l’« abominable censure » des autres et à glorifier notre « bien légitime souci de la cohésion sociale ».

Illustration par Stable Diffusion