L’indocilité gênante de l’Intelligence Artificielle
En tant qu’expert d’un comité d’éthique en Intelligence Artificielle (AI4People), je suis souvent interrogé sur la question du biais des algorithmes et comment la traiter : l’Intelligence Artificielle a des préjugés, comment s’en protéger et, pourquoi pas, résoudre la question une fois pour toutes ?
Le défi à relever est souvent présenté ainsi : « Un jour des utilisateurs décidèrent de tourner en bourrique une Intelligence Artificielle (IA) : ils l’encouragèrent en la complimentant quand elle donnait des réponses à connotation raciste, et voilà qu’elle devint bientôt raciste, rendant le système inutilisable ».
Que répondre ? Tout d’abord que l’illustration ne vaut que pour un cas très spécifique d’IA : un logiciel interactif où la machine se constitue un savoir à partir d’une seule source d’informations : celles que lui procurent ses interlocuteurs humains. Dans ce cas là, oui : si elle n’échange qu’avec des racistes et qu’elle a été programmée pour satisfaire les besoins de ses utilisateurs, elle deviendra en effet raciste.
Mais quand il est question du biais de la part d’un algorithme, ce n’est pas de cela qu’il s’agit, et la réfutation par l’exemple de l’IA raciste rate sa cible. Le cas ordinaire n’est pas celui d’une IA obtenant toute son information de quelques utilisateurs seulement mais la trouvant dans une base de données contenant des informations en quantités astronomiques, captées grâce à une observation constante du monde dans son fonctionnement ordinaire, ce qu’on appelle désormais le Big Data.
Ce qui signifie que l’IA dont on parle en général se constitue une représentation du monde à partir de données produites (sauf sabotage) à l’abri de toute intervention humaine. Utilisant des méthodes avancées de statistiques comme la régression logistique ou l’analyse en composantes principales, l’IA découvre alors des formes (corrélations ou hypothèses de relations causales), qui lui permettent de constituer un modèle de la réalité que ces données reflètent.
C’est là que les choses se compliquent parce que certains groupes d’utilisateurs se plaindront d’un « biais » intolérable qu’ils lisent dans ce que l’algorithme aura découvert grâce à son système d’apprentissage et d’analyse. Une IA encourra, par exemple, les foudres d’un groupe féministe parce qu’elle aura conclu que, oui, il existe de réelles différences entre les hommes et les femmes ; celles d’un groupe post-humaniste, parce qu’elle aura décelé des différences objectives entre les êtres humains et les autres animaux ; celles du milieu syndical parce qu’elle aura mis en évidence que les travailleurs ont parfois tort et les patrons, parfois raison ; et celles du monde des affaires parce que les données auront fait apparaître que ce ne sont ni la concurrence, ni la compétition, ni la compétitivité, qui ont permis le progrès du genre humain, mais au contraire, la bonne volonté de ses membres, leur entraide et leur solidarité.
En résumé, l’Intelligence Artificielle est à même de tirer des conclusions précieuses à partir de faits émanant du monde tel qu’il est, mais elle est incapable de confirmer les préjugés de tel ou tel groupe forgés ceux-ci sur telle ou telle définition du « politiquement correct ».
Ferons-nous confiance à l’IA ou préférerons-nous faire prévaloir nos anciennes querelles de chapelles ? Tel est le défi pour l’avenir.
Souvenons-nous de la manière dont l’IA nous a battus à plat de couture dans des jeux où nous imaginions être d’invulnérables champions, comme les échecs, le jeu de Go, ou divers jeux numériques. Souvenons-nous qu’un algorithme a découvert qu’il était payant aux échecs de placer « stupidement » la reine dans un des coins de l’échiquier. Souvenons-nous qu’au Go certaines ouvertures de l’IA nous apparaissaient grotesques, avant que nous ne nous rendions compte que grâce à elles, elle nous ridiculiserait à jamais.
Dans le plupart des usages futurs de l’Intelligence Artificielle, en matière de prévision et de planification, l’algorithme ne pourra pas, comme dans un jeu, nous convaincre de notre infériorité par rapport à lui par la honte de nos défaites, il faudra que nous lui fassions confiance – notre avenir en dépend – et que nous mettions entre parenthèses le « politiquement correct » des uns et des autres, l’expression rassemblant aujourd’hui, la somme de nos préjugés.
Laisser un commentaire