L\u2019indocilit\u00e9 g\u00eanante de l\u2019Intelligence Artificielle<\/b><\/a><\/span><\/p>\nEn tant qu\u2019expert d\u2019un comit\u00e9 d\u2019\u00e9thique en Intelligence Artificielle (AI4People), je suis souvent interrog\u00e9 sur la question du biais des algorithmes et comment la traiter : l\u2019Intelligence Artificielle a des pr\u00e9jug\u00e9s, comment s\u2019en prot\u00e9ger et, pourquoi pas, r\u00e9soudre la question une fois pour toutes ?<\/p>\n
<\/p>\n
Le d\u00e9fi \u00e0 relever est souvent pr\u00e9sent\u00e9 ainsi : \u00ab\u00a0Un jour des utilisateurs d\u00e9cid\u00e8rent de tourner en bourrique une Intelligence Artificielle (IA) : ils l\u2019encourag\u00e8rent en la complimentant quand elle donnait des r\u00e9ponses \u00e0 connotation raciste, et voil\u00e0 qu\u2019elle devint bient\u00f4t raciste, rendant le syst\u00e8me inutilisable\u00a0\u00bb.<\/p>\n
Que r\u00e9pondre ? Tout d\u2019abord que l\u2019illustration ne vaut que pour un cas tr\u00e8s sp\u00e9cifique d\u2019IA : un logiciel interactif o\u00f9 la machine se constitue un savoir \u00e0 partir d\u2019une seule source d\u2019informations : celles que lui procurent ses interlocuteurs humains. Dans ce cas l\u00e0, oui : si elle n\u2019\u00e9change qu\u2019avec des racistes et qu\u2019elle a \u00e9t\u00e9 programm\u00e9e pour satisfaire les besoins de ses utilisateurs, elle deviendra en effet raciste.<\/p>\n
Mais quand il est question du biais de la part d\u2019un algorithme, ce n\u2019est pas de cela qu\u2019il s\u2019agit, et la r\u00e9futation par l\u2019exemple de l\u2019IA raciste rate sa cible. Le cas ordinaire n\u2019est pas celui d\u2019une IA obtenant toute son information de quelques utilisateurs seulement mais la trouvant dans une base de donn\u00e9es contenant des informations en quantit\u00e9s astronomiques, capt\u00e9es gr\u00e2ce \u00e0 une observation constante du monde dans son fonctionnement ordinaire, ce qu\u2019on appelle d\u00e9sormais le Big Data.<\/p>\n
Ce qui signifie que l\u2019IA dont on parle en g\u00e9n\u00e9ral se constitue une repr\u00e9sentation du monde \u00e0 partir de donn\u00e9es produites (sauf sabotage) \u00e0 l\u2019abri de toute intervention humaine. Utilisant des m\u00e9thodes avanc\u00e9es de statistiques comme la r\u00e9gression logistique ou l\u2019analyse en composantes principales, l\u2019IA d\u00e9couvre alors des formes (corr\u00e9lations ou hypoth\u00e8ses de relations causales), qui lui permettent de constituer un mod\u00e8le de la r\u00e9alit\u00e9 que ces donn\u00e9es refl\u00e8tent.<\/p>\n
C\u2019est l\u00e0 que les choses se compliquent parce que certains groupes d\u2019utilisateurs se plaindront d\u2019un \u00ab\u00a0biais\u00a0\u00bb intol\u00e9rable qu\u2019ils lisent dans ce que l\u2019algorithme aura d\u00e9couvert gr\u00e2ce \u00e0 son syst\u00e8me d\u2019apprentissage et d\u2019analyse. Une IA encourra, par exemple, les foudres d\u2019un groupe f\u00e9ministe parce qu\u2019elle aura conclu que, oui, il existe de r\u00e9elles diff\u00e9rences entre les hommes et les femmes ; celles d\u2019un groupe post-humaniste, parce qu\u2019elle aura d\u00e9cel\u00e9 des diff\u00e9rences objectives entre les \u00eatres humains et les autres animaux ; celles du milieu syndical parce qu\u2019elle aura mis en \u00e9vidence que les travailleurs ont parfois tort et les patrons, parfois raison ; et celles du monde des affaires parce que les donn\u00e9es auront fait appara\u00eetre que ce ne sont ni la concurrence, ni la comp\u00e9tition, ni la comp\u00e9titivit\u00e9, qui ont permis le progr\u00e8s du genre humain, mais au contraire, la bonne volont\u00e9 de ses membres, leur entraide et leur solidarit\u00e9.<\/p>\n
En r\u00e9sum\u00e9, l\u2019Intelligence Artificielle est \u00e0 m\u00eame de tirer des conclusions pr\u00e9cieuses \u00e0 partir de faits \u00e9manant du monde tel qu\u2019il est, mais elle est incapable de confirmer les pr\u00e9jug\u00e9s de tel ou tel groupe forg\u00e9s ceux-ci sur telle ou telle d\u00e9finition du \u00ab\u00a0politiquement correct\u00a0\u00bb.<\/p>\n
Ferons-nous confiance \u00e0 l\u2019IA ou pr\u00e9f\u00e9rerons-nous faire pr\u00e9valoir nos anciennes querelles de chapelles ? Tel est le d\u00e9fi pour l\u2019avenir.<\/p>\n
Souvenons-nous de la mani\u00e8re dont l\u2019IA nous a battus \u00e0 plat de couture dans des jeux o\u00f9 nous imaginions \u00eatre d\u2019invuln\u00e9rables champions, comme les \u00e9checs, le jeu de Go, ou divers jeux num\u00e9riques. Souvenons-nous qu\u2019un algorithme a d\u00e9couvert qu\u2019il \u00e9tait payant aux \u00e9checs de placer \u00ab\u00a0stupidement\u00a0\u00bb la reine dans un des coins de l\u2019\u00e9chiquier. Souvenons-nous qu\u2019au Go certaines ouvertures de l\u2019IA nous apparaissaient grotesques, avant que nous ne nous rendions compte que gr\u00e2ce \u00e0 elles, elle nous ridiculiserait \u00e0 jamais.<\/p>\n
Dans le plupart des usages futurs de l\u2019Intelligence Artificielle, en mati\u00e8re de pr\u00e9vision et de planification, l\u2019algorithme ne pourra pas, comme dans un jeu, nous convaincre de notre inf\u00e9riorit\u00e9 par rapport \u00e0 lui par la honte de nos d\u00e9faites, il faudra que nous lui fassions confiance – notre avenir en d\u00e9pend – et que nous mettions entre parenth\u00e8ses le \u00ab\u00a0politiquement correct\u00a0\u00bb des uns et des autres, l\u2019expression rassemblant aujourd\u2019hui, la somme de nos pr\u00e9jug\u00e9s. \u00a0 \u00a0<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"L\u2019indocilit\u00e9 g\u00eanante de l\u2019Intelligence Artificielle<\/b><\/a><\/span><\/p>\nEn tant qu\u2019expert d\u2019un comit\u00e9 d\u2019\u00e9thique en Intelligence Artificielle (AI4People), je suis souvent interrog\u00e9 sur la question du biais des algorithmes et comment la traiter : l\u2019Intelligence Artificielle a des pr\u00e9jug\u00e9s, comment s\u2019en prot\u00e9ger et, pourquoi pas, r\u00e9soudre la question une fois pour […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[7450],"class_list":["post-122155","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-biais-algorithmique"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/122155","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=122155"}],"version-history":[{"count":3,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/122155\/revisions"}],"predecessor-version":[{"id":122456,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/122155\/revisions\/122456"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=122155"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=122155"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=122155"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}