L’Intelligence Artificielle et le consommateur
Un monsieur ou une dame demande un prêt pour acheter une maison. La banque est d’accord sur le principe mais n’est disposée qu’à lui accorder les ⅔ de la somme demandée. Le consommateur est furieux. Il a consulté toute la documentation : il a bien droit à la somme qu’il ou elle réclame. Il téléphone à la banque où une personne répond : « Je vous rappelle avant la fin de la matinée ». La personne en question consulte le service en charge du dossier où quelqu’un lui dit : « Effectivement, mais il a aussi un prêt sur une grosse cylindrée, et il règle par mensualités des travaux importants sur son logement actuel ».
Un être humain avait donc fait un raisonnement et c’est là que l’explication se trouvait. Débutait alors un exercice de « diplomatie » : comment la banque allait-elle présenter les choses à son client, tout dire ou seulement une partie ?
Cela, c’était il y a vingt ans. Aujourd’hui le montant qui sera attribué est calculé par une Intelligence Artificielle qui a appris quelles décisions prendre à partir de données en quantité astronomique (ce qu’on appelle le Big Data), portant sur des personnes ayant remboursé leur emprunt et d’autres ayant échoué, avec quel coût pour la banque. Au coeur de la prise de décision se trouve un réseau de neurones artificiels dont le « savoir » est de s’être corrigé durant son apprentissage chaque fois qu’une mauvaise décision était prise. Si l’on « soulève le capot » pour regarder à quoi ressemble ce « savoir », c’est un réseau complexe où la seule chose que l’on puisse lire ce sont des coefficients comme 0,73 ou 0,46 attachés à ses différents arcs. Autrement dit, il n’y a rien à voir parce que ce qui permet au réseau de prendre ses bonnes décisions (il a été testé sur des milliers de cas) est « distribué », c’est-à-dire réparti, dans l’ensemble du réseau. Si l’on vous dit : « Ce que vous allez entendre, est-ce du Mozart ou de Beethoven ? » et que l’on scanne votre cerveau à ce moment là, on ne verra pas un seul neurone activé : le neurone du « Mozart OU Beethoven », mais une multitude de neurones qui auront pris la décision collectivement : tous ensemble. L’ Intelligence Artificielle fondée sur un réseau neuronal, c’est exactement la même chose.
Que fait-on alors aujourd’hui quand le monsieur ou la dame furieux appellent la banque ? Il n’y a pas d’expert en IA s’apprêtant à soulever le capot et essayant de deviner ce que veulent dire les 0,73 ou 0,46 qu’on peut voir. Aujourd’hui, comme aucun être humain ne connaît le « raisonnement » qui a été suivi par la machine parce que c’est un processus hypercomplexe de rassemblement d’informations suivi d’un tri débouchant sur une décision, l’explication à fournir au client est réduite à un exercice de « communication » ou de « relation publique ».
On n’explique plus, parce que si l’on connaît parfaitement le mécanisme à l’oeuvre, la prise de décision est opaque. Alors, deux cas. Si la loi n’oblige pas à révéler que la décision est prise par une IA, il reste possible de faire comme si tout se passait comme avant : « Un expert a soigneusement examiné votre cas ! ». Si la loi oblige à ce qu’on mentionne l’IA, on rassure : on parle alors en termes de « traçabilité » et de « transparence ». On ne rapporte plus un raisonnement mais que le processus est parfaitement contrôlé, que les données utilisées sont irréprochables, que tout a été enregistré pour une vérification éventuelle. On s’abstient de dire au consommateur : « Le robot a pris le pouvoir mais c’est normal parce qu’il est beaucoup plus fort que nous : faisons lui confiance ! ». Même si c’est la vérité. Mais cela ferait très mauvaise impression sur le client.
Répondre à Hervey Annuler la réponse