L\u2019Intelligence Artificielle et le consommateur<\/a><\/strong><\/p>\r\n\r\n\r\n\r\nUn monsieur ou une dame demande un pr\u00eat pour acheter une maison. La banque est d’accord sur le principe mais n\u2019est dispos\u00e9e qu\u2019\u00e0 lui accorder les \u2154 de la somme demand\u00e9e. Le consommateur est furieux. Il a consult\u00e9 toute la documentation : il a bien droit \u00e0 la somme qu\u2019il ou elle r\u00e9clame. Il t\u00e9l\u00e9phone \u00e0 la banque o\u00f9 une personne r\u00e9pond : \u00ab Je vous rappelle avant la fin de la matin\u00e9e \u00bb. La personne en question consulte le service en charge du dossier o\u00f9 quelqu’un lui dit : \u00ab Effectivement, mais il a aussi un pr\u00eat sur une grosse cylindr\u00e9e, et il r\u00e8gle par mensualit\u00e9s des travaux importants sur son logement actuel \u00bb. <\/p>\r\n\r\n\r\n\r\n\r\n\r\n
Un \u00eatre humain avait donc fait un raisonnement et c\u2019est l\u00e0 que l\u2019explication se trouvait. D\u00e9butait alors un exercice de \u00ab diplomatie \u00bb : comment la banque allait-elle pr\u00e9senter les choses \u00e0 son client, tout dire ou seulement une partie ?<\/p>\r\n\r\n\r\n\r\n
Cela, c’\u00e9tait il y a vingt ans. Aujourd’hui le montant qui sera attribu\u00e9 est calcul\u00e9 par une Intelligence Artificielle qui a appris quelles d\u00e9cisions prendre \u00e0 partir de donn\u00e9es en quantit\u00e9 astronomique (ce qu’on appelle le Big Data), portant sur des personnes ayant rembours\u00e9 leur emprunt et d’autres ayant \u00e9chou\u00e9, avec quel co\u00fbt pour la banque. Au coeur de la prise de d\u00e9cision se trouve un r\u00e9seau de neurones artificiels dont le \u00ab savoir \u00bb est de s\u2019\u00eatre corrig\u00e9 durant son apprentissage chaque fois qu\u2019une mauvaise d\u00e9cision \u00e9tait prise. Si l\u2019on \u00ab soul\u00e8ve le capot \u00bb pour regarder \u00e0 quoi ressemble ce \u00ab savoir \u00bb, c\u2019est un r\u00e9seau complexe o\u00f9 la seule chose que l\u2019on puisse lire ce sont des coefficients comme 0,73 ou 0,46 attach\u00e9s \u00e0 ses diff\u00e9rents arcs. Autrement dit, il n\u2019y a rien \u00e0 voir parce que ce qui permet au r\u00e9seau de prendre ses bonnes d\u00e9cisions (il a \u00e9t\u00e9 test\u00e9 sur des milliers de cas) est \u00ab distribu\u00e9 \u00bb, c\u2019est-\u00e0-dire r\u00e9parti, dans l\u2019ensemble du r\u00e9seau. Si l\u2019on vous dit : \u00ab Ce que vous allez entendre, est-ce du Mozart ou de Beethoven ? \u00bb et que l\u2019on scanne votre cerveau \u00e0 ce moment l\u00e0, on ne verra pas un seul neurone activ\u00e9 : le neurone du \u00ab Mozart OU Beethoven \u00bb, mais une multitude de neurones qui auront pris la d\u00e9cision collectivement : tous ensemble. L\u2019 Intelligence Artificielle fond\u00e9e sur un r\u00e9seau neuronal, c\u2019est exactement la m\u00eame chose.<\/p>\r\n\r\n\r\n\r\n
Que fait-on alors aujourd\u2019hui quand le monsieur ou la dame furieux appellent la banque ? Il n\u2019y a pas d\u2019expert en IA s\u2019appr\u00eatant \u00e0 soulever le capot et essayant de deviner ce que veulent dire les 0,73 ou 0,46 qu\u2019on peut voir. Aujourd\u2019hui, comme aucun \u00eatre humain ne conna\u00eet le \u00ab raisonnement \u00bb qui a \u00e9t\u00e9 suivi par la machine parce que c\u2019est un processus hypercomplexe de rassemblement d\u2019informations suivi d\u2019un tri d\u00e9bouchant sur une d\u00e9cision, l\u2019explication \u00e0 fournir au client est r\u00e9duite \u00e0 un exercice de \u00ab communication \u00bb ou de \u00ab relation publique \u00bb. <\/p>\r\n\r\n\r\n\r\n
On n\u2019explique plus, parce que si l\u2019on conna\u00eet parfaitement le m\u00e9canisme \u00e0 l\u2019oeuvre, la prise de d\u00e9cision est opaque. Alors, deux cas. Si la loi n\u2019oblige pas \u00e0 r\u00e9v\u00e9ler que la d\u00e9cision est prise par une IA, il reste possible de faire comme si tout se passait comme avant : \u00ab Un expert a soigneusement examin\u00e9 votre cas ! \u00bb. Si la loi oblige \u00e0 ce qu\u2019on mentionne l\u2019IA, on rassure : on parle alors en termes de \u00ab tra\u00e7abilit\u00e9 \u00bb et de \u00ab transparence \u00bb. On ne rapporte plus un raisonnement mais que le processus est parfaitement contr\u00f4l\u00e9, que les donn\u00e9es utilis\u00e9es sont irr\u00e9prochables, que tout a \u00e9t\u00e9 enregistr\u00e9 pour une v\u00e9rification \u00e9ventuelle. On s\u2019abstient de dire au consommateur : \u00ab Le robot a pris le pouvoir mais c\u2019est normal parce qu\u2019il est beaucoup plus fort que nous : faisons lui confiance ! \u00bb. M\u00eame si c\u2019est la v\u00e9rit\u00e9. Mais cela ferait tr\u00e8s mauvaise impression sur le client. <\/p>\r\n","protected":false},"excerpt":{"rendered":"
L\u2019Intelligence Artificielle et le consommateur<\/a><\/strong><\/p>\nUn monsieur ou une dame demande un pr\u00eat pour acheter une maison. La banque est d’accord sur le principe mais n\u2019est dispos\u00e9e qu\u2019\u00e0 lui accorder les \u2154 de la somme demand\u00e9e. Le consommateur est furieux. Il a consult\u00e9 toute la documentation : il a […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[6393,13],"tags":[3293,940,1927],"class_list":["post-124932","post","type-post","status-publish","format-standard","hentry","category-big-data","category-intelligence-artificielle","tag-big-data","tag-intelligence-artificielle-2","tag-reseaux-neuronaux"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/124932","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=124932"}],"version-history":[{"count":3,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/124932\/revisions"}],"predecessor-version":[{"id":125229,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/124932\/revisions\/125229"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=124932"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=124932"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=124932"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}