{"id":87870,"date":"2016-07-25T23:37:03","date_gmt":"2016-07-25T21:37:03","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=87870"},"modified":"2016-07-25T23:53:27","modified_gmt":"2016-07-25T21:53:27","slug":"les-algorithmes-juges-infaillibles-par-francois-leclerc","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2016\/07\/25\/les-algorithmes-juges-infaillibles-par-francois-leclerc\/","title":{"rendered":"<b>LES ALGORITHMES, JUGES INFAILLIBLES<\/b>, par Fran\u00e7ois Leclerc"},"content":{"rendered":"<blockquote><p>Billet invit\u00e9.<\/p><\/blockquote>\n<p>Les algorithmes n\u2019ont pas fini de s\u2019insinuer dans toutes les activit\u00e9s de nos soci\u00e9t\u00e9s, pour le meilleur et pour le pire. Parfois de mani\u00e8re surprenante l\u00e0 o\u00f9 on ne les attend pas. Ils sont par exemple mobilis\u00e9s pour rendre la justice dans certains cas ou pour d\u00e9terminer les peines de probation dans d\u2019autres&#8230;<\/p>\n<p><!--more--><\/p>\n<p>Le site de vente aux ench\u00e8res eBay les utilise afin de r\u00e9gler les 60.000 litiges auxquels il doit faire face annuellement. Un algorithme aide ceux qui sont dans ce cas \u00e0 en trouver le r\u00e8glement sans intervention humaine, celle-ci n\u2019intervenant qu\u2019en derni\u00e8re instance. La m\u00e9thode a fait \u00e9cole, utilis\u00e9e en Hollande pour faciliter les divorces ou les gardes d\u2019enfant, ou bien en Colombie britannique pour r\u00e9gler les d\u00e9saccords entre propri\u00e9taires et locataires, ou les troubles de voisinage.<\/p>\n<p>D\u2019autres projets sont en cours de d\u00e9veloppement, notamment en Angleterre. Les exp\u00e9riences sont encore limit\u00e9es, mais leurs artisans sont enthousiastes, sur le th\u00e8me que l\u2019acc\u00e8s \u00e0 la justice est facilit\u00e9 et \u00e0 moindre co\u00fbt, car ceux qui utilisent ces services le font sur la base du volontariat.<\/p>\n<p>Cela ne s\u2019arr\u00eate pas l\u00e0, avec les algorithmes pr\u00e9dictifs. Destin\u00e9 aux juges, un syst\u00e8me d\u00e9velopp\u00e9 par une soci\u00e9t\u00e9 priv\u00e9e et d\u00e9nomm\u00e9 COMPAS est en service aux \u00c9tats-Unis, qui se propose de mesurer le risque de r\u00e9cidive des d\u00e9linquants, auxquels ceux-ci infligent alors une peine de probation sur mesure. Sur la base des donn\u00e9es relatives \u00e0 l\u2019inculp\u00e9, COMPAS donne au juge un \u00ab\u00a0risk score\u00a0\u00bb, sur le mode du \u00ab\u00a0credit score\u00a0\u00bb qui \u00e9value aux \u00c9tats-Unis le comportement vis \u00e0 vis du cr\u00e9dit de chacun et le suit toute sa vie.<\/p>\n<p>Mais le probl\u00e8me est que ce syst\u00e8me est une bo\u00eete noire, comme tous les algos, et qu\u2019elle contient des biais auxquels le commun des mortels n\u2019a pas acc\u00e8s. Disons-le tout de suite, il vaut mieux ne pas \u00eatre black et pauvre\u00a0quand on passe \u00e0 sa moulinette ! Ses partisans font au contraire valoir que son utilisation \u00e9limine la subjectivit\u00e9 des juges et qu\u2019elle r\u00e9duit le co\u00fbt global des peines de probation \u00e0 la charge de l\u2019\u00c9tat.<\/p>\n<p>Richard Berk, professeur \u00e0 l\u2019Universit\u00e9 de Pennsylvanie, est l\u2019expert reconnu dans ce domaine. Il se sent pousser des ailes, travaillant \u00e0 un algorithme qui serait selon lui capable de pr\u00e9dire \u00e0 la naissance d\u2019un individu la probabilit\u00e9 qu\u2019il commette un crime lorsqu\u2019il atteindra ses 18 ans. Pour le professeur, qui ne pr\u00e9cise pas la conclusion qu\u2019il faut en tirer si la r\u00e9ponse est positive, \u00ab\u00a0l\u2019avantage de la technologie d\u2019apprentissage des machines ( <i>machine learning<\/i> ) est qu\u2019elle \u00e9limine le besoin de comprendre les raisons pour lesquelles quelqu\u2019un devient violent\u00a0\u00bb. Dont acte !<\/p>\n","protected":false},"excerpt":{"rendered":"<blockquote>\n<p>Billet invit\u00e9.<\/p>\n<\/blockquote>\n<p>Les algorithmes n\u2019ont pas fini de s\u2019insinuer dans toutes les activit\u00e9s de nos soci\u00e9t\u00e9s, pour le meilleur et pour le pire. Parfois de mani\u00e8re surprenante l\u00e0 o\u00f9 on ne les attend pas. Ils sont par exemple mobilis\u00e9s pour rendre la justice dans certains cas ou pour d\u00e9terminer les peines de probation dans d\u2019autres&#8230;<\/p>\n","protected":false},"author":37,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13],"tags":[4028],"class_list":["post-87870","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-algorithmes"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/87870","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/37"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=87870"}],"version-history":[{"count":4,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/87870\/revisions"}],"predecessor-version":[{"id":87874,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/87870\/revisions\/87874"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=87870"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=87870"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=87870"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}