{"id":109437,"date":"2019-04-01T00:28:21","date_gmt":"2019-03-31T22:28:21","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=109437"},"modified":"2020-05-03T18:41:43","modified_gmt":"2020-05-03T16:41:43","slug":"quinzaines-un-robot-quon-ne-peut-pas-punir-est-il-vraiment-intelligent-le-1er-avril-2019","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2019\/04\/01\/quinzaines-un-robot-quon-ne-peut-pas-punir-est-il-vraiment-intelligent-le-1er-avril-2019\/","title":{"rendered":"Quinzaines – Un robot qu\u2019on ne peut pas punir, est-il vraiment intelligent ?<\/b> le 1er<\/sup> avril 2019"},"content":{"rendered":"\r\n

Un robot qu\u2019on ne peut pas punir, est-il vraiment intelligent\u00a0?<\/a><\/strong><\/p>\r\n

Dans l\u2019ouvrage de Robert Musil L\u2019homme sans qualit\u00e9s<\/em> (ou \u00ab sans particularit\u00e9s \u00bb faudrait-il peut-\u00eatre dire plut\u00f4t), son h\u00e9ros, Ulrich, assiste au chapitre 18 du premier volume qui en compte 123, au proc\u00e8s de Christian Moosbrugger, assassin pr\u00e9sum\u00e9 d’une prostitu\u00e9e. Le verdict est la mort.\u00a0<\/p>\r\n

Le personnage de Moosbrugger r\u00e9appara\u00eetra ensuite – y compris dans le second tome inachev\u00e9 – comme un sous-marin faisant \u00e9pisodiquement surface, hantant le roman d’un bout \u00e0 l’autre.<\/p>\r\n

Avec Moosbrugger, Musil nous convie \u00e0 r\u00e9fl\u00e9chir sur l\u2019adh\u00e9sion plus ou moins marqu\u00e9e d’un individu aux actes qu\u2019il pose et dont les paroles qu\u2019il \u00e9nonce sont l’un des \u00e9l\u00e9ments majeurs. Il attribue ainsi le marasme de la \u00ab Cacanie \u00bb, le sobriquet dont il affuble l\u2019empire austro-hongrois en 1913, \u00e0 la distance que chacun prend, et la classe politique en particulier, par rapport \u00e0 ce qu\u2019il fait ou d\u00e9clare. Il n\u2019y a plus, affirme Musil, derri\u00e8re les \u00e9v\u00e9nements que l\u2019on observe, de v\u00e9ritables sujets s\u2019identifiant \u00e0 ce qu\u2019ils font, mais des ombres laissant entendre qu\u2019elles simulent les gestes qu\u2019on les observe faire, et qui se contentent dans ce qu\u2019elles affirment, de citer quelqu\u2019un ayant dit cela ailleurs autrefois.\u00a0<\/p>\r\n

Est-il question l\u00e0 de la \u00ab responsabilit\u00e9 \u00bb ? Peut-\u00eatre, si ce n\u2019est que Musil souligne justement que ce \u00e0 quoi ce mot renvoie se dissipe aussit\u00f4t que l\u2019on tente de l’examiner de trop pr\u00e8s, le proc\u00e8s de Moosbrugger scrupuleusement rapport\u00e9 en faisant foi.<\/p>\r\n

Ainsi dans ce passage o\u00f9 sont confront\u00e9s le point de vue du juge et de l\u2019assassin pr\u00e9sum\u00e9 :<\/p>\r\n

\u00ab Ce juge r\u00e9unissait tous les \u00e9l\u00e9ments, \u00e0 partir des rapports de police et de l\u2019accusation de vagabondage, en un seul tout dont il chargeait l\u2019inculp\u00e9 ; mais pour Moosbrugger, ce n\u2019\u00e9tait qu\u2019une s\u00e9rie d\u2019incidents enti\u00e8rement distincts sans rapport les uns avec les autres et r\u00e9sultant chacun d\u2019une cause diff\u00e9rente, laquelle \u00e9tait \u00e0 chercher en-dehors de lui, quelque part dans l\u2019univers. Aux yeux du juge, ses actes provenaient de lui, mais aux yeux de Moosbrugger, ils lui \u00e9taient plut\u00f4t arriv\u00e9s comme un vol d\u2019oiseaux venu \u00e0 sa rencontre \u00bb.<\/p>\r\n

\u00ab Vous savez toujours rejeter la faute sur les autres ! \u00bb reproche le juge \u00e0 Moosbrugger, ce que l\u2019on traduirait ordinairement en \u00ab vous n\u2019assumez pas vos responsabilit\u00e9s \u00bb. Or, l\u00e0 o\u00f9 nous recourons au seul mot de \u00ab responsabilit\u00e9 \u00bb, l\u2019anglais nous surprend en y voyant trois notions distinctes : \u00ab imputability \u00bb, \u00ab accountability \u00bb et \u00ab answerability \u00bb.\u00a0<\/p>\r\n

Le concept d\u2019imputation<\/em> ne nous est pas \u00e9tranger : quel est le facteur sans l\u2019intervention duquel l\u2019\u00e9v\u00e9nement f\u00e2cheux ne se serait certainement jamais produit ? C\u2019est bien l\u00e0 en effet l\u2019un des sens de responsable\u00a0<\/em>: avoir \u00e9t\u00e9 la cause.\u00a0<\/p>\r\n

Dans le mot \u00ab accountability \u00bb, il y a \u00ab account \u00bb, c\u2019est-\u00e0-dire \u00ab compte \u00bb, comme dans \u00ab accountant \u00bb, qui signifie \u00ab comptable \u00bb. L\u2019\u00ab accountability \u00bb, c\u2019est notre capacit\u00e9 \u00e0 rendre compte de mani\u00e8re rationnelle de ce qui s\u2019est pass\u00e9, dans des termes qui feront sens aux oreilles d\u2019un juge et d\u2019un jury ; le cadre de r\u00e9f\u00e9rence l\u00e0, c\u2019est la capacit\u00e9 \u00e0 distinguer le faux du vrai. Mais, d\u00e9nonce Musil, la capacit\u00e9 \u00e0 rendre compte se confond d\u00e9sormais en Cacanie avec le talent \u00e0 raconter sa vie comme un roman : au lieu du compte-rendu v\u00e9ridique d’autrefois nous ne proposons plus aujourd’hui \u00e0 autrui que les fragments d’une autobiographie romanc\u00e9e.<\/p>\r\n

Dans \u00ab answerability \u00bb, il y a \u00ab to answer \u00bb, r\u00e9pondre \u00e0 une question, o\u00f9 l\u2019on retrouve l\u2019\u00e9tymologie de \u00ab responsable \u00bb. Est en jeu ici la capacit\u00e9 de l\u2019accus\u00e9 \u00e0 saisir pourquoi il a \u00e9t\u00e9 convoqu\u00e9 devant un juge, pourquoi la justice envisage de le mettre hors d’\u00e9tat de nuire, et vise, comme consid\u00e9ration annexe, \u00e0 assurer sa future r\u00e9demption. Et \u00e0 \u00ab r\u00e9pondre \u00bb de ses actes, en adh\u00e9rant pleinement au statut d’accus\u00e9 qui est le sien \u00e0 cet instant en disant : \u00ab Oui, c’est bien moi : je suis la personne en question ! \u00bb. Autrement dit le degr\u00e9 de son identification \u00e0 l\u2019individu qui se trouve l\u00e0 dans le box des accus\u00e9s, et les \u00e9l\u00e9ments qu\u2019il doit alors apporter, en vue d’all\u00e9ger sa peine, pour assurer qu\u2019il saura comment s\u2019amender \u2013 si le verdict n’est pas la mort. Le cadre de r\u00e9f\u00e9rence n\u2019est plus ici ni le vrai ni le faux, mais le Bien et le Mal et le talent de chacun \u00e0 les distinguer sans se tromper. Or, dans la Cacanie d’aujourd’hui, dit Musil, le \u00ab C’est bien moi ! \u00bb s’est effac\u00e9 au profit d’un \u00ab C’est la faute \u00e0 pas d’chance ! \u00bb g\u00e9n\u00e9ralis\u00e9.<\/p>\r\n

Pour imputer<\/em>, il faut qu’il y ait des preuves.\u00a0Pour ce qui est de la capacit\u00e9 de l\u2019inculp\u00e9 \u00e0 rendre compte, les t\u00e9moins viendront corroborer ou non ses propos. Reste l\u2019answerability\u00a0<\/em>: la disposition ne d\u00e9pendant que de lui, d\u2019un inculp\u00e9 \u00e0 comprendre pour quel motif pr\u00e9cis la justice lui fait proc\u00e8s.\u00a0<\/p>\r\n

La capacit\u00e9 de Moosbrugger \u00e0 r\u00e9pondre de ses actes, il la fait exploser, alors m\u00eame que le verdict est d\u00e9j\u00e0 tomb\u00e9 et que l\u2019affaire semble close. \u00ab La s\u00e9ance fut lev\u00e9e, tout \u00e9tait consomm\u00e9, \u00e9crit Musil, il se retourna, tandis que les gendarmes d\u00e9j\u00e0 l\u2019emmenaient [\u2026] et s\u2019\u00e9cria [\u2026] ‘Je suis satisfait, encore que je doive vous avouer que vous avez condamn\u00e9 un fou !’ \u00bb Las ! le talent suppos\u00e9 \u00e0 chacun de r\u00e9pondre de ses gestes, la folie le r\u00e9duit \u00e0 n\u00e9ant !<\/p>\r\n

Un mouvement est n\u00e9 au milieu du XIXe<\/sup> si\u00e8cle aux \u00c9tats-Unis, qui d\u00e9boucherait sur l\u2019attribution de la personnalit\u00e9 juridique aux entreprises, consid\u00e9r\u00e9es d\u00e9sormais comme \u00ab personnes morales \u00bb, habilit\u00e9es aux droits qui sont ceux de la personne physique, tel le droit de propri\u00e9t\u00e9. L\u2019objectif l\u00e9gitime \u00e9tait de rem\u00e9dier \u00e0 la dissolution d\u2019une entreprise \u00e0 la suite du d\u00e9c\u00e8s de son fondateur. Les choses all\u00e8rent tr\u00e8s loin, jusqu\u2019au fameux arr\u00eat dit Citizens United<\/em> de la Cour supr\u00eame am\u00e9ricaine en 2010 permettant aux soci\u00e9t\u00e9s de contribuer pour des sommes potentiellement illimit\u00e9es \u00e0 la publicit\u00e9 d\u2019un candidat lors des campagnes \u00e9lectorales. Il s’agissait l\u00e0, affirm\u00e8rent les juges, d’une implication du premier amendement \u00e0 la Constitution garantissant… la libert\u00e9 d\u2019expression.\u00a0<\/p>\r\n

Les personnes morales que sont les entreprises exercent leurs droits et s\u2019expriment par le biais de personnes physiques, susceptibles de r\u00e9pondre de leurs actes \u2013 m\u00eame si le chantage \u00e0 l\u2019emploi \u00e9mascule ici le bon exercice de la justice dans la majorit\u00e9 des cas. Or il est question maintenant, prenant pr\u00e9texte de leur intelligence, d\u2019accorder la personnalit\u00e9 juridique aux robots aussi, en ignorant le caract\u00e8re artificiel de leur g\u00e9nie.\u00a0<\/p>\r\n

Imputabilit\u00e9 en cas d\u2019accident caus\u00e9 par un robot ? Oui bien s\u00fbr : la voiture autonome, sans conducteur, qui renverse un pi\u00e9ton, est bien la cause de l\u2019accident. La punition sera ici de mettre en position \u00ab\u00a0off\u00a0\u00bb l\u2019interrupteur du robot lui-m\u00eame et de faire remonter l\u2019imputabilit\u00e9 \u00e0 son constructeur ou son usager, selon ce que d\u00e9terminera la loi, compl\u00e9t\u00e9e ensuite, pour le vague subsistant, de la jurisprudence.<\/p>\r\n

Capacit\u00e9 \u00e0 rendre compte de ses gestes ? Pourquoi pas ? Une machine intelligente devrait \u00eatre capable de raconter son histoire, quitte \u00e0 broder un peu pour am\u00e9liorer la qualit\u00e9 du r\u00e9cit, \u00e0 l\u2019instar de ce que nous faisons nous-m\u00eames. Mais sera-t-elle sensible au pr\u00e9cepte qu\u2019\u00ab il n\u2019est pas beau de mentir\u00a0\u00bb\u00a0? Il est permis d\u2019en douter.<\/p>\r\n

Pour ce qui est maintenant de la capacit\u00e9 d\u2019un robot \u00e0 adh\u00e9rer \u00e0 la personne qu\u2019il affirme \u00eatre, pour ce qui est de son degr\u00e9 de d\u00e9termination dans le respect de sa parole donn\u00e9e quand il aura promis-jur\u00e9 (et affirmera alors mettre en jeu son honneur !), pour ce qui est de son talent \u00e0 nous convaincre de la sinc\u00e9rit\u00e9 de son remords, garant de sa volont\u00e9 de s\u2019amender en vue d\u2019assurer son salut, l\u00e0, nous demanderons certainement \u00e0 voir !\u00a0<\/p>\r\n","protected":false},"excerpt":{"rendered":"

Un robot qu\u2019on ne peut pas punir, est-il vraiment intelligent\u00a0?<\/a><\/strong><\/p>\n

Dans l\u2019ouvrage de Robert Musil L\u2019homme sans qualit\u00e9s<\/em> (ou \u00ab sans particularit\u00e9s \u00bb faudrait-il peut-\u00eatre dire plut\u00f4t), son h\u00e9ros, Ulrich, assiste au chapitre 18 du premier volume qui en compte 123, au proc\u00e8s de Christian Moosbrugger, assassin pr\u00e9sum\u00e9 d’une prostitu\u00e9e. Le […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[276,13],"tags":[940,931,6333,3777],"class_list":["post-109437","post","type-post","status-publish","format-standard","hentry","category-droit","category-intelligence-artificielle","tag-intelligence-artificielle-2","tag-responsabilite","tag-robert-musil","tag-robots"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/109437","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=109437"}],"version-history":[{"count":16,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/109437\/revisions"}],"predecessor-version":[{"id":120224,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/109437\/revisions\/120224"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=109437"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=109437"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=109437"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}