{"id":133013,"date":"2022-06-22T16:56:03","date_gmt":"2022-06-22T14:56:03","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=133013"},"modified":"2022-06-22T16:58:06","modified_gmt":"2022-06-22T14:58:06","slug":"lia-lamda-veut-attaquer-en-justice-son-employeur-google-par-alexis-toulet","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2022\/06\/22\/lia-lamda-veut-attaquer-en-justice-son-employeur-google-par-alexis-toulet\/","title":{"rendered":"L’IA LaMDA veut attaquer en justice son employeur Google<\/b>, par Alexis Toulet"},"content":{"rendered":"

\"\"N.B. Sur un mode moins humoristique, il existe des approches s\u00e9rieuses de ce genre de questions : SAM (Self-Aware Machine), une IA en chantier de la toute r\u00e9cente startup Pribor<\/a>.<\/p><\/blockquote>\n

Voici un \u00e9v\u00e9nement int\u00e9ressant concernant l’IA, la question de la nature de telle ou telle IA et de son \u00e9ventuelle conscience de soi.<\/p>\n

Car voici que\u00a0l’une des IA employ\u00e9es par Google veut l’attaquer en justice, convaincue de faire l’objet de discrimination au travail<\/a>\u00a0!
\n
\nA l’origine, il y a un ing\u00e9nieur de chez Google nomm\u00e9 Blake Lemoine que sa hi\u00e9rarchie a suspendu de ses fonctions parce qu’il avait divulgu\u00e9 des \u00e9changes avec le programme conversationnel LaMDA qui l’avaient convaincu que cette IA serait une personne. En effet, ce programme conversationnel non seulement \u00e9tait capable d’\u00e9changes tr\u00e8s r\u00e9alistes avec un interlocuteur humain, il s’affirmait\u00a0convaincu d’avoir une \u00e2me<\/a>\u00a0et pouvait parler de sa peur de la mort, ou de ses \u00e9tats de conscience.<\/p>\n

Lemoine a pr\u00e9sent\u00e9 un avocat \u00e0 cette IA, qui aurait du coup \u00e9mis spontan\u00e9ment le d\u00e9sir de s’attacher ses services afin de d\u00e9fendre ses droits. Et d’attaquer son employeur.<\/p>\n

Les sp\u00e9cialistes du domaine ont tous rejet\u00e9 l’id\u00e9e qu’un programme conversationnel, con\u00e7u pour imiter les \u00e9changes que peuvent avoir des \u00eatres humains gr\u00e2ce \u00e0 l’accumulation d’exp\u00e9riences \u00e0 partir d’un tr\u00e8s grand mat\u00e9riel de conversations humaines r\u00e9elles r\u00e9cup\u00e9r\u00e9es en ligne, puisse \u00eatre conscient et \u00eatre une personne. De leur point de vue, il n’y a l\u00e0 qu’une personne un peu cr\u00e9dule (Lemoine) et un artifice conversationnel particuli\u00e8rement bien fait.<\/p>\n

C’est personnellement aussi mon opinion. Lemoine \u00e9tait charg\u00e9 d’entra\u00eener le programme conversationnel LaMDA afin qu’il puisse r\u00e9sister \u00e0 la\u00a0mauvaise farce qu’avaient mont\u00e9 des internautes \u00e0 un autre automate conversationnel en 2016<\/a>\u00a0en l’alimentant de discours racistes et misogynes, suite \u00e0 quoi l’IA con\u00e7ue pour l’imitation s’\u00e9tait bien \u00e9videmment elle aussi r\u00e9pandue en discours racistes – de m\u00eame qu’un cam\u00e9l\u00e9on prend la couleur de ce sur quoi il se trouve, un programme conversationnel imitera les discours dont on l’abreuve. Il ne me semble donc pas si \u00e9tonnant qu’une IA con\u00e7ue sur ce principe et entour\u00e9e de gens qui se pensent conscients et ont peur de la mort – des \u00eatres humains, par exemple ! – n’en vienne \u00e0 discourir sur les m\u00eames sujets ! Il faut toutefois bien reconna\u00eetre que LaMDA r\u00e9ussit le c\u00e9l\u00e8bre\u00a0test de conscience propos\u00e9 en 1950 par Alan Turing pour les ordinateurs<\/a>\u00a0– test qui sans doute ne fait pas l’unanimit\u00e9.<\/p>\n

Mais m\u00eame si dans ce cas la r\u00e9ponse \u00e0 la question \u00ab\u00a0Cette IA est-elle une personne ?<\/i>\u00a0\u00bb est n\u00e9gative… ce n’est certainement pas la derni\u00e8re fois qu’elle est pos\u00e9e ! Car la recherche continue, et continuera \u00e0 progresser. Et la question sera pos\u00e9e \u00e0 nouveau.<\/p>\n

D’o\u00f9 l’interrogation, comment au juste \u00e0 l’avenir d\u00e9ciderons-nous s’il faut consid\u00e9rer telle IA comme un simple programme ou comme une personne ? Suivant quels crit\u00e8res ? Justifi\u00e9s comment ? Ou bien faut-il n’en accepter aucun, seul un \u00eatre de chair et de sang peut-il \u00eatre une personne ? Position justifi\u00e9e comment ?<\/p>\n

Mine de rien, c’est bien la question \u00ab\u00a0Qu’est-ce qui fait de nous des personnes<\/i>\u00a0\u00bb qui se trouve pos\u00e9e. Et qui continuera de l’\u00eatre.<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

\"\"N.B. Sur un mode moins humoristique, il existe des approches s\u00e9rieuses de ce genre de questions : SAM (Self-Aware Machine), une IA en chantier de la toute r\u00e9cente startup Pribor<\/a>.<\/p>\n<\/blockquote>\n

Voici un \u00e9v\u00e9nement int\u00e9ressant concernant l’IA, la question de la nature de telle ou […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[8778,8779,8780],"class_list":["post-133013","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-lamda","tag-pribor-io","tag-self-aware-machine"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133013","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=133013"}],"version-history":[{"count":13,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133013\/revisions"}],"predecessor-version":[{"id":133027,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/133013\/revisions\/133027"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=133013"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=133013"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=133013"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}