{"id":68065,"date":"2014-08-16T14:54:07","date_gmt":"2014-08-16T12:54:07","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=68065"},"modified":"2014-08-16T16:55:14","modified_gmt":"2014-08-16T14:55:14","slug":"comment-donner-une-volonte-a-un-robot","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2014\/08\/16\/comment-donner-une-volonte-a-un-robot\/","title":{"rendered":"<b>Comment donner une <em>volont\u00e9<\/em> \u00e0 un robot<\/b>"},"content":{"rendered":"<blockquote><p>Parce que je me dis que cela pourrait int\u00e9resser certains d&rsquo;entre vous qui n&rsquo;auront pas le d\u00e9sir d&rsquo;aller fouiller dans la discussion qui a lieu en ce moment \u00e0 propos de ma vid\u00e9o d&rsquo;hier, je donne \u00e0 cet \u00e9change davantage de visibilit\u00e9.<\/p><\/blockquote>\n<div id=\"comment-437250\" style=\"color: #424141;\">\n<div class=\"commentblock\">\n<div class=\"comment-author vcard\"><strong class=\"fn\">Jean Szrogh<\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437250\">16 ao\u00fbt 2014 \u00e0 11:57<\/a><\/div>\n<p>Une chose encore. Pour qu`un ordinateur prenne une d\u00e9cision contrevenant a sa programmation, il doit avoir une motivation propre, ce qui n\u00e9cessite au pr\u00e9alable que cet ordinateur acquiere la\u00a0<em>conscience de soi<\/em>. Cette derniere peut-elle naitre de la matiere constituant l`ordinateur? Si la conscience de soi chez l`humain nait de la matiere constituant son cerveau, alors l`ordinateur pourrait en principe acc\u00e9der a la conscience. Si, par contre, la conscience de soi chez l`humain (ou d`autres especes vivantes) n`est pas le produit de la matiere mais, comme le pr\u00e9tendent les religions,\u00a0<em>le fait d`un apport ext\u00e9rieur dit \u00ab\u00a0divin\u00a0\u00bb<\/em>, alors l`ordinateur restera ordinateur. La question de la prise de pouvoir des \u00ab\u00a0robots\u00a0\u00bb parait donc en rapport \u00e9troit avec la question (la plus grande des questions), sinon de l`existence de Dieu, du moins de\u00a0<em>la conscience de soi comme d\u00e9passant le niveau des prot\u00e9ines composant le cerveau<\/em>. Cette question est loin d`etre r\u00e9solue a ce jour sur notre petite planete aussi nous est-il difficile de dire des choses intelligentes dans ce domaine.<\/p>\n<div class=\"reply\"><a class=\"comment-reply-link\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019&amp;replytocom=437250#respond\">R\u00e9pondre<\/a><\/div>\n<\/div>\n<\/div>\n<ul class=\"children\" style=\"color: #424141;\">\n<li id=\"li-comment-437309\" class=\"comment byuser comment-author-admin bypostauthor even depth-2 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<div id=\"comment-437309\">\n<div class=\"commentblock\">\n<div class=\"gravatar\"><a style=\"color: #8e2600;\" title=\"Visitez http:\/\/www.pauljorion.com\/blog\" href=\"http:\/\/www.pauljorion.com\/blog\"><img loading=\"lazy\" decoding=\"async\" class=\"avatar avatar-48 photo\" src=\"http:\/\/0.gravatar.com\/avatar\/e9d73a7b825d826716e5a25df85c1c8a?s=48&amp;d=identicon&amp;r=G\" alt=\"\" width=\"48\" height=\"48\" \/><\/a><\/div>\n<div class=\"comment-author vcard\"><strong class=\"fn\"><a class=\"url\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\" rel=\"external nofollow\">Paul Jorion<\/a><\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437309\">16 ao\u00fbt 2014 \u00e0 14:25<\/a><\/div>\n<p>\u00ab\u00a0ce qui n\u00e9cessite au pr\u00e9alable que cet ordinateur acqui\u00e8re la conscience de soi.\u00a0\u00bb<\/p>\n<p>Non absolument pas : il suffit qu\u2019il mime une dynamique d\u2019affect. C\u2019est ce que j\u2019avais r\u00e9alis\u00e9 dans mon projet ANELLA pour British Telecom, voyez\u00a0<a style=\"color: #8e2600;\" href=\"http:\/\/croquant.atheles.org\/horscollection\/principesdessystemesintelligents\/index.html\" target=\"_blank\"><em>Principes des syst\u00e8mes intelligents<\/em><\/a> (1989 ; 2012).<\/p>\n<div class=\"reply\"><a class=\"comment-reply-link\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019&amp;replytocom=437309#respond\">R\u00e9pondre<\/a><\/div>\n<\/div>\n<\/div>\n<\/li>\n<li id=\"li-comment-437317\" class=\"comment byuser comment-author-admin bypostauthor odd alt depth-2 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<div id=\"comment-437317\">\n<div class=\"commentblock\">\n<div class=\"gravatar\"><a style=\"color: #8e2600;\" title=\"Visitez http:\/\/www.pauljorion.com\/blog\" href=\"http:\/\/www.pauljorion.com\/blog\"><img loading=\"lazy\" decoding=\"async\" class=\"avatar avatar-48 photo\" src=\"http:\/\/0.gravatar.com\/avatar\/e9d73a7b825d826716e5a25df85c1c8a?s=48&amp;d=identicon&amp;r=G\" alt=\"\" width=\"48\" height=\"48\" \/><\/a><\/div>\n<div class=\"comment-author vcard\"><strong class=\"fn\"><a class=\"url\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\" rel=\"external nofollow\">Paul Jorion<\/a><\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437317\">16 ao\u00fbt 2014 \u00e0 14:38<\/a><\/div>\n<p>Je suis parti \u00e0 la recherche d\u2019un article plus technique sur ANELLA, pr\u00e9sent\u00e9 \u00e0 British Telecom dans un colloque interne en janvier 1990. Je l\u2019ai retrouv\u00e9, \u00e7a s\u2019appelle :\u00a0<a style=\"color: #8e2600;\" href=\"http:\/\/cogprints.org\/480\/\" rel=\"nofollow\">An alternative neural network representation for conceptual knowledge<\/a>.<\/p>\n<p>Pour voir comment on mime l\u2019\u00e9motion dans une machine, voir la partie\u00a0<em>The dynamics of a P-Graph neural network.<\/em><\/p>\n<\/div>\n<p><!--more--><\/p>\n<\/div>\n<\/li>\n<li id=\"li-comment-437387\" class=\"comment byuser comment-author-admin bypostauthor even depth-3 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<div id=\"comment-437387\"><\/div>\n<\/li>\n<li id=\"li-comment-437363\" class=\"comment odd alt depth-3\">\n<div id=\"comment-437363\">\n<div class=\"commentblock\">\n<div class=\"comment-author vcard\"><strong class=\"fn\">Lucas<\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437363\">16 ao\u00fbt 2014 \u00e0 16:15\u00a0<\/a><\/div>\n<p>L\u2019humanit\u00e9 des robots serait r\u00e9duite alors a une dynamique d\u2019affect, et eux, auront \u2013 ils aussi le pouvoir de modifier cette dynamique? Ou tout bonnement de lier leurs intellects a cette dynamique?<\/p>\n<div class=\"reply\"><\/div>\n<\/div>\n<\/div>\n<\/li>\n<li id=\"li-comment-437387\" class=\"comment byuser comment-author-admin bypostauthor even depth-3 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<div id=\"comment-437387\">\n<div class=\"commentblock\">\n<div class=\"gravatar\"><a style=\"color: #8e2600;\" title=\"Visitez http:\/\/www.pauljorion.com\/blog\" href=\"http:\/\/www.pauljorion.com\/blog\"><img loading=\"lazy\" decoding=\"async\" class=\"avatar avatar-48 photo\" src=\"http:\/\/0.gravatar.com\/avatar\/e9d73a7b825d826716e5a25df85c1c8a?s=48&amp;d=identicon&amp;r=G\" alt=\"\" width=\"48\" height=\"48\" \/><\/a><\/div>\n<div class=\"comment-author vcard\"><strong class=\"fn\"><a class=\"url\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\" rel=\"external nofollow\">Paul Jorion<\/a><\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437387\">16 ao\u00fbt 2014 \u00e0 16:45<\/a><\/div>\n<p>Aucun probl\u00e8me : certains robots disposeront d\u2019un logiciel dont la fonctionnalit\u00e9 est de modifier les logiciels r\u00e9glant la dynamique d\u2019affect des robots.<\/p>\n<p>M\u00eame moi je pourrais vous \u00e9crire \u00e7a : 1) le logiciel de la dynamique d\u2019affect (celui-l\u00e0 d\u2019ailleurs je l\u2019ai \u00e9crit en 1989), 2) un logiciel dont la fonctionnalit\u00e9 est de modifier le pr\u00e9c\u00e9dent.<\/p>\n<p>Une fois que 2) est \u00e9crit, rien ne s\u2019oppose \u00e0 ce qu\u2019un robot l\u2019utilise, quitte \u00e0 modifier sa propre dynamique d\u2019affect une fois content du r\u00e9sultat obtenu.<\/p>\n<p>J\u2019avais not\u00e9 qu\u2019il est tr\u00e8s facile de rendre ANELLA parano\u00efaque en ne lui permettant d\u2019utiliser qu\u2019une partie de son r\u00e9seau mn\u00e9sique. On pourrait programmer un robot de telle mani\u00e8re qu\u2019il puisse tirer des r\u00e9actions des autres qu\u2019il est jug\u00e9 trop parano\u00efaque, et r\u00e9parer sa dynamique d\u2019affect \u00e0 partir de l\u00e0.<\/p>\n<\/div>\n<\/div>\n<\/li>\n<li id=\"li-comment-437387\" class=\"comment byuser comment-author-admin bypostauthor even depth-3 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<ul class=\"children\">\n<li id=\"li-comment-437348\" class=\"comment even depth-3\">\n<div id=\"comment-437348\">\n<div class=\"commentblock\">\n<div class=\"comment-author vcard\"><strong class=\"fn\">Jean Szrogh<\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437348\">16 ao\u00fbt 2014 \u00e0 15:49\u00a0<\/a><\/div>\n<p>Si c`est l`humain, par sa programmation, qui fait\u00a0<em>mimer l`affect<\/em>\u00a0par la machine, cet affect n`est-il pas des lors sous le controle de l`humain? Si par contre c`est la machine qui, de sa propre initiative, mime l`affect, c`est donc qu`elle a sa propre motivation (et donc possede la conscience de soi) et, dans ce cas, quel besoin aurait-elle de mimer l`affect? Cela dit, l`affect en tant que constituant de la motivation suffit-elle pour qu`il y ait motivation amenant une d\u00e9cision? Un poisson peut etre capable d`affect puisqu`il r\u00e9agit a un stimulus de douleur mais a-t-il pour autant la conscience de soi qui seule peut l`amener a une d\u00e9cision consciente (par opposition a un mode de conduite inconscient c`est-a-dire instinctif)? L`exemple du poisson m`est venue en tete car il se trouve que HAL (l`ordi de 2001 Odyss\u00e9e\u2026) signifie poisson dans la langue d`origine (le hongrois) de von Neumann, un des papas de la cybern\u00e9tique\u2026<\/p>\n<div class=\"reply\"><\/div>\n<\/div>\n<\/div>\n<\/li>\n<li id=\"li-comment-437383\" class=\"comment byuser comment-author-admin bypostauthor odd alt depth-3 microid-mailto+http:sha1:94d3010f9314b6cf1aca54bc3602ccb699007dc7\">\n<div id=\"comment-437383\">\n<div class=\"commentblock\">\n<div class=\"gravatar\"><a style=\"color: #8e2600;\" title=\"Visitez http:\/\/www.pauljorion.com\/blog\" href=\"http:\/\/www.pauljorion.com\/blog\"><img loading=\"lazy\" decoding=\"async\" class=\"avatar avatar-48 photo\" src=\"http:\/\/0.gravatar.com\/avatar\/e9d73a7b825d826716e5a25df85c1c8a?s=48&amp;d=identicon&amp;r=G\" alt=\"\" width=\"48\" height=\"48\" \/><\/a><\/div>\n<div class=\"comment-author vcard\"><strong class=\"fn\"><a class=\"url\" style=\"color: #8e2600;\" href=\"http:\/\/www.pauljorion.com\/blog\" rel=\"external nofollow\">Paul Jorion<\/a><\/strong><\/div>\n<div class=\"comment-meta commentmetadata\"><a style=\"color: #999999;\" href=\"http:\/\/www.pauljorion.com\/blog\/?p=68019#comment-437383\">16 ao\u00fbt 2014 \u00e0 16:36\u00a0<\/a><\/div>\n<p>Je n\u2019aurais pas dire \u00ab\u00a0mime\u00a0\u00bb, j\u2019aurais du dire \u00ab\u00a0poss\u00e8de\u00a0\u00bb. J\u2019ai dit \u00ab\u00a0mime\u00a0\u00bb pour exprimer que cela ne fonctionne pas avec des \u00ab\u00a0nerfs\u00a0\u00bb et des \u00ab\u00a0hormones\u00a0\u00bb mais avec des compteurs qui additionnent et soustraient pour reproduire une dynamique d\u2019affect.<\/p>\n<p>De toute mani\u00e8re, lisez\u00a0<a style=\"color: #8e2600;\" href=\"http:\/\/www.persee.fr\/web\/revues\/home\/prescript\/article\/hom_0439-4216_1999_num_39_150_453573\" target=\"_blank\" rel=\"nofollow\">mon article de 1999<\/a>\u00a0pour vous convaincre que la conscience de soi m\u00eame chez nous ne prend aucune d\u00e9cision : c\u2019est un cul-de-sac dont la fonctionnalit\u00e9 est de cr\u00e9er une m\u00e9moire synchrone, mais \u00e7a n\u2019a aucun rapport avec des \u00ab\u00a0intentions\u00a0\u00bb ou une \u00ab\u00a0volont\u00e9\u00a0\u00bb.<\/p>\n<\/div>\n<\/div>\n<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<blockquote>\n<p>Parce que je me dis que cela pourrait int\u00e9resser certains d&rsquo;entre vous qui n&rsquo;auront pas le d\u00e9sir d&rsquo;aller fouiller dans la discussion qui a lieu en ce moment \u00e0 propos de ma vid\u00e9o d&rsquo;hier, je donne \u00e0 cet \u00e9change davantage de visibilit\u00e9.<\/p>\n<\/blockquote>\n<div id=\"comment-437250\" style=\"color: #424141;\">\n<div class=\"commentblock\">\n<div class=\"comment-author vcard\"><strong class=\"fn\">Jean Szrogh<\/strong><\/div>\n<div class=\"comment-meta [&hellip;]<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13],"tags":[1935,2160,2477,1804],"class_list":["post-68065","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-anella","tag-dynamique-daffect","tag-robotisation","tag-volonte"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/68065","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=68065"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/68065\/revisions"}],"predecessor-version":[{"id":68073,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/68065\/revisions\/68073"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=68065"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=68065"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=68065"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}