![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Ex_Machina-150x150.png\")
Dans un document<\/a> \u00e9manant du Conseil europ\u00e9en pour l’innovation, appelant \u00e0 la mise au point d’une Conscience Artificielle, qui compl\u00e9terait l’Intelligence Artificielle, on trouve ceci :<\/p>\n\nConscience et intentions globales<\/u><\/p>\n
Des travaux r\u00e9cents (ancr\u00e9s dans l’\u00e9thique de l’IA) ont d\u00e9montr\u00e9 que les personnes n’attendent pas la m\u00eame chose d’autres personnes que de machines faisant des choses similaires dans le m\u00eame contexte. Premi\u00e8rement, les personnes jugent les humains par leurs intentions et les machines par leurs r\u00e9sultats. Deuxi\u00e8mement, les personnes attribuent des intentions globales aux humains et des intentions restreintes aux machines. Les personnes ont tendance \u00e0 accepter les erreurs des machines lorsqu’elles peuvent \u00eatre expliqu\u00e9es par l’\u00e9troitesse de leurs intentions, mais pas lorsqu’un dommage physique est caus\u00e9.
\n<\/p>\nMobiliser des intentions globales d\u00e9passe l’\u00e9tat de l’art de l’intelligence artificielle, mais semble pourtant n\u00e9cessaire \u00e0 \u00e9tablir un climat de confiance. La conscience peut \u00eatre consid\u00e9r\u00e9e comme une forme d'\u00a0\u00bbintentions globales\u00a0\u00bb : elle module le comportement et la r\u00e9solution des probl\u00e8mes pour se conformer \u00e0 un syst\u00e8me de bornes et de contraintes qui d\u00e9terminent quelles sont les solutions viables et acceptables du probl\u00e8me, ou les comportements acceptables, \u00e9quitables ou justes (\u00e0 l’exclusion, par exemple, des dommages physiques, dans l’exemple utilis\u00e9 ci-dessus).<\/strong><\/p><\/blockquote>\n
Quiconque est familier de mon livre Principes des syst\u00e8mes intelligents<\/em> (1989), o\u00f9 je proposais la th\u00e9orie soutenant l’IA que j’avais mise au point pour British Telecom (ANELLA<\/em> = r\u00e9seau associatif \u00e0 propri\u00e9t\u00e9s \u00e9mergentes de logique et d’apprentissage), se sera rendu compte qu’il y a l\u00e0 une confusion : ce n’est pas la conscience qui g\u00e9n\u00e8re des \u00ab\u00a0intentions globales \u00ab\u00a0, celles-ci apparaissent du fait qu’une dynamique d’affects sous-tend et active le r\u00e9seau de traces mn\u00e9siques constituant notre m\u00e9moire.<\/p>\n","protected":false},"excerpt":{"rendered":"