Dans un document émanant du Conseil européen pour l’innovation, appelant à la mise au point d’une Conscience Artificielle, qui compléterait l’Intelligence Artificielle, on trouve ceci :
Conscience et intentions globales
Des travaux récents (ancrés dans l’éthique de l’IA) ont démontré que les personnes n’attendent pas la même chose d’autres personnes que de machines faisant des choses similaires dans le même contexte. Premièrement, les personnes jugent les humains par leurs intentions et les machines par leurs résultats. Deuxièmement, les personnes attribuent des intentions globales aux humains et des intentions restreintes aux machines. Les personnes ont tendance à accepter les erreurs des machines lorsqu’elles peuvent être expliquées par l’étroitesse de leurs intentions, mais pas lorsqu’un dommage physique est causé.
Mobiliser des intentions globales dépasse l’état de l’art de l’intelligence artificielle, mais semble pourtant nécessaire à établir un climat de confiance. La conscience peut être considérée comme une forme d’ »intentions globales » : elle module le comportement et la résolution des problèmes pour se conformer à un système de bornes et de contraintes qui déterminent quelles sont les solutions viables et acceptables du problème, ou les comportements acceptables, équitables ou justes (à l’exclusion, par exemple, des dommages physiques, dans l’exemple utilisé ci-dessus).
Quiconque est familier de mon livre Principes des systèmes intelligents (1989), où je proposais la théorie soutenant l’IA que j’avais mise au point pour British Telecom (ANELLA = réseau associatif à propriétés émergentes de logique et d’apprentissage), se sera rendu compte qu’il y a là une confusion : ce n’est pas la conscience qui génère des « intentions globales « , celles-ci apparaissent du fait qu’une dynamique d’affects sous-tend et active le réseau de traces mnésiques constituant notre mémoire.
Laisser un commentaire