{"id":98960,"date":"2017-09-16T11:24:30","date_gmt":"2017-09-16T09:24:30","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=98960"},"modified":"2017-09-16T12:53:07","modified_gmt":"2017-09-16T10:53:07","slug":"compte-rendu-de-paul-jorion-principes-des-systemes-intelligents-par-arthur-mary-et-jimmy-baraglia","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2017\/09\/16\/compte-rendu-de-paul-jorion-principes-des-systemes-intelligents-par-arthur-mary-et-jimmy-baraglia\/","title":{"rendered":"Compte-rendu de Paul Jorion, Principes des syst\u00e8mes intelligents<\/em>, par Arthur Mary et Jimmy Baraglia"},"content":{"rendered":"
\n

Dans un billet publi\u00e9 hier sur son propre site<\/a> et ici<\/a>, Alexis Toulet a l’amabilit\u00e9 de mentionner le r\u00f4le pionnier qu’a pu jouer mon livre\u00a0Principes des syst\u00e8mes intelligents<\/em> dans l’Intelligence Artificielle francophone. Il a mis en lien un compte-rendu de ce livre que je reproduis ci-dessous ; sa publication originale\u00a0se trouve ici<\/a>.<\/p>\n<\/blockquote>\n

1. L\u2019ouvrage de Paul Jorion constitue une introduction rigoureuse et pr\u00e9alable \u00e0 une r\u00e9flexion et \u00e0 un travail dans le champ de l\u2019intelligence artificielle \u00e2\u20ac\u2018\u00a0c\u2019est \u00e0 ce titre que nous le recommanderions comme lecture introductive \u00e0 des \u00e9tudiants en robotique. Il a le m\u00e9rite de poser les probl\u00e8mes d\u2019ordre logique, psychologique et dans une moindre mesure anthropologique qui travaillent ce champ disciplinaire (mobilisant \u00e0 ce titre une vaste \u00e9rudition). La lecture des\u00a0Principes des syst\u00e8mes intelligents<\/em>, presque vingt-cinq ans apr\u00e8s leur premi\u00e8re publication\u00a01<\/a>, fait appara\u00eetre au moins deux choses\u00a0: la premi\u00e8re, que ces r\u00e9flexions ne semblent pas avoir (encore) \u00e9t\u00e9 v\u00e9ritablement consid\u00e9r\u00e9es par la communaut\u00e9 des chercheurs en intelligence artificielle (et tout particuli\u00e8rement le recours \u00e0 la m\u00e9tapsychologie freudo-lacanienne) \u00e2\u20ac\u2018\u00a0\u00e0 l\u2019exception toutefois de quelques \u00e9quipes de recherche s\u2019inscrivant dans le courant de la robotique d\u00e9veloppementale cognitive qui explore le champ des syst\u00e8mes s\u2019auto-organisant par apprentissage en prenant au s\u00e9rieux le r\u00f4le que joue le langage dans l\u2019appareil psychique humain\u00a02<\/a>. La seconde, que la culture dans laquelle sont pris les locuteurs humains a \u00e9volu\u00e9, si bien que l\u2019utilisateur d\u2019un syst\u00e8me artificiellement intelligent au d\u00e9but des ann\u00e9es 1990, n\u2019est peut-\u00eatre plus tout \u00e0 fait le m\u00eame que l\u2019utilisateur des ann\u00e9es 2010. En effet, les individus de nos soci\u00e9t\u00e9s tendent \u00e0 se concevoir toujours plus sur le mod\u00e8le de l\u2019ordinateur, voire comme des syst\u00e8mes algorithmiques de prise de d\u00e9cision\u00a03<\/a>. Le succ\u00e8s relatif de la psychologie cognitive dans la culture a bien d\u00fb participer \u00e0 la diffusion d\u2019un mod\u00e8le de l\u2019humain\u00a0; or, il vaut la peine de noter que cette psychologie repose sur le paradigme computationnel, soit ce qui affirme que l\u2019esprit humain est comparable \u00e0 un ordinateur traitant des informations, r\u00e9pondant (output<\/em>) \u00e0 des stimulations (input<\/em>). D\u2019un c\u00f4t\u00e9 donc, une psychologie puisant dans les recherches en informatique\u00a0; de l\u2019autre, des recherches en intelligence artificielle ou en robotique puisant (principalement) dans la psychologie des op\u00e9rations cognitives\u00a04<\/a>. Ce n\u2019est pas le moindre int\u00e9r\u00eat de l\u2019ouvrage de Jorion que d\u2019offrir une perspective faisant appara\u00eetre la complexit\u00e9 de l\u2019intelligence humaine ou artificielle en soulignant l\u2019h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 des lois du langage \u00e0 tout substrat (organique ou informatique)\u00a05<\/a>.<\/p>\n

2.\u00a0<\/span>Paul Jorion pose assez rapidement qu\u2019un enjeu de la conception de syst\u00e8mes artificiellement intelligents r\u00e9side dans la rencontre de ces syst\u00e8mes avec l\u2019\u00eatre humain. Et notamment, des enjeux que nous nommerions volontiers \u00e9thiques\u00a0: la fa\u00e7on que l\u2019utilisateur aura de se rapporter \u00e0 la machine. Lui fait-il \u00ab\u00a0confiance\u00a0\u00bb\u00a0? Est-elle \u00ab\u00a0cr\u00e9dible\u00a0\u00bb\u00a0? Comment s\u2019adresse-t-on \u00e0 un interlocuteur artificiellement intelligent\u00a0? Jusqu\u2019\u00e0 quel point accepte-t-on l\u2019id\u00e9e d\u2019une cr\u00e9ativit\u00e9 artificielle\u00a0? Et en effet, on ne parle pas de la m\u00eame fa\u00e7on selon qu\u2019on s\u2019adresse \u00e0 un adulte, \u00e0 un enfant, \u00e0 un animal domestique ou \u00e0 un robot\u00a06<\/a>\u00a0; \u00e0 croire que toute interlocution v\u00e9hicule implicitement une th\u00e9orie sur l\u2019interlocuteur (voire le diagnostic tacite de sa forme de vie)\u00a07<\/a>. En tout cas, les\u00a0Principes des syst\u00e8mes intelligents\u00a0<\/em>ne visent pas express\u00e9ment la simulation de l\u2019humain, mais \u00ab\u00a0se cantonne[nt] \u00e0 l\u2019exploration des capacit\u00e9s auto-organisantes d\u2019un univers de mots\u00a0\u00bb (p.\u00a073).<\/p>\n

3.\u00a0<\/span>Plusieurs id\u00e9es importantes occupent le d\u00e9ploiement de la r\u00e9flexion de l\u2019auteur et retiennent particuli\u00e8rement notre attention. Jorion discute en effet du concept d\u2019intention (et l\u2019exigence qu\u2019un syst\u00e8me intelligent puisse entendre l\u2019intention au-del\u00e0 d\u2019une demande\u00a08<\/a>), des capacit\u00e9s logiques \u00e9mergeant de syst\u00e8mes mn\u00e9siques langagiers, des propri\u00e9t\u00e9s que doit avoir un syst\u00e8me mn\u00e9sique artificiel afin de s\u2019engager dans un discours, n\u00e9gocier son savoir et \u00e9noncer le vrai (les pr\u00e9cisions sur les diff\u00e9rentes acceptions et statuts de la v\u00e9rit\u00e9 sont pr\u00e9cieuses\u00a09<\/a>). On apprend aussi que le \u00ab\u00a0renforcement hebbien\u00a0\u00bb (1949) avait \u00e9t\u00e9 d\u00e9j\u00e0 pens\u00e9 par Freud en 1895 (mais publi\u00e9 \u00e0 titre posthume en 1950) sous le nom de \u00ab\u00a0frayage\u00a0\u00bb, notion qu\u2019il avait lui-m\u00eame reprise \u00e0 Exner (1894).<\/p>\n

4.\u00a0Une objection m\u00e9rite n\u00e9anmoins d\u2019\u00eatre formul\u00e9e\u00a0: la conception d\u2019un syst\u00e8me intelligent sur la base des principes \u00e9nonc\u00e9s par Jorion produirait-elle ou non un locuteur susceptible de s\u2019\u00e9tonner de ce qu\u2019il dit (\u00e0 l\u2019occasion d\u2019un lapsus par exemple\u00a010<\/a>) et susceptible de ce que Lacan a nomm\u00e9 \u00ab\u00a0Acte\u00a0\u00bb, soit une manifestation sous-d\u00e9termin\u00e9e du sujet du langage faisant \u00e9v\u00e8nement dans le r\u00e9gime des pens\u00e9es et de la parole et entrainant des effets de discours\u00a0? Pour le dire autrement, l\u2019Acte est-il possible dans le cadre d\u2019un tel syst\u00e8me de contraintes logiques \u2013\u00a0qui certes g\u00e9n\u00e8rent des ph\u00e9nom\u00e8nes s\u00e9mantiques \u00e9mergents. On pourrait se demander, non sans provocation, si l\u2019acte suicidaire d\u2019une intelligence artificielle (dont Lacan affirme qu\u2019il est le seul acte qui r\u00e9ussisse) est rendu possible\u00a0? Peut-\u00eatre interrogeons-nous ainsi simplement l\u2019inclusion ou non du syst\u00e8me artificiellement intelligent dans l\u2019ordre des \u00ab\u00a0\u00eatres parlants tragiques\u00a0\u00bb, c\u2019est-\u00e0-dire des \u00eatres posant la question du sens de leur existence, s\u2019interrogeant sur leur origine et sur leur fin\u00a011<\/a>\u00a0\u00e2\u20ac\u2018\u00a0ce qui exigerait un syst\u00e8me capable d\u2019\u00e9noncer un discours v\u00e9ritablement sui-r\u00e9f\u00e9rentiel (condition pr\u00e9alable \u00e0 tout acte suicidaire non-r\u00e9flexe). Autre limite : concernant le statut de la croyance, il nous semble que le livre de Jorion manque peut-\u00eatre de finesse et aurait gagn\u00e9 \u00e0 recourir plus franchement \u00e0 des auteurs n\u00e9anmoins r\u00e9guli\u00e8rement mobilis\u00e9s (Wittgenstein et Lacan, notamment), mais il s\u2019agit, r\u00e9p\u00e9tons-le, d\u2019une \u00e9tude largement exploratoire, portant sur des grands principes et sur des orientations encore peu consid\u00e9r\u00e9es par la recherche en intelligence artificielle.<\/p>\n

5.\u00a0Nous nous sommes finalement demand\u00e9 ce que serait la recension d\u2019un ouvrage faite par une intelligence artificielle \u00e2\u20ac\u2018\u00a0et les auteurs du pr\u00e9sent compte-rendu revendiquent leur authentique humanit\u00e9\u00a0! Il faudrait un syst\u00e8me capable de lire l\u2019ouvrage de Jorion et capable de le comprendre (et d\u2019entendre ce qui exc\u00e8de ce livre), de le situer et de se situer dans un discours, dans une forme d\u2019interlocution asym\u00e9trique (un auteur d\u2019ouvrage, d\u2019un c\u00f4t\u00e9, un lecteur-auteur de recension, de l\u2019autre)\u00a012<\/a>. Un auteur artificiel de compte-rendu qui serait inspir\u00e9 par les\u00a0Principes\u00a0<\/em>de Jorion, mobiliserait le r\u00e9seau mn\u00e9sique de ses pr\u00e9c\u00e9dentes lectures pour alimenter un discours, tandis que sa m\u00e9moire grossirait des apports de chaque nouvel ouvrage soumis \u00e0 son attention. Ainsi, r\u00e9pondrait-il \u00e0 un texte et r\u00e9pondrait-il d\u2019un acte de lecture original.<\/p>\n

=======================<\/div>\n
\n
\n

1<\/a>\u00a0\u00a0La premi\u00e8re \u00e9dition (chez Masson) date de [1989].<\/p>\n

2<\/a>\u00a0\u00a0Cf. par exemple la r\u00e9cente \u00e9tude de Katsushi Miura et col. (\u00ab\u00a0Vowel Acquisition based on an Auto-Mirroring Bias with a Less Imitative Caregiver<\/a>\u00a0\u00bb,\u00a0Advanced Robotics<\/em>, vol.\u00a026, n\u00b0\u00a01-2, pp.\u00a023-44, 2012) interrogeant les capacit\u00e9s phon\u00e9tiques auto-organisatrices d\u2019un syst\u00e8me apprenant de nouvelles voyelles. Ajoutons que Jorion n\u2019\u00e9tait pas le seul avoir tent\u00e9 des rapprochements entre Intelligence Artificielle et psychanalyse\u00a0: cf. par exemple Sherry Turkle, \u00ab\u00a0Artificial Intelligence and Psychoanalysis: A New Alliance<\/a>\u00a0\u00bb,\u00a0Daedalus Journal of the American Academy of Arts and Sciences<\/em>, vol.\u00a0117, n\u00b0\u00a01\u00a0: \u00ab\u00a0Artificial Intelligence\u00a0\u00bb, 1988.<\/p>\n

3<\/a>\u00a0\u00a0Cf. la chronique de Didier Pourquery sur l\u2019expression \u00ab\u00a0Ou pas\u2026<\/a>\u00a0\u00bb,\u00a0Le Monde<\/em>, 2 mars 2013, p.\u00a024. L\u2019ironie de la situation voudrait qu\u2019un locuteur artificiellement intelligent devra peut-\u00eatre, \u00e0 l\u2019avenir, pour \u00eatre convaincant, \u00eatre un locuteur\u00a0se prenant (artificiellement) pour<\/em>\u00a0un ordinateur\u00a0!<\/p>\n

4<\/a>\u00a0\u00a0Dans sa conclusion, Jorion affirme une id\u00e9e tr\u00e8s similaire\u00a0: \u00ab\u00a0La recherche en intelligence artificielle est trop souvent intellectuellement incestueuse\u00a0: elle cherche les solutions \u00e0 ses probl\u00e8mes dans sa propre litt\u00e9rature \u00e0 l\u2019exclusion de toute autre.\u00a0\u00bb (p. 241).<\/p>\n

5<\/a>\u00a0\u00a0On se souvient que la question voisine de l\u2019h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 des math\u00e9matiques au substrat c\u00e9r\u00e9bral avait \u00e9t\u00e9 discut\u00e9e par Jean-Pierre Changeux et Alain Connes (Mati\u00e8re \u00e0 pens\u00e9e<\/em>, Paris, Odile Jacob, 2008).<\/p>\n

6<\/a>\u00a0\u00a0Pour le dire \u00e0 la mani\u00e8re d\u2019Emmanuel Levinas\u00a0: quelle forme prend la mise en question de ma spontan\u00e9it\u00e9 par la pr\u00e9sence d\u2019une intelligence artificielle, ainsi que la mise en question d\u2019une \u00ab\u00a0spontan\u00e9it\u00e9 artificielle\u00a0\u00bb par la pr\u00e9sence d\u2019un interlocuteur humain\u00a0? Toujours est-il qu\u2019une \u00e9quipe japonaise a mis en \u00e9vidence le fait que des nourrissons de dix mois semblent s\u2019attendre \u00e0 ce qu\u2019un adulte adresse la parole \u00e0 un robot humano\u00efde\u00a0: cf. Akiko Arita et alii, \u00ab\u00a0Can we talk to robots?\u00a0<\/a>Ten-month-old infants expected interactive humanoid robots to be talked to by persons<\/a>\u00a0\u00bb,\u00a0Cognition<\/em>, vol.\u00a095, n\u00a03, 2005.<\/p>\n

7<\/a>\u00a0On lira avec int\u00e9r\u00eat l\u2019interview de Kate Darling, chercheuse au MIT, concernant la \u00ab\u00a0torture\u00a0\u00bb des robots\u00a0: \u00ab\u00a0Donnons des droits aux robots<\/a>\u00a0\u00bb,\u00a0Le Monde Science et Techno<\/em>, 14 f\u00e9vrier 2013\u00a0; ou encore l\u2019exp\u00e9rience de Peter Kahn et col. (\u00ab\u00a0Do People Hold a Humanoid Robot Morally Accountable for the Harm it Causes?<\/a>\u00a0\u00bb,\u00a0Session: Attitudes and Responses to Social Robots<\/em>, 5-8 mars 2012, Boston) qui ont mis en place un dispositif exp\u00e9rimental dans lequel les participants \u00e9taient amen\u00e9s \u00e0 accuser un robot de mauvaise volont\u00e9, de mensonge (c\u2019est donc qu\u2019implicitement le robot \u00e9tait digne de ces accusations).<\/p>\n

8<\/a>\u00a0\u00a0Pour reprendre un exemple d\u2019Austin\u00a0: \u00e0 la question \u00ab\u00a0pouvez-vous me passer le sel\u00a0?\u00a0\u00bb, il serait malheureux (unhappy<\/em>) de r\u00e9pondre\u00a0: \u00ab\u00a0oui, je le peux\u00a0\u00bb.<\/p>\n

9<\/a>\u00a0\u00a0Jorion emprunte ces nuances principalement \u00e0 la logique de la Chine ancienne, \u00e0 Aristote, \u00e0 la scolastique m\u00e9di\u00e9vale, \u00e0 Austin et \u00e0 Lacan.<\/p>\n

10<\/a>\u00a0\u00a0Le chapitre sur l\u2019autor\u00e9f\u00e9rence r\u00e9pond partiellement \u00e0 cette objection.<\/p>\n

11<\/a>\u00a0\u00a0\u00c0 notre connaissance, ce questionnement n\u2019a \u00e9t\u00e9 trait\u00e9 de fa\u00e7on satisfaisante que par la (science-)fiction (soit pr\u00e9cis\u00e9ment le ph\u00e9nom\u00e8ne s\u00e9mantique complexe qu\u2019est le fantasme).<\/p>\n

12<\/a>\u00a0\u00a0On renverra ici au test de Turing\u00a0(cf.\u00a0Alan Turing, Jean-Yves G\u00e9rard,\u00a0La machine de Turing<\/em>, Paris, Seuil, 1999\u00a0; Paul Jorion, \u00ab\u00a0Turing, ou la tentation de comprendre<\/a>\u00a0\u00bb,\u00a0L\u2019Homme<\/em>, n\u00b0\u00a0153, 2000), ainsi qu\u2019au cycle de nouvelles d\u2019Asimov sur les robots.<\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

\n

Dans un billet publi\u00e9 hier sur son propre site<\/a> et ici<\/a>, Alexis Toulet a l’amabilit\u00e9 de mentionner le r\u00f4le pionnier qu’a pu jouer mon livre\u00a0Principes des syst\u00e8mes intelligents<\/em> dans l’Intelligence Artificielle francophone. Il a mis en lien un compte-rendu de ce livre que je reproduis ci-dessous ; […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[],"class_list":["post-98960","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98960","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=98960"}],"version-history":[{"count":6,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98960\/revisions"}],"predecessor-version":[{"id":98975,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/98960\/revisions\/98975"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=98960"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=98960"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=98960"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}