{"id":42913,"date":"2012-10-30T00:25:47","date_gmt":"2012-10-29T23:25:47","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=42913"},"modified":"2013-01-02T00:27:21","modified_gmt":"2013-01-01T23:27:21","slug":"principes-des-systemes-intelligents-1989-chapitre-2-reedition-en-libraire-le-23-novembre","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2012\/10\/30\/principes-des-systemes-intelligents-1989-chapitre-2-reedition-en-libraire-le-23-novembre\/","title":{"rendered":"PRINCIPES DES SYST\u00c8MES INTELLIGENTS (1989), chapitre 2<\/b>, r\u00e9\u00e9dition en librairie le 23 novembre"},"content":{"rendered":"

Pour signaler hier la r\u00e9\u00e9dition prochaine de Principes des syst\u00e8mes intelligents<\/em><\/a> (1989) aux \u00e9ditions du Croquant, j\u2019ai reproduit son introduction<\/a>. Je ne sais pas si je mettrai en ligne en feuilleton la totalit\u00e9 des chapitres du livre, quoi qu\u2019il en soit, voici le second, o\u00f9 je r\u00e9ponds avec vingt-trois ans d\u2019avance, \u00e0 certaines des objections qui m\u2019ont \u00e9t\u00e9 faites hier au seul vu de l\u2019Introduction de 1989.\n<\/p><\/blockquote>\n

2. Principes des syst\u00e8mes intelligents<\/h3>\n

La fonction d\u2019un principe est de d\u00e9finir un cadre g\u00e9n\u00e9ral, plut\u00f4t que de s\u2019attarder sur les particularit\u00e9s de telle ou telle vari\u00e9t\u00e9 de syst\u00e8me. \u00ab Syst\u00e8mes intelligents \u00bb, pour borner le domaine dont on parle, soit \u2013 et en deux mots pour commencer \u2013 une famille de syst\u00e8mes informatiques, interactifs, en temps r\u00e9el et dispensant \u00e0 un utilisateur une information que celui-ci juge \u00e9clairante : utile et pertinente.<\/p>\n

Il y a mille et une fa\u00e7ons de caract\u00e9riser un syst\u00e8me intelligent : une d\u00e9finition envisageable est qu\u2019il s\u2019agit d\u2019un syst\u00e8me interlocuteur susceptible de jouer vis-\u00e0-vis de son utilisateur le r\u00f4le de collaborateur intelligent. <\/em>Tout ce qui existe aujourd\u2019hui en mati\u00e8re de syst\u00e8mes experts, de bases de donn\u00e9es multim\u00e9dias, d\u2019interfaces sophistiqu\u00e9es en langues naturelles, de syst\u00e8mes de reconnaissance de forme et de syst\u00e8mes d\u2019apprentissage, semble couvert par une telle d\u00e9finition.<\/p>\n

Le mot \u00ab principe \u00bb sugg\u00e8re un pas fait en arri\u00e8re, une certaine distanciation, un regard critique par rapport \u00e0 la simple description. Autrement dit, une perspective \u00e9pist\u00e9mologique qui ne prend pas pour argent comptant l\u2019approche courante, mais s\u2019interroge aussi sur le comment et le pourquoi des cat\u00e9gories, des strat\u00e9gies et des finalit\u00e9s.<\/p>\n

Le mot \u00ab principe \u00bb sugg\u00e8re \u00e9galement une perspective g\u00e9n\u00e9rale qui vaut pour l\u2019ensemble comme pour le d\u00e9tail, et l\u2019on s\u2019adresse donc \u00e0 la fois au sp\u00e9cialiste qui travaille au d\u00e9veloppement d\u2019un syst\u00e8me et qui sait le renfort que peut apporter la r\u00e9flexion th\u00e9orique, et au profane curieux de d\u00e9couvrir les enjeux intellectuels d\u2019un projet gros de promesses et dont la fascination s\u2019exerce d\u00e9sormais sur tous.<\/p>\n

Un malentendu est \u00e0 dissiper tout de suite : il existe une litt\u00e9rature qui parle \u00e9galement de principes et de syst\u00e8mes intelligents. Cette litt\u00e9rature est engag\u00e9e : elle avance que l\u2019intelligence artificielle est impossible. Elle pr\u00e9tend trouver une justification \u00e0 sa proph\u00e9tie funeste dans le fait que les ordinateurs ne parlent pas, n\u2019ont pas d\u2019\u00e2me, ni de p\u00e8re ni de m\u00e8re, ni de vie sexuelle, qu\u2019ils ignorent qu\u2019ils mourront un jour, et ainsi de suite (Dreyfus 1979 ; Dreyfus & Dreyfus 1985 ; Searle 1983, 1984, etc.). Cette litt\u00e9rature est parfois instructive et souvent divertissante, mais elle repose sur une erreur : celle qu\u2019\u00e9nonce sa pr\u00e9misse. Car non seulement l\u2019intelligence artificielle est possible, mais sa r\u00e9alisation est aujourd\u2019hui fulgurante en d\u00e9pit des obstacles consid\u00e9rables qu\u2019un projet aussi ambitieux rencontre n\u00e9cessairement. C\u2019est cette divergence d\u2019opinion quant au caract\u00e8re r\u00e9aliste ou non du projet de l\u2019IA qui oppose l\u2019esprit du pr\u00e9sent ouvrage \u00e0 celui qui anime les contributions de ce courant pessimiste.<\/p>\n

Il sera proc\u00e9d\u00e9 de la mani\u00e8re suivante : seront pos\u00e9es sans s\u2019attarder une s\u00e9rie de questions d\u00e9coulant les unes des autres et qui touchent toutes aux principes. Puis des r\u00e9ponses seront apport\u00e9es sous la forme d\u2019\u00e9valuations portant sur les \u00e9l\u00e9ments du probl\u00e8me. Ces r\u00e9ponses s\u2019efforceront d\u2019\u00eatre cumulatives, construisant un savoir. Mais les questions sont ardues, et la modestie restera de rigueur : l\u2019IA a d\u00e9j\u00e0 beaucoup souffert des cons\u00e9quences de l\u2019enthousiasme immod\u00e9r\u00e9 de certains de ses chercheurs quant \u00e0 la concr\u00e9tisation de ses ambitions (McCorduck 1979 : 189-190 ; Aleksander & Burnett 1983 : 169).<\/p>\n

Premi\u00e8re question : Qu\u2019est-ce qu\u2019un syst\u00e8me intelligent ?<\/strong><\/strong><\/p>\n

Pourquoi un \u00eatre humain pose-t-il des questions \u00e0 une machine ? Parce qu\u2019il veut apprendre quelque chose : il veut acc\u00e9der \u00e0 une information dont il ne dispose pas. Et ici une distinction doit \u00eatre \u00e9tablie entre deux types de r\u00e9ponses que peut offrir la machine : la r\u00e9ponse qui ne surprend pas l\u2019interrogateur parce qu\u2019elle satisfait exactement la demande qu\u2019il a formul\u00e9e et rien de plus, et celle qui le sur- prend parce qu\u2019elle le satisfait au-del\u00e0 de sa demande. Dans le second cas, la r\u00e9ponse exc\u00e8de, d\u00e9borde la demande mais de mani\u00e8re positive : d\u2019une mani\u00e8re qui para\u00eet tout \u00e0 fait \u00e0 propos. Elle confronte le demandeur au fait que \u2013 sans en avoir \u00e9t\u00e9 conscient \u2013 une interrogation informul\u00e9e d\u00e9passait la demande qu\u2019il formulait. Ce qu\u2019un homme esp\u00e8re quand il demande mais sans employer tous les mots n\u00e9cessaires pour l\u2019exprimer, c\u2019est ce qu\u2019il appelle l\u2019intention <\/em>qu\u2019il avait en demandant. Et dans ce cas-ci, l\u2019ordinateur a devin\u00e9 l\u2019intention de l\u2019utilisateur. L\u2019ordinateur lui a en a donn\u00e9 plus que ce qu\u2019il demandait avec les mots qu\u2019il pronon\u00e7ait : en prenant l\u2019initiative de mani\u00e8re inattendue le syst\u00e8me a fait preuve de cr\u00e9ativit\u00e9. <\/em>L\u2019homme est satisfait, cette machine l\u2019a surpris comme il est surpris \u00e0 tout moment par ses semblables : elle n\u2019a pas suscit\u00e9 la d\u00e9ception qui r\u00e9sulte normalement d\u2019un comportement machinique enti\u00e8rement pr\u00e9visible. Le syst\u00e8me a confront\u00e9 un \u00eatre humain au d\u00e9borde- ment habituel du d\u00e9sir par rapport \u00e0 la demande. Il a fait le premier pas qui conduit une machine vers l\u2019appellation de syst\u00e8me intelligent.<\/em><\/p>\n

Le deuxi\u00e8me pas vers l\u2019intelligence implique que la machine manifeste sa conscience qu\u2019un utilisateur est l\u00e0, pr\u00e9sent devant le clavier, en train de poser des questions. Il faut qu\u2019elle ait l\u2019air attentive \u00e0 l\u2019int\u00e9r\u00eat qui lui est port\u00e9. Pas distraite, pas la t\u00eate ailleurs, mais concentr\u00e9e sur la t\u00e2che qui lui est demand\u00e9e, collaborant r\u00e9ellement. Une autre pr\u00e9visibilit\u00e9 d\u00e9cevante guette ici : le syst\u00e8me qui r\u00e9p\u00e8te machinalement <\/em>ce qu\u2019il a dit la premi\u00e8re fois, quand on lui repose la m\u00eame question. Que peut-on attendre d\u2019une machine sinon pr\u00e9cis\u00e9ment cela ? Le cancre le plus endurci n\u2019ignore pas que si la question lui est repos\u00e9e, c\u2019est que la premi\u00e8re r\u00e9ponse ne convenait pas. Un syst\u00e8me qui aspire \u00e0 \u00eatre reconnu comme intelligent doit savoir cela : se r\u00e9p\u00e9ter, c\u2019est mettre sa cr\u00e9dibilit\u00e9 enjeu. S\u2019il fait le perroquet, c\u2019est qu\u2019il se d\u00e9sint\u00e9resse de la t\u00e2che en cours : il m\u00e9prise l\u2019utilisateur et celui-ci ne tarde pas \u00e0 en tirer les cons\u00e9quences. Pour m\u00e9riter le nom de syst\u00e8me intelligent, un syst\u00e8me informatique doit collaborer, et pour cela, il doit suivre le raisonnement pas \u00e0 pas, \u00eatre toujours en prise, en phase, savoir tr\u00e8s exactement o\u00f9 l\u2019on en est sur le chemin qui m\u00e8ne vers la solution. Le moyen dont il dispose pour manifester cette capacit\u00e9, c\u2019est qu\u2019il puisse dire en toutes circonstances qu\u2019elle est, ici et maintenant, l\u2019information la plus pertinente <\/em>pour son utilisateur. L\u2019information pertinente n\u2019est jamais deux fois la m\u00eame, et surtout pas \u2013 bien entendu \u2013 quand c\u2019est la m\u00eame question qui est repos\u00e9e !<\/p>\n

Et il ne faut pas non plus que le syst\u00e8me oblige l\u2019interrogateur \u00e0 ce que ce soit lui qui se r\u00e9p\u00e8te. Pour qu\u2019un syst\u00e8me puisse \u00eatre consid\u00e9r\u00e9 intelligent, il faut qu\u2019il ait l\u2019air d\u2019\u00e9couter. Sinon l\u2019utilisateur s\u2019impatiente devant un interlocuteur de mauvaise volont\u00e9, qu\u2019il est tent\u00e9 d\u2019interpeller comme l\u2019instituteur qui apostrophe le cancre : \u00ab Vous avez entendu ce que je viens de dire ? Eh bien, r\u00e9p\u00e9tez ! \u00bb Le cancre sait alors qu\u2019il a int\u00e9r\u00eat \u00e0 dire quelque chose, n\u2019importe quoi plut\u00f4t que de se taire. Une nouvelle condition pour que l\u2019ordinateur soit l\u00e0, attentif \u00e0 ce qui lui est demand\u00e9, c\u2019est donc qu\u2019il retienne ce qui lui est dit, et pas seulement en vue de le r\u00e9p\u00e9ter \u00ab b\u00eatement \u00bb, mais pour qu\u2019il en soit inform\u00e9, <\/em>pour que ce qu\u2019il dira ensuite porte la trace que la chose est d\u00e9sormais sue par lui. Pour \u00eatre intelligent, il faut que ce qu\u2019on dit \u00e0 un syst\u00e8me fasse pour lui une diff\u00e9rence. <\/em>Autrement dit, pour qu\u2019un syst\u00e8me soit jug\u00e9 intelligent, il faut qu\u2019il apprenne.<\/em><\/p>\n

Il y a pour une machine une autre mani\u00e8re de tenir compte de ce qui lui est dit : c\u2019est qu\u2019elle change d\u2019avis. Il faut qu\u2019il soit possible de la convaincre non pas seulement d\u2019apprendre les choses qu\u2019elle ne sait pas encore, mais qu\u2019elle se trompe sur certaines choses qu\u2019elle croit savoir d\u00e9j\u00e0. Il ne faut pas qu\u2019elle d\u00e9vide son savoir de mani\u00e8re robotique, mais qu\u2019elle le soumette au titre d\u2019opinion. En tant qu\u2019opinion inform\u00e9e sans doute, mais en tant qu\u2019opinion. C\u2019est-\u00e0- dire comme une information qui se discute, qui se n\u00e9gocie. Et pour cela il faut que la machine module son adh\u00e9sion aux d\u00e9clarations qu\u2019elle fait, non pas en fonction de ce qui serait sa certitude <\/em>mais en gage de bonne volont\u00e9, parce que le savoir dont dispose un syst\u00e8me intelligent n\u2019est pas l\u2019aboutissement d\u2019un simple calcul, mais fait partie des \u00ab choses qui se discutent \u00bb. Pour qu\u2019un syst\u00e8me soit digne d\u2019\u00eatre appel\u00e9 intelligent, il faut donc qu\u2019il n\u2019ass\u00e8ne <\/em>pas son savoir mais qu\u2019il le n\u00e9gocie <\/em>avec son utilisateur.<\/p>\n

Percevoir l\u2019intention de son interrogateur, proposer \u00e0 tout moment l\u2019information la plus pertinente, apprendre, et n\u00e9gocier son savoir. Voici les caract\u00e9ristiques qui distinguent un syst\u00e8me informatique interactif d\u2019interrogation comme syst\u00e8me intelligent.<\/em><\/p>\n

Deuxi\u00e8me question :\u2028 De quoi se compose un syst\u00e8me intelligent ?<\/strong><\/strong><\/p>\n

On peut envisager un syst\u00e8me intelligent quelconque de mani\u00e8re tout \u00e0 fait g\u00e9n\u00e9rale en consid\u00e9rant qu\u2019il s\u2019agit d\u2019un m\u00e9canisme qui op\u00e8re une fonction : la variable est constitu\u00e9e des phrases entr\u00e9es par l\u2019utilisateur (input) et la valeur de la fonction est constitu\u00e9e des phrases produites en r\u00e9ponse par le syst\u00e8me (output). Une autre mani\u00e8re tout \u00e0 fait g\u00e9n\u00e9rale d\u2019envisager un syst\u00e8me intelligent est de le consid\u00e9rer comme une base de donn\u00e9es (permanente ou comprenant des \u00e9l\u00e9ments provisoires construits en cours de session) contenant des \u00e9l\u00e9ments de discours qui peuvent \u00eatre activ\u00e9s lorsqu\u2019apparaissent des contextes sp\u00e9cifiques. Dans cette derni\u00e8re optique, le syst\u00e8me d\u00e9termine un contexte en fonction des phrases entr\u00e9es par l\u2019utilisateur, et produit en sortie les \u00e9l\u00e9ments de la base de donn\u00e9es correspondant \u00e0 ce contexte.<\/p>\n

Pour ce qui est de la nature de la fonction op\u00e9r\u00e9e ou de l\u2019appareillage qui d\u00e9termine un contexte en fonction des entr\u00e9es, les modalit\u00e9s techniques sont \u00e9videmment tr\u00e8s diff\u00e9rentes selon que l\u2019on a affaire \u2013 pour prendre deux exemples de syst\u00e8mes intelligents distincts et \u00e9loign\u00e9s dans leur concept \u2013 \u00e0 un r\u00e9seau s\u00e9mantique ou \u00e0 un syst\u00e8me expert. Dans le premier cas, l\u2019appareillage est constitu\u00e9 du complexe : parseur, r\u00e9seau et proc\u00e9dures op\u00e9ratoires sur le r\u00e9seau, dans le second, du complexe : parseur, bloc-notes, base de r\u00e8gles et moteur d\u2019inf\u00e9rence.<\/p>\n

Mais quelles que soient les variations techniques, la finalit\u00e9 g\u00e9n\u00e9rale d\u2019un syst\u00e8me intelligent est la m\u00eame: maximiser la satisfaction de l\u2019utilisateur en produisant en sortie et \u00e0 partir des entr\u00e9es une information \u00e9clairante, utile et pertinente.<\/p>\n

On peut consid\u00e9rer \u2013 encore une fois de mani\u00e8re g\u00e9n\u00e9rale et simplifi\u00e9e \u2013 le c\u0153ur d\u2019un syst\u00e8me intelligent comme constitu\u00e9 d\u2019une partie statique et d\u2019une partie dynamique. La partie statique comprend des \u00e9l\u00e9ments de discours stock\u00e9s selon une certaine organisation, la partie dynamique (les proc\u00e9dures op\u00e9ratoires) s\u2019occupe de manipuler ces \u00e9l\u00e9ments en vue de construire des phrases de sortie r\u00e9pondant aux phrases entr\u00e9es par l\u2019utilisateur.<\/p>\n

Les \u00e9l\u00e9ments de discours manipul\u00e9s par le syst\u00e8me en vue des sorties sont constitu\u00e9s de mots ou de s\u00e9quences de mots plus ou moins longues (du mot au texte complet, en passant par des expressions de longueur diverse). Plus celles-ci sont longues et pr\u00e9fabriqu\u00e9es plus la t\u00e2che de leur articulation est simple, c\u2019est-\u00e0-dire, plus les proc\u00e9dures op\u00e9ratoires peuvent \u00eatre rudimentaires. Moins aussi les sorties sont sp\u00e9cifiques, et moins \u00e9galement l\u2019utilisateur est susceptible d\u2019\u00eatre satisfait par les r\u00e9ponses obtenues. Plus les s\u00e9quences de mots stock\u00e9es seront courtes, plus leur manipulation en vue de produire des sorties structur\u00e9es sera complexe. Une r\u00e9ponse \u00e0 la complexit\u00e9 croissante de la manipulation peut r\u00e9sider dans une sophistication proportionnelle des proc\u00e9dures op\u00e9ratoires. Mais la complexit\u00e9 croissante peut alternativement \u00eatre partiellement palli\u00e9e par une meilleure organisation des \u00e9l\u00e9ments stock\u00e9s qui minimise les manipulations en raison de contraintes associatives existant entre eux. Dans cette perspective, l\u2019auto-organisation n\u2019est rien d\u2019autre que l\u2019optimisation du rendement combin\u00e9 des proc\u00e9dures op\u00e9ratoires, des \u00e9l\u00e9ments stock\u00e9s et de leur organisation.<\/p>\n

Sachant que la sp\u00e9cificit\u00e9 des r\u00e9ponses d\u00e9termine la satisfaction de l\u2019utilisateur, mais aussi la taille, le prix et fiabilit\u00e9 d\u2019un syst\u00e8me intelligent, un choix doit \u00eatre fait quant au rapport sp\u00e9cificit\u00e9 des r\u00e9ponses\/taille du syst\u00e8me.<\/em><\/p>\n

Troisi\u00e8me question :\u2028 Un syst\u00e8me intelligent ressemble-t-il \u00e0 un \u00eatre humain ?<\/strong><\/strong><\/p>\n

Oui, en tout cas sous quatre rapports : en ce qu\u2019il semble viser l\u2019intention derri\u00e8re la question qui lui est pos\u00e9e, en ce qu\u2019il propose \u00e0 chaque instant l\u2019information la plus pertinente, en ce qu\u2019il apprend, en ce qu\u2019il n\u00e9gocie son savoir. Cela nous le savons d\u00e9j\u00e0.<\/p>\n

L\u2019utilisateur est un \u00eatre humain et il fonctionne comme un \u00eatre humain. Si un syst\u00e8me informatique lui appara\u00eet intelligent parce qu\u2019il remplit les quatre conditions qui viennent d\u2019\u00eatre \u00e9nonc\u00e9es, l\u2019utilisateur consid\u00e9rera aussi- t\u00f4t que la machine lui ressemble. Et s\u2019il la juge pour cette raison dot\u00e9e d\u2019autres qualit\u00e9s encore, qu\u2019elle est \u00ab cr\u00e9ative \u00bb, ou \u00ab coop\u00e9rative \u00bb, il ne pourra s\u2019emp\u00eacher de penser qu\u2019elle lui ressemble encore davantage.<\/p>\n

Mais pourquoi l\u2019homme lirait-il dans la machine des qualit\u00e9s dont il saurait pertinemment bien qu\u2019elles n\u2019ont pas \u00e9t\u00e9 programm\u00e9es dans le syst\u00e8me, la cr\u00e9ativit\u00e9 par exemple ? Parce qu\u2019\u00e0 partir du moment o\u00f9 l\u2019ordinateur se comporte de mani\u00e8re intelligente, il rel\u00e8ve enti\u00e8rement <\/em>de la fa\u00e7on dont un \u00eatre humain interpr\u00e8te le comportement d\u2019une cr\u00e9ature intelligente, il rel\u00e8ve automatiquement du sch\u00e9ma de pr\u00e9visibilit\u00e9 utilis\u00e9 pour parler de ce qui est intelligent en g\u00e9n\u00e9ral.<\/p>\n

\u00c0 partir du moment o\u00f9 l\u2019homme a pour la machine une certaine consid\u00e9ration, qu\u2019il exprime en disant qu\u2019elle est intelligente, il a tendance \u00e0 interpr\u00e9ter l\u2019ensemble de son comportement comme si c\u2019\u00e9tait celui d\u2019un \u00eatre humain. Selon la tendance que l\u2019on appelle l\u2019anthropomorphisme. Il consid\u00e9rera par exemple que l\u2019ordinateur a devin\u00e9 son intention, ou qu\u2019il a choisi de lui dire les choses les plus pertinentes, ou qu\u2019il a appris ce qui lui a \u00e9t\u00e9 dit, ou qu\u2019il n\u00e9gocie avec lui son savoir.<\/p>\n

L\u2019interrogateur ne peut ignorer que ce qui lui appara\u00eet comme de l\u2019intention, de la pertinence, de l\u2019apprentissage ou une disposition \u00e0 la n\u00e9gociation, a \u00e9t\u00e9 programm\u00e9 dans la machine. Il n\u2019imagine pas pour autant \u2013 et le plus souvent il sait que ce n\u2019est pas le cas \u2013 qu\u2019il existe au sein du syst\u00e8me des proc\u00e9dures dont on pourra dire par exemple que celle-ci est l\u2019intention dans la machine, ou celle-l\u00e0 la pertinence, etc. Cela pourrait \u00eatre le cas mais ce n\u2019est pas n\u00e9cessairement le cas : l\u2019utilisateur n\u2019exigera pas qu\u2019on lui garantisse par exemple que l\u2019intention est bien l\u00e0, c\u00e2bl\u00e9e dans l\u2019ordinateur \u00e0 tel endroit ou sous la forme de telles ou telles instructions, il est suffisant pour lui que le syst\u00e8me manifeste cette disposition sous une forme ph\u00e9nom\u00e9nale, <\/em>sous forme de ce que lui, \u00eatre humain, reconna\u00eet comme \u00e9tant l\u2019intention.<\/p>\n

Est-ce \u00e0 dire que plus un syst\u00e8me sera intelligent, plus il sera trait\u00e9 par un utilisateur humain comme s\u2019il \u00e9tait un autre homme ? Dans la mesure o\u00f9 l\u2019on peut appliquer \u00e0 une machine le sch\u00e9ma de pr\u00e9visibilit\u00e9 qui s\u2019applique aux hommes avec un nombre de restrictions d\u00e9croissant, la r\u00e9ponse est sans doute \u00ab Oui \u00bb, est-ce \u00e0 dire qu\u2019un utilisateur pourrait en venir \u00e0 consid\u00e9rer un syst\u00e8me intelligent comme identique \u00e0 lui-m\u00eame ? C\u2019est possible. Il faut se sou- venir cependant que l\u2019homme a toujours fait fl\u00e8che de tout bois pour d\u00e9nier \u00e0 ses semblables la qualit\u00e9 d\u2019homme \u00e9gal \u00e0 l\u2019image qu\u2019il se fait de lui-m\u00eame : la moindre diff\u00e9rence de constitution a pu servir \u00e0 l\u2019occasion de pr\u00e9texte, la diff\u00e9rence sexuelle, la couleur de la peau. Ce qui s\u00e9pare \u00e0 ce point de vue l\u2019homme d\u2019une machine \u2013 m\u00eame intelligente \u2013 est massif et pourra servir de support pour nier l\u2019identit\u00e9, mais les diff\u00e9rences s\u2019estompant, la discrimination ne durera peut-\u00eatre qu\u2019un temps.<\/p>\n

Quatri\u00e8me question :\u2028 Un syst\u00e8me intelligent fonctionne-t-il comme un \u00eatre humain ?<\/strong><\/strong><\/p>\n

\u00ab Oui \u00bb, au sens o\u00f9 il se comporte comme un \u00eatre humain. Oui, au sens o\u00f9 au niveau ph\u00e9nom\u00e9nal il est intelligent comme un homme est intelligent.<\/p>\n

\u00ab Peut-\u00eatre \u00bb, si le m\u00e9canisme de simulation de l\u2019intelligence au sein du syst\u00e8me a une certaine plausibilit\u00e9 en tant que m\u00e9canisme \u00e0 l\u2019\u0153uvre chez l\u2019homme.<\/p>\n

\u00ab Non \u00bb, au sens o\u00f9 le m\u00e9canisme de l\u2019intelligence dans la machine serait parfaitement identique \u00e0 celui d\u2019un \u00eatre humain, et ceci pour plusieurs raisons. La premi\u00e8re, banale, est que tant qu\u2019un syst\u00e8me informatique sera compos\u00e9 d\u2019\u00e9l\u00e9ments inorganiques, son fonctionnement ne pourra \u00eatre dit identique \u00e0 celui d\u2019un \u00eatre biologique tel que l\u2019homme. La seconde est que mises \u00e0 part quelques intuitions quant aux conditions pour qu\u2019un comportement apparaisse intelligent (voir les r\u00e9ponses \u00e0 la premi\u00e8re question), nous ne savons pas comment fonctionne l\u2019intelligence humaine, et il nous est par cons\u00e9quent impossible de reproduire l\u2019intelligence artificielle \u00e0 partir de ce que nous saurions d\u00e9j\u00e0 de l\u2019intelligence naturelle.<\/p>\n

En fait, la simulation de l\u2019intelligence sur une machine a pr\u00e9c\u00e9d\u00e9 jusqu\u2019\u00e0 pr\u00e9sent la compr\u00e9hension de l\u2019intelligence humaine dans son m\u00e9canisme r\u00e9el, et dans une large mesure \u2013 depuis vingt ans \u2013 c\u2019est le comportement intelligent de la machine qui a permis des hypoth\u00e8ses f\u00e9condes quant au fonctionnement du m\u00e9canisme de l\u2019intelligence humaine. Une telle dynamique dans la compr\u00e9hension \u2013 de l\u2019intelligence artificielle vers l\u2019intelligence humaine \u2013 n\u2019est bien entendu possible que si l\u2019intelligence est abord\u00e9e comme un ph\u00e9nom\u00e8ne de haut niveau, comme une forme globale ph\u00e9nom\u00e9nale, inanalys\u00e9e, et non comme un ph\u00e9nom\u00e8ne de bas niveau, comme un m\u00e9canisme pr\u00e9cis du fonctionnement c\u00e9r\u00e9bral.<\/p>\n

\u00c0 ce point de vue, l\u2019homme dispose de deux mod\u00e8les distincts du fonctionnement de l\u2019intelligence humaine. Le premier, qui est le plus rigoureux dans sa formulation, le plus contr\u00f4l\u00e9 dans son explication, c\u2019est celui qu\u2019offre la science. Ce mod\u00e8le a localis\u00e9 l\u2019intelligence dans le fonctionnement du cerveau et il s\u2019efforce de rendre compte de son \u00e9mergence \u00e0 partir de l\u2019anatomie et de la physiologie de cet organe. Ce mod\u00e8le pr\u00e9sente de nombreuses qualit\u00e9s, mais les connaissances qu\u2019il rassemble sont \u00e0 ce point fragmentaires qu\u2019elles ne peuvent encore proposer au mieux que quelques hypoth\u00e8ses partielles et locales.<\/p>\n

Le deuxi\u00e8me mod\u00e8le manque totalement de rigueur, il m\u00e9lange les niveaux d\u2019analyse et propose des hypoth\u00e8ses concurrentes inconciliables : c\u2019est celui qui est inscrit dans la langue et dans la culture et qui fait appel aux cat\u00e9gories et aux explications de la \u00ab psychologie populaire \u00bb. Mais c\u2019est aussi un mod\u00e8le complet, susceptible de rendre compte de fa\u00e7on parfaitement claire et coh\u00e9rente de l\u2019ensemble des comportements intelligents en termes de causes et d\u2019effets. C\u2019est le mod\u00e8le qui autorise \u00e0 dire par exemple que \u00ab l\u2019homme qui parle r\u00e9alise l\u2019intention d\u2019exprimer une id\u00e9e \u00bb. Mais c\u2019est aussi le mod\u00e8le qui n\u2019offre aucune garantie que les objets qu\u2019il met en sc\u00e8ne, comme l\u2019\u00ab intention \u00bb ou les \u00ab id\u00e9es \u00bb, ont une quelconque contrepartie au sein des m\u00e9canismes neurophysiologiques qui g\u00e9n\u00e8rent effectivement la parole, c\u2019est-\u00e0-dire qu\u2019il n\u2019offre aucune garantie que ces objets constituent davantage que des constructions ad hoc, une mani\u00e8re convenante et pratique d\u2019exprimer les choses.<\/p>\n

La question, \u00ab Un syst\u00e8me intelligent fonctionne-t-il comme un \u00eatre humain ? \u00bb, appelle donc deux types de r\u00e9ponses distinctes, selon que l\u2019on se situe dans la perspective du mod\u00e8le scientifique ou dans celle de la \u00ab psychologie populaire \u00bb.<\/p>\n

Si l\u2019on examine dans la perspective du mod\u00e8le scientifique de l\u2019intelligence, la mani\u00e8re dont un syst\u00e8me intelligent simule celle-ci, deux possibilit\u00e9s existent. Ou bien l\u2019intelligence est simul\u00e9e par un m\u00e9canisme dont la plausibilit\u00e9 en tant que mod\u00e8le du m\u00e9canisme \u00e0 l\u2019\u0153uvre chez l\u2019homme est faible, et l\u2019on peut alors r\u00e9pondre \u00ab Non \u00bb \u00e0 la question : non, le syst\u00e8me ne fonctionne pas comme un \u00eatre humain.<\/p>\n

Ou bien l\u2019on a affaire dans un syst\u00e8me intelligent \u00e0 une simulation de l\u2019intelligence par un m\u00e9canisme plausible pour l\u2019intelligence humaine (par exemple, la reconnaissance de formes par un r\u00e9seau de neurones formels), et l\u2019on peut alors dire \u00ab Peut-\u00eatre \u00bb : oui le syst\u00e8me fonctionne peut-\u00eatre comme un \u00eatre humain. Et l\u2019on ne pourra pas se montrer plus affirmatif tant que l\u2019on ne saura pas avec certitude quel est le m\u00e9canisme r\u00e9el qui produit ces effets chez l\u2019homme.<\/p>\n

Si l\u2019on se situe au contraire dans la perspective de la mod\u00e9lisation de l\u2019intelligence que propose la \u00ab psychologie populaire \u00bb, alors la r\u00e9ponse est \u00ab Oui \u00bb, un syst\u00e8me intelligent fonctionne comme un \u00eatre humain au sens o\u00f9 il se comporte comme lui au niveau ph\u00e9nom\u00e9nal, et la r\u00e9ponse est \u00ab Peut-\u00eatre \u00bb \u00e0 toutes les autres fa\u00e7ons de comprendre la question.<\/p>\n

Car tant que l\u2019on ne saura pas comment fonctionne effectivement l\u2019intelligence humaine, on ne pourra pas savoir si les cat\u00e9gories et les m\u00e9canismes que postule la psychologie populaire (l\u2019intention, la signification, les id\u00e9es, la pens\u00e9e, la conscience, etc.) ont une contrepartie effective, existent comme objets, au niveau des m\u00e9canismes objectifs \u2013 en plus d\u2019avoir une valeur explicative ind\u00e9niable au niveau ph\u00e9nom\u00e9nal.<\/p>\n

Il y a une cons\u00e9quence importante \u00e0 ceci du point de vue de l\u2019intelligence artificielle, et elle m\u00e9rite d\u2019\u00eatre soulign\u00e9e car elle est essentielle : curieusement, l\u2019existence dans les m\u00e9canismes c\u00e9r\u00e9braux de contreparties effectives aux objets de la psychologie populaire n\u2019a aucune importance pratique pour la r\u00e9alisation de syst\u00e8mes intelligents.<\/p>\n

La raison en est la suivante : l\u2019utilisateur d\u2019un syst\u00e8me intelligent est (dans l\u2019\u00e9tat actuel des choses) un \u00eatre humain, et ceci implique qu\u2019il juge n\u00e9cessairement de l\u2019intelligence de la machine au niveau ph\u00e9nom\u00e9nal- qui est celui qu\u2019appr\u00e9hende de mani\u00e8re tout \u00e0 fait satisfaisante la psychologie populaire (c\u2019est l\u00e0 le sens des r\u00e9ponses \u00e0 la premi\u00e8re question).<\/p>\n

Ceci veut dire que si l\u2019utilisateur d\u2019un syst\u00e8me intelligent a l\u2019impression <\/em>que celui-ci comprend une intention, qu\u2019il manipule des significations, qu\u2019il exprime des id\u00e9es ou qu\u2019il est conscient, il est indiff\u00e9rent <\/em>que ces objets jouent ou non un r\u00f4le effectif dans les m\u00e9canismes impl\u00e9ment\u00e9s dans la machine. Autrement dit, dans la mesure o\u00f9 un utilisateur pourra \u2013 lui \u2013 toujours attribuer des intentions, reconna\u00eetre des id\u00e9es ou des significations dans le fonctionne- ment d\u2019un syst\u00e8me naturel ou artificiel, le seul probl\u00e8me qui se posera au concepteur d\u2019un syst\u00e8me intelligent sera que la machine manifeste ces propri\u00e9t\u00e9s au niveau ph\u00e9nom\u00e9nal. Lequel est le seul qui importe \u00e0 l\u2019utilisateur humain, puisque c\u2019est \u00e0 ce niveau qu\u2019il juge de l\u2019intelligence et qu\u2019il mobilise le sch\u00e9ma de pr\u00e9visibilit\u00e9 qui s\u2019applique \u00e0 ce qui est intelligent en g\u00e9n\u00e9ral.<\/p>\n

\u00c9videmment si l\u2019on est convaincu que, par exemple, la machine ne peut donner l\u2019impression <\/em>qu\u2019elle manipule de la signification que si un m\u00e9canisme en elle manipule effectivement <\/em>de la signification, alors il faut, pr\u00e9alablement \u00e0 toute r\u00e9alisation, que l\u2019on comprenne ce qu\u2019est la signification et comment on l\u2019impl\u00e9mente dans une machine. Si l\u2019on est convaincu au contraire qu\u2019une machine peut donner l\u2019impression au niveau ph\u00e9nom\u00e9nal <\/em>qu\u2019elle manipule de la signification alors que son m\u00e9canisme ne fait intervenir aucun \u00e9l\u00e9ment qui puisse \u00eatre lu comme \u00e9tant de la signification, alors il est indiff\u00e9rent pour le progr\u00e8s de l\u2019intelligence artificielle que l\u2019on sache un jour si oui ou non la signification intervient de mani\u00e8re effective dans le m\u00e9canisme op\u00e9rant dans le cerveau humain. Et le seul probl\u00e8me qui subsiste alors, et qui doit \u00eatre r\u00e9gl\u00e9 de mani\u00e8re pragmatique, est que le syst\u00e8me simule au niveau ph\u00e9nom\u00e9nal une manipulation de la signification.<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Pour signaler hier la r\u00e9\u00e9dition prochaine de Principes des syst\u00e8mes intelligents<\/em><\/a> (1989) aux \u00e9ditions du Croquant, j\u2019ai reproduit son introduction<\/a>. Je ne sais pas si je mettrai en ligne en feuilleton la totalit\u00e9 des chapitres du livre, quoi qu\u2019il en soit, voici le second, o\u00f9 je r\u00e9ponds avec vingt-trois ans d\u2019avance, […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13,2138],"tags":[941],"class_list":["post-42913","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-linguistique-2","tag-principes-des-systemes-intelligents"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/42913","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=42913"}],"version-history":[{"count":19,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/42913\/revisions"}],"predecessor-version":[{"id":45800,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/42913\/revisions\/45800"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=42913"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=42913"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=42913"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}