L’empathie se couple chez l’humain à une partie consciente de l’attitude : « que vais-je faire pour la/le convaincre ? Pour la/le séduire ? « , elle a une partie spontanée assez variable (tendant vers zéro le long du spectre autistique, ce que pourra commenter Paul Tréhin, auteur du billet LES ORIGINES DE L’ART ET DE LA CULTURE : le rôle des individualités) et une partie « négociée » lourdement médiée par la société, les règles de dialogue orales, la « nétiquette généralisée » si je peux en profiter pour faire d’une (récente) partie un tout.
Il me semble donc qu’il y a cette tension entre le spontané et le négociable dans l’empathie.
Si je me souviens bien du « principe des systèmes intelligents », la machine doit donner l’impression que le savoir est « négociable » pour paraître humaine (c’est du moins mon à-peu-près sur la question). Avec différentes formes de négociabilité (vigneronne ou plus calme).
« L’ouvrage de Paul Jorion constitue une introduction rigoureuse et préalable à une réflexion et à un travail dans le champ de l’intelligence artificielle ‑ c’est à ce titre que nous le recommanderions comme lecture introductive à des étudiants en robotique. Il a le mérite de poser les problèmes d’ordre logique, psychologique et dans une moindre mesure anthropologique qui travaillent ce champ disciplinaire (mobilisant à ce titre une vaste érudition). La lecture des Principes des systèmes intelligents, presque vingt-cinq ans après leur première publication1, fait apparaître au moins deux choses : la première, que ces réflexions ne semblent pas avoir (encore) été véritablement considérées par la communauté des chercheurs en intelligence artificielle (et tout particulièrement le recours à la métapsychologie freudo-lacanienne) ‑ à l’exception toutefois de quelques équipes de recherche s’inscrivant dans le courant de la robotique développementale cognitive qui explore le champ des systèmes s’auto-organisant par apprentissage en prenant au sérieux le rôle que joue le langage dans l’appareil psychique humain2. La seconde, que la culture dans laquelle sont pris les locuteurs humains a évolué, si bien que l’utilisateur d’un système artificiellement intelligent au début des années 1990, n’est peut-être plus tout à fait le même que l’utilisateur des années 2010. En effet, les individus de nos sociétés tendent à se concevoir toujours plus sur le modèle de l’ordinateur, voire comme des systèmes algorithmiques de prise de décision3. Le succès relatif de la psychologie cognitive dans la culture a bien dû participer à la diffusion d’un modèle de l’humain ; or, il vaut la peine de noter que cette psychologie repose sur le paradigme computationnel, soit ce qui affirme que l’esprit humain est comparable à un ordinateur traitant des informations, répondant (output) à des stimulations (input). D’un côté donc, une psychologie puisant dans les recherches en informatique ; de l’autre, des recherches en intelligence artificielle ou en robotique puisant (principalement) dans la psychologie des opérations cognitives4. Ce n’est pas le moindre intérêt de l’ouvrage de Jorion que d’offrir une perspective faisant apparaître la complexité de l’intelligence humaine ou artificielle en soulignant l’hétérogénéité des lois du langage à tout substrat (organique ou informatique)5. »
C’est avec délice que j’avais vu il y a deux ans Les femmes du 6ème étage de Philippe Le Guay, c’est donc sans inquiétude ni appréhension que je suis allé voir aujourd’hui Alceste à bicyclette, du même.
Je hais les prétendus critiques de cinéma dont le compte-rendu se limite à dévoiler la chute de l’intrigue, ce qui ne requiert aucun talent, si ce n’est celui d’avoir été assis là dans le noir dans une salle pendant deux heures. J’en dirai donc le moins possible à ce sujet. Voici cependant : dans le film de Le Guay, l’interaction entre deux hommes et une femme prouve qu’Alceste, le misanthrope de Molière, avait raison.
C’est donc un film pessimiste. Mais on ne peut s’arrêter là, et la raison pourquoi, c’est que Lacan a affirmé, à très juste titre d’ailleurs, qu’Alceste est fou (Lacan 1966 [1946] : 173). Molière n’en pensait pas moins, qui sous-titra sa pièce « L’atrabilaire amoureux ». L’excès de bile noire est bien une maladie, même si nous ne croyons plus à son existence aujourd’hui, ni en trop, ni en trop peu, ni même en quantité suffisante.
Le peu de liberté dont nous disposons en tant qu’êtres humains nous permet cependant d’adhérer plus ou moins aux propos que nous tenons : de la citation par nous sans engagement aucun de quelque chose que nous avons entendu dire : « Il paraît que… », à notre identification totale : « Je jure mes grands dieux que… » (Jorion1989 ; 2012 : 220-223 ; 2009 : 147-156).
La représentation du mécanisme de la parole que l’on trouve dans le premier texte préfigure en effet celle que j’ai tenté de théoriser dans Le secret de la chambre chinoise et que j’avais modélisée de manière anticipée dans le projet ANELLA (Associative Network with Emergent Logical and Learning Abilities) que j’ai eu l’occasion de réaliser au laboratoire d’intelligence artificielle des British Telecom et dont j’avais rendu compte dix ans auparavant dans Principes des systèmes intelligents (1989 ; 2012) : à savoir que « si ce que l’on dit, on n’a jamais eu ‘l’intention de le dire’, alors ce que l’on dit, on l’apprend seulement – comme quiconque – au moment où on se l’entend dire » (1999 : 190).
« C’est l’histoire d’un mec… », commençaient les histoires du regretté Coluche, et c’est bien le cas ici aussi : c’est l’histoire d’un mec qui, d’une part, s’est émerveillé sept ou huit ans auparavant devant le pouvoir proprement démiurgique de la programmation (on écrit quelques lignes de texte et une machine FAIT ce qu’on lui dit de faire ! Wow !) et qui, d’autre part, à cette époque-là (on est en 1987), entreprend une deuxième psychanalyse (sa première tentative ayant été une totale perte de temps – et d’argent !) et qui, en raison de l’immense talent de son nouvel analyste (Philippe Julien), se convainc que Freud n’était pas seulement un extraordinaire penseur, mais aussi un authentique découvreur de continents.
Et quand donc ce mec rencontre un jour, au cours de ses explorations de plus en plus poussées de la science informatique, l’objet « intelligence artificielle », et qu’il se rend compte que les spécialistes de cette discipline (engagée dans une voie de garage), cherchent à s’en sortir en produisant des modèles de l’humain de plus en plus mathématiques et abstraits, il se dit : « Si l’on veut simuler l’intelligence humaine, c’est la psychanalyse qui a sorti de sa gangue ce qu’il s’agissait d’avoir compris : que le moteur permettant d’animer un univers de mots de manière à produire des phrases qui apparaîtront intelligentes à ceux qui les entendront, c’est l’émotion, autrement dit, une dynamique d’affect ».
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Alors là, aujourd’hui, on passe aux choses sérieuses : à ce qui fit véritablement l’originalité de ce livre. Croyez-moi, mes amis : en 1989, on n’avait jamais parlé d’intelligence artificielle dans les termes que vous lirez ci-dessous…. et ce n’est qu’un début !
12. La dynamique de l’affect
La question de l’affect en intelligence artificielle
La question de l’affect n’a jamais été éludée en intelligence artificielle. Il y a dix ans, Douglas Hofstadter écrivait :
« … il est un peu prématuré de penser à des ordinateurs qui pleurent : il faut d’abord penser à des règles qui permettent aux ordinateurs de s’occuper du langage et d’autres choses ; nous serons confrontés aux questions plus profondes en temps utile. » (Hofstadter 1980 [1979] : 676.)
Évoquer des ordinateurs qui pleurent était pour Hofstadter une manière imagée d’affirmer qu’il était prioritaire pour les systèmes intelligents de manipuler correctement le langage, et que la question de l’affect pourrait être traitée ultérieurement. Dans le contexte de 1979 il était urgent de réaliser des systèmes convaincants avant que le public ne se laisse impressionner par la croisade menée contre l’IA par Hubert Dreyfus – selon qui l’ordinateur ne pourrait produire une phrase correcte avant qu’on ne l’ait pourvu d’un corps et… d’une âme ! (Dreyfus 1979 [1972] : troisième partie.)
Le moment est venu de faire un premier point. Nous nous efforçons dans cet ouvrage de déterminer les principes des systèmes intelligents. Ceux-ci sont un certain type de systèmes informatiques définis sur le modèle de ceux qui existent aujourd’hui sous cette dénomination, mais aux caractéristiques desquels ont été ajoutés deux traits supplémentaires : une capacité d’apprentissage et une disposition du système à négocier avec son utilisateur le savoir qu’il lui propose.
Ce qui distingue l’approche défendue ici des approches plus classiques réside dans une double volonté : celle de reprendre en quelque sorte le problème comme s’il n’avait jamais été traité, et celle de tendre vers les solutions les plus simples, suivant en cela la conviction que celles-ci n’ont peut-être jamais été véritablement explorées.
La perspective qui a été retenue comme étant probablement la plus économique envisage la génération du discours comme un parcours tracé à l’intérieur d’un espace contenant l’ensemble des mots de la langue, le « lexique ».
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Pour que le modèle de la mémoire soit plausible par rapport à ce que nous savons de la constitution du cerveau et de ce que nous révèlent ses dysfonctionnements dans l’aphasie, l’approche classique en IA des « réseaux sémantiques » : mots attachés aux sommets d’un graphe, relations entre eux représentées par des arcs, doit être inversée : il faut recourir au « dual » d’un tel graphe, où les mots seront attachés à des arcs, et autant d’arcs qu’il existe d’usages possibles de ce mot.
Le dual d’un graphe
Le choix qui a été fait pour ANELLA a donc été d’inverser le mode de représentation classique en matière de réseaux sémantiques et d’utiliser les arcs pour représenter les éléments (antécédent et conséquent) des enchaînements associatifs, et de réserver les sommets pour un autre usage. La démarche suivie consistait donc – par rapport à la démarche classique – en une inversion des sommets en arcs et des arcs en sommets. Lorsqu’il s’agit comme ici de graphes, une telle inversion équivaut à la construction du « dual » d’un graphe. Il existe en fait pour un graphe donné de nombreux types possibles de duaux. La forme de dual nécessaire pour le type de représentation recherché exigeait :
a) qu’il privilégie l’enchaînement associatif, c’est-à-dire une séquence « sommet/arc/sommet » dans un réseau sémantique, pour le transformer en séquence « arc/sommet/ arc » dans un réseau mnésique ;
b) que le passage au dual génère automatiquement la distribution du signifiant en la multiplicité des enchaînements associatifs où il s’inscrit (il serait sans intérêt évidemment qu’il faille entrer « à la main » dans le système, « pomme entre poire et prune », « pomme entre Adam et Ève », et ainsi de suite).
Or, les mathématiciens n’avaient jamais décrit un objet possédant les propriétés que nous en exigions. Il a donc fallu formaliser un nouvel objet mathématique qui fut dénommé P-Dual d’un graphe.
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Je me moque ici gentiment de Noam Chomsky (ouh ! le garnement !) que je ne suis jamais parvenu à prendre entièrement au sérieux, pas plus d’ailleurs en tant que linguiste qu’en tant que figure politique. Je déroge très partiellement à la règle de vous épargner les tonnes de notes qui se trouvent dans le livre.
Enchaînements associatifs sémantiques
Aux enchaînements associatifs matériels s’opposent les enchaînements associatifs sémantiques. Le mot « sémantique » renvoie malheureusement à la notion de signification qui est en soi très confuse. Plusieurs chapitres seront consacrés à la notion de signification, le mot « sémantique » devra être interprété rétrospectivement à la lumière des éclaircissements qu’ils apporteront.
La synonymie
La synonymie pose un problème particulier et tout spécialement important en IA, celui dit de l’« étoile du soir » et de l’« étoile du matin », emprunté à une réflexion du philosophe-logicien Gottlob Frege (Frege 1971 [1892] : 108). Il est courant que l’on évalue un système intelligent sur sa capacité à traiter la synonymie d’« étoile du soir » et d’« étoile du matin » : comment le système saura-t-il qu’il s’agit dans l’un et l’autre cas du même corps céleste, à savoir la planète Vénus ? La réponse est si simple qu’il faut imaginer que c’est sa simplicité même qui a dû jouer un rôle d’obstacle à sa solution. En effet, un système ne peut savoir qu’« étoile du soir » et « étoile du matin » sont synonymes que pour la même raison exactement pour laquelle un être humain le saura : parce qu’on le lui aura appris. Il s’agit là de la seule réponse possible. Si on lui a dit que les deux mots renvoient à la même chose, un système pourra stocker les deux « étiquettes » comme des alternatives, sinon, il devra les stocker de manière séparée. Et, de la même manière qu’un système – comme un être humain – pourra stocker le même texte comme mot phrase ou comme mots distincts liés par un enchaînement associatif, un système enregistrera des synonymes comme traces mnésiques alternatives ou comme traces mnésiques distinctes, selon la connaissance qu’il a ou non de la synonymie.
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Première partie d’un chapitre qui s’intéresse à la manière dont deux mots peuvent être associés en mémoire. Connexion envisagée pour commencer : selon la consonance uniquement (demain : selon la signification).
9. Les types d’enchaînements associatifs
Au chapitre 7, le relevé a été fait des quatre cas de figure qui se présentent dans l’association des mots (signifiants) et des images : de mot à mot, de mot à image, d’image à mot et d’image à image. Tous sont aussi importants et il serait crucial pour tout système intelligent qui viserait à mimer l’être humain de manière complète qu’il puisse procéder selon ces quatre types d’enchaînements associatifs. La simulation de l’humain n’est cependant pas l’objectif du présent ouvrage : son ambition se cantonne à l’exploration des capacités auto-organisantes d’un univers de mots, et la question de l’association des images sera, à partir de maintenant laissée de côté.
Qu’il s’agisse de l’« association induite » ou de l’« association libre », les enchaînements associatifs constatés ne couvrent pas l’éventail des combinaisons que l’on obtiendrait en associant deux mots au hasard, et on peut établir relativement aisément la typologie des cas effectivement observés. Il n’est pas certain toutefois que ces regroupements seraient valables pour d’autres familles de langues que les nôtres : il s’agit d’un aspect de la question qui reste à explorer.
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Chapitre court et quelque peu énigmatique mais qui vise à ouvrir la question : « À l’aide de quel objet mathématique modéliser la mémoire stockée dans un cerveau ? » (la « matrice » dont il est question dans la dernière phrase, est un type de tableau utilisé en algèbre).
8. L’organisation de la mémoire
Revenons un moment sur cette conception qui a considéré ce qui n’est – jusqu’à preuve du contraire – que de simples enchaînements de mots, comme des « idées ». Que sont en réalité les « idées » dans cette optique où « les dis- cours expriment des idées », sinon le sens, envisagé comme quelque chose qui pourrait être distingué des mots, à savoir la signification à l’état pur ? Et pourquoi les enchaînements associatifs pourraient-ils suggérer l’idée du sens à l’état pur, sinon parce que ces enchaînements ne sont précisément pas quelconques mais sont structurés de manière spécifique – avec pour conséquence qu’ils constituent à proprement parler des « unités élémentaires de signification ». On pourrait alors distinguer dans la mémoire d’un système intelligent, deux types d’unités distinctes : des signifiants isolés que nous avons appelés jusqu’ici éléments de discours, et les couples ordonnés d’éléments de discours que constituent les enchaînements associatifs observés – où l’on peut distinguer un « antécédent » et un « conséquent » – et qu’on pourrait appeler éléments de signification.
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Il est question ici des préjugés inscrits dans la langue qui créent des obstacles à une réflexion claire sur ces questions.
6. Remémoration, pensée, raisonnement et discours (2e partie)
La psychologie populaire
Dire que la parole est l’expression de la pensée, cela revient pour nous à emprunter les termes de la « psychologie populaire » auxquels nous recourons quotidiennement pour expliquer nos faits et gestes. Quelle que soit la validité phénoménale de celle-ci, nous risquons d’être victimes de ce que Wittgenstein appelait l’« illusion grammaticale » : supposer qu’une chose existe sur la seule foi de l’existence d’un mot pour la nommer. L’IA n’a pas toujours su se garder de ce danger et ce n’est que très rarement que des auteurs s’interrogent sur des notions comme « pensée », « idée », « signification », « croyance » ou « intention » en se demandant si l’existence du mot constitue une garantie suffisante de l’existence de la chose qu’il nomme apparemment – au sens où il existerait pour elle une contrepartie réelle au sein des mécanismes neurophysiologiques (Stich 1983 constitue une exception notable à cette tendance).
L’existence de la psychologie populaire pose cependant un problème sérieux à l’intelligence artificielle : faut-il éviter entièrement son vocabulaire ou conserver certaines de ses notions, et dans ce cas, lesquelles ? Si l’on dit par exemple la chose suivante,
« Eugène pensait qu’Eusèbe avait poussé le bouchon un peu loin : dès qu’il le verrait il avait l’intention de lui faire une remarque acerbe qui signifierait que la plaisanterie avait assez duré. »
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Ici, j’introduis quelques principes qui permettront de simplifier par la suite : le « par coeur » est stocké en bloc.
5. Les éléments de discours
La constatation suivante a été faite au deuxième chapitre: plus grossière est la définition d’un contexte par un système intelligent, et plus facile il lui est de répondre à un utilisateur à l’aide d’éléments de discours déjà largement préfabriqués. À l’inverse, la production en sortie de réponses très spécifiques demande à ce que soient combinés des éléments de discours de petite taille et dont le mot constitue la limite inférieure. Il a été envisagé au chapitre précédent une manière particulière de produire des sorties : le parcours du lexique de la langue selon la méthode dite au coup par coup, impliquant l’inscription sur le lexique de chenaux précontraints. À titre d’illustration était proposé un exemple où n’intervenaient que des mots envisagés isolément. À ce stade de la démonstration il s’agissait cependant seulement de mettre en évidence un mode particulier d’organisation des éléments de discours stockés en mémoire sans préjuger encore de ce que ceux-ci devraient être.
Dans les expériences d’« association induite » menées par le psychiatre – futur psychanalyste – Carl Jung, au début du siècle (études rassemblées dans Jung 1973), on constate que les sujets d’expérience sommés de répondre de manière immédiate à un mot qui leur est proposé par un autre, produisent parfois des associations telles que « pain »/ « quotidien » ou « larme »/ « vallée », recomposant des expressions qui sont manifestement stockées en mémoire « en continu » pour former une expression unique.
Je pars bien entendu d’un grand rire sardonique (genre Basam Damdu) quand je vois l’un d’entre vous m’opposer ce qu’il croit être une objection imparable et dont je sais que le problème fut résolu par moi plus loin dans le livre. Ceci m’encourage à poursuivre malicieusement la publication des chapitres de Principes des systèmes intelligents. N.B. J’ignore – à de très rares exceptions près – les très nombreuses notes qui émaillent le texte.
4. Les systèmes intelligents dans la perspective de l’auto-organisation
Il a été dit au chapitre précédent que l’optimisation du rapport existant entre les éléments de discours stockés en mémoire, leur organisation et les procédures opératoires portant sur eux, constitue ce qui pourra apparaître au sein du système comme son auto-organisation. Il s’agit d’un complexe indissociable et toute réflexion sur l’optimisation ne peut porter que sur l’ensemble. Il faut procéder cependant dans un certain ordre. Faisons débuter l’investigation par une réflexion générale portant sur les stratégies globales de développement d’un système et examinons comment se présentent les options envisageables du point de vue de l’optimisation recherchée.
On peut prendre un discours, une parole, et l’envisager de la manière suivante : comme un parcours séquentiel à l’intérieur d’un espace de signifiants (de mots envisagés comme réalités acoustiques, indépendamment de leur signification), c’est-à-dire comme un chemin tracé sur un lexique compris comme la liste de tous les mots d’une langue. Untel parcours peut consister par exemple à aller de « Le » à « chat », de « chat » à « est », de « est » à « sur », de « sur » à « le », de « le » à « tapis », pour obtenir une phrase chère aux philosophes anglo-saxons de l’IA, « Le chat est sur le tapis ».
Comme un débat intéressant est en train de s’instaurer sur le blog (par opposition au silence pesant qui accueillait la parution d’un livre en 1989), je continue la publication des chapitres de Principes des systèmes intelligents.
3. Caractéristiques d’un système intelligent
Une réflexion portant sur les principes des systèmes intelligents ne peut se concevoir valablement que dans le cadre d’un projet qui en constitue à la fois l’horizon et l’épreuve : la réalisation d’un système intelligent. Définissons donc un cadre à seul fin de référence : tel est l’univers au sein duquel se déploie notre investigation. Ce qui a été dit au chapitre précédent quant à l’attente d’un utilisateur en matière d’intelligence d’un système (prise en compte de son inten- tion, présentation par le système de l’information qui lui est la plus pertinente, acquisition par la machine du savoir qu’il lui propose, négociation par la machine du savoir dont elle dispose), dépasse l’ambition des réalisations actuelles en matière de systèmes intelligents. Ceci n’est pas en soi gênant : pour réserver la part de son enthousiasme et de sa créativité, le chercheur a besoin d’une telle perspective de dépassement, il a besoin d’un authentique projet.
Examinons alors de manière plus fine comment se présente le cadre qui nous servira de référence :
1. Un système intelligent dispose d’un savoir.
Un SI dispose, stocké en mémoire, d’un ensemble d’informations susceptibles d’être augmentées, effacées ou modifiées dans leur contenu. Il va de soi que ces informa- tions sont pour la facilité de leur manipulation organisées d’une certaine manière, soit ce que l’on entend par « base de données ».
2. Un système intelligent est à même de transmettre son savoir.
Un SI est à même de communiquer son savoir à un uti- lisateur, sous une forme que celui-ci comprend. Soit donc l’existence d’une interface en langue naturelle (orientée sorties).
3. Un système intelligent est à même d’acquérir un savoir.
Un SI est à même d’extraire des connaissances de l’information que lui transmet son utilisateur. Ce qui implique au moins l’existence d’un analyseur (parseur). Mais aussi, entre celui-ci et la base de données conçue comme dynamique, un « module d’apprentissage »,
4. Un système intelligent veut apprendre.
Soit aussi, l’existence d’un « module d’interrogation de l’utilisateur » connecté (sorties) avec le module d’apprentissage.
5. Un système intelligent n’impose pas son savoir mais le négocie avec son utilisateur.
Soit l’existence de deux interfaces en langue naturelle capables d’interpréter la logique intersubjective qui lie nécessairement deux interlocuteurs, permettant au système et à l’utilisateur de négocier les connaissances qu’ils échangent : un « module d’entrée » capable d’interpréter le degré d’adhésion de l’utilisateur aux propositions qu’il soumet au système, un « module de sortie » permettant au système de présenter ses affirmations selon un degré variable de négociabilité, correspondant au caractère plus ou moins révisable pour lui des connaissances correspondantes.
6. Un système intelligent a une personnalité propre.
La structuration du réseau sémantique sur laquelle repose un SI s’opère systématiquement à partir des connaissances déjà enregistrées. Un SI a donc une histoire1 irréversible et celle-ci porte sur l’inscription successive des connaissances dans sa dimension affective ou émotionnelle aussi bien que dans sa dimension cognitive.
Illustrons cette considération un peu abstraite : un système intelligent qui a a acquis successivement la médecine et l’art de l’ingénieur abordera les problèmes d’une autre manière que celui qui aura parcouru l’itinéraire inverse : disons que le premier aura tendance à concevoir la réalisation d’un ouvrage comme une situation à traiter à l’exemple d’une cure, alors que le second tendra à envisager un patient comme un problème structurel à résoudre.
Qu’on ne prenne cependant pas cet exemple imaginaire trop à la lettre : ce que j’entends suggérer, c’est que les premiers savoirs acquis par un système lui impriment une tendance à aborder les problèmes qui se poseront à lui ensuite selon la prégnance (en réalité, la configuration topologique) des premières inscriptions en mémoire, celles qui correspondraient – s’il s’agissait d’un être humain – à la mémoire infantile, dont la psychanalyse a souligné l’importance capitale pour la connaissance comme pour l’affect.
En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour vous proposer des contenus ciblés adaptés à vos centres d’intérêts et réaliser des statistiques de visites.OKPolitique de confidentialité
Recommandez par mail
