Ouvert aux commentaires.
Tandis que les algorithmes d’apprentissage non-supervisé progressent chaque jour un peu plus et tendent à nous ressembler, il semble que les êtres humains perdent en complexité et en nuances, voire en intelligence. Sommes-nous en train de nous mettre à fonctionner comme des IA ?
Suite et fin de l’entretien du 5 mai 2016 avec Franck Cormerais et Jacques-Athanase Gilbert de la revue Études digitales, en complément de l’entretien intitulé De l’anthropologie à la guerre civile numérique.
X. L’homme est un robot sentant
J’ai choisi dans Le dernier qui s’en va éteint la lumière, de développer un modèle de la conscience que j’ai proposé pour la première fois dans un article publié en 1999 dans la revue L’Homme, intitulé « Le secret de la chambre chinoise ». Dans cet article, je tire les conséquences de la découverte par le psychologue Benjamin Libet que ce que nous appelons notre « intention » de poser un acte n’intervient qu’après que cet acte a été posé. Le retard avait été calculé par Libet comme étant d’une demi-seconde mais des études récentes ont montré que le délai pouvait se monter jusqu’à dix secondes. Des mots comme « volonté » ou « intention » perdent du coup le sens que nous leur attribuons habituellement ; la question se pose même s’il convient encore de les utiliser.
Parce que je me dis que cela pourrait intéresser certains d’entre vous qui n’auront pas le désir d’aller fouiller dans la discussion qui a lieu en ce moment à propos de ma vidéo d’hier, je donne à cet échange davantage de visibilité.
« ce qui nécessite au préalable que cet ordinateur acquière la conscience de soi. »
Non absolument pas : il suffit qu’il mime une dynamique d’affect. C’est ce que j’avais réalisé dans mon projet ANELLA pour British Telecom, voyez Principes des systèmes intelligents (1989 ; 2012).
Je suis parti à la recherche d’un article plus technique sur ANELLA, présenté à British Telecom dans un colloque interne en janvier 1990. Je l’ai retrouvé, ça s’appelle : An alternative neural network representation for conceptual knowledge.
Pour voir comment on mime l’émotion dans une machine, voir la partie The dynamics of a P-Graph neural network.
Continuer la lecture de Comment donner une volonté à un robot
Le biologiste François Jacob a utilisé à propos de notre cerveau, une image admirable : le cerveau humain est conçu, dit-il, comme une brouette sur laquelle aurait été greffé un moteur à réaction. Par cette image frappante, il attirait notre attention sur le fait que notre cerveau n’est pas constitué comme une machine d’une seule pièce. Il y a en son centre, le cerveau reptilien, appelé ainsi parce qu’il possède déjà la même structure chez le reptile, et le cerveau des mammifères s’est construit comme une couche additionnelle, absolument distincte : le cortex est d’une autre nature que le cerveau reptilien. Lequel est celui des sens, de la réaction immédiate, celui du réflexe, de l’affect, comme s’expriment les psychologues.
Le cortex s’est spécialisé dans le raisonnement, dans la réflexion rationnelle, l’enchaînement des arguments, le calcul mathématique, tout ce qui est de l’ordre des symboles, et il est greffé sur ce cerveau reptilien qui est lui d’une nature purement instinctive, ce qui fait que nous réagirons par l’enthousiasme ou par la peur devant ce que notre cerveau-cortex aura déterminé de faire. Les plus beaux exemples dans ce domaine, ce sont bien sûrs les traders qui nous les proposent. Ceux d’entre mes lecteurs qui connaissent des traders savent que le jour où ils ont gagné beaucoup d’argent ils sont dans les restaurants et les bars des beaux quartiers, ils fument de gros cigares et boivent beaucoup, alors que les jours où ils ont perdu des sommes impressionnantes, on les voit beaucoup moins : ils sont à la maison, ils essaient de dormir et ont pris des cachets pour tenter d’y parvenir.
Continuer la lecture de Piqûre de rappel : NOTRE CERVEAU : CONSCIENCE ET VOLONTÉ, le 7 avril 2012
Billet invité.
Cher « Un Belge »,
J’ai lu avec intérêt ton billet intitulé « Le robot n’est pas celui qu’on croit » où tu nous assimiles d’ores et déjà à des robots, je souscris à cette analyse, qui met le doigt sur le symptôme d’une humanité en perdition.
Nonobstant, il me semble qu’on peut apporter un élément supplémentaire dans le débat ; je veux parler de la mémoire, celle qui nous est personnelle, et celle, collective, que nous partageons avec nos semblables, ces deux mémoires n’étant en réalité que deux aspects d’une même réalité où se mêlent souvenirs personnels, c’est à dire relatifs au parcours de nos existences individuelles, et souvenirs relatifs à des références collectives, et celles qui nous sont léguées par l’histoire, la littérature, en un mot par la culture, au sens le plus large du terme, celle-ci incluant aussi bien le développement des sciences. Cette question est importante en ce qui concerne le problème que tu soulèves, parce que les robots et les machines du futur pourraient bien ne pas être simplement des esclaves auxquels on dit ce qu’ils doivent faire, comme dans le cas des ordinateurs ou des systèmes experts. Certes les robots et les machines sophistiquées ont en quelque sorte leur mémoire, mais celles-ci sont encore très frustes, même si elles causent déjà de gros dégâts, je pense notamment au Trading à haute fréquence (HFT) utilisé pour spéculer.
Continuer la lecture de Les robots, la mémoire et l’espèce humaine, par Pierre-Yves Dambrine
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Il y a nécessairement deux types de pertinence : une pertinence de court terme qui joue au cours d’une conversation particulière où ce qui vient d’être dit ne doit pas être répété, et une pertinence de long terme, où ce qui a été pertinent lors de conversations antérieures, le sera probablement aussi dans des conversations ultérieures (renforcement hebbien).
Ceci veut dire qu’il ne suffit pas que les compteurs soient remis à zéro à la fin de chaque session, il faut encore que les valeurs d’affect associées aux signifiants témoignent des frayages qui ont eu lieu. Rappelons ce qu’est le frayage pour Freud :
« La mémoire est représentée par les frayages existant entre les neurones Ψ […] Le frayage dépend de la quantité (Q η) qui traverse le neurone au cours du processus d’excitation, et du nombre de fois où le processus se répète […] Il est […] tout à fait clair que l’état de frayage d’une barrière de contact (appelée en 1897 “synapse” par Foster et Sherrington, note P. J.) donnée doit être indépendant de celui de toutes les autres barrières de contact du même neurone Ψ… » (Freud 1956 [1895] : 320-321.)
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Qu’est-ce qui nous pousse à causer ?
À quoi peut nous servir de savoir que chez l’homme les valeurs d’affect trop élevées attachées à certains signifiants interdisent l’accès à certaines parties de la mémoire ? Cette observation est capitale pour la guérison des névrosés, mais elle ne présente qu’un intérêt limité pour la mise au point des systèmes intelligents : il s’agit là, comme pour l’association matérielle, de quelque chose de l’ordre du « ratage », dont il vaudrait mieux épargner les effets à un système intelligent.
En réalité l’affect a partie liée avec la pertinence et avec les choix qui se présentent à l’occasion du parcours d’un réseau mnésique. En voici une illustration. Quelqu’un reçoit une lettre du percepteur lui réclamant une somme importante au titre d’arriérés d’impôts. Accompagnant cette lettre est une note manuscrite lui disant de ne pas s’inquiéter : il s’agit d’une erreur qui a déjà été enregistrée. Comme un numéro de téléphone est mentionné, la personne décide d’appeler tout de même la perception – jugeant qu’on n’est jamais trop prudent dans ce genre d’affaires. La préposée est malheureusement absente pour quelques jours. Durant toute la journée, la personne demeure cependant « soucieuse». Ayant décidé d’analyser sa préoccupation, elle constate la chose suivante : quel que soit l’objet qui retienne son attention à un moment donné, sa « pensée » parvient à chaque fois à parcourir une suite d’enchaînements associatifs qui débouchent sur l’idée d’« impôts ». À ce moment-là, ses associations s’interrompent, et elle ressent l’affect : elle souffre, elle est « soucieuse ». Si elle est en compagnie, ses conversations subissent le même processus : elle rapportera l’anecdote, une, deux, de multiples fois, et si elle se rend compte alors qu’elle ennuie son entourage en manifestant ainsi son souci, elle s’aperçoit que les autres sujets qu’elle parvient à évoquer tournent cependant tous autour de sa préoccupation : elle parle du taux de change du dollar, d’administrations kafkaïennes, et ainsi de suite.
Je poursuis la publication des chapitres de Principes des systèmes intelligents. Comment fonctionne l’affect (dans une perspective qu’un programme informatique pourrait simuler) ? C’est la premier aspect à examiner, la première question à résoudre.
Ceci dit, il ne peut être question de « faire de l’affect » pour le plaisir de faire de l’affect, comme simple réponse au sentiment vague qu’évoquent Hofstadter et Haugeland : que la chose paraît importante ou qu’il faudra bien s’en occuper un jour. L’affect n’a d’intérêt pour nous que pour une raison bien précise : parce que le mot renvoie à une dynamique, celle qui fait qu’émergent, de l’objet topologique purement statique que serait un réseau mnésique en l’absence de cette dynamique, des « effets de sens », à savoir la signification des mots et des phrases.
Il existe une discipline qui propose une énergétique de l’affect. Il s’agit bien entendu de la psychanalyse. Tout ce qu’elle a à dire sur cette énergétique n’est pas nécessairement pertinent pour ce qui touche aux systèmes intelligents. On vient d’évoquer l’hypothèse de Dreyfus selon laquelle rien de ce qui constitue l’être humain ne peut manquer à l’appel si l’on veut reconstituer artificiellement l’intelligence. Cette conception n’est pas moins absurde que celle qui imaginerait que l’on puisse à l’inverse reconstituer l’intelligence indépendamment de tout ce qui fait un être humain, comme si l’intelligence était en soi une « substance » et non une « propriété » qui nécessite un support matériel sur lequel se déposer.
Une chose encore. Pour qu`un ordinateur prenne une décision contrevenant a sa programmation, il doit avoir une motivation propre, ce qui nécessite au préalable que cet ordinateur acquiere la conscience de soi. Cette derniere peut-elle naitre de la matiere constituant l`ordinateur? Si la conscience de soi chez l`humain nait de la matiere constituant son cerveau, alors l`ordinateur pourrait en principe accéder a la conscience. Si, par contre, la conscience de soi chez l`humain (ou d`autres especes vivantes) n`est pas le produit de la matiere mais, comme le prétendent les religions, le fait d`un apport extérieur dit « divin », alors l`ordinateur restera ordinateur. La question de la prise de pouvoir des « robots » parait donc en rapport étroit avec la question (la plus grande des questions), sinon de l`existence de Dieu, du moins de la conscience de soi comme dépassant le niveau des protéines composant le cerveau. Cette question est loin d`etre résolue a ce jour sur notre petite planete aussi nous est-il difficile de dire des choses intelligentes dans ce domaine.