{"id":111856,"date":"2019-07-08T16:44:15","date_gmt":"2019-07-08T14:44:15","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=111856"},"modified":"2019-07-08T21:49:19","modified_gmt":"2019-07-08T19:49:19","slug":"universite-catholique-de-lille-paul-jorion-declarer-letat-durgence-pour-le-genre-humain-le-transhumanisme-retranscription","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2019\/07\/08\/universite-catholique-de-lille-paul-jorion-declarer-letat-durgence-pour-le-genre-humain-le-transhumanisme-retranscription\/","title":{"rendered":"Universit\u00e9 catholique de Lille, Paul Jorion : \u00ab D\u00e9clarer l\u2019\u00e9tat d\u2019urgence pour le genre humain ? \u00bb, Le transhumanisme – Retranscription"},"content":{"rendered":"

Retranscription de Universit\u00e9 catholique de Lille, Paul Jorion : \u00ab D\u00e9clarer l\u2019\u00e9tat d\u2019urgence pour le genre humain ? \u00bb, 2eme<\/sup> de six conf\u00e9rences,\u00a0Le transhumanisme est-il la nouvelle religion d’une technologie triomphante ?, le 11 d\u00e9cembre 2018. Merci \u00e0 Eric Muller ! Les premi\u00e8res minutes manquent. Le transhumanisme y est situ\u00e9 dans plusieurs traditions de la pens\u00e9e occidentale, qui se chevauchent partiellement : l\u2019individualisme, l\u2019\u00ab\u00a0esprit des Lumi\u00e8res\u00a0\u00bb. Ouvert aux commentaires<\/p><\/blockquote>\n

[\u2026 ] Parfois, les auteurs renvoient \u00e0 des penseurs, par exemple Jean-Jacques Rousseau, ou Nicolas de Condorcet sur la notion de perfectibilit\u00e9, c\u2019est-\u00e0-dire de la capacit\u00e9 de l\u2019homme \u00e0 se perfectionner lui-m\u00eame \u2013 une r\u00e9flexion qui est parfois fond\u00e9e d\u2019ailleurs sur un parall\u00e8le avec la domestication \u2013 nous avons domestiqu\u00e9 certains animaux pour en tirer parti ; les chiens pour le plaisir de les avoir avec nous \u00e0 la chasse ou d\u00e9fendre nos maisons, les cochons pour les manger et les vaches pour les manger ou en tirer du lait. Ces esp\u00e8ces ont connu une \u00e9volution tout \u00e0 fait particuli\u00e8re : la vache ne ressemble plus fort \u00e0 l\u2019auroch \u2013 sauf par quelques traits ext\u00e9rieurs \u2013 le cheval que nous avons aujourd\u2019hui n\u2019est plus le cheval sauvage que nous connaissions autrefois. La domestication est un processus qui conduit \u00e0 une \u00e9volution des esp\u00e8ces, et certains penseurs ont attir\u00e9 l\u2019attention sur le fait que nous avons produit une sorte d\u2019auto-domestication de notre propre esp\u00e8ce : nous avons cr\u00e9\u00e9 des caract\u00e8res chez nous qui ressemblent fort \u00e0 ceux que nous avons produit chez les animaux domestiques, et on peut imaginer que la perfectibilit\u00e9, le perfectionnement soit du m\u00eame ordre chez nous, et que nous puissions continuer \u00e0 nous d\u00e9velopper par les moyens que la technologie nous offre, de la m\u00eame mani\u00e8re que nous avons pu le faire pour d\u2019autres choses autour de nous. Et l\u00e0, bien entendu, ma r\u00e9flexion aujourd\u2019hui sera autour de certaines difficult\u00e9s, de certains dangers, de certaines questions qui se posent \u00e0 nous \u2013 parfois m\u00eame dans l\u2019urgence \u2013 autour de ces questions.
\n<\/p>\n

Nous avons commenc\u00e9, bien entendu, par avoir des outils. Certains animaux utilisent des outils : certains oiseaux s\u2019emparent d\u2019une aiguille de pin pour aller d\u00e9loger des chenilles \u00e0 l\u2019int\u00e9rieur d\u2019un tronc, des choses de cet ordre-l\u00e0. L\u2019outil existe d\u00e9j\u00e0 l\u00e0\u2026 Certains oiseaux font tomber des coquillages sur un caillou pour les casser, et ainsi de suite. Nous connaissons \u00e7a. Nous avons, je dirais, des d\u00e9veloppements de type \u00e9l\u00e9mentaire d\u2019un outillage chez certains animaux. Nous avons commenc\u00e9 par faire \u00e7a \u2013 notre esp\u00e8ce l\u2019a fait depuis tr\u00e8s tr\u00e8s longtemps \u2013 et petit \u00e0 petit, nous avons invent\u00e9 des outils qui nous permettent d\u2019avancer.<\/p>\n

\u00c7a me fait penser \u00e0 une r\u00e9flexion qui m\u2019a \u00e9t\u00e9 faite l\u2019autre jour : je suis \u00e0 l\u2019initiative de ressusciter une vieille proposition qui consiste \u00e0 taxer les machines, et la personne se moquait un peu de moi en disant \u00ab\u00a0Imaginez qu\u2019on ait tax\u00e9 le marteau le jour o\u00f9 on l\u2019a invent\u00e9 !\u00a0\u00bb : dans la mesure o\u00f9 l\u2019invention du marteau aurait supprim\u00e9 pas mal d\u2019emplois qui \u00e9taient r\u00e9mun\u00e9r\u00e9s convenablement, j\u2019aurais \u00e9t\u00e9 pour la taxation du marteau \u00e9galement. Mais le marteau, donc, c\u2019est le tout d\u00e9but, et nul \u00eatre humain n\u2019a perdu son emploi du fait de l\u2019invention du marteau.<\/p>\n

Nous avons autour de nous des machines, et vous le savez bien entendu, ce d\u00e9veloppement des machines est relativement modeste, je dirais, jusqu\u2019\u00e0 la fin du XVIIIe<\/sup> si\u00e8cle, mais l\u00e0 tout \u00e0 coup, il y a une explosion : nous comprenons la possibilit\u00e9 d\u2019actionner des machines avec du papier perfor\u00e9 \u2013 pour faire des m\u00e9tiers \u00e0 tisser, des pianos m\u00e9caniques \u2013 et surtout l\u2019invention de la machine \u00e0 vapeur nous permet de faire un bond et, de proche en proche, le moteur \u00e0 r\u00e9action, etc. La d\u00e9couverte de l\u2019\u00e9nergie d\u2019origine nucl\u00e9aire nous permet de faire un bond dans la technologie et \u2013 une remarque qui est rarement faite mais qu\u2019il me semble important de faire \u2013 c\u2019est que nous n\u2019\u00e9tions pas pr\u00eats. [Pour tout cela], nous n\u2019\u00e9tions pas pr\u00eats sur le plan conceptuel [: nous \u00e9tions incapables d\u2019int\u00e9grer ces r\u00e9volutions dans une repr\u00e9sentation du monde correctement mises \u00e0 jour].<\/p>\n

Nous avons avanc\u00e9 petit \u00e0 petit dans la d\u00e9marche scientifique. Il y a une diff\u00e9rence, \u00e0 ce sujet-l\u00e0, tr\u00e8s marqu\u00e9e entre le monde extr\u00eame-oriental et nous. Vous le savez, le monde occidental invente la r\u00e9flexion de type th\u00e9orique. La Chine, en particulier, invente beaucoup de choses, avance bien sur le plan technologique jusqu\u2019au milieu du moyen-\u00e2ge o\u00f9 nous la d\u00e9passons, parce que nous inventons, dans le monde occidental, une technologie qui est de science appliqu\u00e9e<\/em>. C\u2019est-\u00e0-dire que nous avons d\u00e9velopp\u00e9 une r\u00e9flexion de type scientifique, et \u00e0 partir de cette r\u00e9flexion de type scientifique, nous tirons des cons\u00e9quences et nous produisons un certain nombre d\u2019objets dont nous testons ensuite les propri\u00e9t\u00e9s \u2013 \u00e0 partir d\u2019une r\u00e9flexion [th\u00e9orique, sur un monde d\u00e9ductif].<\/p>\n

Vous le savez, la Chine a invent\u00e9 la boussole [et le gouvernail d\u2019\u00e9tambot], a invent\u00e9 la poudre \u00e0 canon, a invent\u00e9 le papier, a invent\u00e9 les p\u00e2tes alimentaires\u2026 Mais \u00e7a, nous le savons, \u00e7a a toujours \u00e9t\u00e9 par une m\u00e9thode, je dirais, purement exp\u00e9rimentale, par essais et erreurs, tandis qu\u2019\u00e0 partir de la r\u00e9flexion qui d\u00e9bute au moyen-\u00e2ge chez nous, nous mod\u00e9lisons la nature autour de nous : nous faisons des raisonnement d\u00e9ductifs, et \u00e0 partir de cela nous produisons un certain nombre de choses. Par exemple, je dirais, la bombe atomique, nous n\u2019aurions pas pu. On n\u2019aurait pas pu inventer la bombe atomique par essai-erreur : \u00e7a aurait fait trop de morts et on ne voit pas trop comment on aurait pu m\u00eame inventer les dispositifs extr\u00eamement complexes qu\u2019il faut mettre en place. Mais la poudre \u00e0 canon, qui a \u00e9t\u00e9 invent\u00e9e par la Chine, a d\u00fb l\u2019\u00eatre par essai-erreur. On n\u2019a pas la chronique du nombre de morts qu\u2019il a fallu, mais on l\u2019a d\u00e9couverte exp\u00e9rimentalement : en faisant une combinaison de soufre, de salp\u00eatre et de poudre de charbon et en produisant une oxydation vive, il y a explosion et nous pouvons faire quelque chose \u00e0 partir de l\u00e0. \u00c7a a d\u00fb \u00eatre d\u00e9couvert par essais et erreurs, parce qu\u2019il n\u2019y avait pas de d\u00e9marche de type th\u00e9orique, en Chine, qui permettait d\u2019avoir une science appliqu\u00e9e.<\/p>\n

Nous sommes dans un monde o\u00f9 nous avons produit une technologie d\u2019une sophistication tout \u00e0 fait extraordinaire, et \u00e7a n\u2019arr\u00eate pas de se d\u00e9velopper. Il y a de plus en plus d\u2019ing\u00e9nieurs dans le monde, en particulier dans les pays o\u00f9 les quantit\u00e9s \u00e9normes d\u2019ing\u00e9nieurs produits sont r\u00e9centes \u2013 comme en Inde ou en Chine \u2013 et nous inventons des choses \u00e0 tout moment. Mais il existe un paradoxe, un contraste entre notre capacit\u00e9 \u00e0 produire maintenant des objets, des techniques et un certain nombre de choses, et notre mani\u00e8re de pouvoir le conceptualiser : notre repr\u00e9sentation de l\u2019humain, de nos propres m\u00e9canismes, de ce qui se passe dans le monde, je dirais, n\u2019est absolument pas \u00e0 la hauteur. Nous nous trouvons d\u00e9pass\u00e9s, au point qu\u2019il n\u2019est pas impossible d\u2019imaginer que, et c\u2019est l\u2019une des choses dont les transhumanistes parlent \u2013 en particulier un certain M.\u00a0[Ray] Kurzweil\u00a0\u2013 qu\u2019on appelle la singularit\u00e9<\/em> \u2013 c\u2019est-\u00e0-dire le moment o\u00f9 les \u00eatres humains seront d\u00e9pass\u00e9s enti\u00e8rement par des machines qui prendront des d\u00e9cisions et dont nous ne comprendrons plus exactement le fonctionnement \u2013 et il ne s\u2019agit pas d\u2019une simple \u00e9lucubration : la chose est bien possible, et en grande partie, je dirais, due \u00e0 notre incapacit\u00e9 \u00e0 nous-m\u00eames de nous repr\u00e9senter exactement la mani\u00e8re dont nous fonctionnons individuellement et au sein de nos soci\u00e9t\u00e9s humaines.<\/p>\n

Il y a un d\u00e9calage entre la compr\u00e9hension que nous avons du monde que nous appelons naturel \u2013 autour de nous \u2013 et la mani\u00e8re dont nous fonctionnons nous-m\u00eames. Il y a un certain nombre de choses que nous comprenons, mais nous sommes d\u00e9pass\u00e9s sur ce plan, et en particulier, nous n\u2019avons pas pu, de mani\u00e8re, je dirais, unifi\u00e9e, nous faire une repr\u00e9sentation de ce que sont ces machines, de ce que sont ces outils par rapport \u00e0 nous. Les philosophes peuvent \u00eatre en faveur de la technologie, ou contre elle, tenir des discours de tel ou tel type, mais nous n\u2019avons pas une repr\u00e9sentation unifi\u00e9e de ce que sont ces machines par rapport \u00e0 nous. Nous pouvons faire une description de type historique, comme je viens de faire en disant : \u00ab\u00a0Nous sommes pass\u00e9s du marteau au moulin \u00e0 vent et puis \u00e0 des instruments, des appareils, de plus en plus sophistiqu\u00e9s. Il y a eu ensuite de grandes inventions qui nous ont permis des bonds en avant\u00a0\u00bb, mais nous avons toujours eu une attitude \u2013 au moins en Occident \u2013 une attitude ambivalente envers cela : est-ce une bonne chose ? est-ce une mauvaise chose ? que sont ces machines par rapport \u00e0 nous ?<\/p>\n

On voit bien cette ambivalence en particulier quand on utilise le mot d\u2019artificiel<\/i> – on dit que les machines produisent de l\u2019artificiel, ou sont elles-m\u00eames de l\u2019artificiel. Nous avons une attitude \u00e0 la fois, je dirais, positive quand les inventions ont des cons\u00e9quences extr\u00eamement favorables pour nous \u2013 par exemple en termes de long\u00e9vit\u00e9, de faire reculer la maladie, d\u2019agr\u00e9menter notre confort, de nous permettre d\u2019avoir acc\u00e8s \u00e0 des activit\u00e9s de loisir de tr\u00e8s grande qualit\u00e9 et dans d\u2019excellentes conditions, de ce type-l\u00e0 \u2013 mais nous savons aussi que c\u2019est la technologie qui permet d\u2019inventer des techniques guerri\u00e8res extr\u00eamement dangereuses qui pourraient \u00e9ventuellement m\u00eame nous faire dispara\u00eetre de la surface de la Terre, et que nous continuons \u00e0 inventer des choses de cet ordre-l\u00e0. \u00c0 la fois nous \u00e9radiquons la variole \u00e0 la surface de la Terre \u2013 ce qui fait que nous ne devons plus nous vacciner n\u00e9cessairement contre la variole, parce qu\u2019il n\u2019y a plus de cas connus \u2013 mais en m\u00eame temps, en laboratoire, nous pouvons inventer \u00e0 nouveau la variole et l\u2019utiliser comme arme de guerre. Il y a une confusion, je dirais, m\u00eame chez les philosophes, entre le fait qu\u2019une technique peut \u00eatre bonne et qu\u2019une autre technique peut \u00eatre mauvaise, et le fait de savoir si la technique, en tant que telle, est quelque chose de mauvais.<\/p>\n

Le point de vue de l\u2019anthropologue, quand il parle de l\u2019homme en g\u00e9n\u00e9ral \u2013 l\u2019homme et la femme; le genre humain \u2013 sa tentation, c\u2019est toujours de se placer un petit peu comme un anthropologue qui viendrait d\u2019un autre syst\u00e8me, d\u2019une autre galaxie \u2013 un extraterrestre \u2013 et de dire \u00ab\u00a0\u00c0 quoi avons nous affaire ? Quelles sont ces personnes qui sont l\u00e0 ? Qu\u2019est-ce qu\u2019elles font ? Que font-elles exactement ?\u00a0\u00bb Cet anthropologue galactique observerait que nous sommes en train de produire un certain nombre de choses autour de nous \u2013 et c\u2019est le th\u00e8me d\u2019un de ces films que j\u2019ai mentionn\u00e9s, de Terminator<\/i>, de savoir si ces machines ne vont pas simplement nous \u00e9liminer. C\u2019est le paradoxe des histoires de science-fiction les plus amusantes, les plus d\u00e9rangeantes aussi : est-ce qu\u2019il ne viendra pas un moment o\u00f9 la machine trouvera qu\u2019il vaut mieux se d\u00e9barrasser de l\u2019homme ? J\u2019ai cit\u00e9 aussi un autre film la fois derni\u00e8re, le film Colossus<\/i> o\u00f9 deux gros ordinateurs qui sont parvenus \u00e0 emp\u00eacher une guerre thermonucl\u00e9aire que les \u00eatres humains auraient produit d\u00e9cident de prendre le pouvoir, et de dire \u00e0 partir de l\u00e0 \u00e0 l\u2019homme ce qu\u2019il doit faire d\u00e9sormais, puisqu\u2019il a apport\u00e9 la preuve de son incapacit\u00e9 \u00e0 assurer sa propre survie. Nous sommes dans un monde o\u00f9, je dirais, faute de conceptualiser v\u00e9ritablement notre rapport \u00e0 cet artificiel<\/i>, nous sommes en position d\u00e9licate. Ou alors, nous laissons \u00e0 d\u2019autres civilisations \u2013 celles qui ont un autre type de repr\u00e9sentation \u2013 le soin de prendre les d\u00e9cisions pour nous.<\/p>\n

Il y a chez nous, tr\u00e8s pr\u00e9gnant encore, tr\u00e8s puissant, tr\u00e8s pr\u00e9sent dans notre r\u00e9flexion, le fameux mythe de Prom\u00e9th\u00e9e \u2013 qui est une histoire qui tourne mal, vous le savez : Prom\u00e9th\u00e9e vole aux dieux le feu, et il est puni de mani\u00e8re \u00e9ternelle par le supplice permanent d\u2019\u00eatre attach\u00e9 \u00e0 un rocher o\u00f9 un aigle lui d\u00e9vore le foie. \u00c7a fait partie, bien entendu, des contes de f\u00e9es extr\u00eamement \u00e9pouvantables : ne nous approchons pas trop de Dieu dans un r\u00f4le de cr\u00e9ateur du monde, de d\u00e9miurge, n\u2019essayons pas de ravir aux dieux ce r\u00f4le qui est le leur de cr\u00e9er le monde tel qu\u2019il est.<\/p>\n

Bien entendu, les savants ne se r\u00e9veillent pas en sursaut la nuit, tourment\u00e9s par le mythe de Prom\u00e9th\u00e9e, mais il s\u2019agit, dans notre culture, d\u2019une repr\u00e9sentation : la technique n\u2019est peut-\u00eatre pas bonne en soi, ou en tout cas, si elle appara\u00eet bonne en soi, nous serions peut-\u00eatre puni par une instance divine de l\u2019avoir utilis\u00e9e. Ce mythe de Prom\u00e9th\u00e9e, bien s\u00fbr, est \u00e9tranger \u00e0 la culture extr\u00eame-orientale. Autre chose qui nous est propre et qui est absente de la culture extr\u00eame-orientale : cette image qui est tr\u00e8s pr\u00e9sente dans nos religions \u2013 les gens qui nous ont fa\u00e7onn\u00e9 en Occident : l\u2019homme cr\u00e9\u00e9 \u00e0 l\u2019image de Dieu, avec des contraintes qui sont li\u00e9es \u00e0 cela, parce que Dieu nous aurait enjoint de ne pas nous \u00e9loigner de cette image. Quand donc on parle de perfectibilit\u00e9, des contraintes, des limites y auraient \u00e9t\u00e9 pos\u00e9es par Dieu lui-m\u00eame : que nous ne nous \u00e9cartions pas de cette repr\u00e9sentation de l\u2019homme \u00e0 son image et dans un cadre r\u00e9gi par une contrainte d\u2019un autre ordre, une contrainte majeure : que nous ne soyons pas immortels.<\/p>\n

Vous le savez, si vous suivez un peu l\u2019actualit\u00e9, je dirais, la plus spectaculaire, la plus sensationnelle du transhumanisme \u2013 cette pr\u00e9tention \u00e0 la possibilit\u00e9 pour l\u2019homme, l\u2019homme et la femme, de devenir immortel \u2013 des recherches de type biologique nous font penser qu\u2019il n\u2019est peut-\u00eatre pas impossible d\u2019emp\u00eacher le vieillissement, et que nous pourrions vivre sinon \u00e9ternellement \u2013 parce que si nous \u00e9tions \u00e9cras\u00e9s par un camion le probl\u00e8me se poserait toujours comme avant, de recoller les morceaux \u2013 mais de pouvoir ne pas dispara\u00eetre par le processus de vieillissement. Nous consid\u00e9rons maintenant\u00a0qu\u2019une mort par le vieillissement est une mort naturelle et nous consid\u00e9rons qu\u2019il n\u2019y a l\u00e0 rien contre quoi s\u2019insurger. Mais la possibilit\u00e9 m\u00eame, par les techniques \u2013 par la science appliqu\u00e9e \u2013 de pouvoir \u00e9ventuellement travailler sur le vieillissement, et de peut-\u00eatre m\u00eame l\u2019\u00e9liminer\u2026 Des travaux sont faits sur les animaux qui sont consid\u00e9r\u00e9es comme \u00ab\u00a0encourageants\u00a0\u00bb par les biologistes qui travaillent l\u00e0-dessus, et qui nous permettraient peut-\u00eatre de vivre effectivement beaucoup plus longtemps que nous ne le faisons. Les calculs qui sont faits nous disent que, tels que nous sommes, et en \u00e9liminant les maladies principales \u2013 avec les technologies que nous avons pour lutter contre le cancer, etc. \u2013 nous pourrions vivre de mani\u00e8re naturelle peut-\u00eatre cent-dix ans, cent-vingt ans, et qu\u2019il serait possible m\u00eame d\u2019aller bien au del\u00e0 peut-\u00eatre, en travaillant sur le rajeunissement et l\u2019interruption du processus de vieillissement.<\/p>\n

Nos attitudes sont ambivalentes, parfois ambig\u00fces : cette image de l\u2019homme cr\u00e9\u00e9 \u00e0 l\u2019image de Dieu n\u2019existe pas non plus, vous le savez, en Extr\u00eame-Orient, de mani\u00e8re classique. \u00c0 part quelques exceptions mais qui ont \u00e9t\u00e9 relativement marginales, l\u2019Extr\u00eame-Orient est un monde sans eschatologie, sans repr\u00e9sentation d\u2019un monde parall\u00e8le dans lequel nous vivrions apr\u00e8s notre mort. Oui, le bouddhisme indien a \u00e9t\u00e9 adapt\u00e9 partiellement en Chine, etc. mais l\u2019image dominante dans les repr\u00e9sentations du Chinois moyen, au fil des si\u00e8cles et des mill\u00e9naires, a toujours \u00e9t\u00e9 celle d\u2019une vie qui se d\u00e9roule \u00e0 l\u2019int\u00e9rieur de l\u2019espace d\u00e9fini simplement par la naissance et par la mort ensuite. D\u2019o\u00f9 l\u2019accent\u00a0mis en ce moment en Extr\u00eame-Orient dans la recherche de type m\u00e9dical : pourquoi mettre des limites \u00e0 l\u2019am\u00e9lioration de l\u2019\u00eatre humain puisqu\u2019il n\u2019existe pas – dans un ailleurs – la possibilit\u00e9 d\u2019une compensation de ce qui a pu se passer dans le monde ici-bas, d\u2019une r\u00e9paration des torts, d\u2019une instauration de la justice \u00e0 l\u2019\u00e9chelle de l\u2019\u00e9ternit\u00e9, et ainsi de suite ? Comme des repr\u00e9sentations de ce type l\u00e0 sont absentes en Extr\u00eame-Orient, il y a automatiquement l\u00e0 un encouragement \u00e0 faire le maximum qui puisse \u00eatre fait sur notre Terre, tant que nous sommes l\u00e0.<\/p>\n

Vous le savez \u2013 \u00e7a date d\u2019il y a deux semaines peut-\u00eatre \u2013 la nouvelle, en Chine, d\u2019un m\u00e9decin disant avoir produit la naissance de deux jumelles de parents s\u00e9ropositifs mais o\u00f9 les enfants sont vaccin\u00e9s au niveau mol\u00e9culaire contre le risque d\u2019infection par le sida. Alors, vous avez pu voir que les r\u00e9actions au niveau des comit\u00e9s d\u2019\u00e9thique internationaux ont \u00e9t\u00e9 relativement indign\u00e9es par cette possibilit\u00e9. Ce qui a \u00e9t\u00e9 dit, c\u2019est que si ce type de bricolage qui est maintenant devenu possible se r\u00e9pand\u2026 on va pouvoir consid\u00e9rer l\u00e0 \u2013 dans un cadre qu\u2019il para\u00eet difficile de ne pas consid\u00e9rer \u2013 qu\u2019il est raisonnable de pouvoir \u00e9ventuellement vacciner pr\u00e9ventivement, d\u2019aider des enfants dans des conditions aussi difficiles qu\u2019avec des parents infect\u00e9s.<\/p>\n

On pourrait imaginer n\u2019importe quel type de bricolage, et on peut imaginer les arm\u00e9es, dans une escalade de la technique, produisant des soldats augment\u00e9s, c\u2019est-\u00e0-dire non plus simplement des cyborgs, des m\u00e9langes de proth\u00e8ses ajout\u00e9es \u00e0 des \u00eatres humains, mais la production d\u00e9lib\u00e9r\u00e9e de personnes augment\u00e9es selon tel et tel desiderata.\u00a0On pourrait imaginer\u00a0d\u2019abandonner les projets de lunettes qui permettent de voir les ultraviolets et les infrarouges mais de produire les g\u00e8nes qui feront que l\u2019\u0153il percevra les infrarouges, les ultraviolets. Pourquoi pas si \u00e7a devient possible ? Et la difficult\u00e9 que nous avons l\u00e0 est double. Parce que, vous le voyez bien, la Chine en ce moment n\u2019est pas dans un grand d\u00e9sarroi id\u00e9ologique. Je ne vais pas vous parler de l\u2019actualit\u00e9 mais vous voyez bien que, dans l\u2019ensemble du monde occidental, nous sommes oblig\u00e9s de concentrer notre attention sur des probl\u00e8mes d\u2019ordre politique, \u00e9conomique, et des choses de cet ordre-l\u00e0, alors que la Chine \u2013 qui est pass\u00e9e par une p\u00e9riode extr\u00eamement difficile de son histoire au XIXe<\/sup> si\u00e8cle, partiellement par des guerres coloniales que nous avons organis\u00e9es l\u00e0 \u2013 au XXe<\/sup> si\u00e8cle, du fait d\u2019une dynamique interne, semble \u00eatre sortie d\u2019une situation de type guerrier, belliqueux, \u00e0 partir de 1949, et se donne des objectifs dans la dur\u00e9e co\u00efncidant avec le centi\u00e8me anniversaire de la prise de pouvoir du Parti Communiste.<\/p>\n

La Chine s\u2019interroge tr\u00e8s peu sur son devenir en ce moment, ils ont le sentiment d\u2019\u00eatre sur des rails et vous savez que, du point de vue de l\u2019application de la technologie \u2013 pas simplement dans le domaine de la g\u00e9n\u00e9tique \u2013 les choses vont tr\u00e8s vite. Vous allez dans un magasin maintenant en Chine, et on vous rep\u00e8re : vous signalez votre entr\u00e9e dans le magasin, vous prenez les produits et puis vous sortez. Il n\u2019y a plus de caissi\u00e8re, il n\u2019y a plus d\u2019enregistrement parce que, voil\u00e0, sur votre carte de cr\u00e9dit, l\u2019ensemble de vos achats se sera inscrit au moment o\u00f9 vous retiriez un produit des rayonnages. Tout \u00e7a va tr\u00e8s tr\u00e8s vite. Les Chinois n\u2019ont pas nos pr\u00e9ventions \u00e0 propos de l\u2019hyper-surveillance. Je reviendrai l\u00e0-dessus, bien entendu, parce que c\u2019est un des grands enjeux de soci\u00e9t\u00e9 pour nous \u2013 et l\u00e0, nous connectons aux sc\u00e9narios peut-\u00eatre les plus inqui\u00e9tants.<\/p>\n

Il y a certain nombre de soucis que nous avons\u00a0qui sont\u00a0li\u00e9s \u00e0 notre histoire et \u00e0 des consid\u00e9rations qui nous paraissent tout \u00e0 fait l\u00e9gitimes \u00e0 partir d\u2019une conception de l\u2019\u00e9thique qui ne se pose pas de la m\u00eame mani\u00e8re en Extr\u00eame-Orient. Nous n\u2019arrivons pas \u00e0 nous faire une repr\u00e9sentation, je dirais, claire, de notre rapport, justement, \u00e0 l\u2019artifice, \u00e0 l\u2019artificiel. L\u2019anthropologue galactique pourrait tenir le raisonnement suivant, en disant \u00ab\u00a0Voil\u00e0 : je vois des animaux qui se sont rendu compte de la difficult\u00e9 qu\u2019il y a \u00e0 maintenir un \u00e9quilibre entre eux-m\u00eames et la plan\u00e8te sur laquelle ils se trouvent, et qui ont invent\u00e9 le moyen, non pas de survivre eux-m\u00eames dans une d\u00e9gradation de leur environnement, mais qui ont trouv\u00e9 le moyen de cr\u00e9er leurs descendants, et qui sont en train activement de le faire.\u00a0\u00bb Ce n\u2019est pas le sentiment que nous avons de ce que nous sommes en train de faire, mais cette lecture n\u2019est peut-\u00eatre pas une lecture, je dirais, qu\u2019on pourrait critiquer a priori<\/i>, en disant qu\u2019elle est irr\u00e9aliste. C\u2019est peut-\u00eatre ce qui appara\u00eetrait, je dirais, \u00e0 un observateur objectif, de ce qui est en train de se passer. Parce que quand j\u2019envisageais, la fois derni\u00e8re, l\u2019ensemble de ces sc\u00e9narios, le sc\u00e9nario pour l\u2019avenir dont nous sommes peut-\u00eatre le plus proche de pouvoir v\u00e9ritablement le r\u00e9aliser, c\u2019est peut-\u00eatre celui, justement, de la machine comme notre successeur.<\/p>\n

Il y a Martin Rees<\/a> qui est Astronome Royal en Grande-Bretagne \u2013 c\u2019est un titre bien entendu, c\u2019est une distinction qui est accord\u00e9e \u00e0 un tr\u00e8s grand astronome \u2013 et r\u00e9cemment, il faisait la remarque suivante, je dirais dans une perspective un peu d\u2019anthropologue extraterrestre : \u00ab Les conditions qui permettent \u00e0 une esp\u00e8ce comme l\u2019\u00eatre humain de vivre \u00e0 la surface de sa plan\u00e8te sont des conditions qu\u2019il n\u2019est possible de respecter que dans des limites extr\u00eamement \u00e9troites. Ces \u00eatres d\u00e9pendent de mani\u00e8re massive de la pr\u00e9sence d\u2019oxyg\u00e8ne dans l\u2019atmosph\u00e8re autour d\u2019eux, dans une proportion extr\u00eamement pr\u00e9cise ; ils d\u00e9pendent aussi du fait qu\u2019une multitude de gaz qui sont consid\u00e9r\u00e9s comme toxiques pour cette esp\u00e8ce ne soient pas pr\u00e9sents ; ils doivent avoir acc\u00e8s \u00e0 une substance qui s\u2019appelle H2O, de mani\u00e8re quasi constante : toutes les quelques heures ils doivent avoir acc\u00e8s \u00e0 cela, et ce liquide doit aussi \u00eatre consid\u00e9r\u00e9 par eux comme \u00ab\u00a0potable\u00a0\u00bb \u2013 c\u2019est-\u00e0-dire qu\u2019il y a une liste quasiment infinie de choses qui ne doivent pas se trouver dans cette eau pour qu\u2019ils puissent l\u2019utiliser \u2013 et ils doivent se nourrir, s\u2019alimenter par ce qu\u2019ils appellent aliments (des substances assimilables) \u2013 la liste est longue de leur point de vue, mais en fait, ce sont des choses en nombre extr\u00eamement limit\u00e9 \u2013 et aussi, ils sont, particuli\u00e8rement maintenant, sensibles au fait que d\u2019autres substances ne doivent pas \u00eatre pr\u00e9sentes dans leurs aliments s\u2019ils veulent pouvoir les utiliser\u00a0\u00bb. Par cons\u00e9quent cette esp\u00e8ce s\u2019est rendu compte que les conditions dans lesquelles elle vit sont extr\u00eamement fragiles, et elle a pris la d\u00e9cision tout \u00e0 fait raisonnable \u2013 je cite maintenant mon anthropologue galactique \u2013 de se remplacer par autre chose de beaucoup plus solide, de beaucoup plus fiable, de beaucoup plus r\u00e9silient \u2013 selon leur vocabulaire \u2013 de beaucoup plus robuste, et ils sont en train de tester d\u2019ailleurs la colonisation de\u00a0l\u2019espace\u00a0: ils ont d\u00e9j\u00e0 envoy\u00e9 deux de leurs inventions en dehors m\u00eame de leur syst\u00e8me solaire \u2013 ce qui montre quand m\u00eame l\u00e0, je dirais, le degr\u00e9 de sophistication de leur technologie \u2013 et sur la plan\u00e8te Mars se trouvent non seulement deux stations qui explorent la plan\u00e8te, mais depuis quelques jours s\u2019y trouve encore un troisi\u00e8me objet. Et cette esp\u00e8ce s\u2019est rendu compte qu\u2019il fallait que leurs prolongations, leurs prolongements, n\u2019aient pas besoin d\u2019oxyg\u00e8ne \u2013 c\u2019est le cas des objets qu\u2019ils ont mis sur la plan\u00e8te Mars \u2013 qu\u2019ils n\u2019aient pas besoin d\u2019eau et se contentent essentiellement de transformer l\u2019\u00e9nergie qui vient du soleil. Voil\u00e0 une esp\u00e8ce intelligente qui s\u2019est rendue compte de sa fragilit\u00e9 et qui a cr\u00e9\u00e9 son successeur.<\/p>\n

Alors imaginons que cet anthropologue galactique ait raison et, effectivement, dans quelques mill\u00e9naires, que le regard qui soit pos\u00e9 ne soit pas du tout celui que nous avons maintenant (savoir quel est notre rapport \u00e0 l\u2019artificiel \u2013 est-ce que c\u2019est une bonne chose ou pas une bonne chose ?) et de dire simplement \u00ab\u00a0Regardez : cette esp\u00e8ce est une esp\u00e8ce tout \u00e0 fait extraordinaire\u00a0\u00bb : des processus naturels ind\u00e9pendants d’eux sont pass\u00e9s – des processus que nous appelons physiques et dont Hegel disait \u00ab\u00a0processus physique\u00a0\u00bb parce que ce sont des substances qui sont indiff\u00e9rentes les unes aux autres \u2013 sont pass\u00e9s au-del\u00e0 du physique, le chimique, parce qu\u2019il y a des attirances \u2013 il y a des choses qui s\u2019attirent et se repoussent au niveau de ce physique et \u00e7a produit du chimique, des choses qui vont se combiner. Ces combinaisons de type chimique \u2013 par la combinaison d\u2019acides amin\u00e9s \u2013 programment des structures extr\u00eamement complexes qui vont vivre, en d\u00e9pit de l\u2019entropie \u2013 de la tendance de l\u2019univers \u00e0 se d\u00e9grader en choses plus simples \u2013 et produire des \u00eatres biologiques, et l\u2019une de ces esp\u00e8ces biologiques est arriv\u00e9e \u00e0 inventer quelque chose qui la d\u00e9passe enti\u00e8rement, et qui serait le quatri\u00e8me stade \u2013 au del\u00e0 du physique, au del\u00e0 du chimique, au del\u00e0 du biologique m\u00eame, de cr\u00e9er du technologique. Nous pourrions nous retrouver dans cette situation tout \u00e0 fait paradoxale d\u2019avoir constat\u00e9 \u2013 nous-m\u00eames, en direct \u2013 notre incapacit\u00e9 \u00e0 survivre comme animal \u00e0 la surface de notre plan\u00e8te, mais de m\u00e9riter \u2013 du point de vue des extraterrestres et au regard des mill\u00e9naires \u00e0 venir \u2013 les f\u00e9licitations du jury pour avoir \u00e9t\u00e9 \u00e0 ce point intelligents.<\/p>\n

La difficult\u00e9 que nous avons, c\u2019est que nous ne voulons pas de ce sc\u00e9nario. Nous avons des raisons \u2013 en grande quantit\u00e9 et d\u2019ordres divers \u2013 pour justifier que nous aimerions prolonger notre existence \u00e0 la surface de la Terre, dans des conditions excellentes et sans devoir nous r\u00e9signer au fait que la mani\u00e8re dont nous sommes, en ce moment, sur notre plan\u00e8te \u2013 en ne ma\u00eetrisant pas v\u00e9ritablement les conditions de notre pr\u00e9sence sur le globe \u2013 conduit \u00e0 notre disparition ou \u00e0 l\u2019obligation, en derni\u00e8re minute, d\u2019aller explorer d\u2019autres plan\u00e8tes, voire m\u00eame des exo-plan\u00e8tes dans d\u2019autres syst\u00e8mes stellaires, pour aller nous y \u00e9tablir.<\/p>\n

Et c\u2019est \u00e7a, je dirais peut-\u00eatre \u2013 sans doute \u2013 le paradoxe de la r\u00e9flexion transhumaniste. C\u2019est que \u2013 j\u2019ai soulign\u00e9 tout de suite que, quand on parlait d\u2019un mouvement, on pourrait peut-\u00eatre envisager le mot mouvement dans deux sens diff\u00e9rents \u00e0 ce propos-l\u00e0 : il y a le mouvement \u2013 un mouvement auquel on se joint comme un nouveau parti \u2013 mais aussi un mouvement dont il est possible de consid\u00e9rer que cette pens\u00e9e transhumaniste nous pousse dans une direction particuli\u00e8re mais peut-\u00eatre \u00e0 l\u2019insu, non seulement de ceux qui d\u00e9sapprouvent le transhumaniste, mais peut-\u00eatre \u00e0 l\u2019insu m\u00eame de ceux qui en sont les promoteurs. Parce que quand on regarde les valeurs qui sont d\u00e9fendues par ce mouvement, il y a un certain nombre de choses dont on peut se demander si elles sont v\u00e9ritablement propos\u00e9es par leurs promoteurs dans le sens exact o\u00f9 elles pourraient servir.<\/p>\n

Du c\u00f4t\u00e9 caricatural, on pourrait dire qu\u2019un certain nombre de choses que propose le transhumanisme, c\u2019est une esp\u00e8ce de r\u00e9signation, en disant : \u00ab\u00a0Nous pouvons vivre dans un monde d\u00e9grad\u00e9, nous allons nous adapter \u00e0 cette d\u00e9gradation\u00a0\u00bb. Par exemple, si nous n\u2019arrivons pas \u00e0 emp\u00eacher que des gaz extr\u00eamement toxiques se r\u00e9pandent dans l\u2019atmosph\u00e8re, eh bien, nous allons nous modifier g\u00e9n\u00e9tiquement pour pouvoir vivre dans une atmosph\u00e8re qui serait maintenant consid\u00e9r\u00e9e comme pollu\u00e9e. Nous allons nous adapter, nous allons nous modifier technologiquement pour vivre dans un monde de plus en plus d\u00e9grad\u00e9, et on consid\u00e9rera par la suite, a posteriori<\/i>, que c\u2019\u00e9tait une sorte de pr\u00e9jug\u00e9 qui nous faisait penser que la situation se d\u00e9gradait. Ou alors, on raisonnerait comme M. Martin Rees pour dire : \u00ab\u00a0Oui mais, les contraintes \u00e9taient telles (oxyg\u00e8ne, absence de gaz toxiques, eau potable, etc.) qu\u2019il \u00e9tait r\u00e9aliste, finalement, de s\u2019adapter\u00a0\u00bb, d\u2019essayer d\u2019\u00e9tendre les possibilit\u00e9s de l\u2019\u00eatre humain dans un monde qui serait moins contraint, o\u00f9 il n\u2019y aurait pas toutes ces contraintes qui sont les n\u00f4tres maintenant.<\/p>\n

Le transhumanisme propose aussi, comme vous le savez, l\u2019immortalit\u00e9. Et si on fait quelques pas en arri\u00e8re, on pourrait se demander aussi, au-del\u00e0 des discussions du genre \u00ab\u00a0Que ferait-on dans un monde o\u00f9 il y a d\u00e9j\u00e0 beaucoup de monde, si ceux qui sont d\u00e9j\u00e0 l\u00e0 vivaient \u00e9ternellement ?\u00a0\u00bb, et poser des questions de cet ordre-l\u00e0 : \u00ab\u00a0Quel sens prendrait la reproduction \u2013 le fait d\u2019avoir des enfants \u2013 dans un monde o\u00f9 nous saurions que chacun a la possibilit\u00e9 de vivre \u00e9ternellement ?\u00a0\u00bb. Nous pouvons nous poser, effectivement, des questions autour de cette id\u00e9e de vivre mille ans : est-ce que nous sommes \u00e9quip\u00e9s, je dirais psychiquement, pour vivre mille ans ? Est-ce que nous pouvons nous repr\u00e9senter exactement ce que c\u2019est ? Est-ce que \u00e7a diminuerait notre responsabilit\u00e9 individuelle ou est-ce que \u00e7a l\u2019augmenterait ? On pourrait dire que \u00e7a pourrait l\u2019augmenter : si nous savons que la destruction de l\u2019environnement que nous faisons maintenant, nous en subirons les cons\u00e9quences encore dans mille ans, peut-\u00eatre que nous y r\u00e9fl\u00e9chirions davantage, peut-\u00eatre que nous ne laisserions pas aux g\u00e9nies du futur \u2013 comme nous le faisons maintenant \u2013 le soin de traiter les d\u00e9chets nucl\u00e9aires, mais que nous nous pr\u00e9occuperions peut-\u00eatre de savoir ce qu\u2019il faut en faire maintenant, ou bien d\u00e9ciderions de nous passer de ces technologies puisque nous ne savons pas ma\u00eetriser le traitement des d\u00e9chets, et ainsi de suite.<\/p>\n

Mais si nous r\u00e9fl\u00e9chissons un petit peu autrement, si nous disons que nous sommes une esp\u00e8ce que les biologistes d\u00e9crivent \u2013 s\u2019ils devaient la d\u00e9crire, l\u2019esp\u00e8ce humaine \u2013 ils la d\u00e9finiraient essentiellement \u00e0 partir de trois traits particuliers : que c\u2019est un animal social \u2013 il est fait pour vivre en soci\u00e9t\u00e9 \u2013 que c\u2019est un animal colonisateur \u2013 qu\u2019il a tendance \u00e0 envahir son environnement sans prendre de pr\u00e9cautions : d\u2019envahir l\u2019environnement de mani\u00e8re totale \u2013 et qu\u2019il est un animal que les \u00e9thologues appellent \u00ab\u00a0opportuniste\u00a0\u00bb \u2013 opportuniste dans un sens sp\u00e9cial : c\u2019est un animal qui peut inventer de nouvelles strat\u00e9gies s\u2019il est devant un obstacle, qui peut recourir \u00e0 d\u2019autres strat\u00e9gies. Nous ne sommes pas le seul animal, bien entendu, de ce type-l\u00e0, mais nous avons cette capacit\u00e9.<\/p>\n

Nous sommes des animaux de ce type-l\u00e0. Nous nous trouvons dans une situation particuli\u00e8re, et il est bien possible que, quand nous travaillons maintenant \u00e0 produire des \u00eatres humains qui pourraient \u00e9ventuellement vivre mille ans, on pourrait dire que c\u2019est une mani\u00e8re d\u2019essayer de r\u00e9soudre la possibilit\u00e9 d\u2019aller vivre dans d\u2019autres syst\u00e8mes stellaires. Nous savons que, dans les techniques actuelles, \u00e7a prend \u00e9norm\u00e9ment de temps de se d\u00e9placer dans des syst\u00e8mes stellaires diff\u00e9rents. J\u2019ai expliqu\u00e9 : il y a deux objets \u2013 ce sont les sondes Pioneer<\/i> \u2013 qui ont quitt\u00e9 notre syst\u00e8me stellaire\u00a0[et pas seulement l\u2019h\u00e9liopause comme les sondes Voyager<\/i>]\u00a0\u2013 mais il faudra encore pas mal d\u2019ann\u00e9es avant qu\u2019ils arrivent dans un autre. Mais si nous d\u00e9cidons qu\u2019il y a n\u00e9cessit\u00e9 pour nous d\u2019aller nous installer ailleurs, le fait de vivre mille ans serait une des conditions \u00e0 remplir.<\/p>\n

Il y a chez Hegel cette notion de \u00ab\u00a0ruse de la raison\u00a0\u00bb : la ruse de la raison, c\u2019est de constater que dans l\u2019esp\u00e8ce humaine, souvent, les hommes \u2013 le genre humain en tant que tel \u2013 a fait des choses dont il n\u2019a compris le sens exact que bien plus tard. Il ne comprend pas au moment-m\u00eame, il ne comprend pas exactement ce qu\u2019il fait, et c\u2019est un regard pos\u00e9 en ext\u00e9riorit\u00e9, plus tard, qui permet de comprendre. Un bon exemple \u2013 je crois l\u2019avoir donn\u00e9 la fois derni\u00e8re \u2013 un bon exemple, c\u2019est celui que Koestler<\/a> a donn\u00e9\u00a0[dans Les Somnambules<\/i><\/a>]\u00a0quand il a d\u00e9crit l\u2019invention de l\u2019astronomie aux XVIe<\/sup>, XVIIe<\/sup>, XVIIIe<\/sup> si\u00e8cle -, le fait que ce que ces premiers grands astronomes ont fait \u2013 en inventant m\u00eame les techniques math\u00e9matiques n\u00e9cessaires \u2013 \u00e9tait, selon la t\u00e2che qui leur \u00e9tait donn\u00e9e, d\u2019am\u00e9liorer les m\u00e9thodes de l\u2019astrologie \u2013 dont nous consid\u00e9rons maintenant que ce n\u2019est pas un discours de type scientifique. Ils ont donc fait quelque chose \u2013 qui, au niveau de l\u2019histoire de l\u2019humanit\u00e9, est tout \u00e0 fait consid\u00e9rable \u2013 en croyant faire autre chose. Nous pouvons, du coup, nous poser la question : \u00ab\u00a0Quand nous essayons de lutter contre le vieillissement et de pouvoir vivre \u00e9ventuellement mille ans, est-ce que nous ne mettons pas simplement au point la technique qui nous permettra de quitter l\u2019environnement dans lequel nous sommes ?\u00a0\u00bb Parce que, comme je l\u2019avais soulign\u00e9 la fois derni\u00e8re, quand les petits lemmings \u2013 les petits campagnols du Cercle Polaire \u2013 se lancent en grand nombre pour essayer de trouver un autre environnement autour d\u2019eux, en g\u00e9n\u00e9ral, ils r\u00e9ussissent \u2013 puisque nous les voyons toujours autour de nous \u2013 ils d\u00e9couvrent une autre vall\u00e9e qu\u2019ils n\u2019ont pas encore\u00a0colonis\u00e9e.<\/p>\n

L\u2019homme a colonis\u00e9 l\u2019ensemble, la totalit\u00e9 de la plan\u00e8te Terre, et si nous voulons trouver un autre environnement \u2013 parce que nous l\u2019avons d\u00e9grad\u00e9 ou nous sommes trop nombreux pour celui sur lequel nous sommes \u2013 il faudra que nous trouvions autre chose. Une course est donc engag\u00e9e entre l\u2019utilisation possible de la technologie par nous-m\u00eames pour maintenir nos conditions de vie sur la Terre \u2013 voire nous adapter \u00e0 un monde d\u00e9grad\u00e9 en modifiant la mani\u00e8re dont nous sommes constitu\u00e9s \u2013 et le fait que il est vrai que nous sommes en train, par ailleurs, de mettre au point les techniques qui nous permettraient d\u2019aller \u00e9ventuellement nous installer ailleurs, sur d\u2019autres plan\u00e8tes. Nous savons que les alternatives dans notre propre syst\u00e8me stellaire sont tr\u00e8s limit\u00e9es : nous explorons Mars, mais nous savons que ce n\u2019est pas l\u2019endroit id\u00e9al. L\u2019endroit id\u00e9al, c\u2019est quand m\u00eame la Terre, et si nous devons mobiliser nos ressources, il serait quand m\u00eame plus simple de les mobiliser pour maintenir nos conditions d\u2019existence \u00e0 la surface de la Terre.<\/p>\n

Les difficult\u00e9s que nous avons, c\u2019est que, d\u2019une part, nous ne comprenons peut-\u00eatre pas exactement ce que nous faisons \u2013 et du point de vue conceptuel,\u00a0nous ne nous repr\u00e9sentons pas bien ce qui se passe autour de nous. Nous ne comprenons pas notre propre comportement : nous sommes surpris par ce que nous faisons, m\u00eame.<\/p>\n

Je vous donne deux exemples \u2013 ce sont des termes que vous connaissez sans doute si vous vous int\u00e9ressez un petit peu \u00e0 \u00e7a. Quand on nous dit \u2013 encore en 2014 \u2013 qu\u2019une machine ne pourra probablement pas battre un \u00eatre humain au jeu de Go, on nous dit : \u00ab\u00a0C\u2019est parce qu\u2019il faudrait que la machine puisse d\u00e9velopper ce que nous appelons l\u2019intuition pour nous-m\u00eames, parce que le nombre d\u2019op\u00e9rations qu\u2019il faudrait calculer dans ce jeu \u2013 o\u00f9 il y a \u00e9norm\u00e9ment de pi\u00e8ces \u2013 est trop grand m\u00eame pour la machine\u00a0\u00bb.\u00a0Et donc, nous avons quelque chose que nous appelons l\u2019\u00ab\u00a0intuition\u00a0\u00bb qui nous permet de jouer \u00e0 ce jeu, et la machine, on ne voit pas comment elle pourrait le faire. Et l\u2019ann\u00e9e suivante, les plus grands champions de Go sont battus par une machine, et on pose la question aux programmeurs : \u00ab\u00a0Est-ce que vous avez programm\u00e9 l\u2019intuition ?\u00a0\u00bb\u00a0\u00bb et leurs programmeurs disent : \u00ab\u00a0Il n\u2019y a rien dans ce que j’au cru programmer qui soit une tentative d\u2019introduire l\u2019intuition dans la machine ; l\u2019intuition est apparue comme cela\u00a0\u00bb. M\u00eame chose, la m\u00eame ann\u00e9e, quand un syst\u00e8me informatique bat les plus grands champions de Poker. L\u00e0 aussi, on pose au programmeur la question \u00ab\u00a0Comment avez vous d\u00e9velopp\u00e9 le bluff ?\u00a0\u00bb \u2013 puisque nous savons que le bluff est une strat\u00e9gie essentielle pour jouer au Poker \u2013 et le programmeur tombe des nues, l\u00e0 aussi en disant \u00ab\u00a0Il n\u2019y a rien dans les lignes de code que j\u2019ai \u00e9crites qui corresponde \u00e0 ce que nous pourrions appeler le bluff\u00a0\u00bb.<\/p>\n

Nous avons maintenant des repr\u00e9sentations sur des choses qui seraient encore impossibles en intelligence artificielle parce que nous disons : \u00ab\u00a0Il faudrait que la machine ait des \u00e9motions ou que la machine soit consciente, etc.\u00a0\u00bb Nous devrions l\u00e0 \u00eatre prudents : est-ce que la machine aura v\u00e9ritablement besoin d\u2019une conscience pour faire des choses dont nous imaginons que la conscience est le moteur \u2013 \u00e0 partir de cette repr\u00e9sentation spontan\u00e9e que notre conscience nous permet d\u2019avoir des intentions et que notre volont\u00e9 nous permet de mettre en application les intentions que nous avons ?
\nJe dirais que la psychanalyse nous a d\u00e9j\u00e0 mis en garde contre cette repr\u00e9sentation \u2013 en consid\u00e9rant qu\u2019elle est un peu na\u00efve \u2013 parce qu\u2019il se passe chez nous des tas de choses qui ne sont pas de cet ordre-l\u00e0. Il y a cette chose, chez nous, que saint Paul avait d\u00e9j\u00e0 not\u00e9e : le fait qu\u2019il y a deux types de volont\u00e9 en nous, et qu\u2019il n\u2019y a que l\u2019une de ces deux volont\u00e9s qui soit de cet ordre-l\u00e0 \u2013 de la d\u00e9lib\u00e9ration, de l\u2019intention qui est mise en application \u2013 mais qu\u2019il y a une autre volont\u00e9 chez nous qu\u2019on appelle \u00ab\u00a0inconsciente\u00a0\u00bb maintenant, ou d\u2019ordre r\u00e9flexe \u2013 et je ne r\u00e9siste pas au plaisir de vous citer deux versets du chapitre VII de l\u2019\u00c9p\u00eetre aux Romains : Car je ne reconnais pas ce que je fais, je ne fais pas ce que je veux et je fais ce que j\u2019ex\u00e8cre<\/i>\u00a0 \u2013 C\u2019est la pr\u00e9sence en nous de ce qui est appel\u00e9 dans les traductions, je dirais, de type classique, \u00ab\u00a0la chair et l\u2019esprit\u00a0\u00bb et qu\u2019on pourrait appeler \u00ab\u00a0le conscient et l\u2019inconscient\u00a0\u00bb, ou \u00ab\u00a0le corps et la d\u00e9lib\u00e9ration\u00a0\u00bb \u2013 et le verset XXIV : Malheureux que je suis. Qui me d\u00e9livrera de ce corps condamn\u00e9 \u00e0 la mort ?<\/i> \u2013 la repr\u00e9sentation de quelque chose de s\u00e9par\u00e9, que l\u2019on pourrait \u2013 \u00e0 l\u2019instar des transhumanistes \u2013 transf\u00e9rer peut-\u00eatre, la repr\u00e9sentation de notre conscience \u00e0 l\u2019int\u00e9rieur d\u2019une machine ou d\u2019un support d\u2019un autre type, notre esprit \u00e9tant de l\u2019ordre du logiciel par rapport \u00e0 du hardware.<\/p>\n

Personnellement, je consid\u00e8re qu\u2019il y a l\u00e0 une na\u00efvet\u00e9. Je ne pense pas que ce soit possible, mais je crois que le fondement de cette na\u00efvet\u00e9, ce sont les mauvaises repr\u00e9sentations que nous avons de notre propre fonctionnement. Le fait est que nous reconnaissons qu\u2019il y a en nous deux types de volont\u00e9 : l\u2019une qui est de l\u2019ordre du spontan\u00e9, et quand nous en parlons du point de vue de la justice\u2026 La question s\u2019\u00e9tait pos\u00e9e r\u00e9cemment \u00e0 un \u00e9v\u00e9nement auquel j\u2019ai particip\u00e9 \u2013 des experts judiciaires qui se posent la question de ce que nous ferons quand il y aura de l\u2019intelligence artificielle. Nous reconnaissons en nous-m\u00eames un comportement qui pourrait \u00eatre, je dirais, de type machinique \u2013 c\u2019est la notion, par exemple, de \u00ab\u00a0crime passionnel\u00a0\u00bb : nous consid\u00e9rons que notre responsabilit\u00e9 n\u2019est pas engag\u00e9e de la m\u00eame mani\u00e8re que quand nous agissons de mani\u00e8re rationnelle, quand cette autre volont\u00e9, celle du corps \u2013\u00a0 celle de la chair chez saint Paul \u2013 intervient. Nous consid\u00e9rons depuis longtemps dans notre droit qu\u2019il y a des circonstances att\u00e9nuantes qui peuvent intervenir quand nous avons fonctionn\u00e9 comme une machine. Ce qui est amusant, c\u2019est que nous employons le terme de \u00ab\u00a0passionnel\u00a0\u00bb pour cela, et qu\u2019il faudrait d\u2019une certaine mani\u00e8re\u2026 C\u2019est comme si nous retirions toute responsabilit\u00e9 \u00e0 la machine quand elle prendra des d\u00e9cisions et que nous consid\u00e9rerons qu\u2019elles sont dangereuses ou qu\u2019elles ont conduit \u00e0 des actes doleux<\/em>, \u00e0 des crimes.\u00a0Ce qui est amusant, c\u2019est qu\u2019il faudra consid\u00e9rer que la machine a agi comme nous, dans un \u00e9tat passionnel.<\/p>\n

Notre manque de pr\u00e9paration, il appara\u00eet dans ces r\u00e9flexions qui nous viennent justement sur la machine ind\u00e9pendante, la machine autonome, et comment il faudra la traiter. Nous voyons que le point de d\u00e9part, il est dans une repr\u00e9sentation inad\u00e9quate de notre propre comportement. Quand on s\u2019int\u00e9resse \u00e0 la notion de causalit\u00e9 en science\u2026 On pourrait consid\u00e9rer que l\u2019homme a spontan\u00e9ment produit une notion de cause \u2013 de cause et d\u2019effet \u2013 et que quand il s\u2019agit de la culpabilit\u00e9 d\u2019un acte consid\u00e9r\u00e9 comme r\u00e9pr\u00e9hensible, simplement, nous utilisons ces cat\u00e9gories de cause et d\u2019effet et nous les appliquons dans le domaine humain : si un \u00eatre humain a \u00e9t\u00e9 la cause d\u2019un \u00e9v\u00e9nement, nous pouvons consid\u00e9rer qu\u2019il \u00e9tait responsable \u2013 \u00e0 condition, bien entendu, qu\u2019il n\u2019y ait pas d\u2019autres circonstances qui emp\u00eacheraient de consid\u00e9rer la responsabilit\u00e9, par exemple la folie ou un acte de type passionnel. Mais quand nous pensons \u00e0 la machine, nous\u00a0nous apercevons tout de suite qu\u2019appliquer ces cat\u00e9gories ne fonctionne pas.<\/p>\n

Si je mentionnais la cause, c\u2019\u00e9tait pour faire la remarque suivante : quand nous faisons l\u2019histoire de la notion de cause dans notre culture, le mouvement, en fait, a \u00e9t\u00e9 tout \u00e0 fait inverse. Cette notion de cause et d\u2019effet n\u2019existe pas en Chine traditionnelle, j\u2019en dirai un mot. En fait, nous avons d\u00e9riv\u00e9 la notion de cause de celle de responsabilit\u00e9 : c’est la notion de responsabilit\u00e9 qui \u00e9tait premi\u00e8re chez nous. C\u2019est quelque chose qui est sans doute assez spontan\u00e9 dans notre culture mais sur lequel, par exemple, les philosophes sto\u00efciens ont bien r\u00e9fl\u00e9chi. Quand nous disons qu\u2019un \u00e9v\u00e9nement se passe dans le monde ext\u00e9rieur et qu\u2019il est la cause de tel autre, en fait, au d\u00e9part, c\u2019\u00e9tait lui attribuer une responsabilit\u00e9 : \u00ab\u00a0Si c\u2019\u00e9tait un \u00eatre humain, pourrait-il \u00eatre puni pour ce qui se passe l\u00e0 ?\u00a0\u00bb Nous voyons cette notion de cause appara\u00eetre, en particulier \u00e0 l\u2019\u00e9poque o\u00f9 nous cr\u00e9ions la science moderne, dans le cadre de la m\u00e9canique c\u00e9leste qui est la premi\u00e8re de nos grandes sciences. Cette notion de causalit\u00e9, maintenant, nous la rencontrons quand nous parlons de la machine.<\/p>\n

Il y a une notion qui devrait \u00eatre premi\u00e8re, c\u2019est celle d\u2019imputabilit\u00e9. Est-ce qu\u2019un \u00e9v\u00e9nement est imputable \u00e0 tel autre ? C\u2019est-\u00e0-dire en fait : si cet \u00e9v\u00e9nement premier n\u2019avait pas eu lieu, est-ce que l\u2019autre serait apparu ? Et vous le savez, la science juridique s\u2019est int\u00e9ress\u00e9e \u00e9norm\u00e9ment \u00e0 cela. Il y a une notion en particulier, dans notre droit, qui n’est pas de type anglo-saxon, mais de type napol\u00e9onien, qui est la force majeure<\/i>. Nous consid\u00e9rons qu\u2019il y a des choses dans l\u2019ordre du monde auxquelles nous attribuerons une responsabilit\u00e9 s\u2019il s\u2019agit d\u2019un \u00eatre humain, mais que nous ne pouvons pas attribuer \u00e0 une force quand il y a des \u00e9v\u00e9nements qui viennent de l\u2019ordre de la nature et qui nous imposent des choses qu\u2019on appelle des cas de force majeure<\/i>, et il est tr\u00e8s int\u00e9ressant de voir comment cette notion est appel\u00e9e dans le droit de type anglo-saxon : elle est toujours appel\u00e9e maintenant act of God<\/i>, un acte de Dieu. C\u2019est-\u00e0-dire que dans cette r\u00e9flexion qui doit \u00eatre la r\u00e9flexion premi\u00e8re \u2013 et on pense par exemple au cadre de la Gr\u00e8ce antique \u2013 \u00ab\u00a0Cherchons qui est responsable d\u2019un \u00e9v\u00e9nement\u00a0\u00bb, et si c\u2019est un \u00e9v\u00e9nement que nous appelons nous d\u2019ordre naturel<\/em>, \u00ab\u00a0Cherchons quel est le dieu qui en est responsable\u00a0\u00bb. La mythologie grecque, bien s\u00fbr, c\u2019est cela, c\u2019est de nous expliquer des tas de choses qui se sont pass\u00e9es chez nous et dont la mythologie nous explique quels sont les dieux qui y \u00e9taient impliqu\u00e9s.<\/p>\n

Dans un pays o\u00f9 j\u2019ai habit\u00e9, qui s\u2019appelle le B\u00e9nin aujourd\u2019hui et qui s\u2019est appel\u00e9 Dahomey \u00e0 une \u00e9poque, du nom d\u2019un royaume, la religion vaudou \u2013 \u00ab\u00a0vaudou\u00a0\u00bb, c\u2019est le terme qui veut dire sacr\u00e9 en langue fon<\/i>, la langue du pays \u2013 dans cette religion de type grec ancien, pour chaque \u00e9v\u00e9nement naturel il y a une divinit\u00e9 qui en est responsable, et c\u2019est par un syst\u00e8me de sacrifices que l\u2019on essaie de r\u00e9tablir un \u00e9quilibre. Ce qui m\u2019avait frapp\u00e9, c\u2019est\u2026 il y a une th\u00e9orie math\u00e9matique qui avait \u00e9t\u00e9 produite par Ren\u00e9 Thom, qui avait class\u00e9 ce qu\u2019il appelait des processus physiques qu\u2019on pouvait consid\u00e9rer comme des catastrophes, des \u00ab\u00a0catastrophes \u00e9l\u00e9mentaires\u00a0\u00bb \u2013 par exemple, la coupure ou une \u00e9ruption, la peau crev\u00e9e par quelque chose qui se passe \u00e0 son niveau, le pli, etc. \u2013 et je m\u2019\u00e9tais aper\u00e7u que dans cette religion du Dahomey, cette religion traditionnelle du vaudou, les divinit\u00e9s principales correspondent \u00e0 ces catastrophes \u00e9l\u00e9mentaires qu\u2019a d\u00e9crites Ren\u00e9 Thom. En fait, le terme de catastrophe est \u00e9videmment excessif pour d\u00e9terminer des choses comme la coupure, des choses cet ordre-l\u00e0, mais il y a une divinit\u00e9 qui correspond \u00e0 chacun de ce type d\u2019\u00e9v\u00e9nements. C\u2019est-\u00e0-dire que, dans cette religion-l\u00e0, le monde naturel est divis\u00e9 en cat\u00e9gories de choses qui se passent dans le monde et que nous pouvons appeler, nous, force majeure<\/i> ou act of God<\/i> en anglais, o\u00f9 la responsabilit\u00e9 individuelle du dieu est impliqu\u00e9e.<\/p>\n

Donc, ma conclusion serait celle-ci : nous sommes dans un monde o\u00f9 l\u2019\u00e9volution de ce monde d\u00e9pend en particulier du type de technologie qui est de la science appliqu\u00e9e \u2013 le fait que nous avons compris un certain nombre de choses et qu\u2019\u00e0 partir de l\u00e0, nous pouvons produire des objets. Une des difficult\u00e9s maintenant, c\u2019est une repr\u00e9sentation inad\u00e9quate de ce qui se passe. En particulier, nous n\u2019avons pas une repr\u00e9sentation tr\u00e8s claire de la mani\u00e8re dont notre Droit fonctionne de mani\u00e8re intuitive, et nous appelons \u00ab\u00a0responsabilit\u00e9\u00a0\u00bb quelque chose que nous n\u2019avons, en r\u00e9alit\u00e9, jamais tr\u00e8s bien analys\u00e9, o\u00f9 les cat\u00e9gories anciennes continuent d\u2019interf\u00e9rer d\u2019une mani\u00e8re ou d\u2019une autre. Nous n\u2019avons pas une repr\u00e9sentation tr\u00e8s claire non plus de la mani\u00e8re dont deux types de volont\u00e9 fonctionnent en nous, nous n\u2019en avons pas tir\u00e9 toutes les cons\u00e9quences. Et, de mani\u00e8re peut-\u00eatre encore plus large, je dirais que nous ne nous sommes pas fait une opinion sur le rapport que nous devons entretenir vis-\u00e0-vis de cette technologie que nous avons produite et qui, \u00e0 notre connaissance, est une chose unique \u00e0 l\u2019int\u00e9rieur de l\u2019univers.<\/p>\n

\u00c7a existe peut-\u00eatre ailleurs : vous savez que, depuis pas mal de temps, enfin depuis les ann\u00e9es soixante en tout cas, nous essayons\u00a0de voir s\u2019il y a des signaux dans l\u2019univers qui signaleraient une civilisation du type de la n\u00f4tre. Nous n\u2019avons pas la preuve jusqu\u2019ici qu\u2019il y ait quoi que ce soit de cet ordre-l\u00e0, et nous pourrions en tirer comme conclusion le fait qu\u2019il y aurait quelque chose d\u2019effectivement tout \u00e0 fait extraordinaire \u00e0 l\u2019\u00e9chelle de l\u2019univers, le fait que nous soyons cette cr\u00e9ature technologique. Mais nous semblons un peu manipul\u00e9, je dirais, par la \u00ab\u00a0ruse de la raison\u00a0\u00bb. C\u2019est-\u00e0-dire que nous n\u2019arrivons pas \u00e0 comprendre v\u00e9ritablement ce qui nous arrive.<\/p>\n

Le moment est sans doute venu, si nous voulons obtenir une ma\u00eetrise plus grande sur ce qui va nous arriver \u2013 parce que nous atteignons les limites de ce qu\u2019on appelle la capacit\u00e9 de charge d\u2019un environnement par rapport \u00e0 une esp\u00e8ce : nous commen\u00e7ons \u00e0 d\u00e9passer la capacit\u00e9 de la Terre de nous soutenir en tant qu\u2019esp\u00e8ce \u2013 nous faisons sauter les coutures \u2013 Il est peut-\u00eatre bon, dans une d\u00e9marche g\u00e9n\u00e9rale d\u2019augmentation de notre lucidit\u00e9 par rapport \u00e0 ce que nous faisons, que nous r\u00e9fl\u00e9chissions, je dirais peut-\u00eatre une fois pour toutes, \u00e0 quel est notre rapport \u00e0 ces artifices que nous produisons \u2013 que nous sortions peut-\u00eatre d\u2019une culpabilit\u00e9, \u00e0 moins que nous trouvions le fondement m\u00eame de cette culpabilit\u00e9 \u2013 qu\u2019elle soit justifi\u00e9e d\u2019un point de vue \u00e9thique ou autre mais sinon qu\u2019elle ne vienne pas nous embarrasser dans la r\u00e9flexion autour de cela \u2013 que nous examinions nos cat\u00e9gories en fonction de qui nous sommes, et que nous adoptions peut-\u00eatre un peu plus souvent le point de vue de ce que j\u2019appelais l\u2019anthropologue extraterrestre, ou galactique, de poser un regard sur nous, un regard lucide sur qui sommes-nous \u00e0 l\u2019int\u00e9rieur de cet univers, pour en tirer des lignes de conduite par rapport \u00e0 ce qui nous menace, c\u2019est-\u00e0-dire que la lutte contre l\u2019extinction \u00e9ventuelle de notre esp\u00e8ce devienne notre premi\u00e8re priorit\u00e9.<\/p>\n

Voil\u00e0<\/p>\n

[Applaudissements]<\/p>\n

Question du public :<\/p>\n

Aurons-nous le temps de fabriquer les machines qui pourraient nous survivre ?<\/p>\n

PJ : J\u2019ai eu la chance d\u2019\u00eatre \u00e0 une \u00e9poque \u2013 pour une raison accidentelle mais dont je remercie les dieux \u2013 d\u2019avoir \u00e9t\u00e9 chercheur en intelligence artificielle. C\u2019\u00e9tait \u00e0 la fin des ann\u00e9es quatre-vingt, et \u00e0 cette \u00e9poque, les chercheurs dans ce domaine, nous avancions en \u00e9tant conscients qu\u2019il y avait des goulots d\u2019\u00e9tranglement par rapport aux possibilit\u00e9s devant nous : il y avait peut-\u00eatre des t\u00e2ches qui \u00e9taient v\u00e9ritablement de l\u2019ordre de l\u2019impossible \u2013 il y avait des probl\u00e8mes au niveau de la vision qui semblaient \u00eatre des obstacles qu\u2019on ne pourrait peut-\u00eatre pas lever, dans l\u2019interpr\u00e9tation des formes \u2013 il y avait surtout dans la manipulation du langage, on utilisait des choses qu\u2019on appelait des r\u00e9seaux s\u00e9mantiques<\/em> et \u00e7a paraissait tr\u00e8s limit\u00e9. On pensait que \u00e7a ne marcherait peut-\u00eatre pas de mani\u00e8re g\u00e9n\u00e9rale. Dans ce que je vois du d\u00e9veloppement actuel de l\u2019intelligence artificielle, je ne vois plus de goulot d\u2019\u00e9tranglement de ce type-l\u00e0; je ne vois plus d\u2019obstacle majeur, de choses que nous ne pourrions peut-\u00eatre pas r\u00e9soudre.<\/p>\n

Si on imagine que la conscience est une n\u00e9cessit\u00e9 pour une machine qui nous remplacerait, oui, parce que nous ne savons pas encore ce que c\u2019est la conscience \u2013 nous n\u2019avons pas une repr\u00e9sentation, je dirais, de type mat\u00e9rialiste de ce qu\u2019est la conscience. Si c\u2019est un \u00e9l\u00e9ment d\u2019ordre, disons, soit surnaturel soit de nature physique mais d\u2019un processus dont nous n\u2019aurions pas encore la notion \u2013 oui, il y a peut-\u00eatre quelque chose de cet ordre-l\u00e0.<\/p>\n

Mais \u00e0 la fin de cette \u00e9poque-l\u00e0, j\u2019ai produit un mod\u00e8le de la conscience qui est un mod\u00e8le mat\u00e9rialiste o\u00f9 la conscience n\u2019est pas n\u00e9cessaire, justement, \u00e0 la volont\u00e9. Il est possible qu\u2019il y ait une volont\u00e9 tout \u00e0 fait g\u00e9n\u00e9rale sans la conscience. Dans le mod\u00e8le que j\u2019ai produit, la conscience est une sorte d\u2019artefact du m\u00e9canisme de m\u00e9moire ; \u00e7a nous vient \u2013 et \u00e7a vient \u00e0 certains animaux aussi \u2013 que nous sommes conscients de nous-m\u00eames, mais, je dirais, heureusement pour notre survie imm\u00e9diate dans la vie de tous les jours, nous n\u2019avons pas n\u00e9cessairement besoin que la conscience joue un r\u00f4le directeur. Les choses qui nous sauvent la vie, nous les faisons \u00e0 une vitesse telle que la repr\u00e9sentation n\u2019a pas encore eu lieu m\u00eame dans notre cerveau. Dans un incendie, nous courons avant que notre conscience se soit rendu compte que \u00e7a br\u00fble, parce que notre corps l\u2019a su avant.<\/p>\n

C\u2019est Benjamin Libet<\/a>, le psychologue am\u00e9ricain, qui avait d\u00e9couvert que l\u2019apparition dans notre cerveau de ce que nous appelons la volont\u00e9 vient apr\u00e8s \u2013 en g\u00e9n\u00e9ral longtemps apr\u00e8s. Il avait calcul\u00e9 que notre repr\u00e9sentation de l\u2019acte que nous voulons poser vient une demi-seconde apr\u00e8s qu\u2019il a \u00e9t\u00e9 pos\u00e9 v\u00e9ritablement, que le corps l\u2019a d\u00e9j\u00e0 entrepris. Mais depuis, il y a des chercheurs japonais qui ont montr\u00e9 que dans certaines circonstances, notre corps a d\u00e9j\u00e0 entrepris la chose que nous allons vouloir faire plus de dix secondes auparavant, et qu\u2019en disant \u00ab\u00a0Tiens ! Je vais faire \u00e7a !\u00a0\u00bb, il y a d\u00e9j\u00e0 dix secondes que le corps est en train, en fait, de poser l\u2019acte, et notre conscience enregistre simplement ce qui est en train de se passer.<\/p>\n

Pour ce qui est de machines qui se reproduiraient, il faut imaginer, bien entendu, des machines qui extrairaient les min\u00e9raux, qui les rassembleraient, qui construiraient les pi\u00e8ces : que des robots construisent d\u2019autres robots qui seraient comme eux-m\u00eames. Nous voyons dans les films de science-fiction, dans Terminator<\/i> en particulier, nous voyons ces cr\u00e9atures interm\u00e9diaires qui se r\u00e9parent elles-m\u00eames parce qu\u2019elles savent comment il faut faire. Mais dans ce processus-l\u00e0 \u2013 qui permettrait \u00e0 des machines de produire d\u2019autres machines \u2013 il n\u2019y a pas d\u2019obstacle connu qui nous emp\u00eacherait de le faire.<\/p>\n

Il y a une personne en France qui s\u2019appelle M. Ganascia, qui depuis une trentaine d\u2019ann\u00e9es nous dit qu\u2019un certain nombre de choses ne pourront pas \u00eatre faites par les machines. C\u2019est lui qui utilise encore cette image que le robot qui gagne aux \u00e9checs n\u2019est pas celui qui peut nous verser une tasse de caf\u00e9,\u00a0et j\u2019ai mis r\u00e9cemment sur mon blog, bien entendu pour m\u2019amuser, une vid\u00e9o d\u2019un robot qui bat les jeunes gens aux \u00e9checs et qui en m\u00eame leur verse du caf\u00e9. Le probl\u00e8me de rassembler dans une machine diff\u00e9rents types de t\u00e2ches, nous le savons, elle est d\u00e9j\u00e0 r\u00e9solue dans le smartphone, appliqu\u00e9e d\u2019une mani\u00e8re qui aurait sid\u00e9r\u00e9 nos grands-parents. Quelle est la machine que nous avons invent\u00e9e, je dirais, qui peut nous \u00eatre utile dans la vie quotidienne, qui n\u2019est pas d\u00e9j\u00e0 l\u00e0 dans cet objet qui prend des photos, qui envoie du courrier, qui traduit des textes d\u2019une langue dans l\u2019autre, qui est une boussole, qui est une lampe de poche et ainsi de suite ? Le fait de mettre deux machines en une, ce n\u2019est pas \u00e7a qui va nous arr\u00eater. S\u2019il fallait ajouter \u00e0 ce robot qu\u2019il nettoie le parquet \u00e9galement avant de partir, nous savons comment le faire. Donc, \u00e0 votre question, j\u2019ai connu l\u2019\u00e9poque pionni\u00e8re en intelligence artificielle o\u00f9 certaines t\u00e2ches nous paraissaient peut-\u00eatre encore impossibles, mais l\u00e0, pour des machines qui se reproduiraient elles-m\u00eames, l\u00e0 je ne vois pas d\u2019obstacle majeur dans la technologie qui est la n\u00f4tre qui emp\u00eacherait de le faire.<\/p>\n

Question du public :<\/p>\n

Une petite r\u00e9flexion au fil de votre propos : d\u2019abord, vous avez oppos\u00e9 \u00e0 notre culture, qui est une culture de conceptualisation \u2013 de percevoir ce qui nous entoure \u2013 \u00e0 une culture d\u2019essai et d\u2019\u00e9chec dans d\u2019autres domaines, la contextualisation ayant ses limites quand il s\u2019agit de l\u2019appliquer \u00e0 l\u2019humanit\u00e9 elle-m\u00eame. \u00c7a me fait penser \u00e0 une r\u00e9flexion de Vercors<\/a> dans Les Animaux d\u00e9natur\u00e9s<\/i><\/a>, qui dit que le malheur des humains, c\u2019est de ne pas savoir ce qu\u2019ils sont, de ne pas \u00eatre capables de se mettre d\u2019accord sur ce qu\u2019ils devraient \u00eatre.<\/p>\n

PJ : Tout \u00e0 fait, oui. C\u2019est un livre qui pose des questions tr\u00e8s int\u00e9ressantes.<\/p>\n

Suite de la question :<\/p>\n

\u2026 L\u2019autre aspect, c\u2019est l\u2019essai-erreur. Est-ce que la machine elle-m\u00eame, justement, ne proc\u00e8de pas par essai-erreur \u00e0 une vitesse difficile \u00e0 mesurer et qui \u00e9chappe \u00e0 notre conceptualisation ?<\/p>\n

Dans un autre domaine, vous avez \u00e9voqu\u00e9 comme un des fondements de notre culture le mythe de Prom\u00e9th\u00e9e et l\u2019homme fait \u00e0 l\u2019image de dieu. Il y a un autre mythe qui est le mythe du p\u00e9ch\u00e9 originel, c\u2019est-\u00e0-dire celui de l\u2019interdiction de l\u2019arbre de la connaissance, et je vois mal comment \u00e7a s\u2019articule avec les deux pr\u00e9c\u00e9dents mythes que vous avez \u00e9voqu\u00e9s.<\/p>\n

Et derni\u00e8re chose, qui rejoint la question pr\u00e9c\u00e9dente, qui n\u2019est pas sur le plan des possibilit\u00e9s mais sur le plan de la possibilit\u00e9 de faire. L\u2019impression que j\u2019ai, c\u2019est que nous vivons dans un monde qui est extr\u00eamement sophistiqu\u00e9, et le danger de la sophistication c\u2019est la fragilit\u00e9. Est-ce qu\u2019on sait ce qu\u2019on fera, plut\u00f4t que d\u2019imaginer les perspectives que vous avez ouvertes \u2013 si ce monde hyper-sophistiqu\u00e9 s\u2019effondre et que l\u2019on connaisse une r\u00e9gression plan\u00e9taire qui fasse que cette technologie s\u2019effondre et qu\u2019il y ait un recul culturel et technologique consid\u00e9rable qui emp\u00eache ce qu\u2019on a pu un temps envisager ?<\/p>\n

PJ : Eh bien, je peux commencer un nouvel expos\u00e9 pour tenter de r\u00e9pondre \u00e0 ce que vous dites ! Oui, beaucoup de r\u00e9flexions dans ce que vous dites sur des points d\u2019articulation.<\/p>\n

Sur l\u2019essai-erreur, effectivement, la machine nous permet d\u2019industrialiser l\u2019essai-erreur. Dans des tas de probl\u00e8mes pratiques, nos repr\u00e9sentations en termes de cause et d\u2019effet atteignent leurs limites \u2013 et \u00e7a on le sait depuis un bon moment. Il y a des tas de probl\u00e8mes, par exemple en a\u00e9rodynamique, qu\u2019on a essay\u00e9 de r\u00e9soudre avec des maquettes et pas \u00e0 partir de th\u00e9ories au d\u00e9part. Quand on a voulu r\u00e9soudre des probl\u00e8mes complexes qui sont li\u00e9s \u00e0 des processus que nous appelons de type non-lin\u00e9aire \u2013 parce qu\u2019il y a des \u00ab\u00a0sauts\u00a0\u00bb qui peuvent avoir lieu ou des \u00ab\u00a0processus dissipatifs\u00a0\u00bb, comme dit Prigogine<\/a> \u2013 o\u00f9 nous ne pouvons pas avoir une repr\u00e9sentation v\u00e9ritablement d\u00e9terministe d’un nombre de possibilit\u00e9s qui ne serait pas infini.<\/p>\n

Nous simulons maintenant, c\u2019est-\u00e0-dire qu\u2019en fait, nous mettons entre parenth\u00e8ses des m\u00e9canismes de causes et d\u2019effets : nous mettons en pr\u00e9sence des instances virtuelles de l\u2019ensemble des particules en sachant comment elles interagissent et nous regardons ce qui se passe. Nous faisons la m\u00eame chose dans les sciences humaines quand nous faisons des mod\u00e8les centr\u00e9s objets : Nous constituons des instances de petits personnages et nous les faisons interagir pour voir ce qui se passe. J\u2019ai fait \u00e7a moi-m\u00eame pour simuler un march\u00e9 boursier, ce qui a conduit en particulier \u00e0 la remarque que ce n\u2019est pas une meilleure connaissance du comportement des autres qui permet \u00e0 un march\u00e9 d\u2019\u00eatre \u00e9quilibr\u00e9 mais qu\u2019au contraire, une connaissance parfaite fait qu\u2019un march\u00e9 se d\u00e9s\u00e9quilibre. C\u2019est probablement parce nous ne comprenons pas les march\u00e9s – que la moiti\u00e9 des gens croient que le prix est \u00e0 la hausse et l\u2019autre qu\u2019il est \u00e0 la baisse, et c\u2019est \u00e7a qui leur maintient un certain \u00e9quilibre.<\/p>\n

Effectivement, il y a un retour chez nous de l\u2019essai-erreur parce que nous pouvons le faire maintenant en tr\u00e8s grande quantit\u00e9, et que nous pouvons \u00e9puiser le nombre de possibilit\u00e9s. Dans ce que je dis par rapport \u00e0 la Chine o\u00f9 la repr\u00e9sentation du monde n\u2019\u00e9tait pas th\u00e9orique, mais en termes de corr\u00e9lations, de choses qui viennent ensemble, je peux vous donner un exemple qui est amusant : \u00e7a se passe \u00e0 l\u2019\u00e9poque o\u00f9 je travaillais en Californie. Une coll\u00e8gue chinoise me dit que son fr\u00e8re qui habite la Chine va venir lui rendre visite et que je serai int\u00e9ress\u00e9 \u00e0 discuter avec lui, et qu\u2019il a fait la couverture du magazine Newsweek<\/i> quelques semaines auparavant. Pourquoi a-t-il fait la couverture d\u2019un magazine am\u00e9ricain ? Parce que, avec son \u00e9quipe, il a gagn\u00e9 un concours. Le concours consistait \u00e0 d\u00e9crire enti\u00e8rement le g\u00e9nome d\u2019une plante, et \u00e9taient en lice un certain nombre d\u2019entreprises am\u00e9ricaines sp\u00e9cialis\u00e9es l\u00e0-dedans, des entreprises de petite taille qui emploient au maximum une centaine de personnes, et ce jeune Chinois a gagn\u00e9 la course et qu\u2019a-t-il fait ? Il n\u2019a utilis\u00e9 aucune repr\u00e9sentation du processus qu\u2019il s\u2019agissait de d\u00e9crire : il a mis en r\u00e9seau un millier d\u2019ordinateurs si j’ai bon souvenir d\u2019\u00e9tudiants chinois et a lanc\u00e9 un programme qui, simplement, produisait toutes les combinaisons possibles en regardant ce qui marche. C\u2019est-\u00e0-dire que c\u2019\u00e9tait par la \u00ab\u00a0force brute\u00a0\u00bb, comme on dit, qu\u2019il avait r\u00e9solu le probl\u00e8me, dans une perspective tout \u00e0 fait chinoise, sans repr\u00e9sentation th\u00e9orique de ce dont il s\u2019agissait. Il avait donc trouv\u00e9 une approche tout \u00e0 fait alternative, par essai-erreur \u2013 en mobilisant non pas la puissance de calcul d’un ordinateur tr\u00e8s puissant mais la possibilit\u00e9, en mettant en r\u00e9seau un tr\u00e8s grand nombre d\u2019ordinateurs peu puissants \u2013 d\u2019explorer toutes les possibilit\u00e9s.<\/p>\n

Sur les autres choses que vous avez dites, comme je dis, il faudrait pratiquement un expos\u00e9 nouveau pour r\u00e9pondre \u00e0 toutes ces choses que vous avez soulev\u00e9es, qui sont des points importants, mais voil\u00e0\u2026 je souligne peut-\u00eatre ce que vous avez dit aussi, le fait qu\u2019il faudrait que nous ayons une repr\u00e9sentation moins passionn\u00e9e de qui nous sommes, moins log\u00e9e dans le pr\u00e9jug\u00e9, pour comprendre mieux ce que nous devrions faire maintenant. Mais l\u00e0, bien s\u00fbr, nous avons toute notre histoire o\u00f9 nous nous sommes plac\u00e9s dans une position tout \u00e0 fait privil\u00e9gi\u00e9e : nous avons mis la nature en ext\u00e9riorit\u00e9. Avant d\u2019inventer la technologie, nous avons produit aussi autre chose de neuf, c\u2019est-\u00e0-dire la culture, la culture qui fait que chaque g\u00e9n\u00e9ration ne doive pas transmettre oralement l\u2019ensemble du savoir \u00e0 la g\u00e9n\u00e9ration suivante \u2013 ce qui mettait des limites, je dirais, physiques \u00e0 ce qu\u2019on pouvait raconter en termes d\u2019histoire, d\u2019explications \u2013 et le fait que la pr\u00e9sence du livre permet \u00e0 chaque g\u00e9n\u00e9ration de faire l\u2019\u00e9conomie de transmettre tout, en disant aux enfants : \u00ab\u00a0Vous pouvez trouver dans le dictionnaire un certain nombre d\u2019explications\u00a0\u00bb, puis l\u2019encyclop\u00e9die, et puis maintenant, voil\u00e0, l\u2019internet dans sa totalit\u00e9.<\/p>\n

Question du public :<\/p>\n

Je pense aux aides-soignantes et qu\u2019on atteint une limite, parce que la machine n\u2019arrivera pas \u00e0 battre l\u2019aide-soignante au niveau de la relation avec le patient.<\/p>\n

PJ : C\u2019est une question tr\u00e8s int\u00e9ressante. Quand on a parl\u00e9 des premiers robots qu\u2019on pouvait produire comme des petits personnages, qu\u2019on peut utiliser dans la vie quotidienne, il y a eu une r\u00e9flexion de ce type-l\u00e0 qui disait pr\u00e9cis\u00e9ment que, sans doute, le dernier milieu o\u00f9 on envisagerait m\u00eame de faire venir ces robots serait particuli\u00e8rement, je dirais, celui les Ehpad, de l\u2019aide \u00e0 la personne, les choses cet ordre-l\u00e0. Or qu\u2019est ce qu\u2019on a observ\u00e9 dans la r\u00e9alit\u00e9 ? C\u2019\u00e9tait un des premiers milieux int\u00e9ress\u00e9s, qui s\u2019est montr\u00e9 tr\u00e8s r\u00e9ceptif ! Et l\u00e0, on peut se poser la question en disant : \u00ab\u00a0Pourquoi ce rapport \u00e0 la machine a t-il \u00e9t\u00e9 possible ?\u00a0\u00bb et l\u00e0, ce sont parfois des r\u00e9flexions des personnes m\u00eames qu\u2019on a interrog\u00e9es qui ont donn\u00e9 la r\u00e9ponse. Je me souviens d\u2019une dame qui dit en particulier : \u00ab\u00a0Il vaut mieux passer un temps agr\u00e9able\u00a0avec un robot qui vous \u00e9coute que de ne pas voir un seul \u00eatre humain toute une journ\u00e9e !\u00a0\u00bb et l\u00e0, \u00e7a renvoie aux conditions r\u00e9elles dans lesquelles fonctionnent ces unit\u00e9s, malheureusement, o\u00f9 ce sont des emplois qui sont sous-pay\u00e9s, qui sont peu consid\u00e9r\u00e9s et o\u00f9 on fait des \u00e9conomies \u00e0 partir de calculs de rentabilit\u00e9, et qui font effectivement que l\u00e0, il vaut mieux avoir un robot qui \u00e9coute qu\u2019un \u00eatre humain qui est en r\u00e9alit\u00e9 enti\u00e8rement absent de l\u2019environnement.<\/p>\n

Une des questions qui est li\u00e9e \u00e0 cela, bien entendu, c\u2019est notre capacit\u00e9 \u00e0 nous projeter dans un \u00eatre qui a l\u2019air de comprendre ce que nous disons, qui a l\u2019air d\u2019avoir \u00e9ventuellement des \u00e9motions. Notre rapport au robot, il faut le situer dans la perspective du rapport que nous avons \u00e0 nos animaux domestiques, o\u00f9 nous sommes parfois \u00e9tonn\u00e9s de voir la mani\u00e8re dont une personne dit ou imagine avoir une relation de type humain avec un chat, un chien, etc. Il n\u2019y a pas de raison, bien entendu, que cela n\u2019apparaisse pas aussi vis-\u00e0-vis d\u2019une machine.<\/p>\n

Il y a un d\u00e9bat \u00e0 l\u2019int\u00e9rieur du monde de la robotique. II y a des gens qui sont contre le fait de donner des attributs un peu anthropomorphes \u00e0 des machines \u2013 pour emp\u00eacher, justement, que ce type de relation n’existe. Mais vous le savez si vous regardez dans les s\u00e9ries t\u00e9l\u00e9vis\u00e9es \u2013 en particulier dans celle qui s\u2019appelait Real Humans<\/i> que vous avez m\u00eame peut-\u00eatre vue \u2013 ou dans le film Ex Machina<\/i> : quand nous arrivons \u00e0 produire un robot avec une apparence humaine ext\u00e9rieure convaincante, nous sommes \u00e0 deux doigts de pouvoir attribuer de l\u2019empathie ou de projeter nos propres sentiments sur une machine, de la m\u00eame mani\u00e8re que nous l\u2019avons fait avec nos animaux domestiques. Parfois, nous sommes \u00e9tonn\u00e9s : quand vous voyez quelqu\u2019un qui a une relation affective avec un animal qui semble exprimer peu d\u2019\u00e9motion \u2013 comme un iguane \u2013 on peut \u00eatre surpris !\u00a0Mais je crois que nous avons la capacit\u00e9 de faire la m\u00eame chose vis-\u00e0-vis d\u2019une machine \u2013 et pas n\u00e9cessairement quand elle est anthropomorphe. Je me souviens \u00e0 ce propos d\u2019une de mes filles qui, \u00e0 l\u2019\u00e2ge de trois ou quatre ans, avait pris comme poup\u00e9e favorite un horrible robot de son fr\u00e8re, qui projetait de la lumi\u00e8re, qui faisait des bruits abominables et qu\u2019elle appelait \u00ab\u00a0Mon b\u00e9b\u00e9 !\u00a0\u00bb C\u2019\u00e9tait il y a longtemps \u2026 c\u2019\u00e9tait une surprise, mais elle \u00e9tait parvenue \u00e0 consid\u00e9rer que sa poup\u00e9e favorite\u00a0\u00e9tait une machine assez r\u00e9pugnante faisant des bruits divers et lan\u00e7ant des fus\u00e9es, des choses cet ordre-l\u00e0, tr\u00e8s inqui\u00e9tantes du point de vue des parents !<\/p>\n

Question du public :<\/p>\n

On parle souvent de la conscience de la machine. L\u2019inconscient est une composante de l\u2019\u00eatre humain. Ensuite, religion<\/i> vient du latin religare<\/i>, pour relier. Qu\u2019est-ce qui nous rassemblerait dans le transhumanisme ? Enfin, pour ce qui est de construire une \u00e9thique afin de trouver soi-m\u00eame une solution qui ne passe pas par la machine, je me dis que \u00ab\u00a0tout humain porte en lui le poids entier de l\u2019humaine condition\u00a0\u00bb, et si l\u2019on n\u2019arrive pas \u00e0 reproduire dans la machine la conscience et l\u2019inconscient, alors on ne peut pas reproduire un \u00eatre humain. Donc, l\u2019\u00e9thique, \u00e7a pourrait peut \u00eatre le fait de pouvoir sauver une esp\u00e8ce vivante, qui est l\u2019\u00eatre humain.<\/p>\n

PJ : Il y a deux dimensions \u00e0 ce que vous dites. J\u2019ai mentionn\u00e9 ces trois caract\u00e9ristiques que le biologiste voit dans l\u2019homme \u2013 principalement animal social, animal colonisateur et animal opportuniste, au sens de pouvoir inventer de nouvelles strat\u00e9gies \u2013 Je crois que la dimension colonisatrice, au niveau inconscient, est manifeste chez nous, c\u2019est presque, je dirais, un des moteurs.<\/p>\n

Nous avons envahi le monde autour de nous ; nous sommes all\u00e9s voir absolument partout o\u00f9 on pouvait aller. Dans des conditions faciles ou extr\u00eamement difficiles, nous sommes all\u00e9s partout. Nous avons vu les documentaires de M. Nicolas Hulot, nous admirons les gens qui font des sports extr\u00eames : c\u2019est manifestement dans notre nature animale d\u2019aller trouver d\u2019autres endroits et de voir si nous pouvons y faire quelque chose. Je crois que le transhumanisme, d\u2019une certaine mani\u00e8re, v\u00e9hicule cela \u00e0 l\u2019\u00e9chelle de l\u2019univers autour de nous. Il y a, je dirais, cet instinct d\u2019aller voir ailleurs, de vouloir aller voir d\u2019autres choses, et l\u2019image qui me vient, c\u2019est Mme Haigner\u00e9, une de nos astronautes : dans un d\u00e9bat o\u00f9 je me trouvais aussi, elle montrait une vid\u00e9o o\u00f9 la cam\u00e9ra la montrait entrant en apesanteur \u00e0 l\u2019int\u00e9rieur d\u2019un laboratoire spatial, et je lui ai pos\u00e9 une question sur l\u2019expression sur son visage. Je lui dis : \u00ab\u00a0C\u2019est quoi ? Qu\u2019est ce qui se passe ?\u00a0\u00bb et elle dit \u00ab\u00a0C\u2019est deux choses : c\u2019est l\u2019id\u00e9e \u2018Qu\u2019est ce que je fous l\u00e0 ?\u2019 et l\u2019autre, c\u2019est \u2018Est-ce que ce n\u2019est pas une des manifestations les plus gratifiantes de la nature de l\u2019\u00eatre humain ?\u2019\u00a0\u00bb On pourrait dire : \u00ab\u00a0Ce sont surtout les hommes qui sont comme cela et pas les femmes !\u00a0\u00bb mais voil\u00e0 le contre-exemple : c\u2019est une femme qui nous montre \u00e7a \u2013 la colonisation de l\u2019espace autour de nous \u2013 et un sentiment de dire : \u00ab\u00a0Nous sommes au mieux de notre forme quand nous faisons \u00e7a\u00a0\u00bb aussi.<\/p>\n

Pour ce qui est de l\u2019inconscient, vous le savez peut-\u00eatre, ce qui faisait l\u2019originalit\u00e9 du projet d\u2019intelligence artificielle sur lequel j\u2019ai travaill\u00e9, c\u2019\u00e9tait justement de donner un inconscient \u00e0 la machine : ce qui animait la production de phrases par le syst\u00e8me, c\u2019\u00e9tait la simulation d\u2019une dynamique \u00e9motionnelle. Le syst\u00e8me s\u2019appelait \u2013 enfin, c\u2019est un coll\u00e8gue qui lui avait donn\u00e9 le nom \u2013 R\u00e9seau associatif \u00e0 propri\u00e9t\u00e9s \u00e9mergentes de logique et d\u2019apprentissage<\/i> (ANELLA = Associative Network with Emergent Logical and Learning Abilities<\/em>). C\u2019\u00e9tait la d\u00e9couverte que de donner une dynamique \u00e9motionnelle \u00e0 la machine \u2013 c\u2019est-\u00e0-dire qu\u2019elle allait r\u00e9agir en fonction de ce qui lui paraissait le plus pertinent en termes de ce qu\u2019il faudrait dire \u00e0 partir d\u2019une situation \u2013\u00a0produisait de la logique automatiquement. \u00c7a produisait de l\u2019apprentissage aussi dans la mesure o\u00f9 la machine avait du coup, si l\u2019on peut dire, envie d\u2019apprendre autre chose, posait des questions. C\u2019est moi qui l\u2019avais programm\u00e9e, pour que si une notion nouvelle lui apparaissait, elle cherche l\u2019information n\u00e9cessaire pour qu\u2019elle puisse l\u2019inscrire \u00e0 l\u2019int\u00e9rieur de son syst\u00e8me pour \u00e9tendre son domaine de connaissance.<\/p>\n

Bien entendu, la machine n\u2019a pas d\u2019inconscient. On doit parler de \u00ab\u00a0mimer\u00a0\u00bb ou de \u00ab\u00a0simuler\u00a0\u00bb, mais c\u2019est possible maintenant de permettre \u00e0 une machine de comprendre si l\u2019utilisateur est content de la r\u00e9ponse donn\u00e9e ou non. Bien entendu, on d\u00e9courage les r\u00e9ponses qui ne sont pas consid\u00e9r\u00e9es comme positives ou utiles par l\u2019utilisateur. L\u00e0 aussi, sans m\u00eame faire l\u2019effort d\u00e9lib\u00e9r\u00e9 d\u2019introduire une dynamique d\u2019affect, comme dans le syst\u00e8me que j’avais mis au point, \u00e7a va venir par n\u00e9cessit\u00e9, simplement pour rendre la machine plus efficiente. Ce qu\u2019il n\u2019y aura pas bien entendu \u2013 parce qu\u2019on consid\u00e8rera \u00e7a comme des bugs \u2013 ce sont des effets de ratage qui nous sont communs \u2013 un lapsus freudien, un acte manqu\u00e9 \u2013 et l\u00e0, je renvoie \u00e0 une r\u00e9flexion du psychanalyste Jacques Lacan : \u00ab\u00a0Ce qui nous parait le plus humain \u00e0 nos propres yeux, ce sont les effets de ratage\u00a0\u00bb. Les mots d\u2019enfant, les dessins d\u2019enfant qui sont tellement attendrissants, c\u2019est parce qu\u2019il y a quelque chose de rat\u00e9, bien entendu, c\u2019est parce que la repr\u00e9sentation n\u2019est pas correcte ou qu\u2019il y a, par exemple, une d\u00e9formation de la perspective qui est amusante \u00e0 nos yeux ou que l\u2019enfant a r\u00e9uni deux notions qu\u2019il ne faudrait pas rassembler, et ainsi de suite. Nous trouvons \u00e7a formidable et, bien entendu, nous ne le mettrons pas dans la machine, ou si nous le mettons un jour, ce sera pour la rendre \u00ab\u00a0plus humaine\u00a0\u00bb. Et l\u00e0, nous savons comment faire ces effets de ratages puisque la psychanalyse s\u2019est fort int\u00e9ress\u00e9e \u00e0 \u00ab\u00a0pourquoi tel mot \u00e0 la place de tel autre produit un effet tout particulier\u00a0\u00bb, ou permet de comprendre ce qui est bloqu\u00e9 dans le psychisme d\u2019une personne \u2013 parce que deux notions \u00e9taient reli\u00e9es par un malentendu dans l\u2019enfance, et des choses de cet ordre-l\u00e0. Et l\u00e0, en particulier, dans le livre que j\u2019ai \u00e9crit \u00e0 l\u2019\u00e9poque, Principes des syst\u00e8mes intelligents<\/i><\/a>,\u00a0j\u2019ai fait le catalogue entier des effets de ratage, ce qui permettrait maintenant, je dirais, \u00e0 un programmeur de les introduire \u2013 si on veut rendre attendrissant le logiciel qui est en interaction avec un \u00eatre humain.<\/p>\n

Question du public :<\/p>\n

J\u2019aurais tendance \u00e0 dire qu\u2019on a d\u00e9j\u00e0 cette r\u00e9partition dans les algorithmes de Google, o\u00f9 on peut consid\u00e9rer que les succ\u00e8s des requ\u00eates r\u00e9pondent \u00e0 une approche consciente, programm\u00e9e, mais o\u00f9 syst\u00e9matiquement, l\u2019algorithme combine ses r\u00e9ponses avec des ratages (\u2026) C\u2019est exactement, \u00e0 mon avis, le m\u00eame ph\u00e9nom\u00e8ne dans les processus de recommandation que Amazon met en place pour proposer des produits r\u00e9pondant \u00e0 votre requ\u00eate mais, en combinant une multitude de facteurs plus ou moins pertinents, vous propose de temps en temps des r\u00e9ponses absolument hilarantes. Cette marge entre processus que nous consid\u00e9rons comme rationnel, conscient, volontaire, et l\u2019introduction de facteurs largement al\u00e9atoires confi\u00e9s \u00e0 la machine, on l\u2019a par ce c\u00f4t\u00e9.<\/p>\n

Une des premi\u00e8res applications de l\u2019intelligence artificielle, que nous vivons d\u00e9j\u00e0 depuis les ann\u00e9es quatre-vingt, ce sont les algorithmes de d\u00e9cision pour faire de la mise en page et des arbitrages quand les r\u00e8gles de mise en page entrent en conflit \u2013 r\u00e9partition des plans, triche avec l\u2019accroche et le corps. On a confi\u00e9 aux machines des prises de d\u00e9cision qui \u00e9taient auparavant celles de typographes humains, et qui sont compl\u00e8tement pass\u00e9es dans les m\u0153urs. De temps en temps, \u00e7a aboutit \u00e0 d\u2019assez mauvais algorithmes comme ceux qui pendant un temps, dans la mise en page du Monde<\/i>, faisait qu\u2019il y avait des lignes absolument creuses parce qu\u2019il y avait un grand chiffre qu\u2019on ne savait pas couper. Or maintenant, si on prend le logiciel Tech ou le logiciel Indesign, les prises de d\u00e9cision ne sont plus uniquement rationnelles. On peut essayer de creuser a posteriori pour dire pourquoi la d\u00e9cision a \u00e9t\u00e9 prise mais\u2026<\/p>\n

PJ : C\u2019est \u00e7a, pour des raisons d\u2019efficacit\u00e9 ou purement commerciales, on va effectivement mimer de plus en plus le comportement humain. Il y a un double processus, c\u2019est que, bien s\u00fbr, la m\u00e9canisation du monde et la pr\u00e9sence de l\u2019ordinateur font que l\u2019on demande, dans l\u2019univers technique, que nous adaptions notre comportement de plus en plus \u00e0 celui de la machine, mais la machine nous ressemble aussi de plus en plus. La grande surprise dans les ann\u00e9es 80, 90 en intelligence artificielle, c\u2019est le fait que ce n\u2019\u00e9tait pas les techniques les plus pointues du point de vue math\u00e9matique qui se sont av\u00e9r\u00e9es les plus payantes mais la simulation de r\u00e9seaux de neurones, c\u2019est-\u00e0-dire la solution que la nature avait trouv\u00e9e, avec nous, comme une approche tout \u00e0 fait pertinente. C\u2019est celle-l\u00e0 qui \u00e9merge comme la plus puissante en ce moment.<\/p>\n

Question du public :<\/p>\n

L\u00e0 o\u00f9 il n\u2019y a pas de contradiction, il n\u2019y a pas de discussion. Je voudrais simplement questionner la notion de l\u2019inconscient.<\/p>\n

Sur ce qui se d\u00e9bat ici, par rapport notamment \u00e0 la question de la logique mais aussi de l\u2019al\u00e9atoire, au fond, la conscience ce sont des processus primaires qui \u00e9chappent fondamentalement \u00e0 toute d\u00e9finition logique et chronologique. Je ne vois pas en quoi nous pouvons les reproduire et comment nous pourrions penser les cons\u00e9quences, en ce qu\u2019il y a en nous un manque qui nous surprend. Nous sommes en train de nous d\u00e9battre avec l\u2019incapacit\u00e9 \u00e0 traiter ce manque, c\u2019est-\u00e0-dire \u00e0 traiter ce qui est en nous inaccessible mais fondamental. Est-ce que vous ne pensez pas, par exemple, que dans la r\u00e9flexion sur la culture r\u00e9side le point nodal ? Est-ce que vous pourriez faire cette conf\u00e9rence \u00e0 des Chinois de la m\u00eame mani\u00e8re ?<\/p>\n

PJ : J\u2019ai beaucoup travaill\u00e9 avec des Chinois et je sais que c\u2019est un plaisir de travailler dans un environnement o\u00f9 il y a peut-\u00eatre plus de souci d\u2019efficacit\u00e9 que chez nous et moins de r\u00e9flexion th\u00e9orique. Mais par rapport \u00e0 ce que vous dites, nous savons comment s\u2019est constitu\u00e9 le cerveau des mammif\u00e8res : nous savons qu\u2019il y a ce n\u00e9o-cortex qui est venu se poser sur, je dirais, une base qu\u2019on appelle le cerveau reptilien, etc. et que, quand nous nous mettons \u00e0 courir parce qu\u2019il y a un incendie, avant m\u00eame que nous ayons conscience du processus, c\u2019est ce cerveau reptilien qui intervient par priorit\u00e9 \u2013 parce qu\u2019il est l\u00e0 essentiellement dans la t\u00e2che de produire soit une fuite en avant soit une fuite en arri\u00e8re, et qu\u2019il produit cela de mani\u00e8re tout \u00e0 fait automatique. Par ailleurs, oui, il y a des ph\u00e9nom\u00e8nes de type inconscient, m\u00eame des ph\u00e9nom\u00e8nes de type langagier dans la production des phrases et des choses cet ordre-l\u00e0, et qui l\u00e0 seraient plut\u00f4t de l\u2019ordre de cette dynamique \u00e9motionnelle qui nous dirige. Mais l\u00e0, j\u2019ai fait la remarque qu\u2019un syst\u00e8me dont le seul moteur \u00e9tait de l\u2019\u00e9motion produit\u00a0de mani\u00e8re naturelle de la logique, et \u00e7a rejoint un peu ce que certains psychologues exp\u00e9rimentaux ont vu \u00e0 propos de la logique : nous pouvons conna\u00eetre aussi bien que nous voulons les r\u00e8gles de logique, nous n\u2019arrivons pas \u00e0 les appliquer dans tous les cas de la m\u00eame mani\u00e8re, parce que, probablement, c\u2019est l\u2019\u00e9motion qui nous dirige le raisonnement, davantage que le calcul \u00e0 proprement parler. Involontairement, Lewis Carroll \u2013 [Charles] Dodgson \u2013 l\u2019avait montr\u00e9 dans son petit livre de r\u00e9flexion sur la logique o\u00f9 il donne des exemples particuli\u00e8rement farfelus \u2013 \u00ab\u00a0Si tous les poulets ma\u00eetrisent l\u2019anglais mais que certains poulets peuvent danser \u00e9galement la valse, que peut-on en tirer ?\u00a0\u00bb \u2013 et o\u00f9 le fait que le sens m\u00eame des phrases est tout \u00e0 fait invraisemblable \u00e0 nos yeux nous emp\u00eache de trouver la conclusion logique, alors que dans la plupart des cas, nous la trouvons tr\u00e8s facilement dans des exemples similaires, mais o\u00f9 la dynamique \u00e9motionnelle n\u2019est pas secou\u00e9e artificiellement en rempla\u00e7ant des notions qui n\u2019ont aucune ressemblance.<\/p>\n

Je crois que nous pouvons cr\u00e9er des machines \u00ab\u00a0feuillet\u00e9es\u00a0\u00bb de la m\u00eame mani\u00e8re que nous le sommes d\u2019une certaine mani\u00e8re, ou alors, simplement en faisant communiquer des m\u00e9canismes dont les principes directeurs sont de nature diff\u00e9rente.<\/p>\n

Question du public :<\/p>\n

Est-ce que l\u2019intelligence artificielle a d\u00e9j\u00e0 r\u00e9ussi \u00e0 concevoir quelque chose qui ressemblerait \u00e0 la notion de d\u00e9sir autonome chez l\u2019\u00eatre humain ?<\/p>\n

PJ : Quelqu\u2019un qui aurait observ\u00e9 ce syst\u00e8me ANELLA que j\u2019avais mis au point aurait consid\u00e9r\u00e9 que la machine avait un d\u00e9sir, simplement parce qu\u2019il y avait un algorithme qui disait : \u00ab\u00a0Si un mot est utilis\u00e9 qui n\u2019est pas encore stock\u00e9 en m\u00e9moire, poser la question ‘Est-ce que je peux relier \u00e7a \u00e0 quelque chose que je sais d\u00e9j\u00e0’, \u00e0 ce qui constitue d\u00e9j\u00e0 notre connaissance ?\u00a0\u00bb C\u2019est-\u00e0-dire que le d\u00e9sir \u00e9tait inscrit dans le programme : si une notion n\u2019est pas reconnue, essayer de l\u2019introduire dans le syst\u00e8me.<\/p>\n

Il y avait d\u00e9j\u00e0 eu auparavant, dans les ann\u00e9es pr\u00e9c\u00e9dentes, un syst\u00e8me qui s\u2019appelait\u00a0ELIZA<\/a> (1966), l’invention de Joseph Weizenbaum. C\u2019\u00e9tait un syst\u00e8me extr\u00eamement simple qui avait mis en application ce qu\u2019on appelle la\u00a0psychologie rog\u00e9rienne<\/a> \u2013 du nom de Carl Rogers<\/a> \u2013 c\u2019est-\u00e0-dire que la machine, simplement, produisait des phrases \u00e0 connotation empathique, par exemple de dire : \u00ab\u00a0Ce que vous dites l\u00e0 me touche \u00e9galement beaucoup\u00a0\u00bb ou bien \u00ab\u00a0C\u2019est un sujet int\u00e9ressant, j\u2019aimerais tant en savoir davantage\u00a0\u00bb. Ou bien simplement : \u00ab\u00a0Vous venez de parler de votre p\u00e8re. Qu\u2019est-ce que votre m\u00e8re en pensait ? \u00bb.<\/p>\n

C\u2019\u00e9tait simplement des lignes de codes exprimant des phrases \u00ab\u00a0mises en bo\u00eete\u00a0\u00bb et Weizenbaum s\u2019est aper\u00e7u que certains de ses \u00e9tudiants allaient communiquer la nuit, \u00e0 son insu, avec la machine pour obtenir cette empathie \u00ab\u00a0mise en bo\u00eete\u00a0\u00bb qui \u00e9tait inscrite \u00e0 l\u2019int\u00e9rieur du syst\u00e8me. Le syst\u00e8me n\u2019\u00e9tait pas attach\u00e9 \u00e0 une m\u00e9moire mais simplement il y avait, mis en bo\u00eete, des successions de phrases empathiques qui pouvaient fonctionner \u2013 en utilisant le fondement m\u00eame de l\u2019approche de Rogers qui \u00e9tait une approche extr\u00eamement empathique, un psychologue am\u00e9ricain qui avait introduit des techniques de dynamique de groupe qui sont encore utilis\u00e9es. Il avait r\u00e9fl\u00e9chi, justement, \u00e0 la mani\u00e8re dont de simples manifestations d\u2019empathie nous encouragent \u00e0 continuer, \u00e0 vouloir en dire davantage.<\/p>\n

Merci. On va arr\u00eater l\u00e0. Merci beaucoup
\n[Applaudissements]<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Retranscription de Universit\u00e9 catholique de Lille, Paul Jorion : \u00ab D\u00e9clarer l\u2019\u00e9tat d\u2019urgence pour le genre humain ? \u00bb, 2eme<\/sup> de six conf\u00e9rences,\u00a0Le transhumanisme est-il la nouvelle religion d’une technologie triomphante ?, le 11 d\u00e9cembre 2018. Merci \u00e0 Eric Muller ! Les premi\u00e8res minutes manquent. Le transhumanisme y est situ\u00e9 dans plusieurs traditions de la pens\u00e9e occidentale, qui […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[6105,13,4140,4965,16,9,5,6213,725,5008],"tags":[],"class_list":["post-111856","post","type-post","status-publish","format-standard","hentry","category-declarer-letat-durgence-pour-le-genre-humain","category-intelligence-artificielle","category-le-genre-humain","category-logique","category-mathematiques","category-psychanalyse","category-sciences-cognitives","category-singularite","category-technologie-2","category-transhumanisme"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/111856","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=111856"}],"version-history":[{"count":9,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/111856\/revisions"}],"predecessor-version":[{"id":111949,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/111856\/revisions\/111949"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=111856"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=111856"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=111856"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}