{"id":104714,"date":"2018-06-02T14:00:36","date_gmt":"2018-06-02T12:00:36","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=104714"},"modified":"2018-06-02T14:00:36","modified_gmt":"2018-06-02T12:00:36","slug":"le-pistolet-et-la-pioche-15-devenons-nous-des-machines-paul-jorion-repond-le-29-mai-2018-retranscription","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2018\/06\/02\/le-pistolet-et-la-pioche-15-devenons-nous-des-machines-paul-jorion-repond-le-29-mai-2018-retranscription\/","title":{"rendered":"LE PISTOLET ET LA PIOCHE #15, \u00ab DEVENONS-NOUS DES MACHINES ? \u00bb PAUL JORION R\u00c9POND, LE 29 MAI 2018 – Retranscription"},"content":{"rendered":"

Retranscription de \u00ab DEVENONS-NOUS DES MACHINES ? \u00bb<\/a>, le 29 mai 2012. Merci \u00e0 Olivier Brouwer ! Ouvert aux commentaires.<\/p><\/blockquote>\n

Interviewer (Pascal H\u00e9rard) \u2013 Les algorithmes d\u2019apprentissage automatis\u00e9, ceux qui sont bas\u00e9s sur les r\u00e9seaux de neurones, la question qu\u2019on se pose, parce que \u00e7a va \u00eatre en lien avec ce dont on va parler, est-ce qu\u2019ils sont proches des processus mentaux du cerveau humain\u00a0? Ou est-ce que c\u2019est totalement diff\u00e9rent\u00a0? Est-ce que le cerveau humain travaille d\u2019une mani\u00e8re similaire, parall\u00e8le, \u00e0 ces r\u00e9seaux de neurones et ces algorithmes d\u2019apprentissage, ou est-ce qu\u2019on est vraiment sur quelque chose qui n\u2019a rien \u00e0 voir\u00a0?<\/p>\n

Paul Jorion \u2013 Mais je crois qu\u2019on ne conna\u00eet pas la r\u00e9ponse. Ce qu\u2019il y a, c\u2019est que, dans les toutes premi\u00e8res techniques d\u2019intelligence artificielle, on a mis l\u2019accent sur des m\u00e9thodes math\u00e9matiques qu\u2019on connaissait, des tentatives de formaliser la logique, des choses de cet ordre-l\u00e0, et on avait mis\u00e9 [sur le fait] que l\u2019intelligence artificielle allait fonctionner en fonction de ce que nous pensions, de mani\u00e8re g\u00e9n\u00e9rale, sur le calcul<\/em>. Mais, assez rapidement, au d\u00e9but des ann\u00e9es 1950, certains chercheurs ont pens\u00e9 \u00e0 l\u2019id\u00e9e d\u2019essayer de mimer le fonctionnement du cerveau humain, c’est-\u00e0-dire de cr\u00e9er ce qu\u2019on a appel\u00e9 des neurones formels et des r\u00e9seaux de neurones formels, c’est-\u00e0-dire la mani\u00e8re dont on comprenait la fa\u00e7on dont l\u2019information circule dans des r\u00e9seaux de neurones, qui sont les constituants de notre cerveau. Et pendant assez longtemps, on n\u2019a pas vraiment explor\u00e9 cette voie parce qu\u2019il y avait quelques blocages, en particulier il y avait certains types de probl\u00e8mes qu\u2019on ne pouvait pas r\u00e9soudre de cette mani\u00e8re-l\u00e0, et puis surtout, on manquait de [la] puissance de calcul qui permettait de v\u00e9rifier si on pouvait utiliser cette m\u00e9thode de simulation du cerveau plut\u00f4t que d\u2019utiliser des m\u00e9thodes de type purement math\u00e9matique. Mais, r\u00e9cemment, on s\u2019est aper\u00e7us de la puissance qu\u2019ont ces r\u00e9seaux de neurones formels en particulier, parce qu\u2019on travaillait au d\u00e9but avec deux couches de neurones, et maintenant, on peut utiliser des centaines de couches de neurones, parce qu\u2019on a la possibilit\u00e9 de le faire. Et donc, on a le sentiment qu\u2019avec ces m\u00e9thodes-l\u00e0, on est en train de simuler le fonctionnement du cerveau, mais on n\u2019est pas enti\u00e8rement s\u00fbr que nous fonctionnons de cette mani\u00e8re-l\u00e0.<\/p>\n

Int. \u2013 Oui, alors, justement, \u00e7a me pose, [\u00e0] moi, la question sur la capacit\u00e9 humaine dans la r\u00e9flexion, et en fait, est-ce qu\u2019on peut, \u00e0 un moment, penser qu\u2019un \u00eatre humain peut r\u00e9duire sa r\u00e9flexion en n\u2019utilisant que certaines donn\u00e9es d\u2019information qu\u2019il trie, en fait, qu\u2019il choisit, et puis que cet \u00eatre humain, en ayant tri\u00e9 ces informations de d\u00e9part, en arrive \u00e0 un traitement logique qui \u00e9tait un peu \u00e9tabli, qui est r\u00e9current, qui est un peu toujours le m\u00eame, pour aller vers une sortie d\u2019information pour aller vers une r\u00e9ponse sur sa r\u00e9flexion de d\u00e9part, c’est-\u00e0-dire quelque chose qui serait un processus un petit peu m\u00e9canique, mais qui serait similaire, en fait, \u00e0 ce que pourrait faire une machine. Est-ce qu\u2019une r\u00e9flexion humaine peut aussi se r\u00e9duire, enfin arriver \u00e0 ce type de proc\u00e9d\u00e9\u00a0?<\/p>\n

PJ \u2013 [Quand on] entre sur du pur calcul, alors on pourrait dire oui. Parce que ce que ces r\u00e9seaux de neurones formels arrivent \u00e0 faire est de l\u2019ordre, purement et simplement, de ce que nous appelons de l\u2019induction, de la d\u00e9duction, c’est-\u00e0-dire du calcul logique. Or, l\u2019\u00eatre humain \u2013 et l\u00e0 c\u2019est, je dirais, la personne qui a une formation en psychanalyse qui vous parle \u2013 est une personne qui est essentiellement agie par deux m\u00e9canismes\u00a0: un m\u00e9canisme de type purement calcul comme celui qu\u2019on est en train de simuler, mais aussi [une] dynamique \u00e9motionnelle. Et c\u2019est pour \u00e7a qu\u2019\u00e0 l\u2019\u00e9poque o\u00f9 moi j\u2019ai fait de la recherche en intelligence artificielle \u2013 c\u2019\u00e9tait il y a tr\u00e8s longtemps\u00a0: c\u2019\u00e9tait \u00e0 la fin des ann\u00e9es 1980 \u2013 j\u2019ai tout de suite, dans les projets que j\u2019ai faits, j\u2019ai tout de suite introduit cette double logique\u00a0: \u00e0 la fois de type math\u00e9matique et de type \u00e9motionnel. Et j\u2019\u00e9tais assez \u00e9pat\u00e9, mes coll\u00e8gues, d\u2019ailleurs, aussi, par le fait que cette double approche \u00e9motion-logique \u00e9tait beaucoup plus performante que les approches de type purement calcul. Au point, d\u2019ailleurs, qu\u2019une des surprises que j\u2019ai eues (et c\u2019est pour \u00e7a que j\u2019ai appel\u00e9 mon syst\u00e8me [ANELLA<\/a>] \u00ab\u00a0\u00e0 propri\u00e9t\u00e9s d\u2019apprentissage et de logique \u00e9mergentes\u00a0\u00bb), c\u2019est qu\u2019une dynamique d\u2019\u00e9motions reproduit de la logique par elle-m\u00eame, sans m\u00eame devoir introduire du calcul.<\/p>\n

Int. \u2013 Ah ah, voil\u00e0, l\u00e0 on arrive \u00e0 quelque chose d\u2019int\u00e9ressant\u00a0! Dans le m\u00eame temps, on sait que la pens\u00e9e humaine \u2013 et ce que vous d\u00e9crivez, c\u2019est quand m\u00eame un processus assez complexe, si on sort du pur calcul… Mais pourtant, et l\u00e0, c\u2019est un petit peu, de ma part, une observation tr\u00e8s subjective, mais j\u2019ai l\u2019impression qu\u2019on observe de plus en plus d\u2019individus qui semblent r\u00e9duire leurs r\u00e9flexions \u00e0 des d\u00e9monstrations logiques assez simplifi\u00e9es. Alors, je pense, \u00e9videmment, \u00e0 des hommes politiques par exemple, qui ne font entrer en jeu que certaines variables dans leurs processus logiques, et qui semblent ne pas pouvoir faire plus. Il y a des sujets comme l\u2019\u00e9conomie, l\u2019immigration, la politique sociale, et d\u2019ailleurs on parle de \u00ab\u00a0logiciel politique\u00a0\u00bb, c\u2019est fr\u00e9quemment entendu\u00a0! Et qu\u2019est-ce que vous pensez de cette forme \u2013 enfin, moi j\u2019appelle \u00e7a un blocage analytique \u2013 mais qui prime, en fait, aujourd\u2019hui, dans la sph\u00e8re, on va dire, de r\u00e9flexion politique, \u00e9conomique ou autre\u00a0?<\/p>\n

PJ \u2013 Eh bien, c’est-\u00e0-dire qu\u2019en fait, l\u2019habitude qu\u2019on a prise, c\u2019est de consid\u00e9rer que l\u2019\u00e9motion est une sorte de parasitage. Que le fait que nous ayons des sentiments parasite nos processus de calcul. Du coup, le politicien, l\u2019\u00e9conomiste \u00ab\u00a0objectif\u00a0\u00bb essaye, comment dire, de \u00ab\u00a0d\u00e9-subjectiviser\u00a0\u00bb sa r\u00e9flexion, essaye d\u2019\u00e9liminer la composante \u00e9motionnelle, et, par cons\u00e9quent, essaye de rester dans le domaine du pur calcul. C\u2019est le travers, bien entendu, de la \u00ab\u00a0science\u00a0\u00bb \u00e9conomique actuelle, c\u2019est de mettre [entre parenth\u00e8ses le fait] qu\u2019il s\u2019agit d\u2019\u00eatres humains, et de consid\u00e9rer qu\u2019il s\u2019agit simplement de lois de type physique comme celles qui r\u00e9gleraient, je dirais, la m\u00e9canique c\u00e9leste entre des plan\u00e8tes indiff\u00e9rentes les unes aux autres alors que, nous le savons, nous sommes des \u00eatres humains, et nous agissons en fonction d\u2019un certain nombre de principes, qui ne sont pas simplement la concurrence, mais qui sont essentiellement la solidarit\u00e9, le fait d\u2019anticiper le comportement des autres, le sentiment des autres. \u00c7a nous fait une diff\u00e9rence de savoir si quelqu\u2019un souffre quand on lui dit quelque chose ou si \u00e7a lui fait plaisir, et tout \u00e7a est mis entre parenth\u00e8ses, en disant que le monde \u2013 que le monde \u00e9conomique en particulier, que le monde politique \u2013 serait quelque chose o\u00f9 le sentiment, o\u00f9 la satisfaction ou l\u2019insatisfaction sont tout \u00e0 fait indiff\u00e9rentes, alors que si l\u2019on pense \u00e0 un \u00e9conomiste comme Keynes, il nous avait d\u00e9j\u00e0 dit, dans les ann\u00e9es 1930. Il nous a dit\u00a0: \u00ab\u00a0La solution des probl\u00e8mes humains n\u2019est jamais une solution de type purement \u00e9conomique\u00a0\u00bb. La solution purement \u00e9conomique pourrait \u00eatre qu\u2019il y ait un taux de ch\u00f4mage de 30% de la population, mais la solution politique, c’est-\u00e0-dire celle qui concerne v\u00e9ritablement les hommes et les femmes en termes d\u2019insatisfaction, de ressentiment, de souffrance, la solution, l\u00e0, elle n\u2019est pas de cet ordre-l\u00e0. Elle est de l\u2019ordre du plein emploi, qui n\u2019est peut-\u00eatre pas la solution, d\u2019un point de vue \u00e9conomique, la plus optimale, mais du point de vue des \u00eatres humains, c\u2019est \u00e7a qui compte, bien entendu, parce que cette science \u00e9conomique, elle n\u2019est l\u00e0 que pour nous servir et non pas pour nous asservir dans l\u2019autre sens.<\/p>\n

Int. \u2013 Alors on en arrive, mais c\u2019est tr\u00e8s int\u00e9ressant parce que \u00e7a veut dire que la pens\u00e9e complexe dont a parl\u00e9 longuement Edgar Morin est tr\u00e8s lointaine, aujourd\u2019hui dans la r\u00e9flexion, on va dire, g\u00e9n\u00e9rale. Moi, je me pose la question de pourquoi. Est-ce qu\u2019on peut mettre en rapport l\u2019utilisation massive des ordinateurs, pour r\u00e9fl\u00e9chir, pour la r\u00e9flexion, en lien avec cette simplification de la pens\u00e9e, puisque c\u2019en est une, puisque justement, les \u00e9motions sont retir\u00e9es, les sentiments, ce que vous venez d\u2019expliquer, \u00e7a signifie quand m\u00eame qu\u2019on se rapproche d\u2019acteurs humains qui pensent un peu \u00ab\u00a0machine\u00a0\u00bb. Alors, est-ce que l\u2019utilisation des machines, des statistiques, je ne sais pas, est en lien avec cette simplification de la pens\u00e9e qui se g\u00e9n\u00e9ralise un peu\u00a0?<\/p>\n

PJ \u2013 C’est-\u00e0-dire que nous avons invent\u00e9 des machines \u2013 et au d\u00e9but, on appelait \u00e7a simplement des outils \u2013 pour nous rendre service. Mais nous n\u2019avons pas \u00e9t\u00e9 des g\u00e9nies, je dirais, absolus, d\u00e8s le d\u00e9part, et donc, nous avons d\u00fb adapter notre comportement aux machines que nous inventions. Depuis que nous avons invent\u00e9 des outils, depuis que nous avons invent\u00e9 des machines, nous avons essay\u00e9 que notre comportement devienne compl\u00e9mentaire \u00e0 ces machines, et nous avons d\u00fb nous adapter au fait que ce soit au d\u00e9part des choses assez primitives, comme le moulin \u00e0 vent. Le meunier a d\u00fb enti\u00e8rement calquer son comportement sur celui du moulin qu\u2019il avait autour de lui, et la plus belle caricature que nous connaissons de cela, elle nous a \u00e9t\u00e9 offerte par Charlie Chaplin dans ce film des ann\u00e9es 1930 qui s\u2019appelle\u00a0: \u00ab\u00a0Les temps modernes\u00a0\u00bb, o\u00f9 il nous montre des hommes qui sont simplement des rouages \u00e0 l\u2019int\u00e9rieur d\u2019une m\u00e9canique, avec des effets comiques \u00e9videmment, tout \u00e0 fait consid\u00e9rables, au moment o\u00f9 on s\u2019aper\u00e7oit que l\u2019homme ne parvient pas \u00e0 \u00eatre un rouage purement et simplement.<\/p>\n

Int. \u2013 Eh bien oui, tout \u00e0 fait. On arrive \u00e0 la fin de ce d\u00e9but de r\u00e9flexion sur cette probl\u00e9matique de l\u2019homme un peu machine. Les neurosciences, appliqu\u00e9es \u00e0 l\u2019informatique, de plus en plus, et particuli\u00e8rement sur les plate-formes en ligne de type r\u00e9seaux sociaux, utilisent \u00e0 plein les biais cognitifs du cerveau humain. On le sait de plus en plus, on a des retours. Est-ce qu\u2019on peut imaginer que des cerveaux manipul\u00e9s \u2013 parce que c\u2019est \u00e7a \u2013 et qui sont mis sous contrainte de plus en plus forte par ces techniques d\u2019influence cognitive, peuvent se modifier \u00e0 terme et devenir plus m\u00e9caniques, donc plus proches de la machine, au final, dans leur capacit\u00e9 de r\u00e9flexion\u00a0? Je parle bien, donc, des utilisateurs \u00ab\u00a0addicts\u00a0\u00bb aux plate-formes diverses et vari\u00e9es des entreprises californiennes.<\/p>\n

PJ \u2013 Oui, tout \u00e0 fait, il y a ce qu\u2019on appelle le \u00ab\u00a0big data\u00a0\u00bb, qui est une mani\u00e8re de pouvoir pr\u00e9voir nos comportements \u00e0 partir de nos comportements pass\u00e9s, et de nous donner des instructions qui nous permettront d\u2019agir de telle ou telle mani\u00e8re. Mais il faut r\u00e9fl\u00e9chir \u00e0 deux aspects de la question. L\u2019un, c\u2019est que \u00e7a nous \u00e9voque bien entendu le 1984 de Orwell, c’est-\u00e0-dire des machines autour de nous qui nous donnent des ordres et nous devenons, en fait, des subordonn\u00e9s purement et simplement, des esclaves de cette machine. Mais il faut bien penser aussi que si ce \u00ab\u00a0big data\u00a0\u00bb fonctionne, par exemple dans le cas de Facebook ou des choses comme Twitter, qui r\u00e9coltent des informations sur nous, c\u2019est aussi parce que \u00e7a nous rend service. Nous sommes des \u00ab\u00a0\u00eatres de souci\u00a0\u00bb, nous sommes des \u00eatres d\u2019anxi\u00e9t\u00e9 et d\u2019angoisse, parce que nous ne pouvons pas faire autrement, pour nous donner des buts dans l\u2019avenir, que de nous donner des soucis par rapport \u00e0 des choses \u00e0 faire. Et si les machines, autour de nous, enl\u00e8vent cette difficult\u00e9 pour nous d\u2019avoir \u00e0 tout moment, de penser \u00e0 ceci ou cela, \u00e0 des millions de choses auxquelles il faut accorder des priorit\u00e9s de telle et telle mani\u00e8re, nous allons le vivre aussi comme un soulagement.<\/p>\n

Int. \u2013 Oui, un soulagement, mais qui, quand m\u00eame, retire des capacit\u00e9s cognitives \u00e9l\u00e9mentaires qu\u2019avant, on utilisait tout le temps. Le truc le plus classique, c\u2019est retenir des num\u00e9ros de t\u00e9l\u00e9phone, par exemple, mais qui est un exercice mn\u00e9motechnique important et int\u00e9ressant. Il y a plein d\u2019autres exercices mentaux comme \u00e7a, et de types de r\u00e9flexions et de cognitions, qui disparaissent au fur et \u00e0 mesure que les machines nous assistent et prennent le relais, et en plus, nous incitent, nous incitent et nous influencent, puisqu\u2019on sait qu\u2019effectivement, elles utilisent des parties du cerveau qui sont soumises plus ou moins fortement \u00e0 des stimuli.<\/p>\n

PJ \u2013 Oui, mais enfin, on peut critiquer ce que vous venez de dire aussi, en disant que bien s\u00fbr, nous sommes moins forts maintenant, parce que le moulin \u00e0 vent nous a retir\u00e9 la charge d\u2019agir la meule nous-m\u00eames \u2013 il fallait \u00eatre tr\u00e8s fort pour le faire \u2013 et par cons\u00e9quent… Prenons un autre exemple…<\/p>\n

Int. \u2013 Oui mais le moulin n\u2019utilisait pas des techniques et des technologies qui passaient sur des biais cognitifs du cerveau. Ils n\u2019allaient pas chercher \u00e0 influencer notre cerveau. Et l\u00e0, on est sur cette influence des outils des plate-formes, qui utilisent \u00e9norm\u00e9ment de syst\u00e8mes tout \u00e0 fait r\u00e9fl\u00e9chis dans des laboratoires, ils \u00e9laborent \u00e9norm\u00e9ment de techniques pour pouvoir faire [en sorte] que l\u2019utilisateur relance des messages, se reconnecte, etc., etc. Il y en a toute une liste, qui touchent \u00e0 plusieurs parties du cerveau, et c\u2019est des techniques qui sont \u00e9prouv\u00e9es.<\/p>\n

PJ \u2013 Bien s\u00fbr, bien entendu, mais dans mon nouveau livre [\u00ab\u00a0D\u00e9fense et illustration du genre humain\u00a0\u00bb], qui sort, par co\u00efncidence aujourd\u2019hui (Int. \u2013 Ah ah\u00a0!), il y a un chapitre que j\u2019ai appel\u00e9\u00a0: \u00ab\u00a0Le big data remplacera-t-il le surmoi\u00a0?\u00a0\u00bb Alors, le surmoi, en psychanalyse, c\u2019est cette force qui nous tyrannise un peu\u00a0: \u00ab\u00a0Il faut faire ceci ou cela\u00a0\u00bb, comme nous avons des devoirs, pour faire des choses en conformit\u00e9 avec ce que nos parents voulaient que nous fassions, et des choses de cet ordre-l\u00e0. Mais c\u2019est une tyrannie aussi\u00a0! C\u2019est une tyrannie aussi. Bien s\u00fbr, il y a une perte de comp\u00e9tence, qui est associ\u00e9e au fait que la machine nous remplace. J\u2019ai fait partie, moi-m\u00eame, de la premi\u00e8re g\u00e9n\u00e9ration de gens qui ont \u00e9crit des logiciels qui calculaient le prix d\u2019une obligation, en fonction des acc\u00e8s sur les march\u00e9s, en fonction des modifications des taux d\u2019int\u00e9r\u00eat, des choses de cet ordre-l\u00e0. Et au moment o\u00f9 j\u2019ai commenc\u00e9 \u00e0 faire cela, il y avait autour de moi des gens qui calculaient le prix d\u2019une obligation avec une r\u00e8gle \u00e0 calculer\u00a0: \u00e7a prenait vingt minutes. J\u2019ai fait partie des gens qui ont \u00e9crit tout \u00e7a en lignes de programmation, ce qui a fait que, par la suite, il suffisait \u00e0 des personnes de pousser sur un bouton. Alors, vous allez me dire\u00a0: \u00ab\u00a0La personne qui pousse sur un bouton, elle ne sait plus du tout comment on calcule le prix d\u2019une obligation. (Int. \u2013 Oui\u00a0!) Vous avez enti\u00e8rement raison. Ce savoir a disparu puisqu\u2019il suffit de pousser sur un bouton. La personne qui devait utiliser la r\u00e8gle \u00e0 calculer, elle comprenait enti\u00e8rement ce que c\u2019\u00e9tait l\u2019impact du temps, ce que c\u2019\u00e9tait, l\u2019impact des taux avoisinants, du prix d\u2019\u00e9mission et des choses de cet ordre-l\u00e0. Alors que la personne qui, apr\u00e8s, utilise les logiciels que nous avons mis au point, cette personne n\u2019a besoin d\u2019aucun savoir, elle doit savoir simplement sur quel bouton appuyer. Mais, donc, il y a une d\u00e9perdition, il y a ce que mon ami [Bernard] Stiegler appelle une \u00ab\u00a0prol\u00e9tarisation\u00a0\u00bb, mais \u00e7a va en m\u00eame temps avec un soulagement extraordinaire, et avec une augmentation de ce qu\u2019on appelle la productivit\u00e9. Si, maintenant, le calcul du prix d\u2019une obligation se fait en un dixi\u00e8me de seconde, eh bien, en une seconde, je peux faire dix op\u00e9rations, alors qu\u2019il me fallait dix fois vingt minutes pour le faire autrefois.<\/p>\n

Int. \u2013 Bien entendu, mais dans cette id\u00e9e-l\u00e0, \u00e7a veut dire que, \u00e0 terme, l\u2019\u00eatre humain n\u2019est plus qu\u2019un rouage lui-m\u00eame m\u00e9canis\u00e9 dans une soci\u00e9t\u00e9 enti\u00e8rement automatis\u00e9e, c’est-\u00e0-dire qu\u2019on est d\u2019accord que pour la cr\u00e9ativit\u00e9 par exemple, l\u2019imaginaire, tout ce qui est de l\u2019ordre de l\u2019imagination, commence quand m\u00eame \u00e0 \u00eatre un peu \u00e9cras\u00e9 par ces proc\u00e9dures et ces proc\u00e9d\u00e9s qui, effectivement, prennent en charge \u00e0 la place de l\u2019\u00eatre humain.<\/p>\n

PJ \u2013 Mais \u00e0 partir du moment o\u00f9 nous inventons l\u2019ordinateur \u2013 et \u00e7a ne date pas d\u2019aujourd\u2019hui puisque c\u2019est la fin des ann\u00e9es 1930, eh bien, nous mettons le doigt, effectivement dans un engrenage o\u00f9 nous allons produire des machines qui seront plus intelligentes que nous. Le probl\u00e8me n\u2019est pas tellement avec le big data, mais il est dans ces logiciels que nous voyons maintenant, qui jouent au jeu de go, dont on nous disait que puisqu\u2019il faisait intervenir de l\u2019intuition, il ne pourrait jamais gagner contre un \u00eatre humain, ou ces [ordinateurs] qui gagnent au Poker contre les plus grands champions alors que nous disions\u00a0: \u00ab\u00a0Mais une machine ne comprendra jamais ce que c\u2019est le bluff\u00a0!\u00a0\u00bb, nous sommes en train d\u2019\u00eatre d\u00e9pass\u00e9s de mani\u00e8re magistrale, pas simplement en termes de vitesse, mais en termes d\u2019intelligence par ces machines. C\u2019est pour \u00e7a que certains, [\u00e0 propos de] l\u2019intelligence artificielle, parlent de la \u00ab\u00a0singularit\u00e9\u00a0\u00bb, c’est-\u00e0-dire le moment o\u00f9 les machines commenceront \u00e0 discuter entre elles, et nous ne le comprendrons plus, nous ne comprendrons plus ce qu\u2019elles font, de la m\u00eame mani\u00e8re \u2013 et l\u2019image, je la trouve excellente \u2013 qu\u2019un chimpanz\u00e9 qui voit l\u2019int\u00e9raction de deux \u00eatres humains qui d\u00e9cident de quelque chose par rapport au chimpanz\u00e9 n\u2019a pas la moindre id\u00e9e de ce qui va se passer, parce qu\u2019il ne peut pas se repr\u00e9senter le processus de d\u00e9cision des deux \u00eatres humains qui sont autour de lui.<\/p>\n

Int. \u2013 Donc, pour finir, ma question d\u2019origine sur cette \u00e9mission\u00a0: \u00ab\u00a0devenons-nous des robots, nous-m\u00eames, les \u00eatres humains\u00a0?\u00a0\u00bb, qu\u2019est-ce que vous pouvez r\u00e9pondre ou conclure sur cette question pour l\u2019instant, m\u00eame [de mani\u00e8re] provisoire\u00a0?<\/p>\n

PJ \u2013 Eh bien, la r\u00e9ponse n\u2019est pas \u00e9vidente, elle est ambivalente dans la mesure o\u00f9 c\u2019est en mimant de plus en plus l\u2019humain par des r\u00e9seaux de neurones formels que nous arrivons \u00e0 am\u00e9liorer le fonctionnement de la machine. Donc il y a un processus, en fait, je dirais de convergence<\/em>. C\u2019est en rendant les machines de plus en plus comme nous que nous pouvons maintenant les am\u00e9liorer, et donc, \u00e7a va demander effectivement que nous, nous allions un peu \u00e0 leur rencontre<\/em>, comme nous le voyons maintenant. Parce que dans ces probl\u00e8mes de \u00ab\u00a0deep mind\u00a0\u00bb, et des choses de cet ordre-l\u00e0, nous voyons des illusions. La machine a des illusions. Parfois, elle confond deux images d\u2019une mani\u00e8re qui nous para\u00eet tout \u00e0 fait extraordinaire. Il y a un exemple en ce moment m\u00eame, qui est discut\u00e9 sur l\u2019internet, sur la mani\u00e8re dont on peut avoir des illusions auditives. On demande aux gens si ils entendent ceci ou cela [Yanny ou Laurel<\/a>], et la moiti\u00e9 des \u00eatres humains entendent une chose, et l\u2019autre [moiti\u00e9] entend une autre. Nous aussi, nous aussi, nous sommes victimes d\u2019illusions. Ce ne sont pas les m\u00eames que celles que nous voyons appara\u00eetre en ce moment chez les ordinateurs, mais c\u2019est un processus, je dirais, qui existe depuis toujours\u00a0: nous cr\u00e9ons des machines, nous devons nous adapter \u00e0 ces machines, parce qu\u2019elles ne sont pas compl\u00e8tes, elles ne sont pas totales, mais en m\u00eame temps, elles nous aident \u00e0 aller bien plus loin que nous n\u2019\u00e9tions autrefois. Pas n\u00e9cessairement non plus, je dirais, dans le domaine simplement de l\u2019intelligence et des choses de cet ordre-l\u00e0. On le sait bien\u00a0: nous vivons dix ans, vingt ans de plus, facilement, dans un tr\u00e8s grand confort, par rapport aux g\u00e9n\u00e9rations pr\u00e9c\u00e9dentes, parce que cette technologie est l\u00e0.<\/p>\n

Int. \u2013 Bon. Eh bien \u00e9coutez, c\u2019est une conclusion\u00a0! Bonne continuation \u00e0 vous, merci beaucoup, au revoir.<\/p>\n

PJ \u2013 Je vous en prie. Merci, au revoir.<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Retranscription de \u00ab DEVENONS-NOUS DES MACHINES ? \u00bb<\/a>, le 29 mai 2012. Merci \u00e0 Olivier Brouwer ! Ouvert aux commentaires.<\/p>\n<\/blockquote>\n

Interviewer (Pascal H\u00e9rard) \u2013 Les algorithmes d\u2019apprentissage automatis\u00e9, ceux qui sont bas\u00e9s sur les r\u00e9seaux de neurones, la question qu\u2019on se pose, parce que \u00e7a va \u00eatre en lien avec ce dont […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13,5],"tags":[1935,940,1927],"class_list":["post-104714","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-sciences-cognitives","tag-anella","tag-intelligence-artificielle-2","tag-reseaux-neuronaux"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/104714","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=104714"}],"version-history":[{"count":1,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/104714\/revisions"}],"predecessor-version":[{"id":104715,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/104714\/revisions\/104715"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=104714"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=104714"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=104714"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}