{"id":130442,"date":"2021-11-07T20:09:24","date_gmt":"2021-11-07T19:09:24","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=130442"},"modified":"2021-11-07T20:09:24","modified_gmt":"2021-11-07T19:09:24","slug":"lintelligence-artificielle-existe-t-elle-le-17-septembre-2021-retranscription","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2021\/11\/07\/lintelligence-artificielle-existe-t-elle-le-17-septembre-2021-retranscription\/","title":{"rendered":"L’Intelligence Artificielle existe-t-elle ?<\/b>, le 17 septembre 2021 – Retranscription"},"content":{"rendered":"

\"\"Retranscription de L’Intelligence Artificielle existe-t-elle\u00a0?<\/a><\/b>, le 17 septembre 2021<\/p><\/blockquote>\n

Bonjour, nous sommes le vendredi 17 septembre 2021 et aujourd\u2019hui, je vais m\u2019efforcer de r\u00e9pondre \u00e0 la question\u00a0: \u00ab\u00a0L\u2019Intelligence Artificielle existe-t-elle\u00a0?\u00a0\u00bb.<\/p>\n

Il se fait que c\u2019est un domaine dans lequel je travaille en ce moment. J\u2019ai \u00e9t\u00e9 chercheur officiellement en Intelligence Artificielle de 1987 \u00e0 1990 [au sein du projet CONNEX chez British Telecom \u00e0 Ipswich]. En 1990, le programme sur lequel je travaillais s\u2019est interrompu. J\u2019ai eu l\u2019occasion de raconter \u00e7a ailleurs et il se faisait qu\u2019\u00e0 cette \u00e9poque-l\u00e0, il y avait un banquier, M. Jean-Fran\u00e7ois Casanova \u00e0 la Banque de l\u2019Union Europ\u00e9enne, qui m\u2019avait rencontr\u00e9 d\u00e9j\u00e0 \u00e0 plusieurs reprises \u00e0 la suite d\u2019\u00e9missions que j\u2019avais faites pour France Culture sur le th\u00e8me de l\u2019Intelligence Artificielle et \u00e0 la demande de Mme Laure Adler : les \u00ab\u00a0Nuits magn\u00e9tiques\u00a0\u00bb.\u00a0<\/span>
\n<\/p>\n

M. Casanova avait \u00e9crit \u00e0 France Culture. J\u2019avais re\u00e7u la lettre. Il m\u2019avait invit\u00e9 \u00e0 d\u00e9jeuner plusieurs fois et il m\u2019a propos\u00e9 de venir travailler avec lui et il s\u2019est fait qu\u2019un jour nous sommes chez Drouant (ce n\u2019est pas pour d\u00e9cerner le prix Goncourt, c\u2019est parce que c\u2019est au bout de la rue o\u00f9 il travaillait et o\u00f9 je travaillerai ensuite : la rue Gaillon \u00e0 Paris), et je lui dis \u00e0 ce moment-l\u00e0\u00a0: \u00ab\u00a0Voil\u00e0, mon programme se termine\u00a0\u00bb. Il dit\u00a0: \u00ab\u00a0Formidable, maintenant, le moment est venu de venir travailler avec moi !\u00a0\u00bb. Ce que je fais alors.\u00a0<\/span><\/p>\n

Je travaillerai dans ce domaine-l\u00e0 pendant 18 ans et l\u2019id\u00e9e, c\u2019est que je vais appliquer les techniques de l\u2019Intelligence Artificielle dans la finance. Et au cours des 18 ann\u00e9es o\u00f9 j\u2019ai travaill\u00e9 dans la finance, je n\u2019ai pas utilis\u00e9 de techniques d\u2019Intelligence Artificielle.\u00a0<\/span><\/p>\n

En quelques mots, je vais vous dire ce que j\u2019ai fait quand m\u00eame parce que tout \u00e7a, l\u2019id\u00e9e quand m\u00eame, c\u2019\u00e9tait de me faire venir pour que j\u2019utilise des techniques pointues pour lancer d\u2019abord des choses qu\u2019on appellera ensuite le High frequency trading<\/i> : le trading<\/i> [passage d\u2019ordres] \u00e0 haute fr\u00e9quence, ensuite des programmes, voil\u00e0, d\u2019attribution automatis\u00e9e de pr\u00eats immobiliers, ce que j\u2019ai fait chez IndyMac en Californie, \u00e0 Pasadena. Enfin bon, des choses de cet ordre-l\u00e0.\u00a0<\/span><\/p>\n

J\u2019ai \u00e9t\u00e9 sp\u00e9cialiste des mod\u00e8les financiers, de leurs tests de validation, des choses de cet ordre-l\u00e0. Alors, qu\u2019est-ce que j\u2019ai fait pendant ces 18 ans au lieu de faire de l\u2019Intelligence Artificielle\u00a0? Je vais le dire quand m\u00eame en quelques mots. J\u2019ai par exemple\u2026 j\u2019ai pris ici trois livres que j\u2019ai beaucoup utilis\u00e9s, l\u2019un qui s\u2019appelle Modelling Biological Populations in Space and Time<\/i> [Eric Renshaw, Cambridge University Press 1991]. En particulier, j\u2019ai trouv\u00e9 dans ce livre le mod\u00e8le de Lotka-Volterra. Enfin, j\u2019en connaissais l\u2019existence mais l\u00e0, il y a une description tr\u00e8s tr\u00e8s pr\u00e9cise que je pouvais impl\u00e9menter<\/i> comme on dit, c\u2019est-\u00e0-dire v\u00e9ritablement le transformer en programme : le rapport entre les vendeurs et les acheteurs, j\u2019ai pu le mod\u00e9liser comme \u00e9tant un rapport entre la proie et le pr\u00e9dateur et \u00e7a marchait tr\u00e8s bien.\u00a0<\/span><\/p>\n

Quand j\u2019ai parl\u00e9 l\u2019autre jour d\u2019un monsieur qui est milliardaire maintenant et que j\u2019ai pos\u00e9 la question en rigolant un peu de savoir s\u2019il n\u2019avait pas fait une partie de sa fortune gr\u00e2ce \u00e0 des choses que j\u2019ai invent\u00e9es, en fait, en y r\u00e9fl\u00e9chissant par la suite, oui, c\u2019est vraiment bien possible.\u00a0<\/span><\/p>\n

J\u2019ai utilis\u00e9 aussi beaucoup par la suite, \u00e0 propos des mortgages<\/i>, <\/i>des pr\u00eats immobiliers, Models for Discrete Data<\/i> [D. Zeltermann, Oxford University Press 1999]. Le titre ne dit pas grand-chose mais enfin, il y a des choses extr\u00eamement importantes l\u00e0-dedans comme la r\u00e9gression logistique, voil\u00e0, qui est une m\u00e9thode que j\u2019ai utilis\u00e9e, mod\u00e8les log-lin\u00e9aires.\u00a0<\/span><\/p>\n

Ici aussi, voil\u00e0, un livre que j\u2019ai beaucoup utilis\u00e9\u00a0: Applied Longitudinal Data Analysis<\/i> [J.D. Singer & J.B. Willett, Oxford University Press 2003], [sous-titre :] \u00ab\u00a0mod\u00e9liser le changement et l\u2019occurrence, l\u2019apparition d\u2019\u00e9v\u00e8nements\u00a0\u00bb. Bon, \u00e7a ne dit pas grand-chose mais, par exemple, les compagnies d\u2019assurance utilisent ce type de m\u00e9thodes de calcul de la survie d\u2019une personne, de quelque chose. Donc, moi, j\u2019ai utilis\u00e9 \u00e7a pour en faire un mod\u00e8le de survie d\u2019un mortgage<\/i>, d\u2019un pr\u00eat remboursable, d\u2019un pr\u00eat aussi qu\u2019on peut refinancer pour aller en prendre un autre \u00e0 un taux plus int\u00e9ressant, des choses de cet ordre-l\u00e0.\u00a0<\/span><\/p>\n

Donc, 18 ann\u00e9es de travail sur un malentendu : que j\u2019allais utiliser des techniques d\u2019Intelligence Artificielle et puis, pas.\u00a0<\/span><\/p>\n

Pourquoi je vous raconte tout \u00e7a\u00a0? Parce que, quand je vous raconte cette histoire maintenant, je me rends compte qu\u2019elle est devenue fausse. Elle est devenue fausse parce que tout ce dont je vous ai parl\u00e9, toutes ces m\u00e9thodes de statistiques avanc\u00e9es, toutes ces m\u00e9thodes de probabilit\u00e9, de combinatoire, tout \u00e7a, on appelle \u00e7a maintenant de l\u2019Intelligence Artificielle –\u00a0 <\/span>voil\u00e0 ma petite astuce !\u00a0<\/span><\/p>\n

A posteriori, avec la red\u00e9finition du terme, j\u2019ai fait de l\u2019Intelligence Artificielle. Or, pendant toute la p\u00e9riode o\u00f9 je l\u2019ai fait, sachant ce qu\u2019on appelait \u00ab\u00a0Intelligence Artificielle\u00a0\u00bb, je dirais \u00ab\u00a0au plus haut niveau\u00a0\u00bb : au niveau v\u00e9ritablement \u00ab\u00a0expert\u00a0\u00bb, je consid\u00e9rais que ce n\u2019\u00e9tait pas de l\u2019Intelligence Artificielle.<\/p>\n

Et l\u00e0 : voil\u00e0 d\u00e9j\u00e0 un malentendu qu\u2019il faut r\u00e9soudre d\u2019une certaine mani\u00e8re si on r\u00e9pond \u00e0 la question\u00a0: \u00ab\u00a0L\u2019Intelligence Artificielle existe-t-elle\u00a0?\u00a0\u00bb. \u00c7a d\u00e9pend, \u00e7a d\u00e9pend comment on la d\u00e9finit !\u00a0<\/span><\/p>\n

Dans le domaine des sp\u00e9cialistes, on a eu tendance depuis le d\u00e9but \u00e0, quand une technique \u00e9tait v\u00e9ritablement mise au point et qu\u2019on passait \u00e0 autre chose, de consid\u00e9rer que ce n\u2019\u00e9tait plus de l\u2019Intelligence Artificielle, parce qu\u2019en fait, oui, c\u2019\u00e9tait en r\u00e9alit\u00e9 des statistiques avanc\u00e9es, oui, c\u2019\u00e9tait de la combinatoire, oui, c\u2019\u00e9tait de l\u2019analyse de r\u00e9seaux – mais finalement, c\u2019est des m\u00e9thodes statistiques qu\u2019on utilise l\u00e0-dedans. Ou des m\u00e9thodes d\u2019optimisation de divers types, etc.\u00a0<\/span><\/p>\n

C\u2019est-\u00e0-dire qu\u2019une fois que c\u2019est fait, on voit comment on l\u2019a bricol\u00e9 et on voit qu\u2019il n\u2019est pas question v\u00e9ritablement d\u2019intelligence<\/i> l\u00e0-dedans – que c\u2019\u00e9tait de r\u00e9soudre un certain type de probl\u00e8me – on appelle \u00e7a autre chose. Et c\u2019est pour \u00e7a que vous verrez des grands sp\u00e9cialistes de l\u2019Intelligence Artificielle qui vous diront tr\u00e8s doctement que l\u2019Intelligence Artificielle n\u2019existe pas encore, que \u00ab\u00a0Oui on va peut-\u00eatre un jour en faire mais qu\u2019on est encore tr\u00e8s tr\u00e8s loin de r\u00e9aliser \u00e7a !\u00a0\u00bb\u2026 Ce qui para\u00eet bizarre parce que, \u00e0 l\u2019inverse, dans le domaine en particulier des juristes, on appelle de plus en plus \u00ab\u00a0Intelligence Artificielle\u00a0\u00bb simplement toutes ces techniques de statistiques avanc\u00e9es ou bien d\u2019alg\u00e8bre, de mod\u00e8les g\u00e9om\u00e9triques, et ainsi de suite. On appelle tout \u00e7a maintenant IA parce qu\u2019on confond l\u2019Intelligence Artificielle avec en fait la notion d\u2019algorithme. Et qu\u2019est-ce que c\u2019est l\u2019algorithme\u00a0? C\u2019est simplement une proc\u00e9dure qui vous permet de faire quelque chose, de transformer par exemple un nombre en un autre nombre ou de faire appara\u00eetre quelque chose en sortie qui n\u2019est pas ce qu\u2019on n\u2019avait en entr\u00e9e. Enfin si : c\u2019est une sorte de synth\u00e8se des \u00e9l\u00e9ments qu\u2019on avait d\u00e9j\u00e0, mais dispers\u00e9s au d\u00e9part.\u00a0<\/span><\/p>\n

Alors, l\u2019Intelligence Artificielle existe-t-elle\u00a0? Difficile \u00e0 dire.\u00a0<\/span><\/p>\n

Par ailleurs, ce qui est apparu – et \u00e7a, je viens d\u00e9j\u00e0 de le dire – dans deux d\u00e9finitions de l\u2019Intelligence Artificielle, celle, je dirais, de la vie quotidienne, des revues de vulgarisation, des juristes, des administrations, on appelle \u00ab\u00a0Intelligence Artificielle\u00a0\u00bb autre chose que ce que les techniciens appellent Intelligence Artificielle.\u00a0<\/span><\/p>\n

Et alors l\u00e0, un probl\u00e8me que j\u2019ai vu \u00e0 d\u2019autres niveaux, \u00e0 d\u2019autres endroits. Par exemple dans la finance, dans la banque : un dialogue est-il possible entre les banquiers, les dirigeants des banques, et les techniciens, les programmeurs qui font la programmation de ce qui se fait en arri\u00e8re-plan ? Et l\u00e0, on m\u2019a souvent mis dans le r\u00f4le de l\u2019interpr\u00e8te. Bon, je ne faisais pas que \u00e7a mais, tr\u00e8s souvent, de pouvoir parler aux banquiers et de leur expliquer, dans des mots que des banquiers comprennent – ce n\u2019est pas une question de QI mais c\u2019est une question de vocabulaire – ce que font les informaticiens et, en direction inverse, d\u2019expliquer \u00e0 des informaticiens – qui sont des gens intelligents, sinon ils ne feraient pas ce qu\u2019ils font – mais qui ne comprennent pas n\u00e9cessairement la logique de la finance – de leur expliquer ce que les financiers veulent, comment \u00e7a marche et ainsi de suite.\u00a0<\/span><\/p>\n

J\u2019ai pass\u00e9 des heures devant des tableaux noirs, soit m\u2019adressant \u00e0 des banquiers, en leur expliquant ce que fait v\u00e9ritablement le logiciel et comment il faudrait qu\u2019ils expliquent leurs probl\u00e8mes pour que, d\u2019une certaine mani\u00e8re, on le transforme en informatique et, en sens inverse, avoir particip\u00e9 \u00e0 des r\u00e9unions au plus haut niveau et de me retrouver devant – en g\u00e9n\u00e9ral \u00e0 la cave \u00e0 ce moment-l\u00e0 – les informaticiens (je veux dire dans des locaux o\u00f9 il n\u2019y a pas n\u00e9cessairement de fen\u00eatres, qui sont souvent des endroits recul\u00e9s d\u2019une mani\u00e8re assez infamante d\u2019ailleurs – leur expliquer ce que veulent les banquiers, leur traduire ce langage de la finance en quelque chose qui pourra \u00eatre \u00e9crit sous la forme d\u2019un algorithme.\u00a0<\/span><\/p>\n

Donc, confusion dans le public entre la notion d\u2019algorithme<\/i> : une proc\u00e9dure math\u00e9matique qui va faire quelque chose, qui va transformer une chose en une autre, et Intelligence <\/i>Artificielle. Et une difficult\u00e9 due au fait que les gens qui parlent<\/i> d\u2019Intelligence Artificielle sont en g\u00e9n\u00e9ral des gens qui n\u2019y comprennent absolument rien<\/i> – et de mani\u00e8re extr\u00eamement g\u00eanante – et surtout, des gens qui, comme moi, jouent un peu le r\u00f4le d\u2019interpr\u00e8te l\u00e0-aussi entre le monde des sp\u00e9cialistes de l\u2019Intelligence Artificielle et des gens qui en parlent.\u00a0<\/span><\/p>\n

Alors, je prends au hasard (ce n\u2019est pas tout \u00e0 fait au hasard, je suis all\u00e9 le chercher parce que je m\u2019en souvenais) – je vais vous lire un petit passage ici. C\u2019est un article qui s\u2019appelle\u00a0: \u00ab\u00a0Une arme de discrimination massive\u00a0\u00bb. C\u2019est dans un num\u00e9ro sp\u00e9cial d\u2019une revue consacr\u00e9e \u00e0 \u00ab\u00a0IA\u00a0: du mythe \u00e0 la r\u00e9alit\u00e9\u00a0\u00bb et dans cet article, on vous raconte un certain nombre de choses et on vous dit \u00e0 propos du fait qu\u2019un algorithme classe de mani\u00e8re apparemment, je dirais, \u00ab\u00a0injuste\u00a0\u00bb, les curriculum vitae des femmes par rapport aux hommes\u00a0:\u00a0<\/span><\/p>\n

\u00ab\u00a0La cause de cette discrimination est simple\u00a0: ce sont des hommes qui produisent des algorithmes et programment ces machines. Les d\u00e9veloppeurs int\u00e8grent leurs propres id\u00e9es re\u00e7ues dans leurs lignes de code. La sous-repr\u00e9sentation des femmes dans ce secteur n\u2019est pas pour rien dans la diffusion de ces pr\u00e9jug\u00e9s\u00a0\u00bb.\u00a0<\/span><\/p>\n

Et le journaliste en question – je ne vais pas dire son nom parce que c\u2019est tr\u00e8s grave de faire des erreurs de ce type-l\u00e0 mais c\u2019est un homme – et donc, il nous dit\u00a0: \u00ab\u00a0Il y a une discrimination faite par la machine par l\u2019algorithme, par l\u2019intelligence artificielle et c\u2019est probablement\u2026\u00a0\u00bb. Non ! il ne dit pas \u00ab\u00a0c\u2019est probablement\u00a0\u00bb, il dit : \u00ab\u00a0c\u2019est d\u00fb au fait que ce sont des hommes qui r\u00e9digent les lignes de programmation et qui vont faire que, voil\u00e0, \u00e0 l\u2019arriv\u00e9e, les pr\u00e9jug\u00e9s des hommes vont se retrouver dans les d\u00e9cisions de la machine\u00a0\u00bb.\u00a0<\/span><\/p>\n

Ce qui est dit l\u00e0 est faux. C\u2019est m\u00eame impossible : il n\u2019y a pas moyen de faire \u00e7a parce que, dans ce qui va \u00eatre fait par la machine, \u00e7a d\u00e9pend enti\u00e8rement des donn\u00e9es qui lui sont donn\u00e9es<\/i> et absolument pas de la mani\u00e8re dont le code a \u00e9t\u00e9 r\u00e9dig\u00e9.\u00a0<\/span><\/p>\n

Je donne un exemple, c\u2019est un exemple classique. Je ne sais m\u00eame pas s\u2019il a vraiment eu lieu mais enfin bon, c\u2019est des choses qu\u2019on raconte et on pourrait aller voir si \u00e7a a vraiment exist\u00e9 : un premier programme d\u2019Intelligence Artificielle confond un homme africain ou afro-am\u00e9ricain avec un gorille. Et on nous dit\u00a0: \u00ab\u00a0Bon, c\u2019est probablement parce qu\u2019il y avait quelqu\u2019un de raciste qui a d\u00fb r\u00e9diger quelque part des lignes de programmation et ce raciste a inscrit son racisme dans ce qu\u2019il a \u00e9crit-l\u00e0 et la machine a reproduit \u00e7a\u00a0\u00bb. C\u2019est impossible !\u00a0<\/span><\/p>\n

C\u2019est impossible. On pourrait essayer de le faire mais ce ne serait pas vraiment un programme d\u2019Intelligence Artificielle, ce ne serait pas du deep learning<\/i>. En fait, on a utilis\u00e9 de l\u2019apprentissage en profondeur, c\u2019est cela qu\u2019on a utilis\u00e9 pour faire \u00e7a. Non, ce sont les donn\u00e9es, ce sont les donn\u00e9es et le monde tel qu\u2019il est, parce qu\u2019il faut tout de suite ajouter \u00ab\u00a0les donn\u00e9es et le monde tel qu\u2019il est\u00a0\u00bb. Parce qu\u2019en g\u00e9n\u00e9ral, les donn\u00e9es ne sont pas biais\u00e9es : elles repr\u00e9sentent le monde tel qu\u2019il est.\u00a0<\/span><\/p>\n

Prenons cet exemple extr\u00eamement simple de cet algorithme qui aurait confondu une personne d\u2019origine africaine, de peau noire, avec un gorille. Qu\u2019est-ce qui s\u2019est pass\u00e9\u00a0? C\u2019est du m\u00eame ordre en fait que ce logiciel pour la conduite automatis\u00e9e d\u2019une voiture, et qui produit un accident parce qu\u2019un camion, un poids-lourd s\u2019est mis totalement en travers. Sa paroi est blanche et l\u2019Intelligence Artificielle n\u2019est pas parvenue \u00e0 voir, \u00e0 deviner qu\u2019il s\u2019agissait en fait d\u2019un v\u00e9hicule et pas du tout du ciel avec lequel elle l\u2019a confondu.\u00a0<\/span><\/p>\n

Dans les deux cas, d\u2019o\u00f9 vient l\u2019erreur\u00a0? Dans le cas du camion, je dirais que c\u2019est assez simple parce qu\u2019un \u00eatre humain ferait la m\u00eame chose : commettrait la m\u00eame erreur. Donc, en fait, exactement, le syst\u00e8me d\u2019apprentissage automatique a fait la m\u00eame erreur qu\u2019un \u00eatre humain. D\u2019o\u00f9 vient le probl\u00e8me alors\u00a0? C\u2019est que nous sommes tr\u00e8s tol\u00e9rants au fait que les \u00eatres humains font des accidents. \u00c7a ne nous \u00e9tonne pas tous les jours de voir qu\u2019il y a eu tant de morts sur les routes mais quand nous faisons de la conduite automatis\u00e9e par des machines avec de l\u2019Intelligence Artificielle qui la dirige, notre tol\u00e9rance, c\u2019est z\u00e9ro. L\u00e0, on ne tol\u00e8rera que la machine fasse toute seule que le jour o\u00f9 elle ne fera plus jamais aucun accident<\/i>.\u00a0<\/span><\/p>\n

[Pour l\u2019IA] la tol\u00e9rance est z\u00e9ro donc le jeu n\u2019est pas \u00e9gal. On ne peut pas dire\u00a0: \u00ab\u00a0Voil\u00e0, les \u00eatres humains faites beaucoup mieux que la machine\u00a0\u00bb, non, non, on demande \u00e0 la machine de faire beaucoup mieux que l\u2019\u00eatre humain. Dans le cas de la confusion du logiciel, de l\u2019algorithme, entre une personne africaine et un gorille, d\u2019o\u00f9 vient la confusion\u00a0? La confusion vient de la couleur. Bon, je prends deux noms au hasard. Mme Ursula Andress, vous voyez peut-\u00eatre encore qui est cette actrice, et M. Sidney Poitier. Mme Ursula Andress est consid\u00e9r\u00e9e comme une tr\u00e8s belle femme. M. Sidney Poitier est consid\u00e9r\u00e9, \u00e0 tr\u00e8s juste titre, comme un tr\u00e8s bel homme. Un syst\u00e8me tout \u00e0 fait, je dirais, primitif de reconnaissance des personnes va \u00eatre influenc\u00e9 par la couleur et confondra moins facilement Mme Ursula Andress avec un gorille que M. Sidney Poitier, \u00e0 partir simplement de la couleur de la peau. Dans le cas du gorille, ce n\u2019est pas la peau, c\u2019est son pelage mais son pelage est noir. M. Sidney Poitier est une personne dont la pigmentation est extr\u00eamement fonc\u00e9e. Un programme qui ne marche pas bien va confondre plus facilement M. Sidney Poitier avec un gorille que Mme Ursula Andress. Il ne faut pas chercher tr\u00e8s tr\u00e8s loin. Ce n\u2019est pas tr\u00e8s tr\u00e8s compliqu\u00e9.\u00a0<\/span><\/p>\n

Ce qu\u2019on voit beaucoup pour le moment, en fait, quand on dit que l\u2019Intelligence Artificielle ne fonctionne pas, c\u2019est pour deux raisons\u00a0: c\u2019est en raison de ce qu\u2019on appelle le politiquement correct<\/i>. On voudrait qu\u2019une machine, spontan\u00e9ment, connaisse toutes les r\u00e8gles du politiquement correct<\/i> et fasse exactement comme un \u00eatre humain, c\u2019est-\u00e0-dire modifie son opinion non pas en raison des faits eux-m\u00eames mais en raison de principes, de r\u00e8gles, voil\u00e0, qu\u2019\u00ab\u00a0on ne peut pas dire \u00e7a\u00a0\u00bb, qu\u2019\u00ab\u00a0on ne peut pas faire ceci de telle et telle mani\u00e8re\u00a0\u00bb et, par ailleurs, l\u2019existence des donn\u00e9es. Les donn\u00e9es elles-m\u00eames, en g\u00e9n\u00e9ral, n\u2019ont aucune notion du politiquement correct \u00e0 moins qu\u2019on ait d\u00e9j\u00e0 fait un tri en fonction de cela et, par cons\u00e9quent, les donn\u00e9es sont les donn\u00e9es de la m\u00eame mani\u00e8re qu\u2019il est vrai que la pigmentation de M. Sidney Poitier est plus fonc\u00e9e que celle de Mme Ursula Andress et se rapproche de celle du gorille en termes simplement de couleur, de nuance de couleur.\u00a0<\/span><\/p>\n

Je vais vous donner un exemple, un exemple connu bien qu\u2019il n\u2019ait jamais \u00e9t\u00e9 analys\u00e9 v\u00e9ritablement de la mani\u00e8re que je vais dire : la carte de cr\u00e9dit de la compagnie Apple.\u00a0<\/span><\/p>\n

La carte de cr\u00e9dit de la compagnie Apple se fondait, dans l\u2019allocation, dans l\u2019attribution d\u2019une somme maximale que la personne peut emprunter \u00e0 partir de sa carte de cr\u00e9dit, ou en d\u00e9penses, elle allait se fonder sur l\u2019Intelligence Artificielle \u00e0 partir de toutes les donn\u00e9es, une multitude de donn\u00e9es de consommation, elle allait prendre une d\u00e9cision en fonction de cela.\u00a0<\/span><\/p>\n

Et qu\u2019est-ce qui se passe\u00a0? C\u2019est qu\u2019au sein d\u2019un m\u00eame m\u00e9nage, l\u2019\u00e9pouse, la femme, a une limite de cr\u00e9dit beaucoup plus basse. On lui attribue une limite beaucoup plus basse qu\u2019au monsieur. Et M. Wozniak, un des fondateurs avec M. Jobs, pr\u00e9cis\u00e9ment de la compagnie Apple, se trouve dans cette situation, que son \u00e9pouse \u00e0 lui n\u2019a pas droit \u00e0 emprunter, \u00e0 partir de sa carte, une somme aussi importante que lui. Et \u00e7a se reproduit absolument partout, c\u2019est syst\u00e9matique : d\u2019un c\u00f4t\u00e9 les hommes, de l\u2019autre c\u00f4t\u00e9 les femmes. C\u2019est un grand scandale. On demande \u00e0 la compagnie Apple d\u2019expliquer ce qui s\u2019est pass\u00e9. Ils regardent tout ce qu\u2019ils ont fait et disent\u00a0: \u00ab\u00a0On est d\u00e9sol\u00e9 mais c\u2019est comme \u00e7a. On n\u2019a rien trouv\u00e9 de suspect\u00a0\u00bb. La banque Goldman Sachs qui allait, sur le plan financier, garantir l\u2019argent qui allait \u00eatre autoris\u00e9, eux aussi, font leur enqu\u00eate et on ne trouve absolument rien.\u00a0<\/span><\/p>\n

Qu\u2019est-ce qui s\u2019\u00e9tait pass\u00e9\u00a0? Il s\u2019\u00e9tait pass\u00e9 que l\u2019Intelligence Artificielle avait fait correctement son boulot, voil\u00e0. Ce n\u2019est pas une question de programmation \u00e9crite par X ou Y. Tout \u00e7a a \u00e9t\u00e9 bien fait mais les donn\u00e9es sont les donn\u00e9es. Les donn\u00e9es n\u2019\u00e9taient pas biais\u00e9es non plus mais il y a quelque chose qui s\u2019appelle l\u2019oniomanie<\/a>. \u00c7a a \u00e9t\u00e9 d\u00e9couvert et appel\u00e9 comme \u00e7a dans les ann\u00e9es 1880. C\u2019est un d\u00e9sordre de la personnalit\u00e9 qui fait que la personne fait des achats compulsifs et il s\u2019agit d\u2019un d\u00e9sordre de la personnalit\u00e9. C\u2019est \u00e9tudi\u00e9 \u00e0 partir de ces ann\u00e9es-l\u00e0. Il y a m\u00eame, donc, un terme invent\u00e9 : \u00ab\u00a0oniomanie\u00a0\u00bb, et des \u00e9tudes sont faites.\u00a0<\/span><\/p>\n

Ce qui se passe dans les ann\u00e9es r\u00e9centes, c\u2019est qu\u2019on essaye de faire dispara\u00eetre de fait, dans la pr\u00e9sentation des donn\u00e9es, on essaye de faire dispara\u00eetre enti\u00e8rement la diff\u00e9rence de comportement des hommes et des femmes sous ce rapport, voil\u00e0. Donc, par exemple, dans les articles anciens, ceux du XIXe<\/sup> si\u00e8cle, on vous dit\u00a0: \u00ab\u00a0C\u2019est quelque chose qui touche bien davantage les femmes que les hommes\u00a0\u00bb. Mais dans les articles r\u00e9cents, on ne le fait pas [P.J. : manifestation du politiquement correct<\/i>, <\/i>dans l\u2019article \u00ab\u00a0oniomanie\u00a0\u00bb sur Wikip\u00e9dia, les mots \u00ab\u00a0femme\u00a0\u00bb, \u00ab\u00a0sexe\u00a0\u00bb, \u00ab\u00a0genre\u00a0\u00bb, n\u2019apparaissent pas du tout ; dans l\u2019article en anglais, il est dit que \u00ab\u00a0plus de 90%\u00a0\u00bb des personnes souffrant de ce d\u00e9sordre sont des femmes] mais les donn\u00e9es apparaissent de mani\u00e8re indirecte parce qu\u2019on vous dit par exemple\u00a0: \u00ab\u00a0On a fait l\u2019\u00e9tude sur un \u00e9chantillon de tant de personnes\u00a0\u00bb et, dans une \u00e9tude que j\u2019ai vue, sur 171\u00a0personnes qui s\u2019\u00e9taient pr\u00e9sent\u00e9es volontairement, dirig\u00e9es plus ou moins par un m\u00e9decin, par un psychiatre, etc., par un h\u00f4pital en tout cas, les gens se sont propos\u00e9s volontairement pour une \u00e9tude de ce trouble du comportement et, dans l\u2019\u00e9chantillon de cet article tr\u00e8s s\u00e9rieux sur le sujet, on a effectivement un \u00e9chantillon de 171 personnes qui sont venues volontairement. 150 de ces personnes sont des femmes et 21 de ces personnes sont des hommes [87,7% de femmes]. \u00c7a vous donne une id\u00e9e du fait que c\u2019est quelque chose qui touche plus ou moins un certain type de personnes.\u00a0<\/span><\/p>\n

Alors, qu\u2019a fait la carte Apple, l\u2019Intelligence Artificielle de la carte Apple\u00a0? Elle a pris toutes les donn\u00e9es. On nous dit\u00a0: \u00ab\u00a0Oui, mais comment est-ce qu\u2019elle est arriv\u00e9e \u00e0 discriminer entre les hommes et les femmes\u00a0?\u00a0\u00bb, parce que, en plus, dans la loi am\u00e9ricaine, il est interdit de faire entrer dans les donn\u00e9es le fait que c\u2019est d\u2019un homme ou d\u2019une femme qu\u2019il s\u2019agit. Comment se fait-il que, malgr\u00e9 que la variable sexe, genre, n\u2019\u00e9tait pas entr\u00e9e, [la chose soit apparue] ? Qu\u2019est-ce qui s\u2019est pass\u00e9\u00a0?\u00a0<\/span><\/p>\n

La machine, qui est intelligente, a d\u00e9couvert qu\u2019il y a un certain type de personnes – que la machine n\u2019a m\u00eame pas nomm\u00e9es – qui ach\u00e8tent plut\u00f4t des soutiens-gorges, qui va plut\u00f4t acheter dans tel type de magasin, qui, certains jours, [fait des achats] qui d\u00e9passent la limite sur la carte de cr\u00e9dit, etc. Elle va trouver qu\u2019il y a une corr\u00e9lation entre le fait qu\u2019un certain nombre de personnes ach\u00e8te des soutiens-gorges et qu\u2019elle d\u00e9pense trop dans des magasins.\u00a0<\/span><\/p>\n

Est-ce que c\u2019est un \u00ab\u00a0biais\u00a0\u00bb\u00a0? Ce n\u2019est pas un biais : c\u2019est comme \u00e7a que c\u2019est. Qu\u2019est-ce qu\u2019il faut faire ensuite, une fois qu\u2019on voit que les limites de cr\u00e9dit \u00e0 l\u2019int\u00e9rieur d\u2019un m\u00eame m\u00e9nage ne sont pas les m\u00eames entre l\u2019homme et la femme\u00a0? Les gens comme Wozniak avaient dit\u00a0: \u00ab\u00a0Oui, mais on a un compte commun \u00e0 la banque. Comment est-ce possible\u00a0?\u00a0\u00bb. \u00ab\u00a0Oui, mais il y a un\u00a0FICO<\/i> score<\/i> (un indice aux \u00c9tats-Unis qui \u00e9value la capacit\u00e9 de cr\u00e9dit), c\u2019est au niveau d\u2019un m\u00e9nage et pas au niveau d\u2019une personne. Comment est-ce possible\u00a0?\u00a0\u00bb\u00a0<\/span><\/p>\n

Comment-est-ce possible\u00a0? Eh bien parce que la machine a eu acc\u00e8s \u00e0 des donn\u00e9es extr\u00eamement d\u00e9taill\u00e9es et a pu faire \u00e9merger avec la r\u00e9gression logistique, avec toutes ces m\u00e9thodes, elle a fait \u00e9merger qu\u2019il y a quelque chose dont elle ne connait pas le nom mais qui se produit de telle et telle mani\u00e8re et, comme je l\u2019ai dit, qui ach\u00e8te des soutiens-gorges et qui d\u00e9pense trop dans les magasins.\u00a0<\/span><\/p>\n

Quand une recherche a \u00e9t\u00e9 men\u00e9e par la compagnie Apple, on a demand\u00e9 \u00e0 un certain nombre de sociologues, de sp\u00e9cialistes, de dire ce qu\u2019il fallait faire. Il y a une sp\u00e9cialiste, une dame – je ne crois pas, d\u2019apr\u00e8s ce qu\u2019elle expliquait, qu\u2019elle avait des connaissances extr\u00eamement approfondies en informatique – elle a dit la chose suivante\u00a0: \u00ab\u00a0Eh bien, il faut obliger la loi \u00e0 renverser cette interdiction de voir s\u2019il s\u2019agit d\u2019un homme et d\u2019une femme, et il faut au contraire utiliser cette information mais dans un seul but : pour corriger des discriminations qui appara\u00eetraient par la suite\u00a0\u00bb.\u00a0<\/span><\/p>\n

Et voil\u00e0 le probl\u00e8me devant lequel on est : on a des techniques avanc\u00e9es, maintenant, d\u2019informatique, qui permettent de faire des calculs extr\u00eamement pr\u00e9cis et \u00e0 ce point pointus, rapides, sur des donn\u00e9es dans des quantit\u00e9s tellement astronomiques que des \u00eatres humains n\u2019envisageraient m\u00eame plus de faire \u00e7a. Et tout cela nous donne une certaine repr\u00e9sentation du monde tel qu\u2019il est mais pas tel que nous voudrions qu\u2019il soit. Et en cons\u00e9quence, nous disons que la machine a des pr\u00e9jug\u00e9s quand elle r\u00e9v\u00e8le [en r\u00e9alit\u00e9] les n\u00f4tres par rapport aux donn\u00e9es. Parce que nous avons pris l\u2019habitude, nous, de faire ce qu\u2019on appelle de la \u00ab\u00a0discrimination positive\u00a0\u00bb \u00e0 tout moment dans la journ\u00e9e. C\u2019est ce qu\u2019Aristote appelait la philia<\/i>, la bonne disposition que nous avons de faire comme si n\u2019existaient pas des diff\u00e9rences qui existent en r\u00e9alit\u00e9, de passer par-dessus, d\u2019accorder un pr\u00e9jug\u00e9 favorable \u00e0 des personnes dont nous savons que la soci\u00e9t\u00e9 a tendance \u00e0 les discriminer. Nous faisons \u00e7a gentiment, c\u2019est dans une bonne intention et \u00e7a corrige effectivement les choses, l\u2019attitude spontan\u00e9e des \u00eatres humains et quand la machine ne le fait pas parce qu\u2019on ne lui a pas dit de le faire, on dit\u00a0: \u00ab\u00a0La machine est biais\u00e9e\u00a0\u00bb. Non, la machine voit les choses telles qu\u2019elles sont mais nous ne sommes pas pr\u00eats \u00e0 \u00e7a et nous disons\u00a0: \u00ab\u00a0La machine est stupide\u00a0\u00bb, nous disons\u00a0: \u00ab\u00a0Elle n\u2019est pas encore intelligente puisqu\u2019elle n\u2019utilise pas tous nos crit\u00e8res du politiquement correct par rapport aux donn\u00e9es telles qu\u2019elles sont\u00a0\u00bb.\u00a0<\/span><\/p>\n

Alors, l\u2019image que je donne l\u00e0 de l\u2019Intelligence Artificielle, elle n\u2019est pas l\u2019image simplifi\u00e9e qu\u2019il y a des gens qui \u00e9crivent des lignes de code et parce que ce sont des vieux machos, ils vont discriminer les femmes dans ce qu\u2019on verra <\/b>en sortie. Non, c\u2019est plus compliqu\u00e9 que \u00e7a. C\u2019est plus compliqu\u00e9 que cela.\u00a0<\/span><\/p>\n

La difficult\u00e9 aussi, c\u2019est que nous sommes dans une soci\u00e9t\u00e9 ultralib\u00e9rale o\u00f9 on ne veut rien r\u00e9glementer. Alors on nous produit – et \u00e7a, je lisais hier un excellent texte d\u2019Yves Poullet qui est mon coll\u00e8gue \u00e0 l\u2019Universit\u00e9 Catholique de Lille – on refuse absolument d\u2019interdire ce qu\u2019il faudrait interdire et on fait des grands comit\u00e9s d\u2019\u00e9thique et les grands comit\u00e9s d\u2019\u00e9thique, ils disent\u00a0: \u00ab\u00a0Il faudrait plut\u00f4t faire ceci que cela. Comptons sur l\u2019autor\u00e9gulation, que le domaine lui-m\u00eame comprendra que pour son image vis-\u00e0-vis du public, que pour bla bla bla, il faut qu\u2019il corrige les choses\u00a0\u00bb. L\u2019autor\u00e9gulation ? Moi, j\u2019ai observ\u00e9 l\u2019autor\u00e9gulation dans les banques pendant 18 ans. L\u2019autor\u00e9gulation, \u00e7a ne fait aucune diff\u00e9rence. Il n\u2019y a pas d\u2019autor\u00e9gulation<\/i> : on ne fait pas des choses contre son int\u00e9r\u00ea<\/i>t.\u00a0<\/span><\/p>\n

Une banque va pas faire des choses contre son int\u00e9r\u00eat, en s\u2019imaginant l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral ou du march\u00e9 de mani\u00e8re tout \u00e0 fait globale, et ainsi de suite. \u00c7a ne se fait pas. Il ne faut pas compter sur l\u2019autor\u00e9gulation. Mais nous sommes dans un domaine o\u00f9 ce qu\u2019il faudrait r\u00e9glementer, nous ne le faisons pas et, voil\u00e0, nous mettons des comit\u00e9s d\u2019\u00e9thique par milliers o\u00f9 la plupart des gens, quand vous voyez les discussions, les comptes-rendus de ces comit\u00e9s d\u2019\u00e9thique, vous voyez que la plupart des gens dans ces comit\u00e9s d\u2019\u00e9thique ne savent m\u00eame pas ce que c\u2019est l\u2019\u00e9thique et seraient m\u00eame incapables d\u2019en donner une d\u00e9finition. C\u2019est comme l\u2019argent o\u00f9 chacun consid\u00e8re qu\u2019il peut \u00eatre un sp\u00e9cialiste de l\u2019argent parce qu\u2019il en a dans sa poche. De m\u00eame <\/b>pour l\u2019\u00e9thique : on sait ce qui est bien et ce qui n\u2019est pas bien et chacun consid\u00e8re qu\u2019il peut vous donner une opinion l\u00e0-dessus.\u00a0<\/span><\/p>\n

Voil\u00e0, alors, en vitesse une opinion de quelqu\u2019un qui a \u00e9t\u00e9 un sp\u00e9cialiste de l\u2019Intelligence Artificielle et qui recommence \u00e0 l\u2019\u00eatre, sur le fait qu\u2019elle existe ou qu\u2019elle n\u2019existe pas. La conclusion n\u2019est pas tr\u00e8s claire. Je vous ai donn\u00e9 un certain nombre d\u2019\u00e9l\u00e9ments et je crois que c\u2019est tout ce qu\u2019on peut faire dans la situation pr\u00e9sente, voil\u00e0.\u00a0<\/span><\/p>\n

Allez, \u00e0 bient\u00f4t\u00a0!<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

\"\"Retranscription de L’Intelligence Artificielle existe-t-elle\u00a0?<\/a><\/b>, le 17 septembre 2021<\/p>\n<\/blockquote>\n

Bonjour, nous sommes le vendredi 17 septembre 2021 et aujourd\u2019hui, je vais m\u2019efforcer de r\u00e9pondre \u00e0 la question\u00a0: \u00ab\u00a0L\u2019Intelligence Artificielle existe-t-elle\u00a0?\u00a0\u00bb.<\/p>\n

Il se fait que c\u2019est un domaine dans lequel je travaille en ce moment. […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[4028,7450,940],"class_list":["post-130442","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","tag-algorithmes","tag-biais-algorithmique","tag-intelligence-artificielle-2"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/130442","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=130442"}],"version-history":[{"count":2,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/130442\/revisions"}],"predecessor-version":[{"id":130444,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/130442\/revisions\/130444"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=130442"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=130442"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=130442"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}