Blog de Paul Jorion

Billet invité.

La nouvelle nous est parvenue avec un certain décalage : le programme informatique AlphaGo, développé par Google DeepMind[1], est devenu en octobre 2015 le premier programme de go à battre un humain joueur professionnel de go.[2] Paul Jorion nous en a d’ailleurs parlé très récemment.

L’événement pourrait paraître anecdotique. Finalement, quoi de neuf après que l’ordinateur Deep Blue ait battu le champion du monde en titre d’échecs Garry Kasparov, en mai 1997 ? Quoi de neuf pour nous qui sommes entourés d’ordinateurs et de logiciels ?

Pour comprendre la portée de cet événement, il nous faut parler d’échelle, de progression et d’extrapolation.

Le jeu d’échecs a un degré de complexité[3] de l’ordre de 10^120 [4] tandis que le go a un degré de complexité estimé à 10^360 [5]. Cela signifie que le go est d’un degré de complexité supérieur encore aux échecs. Pour des raisons liées à cette complexité, concevoir un logiciel capable de maîtriser ce jeu relevait de la gageure. On a changé d’échelle d’intelligence.

Il s’agit, selon les spécialistes qui planchent depuis des décennies sur ce jeu, d’une étape historique dans le développement de l’intelligence artificielle. A vrai dire, il n’existe sans doute plus de jeu de stratégie humain de ce type auquel un ordinateur ne puisse nous battre. La victoire d’un logiciel sur un joueur professionnel de go marque donc une nouvelle étape significative dans la progression de « l’intelligence informatique » depuis celle de Deep Blue en 1997. On a progressé à pas de géants depuis 1997.

L’extrapolation maintenant : on peut penser que la stratégie humaine « non-ludique », celle qui s’exprime dans la politique et la guerre, dans l’économie et la finance, et plus prosaïquement dans la vie quotidienne, ne diffère finalement des jeux comme les échecs et le go que par une complexité encore plus élevée, sans que la nature de ces stratégies humaines ne soit fondamentalement différente. Aux échecs et au go, on peut dénombrer les pions, les cases, les mouvements autorisés et les conditions de victoire. C’est comme un modèle réduit, bien carré et contrôlé, d’une situation stratégique, où il y a à perdre et à gagner. Ce qui en fait un objet d’étude évident pour la théorie des jeux. La théorie des jeux est « l’étude des modèles mathématiques de conflit et de coopération entre des décideurs intelligents et rationnels ».[6] Loin d’être cantonnée à l’univers ludique, la théorie des jeux s’applique à l’arme nucléaire (pourquoi ni l’URSS ni les USA ne se sont-ils directement attaqués avec leurs missiles nucléaires ?), à la politique (pourquoi certains petits partis déterminent-ils quelle sera la majorité au pouvoir ?), à l’économie (pourquoi certaines entreprises dénoncent-elles le cartel dans lequel elles organisent frauduleusement les prix ?) et à la finance (pourquoi les grosses opérations boursières sont-elles camouflées en une somme de petites opérations discrètes semblant aléatoires ?), entre autres. Elle explique également bien des phénomènes du vivant (pourquoi tel animal poursuit-il telle stratégie étrange d’accouplement ?) et de nos sociétés humaines (pourquoi les gens roulent-ils tous sagement à droite en France et en Belgique ?). De nombreuses questions se posent en termes d’extrapolation. Toutes ces stratégies humaines ne diffèrent-elles des échecs et du go que par un nombre plus élevé de « pièces », de « mouvements possibles » et de « conditions de victoire » ? La complexité de la vie humaine est-elle aussi « finie » que celle des échecs et du go ?

En clair : si la machine peut nous battre, nous humains, à des jeux de plus en plus complexes, qu’est-ce qui nous empêche de penser qu’elle finira par nous battre aux « jeux » les plus complexes que nous connaissons : ceux de la politique et de la guerre, de l’économie et de la finance, du commerce et de l’industrie, et même, de la vie quotidienne ? Et au jeu ultime du Vivant dans notre Univers : celui de la survie ?

Nous avons déjà parlé de cela avec Paul Jorion en évoquant le film « Terminator ». Séparément, et avec l’objectivité la plus dénuée d’émotion, les conditions nécessaires pour un tel scénario se concrétisent tendanciellement. Ça ne veut pas dire que nous y sommes, ça veut dire qu’objectivement, si c’est possible dans l’univers des possibles, on se rapproche, petit à petit, de la situation où « ça pourra arriver ». Est-ce à dire que nous sommes proches ou éloignés d’une telle « singularité »[7] ? Nul ne le sait. Mais l’on doit soupeser le phénomène suivant : si la progression périodique de l’IA est exponentielle[8], l’essentiel du chemin vers une éventuelle singularité serait parcouru dans les dernières périodes avant son occurrence. Il vaut donc mieux penser à tout cela à l’avance !

Fondamentalement, si l’on prend une perspective historique et philosophique, Google DeepMind nous interroge sur notre finitude. C’est la question de nos limites humaines qui se pose.

Indépendamment de toutes convictions religieuses personnelles, une forte tendance à la radicalité mathématique ne donne aucun mal à certains pour imaginer un Univers vide de Dieu(x), immanent, émergent, fruit d’un ensemble de phénomènes simples. Univers dans lequel nous serions « enfermés » dans nos cerveaux, même si nous échangeons des informations avec nos semblables et avec le reste du Vivant et de l’Univers. Univers duquel nous n’aurions, irrémédiablement, accès qu’à une infime partie des mécanismes (Paul a évoqué récemment – à la suite de René Thom – un Univers à n dimensions duquel seules n-k dimensions nous sont accessibles). Univers dans lequel nous serions irrémédiablement confrontés à notre finitude, à nos limites. Pourquoi pas ? Dans cet univers, nous ne serions, contrairement à ce qu’estiment de nombreuses religions et mêmes philosophies, ni élus ni uniques.

En effet, toutes les « spécificités » de notre espèce homo sapiens tombent les unes après les autres. Serait-ce le « sens de l’Histoire » : notre absolue banalité ?

Les historiens ont montré que les faits se reproduisent avec une affligeante banalité. L’Homme n’apprend pas de ses erreurs, ou si peu, Paul en a déjà parlé. Il est incroyable de lire les intrigues de la Rome antique ou de la Florence du Moyen-Age et de les comparer aux intrigues actuelles, ou à celles des années de guerre du XXème siècle.

Les astrophysiciens ont fait progressivement de notre Terre un lieu banal. Copernic et Galilée montrent que la Terre n’est pas le centre de l’Univers (à l’époque le système solaire était considéré comme l’Univers). A cette occasion, Copernic donne à son insu son nom à un nouveau genre de rupture : la « révolution copernicienne ». Désormais, chaque fois que l’Homme se verra lui-même ou son univers, avec un nouveau regard, totalement différent, et gagnera en réflexivité, on parlera de révolution copernicienne. Hubble et d’autres montrent que la Terre se trouve dans une banlieue banale d’un banal système solaire d’une banale galaxie. Ces dernières années, les astrophysiciens ont montré qu’il existe un nombre gigantesque de planètes dans l’Univers et on commence à détecter des planètes aux caractéristiques similaires à la nôtre.

Les zoologues ont fait progressivement de nos capacités, des capacités plus banales qu’il n’y paraît. Ils ont montré que la plupart des « spécialités uniques » de l’homo sapiens sont en réalité partagées, à l’état d’embryon au moins, par nombre d’espèces : intelligence, émotions, usage de l’outil, langage, grammaire, etc.

Les paléontologues ont fait de nous une espèce banale du genre homo, maillon d’une chaîne millénaire d’autres espèces d’homo. Ils ont montré que d’autres hominidés nous ont précédés et même accompagnés pendant des millénaires, et, nous accompagnent toujours ! En effet, certains scientifiques ont proposé que le chimpanzé soit renommé dans le genre homo car sa distance génétique est plus réduite que celle qui sépare d’autres espèces du même genre.[9] Odieux même : le prix Nobel de Duve estime que nous ne sommes pas le pinacle de l’évolution. La boîte crânienne et les hanches féminines limitent notre développement cérébral et une autre espèce non soumise à ces limitations pourrait avoir un plus gros cerveau, et donc être plus intelligente que nous.

Les psychologues savent que rien n’est plus banal qu’un patient. Presque tous se plaignent des mêmes problèmes. Puissant ou misérable, l’âme humaine est sensiblement le jouet des mêmes passions.

Les neuropsychologues montrent que ce que nous pensons être la conscience est peut-être plus banal qu’il n’y paraît : ils semblent confirmer la pensée bouddhiste en montrant que la « personnalité », « l’individualité » sont des phénomènes émergents de la conscience… qui peuvent se révéler autant d’illusions !

Les généticiens enfin montrent que notre spécificité humaine la plus chérie, notre libre arbitre, est en fait bien moindre que ce que nous imaginons. Bien des choses que nous pensons fruit du libre arbitre sont prédéterminées par nos gènes, influencées par notre instinct et par une multitudes de stimuli inconscients.

Et maintenant les mathématiciens et les informaticiens ont développé une IA qui peut nous battre à plate couture dans des jeux stratégiques complexes.

Que nous reste-t-il encore à traverser pour tuer tout résidus d’orgueil et de particularisme en nous ? Faut-il encore que nous subissions d’autres chocs pour nous convaincre de notre finitude, de nos limites et de notre banalité ?

Oui semble-t-il, l’histoire n’est pas (encore) terminée. Promenez-vous autour de vous et vous verrez encore le démon de la démesure, la foi en l’absence de limites, la foi en un particularisme de certains individus, de certains peuples, de notre espèce toute entière.

Plusieurs épreuves toutefois nous attendent, qui détermineront notre sort à tous et l’image que nous avons de nous-mêmes. Certaines à long terme, d’autres à très court terme. Toutes ont été explorées par la science-fiction :

• L’effondrement, qui montrerait que nous sommes finalement comme toutes les espèces vivantes : quand notre écosystème se détruit progressivement, nous tendons à disparaitre.
• L’émergence d’une IA totalement autonome, douée de ce qu’on pourra appeler, une « conscience ». Que ferait-elle de nous ?
• La découverte de formes de vie dans l’espace, qui montrerait que finalement, l’apparition de la vie dans l’Univers est, peut-être, chose plus banale qu’on ne l’imagine. La découverte de formes de vie intelligentes qui renverraient notre intelligence à sa banalité.
• Des manipulations génétiques qui diviseraient l’espèce en deux types d’individus, « supérieur » ou « inférieur ». Avec une différence de plus en plus marquée au fil des années, se concluant par l’émergence d’une nouvelle espèce d’homo.

Une espèce banale, d’une intelligence banale, qui disparaît de manière banale ? Oui, à long terme, nous sommes tous morts comme a dit Keynes.

Mais l’apogée de notre espèce peut durer longtemps et être heureuse, si nous prenons conscience de notre finitude, de nos limites, et de la fragilité de notre condition. Alors, loin d’être banale, l’expérience humaine, de la Vie, de l’Univers, de l’Autre, peut prendre un tout autre sens. Vu la progression des sciences et de la technologie, et les dérives de la politique et de l’économie, j’ose une hypothèse : que cet autre sens ne pourra advenir que par la fixation, autonome, démocratique et réflexive, de limites à l’Homme par lui-même.

===========================================

[1] Google DeepMind est une entreprise britannique d’intelligence artificielle fondée en 2010 sous le nom de DeepMind Technologies, et renommée lorsqu’elle fut acquise par Google en 2014.

[2] Cette victoire de la machine contre l’humain a donné lieu a une publication dans le journal Nature, ce qui explique que la nouvelle ait été différée dans les médias : SILVER, David, HUANG, Aja, MADDISON, Chris J., et al. Mastering the game of Go with deep neural networks and tree search. Nature, 2016, vol. 529, no 7587, p. 484-489.

[3] Estimée selon l’indicateur de « game-tree complexity ».

[4] Aussi appelé « nombre de Shannon » : https://en.wikipedia.org/wiki/Shannon_number

[5] https://en.wikipedia.org/wiki/Go_and_mathematics

[6] https://en.wikipedia.org/wiki/Game_theory

[7] https://en.wikipedia.org/wiki/Technological_singularity

[8] Voir par exemple la loi de Moore, pas équivalente à l’IA mais qui peut donner des indications sur ce type de progression technologique : https://en.wikipedia.org/wiki/Moore%27s_law. Considérer également la différence d’intelligence entre l’homo sapiens et le chimpanzé, alors que l

[9] DIAMOND J., The Third Chimpanzee: The Evolution and Future of the Human Animal, 1991.