Vertige philosophique – risque existentiel pour l’espèce, intelligence artificielle et nouvelle règle d’or, par Cédric Chevalier

Billet invité

Il existe à Oxford (Future of Humanity Institute) et à Cambridge (Center for the Study of Existential Risk) deux instituts de recherche qui ont la particularité rare de se donner comme mission d’étudier le futur de l’Humanité et les risques à la survie de l’espèce, en y affectant des ressources significatives, au sein d’universités prestigieuses et sous le parrainage de scientifiques éminents, Stephen Hawking notamment.

Nick Bostrom, directeur du Future of Humanity Institute, interrogé dans un article récent, combine toute une réflexion sur le futur de l’Humanité, la survie de l’espèce et les dangers de l’intelligence artificielle. La partie sur l’intelligence artificielle est particulièrement éclairante quant au risque que pose cette technologie pour l’Humanité.

Plus loin est exposée brièvement une conviction que je partage et que je tiens de Hans Jonas et son « principe responsabilité ». Selon Jonas, la « Règle d’Or » ancestrale (« Agis tel que tu voudrais qu’on agisse envers toi ») n’est plus suffisante dans notre société hyper technologique, qui, pour la première fois, met en danger l’espèce entière. Un nouveau « principe responsabilité » ajoute une dimension intergénérationnelle à une « Règle d’Or » actualisée : « Agis de telle manière que ton action soit compatible avec le maintien d’une vie authentiquement humaine ». Dans cette nouvelle règle, l’action contemporaine de l’individu doit être examinée au regard de ses implications pour les générations futures. La survie de l’espèce, et donc de l’Humanité future y a une valeur en soi. Jonas construit un argument philosophique très charpenté pour fonder la valeur en soi de l’existence de l’Humanité, que je résume grossièrement : « il faut laisser la possibilité à l’être qui existe d’exister ». Cet argument se fonde lui-même sur une sorte de « principe de liberté » : il faut laisser le choix à chaque individu et à chaque génération de vivre ou pas. Suicider l’Humanité, c’est refuser ce choix aux générations futures. Cet argument est tout à fait valide également pour la protection des espèces animales. Ce principe ontologique implique qu’il faut veiller à la survie de l’Humanité, mais aussi à la survie des espèces vivantes.

Dans l’article cité précédemment, Nick Bostrom n’évoque pas Jonas, mais considère que la survie de l’espèce est une obligation morale qui tend à dépasser toutes les autres obligations morales.

Partager :