{"id":99014,"date":"2017-09-17T18:32:47","date_gmt":"2017-09-17T16:32:47","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=99014"},"modified":"2017-09-17T18:55:20","modified_gmt":"2017-09-17T16:55:20","slug":"du-nombril-des-primates-et-de-lintelligence-artificielle-forte-par-roberto-boulant","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2017\/09\/17\/du-nombril-des-primates-et-de-lintelligence-artificielle-forte-par-roberto-boulant\/","title":{"rendered":"Du nombril des primates et de l\u2019intelligence artificielle forte, par Roberto Boulant"},"content":{"rendered":"

Billet invit\u00e9. Ouvert aux commentaires.<\/p><\/blockquote>\n

Alexis Toulet dans son dernier billet<\/a> se demandait si les ordinateurs pourraient atteindre un niveau d\u2019intelligence similaire \u00e0 celui de l\u2019\u00eatre humain ou si des robots pourraient devenir ind\u00e9pendants de leurs cr\u00e9ateurs, voire hostiles, en allant m\u00eame jusqu\u2019\u00e0 les remplacer. Questions dans l\u2019air du temps certes, mais qui au vu des colossaux budgets de recherche de la DARPA<\/a> et de ses homologues \u00e9trangers se posent tr\u00e8s s\u00e9rieusement. Notre esp\u00e8ce \u00e9tant ainsi faite que les domaines de recherche susceptibles de d\u00e9boucher sur une quelconque sup\u00e9riorit\u00e9 militaire voient aussit\u00f4t s\u2019ouvrir les vannes du financement.<\/p>\n

Il n\u2019est donc pas illogique d\u2019imaginer sous la traction irr\u00e9sistible des complexes militaro-industriels, voir des avanc\u00e9es de l\u2019IA militaire qui \u00e0 l\u2019exemple du GPS, des drones ou des r\u00e9acteurs nucl\u00e9aires, auront des retomb\u00e9es concr\u00e8tes dans notre vie quotidienne.<\/p>\n

Les pr\u00e9visions \u00e9tant difficiles – particuli\u00e8rement celles concernant le futur -, il est tout de m\u00eame possible de se tourner vers l\u2019histoire des d\u00e9couvertes scientifiques pour observer le cheminement improbable de certaines d\u2019entre elles. Ainsi, avant l\u2019invention de la spectroscopie, il \u00e9tait rationnel de penser que les hommes ne connaitraient jamais la composition chimique des objets c\u00e9lestes avant de pouvoir s\u2019y rendre physiquement. C\u2019est-\u00e0-dire dans un tr\u00e8s lointain futur ! Et pourtant, avant m\u00eame la m\u00e9canique quantique ou l\u2019invention de la premi\u00e8re fus\u00e9e, il fut possible de conna\u00eetre le spectre des diff\u00e9rents \u00e9l\u00e9ments chimiques et par voie de cons\u00e9quence, la composition des \u00e9toiles.<\/p>\n

Sans m\u00eame parler des d\u00e9couvertes fortuites et totalement inattendues, car provenant d\u2019un domaine a priori totalement \u00e9tranger \u00e0 l\u2019objet de sa recherche. Ainsi en alla-t-il pour les astronomes qui virent au lendemain de la seconde guerre mondiale leur discipline r\u00e9volutionn\u00e9e par les techniques de d\u00e9tection \u00e9lectromagn\u00e9tique des avions ennemis. Qui aurait pu imaginer un seul instant que cette technologie militaire allait d\u00e9boucher sur de nouvelles fen\u00eatres pour observer l\u2019univers et nous d\u00e9voiler des objets \u00e0 proprement parler inimaginables, comme les \u00e9toiles \u00e0 neutrons ?<\/p>\n

Mais pour en revenir \u00e0 nos moutons \u00e9lectriques, nous les envisageons toujours au travers des filtres l\u00e9gu\u00e9s par notre \u00e9volution. Cela se traduit en langage courant par la classique s\u00e9rie de questions : c\u2019est dangereux ? \u00e7a se mange ? je peux copuler avec ? m\u2019en servir pour mettre sur la g** de mon voisin ? La liste n\u2019est pas exhaustive, mais vous aurez compris son principe : elle est bas\u00e9e sur le rapport au monde des primates sociaux, et part de notre nombril pour aboutir \u00e0\u2026 notre nombril !<\/p>\n

C\u2019est ainsi que nous affublons cette intelligence \u00e9trang\u00e8re de l\u2019adjectif \u2018artificiel\u2019. Terme convenant parfaitement \u00e0 des automates ou \u00e0 des programmes idiots (m\u00eame si tr\u00e8s performants dans un domaine pr\u00e9cis, comme le programme AlphaGo qui peut mettre la p\u00e2t\u00e9e \u00e0 l\u2019humain Lee Sedol\u2026 tout en ne sachant pas qu\u2019il joue au Go), mais qui est quelque peu r\u00e9ducteur pour d\u00e9signer une conscience autonome. Apposons-nous le qualificatif d\u2019artificiel<\/em> sur nos enfants, sous pr\u00e9texte que nous leurs avons donn\u00e9 le jour ? Non bien s\u00fbr ! Pour la simple raison que nous les reconnaissons \u00e0 notre image, chose impossible \u00e0 faire actuellement avec un ordinateur ou un robot.<\/p>\n

L\u00e0 est le vieux paradoxe : si je reconnais en l\u2019Autre une intelligence et une sensibilit\u00e9 \u00e9gales \u00e0 la mienne, alors je ne peux le traiter qu\u2019en semblable. Et si malgr\u00e9 tout je veux le r\u00e9duire en esclavage, alors j\u2019en suis r\u00e9duit \u00e0 inventer des fables d\u00e9montrant ma sup\u00e9riorit\u00e9 tout en me d\u00e9culpabilisant (la version faible de l\u2019esclavage, l\u2019ub\u00e9risation, reposant sur l\u2019id\u00e9ologie des fain\u00e9ants que l\u2019on croise dans les gares et qui ne sont rien<\/em>).<\/p>\n

Sous ces conditions, force est d\u2019admettre que nos r\u00e9actions face \u00e0 l\u2019\u00e9ventualit\u00e9 d\u2019une IA forte et de son statut, ressemblent \u00e9trangement \u00e0 une nouvelle Controverse de Valladolid<\/a>\u2026<\/p>\n

Controverse qui pourrait finalement se r\u00e9v\u00e9ler d\u00e9pourvue de sens ! Car si nous ne pouvons nous emp\u00eacher d\u2019anthropomorphiser une IA forte, c\u2019est \u00e0 dire de lui pr\u00eater des intentions et des comportements semblables aux n\u00f4tres, il est fort possible en r\u00e9alit\u00e9 que nous ne puissions jamais la comprendre\u2026<\/p>\n

En effet, alors que nous avons d\u00e9j\u00e0 les plus grandes difficult\u00e9s \u00e0 d\u00e9finir notre propre conscience, comment pourrions-nous nous y prendre pour imaginer celle d\u2019une \u2018entit\u00e9\u2019 ayant sa conscience diss\u00e9min\u00e9e dans x lieux et x corps physiques diff\u00e9rents ? Comment imaginer une conscience dont l\u2019existence sera de plusieurs ordres de grandeur sup\u00e9rieure \u00e0 la dur\u00e9e d\u2019une vie humaine, alors m\u00eame que ses processus cognitifs seront plus rapides de plusieurs ordres de grandeur que les n\u00f4tres ?<\/p>\n

Incompr\u00e9hensible<\/em> et inhumaine<\/em> seront alors sans doute les qualificatifs les plus appropri\u00e9s.<\/p>\n

Peut-\u00eatre m\u00eame en viendrons-nous \u00e0 consid\u00e9rer que la conscience tout comme le cosmos, n\u2019est pas \u00e0 l\u2019\u00e9chelle de notre humanit\u00e9 ? Serons-nous oblig\u00e9s alors de nous repr\u00e9senter la conscience comme une \u00e9chelle d\u2019une hauteur ind\u00e9termin\u00e9e dont les diff\u00e9rentes esp\u00e8ces du genre Homo ne furent que les premiers barreaux ?<\/p>\n

Et que vaudra-t-il mieux dans ce cas-l\u00e0 ? Qu\u2019une IA forte se d\u00e9sint\u00e9resse totalement de nous ou bien que pour une myst\u00e9rieuse raison, elle sp\u00e9cialise une partie de sa conscience dans le dialogue avec nous autres, cr\u00e9atures si lentes et \u00e9ph\u00e9m\u00e8res ?<\/p>\n

Un petit jeu sp\u00e9culatif qui rel\u00e8vera peut-\u00eatre \u00e0 jamais de la cat\u00e9gorie \u2018combien d\u2019anges peuvent-ils tenir sur la t\u00eate d\u2019une aiguille ?\u2019, mais qui n\u2019emp\u00eache pas de se poser une derni\u00e8re question (non, pas de savoir \u00e0 quelle heure on mange !) : notre humanit\u00e9 se survivra-t-elle assez longtemps pour que cette singularit\u00e9 ait une chance d\u2019apparaitre sur notre petite plan\u00e8te bleue ?<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Billet invit\u00e9. Ouvert aux commentaires.<\/p>\n<\/blockquote>\n

Alexis Toulet dans son dernier billet<\/a> se demandait si les ordinateurs pourraient atteindre un niveau d\u2019intelligence similaire \u00e0 celui de l\u2019\u00eatre humain ou si des robots pourraient devenir ind\u00e9pendants de leurs cr\u00e9ateurs, voire hostiles, en allant m\u00eame jusqu\u2019\u00e0 les remplacer. Questions dans l\u2019air du temps certes, mais […]<\/p>\n","protected":false},"author":41,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13,4140,5197],"tags":[1803,5563],"class_list":["post-99014","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-le-genre-humain","category-robotique","tag-conscience","tag-ia-forte"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/99014","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/41"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=99014"}],"version-history":[{"count":8,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/99014\/revisions"}],"predecessor-version":[{"id":99023,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/99014\/revisions\/99023"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=99014"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=99014"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=99014"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}