{"id":79712,"date":"2015-10-21T22:10:00","date_gmt":"2015-10-21T20:10:00","guid":{"rendered":"http:\/\/www.pauljorion.com\/blog\/?p=79712"},"modified":"2015-10-21T22:10:00","modified_gmt":"2015-10-21T20:10:00","slug":"ne-dites-pas-robots-tueurs-dites-sala-par-roberto-boulant","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2015\/10\/21\/ne-dites-pas-robots-tueurs-dites-sala-par-roberto-boulant\/","title":{"rendered":"Ne dites pas robots-tueurs, dites SALA, par Roberto Boulant"},"content":{"rendered":"

Billet invit\u00e9.<\/p><\/blockquote>\n

Il y a une certaine forme de na\u00efvet\u00e9, voire de pens\u00e9e magique, \u00e0 croire que les mots peuvent occulter la r\u00e9alit\u00e9. C\u2019est particuli\u00e8rement vrai dans le domaine militaire, l\u00e0 o\u00f9 la violence guerri\u00e8re doit se faire pr\u00e9sentable \u00e0 l\u2019heure du d\u00eener familial devant les informations t\u00e9l\u00e9vis\u00e9es. Sans aller jusqu\u2019\u00e0 l\u2019utilisation d\u2019oxymores tels que \u2018frappes chirurgicales\u2019 (la chirurgie tente de r\u00e9parer et de sauver son prochain, pas de l\u2019occire), il est toujours de bon ton de manier l\u2019euph\u00e9misme : de dire \u2018neutraliser\u2019 en lieu et place du trop grossier \u2018tuer\u2019 ou mieux encore, d\u2019\u00e9vacuer la mort des hommes au profit de simples destructions mat\u00e9rielles. Ainsi, il conviendra de dire qu\u2019un blind\u00e9 a \u00e9t\u00e9 d\u00e9truit -voire pour les plus sourcilleux, de dire que la cible a \u00e9t\u00e9 trait\u00e9e- mais surtout de s\u2019abstenir de parler du sort de son \u00e9quipage transform\u00e9 en pot-au-feu dans une carcasse carbonis\u00e9e\u2026<\/p>\n

<\/p>\n

Vous me direz, la belle affaire que voil\u00e0 ! De tout temps les horreurs de la guerre ont \u00e9t\u00e9 euph\u00e9mis\u00e9es et le combat pr\u00e9sent\u00e9 sous une forme plus ou moins romantique (hollywoodienne dirait-on de nos jours). Et de tout temps, les arm\u00e9es ont rendu \u00e0 la vie civile des hommes bris\u00e9s physiquement et moralement. D\u2019ailleurs, comment faire autrement pour recruter ? Le mat\u00e9riau de base, l\u2019humain, supporte tr\u00e8s m\u00e9diocrement le combat, et \u00e0 part un infime pourcentage d\u2019ali\u00e9n\u00e9s, une majorit\u00e9 de soldats atteignent assez rapidement le maximum de l\u2019horreur qu\u2019ils sont capables d\u2019encaisser.<\/p>\n

Et bien figurez-vous que les OS du champ de bataille, \u00e0 l\u2019\u00e9gal de leurs confr\u00e8res civils, ont vocation (horripilante expression) \u00e0 \u00eatre remplac\u00e9s par des machines. Pas par des robots-tueurs bien s\u00fbr, un nom qui \u00e9voque tout \u00e0 la fois le terminator et la machine hors de contr\u00f4le. Non, non, par des SALA ! Un joli n\u00e9ologisme qui \u00e9voque tout \u00e0 la fois la rigueur, la froide efficacit\u00e9 et la neutralit\u00e9 administrative. Imaginons-nous dans quelques ann\u00e9es, apprendre aux informations du 20h que des SALA ont lib\u00e9r\u00e9 une ville de l\u2019emprise de djihadistes. Pas de quoi troubler notre digestion, m\u00eame en sachant que SALA veut dire Syst\u00e8me d\u2019Armes L\u00e9taux Autonomes !<\/p>\n

Bref, le meilleur des mondes pour des soci\u00e9t\u00e9s occidentales vieillissantes, qui consid\u00e8rent la mort au combat de leurs soldats comme des accidents du travail susceptibles de recours devant la justice. Et un outil de r\u00eave pour des politiques qui n\u2019auraient rien \u00e0 craindre d\u2019une vid\u00e9o montrant un SALA brul\u00e9 dans une cage, ou aux circuits hydrauliques tranch\u00e9s par un homme de noir cagoul\u00e9 !<\/p>\n

Science-fiction ? Il y a encore quelques ann\u00e9es, oui. Mais plus de nos jours, o\u00f9 tous les pays poss\u00e9dant des complexes militaro-industriels travaillent d\u2019arrache-pied \u00e0 la r\u00e9alisation de ce sc\u00e9nario. R\u00e9alisation d\u2019autant plus ais\u00e9e, qu\u2019il ne s\u2019agit pas l\u00e0 de Big Science n\u00e9cessitant des centaines d\u2019hectares de b\u00e2timents industriels et de lourdes infrastructures. De simples immeubles de bureaux suffisent, et la robotique est par essence une activit\u00e9 duale o\u00f9 les applications peuvent facilement basculer du monde civil aux environnements militaires. Bref, contrairement \u00e0 l\u2019atome militaire, la prolif\u00e9ration de la robotique du m\u00eame bois risque d\u2019\u00eatre quasiment impossible \u00e0 enrayer. Circonstance aggravante, la modicit\u00e9 des moyens financiers n\u00e9cessaires et l\u2019accessibilit\u00e9 des technologies duales, en feront une famille d\u2019armes ais\u00e9ment accessible aux organisations infra-\u00e9tatiques, aux diff\u00e9rentes mafias, voir aux simples \u2018associations de malfaiteurs\u2019\u2026<\/p>\n

Mais o\u00f9 en est-on exactement aujourd\u2019hui ?<\/p>\n

Les SALA existent d\u00e9j\u00e0, mais leur autonomie contrainte par les environnements complexes, les r\u00e9serve \u00e0 des missions de patrouille\/interdiction dans des zones \u00e0 topologie simple et limit\u00e9e spatialement (typiquement la no man\u2019s zone<\/a> \u00e0 la fronti\u00e8re des deux Cor\u00e9e). Mais les recherches actuelles poussent \u00e0 rendre les machines totalement autonomes dans des environnements complexes (stri\u00e9s selon la terminologie militaire) et sous fortes contraintes temporelles.
\nPour donner un exemple pr\u00e9cis des objectifs recherch\u00e9s, il s\u2019agit \u00e0 moyen terme de disposer de syst\u00e8mes autonomes aptes \u00e0 se d\u00e9placer en environnements urbains (sous-sols et surfaces plus ou moins encombr\u00e9s, mais \u00e9galement int\u00e9rieurs d\u2019immeubles d\u00e9truits), en \u2018ouvrant\u2019 eux-m\u00eames des passages pour \u00e9viter les diff\u00e9rents pi\u00e8ges \u00e0 feu, tout en \u00e9tant capables de concentrer des feux discriminants et pr\u00e9cis \u00e0 l\u2019aide des techniques de swarming (regroupement ponctuel en essaim des diff\u00e9rents capteurs et effecteurs). Cependant, les difficult\u00e9s en cas de conflits asym\u00e9triques \u00e0 discriminer combattants et non combattants, boucliers humains et otages, posent de redoutables probl\u00e8mes juridiques. D\u2019autant plus que la furtivit\u00e9 des cibles rend illusoire de pouvoir ins\u00e9rer une chaine de commandement humaine dans la boucle identification-poursuite-destruction. D\u00e8s lors, qui serait responsable en cas de \u2018bavure\u2019 m\u00e9diatis\u00e9e ? Le sous-officier ayant la responsabilit\u00e9 de la machine dans son groupe de combat ? L\u2019officier subalterne commandant la section ? Le colonel commandant la man\u0153uvre \u00e0 l\u2019\u00e9chelon op\u00e9ratif ? Un g\u00e9n\u00e9ral \u00e0 l\u2019\u00e9chelon strat\u00e9gique ? Et en cas de dysfonctionnement, o\u00f9 aller chercher les responsabilit\u00e9s ? Chez le concepteur, le fabriquant, les sous-traitants ? Comment alors prouver que la maintenance a \u00e9t\u00e9 r\u00e9alis\u00e9e correctement ? Bref, un formidable imbroglio juridique o\u00f9 chaque acteur, \u00e0 l\u2019int\u00e9rieur de chaque structure, utiliserait toute son \u00e9nergie \u00e0 se d\u00e9douaner et \u00e0 accuser les autres. Sans m\u00eame parler de l\u2019ind\u00e9pendance d\u2019une enqu\u00eate o\u00f9 le secret industriel et le secret militaire seraient en jeu\u2026 et confi\u00e9e \u00e0 des enqu\u00eateurs eux-m\u00eames partie prenante du complexe militaro-industriel !<\/p>\n

Il semblerait d\u00e8s lors que l\u2019on s\u2019achemine pour pallier ces difficult\u00e9s, vers deux types de syst\u00e8mes autonomes. D\u2019une part, des \u2018robots-tueurs\u2019 proprement dits, des SALA, qui ne seraient employ\u00e9s qu\u2019en cas de danger existentiel pour la nation utilisatrice, suivant le principe \u00ab au diable le Droit si mon existence m\u00eame est en jeu, et de toute mani\u00e8re ce sont les vainqueurs qui fixent les r\u00e8gles ! \u00bb. Et d\u2019autre part, des robots dot\u00e9s de syst\u00e8mes d\u2019armes incapacitants, destin\u00e9s aux combats asym\u00e9triques au milieu des populations civiles.<\/p>\n

Une \u00e9ni\u00e8me r\u00e9volution dans l\u2019art de la guerre qui ne pourra \u00eatre v\u00e9ritablement pens\u00e9e et \u00e9rig\u00e9e en doctrine qu\u2019\u00e0 la lumi\u00e8re des retex. En effet, seul le retour d\u2019exp\u00e9rience sera \u00e0 m\u00eame d\u2019\u00e9tablir la typologie des r\u00e9actions tactiques des combattants adverses. Et il est permis de penser que, les cultures militaires et guerri\u00e8res \u00e9tant fort diff\u00e9rentes les unes des autres, le spectre des r\u00e9actions et des contre-mesures prises sera lui-m\u00eame tr\u00e8s \u00e9tendu. Pour illustrer le propos en prenant un exemple dans l\u2019actualit\u00e9, il est permis de se demander si des tactiques incluant des attaques suicide seront utilis\u00e9es contre des machines fabriqu\u00e9es \u00e0 la chaine. A\u00a0priori non, puisqu\u2019une usine est capable de fabriquer en quelques jours plus de machines qu\u2019il n\u2019y a de volontaires disponibles pour de telles actions. Les combattants-suicide devraient donc logiquement \u00eatre r\u00e9serv\u00e9s \u00e0 des cibles de plus haute valeur, que des \u2018boites de ferraille\u2019 robotis\u00e9es. A\u00a0priori\u2026, car il est \u00e9galement permis d\u2019imaginer des techniques de neutralisation, non pas des machines elles-m\u00eames, mais des opinions publiques. En envoyant combattre des femmes et des enfants par exemple. La force du faible se d\u00e9ployant plus facilement sur la sc\u00e8ne m\u00e9diatique, il n\u2019est pas tr\u00e8s difficile d\u2019imaginer les slogans et les mises en sc\u00e8ne montrant la l\u00e2chet\u00e9 d\u2019arm\u00e9es de haute technologie, envoyant combattre des robots exterminateurs de femmes et d\u2019enfants !<\/p>\n

Bref, apr\u00e8s un certain laps de temps, il y aura forc\u00e9ment une vari\u00e9t\u00e9 de r\u00e9ponses\u2026 difficile \u00e0 imaginer aujourd\u2019hui. Qui par exemple pour penser lors de l\u2019invasion \u00e9clair de l\u2019Irak en 2003, que la majorit\u00e9 des pertes militaires am\u00e9ricaines proviendrait d\u2019une remise \u00e0 jour d\u2019une technique apparue au moyen-\u00e2ge\u2026 la sape<\/a>, et rebaptis\u00e9e pour l\u2019occasion IED<\/a> ? Qui pour penser que le co\u00fbt des contre-mesures <\/a>d\u00e9passerait celui du programme Manhattan ?! Si la technologie est cens\u00e9e diminuer l\u2019opacit\u00e9 du brouillard de guerre, difficile de nier qu\u2019elle rajoute \u00e9galement plusieurs couches de complexit\u00e9 \u00e0 la man\u0153uvre, qu\u2019elle soit de niveau tactique, op\u00e9ratique, strat\u00e9gique\u2026 ou bien politique.<\/p>\n

D\u00e8s lors, qu\u2019est- ce qui l\u2019emportera aupr\u00e8s des opinions publiques ? La possibilit\u00e9 de mener des guerres z\u00e9ro-morts (\u2018occidentaux\u2019) par l\u2019interm\u00e9diaire des SALA, ou bien l\u2019aversion face \u00e0 cette ultime d\u00e9shumanisation du combat qui verrait des humains \u00eatre \u2018trait\u00e9s\u2019 comme de simples nuisibles par les machines ?<\/p>\n

Mais paradoxalement, le choc le plus d\u00e9stabilisant risque d\u2019\u00eatre pour nos propres arm\u00e9es. Soyons clair, la guerre \u00e0 l\u2019occidentale repose sur le concept tr\u00e8s chr\u00e9tien du \u00ab donner beaucoup et recevoir peu \u00bb, sur le concept du \u00ab voir en premier, tirer en premier, tuer en premier \u00bb. Concept d\u2019autant plus pr\u00e9gnant que l\u2019arme servie est de haute technologie. Il n\u2019est qu\u2019\u00e0 voir l\u2019asym\u00e9trie des risques, entre l\u2019\u00e9quipage d\u2019un chasseur bombardier tirant une arme \u00e0 plusieurs dizaines de kilom\u00e8tres de distance, et les irr\u00e9guliers au sol ne disposant m\u00eame pas d\u2019une couverture anti-a\u00e9rienne \u00e0 courte distance. Pire encore, lorsque ce sont des drones pilot\u00e9s d\u2019un autre pays, voire d\u2019un autre continent, qui assurent ces missions de frappes. Mais dans tous les cas, et m\u00eame si certains se rapprochent plus de l\u2019acte cyn\u00e9g\u00e9tique que de l\u2019action de combat, ce sont des hommes qui tuent d\u2019autres hommes. Le \u2018prix\u2019 \u00e0 payer pouvant \u00eatre consid\u00e9r\u00e9 comme \u00e9tant celui des syndromes de stress post-traumatiques<\/a> qui affectent de nombreux pilotes d\u2019UCAV<\/a>.<\/p>\n

Or, il est d\u00e9j\u00e0 techniquement possible de laisser aux logiciels embarqu\u00e9s la libert\u00e9 de d\u00e9cider d\u2019engager ou non une cible. M\u00eame si pour des raisons de s\u00e9curit\u00e9 (essentiellement juridiques d\u2019ailleurs), il est probable que les op\u00e9rateurs humains resteront SUR la boucle, ils ne seront plus \u00e0 terme, DANS la boucle. C\u2019est-\u00e0-dire qu\u2019ils se contenteront de superviser les diff\u00e9rents syst\u00e8mes et sous-syst\u00e8mes, avec tout ce que cela implique de retard dans les transmissions ou de lenteur d\u2019analyse et de r\u00e9action en cas d\u2019impr\u00e9vu\u2026 S\u2019il est probable que les premiers SALA op\u00e9reront dans des milieux \u2018simples\u2019 (domaine spatial, a\u00e9rien, marin et sous-marin), \u00e7a n\u2019est qu\u2019une question de temps avant qu\u2019ils soient \u00e0 m\u00eame d\u2019intervenir dans les tr\u00e8s complexes milieux terrestres \u2013la majorit\u00e9 des humains vivent maintenant dans les villes- en augmentant de par leur nature m\u00eame, la l\u00e9talit\u00e9 des combats (les robots ne tremblent pas, n\u2019h\u00e9sitent pas). D\u2019o\u00f9 le bouleversement d\u2019un paradigme militaire plurimill\u00e9naire, celui qui adosse \u00e0 la possibilit\u00e9 de pouvoir donner la mort, celui de la recevoir en retour. C\u2019est cette pierre angulaire morale, d\u00e9j\u00e0 bien mise \u00e0 mal dans le cas des drones, qui risque de disparaitre d\u00e9finitivement. Le soldat \u00e9tant de facto remplac\u00e9 par un technicien-tueur, abrit\u00e9 tout \u00e0 la fois par sa distance aux combats et par un corpus juridique le dispensant de toute \u00e9thique ou moralit\u00e9.<\/p>\n

On peut donc percevoir les tendances actuelles comme une diagonale des fous. D\u2019un c\u00f4t\u00e9, l\u2019instrumentalisation des corps au travers d\u2019un d\u00e9voiement politique de la religion, aboutissant au concept de combattant-suicide. De l\u2019autre, la double tentation de chosifier l\u2019ennemi au travers d\u2019une mort robotis\u00e9e et \u2018l\u00e9galis\u00e9e\u2019 par un corpus juridique ad hoc. Deux syst\u00e8mes de lois, l\u2019un utilisant des robots biologiques et l\u2019autre des machines, pour nier la valeur de toute vie humaine. Deux barbaries aveugles s\u2019appuyant l\u2019une l\u2019autre.<\/p>\n

Les SALA permettront certainement d\u2019\u00e9conomiser le sang de nos soldats (en tout cas dans un premier temps, avant que le camp \u2018d\u2019en face\u2019 n\u2019en aligne d\u2019autres \u00e0 son tour). Mais le prix \u00e0 payer pour un avantage tactique transitoire risque d\u2019\u00eatre terrible !<\/p>\n

Celui de notre d\u00e9shumanisation, de notre robotisation et de la perte de tout rep\u00e8re moral. Quelle civilisation serait capable de survivre \u00e0 cela ?<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

Billet invit\u00e9.<\/p>\n<\/blockquote>\n

Il y a une certaine forme de na\u00efvet\u00e9, voire de pens\u00e9e magique, \u00e0 croire que les mots peuvent occulter la r\u00e9alit\u00e9. C\u2019est particuli\u00e8rement vrai dans le domaine militaire, l\u00e0 o\u00f9 la violence guerri\u00e8re doit se faire pr\u00e9sentable \u00e0 l\u2019heure du d\u00eener familial devant les informations t\u00e9l\u00e9vis\u00e9es. Sans aller jusqu\u2019\u00e0 l\u2019utilisation d\u2019oxymores tels que […]<\/p>\n","protected":false},"author":41,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[3001,13],"tags":[695,2477],"class_list":["post-79712","post","type-post","status-publish","format-standard","hentry","category-guerre-2","category-intelligence-artificielle","tag-guerre","tag-robotisation"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/79712","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/41"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=79712"}],"version-history":[{"count":10,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/79712\/revisions"}],"predecessor-version":[{"id":79723,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/79712\/revisions\/79723"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=79712"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=79712"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=79712"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}