La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov

Publié dans The Observer, le 20 juillet 2014. Merci à Guy Weets pour la traduction. © The Guardian

Les pionniers de la technologie aux États-Unis préconisent une nouvelle approche de la gouvernance basée sur les données – « La réglementation algorithmique ». Mais si la technologie apporte des réponses aux problèmes de société, quel impact pour les gouvernements ?

Le 24 août 1965 Gloria Placente, une résidente de 34 ans du Queens, New York, roulait vers Orchard Beach dans le Bronx. Vêtue d’un short et de lunettes de soleil, cette maîtresse de maison était impatiente de passer quelques heures tranquilles à la plage. Mais au moment où elle a traversé le pont Willis Avenue dans sa Chevrolet Corvair, Placente a été entourée par une douzaine de patrouilleurs. Il y avait aussi 125 journalistes, avides d’assister au lancement de l’opération CORRAL de la police de New York – un acronyme signifiant Computer Oriented Retrieval of Auto Larcenists, soit recherche assistée par ordinateurs de voleurs de voitures.

Quinze mois plus tôt, Placente avait brûlé un feu rouge et négligé de répondre à la citation à comparaître, une infraction que CORRAL allait punir avec une forte dose techno-kafkaïenne. CORRAL travaille comme suit : une voiture de police stationnée à une extrémité du pont communique par radio les plaques des voitures venant en sens inverse à un opérateur à distance, qui les introduit dans un ordinateur Univac 490, un jouet cher $ 500,000 (3,5 millions $ en dollars d’aujourd’hui) prêté par la Sperry Rand Corporation. L’ordinateur compare les numéros avec ceux d’une base de données de 110 000 voitures qui ont été soit volées soit ayant appartenu à des délinquants connus. Dans le cas d’identification, l’opérateur alerte une seconde voiture de patrouille à l’autre sortie du pont. L’opération prend, en moyenne, seulement sept secondes.

Par rapport à la vitesse impressionnante des outils de la police d’aujourd’hui – la reconnaissance automatique de plaques d’immatriculation, les caméras de vidéosurveillance, les pisteurs GPS, l’opération CORRAL semble un rien démodée vu les possibilités de contrôle en développement. Les responsables européens ont même envisagé d’exiger que tous les véhicules entrant sur le marché européen disposent d’un mécanisme intégré qui permette à la police d’arrêter les véhicules à distance. S’exprimant sur ce sujet, Jim Farley, un haut dirigeant de Ford, a reconnu que « Nous savons tous qui enfreint la loi, nous savons quand vous le faites. Nous avons un GPS dans votre voiture, nous savons donc ce que vous faites. Au fait, nous ne fournissons pas les données à n’importe qui. » Ces affirmations ne sonnant pas très rassurantes, Farley est revenu sur ses propos.

Comme les voitures et les routes deviennent « intelligentes », elles comportent la promesse d’une application presque parfaite de la loi en temps réel. Au lieu d’attendre que les conducteurs enfreignent la loi, les autorités peuvent tout simplement empêcher le crime. Ainsi, un tronçon de 50 miles de l’A14 entre Felixstowe et Rugby (Royaume-Uni) doit être équipé de nombreux capteurs qui surveillent la circulation en envoyant des signaux vers et à partir des téléphones mobiles dans les véhicules en mouvement. Le régulateur des télécommunications Ofcom prévoit que les routes intelligentes connectées à un système de circulation centralisé pourraient imposer automatiquement des limites de vitesse variables pour lisser le flux du trafic, mais aussi pour diriger les voitures « le long des itinéraires déviés pour éviter les bouchons et même [gérer] leur vitesse ».

Autres gadgets – des smartphones à lunettes intelligentes – promettent encore plus de sûreté et de sécurité. En Avril, Apple a breveté une technologie qui active des capteurs à l’intérieur du smartphone pour analyser si la voiture est en mouvement et si la personne qui utilise le téléphone est au volant ; si les deux conditions sont remplies, il bloque tout simplement les fonctionnalités de SMS du téléphone. Intel et Ford travaillent sur le projet Mobil – un système de reconnaissance facial qui, s’il ne reconnaît pas le visage du conducteur, non seulement empêche la voiture de démarrer, mais aussi envoie la photo au propriétaire de la voiture (une mauvaise nouvelle pour les adolescents).

La voiture est emblématique des transformations dans de nombreux autres domaines. Des environnements intelligents appelés « Ambient Assisted Living » où les tapis et murs sont capables de détecter que quelqu’un est tombé, à différents schémas directeurs de « ville intelligente », où les services municipaux envoient des ressources uniquement aux zones qui en ont besoin. Grâce aux capteurs et à Internet, les objets du quotidien les plus banals ont acquis un pouvoir énorme de réglementation de notre comportement. Même les toilettes publiques sont mûres pour l’optimisation à base de capteurs : « Safeguard Germ Alarm » est un distributeur de savon intelligent développé par Procter & Gamble et utilisé dans certaines toilettes publiques aux Philippines, il possède des capteurs de surveillance des portes de chaque toilette. Une fois que vous quittez la toilette, l’alarme se met à sonner – et ne peut être arrêtée que par une simple pression sur le bouton distributeur de savon.

Dans ce contexte, le dernier plan de Google pour pousser son système d’exploitation Android sur les montres intelligentes, les voitures intelligentes, et les thermostats intelligents, on l’aura compris tout ce qui peut recevoir le qualificatif « intelligent », semble plutôt inquiétant. Ainsi dans un avenir proche, Google sera l’intermédiaire entre vous et votre réfrigérateur, vous et votre voiture, vous et votre poubelle, permettra aux Agences nationales de sécurité de s’acquitter de leur addiction aux données en vrac et via un point d’accès unique.

Cette « smartification » de la vie quotidienne suit un schéma familier : on y trouvera des données primaires – une liste de ce qui est dans votre réfrigérateur intelligent et votre poubelle – et leurs métadonnées (données sur les données) – un journal vous dira combien de fois vous avez ouvert l’un ou l’autre de ces objets – quand ils communiquent entre eux. Cela peut parfois produire des idées intéressantes: comme par exemple les matelas intelligents – un modèle récent permet de suivre la respiration et le rythme cardiaque et enregistrer tous vous mouvements pendant la nuit – les ustensiles intelligents qui fournissent des conseils nutritionnels.

En plus de rendre nos vies plus efficaces, ce monde intelligent nous met devant un choix politique intéressant. Si tant d’éléments de notre comportement quotidien sont déjà capturés, analysés, pourquoi s’en tenir à des approches non-empiriques de la réglementation ? Pourquoi s’appuyer sur les lois quand on a des capteurs et des mécanismes de rétroaction ? Si les interventions politiques doivent être – pour utiliser les mots à la mode du jour – « factuelles » et « axées sur les résultats », la technologie n’est-elle pas là pour nous aider?

Ce nouveau type de gouvernance a un nom : la réglementation algorithmique. Dans la mesure où la Silicon Valley a un programme politique, c’est bien celui-ci. Tim O’Reilly, un éditeur influent, un capital-risqueur et un homme d’idées (c’est lui qui a popularisé le terme « web 2.0 ») en est le promoteur le plus enthousiaste. Dans un essai récent ou il explique son raisonnement, O’Reilly analyse les vertus supposées de la « réglementation algorithmique » – il fait un examen approfondi à la fois de ce qu’elle peut offrir aux décideurs et présente ses hypothèses simplistes de la politique, de la démocratie et de l’autorité.

Pour imaginer comment la réglementation algorithmique pourrait fonctionner, ne cherchez pas plus loin que le filtre anti-spam de votre boîte email. Au lieu de se limiter à une définition étroite du spam, le filtre de messagerie apprend de ses utilisateurs. Même Google est incapable d’écrire des règles pour couvrir toutes les innovations ingénieuses de spammeurs. Ce qu’il peut faire, cependant, c’est enseigner au système ce qui fait une bonne règle et comment repérer quand il est temps d’en trouver une autre – et ainsi de suite. Un algorithme peut le faire, mais c’est la rétroaction (le retour d’expérience) en temps réel des utilisateurs qui permet au système de contrer des menaces qui n’ont pas été envisagées par les concepteurs. Et il ne s’agit pas que du spam : votre banque utilise des méthodes similaires pour repérer la fraude de carte de crédit.

Dans son essai, O’Reilly tire de larges enseignements philosophiques de ces technologies, en faisant valoir que cela fonctionne parce qu’elles reposent sur « une connaissance approfondie du résultat souhaité » (spam est mauvais !) Et de vérifier périodiquement si les algorithmes travaillent effectivement comme prévu (de trop nombreux courriels légitimes ne se retrouvent-ils pas marqués comme spam ?).

O’Reilly présente ces technologies comme innovantes et uniques – après tout nous vivons une révolution numérique – mais le principe qui sous-tend la « réglementation algorithmique » semblerait familier aux fondateurs de la cybernétique – une discipline dont le nom (qui étymologiquement signifie « la science de la gouvernance ») signale les hautes ambitions réglementaires. Le principe, qui permet au système de maintenir sa stabilité en apprenant constamment et en s’adaptant à l’évolution des situations, c’est ce que le psychiatre britannique Ross Ashby, l’un des pères fondateurs de la cybernétique, appela « ultra-stabilité ».

Pour l’illustrer, Ashby a conçu l’homéostat, un dispositif intelligent composé de quatre unités interconnectées de contrôle de bombes de la RAF – de mystérieuses boîtes noires avec beaucoup de boutons et de commutateurs sensibles aux fluctuations de tension. Si une unité cesse de fonctionner correctement – par exemple, en raison d’une perturbation externe inattendue – les trois autres sauraient se recâbler et se regrouper pour compenser le mauvais fonctionnement de façon à maintenir stable la production globale du système.

L’homéostat d’Ashby atteint « l’ultra-stabilité » en surveillant toujours son état interne et en redéployant intelligemment ses ressources en réserve.

Comme dans le cas du filtre de spam, il n’est pas nécessaire de spécifier toutes les perturbations possibles – pas plus que les conditions de comment et quand il doit être mis à jour et remodelé. Ce n’est pas une simple évolution de la façon dont les systèmes techniques habituels fonctionnent, avec leurs règles rigides, (les règles IF… THEN…).Il n’est soudain plus nécessaire d’élaborer des procédures pour gérer toutes les éventualités. On espère donc que les algorithmes munis d’une rétroaction en temps réel peuvent faire un meilleur travail que des règles inflexibles en inévitable décalage avec la réalité.

La réglementation algorithmique pourrait certainement rendre l’application des lois existantes plus efficaces. Si l’on peut lutter contre la fraude de carte de crédit, pourquoi pas la fraude fiscale ? Les fonctionnaires de l’administration italienne ont expérimenté le Redditometro, ou mesure du revenu, un outil qui permet de comparer les habitudes de dépenss des gens – enregistrées grâce à une vieille loi italienne – avec leurs revenus déclarés, ainsi les autorités savent quand vous dépensez plus que vous gagnez. L’Espagne a exprimé son intérêt pour un outil similaire.

Ces systèmes sont cependant impuissants face aux vrais coupables de fraude fiscale – les familles super-riches qui profitent de différents régimes, de la délocalisation ou tout simplement font inscrire des exonérations fiscales scandaleuses dans la loi. La réglementation algorithmique est parfaite pour faire respecter l’austérité à l’ordre du jour tout en laissant les responsables de la crise financière non inquiétés. Pour comprendre si ces systèmes fonctionnent comme prévu, nous devons modifier la question de O’Reilly : pour qui travaillent-ils ? Si c’est juste pour que les ploutocrates puissent éluder l’impôt, pour les institutions financières internationales intéressées dans les budgets nationaux équilibrés et pour les entreprises qui développent des logiciels de suivi de revenu, alors ce ne sera pas vraiment un succès démocratique.

Porté par sa conviction que la réglementation algorithmique est basée sur « une connaissance approfondie des résultats escomptés », O’Reilly déconnecte habilement les moyens de faire de la politique des objectifs politiques. Mais la mise en œuvre d’une politique est aussi importante que la politique elle-même – en fait, l’une façonne souvent l’autre. Tout le monde est d’accord que l’éducation, la santé et la sécurité sont tous des « résultats souhaités », mais comment les atteindre ? Dans le passé, lorsque nous avons été confrontés au choix politique difficile de les délivrer soit par le marché soit par l’État, les lignes du débat idéologique étaient claires. Aujourd’hui, lorsque le choix qui se pose est entre le numérique et l’analogique ou entre une approche dynamique (avec prise en compte régulière des retours d’information) ou statique de la loi, la clarté idéologique a disparu. Comme si le choix même de la façon de réaliser ces « résultats souhaités » était apolitique et qu’on n’était pas forcé de choisir entre des visions différentes et souvent incompatibles de la vie en commun.

En supposant que le monde utopique des boucles de rétroaction infinies devienne si efficace qu’il transcende la politique, les partisans de la réglementation algorithmique tombent dans le même piège que les technocrates du passé. Oui, ces systèmes sont terriblement efficaces – de la même manière que Singapour est terriblement efficace (O’Reilly, sans surprise, fait l’éloge de Singapour pour son adoption de la réglementation algorithmique). Et tandis que les dirigeants de Singapour pourraient croire que, eux aussi, ils ont transcendé la politique, cela ne signifie pas que leur régime ne peut pas être évalué à l’extérieur du discours de l’efficacité et de l’innovation en utilisant des critères politiques plutôt qu’économiques.

Comme la Silicon Valley ne cesse de corrompre notre langue avec sa glorification sans fin de percées technologiques et d’efficacité – concepts en contradiction avec le vocabulaire de la démocratie – notre capacité à remettre en question le « comment » de la politique se retrouve affaiblie. La réponse par défaut de la Silicon Valley à ce qu’est la politique est ce que j’appelle le « solutionnisme »: les problèmes doivent être traités via des applications, des capteurs, et des boucles de rétroaction – tous fournis par les startups. Plus tôt cette année, Eric Schmidt de Google a même promis que les startups seraient la solution au problème de l’inégalité économique : celle-ci, semble-t-il, peut également être « perturbée » donc susceptible d’innovation. Les innovateurs montrent le chemin, les fonctionnaires suivent.

Les services de renseignement ont adopté le « solutionnisme » avant d’autres organismes gouvernementaux. Ainsi, ils ont réduit le thème du terrorisme d’un sujet qui a un lien avec l’histoire et la politique étrangère à un problème d’information de l’identification des menaces terroristes émergentes via une surveillance constante. Ils ont exhorté les citoyens à accepter que l’instabilité soit la règle du jeu, que ses causes profondes ne sont ni traçables ni réparables, que la menace ne peut être prévenue que par une sur-innovation et une hyper-surveillance des ennemis en améliorant la communication.

S’exprimant à Athènes en novembre dernier, le philosophe italien Giorgio Agamben a évoqué le changement de paradigme dans la notion de gouvernement « qui veut que la relation hiérarchique traditionnelle entre causes et effets soit inversée, de sorte que, au lieu de gouverner les causes – une entreprise difficile et coûteuse – les gouvernements tentent simplement de contrôler les effets ».

Pour Agamben, ce changement est emblématique de la modernité. Cela explique aussi pourquoi la libéralisation de l’économie peut coexister avec la prolifération croissante du contrôle dans la vie quotidienne – par le biais de distributeurs de savon et de voitures gérées à distance. « Si le gouvernement vise les effets et non les causes, il sera tenu d’étendre et multiplier les contrôles. Identifier les causes demande de l’analyse de la connaissance, tandis que les effets peuvent être vérifiés et contrôlés. » La réglementation algorithmique est la mise un œuvre d’un programme politique par le biais technologique.

Les vraies politiques de régulation algorithmique deviennent visibles une fois que sa logique est appliquée aux protections sociales de l’État-providence. Ce n’est pas un appel pour les démanteler, mais les citoyens sont néanmoins encouragés à prendre en charge leur propre santé. Voyez comment Fred Wilson, un influent capital-risqueur américain, encadre le sujet. « La santé est … l’opposé des soins de santé, » a-t-il dit lors d’une conférence à Paris en décembre dernier. « C’est ce qui vous garde du système de soins de santé en premier lieu. » Ainsi, nous sommes invités à commencer à utiliser les applications d’auto-suivi et de partage des données, de surveiller nos indicateurs vitaux, nos symptômes et les lacunes de notre propre santé.

Cela est bien en accord avec les propositions récentes pour sauver les services publics en difficulté en favorisant des modes de vie plus sains. Ainsi le rapport 2013 de l’Unité d’information du gouvernement local du Conseil de Westminster et, un groupe de réflexion, appellent à la subordination des prestations de logement et autres prestations sociales à des visites des demandeurs à la salle de gym – avec l’aide de cartes à puce. Ces cartes à puce pourraient ne pas être nécessaires : de nombreux smartphones peuvent déjà compter les pas que nous faisons chaque jour (Google Now, assistant virtuel de l’entreprise, fait le relevé de ces données automatiquement et il présente périodiquement les résultats aux utilisateurs, les poussant à marcher plus).

Les nombreuses possibilités que les dispositifs de suivi offrent aux industries de la santé et d’assurance ne sont pas perdues pour O’Reilly. « Vous saviez que la publicité s’est avérée être le modèle d’affaires de base pour l’Internet ? » lors d’une conférence récente, il se demandait : « Je pense que l’assurance va être le modèle d’affaires d’origine pour l’Internet des choses ». Les choses semblent se diriger dans cette voie : en juin, Microsoft a conclu un accord avec American Family Insurance, le huitième plus grand assureur du logement aux États-Unis, dans lequel les deux sociétés vont financer les startups qui veulent mettre des capteurs dans les maisons intelligentes et les voitures intelligentes aux fins de « protection proactive ».

Une compagnie d’assurance serait heureuse de subventionner les coûts d’installation de capteurs dans votre maison – aussi longtemps qu’elle pourra automatiquement alerter les pompiers ou faire que les lumières du porche sur la rue clignotent au cas où votre détecteur de fumée se déclenche. Pour l’instant, accepter de tels systèmes de suivi est présenté comme un avantage supplémentaire qui peut nous épargner de l’argent. Mais quand en arriverons-nous au point où ne pas les utiliser sera considéré comme une négligence – ou, pire, un acte de dissimulation – qui doit être pénalisé par des primes plus élevées ?

Dans son rapport de mai 2014 de 2020Heath, un autre groupe de réflexion propose des allégements fiscaux aux Britanniques qui arrêtent de fumer, restent mince ou boivent moins : « Nous proposons le « paiement par résultats », une récompense financière pour les personnes qui deviennent des partenaires actifs dans la santé, dans lequel si vous promettez, par exemple, de maintenir bas votre taux de sucre dans le sang, arrêtez de fumer, perdez du poids, [ou] prenez davantage soin de vous-même, il y aura réduction d’impôt ou prime de fin d’année ». Les gadgets intelligents sont les alliés naturels de ces politiques : ils documentent les résultats et peuvent même aider à les atteindre – en ne cessant de nous harceler à faire ce qui est attendu de nous

L’hypothèse sous-jacente de la plupart de ces rapports est que la mauvaise santé n’est pas seulement un fardeau pour la société mais mérite d’être punie (fiscalement pour l’instant) pour irresponsabilité. Qu’est-ce qui pourrait expliquer leurs problèmes de santé, sinon leurs déficiences personnelles ? Ce n’est en tout cas pas l’emprise des entreprises alimentaires ni les différences fondées sur la classe sociale ou les diverses injustices politiques et économiques. On pourra bien porter une douzaine de capteurs puissants, posséder un matelas intelligent, ce genre d’injustices restera inaperçu, car elles ne sont pas le genre de choses qui peuvent être mesurées par un capteur. Suivre à la trace les injustices sociales est beaucoup plus difficile que la vie quotidienne des personnes dont les vies qui en pâtissent.

En déplaçant l’attention des insuffisances institutionnelles et des malversations économiques pour s’attacher au contrôle des personnes, la réglementation algorithmique nous offre une bonne vieille utopie technocratique de la politique sans politique. Le désaccord et le conflit, selon ce modèle, sont considérés comme des sous-produits malheureux de l’ère analogique – à résoudre par la collecte des données – et non comme les conséquences inévitables de conflits économiques ou idéologiques.

Cependant, une politique sans politique ne signifie pas une politique sans contrôle ni administration. Comme O’Reilly l’écrit dans son essai : « Les nouvelles technologies permettent de réduire le coût de la réglementation tout en augmentant la quantité de surveillance et de production de résultats souhaitables. » Ainsi, c’est une erreur de penser que la Silicon Valley veut nous débarrasser des institutions gouvernementales. Son rêve n’est pas un petit gouvernement de libertaires – un petit État, après tout, n’a besoin ni de gadgets sophistiqués ni de serveurs massifs pour traiter les données – mais bien les économistes comportementaux obsédés par le besoin de données.

Ceux qui sont amoureux de la technologie , le sont pour son principe fondateur essentiel qui est que tandis que nous nous comportons de façon irrationnelle, notre irrationalité peut être corrigée – si l’environnement agit sur nous en nous poussant vers la bonne option. Sans surprise, l’une des trois références à la fin de l’essai de O’Reilly pointe sur un discours prononcé en 2012 « Regulation: Looking Backward, Looking Forward » by Cass Sunstein, un juriste américain de premier plan qui est le principal théoricien de ce type de gouvernance. Et tandis que ses partisans ont déjà séduit l’État en faisant de la psychologie comportementale le discours favori de la bureaucratie gouvernementale – Daniel Kahneman est à la mode, Machiavel est ringard – le lobby de la régulation algorithmique avance de façon plus clandestine. Ils créent des organisations à but non lucratif inoffensives comme « Code for America » qui a ensuite enrôlé l’État – sous le couvert d’encourager des hackers de talent à résoudre les problèmes civiques.

Ces initiatives visent à reprogrammer l’État, le rendre ouvert au retour d’expérience et éliminer tout autre moyen de faire de la politique. Pour toutes ces apps qui enregistrent notre comportement, ces algorithmes et ces capteurs pour travailler nécessitent des bases de données interopérables – qui est ce que ces organisations pseudo-humanitaires demandent. Et quand le gouvernement est trop lent pour évoluer à la vitesse de la Silicon Valley, ils vont simplement s’installer à l’intérieur du gouvernement. Ainsi, Jennifer Pahlka, fondatrice du « Code for America » et protégée de O’Reilly, est devenue vice-directrice de la technologie du gouvernement des États-Unis – tout en bénéficiant d’une « bourse de l’innovation » d’un an de la Maison Blanche.

Les gouvernements à court d’argent accueillent favorablement cette colonisation par des technologues – surtout si elle permet d’identifier et nettoyer les ensembles de données qui peuvent être vendus avec profit à des entreprises qui ont besoin de ces données à des fins publicitaires. Les récents affrontements sur la vente de données sur les élèves et de la santé au Royaume-Uni sont juste un précurseur de batailles à venir : après tout les biens de l’État ont été privatisés, les données sont la prochaine cible. Pour O’Reilly, les données ouvertes sont « un élément clé de la révolution de la mesure ».

Cette « révolution de la mesure » vise à quantifier l’efficacité de divers programmes sociaux, comme si la raison d’être des filets de protection sociale que certains États fournissent était d’atteindre la perfection. La raison réelle, bien sûr, était de permettre une vie épanouie en supprimant certaines angoisses, de sorte que les citoyens puissent poursuivre leur projet de vie relativement tranquillement. Cette vision porte sur un vaste appareil bureaucratique et les critiques de gauche de l’état providence – particulièrement celles de Michel Foucault – avaient raison de contester ses tendances « disciplinaires ». Quoi qu’il en soit, ni la perfection ni l’efficacité n’étaient le « résultat souhaité » de ce système. Ainsi, comparer l’état providence à l’état algorithmique pour de tels motifs est trompeuse.

Mais nous pouvons comparer leur vision respective de l’épanouissement humain – et le rôle qu’ils accordent aux marchés et à l’État. L’offre de la Silicon Valley est claire : grâce aux retour d’expérience permanent, nous pouvons tous devenir des entrepreneurs et prendre soin de nos propres affaires ! Comme Brian Chesky, le chef de la direction de Airbnb, a dit au magazine The Atlantic l’an dernier, « Qu’est-ce qui se passe quand tout le monde est une marque ? Quand tout le monde a une réputation ? Chacun peut devenir un entrepreneur. »

En vertu de cette vision, nous allons tous coder (Pour l’Amérique !) le matin, conduire les voitures Uber dans l’après-midi, et louer nos cuisines comme restaurants – avec l’aimable autorisation de Airbnb – dans la soirée. Comme O’Reilly écrit de Uber et d’entreprises similaires, « ces services demandent à chaque passager d’évaluer leur pilote (et les conducteurs d’évaluer leur passager). Les pilotes qui fournissent un service médiocre sont éliminés. La réputation fait un meilleur travail pour offrir une expérience client superbe que tout effort de réglementation gouvernementale ».

L’État en arrière-plan de l’« économie de partage » ne se réduit pas significativement ; il pourrait même être nécessaire pour s’assurer que la réputation accumulée sur Uber, Airbnb et d’autres plates-formes de l’« économie de partage » soit totalement liquide et transférable, créant ainsi un monde où chacune de nos interactions sociales est enregistrée et évaluée, effaçant tout ce qui existe comme différences entre les secteurs de la société. Quelqu’un, quelque part, finira par vous évaluer en tant que passager, hôte de maison d’hôtes, étudiant, patient, client. Si cette infrastructure de classement sera centralisée ou distribuée, fournie par un géant comme Google ou appartenir à l’État, n’est pas encore clair, mais l’objectif principal est de faire de la réputation dans un réseau social, un moyen qui pourrait protéger les citoyens vraiment responsables des vicissitudes de la déréglementation.

Admirant les modèles de réputation de Uber et Airbnb, O’Reilly souhaite que les gouvernements « adoptent ceux qui ne montrent pas d’effets indésirables tangibles ». Mais ce qui compte comme « effet pernicieux » et comment le démontrer est une question clé. Il est facile de démontrer les « effets néfastes » si l’objectif de la réglementation est l’efficacité, mais si c’était autre chose ? Certes, il y a certains avantages – moins de visites chez le psychanalyste, peut-être – de ne pas voir toutes vos interactions sociales mesurées ?

L’impératif d’évaluer et de démontrer des « résultats » et des « effets » présuppose déjà que le but de la politique est l’optimisation de l’efficacité. Toutefois, tant que la démocratie est irréductible à une formule, ses valeurs seront toujours perdantes dans cette bataille car elles sont beaucoup plus difficiles à quantifier.

Pour la Silicon Valley, cependant, l’État algorithmique obsédé par la réputation de l’économie de partage est le nouvel état providence. Si vous êtes honnête et travailleur, votre réputation en ligne le reflétera, produisant pour vous un filet social très personnalisé et « ultra-stable » au sens de Ashby. Alors que l’état de bien-être suppose l’existence de maux sociaux spécifiques qu’il tente de combattre, l’état algorithmique ne fait pas de telles hypothèses. Les futures menaces peuvent rester totalement inconnaissables tout en étant entièrement adressables – sur le plan individuel. Silicon Valley, bien sûr, n’est pas le seul à vanter ces solutions individuelles ultra-stables. Nassim Taleb, dans son best-seller en 2012 Antifragile, fait un plaidoyer semblable, plus philosophique, un plaidoyer pour maximiser notre ingéniosité individuelle et notre résilience : ne pas obtenir un emploi mais plusieurs, ne pas contracter de dette, compter sur notre propre expertise. Tout est question de prise de risque et de résilience et comme dit Taleb, « être sur la brèche ». Comme Julian Reid et Brad Evans écrivent dans leur nouveau livre, Resilient Life: The Art of Living Dangerously, Vie résiliente : L’art de vivre dangereusement, ce culte croissant de la résilience masque une reconnaissance tacite qu’aucun projet collectif ne pourrait même aspirer à apprivoiser les menaces multiples à l’existence humaine – nous ne pouvons qu’espérer nous armer à les aborder individuellement. « Quand les décideurs s’engagent dans le discours de la résilience », écrivent Reid et Evans, « ils le font en des termes qui visent explicitement à empêcher les humains de concevoir le danger comme un phénomène à partir duquel ils pourraient rechercher une libération et même, au contraire, comme ce à quoi ils doivent maintenant s’exposer. »

Quelle est donc l’alternative progressiste? « L’ennemi de mon ennemi est mon ami » ne fonctionne pas ici simplement parce que si Silicon Valley attaque l’État-providence cela ne signifie pas que les progressistes doivent le défendre jusqu’à la dernière balle (ou le dernier tweet). Tout d’abord, même les gouvernements de gauche ont un espace limité pour les manœuvres fiscales, parce que le type de dépenses discrétionnaires nécessaires à la modernisation de l’État-providence ne sera jamais approuvé par les marchés financiers mondiaux. Et ce sont les agences de notation et les marchés obligataires – et non pas les électeurs – qui sont en charge aujourd’hui.

Deuxièmement, la critique de gauche de l’État-providence est devenue d’autant plus pertinente aujourd’hui alors que les frontières exactes entre bien-être et sécurité sont devenues si floues.

Lorsque les Android de Google animeront massivement notre vie quotidienne, la tentation du gouvernement de nous gouverner par voitures télécommandées et distributeurs de savon alarme sera devenue considérable. Cela permettra d’élargir l’emprise des gouvernements sur les domaines de la vie auparavant exempts de réglementation.

Avec autant de données, l’argument favori du gouvernement dans la lutte contre le terrorisme – si seulement les citoyens en savaient autant que nous, eux aussi imposeraient toutes ces entorses à la loi – s’étend facilement à d’autres domaines, allant de la santé au changement climatique. Ainsi une publication académique récente qui a utilisé les données de recherche Google pour étudier des modèles d’obésité aux États-Unis, a trouvé une corrélation significative entre les mots clé de recherche et les niveaux de l’indice de masse corporelle. « Les résultats sont très prometteurs dans le sens d’une surveillance de l’obésité en temps réel par des données fournies par Google Trends », notent les auteurs, qui seraient « particulièrement intéressantes pour les établissements de santé publics et les entreprises privées telles que les compagnies d’assurance. »

Si Google détecte une épidémie de grippe, quelque part, il est difficile de contester son information – nous n’avons tout simplement pas l’infrastructure nécessaire pour traiter autant de données à cette échelle. Mais Google peut se tromper – comme cela a été le cas récemment avec ses données sur les tendances de la grippe, il a en effet surestimé le nombre d’infections, probablement en raison de son incapacité à tenir compte de la forte médiatisation de la grippe – ce qui est aussi le cas avec la plupart des alertes terroristes. C’est l’immédiat, la nature en temps réel des systèmes informatiques qui en fait les parfaits alliés d’un état obsédé par la prévention.

Peut-être, le cas de Gloria Placente et son voyage raté à la plage n’était pas seulement une curiosité historique, mais un présage de la façon dont l’informatique en temps réel, combinée à des technologies de communication omniprésentes, pourrait transformer l’État. Une des rares personnes à avoir pris en compte ce présage était un dirigeant d’agence de publicité américain peu connu appelé Robert MacBride. Celui-ci a poussé la logique derrière l’opération CORRAL à ses conséquences ultimes dans son livre de 1967 injustement négligé, »L’État automatisé ». The Automated State. À l’époque, l’Amérique était en train de débattre du bien-fondé de la création d’un centre national de données pour agréger différentes statistiques nationales et les rendre disponibles à des organismes gouvernementaux. MacBride a critiqué l’incapacité de ses contemporains à voir comment l’État pourrait exploiter les métadonnées quand tout serait en passe d’être informatisé. Au lieu d’un « Empire austro-hongrois à grande échelle », les systèmes informatiques modernes produiraient « une bureaucratie d’une efficacité pratiquement céleste » qui peut « identifier et définir les relations d’une manière que nulle bureaucratie humaine ne pourrait jamais espérer mettre en place ».

« Que l’on joue au bowling un dimanche ou qu’on visite une bibliothèque est sans conséquence puisque personne ne va le vérifier », écrivait-il. Mais ce n’est pas le cas lorsque les systèmes informatiques peuvent agréger des données provenant de différents domaines et les corréler sur place. « Notre comportement individuel dans l’achat et la vente d’une automobile, une maison, ou d’un titre, à payer nos dettes et en acquérir de nouvelles, et gagner de l’argent et être payé, sera noté méticuleusement étudié de manière exhaustive », a prévenu MacBride. Ainsi, un citoyen va bientôt découvrir que « le choix de ses abonnements à des magazines … peut-être trouvé et indiquer avec précision la probabilité d’entretenir sa propriété ou son intérêt pour l’éducation de ses enfants. » Cela sonne étrangement similaire à la récente affaire d’un père malheureux qui a constaté que sa fille était enceinte par le biais d’un coupon ciblé, qu’un détaillant avait envoyé à leur maison. Le choix de la cible a été basé sur l’analyse des produits – par exemple, »lotion non parfumée – le plus souvent acheté par d’autres femmes enceintes ».

Pour MacBride la conclusion était évidente. « Les droits politiques ne seront pas violés mais ils ressembleront à ceux d’un petit actionnaire dans une entreprise géante », écrit-il. « La marque de sophistication et de savoir-faire dans cet avenir sera la grâce et la souplesse avec laquelle on accepte son rôle et fait le maximum de ce qu’il offre. » En d’autres termes, puisque nous sommes en premier lieu tous des entrepreneurs, et seulement en second lieu des citoyens, autant se faire une raison et en tirer le meilleur.

Alors, que faut-il faire ? La techno-phobie n’est pas la solution. Les progressistes ont besoin de technologies qui collent à l’esprit – si ce n’est pas à la forme institutionnelle – de l’état providence, la préservation de l’engagement à créer des conditions idéales pour l’épanouissement de l’homme. Même une certaine « ultra stabilité » pourrait être la bienvenue. La stabilité était un objectif louable de l’état providence avant d’avoir rencontré un piège : en spécifiant les mesures de protection précises que l’État se devait d’offrir contre les excès du capitalisme, l’empêchait de réagir facilement et rapidement à de nouvelles formes non précisées de l’exploitation.

Comment construire un soutien social qui soit à la fois décentralisée et ultra-stable? Une forme de revenu de base garanti – où certains services sociaux sont remplacés par des transferts directs en espèces aux citoyens – s’adapte aux deux critères.

Créer les conditions pour l’émergence de communautés politiques autour des enjeux et des questions qu’elles jugent pertinentes serait une autre étape souhaitable. Le plein respect du principe de l’ultra-stabilité dicte que ces questions ne puissent ni être anticipées ni dictées d’en-haut – par les partis politiques ou les syndicats – et doivent être laissées non précisées.

Quel est le type d’infrastructure de communication qu’il faille mettre en œuvre ? Elle devrait être gratuite, difficile à espionner, et ouverte à de nouveaux usages, des usages subversifs. L’infrastructure existante de la Silicon Valley est idéale pour répondre aux besoins de l’État, pas pour ceux des citoyens souhaitant s’auto-organiser. Elle peut, bien sûr, être redéployée pour des causes militantes – et elle l’est souvent – mais il n’y a aucune raison d’accepter le statu quo comme idéal ou inévitable.

Pourquoi, après tout, confisquer ce qui devrait appartenir au peuple de toute manière ? Alors que la plupart des créateurs de l’Internet déplorent la façon dont leur créature est tombée aussi bas, leur colère est mal orientée. La faute n’est pas à cette entité amorphe mais, tout d’abord, à l’absence d’une politique de gauche en matière de technologie – une politique qui puisse contrer l’agenda pro-innovation, pro-privatisation de la Silicon Valley. En son absence, toutes les contre-communautés de gauche sont manchotes. Le prochain « Occupy Wall Street » serait-il en mesure d’occuper une ville vraiment « intelligente » ? Cela reste à voir : ce qui est le plus probable, c’est qu’il serait sur-réprimé et sur-droné.

Il faut dire au crédit de MacBride, qu’il avait tout compris en 1967 : « Compte tenu des ressources technologiques et techniques de planification modernes », a-t-il averti, « ce n’est vraiment pas très compliqué de transformer même un pays comme le nôtre en une entreprise où le bon fonctionnement de tous les détails de la vie est une fonction mécanique prise en charge ». La crainte de MacBride est devenue le plan directeur de O’Reilly : le gouvernement, écrit-il, devrait être calqué sur l’approche « lean startup » (startup svelte) de la Silicon Valley, qui « en utilisant les données produites révise constamment et affine son approche du marché ». C’est cette approche que Facebook a récemment déployée afin de maximiser la participation des utilisateurs sur le site : si le truc c’est de montrer aux utilisateurs des histoires qui se terminent mieux, ainsi soit-il.

La réglementation algorithmique, quelles que soient ses avantages immédiats, produira un régime politique où les entreprises de technologie et les bureaucrates du gouvernement décident de tout. L’auteur polonais de science-fiction Stanislaw Lem, dans une critique bien vue de la cybernétique, publiée à peu près au même moment que l’État automatisé, écrivait : « La société ne peut pas se débarrasser du fardeau d’avoir à décider de son propre sort en sacrifiant cette liberté au bénéfice du régulateur cybernétique ».

Partager

56 réflexions au sujet de « La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov »

  1. « Les structures s’organisent de manière a maximiser la dissipation d’énergie. »
    Thermodynamique de l’évolution
    François Rodier

      1. Faute de frappe: Merci pour la correction mais j’aurai aussi aime un commentaire sur le livre si vous l’avez lu.

    1. Bouquin difficile à avoir loin de Marseille (Paroles Ed.), même dans des libraires de 1ere classe (Compagnie au Quartier Latin). Une idée pour une commande collective si ça peut faciliter les choses ? Les libraires de quartier renaclent un peu à tenter le coup sur ces éditeurs un peu confidentiels…

    2. Mais la nature choisit d’évoluer via les systèmes dynamiques les plus simples (Thom). La synthèse entre l’approche mécaniste de Roddier et l’approche vitaliste de Thom (qui a proposé de nombreux modèles en Biologie, certains relativement précis) reste à faire.
      En tous cas je constate que Roddier n’hésite pas à user de l’analogie entre physique, biologie, sociologie, etc., ce que Thom a fait dès le milieu des années 1960:
      « Les situtions dynamiques qui régissent l’évolution des systèmes naturels sont fondamentalement les mêmes que celles qui régissent l’évolution de l’homme et des sociétés. »
      Et il avertit: « La synthèse entrevue des pensées « vitaliste » et « mécaniste » en Biologie n’ira pas sans un profond remaniement de nos conceptions du monde inanimé. »
      Roddier et Prigogine ont une approche mécaniste, post-galiléenne. Au début des années 1980 il y a eu une querelle assez violente entre Prigogine et Thom à ce sujet. Autant que je puisse en juger il me semble que PJ est au milieu du gué…

  2. La boucle se referme, les robots se susbstituent à nous et « s’humanisent », nous devenons des robots, chacun fait un pas vers l’autre et nous aurons plein de petits mutants….que Monsanto sélectionnera ….il ne faudrait pas laisser se développer de mauvais gênes. Chouette la science fiction se révèle fondamentale. A moins d’un avatar…

  3. Quand j’ai appris par Paul Jorion qu’il souhaitait diffuser l’article de Morozov à un public francophone et cherchait un traducteur bénévole, je venais de décider de commander son dernier livre « TO SAVE everything CLICK HERE: the folly of technological solutionism », j’ai donc répondu présent avec enthousiasme. Dans les dernières années de ma vie professionnelle j’ai travaillé tant sur « l’Internet des objets » que sur les réseaux de surveillance des risques de catastrophes naturelles. Le livre précédent de Morozov  » The Internet Delusion » attirait l’attention de gens qui comme moi voulaient exploiter Internet pour le bien de la société, sur les utilisation « perverses » des technologies. Morozov, un brillant diplômé de Harvard se présente lui-même comme « hérétique digital », ce qu’il est. On peut voir le « solutionism » comme la dernière distopie de notre temps après celles du communisme stalinien ou de l’ultra libéralisme à la Reagan ou Thatcher. Tout autant sinon plus que les deux autres il sera difficile à démasquer car il apporte indiscutablement des réponses aux problèmes de nos sociétés avancées mais il nous engage aussi dans une voie qui mènera au mieux au « meilleur des Mondes  » de Aldous Huxley ou au pire à la vision prophétique de Georges Orwell « 1984″ . Ce monde nouveau, il se déploie à l’instant sous nos yeux: les fournisseurs d’accès Internet migrent vers IPv6 qui permettra de déployer l’Internet des objets. Les capteurs sont partout parfois visibles comme les 25000 caméra de surveillance du centre de Londres ou invisible dans une « Apps » cachée dans nos « smartphones ». L’histoire montrera peut-être que la crise financière et économique que nous vivons n’est que le préambule d’un désastre sociétal plus grave encore. Et dire que je m’étais mis en congé d’Internet pendant une semaine tellement j’en avais marre des mauvaises nouvelles.

    1.  » la dernière distopie de notre temps après celles du communisme stalinien ou de l’ultra libéralisme à la Reagan ou Thatcher »
      Reagan et Staline dans le même flacon. Le cauchemar climatisé de H.Miller.

  4. Je ne voudrais pas jouer plus que nécessaire le cathare albigeois des temps modernes, mais on en vient à se demander s’il ne faudrait pas s’organiser au niveau local (quartier ?) pour refaire des réseaux privés (fibre ou cuivre) dont seul un serveur « bête et méchant » soit en tête de ligne vers l’internet, un serveur qui ne retransmettrait que des données de html à liens inactivés, et agirait comme un vrai sas, interdisant tout application.
    Il y a assez d’informaticiens des réseaux sur cette planète pour ça.

    Un monde « analgorithmique » pour retrouver le monde des humains.

    1. @ Timiota

      Pour commencer, on pourrait imaginer que des communautés alternatives le fassent et en fassent la promotion.
      Ce qui pourrait avoir un effet d’entrainement.

      Sinon je crains que les gens refusent de financer des travaux.
      Après tout, beaucoup de gens vont sur les résaux sociaux en se moquant de se rendre traçables, alors… Alors faire des travaux pour se protéger de la surveillance est dur a croire.

      1. Au début, seuls les scribes avaient le privilège d’écrire.. et une poignée de les lire. 20 siècles plus tard, Luther et Gutemberg firent une généralisation de la lecture et de l’écriture. La technique sur le temps long pourrait se faire pardonner, d’ici 15 ou 20 empires. Un peu de patience, que diable !

    2. Bonjour « Timiota », votre idée « des fils de cuivre » me semble effectivement s’inscrire dans le style des réponses que nous pouvons construire pour ridiculiser le « panoptique ».

      « Occupy Wall Street » serait-il en mesure d’occuper une ville vraiment « intelligente » ? Cela reste à voir : ce qui est le plus probable, c’est qu’il serait sur-réprimé et sur-droné. »

      Cette analyse, très bien menée par Morosov, des perspectives de l’enfermement numérique demanderait une critique serrée. Pour le dire en deux mots, elle se base, je le crois, sur une vision « l’émancipation » par la préparation de l’insurrection par générale, laquelle est obsolète, et très précisément, c’est le point important , entretenu comme phantasme par cette présentation de « l’enferment panoptique ». Ainsi, selon l’expression condensée de Morosov : « Occupy Wall Street » serait , probablement, condamné à être « sur-droné » .

      Il me semble, en première lecture, que l’argument principal de Morosov repose sur la réglementation algorithmique conçue comme le souligne Agamben, en tant que régulation des effets en agissant sur « les causes » .

      « Si le gouvernement vise les effets et non les causes, il sera tenu d’étendre et multiplier les contrôles. Identifier les causes demande de l’analyse de la connaissance, tandis que les effets peuvent être vérifiés et contrôlés. ».

      Je dirais, à première vue, que l’erreur de la « régulation algorithmique » est de s’appuyer sur les symptômes attendus des causes que cette régulation suppose, et ainsi , de se condamner à éradiquer à Guantánamo, ou dans n’importe quelle prison secrète subventionnée par l’Otan, les individus présentant ces symptômes, mais, sans le moins du monde s’intéresser aux causes qui produisent des individus présentant ces symptômes attendus. Si, comme je le crois, l’émancipation collective ne passe pas plus par une voie révolutionnaire « à l’ancienne », mais par la création de nouveaux communs, « l’individu révolutionnaire » n’est en rien obligé de produire les symptômes attendus comme critères de décision pour sa répression par la régulation algorithmique, en tant individu porteur de ces symptômes.

      Dès le paradigme de l’insurrection générale sera abandonné, passer entre les mailles de cette régulation est très aisé, par contre, et ça c’est amusant, il nous faudra comprendre comment, indépendamment de la conscience des acteurs, « l’agriculture paysanne » est le fer de lance de la reconduction du principe de domination. Dès lors, les individus conscients des causes, mais développant d’autres stratégies que la préparation de l’insurrection générale présenterons des « symptômes » hors de portée de toute lecture par la régulation algorithmique, laquelle ne peut, bien évidemment, que se construite que sur la base d’un modèle d’émancipation ancien, sans être dans la position, d’inventer ce qui sera le mode nouveau. Cet optimisme doit cependant être tempéré par le fait que, indépendamment de la conscience des acteurs qui promulguent cette loi « Des règles plus intelligentes pour des denrées alimentaires plus sures: la Commission propose un paquet législatif primordial pour moderniser, simplifier et renforcer la filière agroalimentaire en Europe.., et dont le texte contient déjà le paragraphe qui assassine, en prolepse, toute perspective d’autonomisation sociale par l’auto organisation collective des dominés. L’avenir sera passionnant.

  5. En plus, toutes ces choses vont en se clarifiants.
    Les ‘dupes’ et les ‘non dupes’ se différencient de plus en plus.
    Je ne sais pas vous, mais on peut trouver là une forte raison de se révolter (et de ‘causalité plus noble’ que beaucoup d’autres révoltes).

    « La société ne peut pas se débarrasser du fardeau d’avoir à décider de son propre sort en sacrifiant cette liberté au bénéfice du régulateur cybernétique ».

    Merci à Evgeny Morozov de terminer comme ça car cet article m’a donné froid.

  6. Après lecture de ce bel article qui résume le monde de presque aujourd’hui, je ne sais pas pourquoi mon inconscient a fait jaillir de ma mémoire cette phrase de l’évangéliste Mathieu qui dans mon jeune temps m’avait profondément stupéfaite : « Et même les cheveux de votre tête sont tous comptés ».
    Quant à poser une opinion sur la prise de pouvoir des données qui conduirait à la mort de la politique, en l’état actuel des capacités de mon cerveau j’attendrai d’être augmentée par les prochaines nano puces de mon choix en fonction de mes intérêts qui seront gratuites en échange de la location de mon cerveau.
    Cependant, j’imagine que l’esprit humain augmenté saura lui aussi trouver les parades pour se protéger de toute attaque irréversible de sa liberté qui le conduirait à l’anéantissement de son espèce.
    L’idée d’un monde « analgorithmique » pour retrouver le monde des humains proposé par timiota
    fera partie du combinatoire de défense.

    1. @ Rienderien

       » j’attendrai d’être augmentée par les prochaines nano puces de mon choix en fonction de mes intérêts qui seront gratuites en échange de la location de mon cerveau »

      Pour éviter de rester trop bêtes pour trouver des solutions ( nous avons réussi a créer des situations si complexes que notre cerveau n’y suffit pas ).
      Pour éviter que les gens riches deviennent plus intelligents que les pauvres.
      Pour éviter que les pauvres risquent de perdre leur liberté a essayer d’avoir à tout prix (quel prix ?) des puces augmentant notre intelligence…

      C’est simple, il faut militer pour que l’Etat les rende accessible à tous.
      Il s’agit d’un investissement essentiel pour que notre espèce survive, avec notre planète et la démocratie.

      L’écriture a beaucoup apporté.
      Combien plus le ferait daventage d’intelligence !

      Mais le progrès laisse toujours des gens sur le bas-côté.
      On le sait depuis le temps… Et pourtant, et pourtant on ne sait pas l’anticiper, à faire des lignes Maginot alors que plus que jamais le monde est mouvant, et qu’il faut donc se livrer à une guerre de position contre l’injustice.

      1. @ Lewp

        Forcément.
        Un des propres de l’Homme est de se servir d’un outil pour fabriquer un autre outil. Les puces sont un outil pour le cerveau comme la botte pour le pied.
        Il s’agit, en principe, d’augmenter nos capacités. Quoi de mieux ? J’ai bien conscience que d’aucuns pourraient vouloir asservir par cet outil comme on a aussi créé des chaînes ou des vêtements contraignants comme le corset.
        Ceci dit, même l’esclave enchainé restait un homme, de même l’homme soumis à la puce le serait. Comme je suis pour la liberté j’insiste pour qu’on contrôle les puces…

        Comme l’éducation est plus poussée chez l’homme que chez d’autres bêtes, l’outil aussi.
        Propres de l’homme.
        Donc on ne peut s’en passer, et le progrès passe par leur progrès.
        Comme la langue meilleure des bienfaits et pire des maux, il faut surveiller cela comme le lait sur le feu.
        Mais c’est renoncer au feu prométhéen qui serait revenir sur ce qui fait l’homme.

  7. Je ne suis pas sûr d’avoir tout saisi, le texte est long.

    Sur l’Internet des capteurs / dictateurs d’action, de type pavlovien (sirène au sortir des WC => appui sur bouton savon), il me semble qu’on reste libre :
    1 d’appuyer ou non sur le bouton savon,
    2 l’ayant fait, de se laver ou non les mains.
    Si c’est une caméra qui surveille la chose, le souci est plus dans la caméra que dans le dispositif pavlovien non ?

    Même chose pour les capteurs « dissimulés » dans les objets ; un tour sur internet et on apprend avec un didacticiel Utube (ou autre) comment les tuer… Si la consultation du didacticiel est « fliqué » par Google (ou autre), un logiciel « Donottrackme » devrait aider à se faire oublier, il me semble.
    Pour chaque menace, une parade ; la guerre, militaire ou civile, physique ou numérique, c’est essentiellement cela.

    Sur l’aspect démocratique de la technoscience ; le droit à la vie privée est reconnu dans l’article 12 de la DUDH. Tout gouvernement qui (entre autres choses) renonce à garantir la vie privée est despotique.
    Un peuple subissant un gouvernement despotique est légitimement en droit se le rejeter…
    La suite de l’histoire est alors affaire de volonté populaire et bien sûr, de rapport de force…

    Mes 2 cents.

    1. @ .Ar c’hazh du

       » Sur l’Internet des capteurs / dictateurs d’action, de type pavlovien (sirène au sortir des WC => appui sur bouton savon), il me semble qu’on reste libre :
      1 d’appuyer ou non sur le bouton savon,
      2 l’ayant fait, de se laver ou non les mains »

      Oui et non.
      Il y a le poids de la soumission à l’autorité qui surveille et le conformisme de ce que cette surveillance soit avalisée par la société au nom, en l’occurence, de l’hygiennne.
      Le pouvoir.
      L’autorité légitime tant que nous sommes en démocratie.
      Les objectifs consentuels comme l’hygienne.

      Vous me direz qu’on peut ne pas se laver les mains pour marquer une révolte.
      On est aussi soumis a pression qu’en le faisant.

      Alors qu’avant un dispositif de pression on était invité et non mis sous pression pour agir.
      Une pression est une atteinte à la liberté…
      On reste libre, mais moins.

      Et encore, dans l’article, il y avait de pires cas, se renforçant les uns les autres dans une dynamique de formatage des comportements.

  8. J’ai vu le film de Steven Spielberg « Lincoln » hier soir à la TV : en lisant ce papier remarquable, je pensais que si la technologie actuelle (et du futur proche) avait été disponible avant la signature du 13e amendement, on aurait certainement mieux surveillé le travail des esclaves, on l’aurait mieux rentabilisé en montrant le lien entre quantité de travail et repos nécessaire pour maximiser leur productivité, peut-être même qu’on aurait montré aux propriétaire l’intérêt de mieux les nourrir et les soigner. Mais jamais la règlementation algorithmique n’aurait permis de faire passer le 13e amendement. Bien au contraire !

  9. Bravo et merci pour ce remarquable article.
    Il existe un moyen d’échapper à ce monde absolument cadenassé dans lequel se précipitent des millions de gens.
    Tentez d’expliquer à votre entourage, par exemple, que le système mis en place par FaceBook fonctionne d’une manière dont les pires services de renseignement n’auraient pu rêver: des millions de gens avides de fournir gratuitement, en parfaite connaissance de cause, tout sur leur vie privée (messages, relations, photographies). Personne ne vous comprendra.
    Ce moyen évoqué plus haut est celui que génère quotidiennement dans un bazar absolu l’anomie désorganisée d’un « Tiers-Monde » – lequel est très proche – où tout fonctionne encore à coup de « Système D », où se maintient et se développe malgré l’existence de téléphones portables une économie de la récupération , une économie de bouts de ficelle.
    Cela se voit dans des pays où, par exemple, l’idée d’un réseau d’alimentation en eau potable n’existe pas car elle est tout simplement inconcevable, au même titre qu’une distribution régulière, fiable et stable d’un réseau électrique, où encore le seul moyen d’effectuer un paiement pour’ acheter de quoi faire un repas est d’utiliser des espèces plutôt que de la monnaie électronique.

    1. Oups, détrompez vous Bouchard, les Africains (particulièrement en Afrique de l’Est) sont allés directement de la case biftons à la case paiement par mobile sans passer par la case chéquier, virement, CB, agence bancaire locale et tout l’merdier… Le CNUCED lui-même en est ravi, à juste raison d’ailleurs…

      1. Là par exemple (arrive en Roumanie depuis le Kenya !) Huawei ou autre boite asiatique va nous récupérer cela assez bientôt me dit mon petit doigt.

      2. C’est qui ce p’tit doigt qui te dit voir les chinois mettre leurs doigts boudinés sur Safaricom M-Pesa ?
        Bravo aux anglais de chez Vodafone en tous cas pour cette idée de génie.

      3. C’est le fait que dans toutes les activités capitalistiques même de bas niveau (l’épicier en produit afro-exotique de la Goutte d’Or), c’est le serveur des clients qui est black, tandis que la « maison » est tenue par un asiatique (un peu comme les Libanais en Côte d’Ivoire, les banyas chezplusou,…). La raison me semble être la partie capitalistique de l’activité : gérer des avances de 100 000 euros en sécurité avec des partenaires envoyeur de container ou de lots d’igname. Donc même si Safaricom/Vodafone ramasser leur petite mise au début, je pense que la génération de téléphone N+3 sera équipée d’une touche « je paye » ou de tout autre fil à la patte, et l’attracteur suivra sa pente, si il y a du flouze à glaner. Si ce n’est que de l’effet de bord et que le flouze arrive de toute façon à circuler par la boutique semi-asiatique ci-dessus ou par un prêteur sur gage etc., ils pourraient en effet se passer de mettre la main dessus et attendre des outils « de gros calibre » à l’échelle des niveaux d’engagement auxquels ils se font confiance pour aller zy voir…

  10. En France, le passeport biométrique comme le passe Navigo de la Ratp ou celui des péages d’autoroute fonctionnent déjà avec une puce rfid. Bientôt, la plupart des objets de la vie quotidienne en seront équipés.
    cf. Michel Alberganti: « Sous l’oeil des puces (la RFID et la démocratie) », Editions Actes Sud, 2007

  11. Je suis pour. Entrepreneur de sa propre vie ? Trop fatiguant. Living dangerously, c’est bien en théorie, ça fait vendre des bouquins. A ranger dans le garage avec la Kalash, le stock de piles et les rations de survie .

  12. Je parie que tous ces smarts trucs n’arriveront pas a coincer un seul speculateur, un seul de ces gangsters de la finance ni aucun de leurs complices, politiciens, banquiers, etc…

    1. Pas étonnant, ce sont probablement les banques qui détiennent le plus de données fiables sur nous.
      Les média, avec leurs émissions de télé-réalité, ont bien préparé notre conditionnement comportemental.
      Et ça valait la peine de vivre pour connaître ça:
      http://www.pauljorion.com/blog/2014/08/25/la-prise-de-pouvoir-par-les-donnees-et-la-mort-de-la-politique-par-evgeny-morozov/#more-68319

       » …Marketing sensoriel mono-sens

      De nombreuses marques se sont essayées au marketing sensoriel en se concentrant sur un seul sens :

      La vue : Louboutin avec ses semelles de chaussures rouges reconnaissables entre toutes les autres marques.

      L’ouie : Coca-Cola a étudié le bruit de l’ouverture de sa canette afin que le bruit soit rafraîchissant et donne soif.. »

      Mais comment entrer en résistance au niveau individuel, dans la vie quotidienne, contre ces dérives des nouvelles technologies ?

      1. Informer, convaincre, (se passer de technologies?), être vivant et le plus humain possible..
        Poser la question : « comment entrer en résistance » c’est déjà résister, à mon avis!

      2. @ Béotienne

         » Mais comment entrer en résistance au niveau individuel, dans la vie quotidienne, contre ces dérives des nouvelles technologies ? »

        La reflexion mais elle est lente…
        Et le goût. Contre le reflexe conditionné que vous citez, la distanciation induite par le raffinement, qu’on devrait peut-être apprendre à l’école, la gastronomie découverte contre la malbouffe par exemple.

    2. Smart = « passé par le marketing ».
      Nous avons des machins collectifs qui nous hypersynchronisent. Pas évident de retrouver « son jardin » à cultiver Candidement, même s’il s’agit d’un jardin comprenant entre autres des supports numériques.

  13.  » Comment construire un soutien social qui soit à la fois décentralisée et ultra-stable? Une forme de revenu de base garanti – où certains services sociaux sont remplacés par des transferts directs en espèces aux citoyens – s’adapte aux deux critères. »

    Si en plus de ses autres avantages, un revenu inconditionné peut nous sauver d’un monde à la Minority Report, c’est un argument de plus.

    1. Comment construire un soutien social qui soit à la fois décentralisée et ultra-stable? Une forme de revenu de base garanti – où certains services sociaux sont remplacés par des transferts directs en espèces aux citoyens – s’adapte aux deux critères.

      Ultra-stable ? Ah oui ? Vraiment ? Vraiment vraiment ?
      Imagine mon gazier : t’as ton revenu de base, plus de sécurité sociale ni cmu et un p’tit cancer des familles, un Alzheimer de derrière les fagots ou un niard hémophile qui te tombe sur le coin du baigneur. Que pasa ?
      Oui, c’est « ultra-stable », la mort. Un peu avant ça peut tanguer.

      1. @ Vigneron

        Il n’est pas précisé quels services sociaux seront remplacés par le revenu inconditionné garenti. Dans ce que j’ai lu, certes ailleurs que sur ce blog, ce serait le chômage, les aides à la formation… tout ce qui, lié au travail, ne serait plus nécessaira avec un revenu non lié au travail.
        Ce qui serait logique avec l’idée de sécurisation de la société, je trouve.

        En fait, d’un point de vue de dominant, mieux vaut soigner les gens que les nourrir car on peut infecter les autres avec les maladies contagieuses tandis que la mort de faim d’un quidam n’a aucune chance de tuer Gattaz.

        Mais même en mettant les choses au pire, comme on a plus de propabilités de mourir de faim sans revenu que de maladie dans tous les cas, un revenu de vie inconditionné est plus important que la sécurité sociale.

        Pour la question de l’enfant hémophile, je crois me souvenir que l’hémophilie est une maladie héréditaire. A une époque où la pilule existe, pourquoi avoir un enfant quand on risque de lui donner cette maladie, pour jouer à la roulette russe avec sa santé ?
        L’irresponsabilité des parents m’étonnera toujours.

      2. Je vois surtout que monsieur Noblejoué ne s’est pas trop embarrassé de savoir quels services sociaux seraient remplacés par le revenu de base tel qu’envisagé là. Et oui c’est bien l’assurance maladie obligatoire qui est visée ici, au-delà des assurances privées elles aussi susceptibles de profiter du big data et bien entendu le gros morceau des retraites par répartition.

      3. L’hémophilie concerne un homme ( pas les femmes ) sur 5000 environ . Je propose qu’on leur supprime le droit de vote et l’espoir ( pourtant prometteur ) d’échapper à ce handicap via la thérapie génique .
        Il faut savoir faire simple et humain .

  14. Une autre alternative serait de forcer tout ce qui nous trace à ne le faire que via un « jardinet » ( a shrubbery…(!) le sens de la vie…) , je veux dire une jachère numérique suffisamment riche (au sens d’un humus) pour que les signaux extérieurs parviennent, mais filtrés par une espèce de mycélium numérique infâme pour un cartésien et beau pour un mandelbrotien, dont la thermodynamique (l’entropie …) garantirait la pérennité. Pas plus clair que cela pour moi, mais l’analogie que tout le monde a pu voir, c’est le type qui dans des bureaux d’administration ou autre, garde une pièce et ne risque pas d’en changer en y amoncelant un bordel monstre (façon Gaston Lagaffe, décidément, je collectionne les références aux cosmicomiques, c’est Piketty qui doit me faire aristocher, j’imagine)

  15. Pour l’avenir:

    http://www.pauljorion.com/blog/2014/08/25/la-prise-de-pouvoir-par-les-donnees-et-la-mort-de-la-politique-par-evgeny-morozov/

    « Quid du décryptage à l’aide d’ordinateurs quantiques ?[modifier le code]

    Les futurs ordinateurs quantiques seront théoriquement en mesure de décrypter toutes les clés de chiffrements : même augmenter la taille de la clef ne suffirait plus, l’information deviendrait vulnérable dans tous les cas. Cependant selon Philippe Grangier – concepteur d’une technologie de cryptographie quantique – des ordinateurs classiques suffisent pour mettre en oeuvre la cryptographie quantique en codant la clef de sécurité dans des photons (particules de lumière) ou des impulsions lumineuses, qui ne sont rien d’autre que des « objets » quantiques. Et par leur nature même, le simple fait de vouloir les mesurer pour tenter de lire les informations qu’ils transportent suffit à les perturber et à donner l’alerte. « Si l’espion essaye de lire quoi que ce soit, il sera toujours détecté », assure Philippe Grangier, le système pouvant alors cesser toute transmission. Ordinateur classique ou quantique, « ça n’y changerait rien, on suppose même dans nos tests de sécurité que l’espion dispose d’un ordinateur quantique, même s’il est bien loin d’en avoir un », conclut-il 3. »

    Ou élaborer un nouveau langage sécurisé ,
    j’ai trouvé ceci mais pas lu, ça peut donner des Idées.

    « Histoire des codes secrets. De l’Égypte des pharaons à l’ordinateur quantique »
    http://fr.wikipedia.org/wiki/Histoire_des_codes_secrets._De_l'%C3%89gypte_des_pharaons_%C3%A0_l'ordinateur_quantique

  16. Pourquoi pas une réglementation au niveau international ou du moins un protocole additionnel à la CEDH (1952) ainsi qu’ à la déclaration universelle des droits de l’homme (1948), pour les adapter à la nouvelle donne concernant l’irruption de l’informatique globalisée qui s’immisce insidieusement dans la vie des habitant de notre planète.
    Un organe de contrôle inspiré de la CNIL française serait également à mettre en place?

  17.  » Redessinons ,avec lui ( Saint Paul),le triple tige issue de nos vieilles cultures occidentales:

    – la conception temporelle de l’histoire, héritée des prophètes écrivains d’Israël, relayé à la chrétienté par Saint augustin ou Pascal, laïcisée par Condorcet ou Auguste Compte, rendue enfin aussi érudite qu’on le voudra ,

    – la vison spatio-temporelle du monde issue de la science grecque et relayée par les géomètres , astrophysiciens ou biochimistes,

    – la société communautaire et solidaire, revendiquée enfin par tous les droits du monde et non pas seulement romain , plus juridique et déclaratif que l’anglo-saxon plus algorithmique et jurisprudentiel..

    Ces trois affluents confluèrent jadis vers une nouvelle ère ; grossis, ces trois tributaires, histoire , monde et société, encore locaux, disparaissent et confluent aujourd’hui en un rameau transculturel parce que connecté avec la nature . Il n’y a plus histoire, monde ni société, mais l’universalité de l’espace temps et des personnes humaines.

    Nouveaux sujets de cette universalité, conceptuelle et concrète, nous plaçons notre évolution , PLUS celle des vivants et du monde inerte, sous l’effet en retour, bénéfique ou pervers, de nos intentions singulières et de nos actes. L’évolution a produit un facteur d’évolution …….

    …Il aurait fallu écrire un récit utopique , un exode…où , rencontrant telles circonstances et sachant les négocier, un groupe innombrable échapperait à deux morts conjuguées: celle qu’inévitablement on rencontre et celle qu’il prépare de ses propres mains. Je n’ai pas su l’inventer . Je soupçonne que ceux qui le conçoivent ouvriront avec bonheur la porte close devant ma faiblesse ( et celle de Juannessy) . »

    Michel Serres ; Rameaux 2004 . qui parle aussi de Biogée .

    1. Tiens , c’est presque une anticipation involontaire sur le billet de Cédric Chevalier , qui est fermé aux commentaires , et que j’aurai donc commenté malgré tout !

  18. @ Vigneron

    Je vois surtout que Monsieur Vigneron ne s’est pas trop avisé que la faim menace perpétuellement tout le monde alors que la maladie n’est pas une menace aussi massive et récurente.

    Je vois les priorités, et vous ?
    Avant même les maladies, nous sommes menacés par la faim.
    C’est la « loi de la viande », comme disait Jack London.

      1. @ Juannessy

        Il ne faut pas faire trop simple :

        Les gens à la rue du Nord ne sont pas vraiment obéses, et les obèses, pour des gens du Nord, pas vraiment riches.

  19. Bonjour à tous
    Si on se souvient des trois premières minutes de l’univers, on se rappelle que les lois de la physique menaient le monde vers l’état le plus stable: celui de l’atome de fer….
    Un monde mort donc.
    Mais la vie a pris un chemin de faible probabilité…..

    Il se pourrait bien qu’un monde hyper-contrôlé aux fins de stabilité suive un chemin de fer…. Et la vie mourra sur terre….
    Si la vie l’emporte, elle suivra un chemin de faible probabilité en inventant du nouveau… A priori impensable aujourd’hui….

    On peut aussi très bien formuler l’hypothèse, au vu des formes singulières qu’a essayé le vivant sur notre planète, que notre espèce ne soit que l’état larvaire d’autre chose….Et que nous abordons la phase chrysalide…. Physiologique ou sociale.

    La survie de l’intelligence animée passerait elle par l’abandon du modèle bande de primates pour le modèle insectes sociaux ?

    Je n’aime vraiment pas ce qui vient, mais force m’est de constater que je n’ai pas les moyens de penser avec équanimité si c’est un bien ou non à l’échelle de la continuation de la vie sur plusieurs millénaires

    Cordialement.

    Steve.

  20. @ Juannessy

    Je ne suis pas contre le droit de vote pour tous et favorable à la thérapie génique.
    J’ai eu tort, vu le taux de transmission de la maladie, concernant l’hémophilie, et le reconnais volontiers si dans d’autres maladies et situation le taux de transmission des maladies et autres problèmes n’est pas du tout le même.

    Dans ces cas dramatiques, les gens conviennent que leurs enfants ont fort peu de chances d’échapper aux problèmes écrasant qui sont les leurs, problèmes qui leur font dire que leur vie ne vaut pas la peine d’être vécu.
    Et ?
    Et ils ont des enfants parce que « ca ne tournera pas forcément mal ».
    L’enfant comme jeu de hasard, comme dé.

    Très humain, si on veut, totalement irresponsable en tout cas.

    1. Dans les cas dramatiques ou pas , il y a des gens qui cherchent à réparer ou guérir ( pour rendre le sourire ) , avec ou sans puces , et il y a ceux qui se disent responsables ;

      De leur seule survie .

Les commentaires sont fermés.