Ex_Machina, scénario d’une fin pour l’espèce ?, par Lazarillo de Tormes

Billet invité.

Je suis encore sous le choc après le visionnage d’Ex_Machina. Un chef d’oeuvre au contenu expansif et multidimensionnel. Plus on y réfléchit, plus on accouche de matière alimentant la réflexion.

Continuer la lecture de Ex_Machina, scénario d’une fin pour l’espèce ?, par Lazarillo de Tormes

Partager

Kirobo, le petit robot de l’espace, est revenu sur terre

Sur 20minutes.fr :

Fin de mission pour Kirobo. Le premier petit robot astronaute japonais est revenu sur Terre après 18 mois dans l’espace à bord de la Station spatiale internationale (ISS). Ce petit « droïde de protocole » dont le physique rappelle Astroboy était parti rejoindre les occupants de l’ISS en août 2013 et a participé à diverses expériences pour étudier l’intérêt éventuel d’un robot de compagnie dans des situations d’isolement prolongé. […] Kirobo est censé pouvoir entretenir une conversation de façon naturelle, selon son principal concepteur, le roboticien Tomotaka Takahashi.

Difficile de juger de la capacité d’un robot à interagir dans une conversation lorsqu’il monologue comme dans la vidéo ci-dessous.

Difficile aussi d’interpréter sa compréhension de ce qu’on lui dit quand son interlocuteur semble lire des questions pré-écrites, comme ici.

Partager

Le dilemme Amelia, la travailleuse venue du Cloud, par Lazarillo de Tormes

Billet invité.

En novembre dernier j’ai reçu, comme tout le monde, une invitation de Ray Kurzweil à m’intéresser à un évènement new-yorkais organisé par la société IP-Soft. Objet de l’acte: nous présenter Amelia le tout dernier produit de leur portefeuille. En bref, Amelia est présentée comme étant un agent cognitif, downloadable sur commande, capable d’un grand nombre d’opérations au sein de l’entreprise et dotée de compétences dynamiques d’auto-apprentissage et d’interaction. Lorsqu’elle n’obtient pas la réponse à une question dans les bases de données auxquelles elle est connectée, elle transmet le problème à un collègue humain (sic) et observe le mode de résolution pour une gestion ultérieure en mode autonome. On nous explique qu’outre un quotient intellectuel elle dispose d’un quotient emotionnel, l’ironie allant jusqu’au choix du prénom. En effet, Amelia vient de l’ancien germanique amal signifiant travail. Sourira qui pourra.

J’ai immédiatement eu une pensée émue pour ces jeunes Marocains aperçus l’été dernier dans la banlieue de Casablanca sortant de leur journée de travail dans un call center et payés au smig marocain, soit 1,20 Euro/heure. Souvenez-vous bien, ce jour-là Jean-Claude a peut-être tenté de vous vendre un salon en cuir ou Solange un ensemble de 6 boxers cotton made in China pour le prix de 3. Amelia, je le sens, va changer nos vies.

Continuer la lecture de Le dilemme Amelia, la travailleuse venue du Cloud, par Lazarillo de Tormes

Partager

VentsContraires.net, Paul Jorion : Croyance ou engagement

Sur le site VentsContraires.net, c’est ici.

Les idées que j’exprime dans la vidéo relatives à « croire » et « savoir » et à l’adhésion, se trouvent dans Principes des systèmes intelligents (1989)

Blog de PJ : Ce n’est pas Dieu qui nous sauvera !, le 22 novembre 2014

Partager

LE TEMPS QU’IL FAIT LE 19 DÉCEMBRE 2014 – (retranscription)

Retranscription de Le temps qu’il fait le 19 décembre 2014. Merci à Olivier Brouwer !

Bonjour, on est vendredi, le 19 décembre 2014. Et vous avez peut-être vu, l’autre jour, il n’y a pas tellement longtemps, j’ai fait un billet qui s’appelait, euh je sais plus comment ça s’appelait, mais c’était à propos du film « Total Recall », un film de Paul Verhoeven qui avait été fait d’après une petite nouvelle de Philip K. Dick. C’est donc l’histoire de ce gars qui [s’adresse] à une firme qui fait du logiciel et qui offre aux gens de leur faire vivre des aventures extraordinaires par un implant d’un logiciel dans leur tête. Et alors, les choses tournent mal très rapidement, mais le gars ne sait plus si le fait que ça tourne mal, ça fait partie du scénario qu’on lui a mis dans sa tête, et alors l’histoire démarre sur des chapeaux de roues, parce qu’il finit par se retrouver à la tête d’une rébellion sur la planète Mars, donc c’est vraiment pas mal ! Si c’est ça qu’il a acheté, eh bien il en a pour son argent !

Et j’ai repensé à ça parce que je voyais le journal et je regardais ce qui se passait ! Et je me disais : « Est-ce qu’il y a… » Vous savez, il y a un débat, j’avais dit un truc, je ne sais plus ce que c’était non plus, à propos de Dieu qui n’existe probablement pas, « Ce n’est pas Dieu qui nous sauvera ! », et il y a un long débat qui a eu lieu parce qu’une autre personne a voulu parler de ça, mais on se pose quand même la question : est-ce qu’il y a quelqu’un, vraiment, quelque part, qui essaye de nous épater, qui essaye de faire que les bras nous en tombent le maximum possible, qu’on se dise : « Non, ça c’est pas possible, je n’ai pas encore vu ça, c’est pas possible que ça aille dans cette direction-là, c’est trop fort ! »

Continuer la lecture de LE TEMPS QU’IL FAIT LE 19 DÉCEMBRE 2014 – (retranscription)

Partager

Le temps qu’il fait, le 19 décembre 2014

Sur Dailymotion, c’est ici.

Blog de PJ : La tentation de l’interprétation « Total Recall », le 16 décembre 2014

Blog de PJ : Ce n’est pas Dieu qui nous sauvera, le 25 novembre 2014

Blog de PJ : Pour en finir une fois pour toutes avec ce débat sur Dieu, par Un chrétien de gauche, le 11 décembre 2014

Ubik (1969) par Philip K. Dick

Blog de PJ : Après la grève…, par Serge Boucher, le 18 décembre 2014

Blog de PJ : interdiction des paris sur les fluctuations de prix

Partager

DES ROBOTS-TRADERS SANS FOI NI LOI, par François Leclerc

Billet invité.

L’usage de punir les lampistes étant établi, à qui va-t-on s’en prendre dans le cas des manipulations du Forex (le marché des changes) à propos desquelles le régulateur des services financiers de New York (DSF) poursuit l’enquête ? Cette question se trouve incidemment posée, car les investigations portent sur l’utilisation d’algorithmes par les banques Barclays et Deutsche Bank, soupçonnées de manipulations des cours de change sur leurs plate-formes électroniques Barx et Autobahn. Si les faits devaient être établis, il en résulterait que la fraude robotisée serait devenue partie intégrante de cet énorme marché financier.

Mais qui poursuivre nommément ? Selon un autre usage bien établi, les deux banques ont annoncé coopérer pleinement avec les enquêteurs, une déclaration qui en général signe le forfait. La Deutsche Bank va plus loin et annonce dans un mail à l’AFP qu’elle prendra « des sanctions disciplinaires contre des individus si nécessaire ». On remontera s’il le faut, croit-on comprendre, aux ingénieurs du service informatique ! Dans l’immédiat, des superviseurs du DSF vont être installés à demeure dans les services de courtage des deux banques. Où va-t-on si chaque ordinateur doit être surveillé par un agent régulateur ?

Jusqu’à maintenant, une douzaine de mégabanques, dont la Société Générale, étaient suspectées de manipuler les cours des devises, selon les bonnes vieilles méthodes éprouvées : les cambistes se concertant via des messageries instantanées, afin de modifier un taux de référence. Mais, voulant approfondir l’enquête, le DSF et le Ministère de la justice ont en novembre dernier refusé de s’associer à d’autres régulateurs américains et britanniques qui avaient signé un premier accord collectif avec six banques acceptant de payer une amende de 4,3 milliards de dollars contre l’extinction des poursuites. Il s’agissait de Bank of America Merill Lynch, Citigroup, HSBC, JP Morgan Chase, RBS et UBS.

La plaisanterie a fait long feu dans les salles de marché : les banques affrontent désormais un nouveau risque, celui des litiges… Mais si les robots sont débranchés une fois pris la pince articulée dans le sac, l’impunité des humains ne sortira-t-elle pas garantie ?

Partager

LE TEMPS QU’IL FAIT LE 5 DÉCEMBRE 2014 – (retranscription)

Retranscription de Le temps qu’il fait le 5 décembre 2014. Merci à Olivier Brouwer !

Bonjour, on est le vendredi 5 décembre 2014. Et si j’ai l’air un peu grippé, ne vous inquiétez pas, c’est parce que je suis un peu grippé ! Voilà. Mais ça va mieux, ça va mieux qu’il y a deux jours…

Alors, de quoi est-ce que je voudrais parler aujourd’hui ? Eh bien, je voudrais parler des robots, voilà : des robots. Des robots et moi, en fait, parce que, vous l’avez vu il y a quelques années, c’était en 2012, j’étais invité à « Ce soir (ou jamais !) », l’émission de Frédéric Taddéï, il y avait cette émission sur le chômage, et j’avais voulu dire, frapper un grand coup en disant : « Mais le problème est mal situé », et j’avais fait cette intervention, j’avais un peu répété ça dans ma tête, en me disant : « Ça, il faut absolument le dire : le travail disparaît, mais c’est nous qui l’avons voulu ! ».

Et ça a marqué, c’est repris même par le Figaro, on en parle. Evidemment, évidemment, du coup, on parle de plus en plus de robotisation, j’interviens sur ce sujet-là, justement, du point de vue du travail, le remplacement par le logiciel, par les robots. Et alors, dans les discussions qui ont lieu, là je m’énerve un peu, parce que les gens disent « Oui, mais enfin, les robots… », etc., et alors ils me racontent un truc, une représentation des robots, qui date de 30, 40 ans, 50 ans… Ce n’est pas du tout ce qui se fait maintenant.

Continuer la lecture de LE TEMPS QU’IL FAIT LE 5 DÉCEMBRE 2014 – (retranscription)

Partager

Le temps qu’il fait le 5 décembre 2014

Sur Dailymotion, c’est ici.

La vidéo : Le travail disparaît, et c’est ce que nous avons voulu

Il y a des gens qui s’amusent régulièrement à enlever cette vidéo, heureusement il y en a d’autres qui s’amusent à la remettre.

Paul Jorion, Principes des systèmes intelligents

Le projet DeepMind

Portrait de Demis Hassabis dans Technology Review : Google’s Intelligence Designer, le 2 décembre 2014
Alex Graves, Greg Wayne, Ivo Danihelka : Neural Turing Machines, le 20 octobre 2014

Wikipedia en anglais : Paul Jorion

Partager

Quand les robots jouent aux jeux vidéos… ils nous font honte !

Demis Hassabis explique le projet DeepMind dans Technology Review : Google’s Intelligence designer.

Un article un peu plus technique sur le même sujet : Google’s Secretive DeepMind Startup Unveils a « Neural Turing Machine ».

Enfin, pour les ingénieurs et autres matheux, l’article qui a fait dire à Elon Musk que la « Singularité », le dépassement de l’intelligence humaine par celle de la machine, a sans doute déjà eu lieu : Neural Turing Machines.

Alors, sommes-nous d’ores et déjà hors-course ? Et la politique la plus cohérente pour un robot sera-t-elle de se débarrasser de nous : lents, fantasques, et pas fiables pour un sou ?

Le débat est ouvert !

Partager

Sur la montée de la robotisation … et l’apparition de ses freins ou de ses dérives, par Timiota

Billet invité.

L’article du Monde : Tout va bien, mon patron est un ordinateur décrit le « robot partie prenante au conseil d’administration » dans une boite hongkongaise d’investissement en biotechnologies, domaine où de vastes quantités de données existent dans les bases de données mondiales.

Cela pointe vers le prochain basculement de dizaines de millions d’emplois qualifiés vers des formes robotisées.

Il y a bien sûr du vrai, mais ce que je propose ici, c’est qu’il y a aussi une contre-réaction qui va s’établir pour freiner ce développement et « surfer » avec … Cette contre-réaction, on ne pourra pas l’attribuer à l’humain ou à la machine, et on ne peut pas dire non plus si elle domptera davantage, moralement, les conséquences de ce changement que les conséquences de la finance ou dans la finance, du HFT (high-frequency-trading). Je relie l’engouement actuel au passage par une situation de « percolation », bien connue dans le cas de système désordonné, lorsqu’ émerge quelque chose de nouveau qui se multiplie.

Continuer la lecture de Sur la montée de la robotisation … et l’apparition de ses freins ou de ses dérives, par Timiota

Partager

Sous-traiter aux machines nos capacités intellectuelles, par Stéphane Feunteun

Billet invité.

Sur la vidéo « Paul Jorion pense tout haut » du 17/9, Paul évoque vers 15m30s une possible meilleure expression pour la désintellectualisation résultant de la délégation des tâches complexes aux ordinateurs.

Je suggère d’inscrire ce phénomène dans un concept plus général qu’on pourrait appeler « externalisation ».

Ce terme, emprunté à l’industrie, désigne le fait qu’une entreprise décide de sous-traiter, ou acheter à l’extérieur, une partie d’activité auparavant assurée en interne à l’entreprise. Cela peut aller d’opérations de câblage électrique à des tâches comptables, voire des travaux de développement produit ou des changements organisationnels de l’entreprise elle-même. En théorie, l’entreprise doit conserver la maîtrise de son « coeur de métier » ainsi que toutes les capacités de contrôle et de décision, mais en pratique il s’avère que les risques ont généralement été sous-estimés lors de la prise de la décision d’externalisation. Plus exactement, sur le long terme les divers coûts liés au contrôle – ou à la perte de celui-ci – peuvent devenir supérieurs à l’avantage financier immédiat procuré par l’externalisation. Une réintégration de la fonction peut alors être envisagée, mais elle est souvent difficile car l’entreprise doit recréer la structure, le savoir-faire et les protocoles d’échange en interne. Cette difficulté est augmentée si la fonction a évolué différemment de la société-mère pendant la période d’externalisation.

La désintellectualisation évoquée par Paul Jorion me semble présenter beaucoup de similitudes avec la perte de savoir-faire pouvant résulter de l’externalisation.

Continuer la lecture de Sous-traiter aux machines nos capacités intellectuelles, par Stéphane Feunteun

Partager

La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov

Publié dans The Observer, le 20 juillet 2014. Merci à Guy Weets pour la traduction. © The Guardian

Les pionniers de la technologie aux États-Unis préconisent une nouvelle approche de la gouvernance basée sur les données – « La réglementation algorithmique ». Mais si la technologie apporte des réponses aux problèmes de société, quel impact pour les gouvernements ?

Le 24 août 1965 Gloria Placente, une résidente de 34 ans du Queens, New York, roulait vers Orchard Beach dans le Bronx. Vêtue d’un short et de lunettes de soleil, cette maîtresse de maison était impatiente de passer quelques heures tranquilles à la plage. Mais au moment où elle a traversé le pont Willis Avenue dans sa Chevrolet Corvair, Placente a été entourée par une douzaine de patrouilleurs. Il y avait aussi 125 journalistes, avides d’assister au lancement de l’opération CORRAL de la police de New York – un acronyme signifiant Computer Oriented Retrieval of Auto Larcenists, soit recherche assistée par ordinateurs de voleurs de voitures.

Quinze mois plus tôt, Placente avait brûlé un feu rouge et négligé de répondre à la citation à comparaître, une infraction que CORRAL allait punir avec une forte dose techno-kafkaïenne. CORRAL travaille comme suit : une voiture de police stationnée à une extrémité du pont communique par radio les plaques des voitures venant en sens inverse à un opérateur à distance, qui les introduit dans un ordinateur Univac 490, un jouet cher $ 500,000 (3,5 millions $ en dollars d’aujourd’hui) prêté par la Sperry Rand Corporation. L’ordinateur compare les numéros avec ceux d’une base de données de 110 000 voitures qui ont été soit volées soit ayant appartenu à des délinquants connus. Dans le cas d’identification, l’opérateur alerte une seconde voiture de patrouille à l’autre sortie du pont. L’opération prend, en moyenne, seulement sept secondes.

Continuer la lecture de La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov

Partager

« Tu es terminé », par Cédric Chevalier

Billet invité. À propos de la vidéo Le temps qu’il fait le 15 août 2014 : Le Grand Décentrement (la retranscription est ici).

Après le « Temps qu’il fait » de Paul Jorion du 15 août 2014, au sujet du « Grand Décentrement », je n’ai pu m’empêcher de repenser à un film de science-fiction qui figure parmi les meilleurs du genre selon moi. Bien que centré de prime abord sur une montagne de muscle qui parcourt sans s’émouvoir des scènes de combat à mains nues, de cascades, d’explosions, de poursuites et de tirs au moyen d’un arsenal qui comprend tous les calibres,  Terminator (et ses suites) n’est pas un film d’action comme les autres.

Servi par un scénario et un acteur exceptionnel, il est un exemple frappant de ces œuvres qui donnent toutes ses lettres de noblesse à ce genre qu’est la science-fiction. La science-fiction est née dans l’histoire au moment où la technologie envahissait peu à peu l’environnement jusque-là « low tech » de l’Humanité. A mesure que l’Homme était dépassé par ses créations, par ses machines et son infrastructure, des artistes, toujours à l’avant-garde des évolutions sociétales, imaginaient des futurs qui extrapolaient les tendances contemporaines. L’anticipation de la technologie du futur et de ses mondes lointains est devenue un moyen d’explorer les possibles politiques, sociaux, économiques, moraux de l’Humanité. « L’expérience mentale » explicite chère à la philosophie s’est vulgarisée et popularisée dans des romans et des films, de manière symbolique et implicite. La convention avec le lecteur ou le spectateur a perduré jusqu’à aujourd’hui, où la science-fiction est devenue un genre bien établi.

Continuer la lecture de « Tu es terminé », par Cédric Chevalier

Partager

Comment donner une volonté à un robot

Parce que je me dis que cela pourrait intéresser certains d’entre vous qui n’auront pas le désir d’aller fouiller dans la discussion qui a lieu en ce moment à propos de ma vidéo d’hier, je donne à cet échange davantage de visibilité.

Jean Szrogh

Une chose encore. Pour qu`un ordinateur prenne une décision contrevenant a sa programmation, il doit avoir une motivation propre, ce qui nécessite au préalable que cet ordinateur acquiere la conscience de soi. Cette derniere peut-elle naitre de la matiere constituant l`ordinateur? Si la conscience de soi chez l`humain nait de la matiere constituant son cerveau, alors l`ordinateur pourrait en principe accéder a la conscience. Si, par contre, la conscience de soi chez l`humain (ou d`autres especes vivantes) n`est pas le produit de la matiere mais, comme le prétendent les religions, le fait d`un apport extérieur dit « divin », alors l`ordinateur restera ordinateur. La question de la prise de pouvoir des « robots » parait donc en rapport étroit avec la question (la plus grande des questions), sinon de l`existence de Dieu, du moins de la conscience de soi comme dépassant le niveau des protéines composant le cerveau. Cette question est loin d`etre résolue a ce jour sur notre petite planete aussi nous est-il difficile de dire des choses intelligentes dans ce domaine.

Partager