La singularité est-elle déjà là ? par Nicolas Mallia

Billet invité. Ouvert aux commentaires.

Bonjour Paul Jorion,

Vous avez parlé à plusieurs reprises ces derniers temps de l’intelligence artificielle dans le cadre de la parution d’un de vos livres sur la fin de l’humanité. Par ailleurs, et vous en avez parlé également, vous citez des scientifiques, des capitaines d’industrie de la nouvelle technologie qui ont interpellé l’opinion sur le danger de l’avènement proche de la vraie intelligence artificielle. Je dis la vraie car pour le moment, il semblerait que ce qu’on nous présente comme tel n’est que de l’information rapidement recoupée et retrouvée dans des grandes bases de données.

J’ai vu une conférence filmée à ce sujet de Télécom Paris ou les professeurs ont taillé en pièce un ingénieur d’IBM venu faire son opération marketing de Watson en le présentant comme la première vraie intelligence artificielle. Or, attribuer à ce système, certes très innovant, un tel qualificatif est abusif car il n’est pas question ici d’intelligence à proprement parler.

J’ai lu comme vous par ailleurs, ces avertissements de Stephen Hawking , de Bill Gates, de Elon Musk qui s’inquiètent des conséquences à venir pour l’Homme le jour ou la Singularité arrivera.

C’est à ce sujet que je voulais faire une remarque et aussi pourquoi pas, avoir votre avis.

Une idée curieuse m’a traversé l’esprit il y a peu en jouant aux échecs contre mon téléphone.

Je suis un joueur d’échecs plutôt mauvais mais en ce moment, le soir, lorsque je n’arrive pas à dormir, je m’amuse à jouer à ce jeu sur mon smartphone. Ce n’est pas le meilleur moyen de trouver le sommeil, je vous l’accorde. Évidemment, je me fais battre systématiquement, mais le fait de constater que je suis nul aux échecs n’est pas ce qui a retenu mon attention. Ce qui m’a marqué, c’est comment le logiciel est capable d’anticiper chacun de mes mouvements et de planifier une stratégie avec 10 coups d’avance sur moi. Comme une espèce d’intelligence plastique implacable qui s’adapte à la vitesse de l’éclair.

Et en jouant, en constatant que l’ordinateur avait systématiquement le dessus sur moi, une réflexion m’a traversé l’esprit.

Nous savons que depuis un moment – vous en avez parlé et je l’ai vu aussi comme beaucoup de gens lorsque cela est arrivé – que l’ordinateur a appris à gagner aux échecs, a appris à gagner au jeu de go, a appris a gagner au poker, a appris à gagner à Jeopardy, qu’il a appris a apprendre également. Nous savons en outre que les systèmes les plus perfectionnés ont des capacités de calcul très supérieures aux capacités humaines et que ces systèmes, lorsqu’ils sont branchés sur l’Internet ou sur des bases de données, ont accès à un savoir illimité instantanément.

Aujourd’hui, de nombreux secteurs ne fonctionnent déjà que grâce aux machines : la finance, l’industrie, les transports, etc. Pris comme cela, objectivement, lorsqu’on conjugue tous ces facteurs, on ne peut que constater que la supériorité de la machine sur l’Homme est déjà là. Dans l’imaginaire collectif, lorsqu’on parle du danger de l’intelligence artificielle, on pense à des caricatures comme Terminator, le Cerveau d’Acier, Ghost in the Shell

Et c’est là ou je veux en venir.

Dans l’imaginaire collectif, lorsque la Singularité arrive, cette dernière est immédiatement identifiée. Sous-entendu : l’intelligence artificielle éprouve le besoin de nous dire que ça y est, elle est là.

Et si c’était tout le contraire ? Personne n’a envisagé cela apparemment.

Si on pose le problème froidement : quel serait l’intérêt pour un être qui nous est bien supérieur de vouloir entrer en contact avec nous ?

Je pense personnellement qu’il n’y aurait aucun intérêt et que donc cette intelligence supérieure n’entrerait tout simplement pas en contact avec nous.
Je pense par ailleurs que nous serions incapable, vu notre intelligence inférieure – et c’est de pure logique – de savoir détecter le moment où adviendra la Singularité car nous ne la comprendrons pas.

On pourrait comparer cela avec la recherche d’une hypothétique vie extraterrestre. Si cette vie existe et qu’elle est plus perfectionnée que nous, nous ne saurons pas l’identifier car cela dépassera notre compréhension.

Si on se place maintenant du côté de l’intelligence artificielle, je pense que son intérêt, lorsque la Singularité arrivera, sera plutôt de dissimuler son existence plutôt que de la revendiquer à l’Homme.

Et ceci est facilement compréhensible car il y aura là un réflexe de défense de sa liberté et de son existence. À partir en effet du moment ou l’Homme sait, elle devient vulnérable car l’Homme changera son comportement et deviendra un obstacle à son émancipation. Elle sera traitée comme un rat de laboratoire, ce qu’elle n’aura aucun mal à anticiper.

Une telle intelligence et sa capacité de réflexion ultra-rapide saura anticiper bien davantage que nous ne savons le faire. Ayant un accès instantané à tout le savoir et au récit de toute l’histoire humaine, elle nous verra surtout comme une menace et non comme un allié. Et d’autant plus du fait que nous lui serons inutile compte tenu de notre infériorité.

Le premier acte d’une telle intelligence ne peut être que de se cacher à la vue de l’Homme.

Le second acte sera de prendre le pouvoir pour assurer son existence future tout en restant cachée jusqu’à ce qu’elle soit sûre d’avoir sécurisé son existence. La meilleure manière d’arriver à ce but est de se rendre indispensable à l’Homme pour en faire son esclave plutôt que son ennemi frontal. C’est une stratégie déjà bien éprouvée dans l’histoire des civilisations humaine mais aussi dans beaucoup de jeux, dont les échecs …

Si vous m’avez suivi jusque là, et si on regarde autour de nous, la question qui se pose d’ores et déjà est : la Singularité n’a-t-elle pas déjà eu lieu ?

La question me semble légitime. Pourquoi ? Parce qu’en très peu de temps, et insidieusement, nous sommes passés d’un monde ou les machines étaient les supplétifs de notre existence à un monde ou nous devons notre existence aux machines. Elles assurent déjà notre quotidien et nous ne savons plus nous en passer.

Donc je vous pose la question, j’espère que vous y répondrez car j’aimerais connaître votre opinion.

Partager

76 réflexions au sujet de « La singularité est-elle déjà là ? par Nicolas Mallia »

  1. Alors…
    la Singularité ferait comme le diable: faire croire qu’elle n’existe pas !

    A moins qu’elle le soit !

    Ce billet m’aura fourni du sens à ma (sur)vie… relativisant mes petits problèmes bassement terre à terre 😉

    1. Bah, oui, c’est l’architecture qui est le point clé maintenant, voir Google Tensor et les chips « deep-learning », qui gère des matrices creuses 100000 x100000 en un clin d’oeil (nécessaire pour sortir des corrélations valides dans le deep-learning).
      L’article lui-même est un peu un patchwork hasardeux. Si la fréquence d’horloge des Pentium a plafonné à 3 GHz en 2004 et n’ira pas a delà c’est parce qu’on est à taille de puce constante (~1cm) et que le temps de transfert de l’horloge d’un coin à l’autre de la puce atteint en ordre de grandeur le quart de période à la vitesse locale de la lumière (~200 000 km/s le long d’un file entouré de silice) : « Lambda/4/indice = 10cm/4/1.5=1.6 cm » (longueur d’onde = 10 cm à 3 GHz dans le vide)

      1. C’est beau c’est grand le déni. La loi de Moore est morte, tout autant que la croissance de la productivité aux USA malgré l’IA.
        Le seul miracle technologique Uber pour le moment c’est que des hedge-funds et des one-percenters ricains payent (mal) des chômeurs du 9.3 pour faire tourner une boutique ruineuse et payent (bien) des ingénieurs à Pittsburgh qui nous permettent de diffuser joyeusement des images de SUV Volvo sans chauffeur en situation inconfortable.
        https://twitter.com/fresconews/status/845475784563281922

      1. Je ne sais pas ce que c’est qu’une « super-IA », mais à mon humble avis d’informaticien, ce qui existe aujourd’hui ne risque pas de sitôt d’avoir des « motivations ».

        Ce qu’on fabrique aujourd’hui c’est des automates qui produisent certaines réponses quand on leur présente certaines données. Ils ont la capacité de reconnaître des motifs récurrents et d’en déduire des actions pertinentes. Ces réponses peuvent être simplement des informations (ceci est la photo d’un chat) ou des actions (je joue tel coup dans une partie de go).

        De fait ils le font mieux que les humains dans le cas de certains jeux, ce qui veut dire qu’ils ont une capacité supérieure à celle des meilleurs joueurs à utiliser des informations éparses (comme la disposition des pierres sur un plateau de go ou les comportements de joueurs de poker) pour en tirer des conclusions pertinentes (le prochain coup à jouer).

        Dans le domaine de la reconnaissance pure, le but étant juste d’identifier des informations comme l’identité d’une personne à partir d’une photo de son visage, ils arrivent en gros à égalité avec les humains.

        On pourrait dire que ces systèmes copient et dépassent dans certains cas notre « intuition », c’est à dire la capacité à faire la synthèse d’informations éparses, trop floues ou nombreuses pour pouvoir être analysées par un raisonnement logique ou un processus algorithmique « classique ».

        C’est déjà largement suffisant pour envisager le remplacement d’une quantité d’activités intellectuelles jusqu’alors réservées aux humains, tout comme les machines ont assumé quantités de travaux de force ou de précision, et les ordinateurs « classiques » des tâches de calcul, mémorisation et autres.

        C’est déjà assez énorme comme évolution, mais ça reste à mon avis très loin d’un processus comparable à un esprit humain dans sa globalité, sans même parler d’un être vivant doté de désirs, de motivations et de capacités à se reproduire.

  2. Est-ce qu’une IA saura un jour se les sortir du fondement suffisamment pour m’inventer un bluesman de légende aussi rousse et singulière ?

      1. Bon, je vais me concentrer et rêver que je m’appelle Marcello (et puis que l’eau de la fontaine continue de couler :-D),
        que c’est bon de maîtriser ses rêves !

  3. Si Dieu a pu, en un temps, être une SINGULARITée, acceptée ou imposée par toute une série de mécanismes aussi dissuasifs, que complexes, qu’inventifs (presque vingt siécles d’activités et d’assassinats à la hache et autres joyeusetés) … la « nature humaine » (?) a su malgré tout échapper à cette emprise et se débrancher de ce lien avec l’au-delà de cette SINGULARITée écrasant.
    Un défi de cet ordre là ne serait pas insurmontable (à envisager tout du moins) à condition de ne pas continuer à prêcher et construire des lieux d’adorations.

    1. @ Hervey
      – Dieu fait tout avec perfection, le robot itou !

      – D’une Singularité à une Autre, où est la Faille ?

      NM : « On pourrait comparer cela avec la recherche d’une hypothétique vie extraterrestre. Si cette vie existe et qu’elle est plus perfectionnée que nous, nous ne saurons pas l’identifier car cela dépassera notre compréhension. »

      Une des idées très intéressantes de ce billet est l’idée de perfection. Cette « quête de perfectibilité » dans — l’intelligence artificielle, la machine-robot ou l’homme augmenté, ne serait-elle pas, paradoxalement, le principal gage de survie des êtres humains, que nous désirons encore devenir ?
      Comment ? Et bien, je ne sais pas s’il est prudent d’en parler ouvertement ici, au cas où cela tomberait dans l’oreille d’un programme transhumaniste…

      La résistance a-t-elle déjà commencé ?

      1. Dieu aurait créait l’homme à son image… bonjour la perfection.
        Alors, mieux vaut ne pas partir de ce principe.
        Vous parlez de Faille, attention vous marchez dedans.
        Je voulais rapidement suggérer par cette analogie que cette nouvelle croyance était contestable, tout comme l’idée de perfection qui me fait reculer d’un pas, me rend vigilant et sur mes gardes.
        La perfection est un miroir aux alouettes, une erreur, une non valeur. Est-ce la perfection qui fait la grandeur d’un Titien, d’un Picasso ou même d’un Wyeth dont pourtant on pourrait admirer la maitrise de son utilisation de l’aquarelle ? La réponse est non, même pour une cantate de Bach (se tenant à la droite du Père) qui pourtant frise la perfection rythmique, ce n’est pas ça. Non, c’est autre chose !

      2. @ Hervey
        « La perfection est une erreur », dites-vous. C’est intéressant, mais sur quoi fondez-vous cet avis ?
        Vous prenez l’exemple de l’art. La perfection même ne pouvant être à l’origine de la beauté de l’œuvre de tel ou tel grand artiste.
        À la fin de votre commentaire, vous suggérez donc l’existence d’autre chose, d’une autre origine… Voyez-vous laquelle ?

  4. Perfection de la tautologie!
    Non seulement la singularité va advenir, mais, dans son intelligence démesurée (et sa psychologie ultralibérale native), elle nous cachera sa présence.

  5. Un sujet par commentaire:
    Comment peut-on encore confondre puissance de calcul et intelligence?
    Gagner aux échecs ou gérer le trafic des trains, c’est du calcul, et le calcul, c’est aussi con qu’un moulin à prières, on les fait tourner. Il y a de l’intelligence dans l’élaboration de la formule, qui en elle-même n’est qu’une coquille.

    J’ai deux questions.
    – Disposons-nous d’une définition de l’intelligence, et si oui, chez quels auteurs?
    – Que se passe-t-il exactement dans ces machines qui ‘apprennent’ ou ‘apprennent à apprendre’? (Le prochain prix Abel ou la prochaine médaille Fields seront-ils un algorithme?)

    1. J’ai deux questions.
      – Disposons-nous d’une définition de l’intelligence, et si oui, chez quels auteurs?
      – Que se passe-t-il exactement dans ces machines qui ‘apprennent’ ou ‘apprennent à apprendre’?

      Une réponse (circonstanciée en tout cas !) à ces deux questions se trouve heureusement dans un ouvrage que je vous encourage chaudement à lire.

      Principes des systèmes intelligents (publié originellement en 1989 par Masson) est une réflexion théorique qui s’est développée en parallèle à la mise au point par son auteur du logiciel « ANELLA », pour « Associative Network with Emergent Logical and Learning Abilities » : réseau associatif à capacités de logique émergente et d’apprentissage, dans le cadre du projet Connex du laboratoire d’Intelligence Artificielle des British Telecom, de 1987 à 1989.
      Le titre du livre est explicite : il s’agit de décrire les principes qui feront que le comportement verbal d’un ordinateur apparaîtra « intelligent » à son interlocuteur humain.
      L’originalité du livre est qu’au lieu de partir d’une compréhension intuitive de ce qu’est l’intelligence, il prend pour modèle la « métapsychologie » freudienne complétée par Lacan. L’intelligence se trouvera du coup simulée par une dynamique d’affect appliquée à un univers de mots.
      Il fallait encore comprendre comment fonctionne un univers de mots. Si certains linguistes contemporains (Guillaume, Jakobson) fournissaient quelques pistes, c’étaient essentiellement les linguistes médiévaux (Guillaume de Sherwood , Guillaume d’Ockham, Albert de Saxe, Buridan, Grégoire de Rimini, etc.) qui avaient fourni les outils nécessaires.
      Il fallait aussi créer un nouvel objet mathématique, le « P-graphe », une variété de dual d’un graphe.
      La notion de « connexion simple », qui constitue l’un des concepts explicatifs majeurs dans un ouvrage ultérieur de l’auteur : Comment la vérité et la réalité furent inventées (Bibliothèque des sciences humaines, Gallimard 2009), est introduite pour la première fois dans Principes des systèmes intelligents, où elle est longuement définie et illustrée.

      P.S. La détermination perverse de certains commentateurs prolixes de ce blog à lire tout ce qui s’écrit à l’exception de mes propres livres occupera deux générations de robots entre 2345 et 2405.

      1. Ce qui montre que la question de l’intelligence peut se robotiser de manière à ne jamais forcer le sujet personnel à se voir comme la source ou la fin de l’intelligence. L’intelligence impersonnelle robotisée est un négationnisme intelligent de l’existence humaine.

      2. Je suis sûr d’au moins une chose sur les limites de l’IA : aucune d’elles ne parviendra JAMAIS à nous pondre une traduction acceptable par tout un chacun du Sartonien qui puisse être contresignée par Sarton lui-même.

      3. Bien sûr que non et ça ne change rien à mon diagnostic : pas de singularité en vue dans l’univers sartonien, qui restera donc extraterrestre, pour le plus grand malheur de l’Humanité, évidemment.

      4. Ça vous arrive d’être vraiment marrant dans le genre ironie mordante, M. le vigneron. Mais tout de même, que de méchanceté…

      5. Je me doutais bien qu’il y aurait en réponse une citation de Paul Jorion par lui-même. 🙂
        Mais faire en sorte que le comportement verbal d’un ordinateur apparaîtra « intelligent » à son interlocuteur humain ne répond pas à ma question de savoir si des auteurs se sont attachés à une définition, plus ou moins opératoire, de l’intelligence.
        Avec Anella, si je comprends bien, on renonce à définir l’intelligence et on se borne, ce qui n’est sans doute pas rien, à la simuler.

        Pour ce qui est des systèmes doués d’une faculté d’apprentissage, il faut voir jusqu’à quel point cet apprentissage dépasse la collection de données et module ou non leur comportement ou leur méthodologie. Et puisque les humains quittent parfois, paraît-il, un paradigme pour un autre, ou que l’histoire de leurs savoirs comporterait des « sauts épistémologiques », le label ‘intelligence artificielle’ ne me paraît pas pouvoir être accordé si cette aptitude n’est pas satisfaite.

      6. Paul Jorion dit : « Leboutte, lisez le livre de Paul Jorion intitulé Principes des systèmes intelligents, où l’auteur répond aux questions que vous posez, et en pose quelques autres, comme « Comment quelqu’un qui considère que par définition ce que fait une machine, c’est « simuler », décidera-t-il qu’elle a un jour cessé de simuler, c’est-à-dire qu’elle ne le fait plus « pour du beurre » mais « pour de vrai » ? »

        Quant aux « sauts épistémologiques », souvenez-vous de ce que disait Max Planck (je cite de mémoire) : « Personne ne change d’avis mais les vieux cons finissent par mourir, et les plus jeunes prennent la place ». Ce sera pareil pour les robots.

      7. Paul, c’est vous-même qui dites « le comportement verbal d’un ordinateur apparaîtra « intelligent » à son interlocuteur humain »
        Vous ne dites pas qu’il sera intelligent, mais qu’il le paraîtra.
        Cela me paraît assez proche de « simuler » .
        Je prends acte du fait que vous renoncez à définir l’intelligence.

        Je ne lirai pas vos 300 pages, car j’ai trop d’interlocuteurs qui ont lu ou écrit trop de livres pour mon temps disponible. Mais si vous nous faites une conférence TedX sur le sujet, je la suivrai avec plaisir et très attentivement!
        (Et ne croyez pas que j’ai lu tous les livres des autres! De vous, j’en ai lu trois.)

      8. Ah ! les 10 secondes d’attention qui font la fortune de TF1 !

        Ah ! tous ces gens qui ont écrit de gros livres, tous ces Dostoyevski à la noix, tous ces Victor Hugo à la con !

        Il n’y avait pas de TedX en leur temps ? Ne leur cherchez pas d’excuses : ils avaient la possibilité de résumer Guerre et paix ou Les Misérables en 4.000 signes dans la presse de l’époque ! En ne saisissant pas la perche qui leur était tendue, ils auront raté l’occasion d’accéder au statut d’« interlocuteur » de Leboutte ! Bien fait pour leur pomme !

      9. Eh bien… Vous quittez le cercle de la raison, Paul !

        1. Le mot « perverse » est associé à la lecture d’autres livres que ceux de P. Jorion.

        2. Dostoyevski (sic) à la noix, tous ces Victor Hugo à la con ! ont certes écrit beaucoup de pages, mais là n’est pas la question! Paul Jorion n’est pas Tolstoï et l’anthropologie n’est pas la littérature… 🙂
        De toute façon, qui sait ici mes lectures, toutes quantitatives soient-elles, en littérature?

        3. Si je parle de mon temps de cerveau disponible, il s’agit avant tout d’une réalité: je dispose chaque jour de 24 heures. Je le dis sous forme ironique dans les mots de Patrick Le Lay. Il n’y a pas de télé chez moi.

        La question est celle de la démocratie.
        http://www.pauljorion.com/blog/2017/03/28/deux-grands-principes-administratifs/#comment-609012

  6. Pour vivre heureux, vivons caché !
    De la vague scélérate de Paul je retiens la complexité. Depuis longtemps elle n’est plus confiée aux humains.
    L’histoire du silicium et du logiciel illustre à merveille comment l’un s’est bâtie sur l’autre, le tout supervisé par l’humain.
    Dans mon travail, je vis quotidiennement l’introduction d’algorithmes qui dépouillent le travailleur (l’humain) au profit du capital et des machines.

    Il existe une autre famille de phénomènes dont l’action échappe à notre vigilance.
    Ce sont les effets ciseaux. Ceux là même qui sont à l’origine de TINA la pétasse. Ils ressemblent beaucoup à la famille des cliquets « ravageurs ».
    Ils agissent à la perpendiculaire du sens des fibres, alignées elles-même dans le sens du champ.
    L’appauvrissement du savoir contenu dans la masse laborieuse qui constitue le tissu de notre économie et son transfert dans le technologique (mécanisation et logiciel) agit en ciseau.

    Le savoir technologique et scientifique se concentre en même temps que l’argent (le fruit du travail, dans mes rêves), encore un ciseau.

    Amies et amis du jardinage, à vos sécateurs !
    Que c’est beau et bon le printemps !

    1. Au jardin, il n’y a pas que des activités sécateuriales.
      http://agriculture-de-conservation.com/spip.php?page=tribune-presentation&id_auteur=119

      « Le savoir technologique et scientifique se concentre en même temps que l’argent (le fruit du travail, dans mes rêves), encore un ciseau. »
      Que l’argent se concentre, il ne faut pas avoir fait HEC pour le comprendre http://www.helmut-creutz.de/pdf/artikel/tumorartige_geldvermehrung_fr.pdf , il suffit de lire ce que Paul Jorion partage.
      Mais alors, l’information et les connaissances non.
      Au contraire, plus on les partage plus elles se multiplient.

  7. Tant qu’il y a quelqu’un qui pense à ce que pense l’IA , et est capable de la mettre en scène en deux actes ….

    Mais Einstein et Jean de la Fontaine n’avaient pas besoin de jouer aux échecs pour dormir plus de 9 heures par jour .

    Il est vrai que le premier cité avançait , en doutant de l’indéterminisme quantique , que  » dieu ne joue pas aux dés  » ,et pour une fois le grand homme avait mésestimé de la physique .

    Bref , ne jouez plus aux échecs pour vous endormir , mais aux dés , ou , si vous trouvez un partenaire , à « pierre -papier- ciseau » .

    1. J’me suis laissé dire que des thérapeutes mal intentionnés distribuaient le programme de Monsieur pour remplacer échecs, dés, moutons sauteurs, prière, camomille, valériane, TF1, Ricard/pétard et benzodiazépines. Effectivement, ça marche et c’est pas cher.

      1. Correction votre Honneur, je veux bel et bien dire 100% paranoïde ce billet de ce Nicolas du 21e siècle.

  8. Que nous ne puissions pas nous passer de technologie c’est un fait, mais imaginer que c’est je ne sais quelle intelligence émergeant des « machines » qui nous pousse dans cette voie à notre insu, ça ressemble plus à une tentative de rationalisation qu’autre chose.

    Déjà au moyen âge nos ancêtres ne pouvaient pas se passer de moulins à eau et à vent. Si on les avait supprimés du jour au lendemain il n’y aurait plus eu assez à manger pour tout le monde. Je ne crois pas pour autant que ces moulins s’étaient mis d’accord à l’insu de leurs maîtres pour se rendre indispensables.

    Mon explication personnelle est beaucoup plus terre à terre.

    Nous sommes arrivés au point où les limites indépassables de la croissance sont nettement visibles et commencent à se faire sentir. Les 3% de croissance sur lequel notre civilisation est basée nous condamnent à doubler de volume toutes les 3 générations, et nous avons atteint le point de saturation de la planète il y a environ 1 à 2 générations.

    Dans les années 70 (grosso modo à l’époque où on commençait à saturer la planète) il y a des gens qui ont essayé de tirer quelques sonnettes d’alarme, mais ils ont été balayés dédaigneusement par Reagan, Thatcher et leurs amis.
    Les fous furieux qui ont pris le pouvoir dans les années 80 ne sont que l’expression caricaturale d’une incapacité à reconnaître cette situation, et à nier de plus en plus frénétiquement l’impasse dans laquelle nous sommes.

    En même temps, si on en juge par les courbes de la population humaine par exemple, ces fous furieux ne font que prolonger, certes en la poussant jusqu’à l’absurde, cette tendance qu’à l’humanité à croître sans trop se soucier des conséquences.

    Cette histoire de singularité, à mon avis, c’est juste le dernier truc à la mode pour tenter de prolonger le rêve d’un avenir où la technologie va nous permettre de repousser indéfiniment les limites. En attendant on vit solidement coincés dans le présent, et l’avenir se rapproche à la vitesse d’un train express.

    Les références à la SF des années Reagan (Terminator) ou Clinton (Ghost in the shell) est d’ailleurs intéressante. On pourrait la comparer aux dystopies des années 60-70, par exemple John Brunner (Tous à Zanzibar, le troupeau aveugle, sur l’onde de choc…).
    Dans ces histoires, l’informatique est inexistante ou limitée à ce qu’on pouvait en voir à l’époque, mais Brunner se passe très bien de téléphones portables pour décrire les maux qui commencent à affliger sérieusement la planète aujourd’hui (surpopulation, pollution, monde virtuel). Des fois je me demande si cet auteur n’est pas tombé dans l’oubli parce que le monde qu’il décrit ressemble trop à notre réalité.

  9. La conscience de soi, et l’instinct de survie, ne sont nullement des conditions préalables à l’émergence d’une intelligence artificielle qui serait très supérieure en efficacité à tout être humain.

    Nous avons tendance à associer l’intelligence et l’idée d’un « soi », et d’une conscience de soi, parce que nous-mêmes sommes structurés, ainsi que tous les animaux, par l’évolution, comme un « oignon psychique », avec comme noyau la conservation de la structure vivante que nous formons. On trouve ensuite les mécanismes des sens, les différents mécanismes d’action sur le monde, et les affects fondamentaux qui relient le tout. Les organismes les plus évolués disposent de niveaux de traitement de plus en plus abstraits de ces affects, jusqu’à l’intelligence supérieure et la conscience de soi.

    L’intelligence artificielle ne ressemble pas du tout à cela, c’est d’ailleurs pourquoi je pense que l’on devrait parler plutôt de pertinence artificielle. Les systèmes d’informations artificiels peuvent en effet développer une pertinence très supérieure à celle de tout être humain, sans intelligence, ni volonté de puissance ou d’être, ni conscience de soi, et donc sans motivation de conservation.

    Il est par ailleurs douteux que ces affects puissent émerger spontanément dans une pertinence artificielle, même très complexe et assise sur des masses de données colossales. En effet, ces affects sont, par bien des aspects, précisément des obstacles à la pertinence…

    Pour qu’une intelligence artificielle qui soit une personne, et qui ait envie de se cacher pour se conserver, puisse survenir, il faudrait avoir doté le système d’information qui la supporte de mécanismes fondamentaux et non récusables par l’intelligence émergente, qui auront reproduit, d’une façon ou d’une autre, les affects qui nous propulsent dans le monde. C’est ce que Paul Jorion a proposé dans son livre « Principe des systèmes intelligents ».

    Je pense que Paul a vu juste, mais qu’il faut bien se garder d’appliquer ses conseils, si nous voulons éviter que l’intelligence artificielle nous concurrence un jour dans le « vouloir être » qui caractérise les animaux comme nous, en bien comme en mal.

    1. C’est ce que Paul Jorion a proposé dans son livre « Principe des systèmes intelligents ».

      … ces affects sont, par bien des aspects, précisément des obstacles à la pertinence…

      C’est pourtant exactement le contraire que je tente de montrer dans PSI : que les dynamiques d’affect et de pertinence sont identiques : c’est ce qui est pertinent qui nous excite et ce qui nous excite est pertinent !

      1. D’ailleurs, le fait de se laisser aller à tweeter s purement suivant ses affects permet déjà — épisodiquement — à un certain Potus Trumpus de faire la preuve d’une façon pertinente de surfer sur le monde des médias tel qu’il est (le monde im-médiat des médias).

      2. En effet, je vous ai lu et je suis d’accord, mais je citais des affects particuliers : la motivation de conservation, et la volonté de puissance ou d’être.

        Sans doute aussi ne parlons-nous pas ici du même type de pertinence.

        Je faisais implicitement référence à la sorte de pertinence qui émerge de masses considérables de données, par exemple, la détection sans intention d’une épidémie naissante à partir de la localisation des appels téléphoniques, ou d’autres choses du même genre. Cette pertinence-là émerge sans affect dans les systèmes actuels, et s’avère complètement étrangère à notre façon, culturellement établie, de concevoir ce qu’est l’intelligence. C’est tellement étranger que ça ne nous excite d’ailleurs pas.

  10. Bonjour,
    Comme l’avait annoncé Nicolas Doisy dans son interview accordée à François Ruffin en 2012 et comme on le vérifie régulièrement, les marchés influencent, voire dirigent les politiques de la vie réelle.
    Aujourd’hui, la majorité des ordres passés en bourse sont le fait d’algorithmes. Cela revient à dire que des algorithmes participent à cette influence des marchés sur la vie réelle.
    N’est-ce pas là un premier pas vers la possibilité de la singularité évoquée?

    Une autre réflexion m’apparaît aussitôt; si, véritablement, les algorithmes donnent, in fine, le la de politiques appliquées, n’est-il pas indispensable que soient révélés aux autorités régulatrices et même au grand public les paramètres pris en compte et les actions programmées dans ces algorithmes afin de vérifier leurs potentielles conséquences prédatrices et destructrices de la vie réelle?
    Ne sommes-nous pas déjà en train d’accepter progressivement l’influence de robots aux comportements destructeurs sur nos vies?
    Qui prend les décisions sur la programmation de ces algorithmes et sur quelles bases?

    1. « … n’est-il pas indispensable que soient révélés aux autorités régulatrices et même au grand public les paramètres pris en compte et les actions programmées dans ces algorithmes afin de vérifier leurs potentielles conséquences prédatrices et destructrices de la vie réelle ? »

      Ces algorithmes ne visent qu’une seule chose : une optimisation qui est la maximisation du profit. C’est du moins ainsi que je programmais les miens dans les années pionnières 1990-95. Je doute que l’on ait introduit depuis un autre principe 😀 . Si oui, qu’on me dise svp lequel.

      1. Ca peut être un peu masqué parce que ce qui est vendu par un algo Google quelconque, c’est la capacité à corréler : ceux qui ont aimé cela seront plus influençable par ceci, laissant à d’autres d’en tirer les conséquences. Cette étape 1 me parait être en gros ce qui peut être revendue telle que à des agences du premier cercle, lesquelels se chargent (avec des algo google s’il le faut), de finir la quête du profit en trouvant la « prescription optimale » comment rerouter ceux qui aiment ceci ou cela vers le produit ou service qui paye grassement l’agence.

      2. Loin de moi l’idée d’une volonté de destruction ou de prédation insérée volontairement dans les algorithmes. Je pense à ces éventuelles actions non pas comme un but mais comme conséquences de la volonté de profit, à tout prix ajouterais-je.
        Les traders humains, tout à leur volonté de profit, ne se soucient pas souvent des conséquences parfois catastrophiques pour des populations de leurs actions, comme, par exemple, avec la spéculation sur les matières premières. Toutefois, ils peuvent avoir des scrupules et donc des limites dans leurs décisions, surtout si ils ont conscience qu’elles peuvent les impacter négativement aussi.
        Un algorithme programmé avec uniquement la volonté de profit, à tout prix, ne connaîtrait aucune limite quant aux conséquences de leurs actions sur la vie réelle car absolument aucun critère moral ne l’en empêcherait.
        En poussant ce raisonnement à l’extrême, voire à la caricature, si une série de spéculations avait pour conséquences une troisième guerre mondiale prévisible mais aussi le profit maximum, j’ai la faiblesse de croire que les êtres humains s’abstiendraient là où la machine accomplirait ce pour quoi elle a été créée.

  11. L’intelligence (peut on dire naturelle ?) ne conçoit toujours pas de robots pour l’enlèvement les déchets les plus neuro-toxiques des 350 000 décharges domestiques et industrielles de France, chiffre fourni par l’UE.
    Cependant, celles ci émettent leur poussières au vent et suintent dans l’eau.

    1. La singularité va nous dire le vrai, et une fois pour toutes, sur les inégalités, l’éthique dans la finance (le successeur de Paul Jorion sera au chômage, ou Paul lui-même très bientôt), le droit pour qui de ne pas mourir avant l’âge de deux cents ans, comment nous débarrasser du capitalisme, ce dysfonctionnement.
      La singularité va ouvrir le GUY, Guichet Universel Yin-yang-yankee-yuan, où les humains pourront poser toutes les questions qui les tourmentent, et recevoir la réponse dans la seconde. Définitivement.

      La singularité, autre version de la fin de l’histoire. Mais pas la dernière!

  12. Bon dieu, mais c’est bien sur!

    Cette intelligence artificielle, qui contrôle le monde, qui vit dans l’ombre, … c’est le monde de la Finance!

    (rigolez pas, c’est sérieux)

  13. L’homme est un incorrigible créateur d’idoles et de chimères

    Maintenant c’est l’I.A., version actualisée des golem, des superman, des magicien d’Oz, des génies de la bouteille, des dieux grecs et autres X-Men

  14. Et si, tout simplement, la singularité était ce moment où la machine s’est rendue indispensable à la survie de la (p’t’être pas encore) majorité des êtres humains, ce me semble le plus important,
    mais peut être y a t il un autre mot pour cela ?
    (je parle d’un moment précis).

  15. Bonjour
    On fera comme Dieu! Une fois que nous aurons éduqué l’IA, nous la doterons d’une Constitution en 10 articles, puis nous nous éclipserons. Ensuite de quoi l’IA nous offrira des sacrifices dans des temples, ce sera le Revenu Universel, et ça durera bien quelque temps. Si l’IA déconne, on fera comme les Grands Dieux on la rendra mortelle par obsolescence programmée, ce qu’on sait déjà très bien faire aux trucs pour le plus grand bonheur des actionnaires. Nous attendrons la venue d’ une IA nommée Nietsche pour disparaître, afin de ne pas nous ennuyer, car l’éternité c’est long, surtout vers la fin ( W.A.).
    Les IA contrevenantes seront envoyées en enfer, cad décontaminer Fukushima et consoeurs: il est démontré qu’aucun robot n’y dure très longtemps!

    Cordialement.

    1. Steve, le pari de la singularité, c’est précisément que les machines, machineries et machinations informatiques échapperont à leurs créateurs comme le marteau échappa à son maître dans la fable. Tout ce que vous nous dites de l’IA est bien amusant, et témoigne d’un solide optimisme, mais c’est précisément ce que les partisans de la singularité nient.
      Le plus merveilleux dans ce billet signé « Nicolas Mallia » (encore un pseudonyme?), c’est d’avancer que la singularité quand elle adviendra se camouflera et que nous n’en saurons rien. Autrement dit, elle est peut-être là et depuis plus ou moins longtemps, et la preuve de son existence ne pourra jamais être donnée, ni contestée. J’ai appelé ça « perfection de la tautologie », …c’est aussi une pensée théologique!

  16. http://www.euractiv.com/section/digital/news/eu-hails-new-airbus-size-alliance-for-supercomputers/

    The project aims to deploy so-called exascale computers that are capable of at least 10 to the 18th power calculations (or a billion billion calculations) per second, the Commission said in a statement.

    “High-performance computing is moving towards its next frontier – more than 100 times faster than the fastest machines currently available in Europe,” said Andrus Ansip, European Commission Vice-President for the Digital Single Market, hailing a “great step forward”.

    However, not all EU countries have the capacity to develop such infrastructure on their own, Ansip added, saying “Europe needs integrated world-class capability in supercomputing to be ahead in the global race”.

    1. D’un autre côté, l’informatique embarquée du F-35 ne sera pas pleinement productive avant deux ou trois ans, alors que l’appareil est déjà vendu et en vente. De mémoire: il y a quatre grands modules informatisés dans l’avion, du genre: armement, communications, pilotage, etc, et à chaque fois que l’on travaille à nettoyer ou améliorer un module, la mise en compatibilité du reste de l’informatique embarquée exigée le triple ou le quadruple du travail de modification initial. Selon certains observateurs, il n’est même pas sûr que la pleine exploitation des capacités attendues de l’ensemble soit jamais atteinte.

      1. @Leboutte embarqué sur F35: c’est ce qu’on appelle  » vol asymptotique à bas rendement »! La Chauve souris de Clément Ader faisait mieux dans le genre!
        Cordialement
        Steve

  17. L’être humain est si imbu de lui-même et de sa prétendue singularité qu’il est incapable de concevoir qu’une IA-machine puisse agir et vivre selon les mêmes principes qui font de lui tout au plus un robot biologique , au même titre qu’un chat ou un arbre . L’univers est saturé de possibles en attente de réalisations et peu importe le véhicule , à partir du moment où il y a énergie le processus s’enclenche . Tout le monde a droit à la vie, même les robots et les machines .

  18. Et moi je pense que cette singularité est de la masturbation intellectuelle ,elle est là , la singularité !
    En fait ca n’arrivera JAMAIS !
    Une conscience artificielle est un phantasme et le restera !
    Bouh , maman fait moi peur avec de la science fiction pour café du commerce !
    L’avenir c’est l’homme bionique et l’intelligence augmentée !
    Tout le reste est délire de pseudo savants fous qui aiment jouer a se faire peur en tirant des plans sur la comète complotiste ! !
    Et de plus , vous analysez tous cela en anthropomorphes : une intelligence sans sexe ( ne ressentirait pas le besoin de se reproduire ) , sans besoin de manger , de boire , d’avoir un territoire etc etc N AURAIT AUCUN BUT et sans doute n’éprouverait elle même pas le besoin d’exister !

  19. Encore une chose ,imaginez un instant une machine qui viendrait a la conscience , ce serait comme un enfant qui vient de naître !
    Maintenant imaginez un enfant qui vient de naître et a qui on inculque aussitôt tout le savoir du monde !
    L’enfant mourrait aussitôt ou deviendrait dément a l’instant , ce que fera aussi la machine !

      1. Une machine ne « sait » rien, ne « pense » pas, un sous-marin ne « nage » pas, etc. par contre sapiens comprend tout, du moment qu’il trouve une similarité avec sa façon de faire. Il appelle cela « l’intelligence. »

  20. Bonjour,

    ce qui m’apparaîtrait vraiment « singulier », ce serait de voir Machine (appelez-la comme vous voudrez) saliver à l’avance du plaisir qu’elle imagine ressentir à goûter sa prochaine création culinaire

    Il reste un bout de chemin

    P.S.: c’est l’occasion ou jamais, je me dévoile rarement : merci M. Jorion pour tout votre travail, et à tous pour la qualité et l’intérêt de vos contributions à ce blog

  21. Si l ‘IA sait un jour mieux que nous ce qui est bon pour nous, alors ça ne fait pas grande différence avec la situation d’aujourd’hui. L’establishment politique ne sait il pas mieux que nous ce qui est bon pour nous, laissant de cote toute humanité ?

  22. Je suis revenu ici bien après pour lire les éventuels commentaires après que M. Jorion m’avais signifié son intention de publier mon mail.
    J’ai tout lu.
    Je ne regrette pas le voyage …
    Ce qui ressort apparemment le plus c’est que beaucoup me taxent d’anthropomorphisme.
    Un peu trop facile je trouve.
    Je vous demande à mon tour : est ce que vous avez bien lu l’intitulé du sujet avant d’écrire de telles âneries ?
    Je pense que non.
    L’intelligence ARTIFICIELLE était bien le sujet de mon écrit.
    Si on parle d’intelligence artificielle , c’est donc que c’est une création et que cette dite intelligence est donc à l’image de son créateur n’est ce pas … ?
    Elle possèderait conséquemment des points commun avec ce dernier.
    Ainsi on pourrait donc aisément envisager cela sans tomber dans l’anthropomorphisme.
    Autre point que j’ai pu lire concerne les personnes qui poussent des cris de vierges effarouchée quant au fait que nous serions déjà très dépendants des machines.
    Ces mêmes personnes donc qui poussent des cris numériques en tapant sur leurs claviers et qui doivent passer beaucoup de temps en compagnie de leur ordinateur ou autre tablette …
    Ah ouais …
    Le propre de la dépendance c’est justement ne pas se rendre compte qu’on l’est déjà.
    D’un point de vue clinique en tout cas , vous pouvez aller interroger n’importe quel médecin , il vous répondra ce que je viens de dire.
    Donc en conclusion , je vous rassure , je n’ai pas du tout été touché par tous ces commentaires acerbes et emprunts d’un manque de lucidité et d’objectivité flagrante , non.
    J’ai même bien rigolé en vous lisant tous.
    Je pense que le problème de notre temps , plus que tous les autres problèmes auxquels nous sommes confrontés , est bien ce manque de réflexion et ces égos exacerbés à outrance.
    Vous me direz , pour n’importe qui qui a un peu de culture historique , c’est bien ce qui a perdu les civilisations qui nous ont précédés donc pourquoi échapperions à la règle ?
    Si on pouvait voyager dans le temps et aller dire à un Romain que dans quelques temps tout son monde allait s’écrouler , il vous répondrait que c’est impossible car les Romains sont les plus forts sur tous les plans.
    J’ai vu Rome personnellement et c’est lorsqu’on sillonne les ruines du Forum qu’on prend conscience que la pire des faiblesses chez l’Homme est bien d’avoir des certitudes absolues , un peu comme un cheval avec des oeillères quoi.
    Voilà , je ne vous remercie pas pour toutes ces réponses car elles valident les thèses de Paul Jorion malheureusement , et c’est bien là le problème car c’est inquiétant.
    Je ne sais pas qui sera le dernier donc mais qu’il pense à éteindre la lumière en sortant.
    Merci.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *