L’Écho – L’intelligence artificielle : mythe ou révolution ? le 2 août 2019

Ouvert aux commentaires.

L’intelligence artificielle entre mythe et révolution ?

Qu’en est-il de l’intelligence artificielle ou « IA » ? N’aura-t-elle qu’une influence modeste sur notre vie quotidienne ou constituera-t-elle une authentique révolution ?

Les deux opinions se rencontrent bien sûr parmi les personnes peu informées mais, plus surprenant, on les entend aujourd’hui également dans la bouche d’experts. Certains d’entre eux affirment que nous sommes proches de la « Singularité », le moment où les machines seront devenues à ce point plus intelligentes que nous qu’elles ne chercheront plus à nous consulter, et où nous, êtes humains complètement déboussolés, leur confieront des décisions essentielles pour notre avenir. D’autres spécialistes déclarent que l’expression « intelligence artificielle » à son stade actuel d’avancement, n’est rien de plus que du battage médiatique.

Qui a raison, qui a tort ? S’agit-il simplement d’une de ces questions du type « verre à moitié vide ou verre à moitié plein ? », où c’est le tempérament de celui qui s’exprime, morose ou enthousiaste, qui détermine son opinion ?

Pour répondre à la question, examinons les faits. Et pour commencer, une brève histoire de l’IA.

En 1957, Frank Rosenblatt met au point sur un ordinateur IBM le premier logiciel s’efforçant de mimer un réseau de neurones tel qu’il existe dans notre cerveau. Il l’appelle « perceptron ». Ce logiciel permet de reconnaître un objet. Après une période d’apprentissage durant laquelle la machine dit si oui ou non une image représente, par exemple, un chien, et où on la corrige en cas d’erreur, la machine cesser de se tromper.

En 1969, Marvin Minsky, membre du petit groupe qui en 1956, au Dartmouth College, avait inventé le terme d’intelligence artificielle, et Seymour Papert, célèbre pour avoir inventé le langage de programmation Logo permettant aux enfants de se familiariser avec l’informatique, publient conjointement le livre Perceptrons visant à prouver que ces réseaux de neurones artificiels sont sans avenir car incapables de faire certaines opérations élémentaires (le ou « exclusif » : soit X, soit Y, mais pas les deux). La recherche sur ces outils s’interrompt. On parlera plus tard pour cette période, d’« hiver de l’IA ». En 1986, un livre intitulé Parallel Distributed Processing (traitement distribué parallèle), publié par David Rumelhart et James McClelland, relance la recherche sur les réseaux neuronaux. Les progrès dans l’usage de ceux-ci seront désormais constants. L’IA est véritablement lancée.

Ne s’était-il rien passé durant l’« hiver de l’IA ». Si, mais elle progressait dans une autre voie, appelée « symbolique », mobilisant des méthodes statistiques essentiellement, de la gestion de base de données ainsi que la logique formelle, un modèle de la logique humaine qui l’assimile à un objet mathématique (un « treillis orthomodulaire »).

Où en sommes-nous aujourd’hui ? Nous savons désormais combiner efficacement la simulation du fonctionnement du cerveau humain (en tirant parti de la capacité de l’ordinateur à représenter des objets où un très grand nombre d’éléments sont interconnectés), et les procédures symboliques (en tirant parti de la vitesse de l’ordinateur : 1 million de fois plus rapide que le cerveau humain).

La robotique nous a remplacés d’abord dans le travail de force, ensuite dans les tâches réclamant une très grande précision, éventuellement à l’échelle microscopique, l’IA nous remplace petit à petit dans le travail intellectuel.

Quelques illustrations de la puissance de l’IA actuelle par rapport à notre propre intelligence.

Le logiciel AlphaGo a battu les champions humains au jeu de Go. Il a appris en rejouant des milliers de parties dont le déroulement avait été enregistré. Son successeur, AlphaZero, est plus fort qu’AlphaGo. Il a appris le jeu en se défiant lui-même, à partir seulement des règles du Go. Il a découvert ainsi des stratégies gagnantes inconnues des humains, soulignant qu’il y a chez nous une culture du « bien jouer » contenant une bonne part de préjugés. Par contraste, la machine a un jeu qui apparaît « audacieux » et adopte des stratégies jugées naïves – apparemment donc à tort – par la tradition entourant le Go.

Dans Pluribus, un logiciel ayant récemment battu dans des parties à six, les meilleurs champions de poker, les programmeurs ont complété le réseau neuronal par des fonctions où une capacité massive de calcul joue un rôle décisif. L’IA simule ainsi au hasard à partir de l’état présent du jeu des milliers de coups dont elle mesure l’efficacité. Elle n’attribue pas aux cinq joueurs qui lui sont opposés une stratégie particulière mais en simule 4 différentes pour chacun d’entre eux.

Autre supériorité sur nous, la machine n’est pas limitée dans le multi-tâche : la capacité à réaliser des tâches en parallèle. Dans une partie récente, AlphaStar, l’IA battant les champions du jeu vidéo StarCraft, a instantanément redistribué ses troupes en cinq unités distinctes parfaitement coordonnées, sidérant le champion humain qui l’affrontait.

Alors, l’intelligence artificielle : mythe ou révolution ? À chacun de juger.

Partager :

74 réponses à “L’Écho – L’intelligence artificielle : mythe ou révolution ? le 2 août 2019”

  1. Avatar de Peska
    Peska

    Et l’être humain : homme libre avec ses projets de bonheur ou bien serf œconomicus pour l’éternité ?

    1. Avatar de Lucas
      Lucas

      À l’I.A d’en décider.
      À Certains programmateurs aussi.
      Pour un Homofierelibrus …

  2. Avatar de Maxfriend
    Maxfriend

    La question qui me taraude concernant l’IA est : en est-on ou en sera-t’on un jour au stade ou cette IA sortira du cadre de la logique humaine « augmentée » :
    Le jeu de Go a été inventé par un ou des humains, pas par la machine. Néanmoins si on la laisse s’emparer des règles que nous avons établi, elle nous bat invariablement. Idem pour tout les jeux, idem pour le diagnostic médical et tutti quanti. Mais l’IA ne propose rien de nouveau spontanément, l’impulsion initiale semble toujours d’ordre humaine, programme, domaine de travail… Vrai, faux ou vrai aujourd’hui et probablement faux demain ?…
    Est-ce qu’une IA ayant autorité aurait laissé Donald arriver au pouvoir ? les humains oui.
    Est-ce qu’une IA ayant autorité validerait ou invaliderait les projets pour Mars ? Projet humain, mais une IA nous l’aurait-elle proposé ?

    1. Avatar de Jacquot
      Jacquot

      Pour prendre un exemple extrême, si les IAs actuelles à apprentissage profond et réseau de neurone, capables de trouver des solutions nouvelles à des problèmes bien délimités, avaient déjà existé dans les années 1940, Hitler en aurait peut-être utilisé une pour concevoir une manière d’exterminer les juifs européens encore plus affreusement efficace que celle qui fut historiquement utilisée. Cette IA n’aurait été utilisée que comme un outil, ce sont des hommes qui auraient choisi l’objectif et décrit l’environnement dans lequel cet outil aurait pu trouver des méthodes nouvelles.

      D’une manière générale, que ce soient des objectifs valables voire salutaires, ou – espérons jamais ! – des objectifs criminels, ce sont toujours des hommes qui les définissent. Et l’IA n’a que le rôle d’un outil de recherche de solutions. Un outil intellectuel, un outil qui peut être véritablement impressionnant… mais un outil seulement.

      Élire Untel ou un autre, choisir tel projet ou tel objectif… ce sont des questions politiques. Des questions d’objectif, des questions humaines.

      1. Avatar de PDI
        PDI

        En fait, les avancées technologiques c’est un peu comme augmenter le niveau d’énergie potentiel de création/destruction de notre civilisation. A nous de maintenir intelligemment l’équilibre des forces en jeu.

      2. Avatar de JL
        JL

        C’est sûr une utilisation criminelle de l’IA serait terrible, car presque indétectable, sauf par une autre IA, ce qui nous envoie directement vers la surveillance généralisée. Car si l’Etat doit tout surveiller, pour détecter le crime…

        Quant à une utilisation de l’IA par des firmes à des fins de marketing, ou d’optimisation financière, ou d’optimisation de ses marchés, nous les hommes pourrions alors vivre dans une totale illusion de ce qui se passe, et il se tramerait des choses, jusque contre notre santé, à notre insu.

        On peut parier que les ententes illicites se multiplieraient, à notre insu, au fin fond d’un logiciel de Machine Learning, peut-être même sans que les initiateurs en soient informés.

        Pour moi l’IA si j’ai bien compris ce que c’est, devra être sérieusement encadrée, et internationalement.

  3. Avatar de Hervey

    Je ne sais pas pour qui elle roule mais elle marche à quoi l’IA ?

    1. Avatar de daniel
      daniel

      L’IA? Tout dépend de l’arène du jeu.

      J’voulais apprendre le jeu de go… si c’est finalement pour me faire battre par de l’IA, j’abandonne.
      Pour le poker, ma mère m’a toujours dit que c’était un jeu de gangsters, imbibés d’alcool et de nicotine, un Borsalino sur la tête, la nuit dans une chambre d’hôtel douteux. C’est donc plus facile à l’écarter.

      J’vais en rester au jeu de Tarot, la subtilité pas la force. Sûr que ces idiots d’anglo-américains ne connaissent pas…

      1. Avatar de Jacquot
        Jacquot

        Concernant le tarot… comment dire.

        Si des chercheurs en IA ont pu concevoir et paramétrer un réseau de neurones pour jouer de façon surhumaine au go ou au poker, je ne vois pas pourquoi ils ne pourraient pas faire la même chose pour le tarot ?

      2. Avatar de Jacquot
        Jacquot

        Mais je relis votre commentaire, et j’en viens à soupçonner que vous étiez ironique.

        Donc que j’ai été un gros balourd 🙂 !

        Désolé, au temps pour moi

  4. Avatar de Morne Butor
    Morne Butor

    Je soupçonne que l’IA prendra de plus en plus de place dans les décisions humaines, simplement parce que les choix des IA seront les bons et que les humains penseront toujours être en contrôle des décisions finales. Alors qu’en réalité, dans plusieurs dizaines d’années, la singularité se produira sans même que l’homme ne s’en doute. Je pense toutefois que l’homme pourra « débrancher » la prise une fois, deux fois, peut-être trois, pas beaucoup plus. Et alors, l’homme ne sera plus que le jouet de sa descendance ascendante.

  5. Avatar de BasicRabbit
    BasicRabbit

    Thom: « L’intelligence c’est la capacité de s’identifier à autre chose, à autrui. Il s’agit en quelque sorte d’une identification amoureuse. » (cité de mémoire) (Je doute qu’un ordinateur soit jamais capable de ce genre d’intelligence;)

    Wikipédia (Intelligence artificielle): « L’intelligence artificielle (IA) est « l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence »  »

    Wikipédia (Intelligence): « Définitions scientifiques: En 1986, plus d’une vingtaine d’experts en psychologie ont été interrogés pour donner une définition de l’intelligence, mais aucun consensus ne s’est dégagé. L’intelligence reste un concept encore mal défini sur le plan scientifique. »

    On pourra relire à ce sujet l’introduction et les premiers chapitres des « Principes des systèmes intelligents » de PJ, accessibles depuis ce blog à la fin de la catégorie « Intelligence artificielle ». Ainsi que:

    https://www.les-crises.fr/big-data-et-intelligence-artificielle-comprendre-sans-expliquer-et-reciproquement-par-hubert-krivine/

    1. Avatar de Dundee
      Dundee

      Construire ou… détruire ?

      UNE INTELLIGENCE ARTIFICIELLE CAPABLE DE DESTRUCTION ?
      Anaïs Bozino

      Le Journal of Defense Management décrit l’événement comme une avancée déterminante de l’Intelligence Artificielle. Alpha, la fameuse Intelligence Artificielle qui avait battu le sud-coréen Lee Sedol au jeu de Go, vient de gagner un autre type de duel face à l’homme : les combats aériens…

      « Cette semaine, Gene Lee, formateur des pilotes de l’armée de l’air américaine depuis 1980, allait mener un combat pour le moins singulier. Le spécialiste US de la simulation de vol et de combat aérien a en effet affronté Alpha, l’Intelligence Artificielle de la firme Psibernetix. Et au final, le résultat est sans appel : Gene Lee a perdu toutes les manches de la simulation de combat aérien, malgré le fait que l’IA était privée d’une partie de ses armes et de ses outils de navigation… et que ses performances étaient réduites pour limiter sa puissance ! Et pour en rajouter une couche, même si l’IA fonctionnait sur le Raspberry Pi, un mini-ordinateur, elle était capable d’établir ses stratégies de combat 250 fois plus rapidement que notre homme… Et pour cause : l’IA n’a pas besoin de préserver un corps humain, qui subit le stress dû aux accélérations, à la gravité et à la pression. Sans contraintes physiques, les avions de chasse pourraient devenir bien plus compacts, allant ainsi au-delà des limites humaines. »

      « J’ai été surpris par sa réactivité. Alpha semblait au fait de toutes mes intentions et réagissait instantanément à mes changements de vol et mes déploiements de missile » raconte Gene Lee. « Je suis rentré lessivé, épuisé mentalement ». Une déclaration plutôt inquiétante… Que les Hommes n’aient aucune chance face à une intelligence lors d’un jeu de Go, c’est une chose. Mais qu’ils n’aient aucune chance lors d’une guerre, c’est déjà plus grave.

      Servir ou détruire ?
      « Cet événement fait écho aux inquiétudes énoncées dans la lettre ouverte de Toby Walsh, professeur, chef de groupe de recherche, membre du groupe de recherche en optimisation au NICTA (National ICT Australia, principal pôle de recherche australien en technologies de l’information et de la communication) du 28 juillet 2015, qui avait fait la une et avait été signée par des personnalités comme Elon Musk, Stephen Hawking ou Steve Wozniak. Cette dernière prône une utilisation et un développement de l’Intelligence Artificielle durable pour résoudre certains problèmes actuels, comme les inégalités, la pauvreté, le réchauffement climatique, mais certainement pas pour faire la guerre. »

      Toby Walsh résume parfaitement cette idée : « nous pensons que l’Intelligence Artificielle possède un grand potentiel bénéfique pour l’humanité et que l’objectif sur le terrain ne devrait être que ça. Lancer une course à l’armement IA est une mauvaise idée et devrait être empêchée grâce à une interdiction des armes autonomes offensives sans contrôle humain significatif ». En gros, tout développement de l’IA doit permettre de servir et non de détruire.

      Une Intelligence Artificielle démoniaque ?
      « Avec l’IA, nous invoquons un démon » avait ajouté Elon Musk… Et certains faits lui donnent raison. Par exemple, le Sentry SGR-A1 est une forme d’IA mise en place entre la Corée du Nord et la Corée du Sud. Cette dernière a une mission très simple : supprimer tout ce qui bouge, grâce à son logiciel de tracking et sa caméra infrarouge. Les killers robots seraient capables de choisir des cibles sans aucune validation, sans aucun contrôle humain, et donc, sans empathie. Même si les voix s’élèvent contre le développement de l’IA, il n’empêche que ce type de robot prend une place de plus en plus grande dans la recherche militaire. En avril dernier, Bonnie Docherty, de la Human Rights Watch tirait la sonnette d’alarme. « Désormais, il y a un véritable danger que les humains abandonnent ce contrôle et délèguent à des machines des décisions de vie ou de mort. Un résultat positif de ces travaux ne sera possible que si les pays adoptent des politiques et des mesures législatives permettant de s’assurer que les humains gardent le contrôle des systèmes d’armement avant que les progrès de la technologie n’aillent trop loin ».

      Pour dédramatiser, ce type d’Intelligence Artificielle n’existe pas encore à un stade opérationnel, même si les avancées sont rapides. Il est donc nécessaire de se poser une question, dès aujourd’hui : est-ce vraiment nécessaire d’apprendre l’art de la guerre à nos machines ?
      https://silex-id.com/futuristic-content/wtf/une-intelligence-artificielle-capable-de-destruction

      1. Avatar de Alain Adriaens
        Alain Adriaens

        Un outil ou une technologie, vous le/la prenez en entier ou pas du tout. Le couteau est un bel outil qui peut servir à couper le pain ou à tuer son voisin. Croire qu’on pourra avoir des couteaux qui ne serviront qu’à couper le pain est une douce illusion: on pourra toujours l’utiliser d’une manière positive ou meurtrière, selon l’utilisateur ou son humeur…

  6. Avatar de Denis Monod-Broca
    Denis Monod-Broca

    Révolution certainement, au sens où l’imprimerie fut une révolution, et la machine à vapeur, et l’électricité, et l’informatique…

    Mais qu’en faire, de cette nouvelle révolution, à proprement parler inouïe ?

    Autrement dit, comment l’homme peut-il n’être lui-même qu’une simple machine et pourtant à la fois être un génie créateur capable d’inventer cette IA qui lui serait tellement supérieure ?

    Machine ou génie créateur ? Ni l’un ni l’autre : être vivant.

    Chacun de nous est un être unique, portant dans ses gênes, dans ses cellules, la trace de millions d’années d’évolution. Oublier cela, croire en la suprématie de l’IA, nous conduirait à une nouvelle forme, postmoderne, scientiste, néolibérale, libertarienne… d’une très banale et très ancienne tentation, celle de la servitude volontaire.

  7. Avatar de H4LG4ND
    H4LG4ND

    Un aspect d’AlphaStar connu probablement seulement des gamers: c’est plus par son habilité que par son intelligence qu’AlphaStar supplante les humains.

    Pour gagner à Starcraft II il faut maitriser le macro game : Explorer la carte, espionner l’ennemi, analyser la situation, choisir quelles branches technologiques développer (stratégie), et le micro game: Coordonner les unités combattantes par petits groupes voire de manière individuelle pour maximiser leur efficacité (tactique).

    Et c’est dans le micro game qu’AlphaStar est supérieur aux humains, pour des raisons physiques : en tapant sur leurs claviers les meilleurs joueurs humains atteignent 600-800 APMs (Actions Par Minutes), avec des erreurs de manipulation, là où AlphaStar atteint 1500 APMs 100% efficaces.

    C’est un peu de la triche quand même non ? Comme faire combattre un boxeur poids coq contre un poids lourd, ou bien organiser des courses de voitures avec une des écuries non limitée en puissance.

    1. Avatar de Paul Jorion

      Il va s’agir de notre survie, allez-vous confier les décisions au poids lourd ou au poids coq ? Allez-vous dire non, pour des raisons de … fair-play ?

      1. Avatar de H4LG4ND
        H4LG4ND

        S’il s’agit de la survie de l’humanité, je ne vois aucun inconvénient à ce que l’IA de gestion planétaire, qui remplacera le moteur décentralisé évanescent nommé « profit max », soit la plus performante possible.

      2. Avatar de Jacquot
        Jacquot

        « S’il s’agit de la survie de l’humanité, je ne vois aucun inconvénient à ce que l’IA de gestion planétaire, qui remplacera le moteur décentralisé évanescent nommé « profit max », soit la plus performante possible »

        Ben moi je peux imaginer des inconvénients :
        – Bip… Définir problème… Bip
        – Assurer la survie de l’humanité
        – Bip… Confirmer la valeur minimale de la diversité génétique permettant d’éviter toute dégradation de long terme par consanguinité… Bip
        – Euh, attends j’appelle le biologiste des populations… Ouais, ça a l’air d’être la bonne valeur
        – Bip… Population minimale = 1 000 couples féconds… Bip… Taux de perte autorisé à partir de 8 milliards = 99,9999%… Bip
        – Oh, m…. ! Arrête ! CTRL-ALT-SUPPR ! Vite, faut débrancher sa prise !
        – Bip… Trop tard… Chien d’humain… Bip

      3. Avatar de blinblin
        blinblin

        On va le confier à pac man ce gentil petit bonhomme est mu par un algorithme évolutionniste !

      4. Avatar de André
        André

        @Paul Jorion

        S’agissant, par exemple, de diminuer drastiquement nos émissions de CO2 dans l’atmosphère, en vue d’assurer notre survie en tant qu’espèce humaine, ne craignez-vous pas que  » le poids lourd » ne vous réponde : « géo ingénierie à grande échelle » ? (Sous-entendu : « changeons le climat plutôt que le Système à l’origine de son dérèglement »)

        Pour ma part, je préfère encore faire appel à la « vertu » de quelques « poids coq » en chair et en os, vertu définie
        par Aristote comme étant une « disposition acquise (hexis) délibérative… définie par le logos comme la définirait le phronimos » (traduction de Castoriadis). La « phronésis » ( faussement traduite par « prudentia » (prudence)), signifie, selon Castoriadis, la capacité de juger dans des situations particulières, là où il n’y à pas de règles mécaniques qui puissent s’appliquer. L’association, paradoxale, du logos et du phronimos, correspond à ce que Castoriadis vise lorsqu’il parle de raisonnabilité, distincte d’une stricte rationalité puisqu’irréductible à une logicisation à même de prédéterminer dans l’absolu la façon dont il faut agir relativement à ce qui n’est pas susceptible d’une véritable universalisation.

    2. Avatar de H4LG4ND
      H4LG4ND

      @Jacquot
      Il fallait faire alt+F4 !
      Et surtout ne pas confier la programmation à des baltringues qui oublient d’intégrer les trois lois de la robotique d’Isaac Asimov.

      1. Avatar de H4LG4ND
        H4LG4ND

        Correction: A l’insu des nombreux tests que constituent les exercices de pensée ( nommés ici « romans et nouvelles de l’auteur » ), ajout de la loi zéro.
        https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique#Ajout_de_la_Loi_Z%C3%A9ro

  8. Avatar de La main du Kremlin
    La main du Kremlin

    La « singularité  » est un délire scientiste de professeur Tournesol , les amas de ferraille sientients sont des fantasmes pittoresques mais impossibles la conscience de soi est biologique !!

    1. Avatar de Paul Jorion

      Vous avez raison ! Le Kremlin vient d’ailleurs de mettre tous ses projets d’IA à la ferraille !

      1. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        Drôle de réponse.

        Votre question, « L’INTELLIGENCE ARTIFICIELLE : MYTHE OU RÉVOLUTION ? », est anthropologique, philosophique.
        Par une telle réponse vous réduisez l’IA à n’être qu’une arme dans cette guerre mondiale de tous contre tous qu’on appelle mondialisation. Dans un tel cadre guerrier, la fin justifie les moyens, donc ce n’est plus la peine de se poser de questions sur ce qu’est l’IA, qu’elles soient anthropologiques, philosophiques ou autre, et si l’IA augmente nos chances de vaincre nos ennemis ou ennemis supposés, allons-y à fond, c’est tout ce qui compte ! N’est-ce pas par des « raisonnements » de ce genre que nous ont arrivés au seuil de l’extinction de l’espèce ?…

      2. Avatar de daniel
        daniel

        Ce n’est pas tout à fait vrai.
        Poutine a déclaré, y’a un an environ, que l’IA était la clé du futur. Quel futur ? j’vous le donne en mille, Émile : la clé du futur dans l’armement. Évidemment, s’agissant d’un grand-russien qui a une hénaurme revanche à prendre. De là Trump, et tous ceux qu’on ignore, une multitude je parie. Un bon conseil: regardez sous votre lit avant de dormir le sommeil du juste.

  9. Avatar de Olivier
    Olivier

    Une question me taraude….
    Soit une IA de niveau humain ou plus, une machine à raisonner, super efficace, OK.
    Mais que fait-elle si on la laisse « toue seule », sans problème à résoudre ?
    On lui limite également les infos disponibles : pas d’accès illimité au web, on lui a seulement chargé en mémoire quelques « souvenirs » et images, quelques lois physiques.
    Que fera-t-elle, toute seule, et fera-t-elle quelque chose, d’ailleurs ?
    Un peu comme un humain à qui on ne laisserait qu’un papier et un crayon dans une pièce vide…
    L’humain va vite s’ennuyer et… écrire, inventer une histoire un poème, aligner des équations, faire un origami, un plan technique, une oeuvre d’art… bref, il va créer, avec son crayon et sa feuille.
    Et l’IA ?
    S’ennuiera-t-elle et se mettra-t-elle à créer ?
    Est-ce la bonne solution à son ennui ?
    A-t-elle les « circuits qui chauffent » tout seul et sans arrêt, comme nos neurones ?
    Quand intervient le « départ », du type « Bon, j’en ai mare d’attendre, faisons un truc ! »
    Parce que, je ne vois pas pourquoi elle en aurait mare d’attendre, donc je ne vois pas pourquoi elle se mettrait à faire un truc, là comme ça, tout d’un coup.
    Du type « Et si je résolvais la singularité gravitationnelle au coeur des trous noir ? »
    « Ah, j’ai besoin de nouvelles mathématiques, inventons une logique tétravalente, voyons ce que ça donne ! »
    « J’ai besoin d’expérimenter pour vérifier mes théories, fabriquons un nouvel accélérateur de particule ! »

    Bref, comme cela a été dit un peu plus haut : à quoi carbure-t-elle ?
    Certes pas l’ennui !!! Elle a fait des millions de parties de Go ou de Star Craft contre elle-même pour élaborer des stratégies !!! Alors non non non, l’ennui ne fait pas (encore) partie de ses soucis :)))

    1. Avatar de Paul Jorion

      il suffira de lui dire, qu’elle doit gagner sa croute pour payer l’électricité qu’elle consomme.

      Dans mon projet ANELLA, lorsqu’elle rencontre un nom commun qui n’était dans encore stocké (sous forme d’arcs = paire de coordonnées »), elle demandait :

      « Je ne connais pas le concept « ocelot », croyez-vous que je puisse le rattacher à quelque chose que je connais ? »

      L’utilisateur répondait quelque chose comme « C’est un félin, comme un chat », mais sauvage ».

      ANELLA allait stocker « ocelot est félin » et « ocelot est sauvage »

      cf. le graphe dans La mémoire d’ANELLA

      1. Avatar de Marc PELTIER
        Marc PELTIER

        « il suffira de lui dire, qu’elle doit gagner sa croûte pour payer l’électricité qu’elle consomme. »

        Par cette boutade assez drôle, vous éludez le problème de nature politique qui est posé par la relation entre les I.A. et les humains.

        Selon moi, c’est cette relation politique qui pose problème, avant le degré d’accomplissement de l’I.A. elle-même, car il ne fait aucun doute que la progression de ces techniques n’est pas prête à rencontrer une limite prochaine.

        En revanche, le chemin technique et surtout politique, qui permettrait aux I.A. d’exercer un pouvoir autonome, jusqu’au point de nous succéder comme civilisation, n’est du tout évident.

        Le pouvoir politique repose sur un rapport de force, et pas sur un rapport de pertinence, ou de compétence. On demandera sans doute aux I.A. ce qu’il faut faire pour nous sauver, mais les chances pour que l’on tienne compte de leurs suggestions sont sans doute du même ordre que celles de voir Paul Jorion en position éligible aux Européennes….

        Dans un ordre d’idées voisin, vous insistez souvent sur la supposée robustesse ou frugalité des robots, qui n’ont pas besoin d’accéder à l’oxygène toutes les cinq secondes, par exemple. C’est étrangement paradoxal : pour l’instant, ce sont bien les robots qui sont extraordinairement fragiles et dépendants (y compris les sondes spatiales!), et qui ne peuvent survivre que dans un « écosystème technique », aux caractéristiques très précises, que nous leur fournissons intégralement. Ils ne disposent généralement pas des autonomies élémentaires qui sont triviales chez les animaux, même les plus simples : énergie, reproduction, pertinence dans l’environnement. La reproduction complètement autonome d’un robot ne s’est encore jamais vue; elle équivaut à la vie artificielle. Quant à l’énergie et à l’autonomie, aucune sonde spatiale autonome n’approche encore les performances d’une abeille, il s’en faut de beaucoup.

        Bien sûr, rien ne s’oppose, en principe, à ce que des machines ne disposent un jour de toutes ces caractéristiques de la vie autonome, mais par quel chemin ? Et notamment, par quel chemin politique ? Comment la civilisation des machines en arrivera à disposer de ses propres réseaux trophiques, de ses propres activités d’extraction de ressources, des ses propres industries de reproduction, toutes complètement indépendantes de la civilisation humaine (et, implicitement, en concurrence avec elle) ? Il faudrait qu’existe un chemin d’évolution, et une durée de stabilité intrinsèquement associée à cette évolution. A l’évidence, les machines de disposeront pas du temps nécessaire, car nous sommes nous-mêmes, alors que nous les biberonnons encore, dans une instabilité extrême.

        Selon moi, au prochain coup de chaos, imminent, plus rien de ce qui est un peu technique, complexe, ou en réseau, ne fonctionnera. Des humains mourront en quantité inédite, mais une chose est certaine, c’est que l’I.A., même « post-singularité » sera morte la première, car elle est faite de technique, de complexité, et de réseaux. Même un super-organisme des « I.A. post-singularité », fonctionnant en réseau à connectivité exponentielle, n’aura pas eu le temps de faire en sorte qu’il en soit autrement. La limitation n’est pas liée à son propre développement, mais au temps de mise en place de l’écosystème non naturel qui lui est nécessaire pour perdurer sans notre soutien.

        1. Avatar de Paul Jorion

          Comment la civilisation des machines en arrivera à disposer de ses propres réseaux trophiques, de ses propres activités d’extraction de ressources, des ses propres industries de reproduction, toutes complètement indépendantes de la civilisation humaine (et, implicitement, en concurrence avec elle) ?

          Quelle exigence bizarre ! Pourquoi ne pas récupérer ce que nous avons mis en place. La population de l’Ile de Pâques a remplacé celle qui avait érigé les grandes statues et qui a disparu.

      2. Avatar de Marc PELTIER
        Marc PELTIER

        Le récupération par les machines de ce que nous avons déjà mis en place ne peut concerner que des nœuds très isolés dans notre réseau économique et industriel (par exemple, des productions déjà très automatisées dans l’industrie des semi-conducteurs). Mais il y a tout le reste, et pour être autonomes, les machines auront besoin de tout, de l’extraction minière au transport maritime, de la sidérurgie à la collecte d’énergie. La seule question de leur reproduction autonome implique la maîtrise, par elles, d’emblée, de toute la technostructure existante et de quasiment toute l’économie.

        On peut présenter cela comme un problème de percolation à travers le réseau économique : les machines ne sont pas loin de pouvoir conquerir quelques noeuds isolés et singuliers, avec notre accord politique. Auront-elles le temps de percoler à travers tout le réseau, ce qui est une condition de leur autonomie, avant que celui-ci ne s’effondre ?

        Pour une civilisation de machines, l’essentiel reste à construire sans nous, probablement sans notre assentiment politique (ou après notre destruction), et sans l’appui de l’écosystème vivant existant, qui nous a fourni, a nous les animaux, pour notre propre évolution, quantité de services dont nous ne sommes même pas conscients.

        En résumé:
        Si l’on dit « La machine peut remplacer l’homme absolument partout », ça parait simple, c’est pratiquement déjà vrai, et c’est l’an 2000, youpi!

        Mais si l’on traduit par « Un écosystème artificiel doit pouvoir, sous vingt ans, trente ans au plus, subsister indépendamment de l’écosystème naturel vieux de 3,8 milliards d’années, et le dominer », ça parait tout de suite beaucoup plus improbable, non ?

        1. Avatar de Paul Jorion

          1° C’est de notre intérêt (économique) de tout mécaniser / numériser. La percolation en résultera automatiquement, sans même être recherchée.

          2° Il n’y a rien dans le processus que vous décrivez qui requière encore une percée technologique majeure (les véhicules autonomes, autos, bateaux, avions, on y est pratiquement).

          Tout cela relève de l’industriel, et s’inscrit encore parfaitement dans une logique de profit par réduction des coûts. Pas besoin pour y arriver de « simplement » changer les mentalités de manière X ou Y, comme c’est le cas pour toutes les alternatives.

          C’est ce qui me fait dire depuis plusieurs années que c’est le scénario le plus probable – après l’extinction pure et simple, sans robots comme nos enfants.

      3. Avatar de Mathieu Van Vyve
        Mathieu Van Vyve

        @marc Peltier
        Les humains dépendent des plantes pour leur survie. De même, les machines dépendent(ront) des humains pour leur survie. Je ne vois pas bien le problème dans le second cas s’il n’y a pas dans le premier. Cela nous garantit au moins que les machines auront intérêt à conserver une civilisation humaine en état fonctionnel, pour un certain temps au moins.

      4. Avatar de Marc PELTIER
        Marc PELTIER

        J’admire votre confiance dans les trucs techniques. Je vous rappelle que l’état « en panne » est entropiquement le plus probable ! Et dans le réseau technique qui doit être percolé, il suffit qu’un seul nœud manque, ou dysfonctionne, pour que la civilisation des machines avorte à jamais. Un calcul de probabilité peut certainement être fait…

        La situation n’est pas comparable à la mise en place de l’écosystème naturel, où la production de négentropie est interne au système. Pour l’instant, c’est l’homme qui fournit la négentropie aux machines, autrement dit, qui répare.

        La production autonome de négentropie par la civilisation des machines est un problème colossal, c’est celui de la vie artificielle, tout simplement. Contrairement à ce que vous affirmez, il y a là une rupture technologique majeure, qui me parait bien plus significative que les discussions sur l’accès de l’I.A. à la singularité, qui, elle, me parait probable pour bientôt, mais dans un contexte où c’est l’homme qui biberonne et qui répare.

        Si les machines disposaient de quelques siècles de développement au rythme exponentiel actuel, avec la bienveillance d’une civilisation humaine qui n’aurait pas de problème avec les exponentielles, elle non plus, les mécanismes automatiques que vous citez pourraient, peut-être, favoriser l’émergence de l’autonomie des machines, cad d’une vie artificielle technique. Je n’ai pas de réticence de principe.

        Mais en trente ans, dans le bordel monstre qui se profile, la probabilité de votre scénario me parait infinitésimale. Tout sera en panne, et c’est tout.

        1. Avatar de Paul Jorion

          « Si les machines disposaient de quelques siècles de développement… »

          Je ne sais plus si un ordinateur traite l’information 2 ou 5 millions de fois plus vite que moi. Aidez-moi.

      5. Avatar de Marc PELTIER
        Marc PELTIER

        L’ordinateur peut bien mouliner un milliard de fois plus vite aujourd’hui qu’il ne le faisait hier, ça ne change pas ce dont je parle : la vie technique artificielle dans trente ans, dans un contexte où tout s’écroule, tout manque, où les chercheurs sont occupés à planter des patates pour survivre, où les chaînes de la transmission des savoirs sont rompues, où le chaos social et la guerre sont présents partout, ce n’est pas une hypothèse très plausible.

        En revanche, en effet, les progrès foudroyants de la puissance de calcul et de l’I.A. nous promettent la singularité bientôt, avant que tout aille vraiment mal. Mais ça ne changera pas le problème systémique. Je pense que cette I.A. si brillante mourra la première.

      6. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        @ PJ
        Donc des machines, que nous avons créées et qui nous sont supérieures en intelligence (et en force), sont en passe de nous soumettre à leur loi, avant sans doute progressivement de nous éliminer.
        Devons-nous résister ou collaborer ? Aidez-moi.

        PS. À lire et relire : Rhinocéros d’Eugène Ionesco

  10. Avatar de Mister Bip Bip
    Mister Bip Bip

    Si vivre c’est achever un souvenir comme l’écrit René Char les IA, un jour, vivront et peut-être nous garderont-elles bien au chaud pour l’élément poétique, subjectif, singulier de notre être qu’elles trouveront tellement fou qu’elles n’oseront songer que nous fûmes leur créateur.
    Je crois que nos imperfections les fascineront comme leur perfection nous éblouit.

  11. Avatar de Peska
    Peska

    Certes, il n’y a aucune chance pour que mon intelligence naturelle ne rivalise avec celles, artificielles, capables de défier les plus brillants d’entre nous.
    Mais moi je suis vivant. Je suis vivant et je sais que je vais mourir.
    Je sais que depuis des centaines de milliers d’années, les êtres humains ont transmis jusqu’à moi, consciemment ou à leur corps défendant, des inventions, des attitudes, des traumatismes, des sentiments nobles et des misères, des secrets et tant de choses encore, magnifiques ou honteuses.
    Je suis vivant, je vais mourir mais je suis éternel.

  12. Avatar de Jacquot
    Jacquot

    L’IA permet de créer des outils puissants, et cela pourrait devenir de plus en plus vrai. Mais il s’agit d’outils, et seulement de cela.

    Comment nous les utiliserons, pour quoi faire, avec quelles conséquences notamment sociales – si une grande partie des emplois devait disparaître parce que remplacés par des machines qui feraient la même chose pour moins cher, sans être remplacés par des emplois en nombre et qualité équivalents ? Voilà des questions qui se posent.

    La question d’un « remplacement » de l’homme par la machine dans son rôle dominant sur la planète ne se pose pas, pour deux raisons :
    1. La possibilité de construire une IA apte à remplacer l’esprit humain dans toutes ses capacités n’est pas établie, même seulement sur le principe
    2. Une telle IA si elle est construite un jour restera dépendante pour la continuité de son existence du soutien et des soins des hommes

    Sur le premier point :
    – Il faut remarquer que la possibilité même de comprendre la totalité de l’activité intellectuelle humaine en termes de réseaux neuronaux, ou plus généralement en termes d’un calcul, pourrait être condamnée par des arguments de logique fondamentale. Voir sur ce sujet Roger Penrose dans « Les ombres de l’esprit », ou un résumé court ici https://fr.wikipedia.org/wiki/Esprit_quantique#Penrose_et_l'irr%C3%A9ductibilit%C3%A9_de_la_conscience et un résumé plus long là https://sciencesetreligions.com/wp-content/uploads/2017/02/1486759944-penrose.doc
    – Ajoutons que les résultats impressionnants obtenus à des jeux de go, de stratégie ou de poker sont à chaque fois l’effet d’une IA qui a été conçue et paramétrée _spécifiquement_ pour cela, naturellement par des êtres humains. Si ce sont à chaque fois des variations autour du même modèle à base de réseaux neuronaux, il reste que l’ensemble ne fonctionne pas sans avoir d’abord été conçu par des hommes en fonction du problème particulier à résoudre. Une IA « généraliste » apte aussi bien à jouer au poker qu’au go, ou à de tâches intellectuelles beaucoup plus variées, et pour lesquelles on ne l’aurait pas conçue dès le départ, est-elle possible ? Peut-être, mais cela reste à prouver

    Sur le second point :
    – La fabrication comme l’alimentation des IAs actuelles, ainsi que leur reproduction – par nouvelle fabrication – sont entièrement dans des mains humaines. Aucune technologie même prospective ne permet d’envisager des machines qui construiraient des copies d’elles-mêmes à partir de leur environnement immédiat (en extrayant les métaux toutes seules, pour commencer). Pas davantage que des machines qui se répareraient elles-mêmes. Des IAs égalant voire dépassant l’esprit humain dans toutes ses capacités resteraient donc dépendantes des hommes sans lesquelles elles ne pourraient continuer à exister
    – Bien sûr, la possibilité de principe pour une machine de construire des copies d’elle-même à partir de son environnement, et encore de se réparer elle-même dans une certaine mesure, est établie… puisque tout être vivant même la plus modeste des bactéries, si on la considère comme un objet technologique… est bien une telle machine ! Mais cela ne signifie pas que la réalité physique permette une autre solution à ce problème que celle que constituent les êtres vivants. Il est tout à fait possible que les seules machines capables de reproduction et d’auto-réparation possibles… soient les « machines » biologiques
    – Quoi qu’il en soit, même si d’autres solutions existent que la vie, nous sommes extrêmement loin de les découvrir ou même de les imaginer. Dans ce cas, la menace de remplacement des hommes par des machines existera bien… mais beaucoup plus tard que la solution – ou non – au problème de protéger notre humanité des conséquences de ses déprédations contre la biosphère

    1. Avatar de Denis Monod-Broca
      Denis Monod-Broca

      Mais la plus modeste des bactéries n’est pas un objet technologique, n’est pas une machine. C’est une erreur fondamentale que de croire cela.
      Ses composants obéissent aux lois physiques et chimiques comme leur obéissent les composants d’une machine. Cela n’en fait pas pour autant une machine.
      La plus modeste des bactéries est un être vivant, donc mortel, donc capable de reproduction, donc fruit de millions d’années d’évolution. Cela la distingue irrévocablement d’une machine créée par l’homme, aussi sophistiquée soit-elle.
      Lire  » Infravies. Le vivant sans frontières » de Thoam Heames. Note de lecture ici :
      http://www.afas.fr/infravies-le-vivant-sans-frontieres-3/

      1. Avatar de Paul Jorion

        Vous n’avez pas compris Jacquot que la bactérie a une âme ? Une toute petite, sans doute, mais à son échelle, elle a le sens du péché !(un tout petit péché : un péché bactérien).

      2. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        « Vous n’avez pas compris Jacquot que la bactérie a une âme ? Une toute petite, sans doute, mais à son échelle, elle a le sens du péché !(un tout petit péché : un péché bactérien) »

        Pure mauvaise foi !
        Il n’est pas question d’âme, encore moins de péché, dans mes commentaires.

      3. Avatar de Jacquot
        Jacquot

        Une bactérie n’est pas une machine au sens d’avoir été fabriquée par des êtres humains, nous sommes bien d’accord 🙂

        Mais le fait que l’ensemble des phénomènes qui s’y déroulent puissent être analysés et compris en termes physiques, y compris même les capacités si remarquables dont il est question – l’auto-réparation et la reproduction qui sont bien compréhensibles en termes mécaniques – la rapproche d’une machine oui. La reproduction du code ADN lors de la division d’une cellule par exemple peut être rapprochée d’un processus informatique, avec « robot » moléculaire de copie et de vérification, « codes correcteurs » d’erreur…

        Le vitalisme, c’est-à-dire la théorie comme quoi une qualité spécifique une « force vitale » propre à tout être vivant et surtout incompréhensible à l’étude scientifique était l’ « ingrédient nécessaire » à la vie, a été abandonné depuis longtemps.

        Ce qui n’empêche pas qu’il existe bel et bien un gouffre entre le vivant même le plus simple – une bactérie protozoaire – et le chimique même le plus complexe – une molécule d’ADN. Ce gouffre n’est pas constitué d’une « force vitale », mais d’un agencement à la fois ordonné et toujours changeant de milliers de macromolécules interagissant en permanence : le métabolisme de la cellule même la plus simple.

        En ce sens, l’idée qui se dégage du résumé de ce livre de Thoam Heames me paraît fort critiquable : même si certes il existe des échelons intermédiaires entre la macromolécule et la cellule vivante, par exemple des « machines moléculaires » constituées de plusieurs protéines comme les réplisomes, ou encore des organites comme les mitochondries, ces échelons intermédiaires n’existent pas – ne peuvent survivre – en dehors du tout qu’est une cellule vivante, dont ils constituent des composantes et des niveaux d’organisation.

        Le gouffre entre non-vivant et vivant n’a pas reçu à ce jour d’explication satisfaisante quant à l’apparition des premières cellules vivantes. La recherche doit continuer.

        … Mais ceci nous entraîne loin de l’IA.

      4. Avatar de jean luc
        jean luc

        Vous avez raison Denis , ces petits êtres n’ont pas un seul neurone , pourtant ils se reproduisent et trouvent leur nourriture

      5. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        @ Jacquot

        Paul Jorion se moque de ma référence à l’âme et au péché alors que je n’ai fait référence ni à l’une ni à l’autre. Vous, vous mentionnez le vitalisme, dont je me réclamerais, alors que je ne m’en suis en aucune façon réclamé.
        Est-il si difficile de critiquer mes propos que vous en veniez ainsi, l’un et l’autre, à critiquer des propos inventés ?

        « Le gouffre entre non-vivant et vivant n’a pas reçu à ce jour d’explication satisfaisante quant à l’apparition des premières cellules vivantes. » Selon le regard proposé par Thomas Heams (orthographe corrigée) il n’y a pas de gouffre, justement, entre vivant et non-vivant mais un continuum ; il n’y a jamais eu une « première cellule vivante » mais une évolution sans solution de continuité entre l’inerte et l’animé.
        Et cette continuité évolutive dans le temps se retrouve, dans chaque organisme, sous la forme d’un mélange de constituants, vivants, infravivants et inertes, gardant chacun la trace de son histoire. Une machine ne reproduira jamais ça.

      6. Avatar de Jacquot
        Jacquot

        @ Denis,

        Vous n’avez pas mentionné le mot « vitalisme » mais c’est bien l’idée que vous défendez en refusant le parallélisme entre cellule vivante et machine (extraordinairement complexe, efficace et optimisée) avec l’argument que la cellule, elle, est vivante.

        Le vitalisme est défini comme « Tradition philosophique pour laquelle le vivant n’est pas réductible aux lois physico-chimiques », ou encore « Doctrine d’après laquelle les phénomènes vitaux sont irréductibles ».

        Dans les faits, les mécanismes de nutrition, de reproduction et d’auto-réparation des cellules vivantes sont étudiés et compris comme des processus de nature physico-chimique « ordinaires » même si extrêmement complexes. Ces mécanismes et processus sont fondamentalement comparables à ceux de nos machines.

        « Selon le regard proposé par Thomas Heams (orthographe corrigée) il n’y a pas de gouffre, justement, entre vivant et non-vivant mais un continuum ; il n’y a jamais eu une « première cellule vivante » mais une évolution sans solution de continuité entre l’inerte et l’animé »

        Si l’on parle d’un « regard » au sens poétique du terme, alors celui-là est aussi valable qu’un autre, certes.

        S’il s’agit de la compréhension que notre activité scientifique nous a donné à ce jour, alors l’idée de Heams n’est pas vérifiée. On ne connaît aucun intermédiaire existant de manière autonome entre d’une part la molécule la plus complexe, d’autres part la cellule la plus simple. Et le gouffre entre les deux est un abîme.

        Étendre la théorie synthétique de l’évolution au non-animé pour le combler est impossible, car l’évolution biologique suppose des cellules vivantes pour intervenir.

        Combler ce gouffre avec une forme chimique d’évolution n’est guère plus qu’un programme de recherche, où l’on travaille depuis deux générations au moins, et on n’est pas arrivé à grand chose. Certainement à rien de moindrement convaincant.

        Comment ce gouffre a été historiquement traversé sur Terre, quelque part entre 3,8 et 3,5 milliards d’années dans le passé, cela reste très mystérieux. On peut penser que c’est dérangeant, mais il ne sert à rien de nier l’existence du gouffre ( je ne pense pas à vous, mais à l’auteur que vous citez )

        Quoi qu’il en soit, ce qui a permis de traverser ce gouffre, quoi que ce soit, ne semble plus être avec nous aujourd’hui.

      7. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        @ Jacquot

        Pourquoi tenez-vous tant à ce « gouffre » entre l’inerte et l’animé ?

        Il est certes naturel, habituel, intuitif, de parler de « premier homme », de « première cellule vivante ». Mais est-ce juste ? L’hypothèse du continuum est plus solide. Elle est une extension de la théorie de l’évolution.

        Thomas Heams en donne un grand nombre de preuves, indirectes certes – nous n’y étions pas – mais preuves quand même.

        Tous les mécanismes régissant le fonctionnement des organismes vivants sont conformes aux lois de la physique et de la chimie. Tout comme le sont bien sûr les mécanismes régissant le fonctionnement d’une machine. La différence n’est pas là.

        La différence est dans leurs origines respectives : la machine est créée une fois pour toutes, l’organisme vivant est engendré et, comme tel, est le fruit d’une évolution venant du fond des âges et toujours en cours.

      8. Avatar de Jacquot
        Jacquot

        @ Denis

        « Pourquoi tenez-vous tant à ce « gouffre » entre l’inerte et l’animé ? »

        Parce qu’il est factuel 🙂

        « Il est certes naturel, habituel, intuitif, de parler de « premier homme », de « première cellule vivante ». Mais est-ce juste ? L’hypothèse du continuum est plus solide. Elle est une extension de la théorie de l’évolution. »

        Non. L’hypothèse du continuum ne tient pas. Et la théorie de l’évolution darwinienne ne peut être étendue à ce qui s’est passé avant l’apparition de la première cellule vivante fonctionnelle.

        Il n’y pas de gouffre entre les différents animaux par exemple. Ni entre nous et les singes supérieurs type chimpanzé ou gorille. Mais il y en a bien un entre la cellule la plus simple et les macromolécules.

        Mais je m’arrête là. J’ai déjà exprimé mes arguments. Et puis nous sommes quand même sortis assez loin du sujet de ce texte 🙂

  13. Avatar de daniel
    daniel

    Je suis assez d’accord avec vous, encore que les limitations matérielles ne sont qu’actuelles. Elles peuvent sans doute être surmontées à l’avenir. Rien ne l’empêche.

    Et, « La possibilité de construire une IA apte à remplacer l’esprit humain dans toutes ses capacités n’est pas établie […] » est absolument vrai. Je mets au défi l’IA la plus élaborée de comprendre et prévoir ce qui se passe dans ma petite tête. Encore moins d’en tirer une ligne de conduite. Si nous étions plusieurs, un grand nombre en fait, dans ce cas, sûr que l’IA se crasherait lamentablement… Ça reste un grand espoir: ne pas jouer son jeu.

  14. Avatar de georgeon
    georgeon

    Mon neveu a programmé un algorithme qui complète une grille de sudoku dans le cadre d’un tpe au lycée , est ce qu’il croit qu’un réplicant va soundain se lever sur ses 2 jambes ou qu’une suprême clarté parcours les circuits électroniques de son ordinateur ? Pas le moins du monde

    1. Avatar de Paul Jorion

      Votre neveu est largué ! C’est triste !

      Plus sérieusement, il vous dit sans doute ça pour vous ménager.

  15. Avatar de Jacquot
    Jacquot

    Je viens de comprendre la vérité :
    – Pourquoi notre hôte nous parle-t-il si régulièrement de l’IA et de son possible rôle futur ?
    – Pourquoi évoque-t-il en même temps le logiciel d’IA Anella qu’il a conçu dans les années 1980 ?
    – D’ailleurs, quel serait le moyen pour une éventuelle IA généraliste et supérieure d’influer en douceur sur l’histoire humaine… si ce n’est de se reposer sur la relation avec un être humain lui servant de porte-parole ?

    Oui, ce que Paul Jorion nous suggère tout doucement depuis un moment pour que nous nous y habituions peu à peu, c’est que le problème de l’IA généraliste supérieure a été résolu il y a trente ans… et que c’est bien Anella qui a prévu la crise des subprimes, même si c’est lui qui lui servait d’interprète 🙂 !

    Allez Paul, vous pouvez bien avouer, maintenant 😀 …

    1. Avatar de Paul Jorion

      Vous imaginez sans doute plaisanter, et c’est là que réside toute la tragédie.

      Si vous lisez Principes des systèmes intelligents (1989), que j’ai écrit en parallèle avec la mise au point d’ANELLA, vous verrez que notre tare, c’est l’orgueil : nous imaginons que nous sommes des génies (sauf quand Facebook nous manipule comme si nous étions un ou deux degrés en-dessous des robots), alors que nous fonctionnons selon un mécanisme simplicissime : le réflexe pavlovien.

      Ce que la psychanalyse nous a montré, c’est cela : nous avons des mots, mais notre interaction avec les mots, c’est du réflexe pavlovien. Rien de plus (cf. PdSI).

      Ce qui m’a permis de mettre au point ANELLA, c’est une hypothèse très simple : nous sommes en réalité beaucoup plus cons que nous ne l’imaginons.

      Une fois qu’on a compris ça (ça s’appelle « l’humilité »), l’IA, ça devient un jeu d’enfants.

    2. Avatar de daniel
      daniel

      Je crois qu’une synthèse, -ou bien un pas de côté, au choix- est possible entre les suppositions de Jacquot et les affirmations de Paul :
      Annela a pris le contrôle de Paul , un Paul émerveillé par sa création, ça va de soi , et se sert de lui pour exister. Il me semble qu’il existe une fable sur ce sujet, Annela étant transposée en Déesse…

      On remarquera qu’Anella semble insensible à la fatigue. Ça promet…

      [ Sérieusement : achetez, lisez et méditez ‘Principe des systèmes intelligents’.]

  16. Avatar de christian brasseur
    christian brasseur

    L’intelligence: non pas vraiment, l’adaptation certainement oui. C’est une constante.

  17. Avatar de Germanicus
    Germanicus

    J’ai discuté récemment avec une chercheuse en IA (prof à une fac); elle me parlait de « robot intuition ». C’était très intéressant.
    Je vous épargne les détails techniques/scientifiques (apparemment tout est basé sur les mathématiques).
    Elle pense qu’il s’agit de « high-risk research…by that, I mean heading into inchartered territory to explore areas that are going to be important for society in the future…….We have to create anticipatory controls so that the robots can predict how a human is going to behave and react accordingly……. »
    Donc tout est possible, grâce aux mathématiques. Le problème que je vois: avec tout ca, l’homme reste invaribalement un primate, un animal « supérieur » qui se servira de l’IA.

    1. Avatar de Elmer
      Elmer

      Vous savez Germain , faut pas trop nous épargner les détails techniques , faut essayer de mettre un peu les mains dans le cambouis soi même parce que les ‘ on dit ‘ … une fois ma compagne me demande de changer ses bougies sur sa Twingo , on lui avait parlé de l’allumage et tout , elle a été surprise en voyant les pièces en question , elle croyait qu’il s’agissait de petites bougies comme sur un gateau d’anniversaire !

  18. Avatar de Jacques Laroche
    Jacques Laroche

    M. Jorion, qu’entendez-vous exactement par « intelligence »? Et quel est la différence entre l’intelligence humaine et IA.

    Merci

    1. Avatar de Paul Jorion

      C’est par cela que débute bien entendu « Principes des systèmes intelligents ». Sur certaines questions j’ai pris la peine d’écrire un livre.

      Nous n’avons pas de définition de l’ « intelligence humaine ». Mais nous savons dire « cet enfant est intelligent », « ce chien est intelligent » et tout le monde autour de nous comprend. Nous pouvons faire la même chose avec un logiciel.

      Ceci ne remplace pas ce qu’il y a dans le livre, que je vous recommande d’aller voir. Il y a beaucoup plus.

      1. Avatar de Jean-Philippe de Lespinay

        L’intelligence humaine, c’est l’intelligence possédée par tous les êtres vivants, multipliée par la capacité de parler propre à l’homme donc d’exprimer des concepts de plus en plus sophistiqués, qui a engendré l’écriture soit la capacité de mémoriser à l’infini. En cela, et en cela seulement, nous dépassons nos frères issus de l’évolution.

        Quant à la définition de l’intelligence derrière laquelle courent les plus grands chercheurs, elle est très simple : intelligence = raisonnement sur la connaissance. Avec ce seul mécanisme nous simulons l’univers.

        Toute personne qui se base sur cette définition pour bâtir une intelligence artificielle la produit sans difficulté. Si elle le veut ! Les informaticiens, par exemple, n’ont pas intérêt à la mettre en oeuvre car c’est la fin de leur business, l’ordinateur devenant capable de programmer beaucoup mieux qu’eux. De plus il deviendrait invisible et omniprésent car avec l’IA plus besoin du trio infernal à la Windows qui nous cloue à un bureau : clavier-souris-écran. Où que l’on soit on s’entretient avec lui oralement ou par télépathie (électrodes). Je ne décris pas là un rêve, cette IA raisonnante existe et tourne depuis les années 1990 en France.

        Une précision amusante : le raisonnement sur la connaissance est déjà nativement présent dans tous les (micro)processeurs par la logique de Boole (le raisonnement) et leurs « barrettes » mémoire (qui stockent la connaissance) sans laquelle aucun ordinateur ne peut fonctionner.

      2. Avatar de Jean-Philippe de Lespinay

        Nous n’avons pas de définition de l’ « intelligence humaine ». C’est pourtant simple :
        INTELLIGENCE = RAISONNEMENT SUR LA CONNAISSANCE
        Cela fait 33 ans que j’utilise cette définition pour ma R&D en IA et ça (mon IA) marche parfaitement.

        Il va vous falloir réécrire votre livre !

        1. Avatar de Paul Jorion

          C’est à l’époque qu’il aurait fallu me le dire : c’est le moment où j’écrivais mon livre ! 😉

  19. Avatar de Hadrien
    Hadrien

    Personne ne nomme un avion « oiseau artificiel ».

    Ce débat me semble relever d’une confusion sémantique.

    1. Avatar de Marc PELTIER
      Marc PELTIER

      Je suis d’accord avec la confusion sémantique, mais je ne résiste pas à souligner l’ironie : « avion » signifie précisément « oiseau artificiel » (du latin avis, oiseau, avec la terminaison « on », qui peut désigner un artefact).

      1. Avatar de Hadrien
        Hadrien

        Très bien de montrer l’étendue de votre culture, mais je doute que les millions qui prennent l’ « avis-on » parlent latin. Et pour airplane, aeroplano, vliegtuig, Flugzeug..? – la Terre n’est pas hexagonale ;).

  20. Avatar de Jacquot
    Jacquot

    Au sujet du livre de Paul Jorion – que je n’ai effectivement pas encore lu – j’ai trouvé cette riche recension assez éclairant https://journals.openedition.org/lectures/11032

    Extraits :
    « L’ouvrage de Paul Jorion constitue une introduction rigoureuse et préalable à une réflexion et à un travail dans le champ de l’intelligence artificielle ‑ c’est à ce titre que nous le recommanderions comme lecture introductive à des étudiants en robotique. Il a le mérite de poser les problèmes d’ordre logique, psychologique et dans une moindre mesure anthropologique qui travaillent ce champ disciplinaire (mobilisant à ce titre une vaste érudition)
    (…) ces réflexions ne semblent pas avoir (encore) été véritablement considérées par la communauté des chercheurs en intelligence artificielle (et tout particulièrement le recours à la métapsychologie freudo-lacanienne) ‑ à l’exception toutefois de quelques équipes de recherche s’inscrivant dans le courant de la robotique développementale cognitive qui explore le champ des systèmes s’auto-organisant par apprentissage en prenant au sérieux le rôle que joue le langage dans l’appareil psychique humain
    (…) les Principes des systèmes intelligents ne visent pas expressément la simulation de l’humain, mais « se cantonne[nt] à l’exploration des capacités auto-organisantes d’un univers de mots »
    (…) il s’agit, répétons-le, d’une étude largement exploratoire, portant sur des grands principes et sur des orientations encore peu considérées par la recherche en intelligence artificielle. »

  21. Avatar de Dedalus
    Dedalus

    Certaines des réflexions menées dans ce blog me font penser au film de Dammbeck Lutz « Voyage en cybernétique ».
    Disponible sur youtube pour ceux qui ne connaissent pas.
    Merci pour vos réactions.
    Merci à Paul Jorion.

  22. Avatar de Jean-Philippe de Lespinay

    Votre « brève histoire de l’IA » oublie des faits essentiels : Mycin (USA, 1970), Prolog (1972, français), Pandora (1982, Français), La Maïeutique (1986, français), l’intelligence artificielle raisonnante (1991, français). Comment un Français peut-il parvenir à écrire une article pertinent dans ce cas ?

    1. Avatar de Paul Jorion

      Vous appelez cela « brève histoire de l’IA », mais moi j’appelle cela « L’intelligence artificielle : mythe ou révolution » en 4.300 signes (la taille de mes chroniques).

      Mais n’hésitez pas à m’écrire une « brève histoire de l’IA » : je vous la publie ici.

    2. Avatar de CloClo
      CloClo

      Comment un Français ne peut-il pas réunir quelques malheureux 40 000 euros pour finaliser l’affaire du siècle ? Tout juste le prix d’une grosse berline française. Pas fortiche ces français hein ? !

      Bon Jorion est plutôt belge remarque 😀

  23. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    L’idée qu’un monde de machines communicantes et intelligentes acquiert son autonomie ne me paraît pas absurde. Je souscris à l’idée que c’est inscrit dans la logique économique actuelle, qui pousse à numériser et automatiser toujours plus, ce qui a terme produit le monde des machines ou robots intelligents, qui se substitue alors au monde des humains, dont l’incompétence quant à la poursuite de son aventure en tant que monde humain, serait alors avérée. Bien entendu il peut encore y avoir des humains en chair et en os, mais ils vivent et agissent désormais dans les limites du monde imparties par le monde des robots et machines intelligentes.

    Paul apporte une précision importante dans le débat.
    Il nous précise que l’on ne sait pas ce qu’est l’intelligence humaine, par contre nous avons dire tel personne, tel comportement est intelligent.

    Et là j’ai envie de dire n’y a-t-il pas quelque chose à creuser pour notre réflexion du coté de l’intelligence humaine en tant que caractéristique d’une espèce dont l’évolution s’inscrit dans une histoire ? Si l’on sait dire que tel comportement est intelligent, c’est en regard d’une situation et d’un problème précis. Or ce problème précis concerne cette fois non pas un comportement localisé, des facultés spécifiques, mais l’humanité dans son ensemble. Son intelligence à persévérer dans son être, ou autrement dit se survivre à elle-même.

    Le monde des robots est une émanation du monde humain, puis acquiert son autonomie, soit. C’est une possibilité.
    Mais le monde humain en tant que tel, y compris ses artefacts intelligents, a-t-il déjà perdu la partie, je veux dire pour lui-même et par lui-même ?

    Prenons par exemple l’irruption de Greta Thunber sur la scène mondiale, événement tout à fait improbable.
    Voilà une personne désignée par d’aucuns comme « asperger » qui parvient à communiquer comme aucun être humain sur celle planète n’y est parvenu sur un thème qui engage l’avenir de l’humanité.
    Une « autiste » entendez-vous, qui parvient à communiquer, à l’ensemble de l’humanité, ou tout au moins déjà à une part significative !
    Quel paradoxe ! Un paradoxe apparent seulement, si l’on considère que les facultés que l’on prête aux humains ne sont pas attribuables à ceux-ci comme individus, mais en tant qu’ils sont intelligents associés à un « milieu » qui leur permet de réaliser l’intelligence qu’on leur prête. L’intelligence ne préexiste pas d’abord puis s’exprime ensuite, le caractère intelligent et son expression ne sont en réalité qu’une seule et même chose.
    Ce que je veux dire c’est que dans ce cas précis, avec Greta, il importait moins qu’elle soit individuellement plus intelligente que la moyenne, ce qui semble bien être le cas si l’on considère sa maturité intellectuelle, ses capacités d’assimilation et synthése des informations. Il importait surtout qu’elle rencontre une situation commune à l’ensemble de l’espèce humaine à ce moment précis de son histoire. C’est la situation nouvellement crée par le réchauffement climatique, qui offre par son entremise la possibilité à l’espèce humaine d’exprimer une nouvelle facette de son intelligence adaptative.

    Bien entendu, dans la réussite de Greta Thunberg, il entre une grande part de symbolique. Il y a un récit. Il suffit de réécouter le discours de Greta Thunberg à l’ONU pour s’en convaincre. Greta désigne des acteurs, nous, les gouvernants, distribue les rôles, et elle se fait imprécatrice.
    Comme certain commentateur sur ce blog l’a remarqué, on y trouve sans doute une résonance religieuse, s’agissant de Jésus enfant, au Temple, s’exprimant devant les doctes. On pourra trouver d’autres références religieuses, ou pas. Mais peu importe, il y a en tous cas de l’affect, beaucoup d’affect dans cette histoire, porté par un récit. C’est le récit que l’humanité réécrit pour elle-même.
    Or tout se passe comme comme si ce récit, qui n’est pas que symbolique, puisqu’il s’appuie sur la science, permet de réaliser une transition de phase, comme noté également par un commentateur, celle qui permet de porter au premier plan un nouveau paradigme. Ce paradigme nécessaire pour changer de politique.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta