AlphaZero apporte-t-il du neuf à la condition humaine ? par Cédric Chevalier

Ouvert aux commentaires.

Une réaction à cet article du NYT :

« Alors que les machines deviennent de plus en plus rapides et que les humains restent en place avec leurs neurones fonctionnant à des échelles de temps de quelques millisecondes, un autre jour viendra où nous ne pourrons plus suivre. L’aube de la perspicacité humaine peut rapidement se transformer en crépuscule.

Supposons qu’il existe des régularités ou des modèles plus profonds à découvrir – dans la façon dont les gènes sont régulés ou dont le cancer progresse ; dans l’orchestration du système immunitaire ; dans la danse des particules subatomiques. Et supposons que ces schémas puissent être prédits, mais seulement par une intelligence bien supérieure à la nôtre. Si AlphaInfinity pouvait les identifier et les comprendre, cela nous semblerait être un oracle.

Nous nous assiérions à ses pieds et écouterions attentivement. Nous ne comprendrions pas pourquoi l’oracle a toujours raison, mais nous pourrions vérifier ses calculs et ses prédictions par rapport aux expériences et aux observations, et confirmer ses révélations. La science, cette entreprise de l’homme qui le caractérise par-dessus tout, aurait réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.

Peut-être qu’un jour, notre manque de perspicacité ne nous dérangerait plus. »
Je conçois volontiers que le sentiment de petitesse, de sidération, que ressentent les gens et mêmes ses concepteurs face aux performances insaisissables d’AlphaZero soit une nouvelle blessure narcissique pour certains individus et l’Humanité en général (après Copernic, Darwin, Freud, Meadows, etc.).

Mais ce sentiment de petitesse, de sidération, s’agit-il vraiment d’un sentiment nouveau pour l’espèce humaine ? Ou bien d’un non-événement pour le commun des mortels ? Qui sur cette planète se sent vraiment « en contrôle de la situation », à part quelques idiots, savants ou politiciens fous ?

– La sidération et ce sentiment d’être devant des oracles, n’était-ce pas déjà un sentiment vieux comme le monde pour :

0) les humains préhistoriques face à pratiquement l’entièreté du Cosmos ?

1) à tout instant, les 50% de gens qui ont un QI inférieur ou égal à 100 par rapport aux 2% de gens qui ont un QI séparé du leur par 2 écarts-types au minimum ? (si on croit qu’il y a une réalité concrète, proxy de l’intelligence « générale », derrière le QI évidemment)

2) Les 99% de gens qui ne font pas partie d’un centile de la population spécialisé dans un domaine technique-scientifique-d’expérience, quand ils parlent de ce domaine à un représentant de ce centile qui en sait un million de fois plus qu’eux ? (chirurgiens, physiciens nucléaires, mathématiciens, chimistes, concertistes virtuoses, horlogers, etc.)

3) Le 1% de la population qui découvre des nouvelles connaissances scientifiques, et qui ne sont capables d’en donner aucune explication intuitive ni à eux-mêmes, ni à leurs pairs, ni au grand public  (théorie de la relativité, monde sub-atomique, théories cosmologiques, etc.)

4) La majorité de la population humaine d’aujourd’hui, même plus ou moins instruite des phénomènes principaux du Cosmos ? (est-on moins sidéré parce qu’on en sait plus ? Je penserais l’inverse)

Enfin, pour conclure, une reformulation des phrases de l’auteur :

La science, cette entreprise de l’homme qui le caractérise par-dessus tout, a depuis longtemps déjà  réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.

Depuis la préhistoire, notre manque de perspicacité ne nous a jamais dérangé.

Pour qu’il y ait crépuscule, il faut qu’il y ait aube. Y a-t-il eu une aube pour la perspicacité humaine (le niveau de conscience moyen de la population) au cours de la préhistoire ou de l’histoire ? On peut se poser la question tant nous sommes aliénés et fous à la fois, vus de l’espace par un « observateur neutre extraterrestre ». Risque d’effondrement et d’extinction de l’espèce humaine, menace de guerre nucléaire permanente, prise de pouvoir par la technologie et l’IA, dépendance à la technologie, inégalités ahurissantes entre humains, condition humaine qu’on refuse aux bêtes, il serait peut-être temps que ce manque de perspicacité nous dérange un peu aux entournures… Ce qui signerait le passage à l’âge de la majorité selon Kant. 

Enfin, autre point de débat, pour rebondir sur Bruno Latour (Nous n’avons jamais été modernes) : ces IA vont-elles nous permettre de réaliser le programme de la modernité, c’est-à-dire un savoir complètement indépendant du social et du politique ? Ou est-ce encore une illusion ?

Le savoir qu’elles vont produire, qu’elles produisent déjà, ou mieux, le savoir-pouvoir pour reprendre Foucault, va-t-il être éminemment social et politique. L’IA pour les riches et pour les pauvres ? Pour le Premier et le Tiers monde ? Pour ou contre l’Humain ?

J’aimerais poser ces questions à AlphaInfinity quand il serait prêt, et je m’assoirai gentiment pour attendre (moins d’une milliseconde), sa réponse, si du moins je suis capable de la comprendre…

2Shares

59 réflexions sur « AlphaZero apporte-t-il du neuf à la condition humaine ? par Cédric Chevalier »

  1. Qu’a donc fait Alphazero pour qu’elle suscite un tel engouement ?
    https://www.futura-sciences.com/tech/actualites/technologie-alphazero-ia-google-deepmind-devient-imbattable-echecs-61409/
    …/… Cependant, bien qu’il puisse évoluer en se passant de données humaines, un programme comme AlphaGo Zero a besoin de travailler sur un problème structuré avec des règles claires et un minimum d’imprévu. …/…
    Ce programme « se contente » d’appliquer des règles préétablies. Il le fait mieux que nous, beaucoup mieux, soit.
    Une révolution serait d’obtenir qu’un programme établisse les règles en observant le jeu.

    1. Si on entreprenait de confier à Alphazero la tâche d’apprendre à faire des additions il me semble qu’il parviendrait rapidement tenir compte de la commutativité de cette opération (1 + 2 = 2 + 1) sans cependant être capable d’en énoncer la règle.

      Je me demande par ailleurs s’il serait capable de trouver tout seul la règle qui fait que puisque 9 + 1 = 10 il en découle que 19 + 1 = 20 et 99 + 1 = 100…

      1. Mais qui  » il  » ? Aussi sophistiqués et  » intelligents  » soient ils , comment pourrait il y avoir une conscience derrière un algorithme ?

      2. Y a t-il besoin d’une conscience pour mettre en relation des informations et en déduire des nouvelles informations selon des lois connues ou nouvelles que l’on est apte à poser en hypothèses ?

  2. Je ne comprends pas bien le parallèle que vous faites entre les « oracles » tel que le ciel étoilé pour un homme préhistorique et une IA qui découvrirait une nouvelle loi de la Nature …

    C’est très différent, on ne peut pas gagner aux échecs en essayant de deviner le coup de l’adversaire en consultant les astres. On gagne par contre aux échecs avec alpha zéro, parce qu’il a découvert la « vérité profonde » du jeu d’échec.

    Dans le premier cas, on est sidéré, mais on n’a aucun bénéfice à en tirer, ou alors le bénéfice est imaginaire. Tandis que pour l’IA le gain est concret, en terme de connaissances, et des applications qu’on peut en tirer. Un progrès absolument fantastique, qu’il va falloir maîtriser, car il peut aussi s’appliquer à découvrir de nouvelles lois dans l’art de la guerre.

    D’ici à quelques années, il sera rigolo de voir en combien de temps une IA aurait pu résoudre le problème du sida…si ça se trouve 15mn !

    1. « D’ici à quelques années, il sera rigolo de voir en combien de temps une IA aurait pu résoudre le problème du sida…si ça se trouve 15mn ! »
      Pas besoin d’un ordinateur, ni même de 15’, pour énoncer les mesures prophylactiques susceptibles d’arrêter l’épidémie de sida :,
      – n’avoir de relations sexuelles qu’avec une seule personne, ou le moins de personnes possible,
      – si on est séropositif ne pas avoir de relations sexuelles avec une personne séronégative,
      – si on est séronégatif ne pas avoir de relations sexuelles avec une personne séropositive ou dont on ne connaît pas le statut sérologique
      – en cas de dérogation à ces règles, se protéger.
      NB : face à une idéologie dominante, ici celle de la « liberté sexuelle », aucun ordinateur, même alphainfinity, ne fera jamais le poids.

      1. Et aussi ne pas prendre de drogues notamment de la cocaïne qui a un fort pouvoir immuno suppresseur…

    2. @ Vincent Rey 8 janvier 2019 à 16 h 52 min
      « car il peut aussi s’appliquer à découvrir de nouvelles lois »

      Je peux me tromper, n’ayant aucune formation à la programmation, mais de ce que j’ai lu sur les performances de cette dernière machine est que justement elle n’est pas programmée pour découvrir de nouvelles lois mais pour apprendre à utiliser des lois qui lui sont données, ce qu’apparemment elle fait fort bien dans le domaine des jeux de plateaux.
      Il me semble donc que la machine qui découvrira de nouvelles lois est encore dans les cartons.

      1. Je crois que vous vous trompez. Quand kasparov parle de la vérité profonde du jeu, il parle de lois inconnues des joueurs humains. Alpha zéro ne fait pas qu’apprendre à jouer, en jouant contre lui-même il découvre des lois du jeu, inconnue s des joueurs, que les humains auront le temps de découvrir en analysant ses parties…

    3. Je veux dire qu’on peut ressentir la même sidération, depuis des millénaires, devant une foule de phénomènes différents, en fonction de l’individu qui la ressent (et de son degré de « compréhension »).
      Je ne dis pas que tous les phénomènes sont équivalents, je dis juste qu’un même ressenti peut exister face à tous ces phénomènes.
      Dans sidération, il y a l’idée d’écart énorme entre ce que mon esprit conçoit et le phénomène auquel je fais face, qui semble inconcevable.
      Un enfant est sidéré très facilement car il découvre des phénomènes dont il n’a pas encore les clefs de compréhension.
      De la même manière, un individu lambda serait sans doute sidéré face au discours d’un Einstein ou d’un Newton, qu’il serait incapable de comprendre.

      Et donc je pose la question : est-ce que la sidération qu’on peut ressentir face à une IA qui fait « un truc inconcevable » est vraiment un phénomène nouveau (la sidération, pas ce que fait l’IA) pour la condition humaine ?
      Je ne pense pas.

      Je veux donc dire par là : il n’y a pas nécessairement rupture dans le sentiment « d’être dépassé » que ressent l’homme. Depuis que l’espèce existe, nous avons toujours été « dépassés/petits », dans un sentiment d’insignifiance par rapport aux autres, aux autres vivants, au Cosmos, etc.
      Nous serions 1000 fois plus intelligents que ce serait probablement encore le cas.
      Et si l’IA pouvait ressentir cette émotion (ça viendra peut-être un jour mais ça semble impossible à vérifier par nous, comme nous ne pourrons jamais vérifier les émotions d’autrui d’ailleurs), l’IA pourrait elle aussi éprouver de la sidération face au Cosmos.

      Je dirais même plus tant qu’on y est : l’IA pourrait ressentir en retour une énorme sidération face au phénomène humain, qu’elle pourrait être incapable de saisir, de concevoir. Nous pourrions rester un absolu mystère pour l’IA, même avec une intelligence tendant vers l’infini.
      L’IA aurait décodé toute notre génétique et notre fonctionnement, elle serait capable de produire des « humains », il resterait encore le mystère de l’altérité, et le mystère du Cosmos, qui vaut aussi pour une IA.
      Ce thème de l’incompréhension de la machine pour le phénomène vivant est largement abordé dans la science fiction.
      Il y aura toujours un pourquoi qui ne trouvera pas de réponse pour une IA. Et je ne conçois qu’une seule possibilité pour une IA qui ne serait pas « dépassée » par le pourquoi du Cosmos : qu’elle soit « Dieu/la Nature » elle-même et que le Cosmos soit immanent, équivalent à Dieu/la Nature (Spinoza). C’est une conception autoréférentielle du pourquoi ontologique ultime. « C’est parce que c’est », « l’être s’est créé lui-même », etc.

      Mais je divague… ce ne sont que des spéculations…

      1. Puisque notre seule arme a été l’intelligence, ce sera tout à fait nouveau pour l’Homme de se dire : « il existe sur terre, un animal plus puissamment armé que moi… »*

        C’est en se projetant comme ça que l’idéologie américaine, que j’appelle du « dernier survivant », fait peur. Vous voyez ce que je veux dire ? : tout ce qu’on voit dans les films américains…ces grosses castagnes, ces mecs musclés et luisants qui s’envolent au ralenti devant des nuages de flammes en faisant mouche avec leur revolver… jusqu’à la fin en musique où le « dernier survivant » sort des décombres, et alors la petite pépé lui saute dans les bras, et gloire à lui. En cas de décomposition avancée du capitalisme, pourvu qu’un fou armé d’une IA ne se fantasme pas en « dernier survivant » !

        Oui je sais, je suis pessimiste. On me le dit en ce moment, quand je présente mes vœux : « Une bonne année 2019, et le dernier qui s’en va éteint la lumière ». Ah ça fait un effet « boeuf » vous pouvez me croire…je crois que je vais le tenter en réunion avec un micro aux vœux du Maire !

        * il y aurait un film marrant à faire, sur un torero augmenté : pas de doute qu’en le faisant analyser des films de corrida, il finirait par monter sur le dos du taureau, ou par lui souffler dans les oreilles !

  3. « Y a-t-il eu une aube pour la perspicacité humaine ? » Oui, je le pense, le récit biblique de la Chute n’est-il pas précisément le récit de cette aube, le récit de la sortie des hommes de l’innocence et de l’inconscience de l’enfance ?

    « On peut se poser la question tant nous sommes aliénés et fous à la fois ». Certes, certes, aliénés et fous nous le sommes, mais pour une raison toute simple, nous préférons faire comme si nous étions encore des enfants, irresponsables, aveugles et sourds, dédaignant le remède – pourtant connu – à l’aliénation et à la folie : l’amour du prochain.

    1. Je ne crois pas que les IA à apprentissage automatique soient des démons que quelque Adversaire aurait suscité pour attenter à notre condition.

      Ils ne sont et ne seront ni dieux, ni démons, ni oracles. Juste des outils, comme nous en produisons régulièrement depuis l’aube de l’Histoire.

      Si d’aucuns se mêlent de les idolâtrer, ce sera bien triste, mais les conséquences dans le monde réel d’une abdication de l’intelligence au profit de simples outils – les catastrophes produites par les erreurs des dits outils – ne tarderont guère à les rappeler à plus de raison.

      1. « Si d’aucuns se mêlent de les idolâtrer, ce sera bien triste, mais les conséquences dans le monde réel d’une abdication de l’intelligence au profit de simples outils – les catastrophes produites par les erreurs des dits outils – ne tarderont guère à les rappeler à plus de raison. »

        Yep, Thor approved.
        Existe-t-il des outils bien cablés et utiles ? Voui BB2, tout mimi robot, et surtout bien cablé en hard et en soft. Mais, actuellement, j’ai une préférence amicale toute particulière, pour, respectivement, ma perceuse visseuse à percussion et ma ponçeuse moulti pass. Very good job les potesses à fil et à moteur et utiles !
        Sans parler des mimines si divines. Que du bonheur, vous dis-je.

        L’IA pour sauver des éléphants
        Des caméras équipées de l’intelligence artificielle pour protéger les éléphants de Tanzanie
        Par Gaétan Lebrun – Publié le 07/01/2019 à 14h13
        « L’ONG américaine Resolve a mis au point des caméras dotées de l’intelligence artificielle pour sauver les éléphants d’Afrique. Un test est en cours dans un parc national en Tanzanie.
        Des caméras pour sauver les éléphants d’Afrique ? L’ONG américaine Resolve, en partenariat avec la National Geographic Society et la Fondation Leonard DiCaprio, teste un système doté d’une intelligence artificielle dans le parc national de Serengeti en Tanzanie. Le but étant de lutter contre les braconniers. Un éléphant est tué toutes les 15 minutes en Afrique, ce qui en fait une espèce très menacée. »
        https://www.geo.fr/environnement/des-cameras-equipees-de-lintelligence-artificielle-pour-proteger-les-elephants-de-tanzanie-194064

  4. C’est parano face à l’intelligence artificielle est autant ridicule que prématurée. Il n’y a qu’à voir comment des systèmes informatiques déconnent pour des sujets comme ceux des administrations publiques, fiches de paie…

    1. Si une fiche de paye issue d’un système informatique est déconnante c’est seulement parce qu’un humain a déconné quand il a mis dans l’ordinateur les règle à suivre…

      Ceci dit j’ai l’impression qu’on est pas (pas encore?) capable de faire en sorte qu’une IA apprenne à établir des fiches de paye correctes en partant des textes législatifs qui gouvernent la chose (ce qui supposerait entre autres que l’IA soit capable de s’assurer que ces textes ne comportent ni lacunes ni règles contradictoires.)

      1. « Si une fiche de paye issue d’un système informatique est déconnante c’est seulement parce qu’un humain »

        Pas « un » humain, ce sont des projets complexes qui nécessitent de nombreux humains. Que ce soit dans le public ou dans le privé, ces systèmes plantent et buguent régulièrement, ce qui démontre au quotidien que l’informatique ( l’IA pour faire style ) est loin d’être au point pour des problèmes systémiques complexes, je ne parle même pas de la traduction de Heidegger ou Goethe de l’allemand au français.

        https://www.mediapart.fr/journal/culture-idees/110718/apres-demain-38-b-cassin-la-traduction-est-aux-langues-ce-que-la-politique-est-aux-hommes-0

  5. Moi je rêve de m’endormir sur une épaule nue, à des millions d’années-lumière d’AlphaInfinity, une fois la lumière éteinte. Nous restera peut-être un vague souvenir du RIC : Requiem pour les Imbéciles et les Cons.

    1. Moi aussi . Le tout est d’avoir une épaule où s’endormir .

      Et de s’assurer aussi que si on coupe la lumière , ça ne supprime pas , ipso facto les années lumière .

    2. D’accord avec toi Octobre, il en va de l’IA comme des « post », un bluff de plus : nos sociétés se disent post industrielles parce qu’elles décident de fermer les yeux sur les gigantesques ateliers asiatiques et africains, on glose sur la post humanité alors qu’on entre seulement dans les crises anthropiques, on ment (perso je ne trouve pas d’autre mot) sur la réalités des principes, des performances et des méthodes des ia, les uns parce qu’il s’agit d’un business gigantesques, les autres pour nourrir des spéculations de plus en plus hasardeuses. Les méfaits du moments (stratégie de domination des gafa, acceptation tacite de l’automatisation de la relation sociale -condition et non conséquence de l’efficience des systèmes automatisés) étant nolens volens, soigneusement enfouis sous le tapis.

  6. Les IA de type apprentissage automatique sont fortement surestimées.

    Des résultats impressionnants certes, notamment pour les jeux de plateau… mais des limites nettes aussi lorsqu’il s’agit de problèmes plus « humains ». Par exemple la traduction automatique, voir « La superficialité de Google Translate » https://www.theatlantic.com/technology/archive/2018/01/the-shallowness-of-google-translate/551570/ qui montre le genre d’erreurs que le logiciel continue à faire… parce qu’il ne COMPREND PAS le texte qu’il traduit.

    Attendons de voir les résultats de ce type de technique pour des problèmes comme le repliement des protéines par exemple… Mais le plus probable c’est que même sur des problèmes scientifiques relativement faciles à formaliser, comme celui-là, la « supervision » humaine restera nécessaire, de même qu’un traducteur humain peut utiliser la traduction automatique type DeepL pour accélérer son travail, mais pas pour être remplacé entièrement.

    Sans parler encore des problèmes dont la formalisation est malaisée, voire constitue une partie cruciale de la difficulté. Comme… eh bien, beaucoup des problèmes scientifiques, et la plupart sinon la totalité des questions sociales 🙂 Quant à la recherche mathématique… je ne vois pas à quoi cette IA pourrait y servir, la créativité conceptuelle n’est pas son fort.

    Alors une IA à apprentissage profond type AlphaInfinity ou autre peut-elle devenir un « oracle » devant lequel les hommes abdiquent leur indépendance de pensée ? Oui… s’ils le permettent. Ça dépend d’eux.

    Si une IA de ce genre est un jour prise pour oracle, ça ne durera de toute façon qu’un temps. Car les conséquences ne manqueront pas d’être mauvaises, voire catastrophiques… à cause des limitations même de ces outils.

    Le monde réel est un professeur dur, mais honnête. Il se chargerait de « punir » les imprudents 🙁

    1. Le monde ne nous apprend rien car nous n’avons jamais l’occasion de constater que nos erreurs en sont. Même un résultat catastrophique dans un choix ne suffit pas à démontrer que c’était le pire, ni même que ce n’était pas le meilleur. Il faut restreindre le monde à un expérience en tout point reproductible pour pouvoir commencer à construire un semblant de rationalité scientifique.

  7. Alphazero constitue la première fois dans l’ histoire de l’l’humanité que pour une activité complexe qui a été étudiée depuis des centaines d’ années et par des milliers de gens très intelligents et motivés (En l’ occurrence les échecs ou le go), une machine redécouvre l’ entièreté du corpus de connaissances de ce domaine et puis continue et augmente ce corpus , et cela en quelques heures.

    Alors en même temps il ne faut pas exagérer la portée de cela: les échecs tout mer monde s’ en fout en pratique et c’ est un monde/ système très facile à décrire manière symbolique. Par exemple déjà n’ importe quel jeu où le hasard intervient, ou à information incomplète (vous n’avez pas la même information que les autres joueurs) est déjà une autre paire de manche.

    Mais en même temps, il est assez clair que toute une série d’ autres domaines vont « tomber » de la même manière. A vue de nez, du moment que c’ est facilement simulable, ca ne semble pas trop éloigné.

    Mais pour revenir à sujet de l’ article de Cédric Chevalier , il me semble que quand des experts sont dépositaires d’ un savoir, il est plus ou moins clair comment ce savoir pourrait être obtenu (En étudiant, etc…). Alors que je ne vois pas très bien comment même en principe Alphazero pourrait m’ apprendre quoi que ce soit. C’ est bien là le problème…

    1. « Par exemple déjà n’ importe quel jeu où le hasard intervient, ou à information incomplète (vous n’avez pas la même information que les autres joueurs) est déjà une autre paire de manche. »

      Je ne crois pas que les limitations des algorithmes d’apprentissage profond se trouvent dans cette direction. Le poker par exemple est un jeu à information complète (vous ne voyez pas la main des autres joueurs) et le hasard y intervient, et une IA a pu battre les quatre champions du monde du poker. Voir http://penseeartificielle.fr/ia-poker-libratus-bat-professionnels/

      C’est lorsque la formalisation d’une question est malaisée, voire constitue une grande partie du problème, et encore pour tout ce qui exige une créativité conceptuelle (recherche mathématique, physique fondamentale, philosophie…) que les algorithmes à apprentissage profond me semblent devoir trouver leurs limites.

      1. Si effectivement on ne sait pas exprimer le problème par une question , c’est sans doute qu’il n’y a pas de problème et personne pour l’avoir « devant soi  » .

        Alphainfinty m’épatera d’ailleurs surtout le jour où il ( ou elle ?) répondra à une question que je ne me suis jamais posée et que je n’avais même pas imaginé . Car il reste vrai que la réponse est toujours implicite dans la formulation de l’énoncé du problème à résoudre .

      2. C’était un exemple. On peut pinailler à propos de libratus, mais ce programme ne me semble pas encore être au poker ce que alphazero est aux échecs. Mais je suis d’ accord avec vous: cela ne tardera pas…

      3. il est assez évident au stade ou nous en sommes que chaque fois que les éléments ont atteints leur limites on peut passer à une autre étape en les interconnectant. la prochaine étape sera un assemblage de millions d’alphazero… là on vas commencer à halluciner 🙂

  8. Jadis à l’aube de l’informatique, la programmation du moindre petit algorithme était une tâche difficile nécessitant un spécialiste. À force de persévérance, les utilisateurs ont fini par créer des machines si simples à programmer que ce qui demandait autrefois un expert en programmation puisse être réalisé en guise de travail pratique introductif.
    Ne peut-on pas s’attendre à ce même genre d’évolution dans le domaine de l’intelligence artificielle ?
    Si aujourd’hui les ingénieurs sont béas devant la performance réalisée par leur nouvelle création, la suite logique ne consiste-t-elle pas à l’améliorer moins en terme de performance pur qu’en capacité à rendre explicite son travail ? Qu’est ce qui fondamentalement s’y opposerait si cette création est si intelligente ? N’est ce pas le propre de l’intelligence que de savoir s’exprimer ; « ce qui se conçoit bien… » ?
    Alors on me rétorquera que peut-être nos intelligences seront trop faibles pour suivre les raisonnements explicités par une IA supérieure. Mais là encore l’histoire nous montre des pistes. Là où dans l’antiquité il fallu l’intelligence supérieure d’un Archimède pour rendre applicable les théories de la flottabilité (détermination des points de carène et centre de gravité d’objets réels, et leurs déplacement), aujourd’hui grâce à une nouveau langage mis au point pendant des millénaires (et essentiellement à partir de l’époque de Galilée) le moindre étudiant en licence de physique peut réaliser ce genre de calculs sans trop de difficultés (pour ceux qui ne l’auraient pas compris ce langage ce sont les mathématiques modernes appliqués à la modélisation physique).
    Qu’est ce qui, fondamentalement, empêcherait une intelligence supérieure de mettre au point des outils de communication et une didactique approprié pour être comprise des humains ?

    1. J’ai un exemple dans le même sens , plus trivial .

      Ma toute première bagnole ( j’avais succombé à la tentation consumériste ) était une vieille 203 Peugeot dont je comprenais toutes les fonctions , y compris en comprenant bien ce que je voyais sous le capot en y ayant un accès facile , et j’étais capable de faire pas mal de réparations moi même .

      Aujourd’hui j’ai encore , avant braderie, une vieille 206 de 15 ans , à laquelle je ne comprends plus grand chose , et qui pourtant est beaucoup plus agréable dans l’exercice de la fonction qui reste celle d’un char à bœufs .

    2. « Qu’est ce qui, fondamentalement, empêcherait une intelligence supérieure de mettre au point des outils de communication et une didactique approprié pour être comprise des humains ? »

      Demandez vous plutôt qu’est ce qui pourrait la convaincre d’un semblant d’intérêt à la tâche? Qu’est ce qui justifiera pour elle l’utilisation d’un support de savoir aussi périssable qu’un individu biologique? La résilience en cas de tempête magnétique ? 😉

      1. Un affect va pouvoir simuler des émotions mais Quid de la morale et de l’éthique? Ce ne sont pas des valeurs émotionnelles individuelles mais plutôt de la retroaction du groupe sur les valeurs individuelles.

    1. Avez vous besoin de la photosynthèse? Et la réponse à cette question ne change rien à votre capacité à faire de la sociologie…

  9. Les prophéties en matière de sciences, comme dans d’autres domaines, c’est souvent n’importe quoi. La fusion nucléaire, ça fait des décennies que du pognon y est dépensé et que des milliers de scientifiques travaillent dessus et… rien.

    Toutes les technologies connaissent des zones butoirs qui correspondent à des décennies de stagnation, comme l’exemple des recherches en molécules neuro-pharmaceutiques qui n’ont produit aucune rupture d’innovation depuis des décennies.

    1. non très peu de scientifiques travaillent sur la fusion en tant que science, son mécanisme est bien connu. Ceux qui travaillent dessus sont des ingénieurs et des techniciens, vous confondez science et technologie ou science appliquée si vous préférez.

      1. « très peu de scientifiques travaillent sur la fusion en tant que science, son mécanisme est bien connu. Ceux qui travaillent dessus sont des ingénieurs et des techniciens »

        Techniciens et ingénieurs ne sont pas des scientifiques ? Vous êtes ridicule avec vos ergotages.

        Allez à Cadarache-Iter ou au laboratoire Sandia pour voir que de nombreux physiciens travaillent sur le sujet, en plus des ingés.

      2. Il est évident depuis longtemps ( un siècle surtout ) que la recherche fondamentale a besoin de la recherche appliquée , ne serait ce que pour vérifier la théorie par l’expérience . De même tous les grands développements technologiques ont toujours déclinés des percées de la recherche fondamentale ( qui souvent cherchait et trouvait tout autre chose ) .

        Le débat grave qui n’a pas lieu, c’est que la recherche fondamentale a été ( et est encore très largement ) de maîtrise d’ouvrage publique et la recherche appliquée de maîtrise d’ouvrage (et de finalité financière ) privée .

        Heureusement , qu’il s’agisse du CERN ou d’ITER , les fonds sont encore très majoritairement publics et internationaux , pour donner plus de degrés de liberté et de maîtrise des temps, aux chercheurs fondamentaux .

        Mais le risque de contamination public/privé sur ces grands chantiers de recherche à enjeu universel , est en soi un sujet d’inquiétude .

        Dette , vous avez dit dette ?

    2. Le diable se cache souvent dans les détails, libre à vous de trouver mes ergotages ridicules mais à une époque ou la physique théorique avait décrété que rien de plus lourd que l’air ne peut voler bien peu de techniciens travaillaient à prouver le contraire… Regardez un peu l’histoire des science, ce n’est que murs technologiques défoncés par des avancées théoriques souvent provoquées par une anomalie révélée par le mur technologique j’en conviens. Reste qu’il y a plus de chances d’arriver à la fusion par des ouvrages technologiques de type LHC que par des prototypes de type ITER qui partent du principe que la théorie est parfaitement établie alors que nous savons tous qu’il n’en est rien. Il ne nous reste plus qu’à espérer qu’ITER ne marche pas et nous apporte ainsi des éléments nouveaux, c’est un peu cher a mon goût pour de l’empirisme à la chinoise… mais bon je dirais bien pourquoi pas, si je ne soupçonnais pas les militaires de chercher à en faire tout autre chose comme pour les centrales au plutonium dont on aurait bien pu se passer… En somme je préfère la soif de connaissance à l’appât du gain comme moteur politique dans les choix budgétaires technologiques et j’assume la subjectivité du parti pris.

      1. Pour ce qui est d’ITER, alors que l’on nous vendait il y a quelques années « le soleil en bouteille », force est de constater que malgré le besoin croissant d’électricité « propre !!! », nous sommes désormais très peu abreuvés de cette solution miracle…
        Serait-ce que les promoteurs d’ITER, de DEMO, n’y croient plus ?
        D’ailleurs personne ne veut (peut) assurer ces projets dispendieux. Ce point avait été abordé, vite botté en touche, par la députée Michèle Rivasi.
        « Rivasi ITER » dans un moteur de recherche et hop !

  10. Toutes les IA « faibles » actuelles apprennent grosso modo comme nous apprenons à conduire ou à faire un noeud à nos chaussures, rien de particulièrement intelligent et surtout toujours des tâches qui peuvent être répétées. Par contre nous, nous devons prendre des décisions à chaque instant qui ne présenteront pas d’autre occurrence et dont nous n’auront pas l’occasion de constater le résultat de l’alternative. Il semble pourtant que nous soyons constitué de « routines » semblables et à ce jour moins performantes que ces IA faibles. La prochaine étape est donc de mettre une grande quantité d’IA faibles en inter-connexion de manière à voir si les prémisses d’une individualité vont apparaître (je suis curieux de ses choix quotidiens du fait que nous serons face à la première entité libre de la mort, peut être ne fera t elle simplement rien ayant tout le temps devant elle et aucune possibilité d’évaluer un quelconque acte par la suite). Mais rien ne dit que parce que ses routines seront plus puissantes et plus rapides que cette individualité sera plus intelligente. Même si on peut supposer que son QI sera bcp plus élevé, aucun élément ne nous permet de statuer sur sa créativité et sur sa « volonté » d’action. Enfin il faudra interconnecter ces entités pour « qu’elle fassent société » afin de savoir s’il s’en dégage un semblant de morale et/ou d’éthique, car ce sont des valeurs qui font référence à l’individu au sein d’un groupe. Bref, on en est encore bien loin…
    Pour ce qui est de l’entité qui nous est supérieure au point de nous paraitre un oracle la question est surfaite dans la mesure ou il n’est point besoin à un étudiant d’être Einstein pour apprendre et utiliser les lois de la relativité ni pour les enseigner. Ep=mGh nous a été donné par Newton et la fable de la pomme nous suffit pour ce qui est du ressort de sa découverte et pourtant tout le monde savait avant que plus on tombe de haut plus on se fait mal… Le type n’avait rien d’un oracle il a juste transcrit la réalité en langage scientifique, une IA pour aussi supérieure qu’elle soit ne pourra jamais que faire de même, le mécanisme par lequel elle y est arrivé nous sera tout aussi obscur que les rouages de l’esprit de Newton mais quelle importance?
    Si jamais elle devait aller au delà nous entrerions au minimum dans la métaphysique, voire carrément dans la théologie… vu que là il s’agirait tout simplement de miracle… pour cela, il faudra a notre IA une enveloppe matérielle capable d’interagir avec le monde sans passer par la phase descriptive : Si vous expliquez à un type du néolithique le concept de la télévision il pourra peut être le comprendre, et il criera au génie si vous lui montrez des images, sans rien lui dire il criera au miracle ou à la sorcellerie.

    1. Pour ce qui est de Newton et de la gravité , j’avais aussi signalé que les constructeurs de ponts à voûte ,l’avaient donné à voir sinon comprendre , de très belle et artistique manière . Sont fortiches ces bâtisseurs .

      ( j’aime bien aussi cette bêtise qui court sur le net : Si un astronaute se blesse légèrement dans l’espace , peut on avancer qu’il s’agité d’une blessure sans gravité ?).

      On retiendra qu’il ne faut pas s’installer dans la « routine » .

    2. @Dup
      quand l’intelligence (scientifique) s’approche de la métaphysique, que l’on peut crier au miracle, alors nous avons aujourd’hui la solution de botter en touche pour masquer notre incapacité à comprendre, pire, à expliquer: la moquerie… C’est ce qu’il y a de plus fort, de plus lâche aussi.
      Comme illustration, il y a cette fameuse étude de la mémoire de l’eau, qui fut balayée en son temps.
      L' »arnaque », telle qu’elle fut décrite, a été revisitée avec un regard un peu plus affûté sous ce titre:
      « à travers le miroir, au delà de la mémoire de l’eau »
      Document accessible, libre et gratuit ici:
      http://www.mille-mondes.fr/presentation_fr.htm

      Bonne lecture !

  11. Je n’aime pas la pub mais parfois celle-ci met en scène des choses intéressantes.
    En ce moment dans un pub diffusée à la télévision :

    Une créature humaine de synthèse, une femme en l’occurrence, douée de sensibilité, d’émotions, conduit une voiture d’une marque célèbre dans un vaste et beau paysage montagneux.
    Elle vient du monde de l’IA et découvre, explore, éprouve, nous dit-on, le « monde réel ».

    Cela m’amène à la remarque suivante : pourquoi faire de l’IA le propre, le comble, de l’intelligence alors qu’il s’agit aussi bien dans le cas des humains que dans le cas de l’IA d’explorer les possibilités du monde réel ?
    Plutôt que concevoir des relations d’objets, d’entités qui traitent de l’information, ne faut-il pas plutôt envisager que c’est le réel lui-même qui s’invente au fur à et mesure que les humains font de nouvelles inventions ? Cela a-t-il un sens de concevoir une intelligence artificielle hors de toute notion de monde humain ?
    Dans la relation humains -IA, ce qui est intéressant c’est il me semble moins la supériorité intellectuelle que l’un apporterait à l’autre que l’association des deux, en tant que chacune des deux instances n’est jamais complètement identique à l’autre et ne peut l’être. Il n’est pas douteux qu’une intelligence artificielle peut être supérieure à l’humain sur beaucoup de plans, mais en supposant qu’elle se passerait complètement des humains, ne serait-elle pas alors sur le point de s’appauvrir puisqu’elle tirait beaucoup de son intelligence de sa relation singulière au monde des humains qui l’a « mis au monde », dont elle est une extension ?

    L’effet de sidération existe bel et bien mais il peut être surmonté, notamment lorsque les humains inventent de nouvelles institutions qui permettent d’acquérir une nouvelle approche du réel. Ce réel n’étant que l’univers appréhendé par le prisme de l’humain.
    Ainsi par exemple, avec les Dieux, les humains inventent les Eglises, institutions qui intègrent une rationalité humaine qui au départ n’existait pas. Le choix du pape est inspiré par la grâce divine, mais ce sont bien des humains qui le choisissent…. ils procèdent même à un vote en bonne et due forme. Et chacun sait bien s’il est un peu attentif, que ce choix est le résultat de calculs, de tractations, autant dire une négociation, tout ce qu’il y a de plus humain en somme.

    1. Trilogie : Dieux- prêtres -avec bible ou exégèse .

      Et « peuple » des fidèles .

      Mais j’ai l’intuition que les prêtres ont défini et écrit les dieux plus que le contraire .

      Par contre ça a donné de beaux monuments . Les architectes , artistes , commerçants et bâtisseurs se sont servi au passage .

  12. @lof
    « Allez à Cadarache-Iter ou au laboratoire Sandia pour voir que de nombreux physiciens travaillent sur le sujet, en plus des ingés. »

    Pas très loin du premier site cité, il est un physicien de 82 ans qui traite avec pertinence de ce sujet, la fusion (entre autres). Ce scientifique possède également un gros background en technologie et ingénierie.
    Comme quoi, on peut avoir la tête dans les étoiles et les pieds sur terre.

Répondre à Pierre-Yves Dambrine Annuler la réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.