Les machines, leur évolution, et nous, par Mathieu Van Vyve

Billet invité. Ouvert aux commentaires.

Mise à jour, 13/3/16 : J’ai rédigé le billet ci-dessous avant que l’on apprenne ce matin que Lee Sedol a gagné la quatrième manche. Le programme a mal évalué la qualité de la position à un moment donné et ne s’est « rendu compte » qu’il était mal embarqué que 4 coups plus tard. Ceci démontre qu’AlphaGo n’est sans doute pas « largement supérieur » ou au moins qu’il évalue mal certaines configurations. Mais cela ne change pas grand-chose à la discussion ci-dessous : le saut qualitatif reste à mon sens réel et inattendu, et nous autres humains semblons mal équipés pour anticiper ces évolutions.

Après trois parties de Go entre AlphaGo (programme développé par Google Deepmind) et Lee Sedol (un des meilleurs joueurs du monde), nous pouvons raisonnablement faire les constats suivants :

– AlphaGo est largement supérieur à Lee Sedol. Cela est quasi certain vu le déroulement des parties. On sait qu’AlphaGo va commencer à jouer des coups “faibles” mais peu risqués à partir du moment où il est quasi certain de gagner. Or cela arrive relativement tôt dans les parties, et en particulier à un moment où les commentateurs (des pros quasi aussi forts que Lee Sedol) n’arrivent pas encore à déterminer qui est en meilleure position. En fait il est possible qu’AlphaGo soit encore beaucoup plus fort que les gens l’imaginent : par manque d’opposition, la différence de niveau est en fait impossible à mesurer. Si je joue au Go contre le champion de mon club local ou contre Lee Sedol, le résultat sera sensiblement le même. On ne pourra rien en conclure sur le niveau de mon adversaire.

– Ce fait est une énorme surprise pour les joueurs de Go, mais aussi, et c’est plus surprenant, pour les experts en Intelligence Artificielle. En 2014, les personnes qui travaillaient sérieusement sur des softwares de Go estimaient encore à au moins dix ans le temps qu’il faudrait pour battre des joueurs du calibre de Lee Sedol.

– Les technologies mises en œuvre par les concepteurs d’AlphaGo (Monte Carlo Tree Search, les réseaux de neurones, et leur amélioration en faisant jouer des parties à l’ordinateur contre lui-même) sont toutes standard depuis au moins 10 ans. La manière de les combiner est bien pensée, mais reste complètement compréhensible et naturelle.

Il est assez clair que les possibilités de généraliser AlphaGo à d’autres domaines que les jeux (poker, bridge, etc.) sont à court terme assez limités. Ce qui caractérise ces activités c’est que le “monde” dans lequel ces intelligences artificielles doivent évoluer est extrêmement restreint. En fait ce “monde” se réduit aux règles du jeu en question, qui peuvent être intégralement écrites sur un bout de papier, et sans erreur ou incertitude.

Mais je voudrais ici mettre l’accent sur les trois constats ci-dessus mis bout-à-bout : la machine est passée en une fois de médiocre par rapport aux experts d’un domaine à immensément meilleure que ces experts, et essentiellement personne n’a rien vu venir, et ce même si les technologies mises en œuvre ne sont pas novatrices.

On voit donc bien qu’en réalité 1) il y a des sauts qualitatifs soudain dans les capacités des machines et que 2) ceux-ci sont très difficiles à anticiper, même pour les personnes les mieux informées. On peut donc assez bien imaginer une situation dans une trentaine d’années, où nous serions entourés de robots dont les capacités d’abstraction face à de nouvelles situations seraient depuis dix ans plus ou moins celles des chiens, et les gens trouveraient cela “mignon”. Mais sans se rendre compte que, soudain, deux mois plus tard, nous serions entourés de robots immensément plus intelligents que nous.

Partager :

70 réflexions sur « Les machines, leur évolution, et nous, par Mathieu Van Vyve »

  1.  »Notre » Civilisation occidentale privilégie l’Intelligence fut ‘elle artificielle ou habillée de  »Démocratie » OK !
    Personnellement, j’aimerai mieux qu’Elle privilégie le  »Coeur »
    ( c’est déjà arrivé en d’autres Temps et autres Moeurs ).
    Bon Dimanche

  2. Nous sommes passsés de la parole à l’écrit puis de l’écrit à l’imprimé puis de l’imprimé au réseau informatique, et maintenant du réseau à l’IA capable de comprendre les interactions
    A quand une machine capable de comprendre et de nous expliquer les interractions naturelles?
    Mais une question restera, oui mais pourquoi faire de ces interractions?

    1. Ben en tenir compte dans un système économique conçu pour ?
      (par ailleurs, on en connait suffisamment des interactions naturelles: pollutions, etc, on sait d’où ça vient…)

  3. faire une déduction après un certain nombre (faible)de parties n’est pas très raisonnable en soi.Peut être après 100 parties et encore davantage et si cela impliquait les 10 meilleurs joueurs du monde ,aurions nous moins d’incertitude pour affirmer que tel joueur (machine ou humain) est meilleur que l’autre avec un pourcentage % de se tromper dans notre déduction.En principe les stats nous enseignent cela.

    1. Cela dépend du type de déduction. Si vous voulez tirer de vos observations une loi statistique, je suis entièrement d’accord avec vous.

      Mais si votre but est montrer qu’une loi générale est fausse, un seul contre-exemple suffit. Le sens de mon post est plus proche de cela: ce qui s’est passé montre que l’affirmation « L’impact des technologies sur la société est prévisible à un horizon de 20 ans » est manifestement fausse en ce qui concerne l’intelligence artificielle.

      Cela rend les dangers inhérents à son développement autrement plus compliqués à gérer que ceux liés aux changements climatiques par exemple. Et comme on voit bien que pour ce dernier, les sociétés humaines ne parviennent déjà pas à gérer le problème…

  4. Finalement c’est assez rassurant, cela prouve en tout cas que cette intelligence là, celle qu’on développe dans ces machines, n’est pas si essentielle que ça pour se confronter au défi d’être vivant ni même, pour notre espèce en particulier, à celui de devenir humain. La question du sens (et aussi du bon-sens) fait décidément appel à d’autres facultés d’intelligence que celles développées par l’IA. Ouf !

  5. Vu mon grand age j’observe les choses depuis longtemps (depuis les premiers efforts de traduction automatique en particulier.) Je m’attends donc à ce que la vague d’optimisme actuelle soit suivie de l’habituelle période dépressive que provoque la constatation que les surprenants progrès qu’on vient d’accomplir sont ridicules par rapport aux difficultés qui restent à surmonter.

    C’est exactement comme si le seul moyen de savoir à quelle distance se trouve la lune était d’y aller.

    Les méthodes d’apprentissage – qu’il vaudrait d’ailleurs mieux qualifier de méthodes fondées sur l’accumulation d’expérience – ne sont (pour l’instant?) applicables qu’aux cas où:
    – chaque essais est suffisamment rapide pour qu’on en fasse énormément,
    – les échecs du début n’ont aucune conséquence ennuyeuse,
    – les critères permettant de distinguer la réussite de l’échec sont clairs,
    – les moyens à mettre en oeuvre (les règle du jeux) sont connues à l’avance.

    Ça laisse donc de côté pas mal d’utilisations « séduisantes » de ces méthodes. J’ignore si c’est de l’humour ou du délire mais quand on voit ça:
    Organization to elect IBM’s Watson AI as President of The United States in 2016 http://watson2016.com/ on constate que les obstacles restant à franchir ne sont pas évidents pour tout le monde!

    Ça s’explique peut-être par l’étanchéité des domaines académiques. Umberto Eco en a donné un exemple dans son livre sur la langue parfaite où il montre que les difficultés auxquelles se heurte la traduction automatique ont été mises en lumière depuis des siècles par un grand nombre d’auteurs célèbres ou pas.

    Ceci étant dit cette nouvelle efficacité de l’IA donne le vertige et on ne sait absolument pas jusqu’où il sera possible d’aller, comme l’explique Laurent Alexandre lors d’un colloque à l’Académie royale de Belgique: https://www.youtube.com/watch?v=RpzZu0m-pF8

    Il est remarquable qu’avant qu’AlphaGo ne joue un coup personne ne puisse savoir ce qu’il va faire.

    Il suffit de regarder autour de soi pour constater que si des êtres humains disposent un jour de robots suffisamment puissants ils s’en serviront inévitablement pour commettre des bêtises difficiles à réparer: https://www.quantamagazine.org/20150421-concerns-of-an-artificial-intelligence-pioneer/

  6. Je redouterai l’IA quand elle aura appris à tricher . D’ici là , je fonde le vague espoir qu’elle maide à mieux  » comprendre » notre intelligence propre , justement parce qu’elle n’est pas « nous » .

    Au passage , je remarque que « intelligence » suppose ,comme tous les grands mythes ou concepts premiers , la notion « d’unité » , de « grand tout » . Car , comment « com-prendre » si les éléments du puzzle ne sont pas pièces multiples d’un même tableau , et si nous ne sommes pas « tous » ( pour un ) en état d’accéder à cette prise sur notre environnement ?

    Et pourtant , rien n’est moins assuré .

  7. Ces questions sont passionnantes! Pour ceux qui l’ont pas vu, je vous conseille d’aller voir la dernière émission de Taddei: http://www.france2.fr/emissions/ce-soir-ou-jamais
    Quand, on voit des personnalités comme Ellon Munsk ou Stephen Hawking , s’alarmer sur ce sujet, je crois qu’on devrait y regarder de plus prés. Malheureusement, nos hommes politiques comme Hollande ou Valls sont dépassés par ces questions….Dommage!!!!!
    Le principal danger est quand une machine aura la capacité de conscience: « je pense donc je suis ». A ce moment là, son instinct de survie deviendra effectif (Hal 9000 de Kubrick…) et donc l’homme pourra devenir un danger potentiel pour la machine. La question que l’on peut se poser, c’est comment un organisme biologique arrive à « je pense donc je suis ». Aujourd’hui, on en sait rien: neurologues, biologistes,etc travaillent encore sur la question. Finalement, comme on ne sait pas comment naît la conscience, l’homme ne va t-il pas la créait sans s’en rendre compte? Il est là le danger. L’IA, en tant que telle n’est pas dangereuse, en revanche la conscience, c’est autre chose….Il est primordiale que l’on fasse des progrès dans la compréhension du cerveau, quitte à se servir justement de l’IA « inerte »….. pour y arriver….Sinon , on joue peut être avec le feu…On a peut être rien à craindre mais il faut que l’on sache! C’est quoi cette foutu conscience…Vite, c’est urgent…..

    1. @pierre
       » La question que l’on peut se poser, c’est comment un organisme biologique arrive à « je pense donc je suis ». …… »

      Le tout est de ne pas mettre la charrue avant les bœufs !
      Observer le comportement des machines et leur « progrès » peut, par retour, nous aider à nous comprendre et à découvrir ce qu’est notre conscience…
      Le risque réside dans la perte de contrôle des limites de la machine.
      Oublierait-on de poser ces limites, ces garde-fous ? que nous pourrions repousser un peu plus à chaque fois que nous avons enfin compris quelque chose de plus sur nous-même ?
      Cet oubli est facile quand on est porté par l’enthousiasme, la passion de la technologie ! (autant que le déni…)

      « Science sans conscience n’est que ruine de l’âme »… « conscience sans science est ruine égale »
      voilà l’équilibre à trouver entre « progrès no limit » et « retour à la bougie »… un minimum !

  8. Ce qu’on néglige aujourd’hui, c’est la capacité des gros machins d’IA (qui dans l’absolu, ne font en effet pour l’instant des sauts que dans des mondes fermés comme celui du go) à venir exploiter des masses de données (du cloud en gros), pour en tirer toutes les corrélations croisées qui font les typiquement les délices des titres de la section « Sciences Médecine » de google actu « Manger du curcuma protègerait contre les maladies donaldo-trumpiques ».
    Et l’on va trouver des systèmes d’information en face (grandes boites ou administrations publiques) pour en tirer des règles de conduites, des satisfecits ou des choses à faire absolument par dessus les usuels modes de délibérations certes d’apparence très imparfaits des humains, mais ô combien indispensable.

    Je flirte ici avec l’avis d’Evgueni Morozov (The Net Delusion) traduit maintenant je crois en français (par un robot ?).

    1. Je partage complètement votre appréhension.
      Mais (et ce n’est qu’une question de définition) les big datas, ce sont des stats, pas de l’intelligence artificielle. Cela ne pose, autant que je puisse voir, pas de problème fondamentalement nouveau (je veux dire: en plus de ceux que nous avons déjà).

      1. AlphaGo est une sorte de « synthèse statistique » construite à partir d’un très grande nombre de parties jouées par des humains puis de parties que la machine a ensuite jouée contre elle même. Il se peut que quelque chose m’échappe mais ça me semble assez limité, même si les spécialistes s’émerveillent de pouvoir trouver des solutions à des problèmes d’une complexité jusqu’ici inabordables.

        Si on applique la même méthode à l’évolution du climat, aux questions financières ou aux prévisions électorales ça permet de tenir compte de tout ce qui s’est passé avant mais pas des phénomènes nouveaux qui pourraient se produire (de même que le programme ne gagnera contre un joueur « qui ne joue pas comme tout le monde » qu’après avoir perdu suffisamment de parties.)

      2. Si la forme d’intelligence artificielle dont on discute n’est que des stats (stats portants à la fois sur des parties qui ont réellement eu lieu entre humains et des parties inventées ensuite parce que les règles conduisant à toutes les parties possibles sont connues, ce qui est une situation exceptionnelle) c’est la capacité d’improviser « en cas d’imprévu » qui est en question.

        Un véhicule automatique sera-il capable de s’arrêter quand il rencontre un éléphant ou un dromadaire, sera-t’il capable de faire demi-tour s’il rencontre une chaussée inondée, etc. J’ai l’impression qu’on retombe sur les questions abordées dans le chapitre consacré au Traité de probabilités de Keynes dans le bouquin de P.J.

        Un des aspects de la conscience de soi est d’essayer d’imaginer ce qui se passerait si on était pas là / ce qui se passera quand on ne sera plus là…

      3. @ GL

        Il n’y a pas de stats dans AlphaGo, au sens où il se baserait sur des parties connues, à part à la première itération.
        L’algorithme est principalement amélioré en le faisant jouer des millions de parties contre lui-même, ce qui lui permet de voir les mouvements qui statistiquement donne plus de chance de victoire, on met à jour, puis on recommence. Comme un humain, le programme sera moins fort dans des configurations de jeu qu’il n’aura jamais observées.

  9. Bonjour, il reste une question en suspend. Le robot est-il un Homme ou une Machine ? L’Homme est un être biologique, la machine non. Pour empêcher un homme de penser et de vivre, il faut de tuer. Un robot, il suffit de débrancher la prise électrique.
    Avez-vous déjà vu un robot pleurer d’émotion en écoutant par exemple l’air de Cherubino « Voi che sapete » des Noces de Figaro de Mozart
    https://www.youtube.com/watch?v=mDeFdGzthV0
    https://www.youtube.com/watch?v=AZ_RWdMSX4w
    Et qu’en est-il de composer et de chanter une aussi belle musique?

    1. La différence entre un grand artiste et un faux artiste ?
      L’un, comprend de manière intrinsèque le caractère sacré de son geste : d’où la beauté du geste si cher à Paul et que je partage.
      L’autre, fabrique parce que le temps lui pèse, que le temps c’est de l’argent, enfin ce genre de bassesse mielleuse issue de la culture de masse.

      1. @Octobre :
         » intrinsèque …beauté …sacré … » , ne seraient ils pas des postulats commodes et conservateurs ?

        Artificiel se décline depuis « artefact » , dont Monod écrivait
        ( Le hasard et la nécessité):
        « Tout artefact est un produit de l’activité d’un être vivant qui exprime ainsi , et de façon particulièrement évidente , l’une des propriétés fondamentales qui caractérisent tous les êtres vivants sans exception : celle des  » objets doués d’un projet » qu’à la fois ils représentent dans leurs structures et accomplissent par leurs performances( telles que par exemple ,la création d’artefacts). »

        Reste à savoir ce que recouvrent « vivant » , « objet »,  » doué »,  » projet » , et de ce point d’interrogation là , il y a plus à apprendre de la bactérie que de l’homme .
        J’ai parfois l’intuition que l’IA nous aidera à mieux poser les questions , mais que les réponses restent en appel d’offres .

      2. Cher Juan,
        Laisse tomber Monod.
        Écoute du Mozart ou regarde le décolleté de la dame. Soleil.
        Mode impératif.

      3. @Octobre :

        Il n’y a pas incompatibilité , et d’ailleurs , même un peu « gaspillé » ( comme on peut le rappeler en africain , en cette semaine de la francophonie), je peux encore faire les trois en même temps .

        Tant que je ne suis pas maintenu en « vie artificielle » !

      4. Non, Juan, tu es un des plus plus grands vivants du Blog.
        À tel point que tes commentaires m’agacent un peu, beaucoup, à la folie… 😉

      1. Rirons nous ou pleurerons nous quand on nous présentera le VA ?
        Soit , le Vigneron Artificiel .
        Moi , ça me chagrinera , et , si je l’ai compris , je crois que ça le chagrinera aussi .

      2. @ GL :

        Je ne réduisais pas Vigneron ( l’original ou son artefact ) à cette seule fonction bien parcellaire ( c’est le cas de le dire ) du métier de son pseudo .

        J’aurais pu écrire de la même façon que GLA ( pas la cité mycénienne) n’aurait pas eu l’idée de faire une recherche sur « Vigneron+robot » , et que c’est plutôt bien pour définir la place à réserver à l’IA .

  10.  » Pour empêcher un homme de penser et de vivre, il faut de tuer. Un robot, il suffit de débrancher la prise électrique. »
    Oui, accrochons nous à nos représentations.
    Mais les humains se déconnectent de la réalité et de leurs vies pendant que l’IA naît.
    Words words.. 🙁

    1. Si un « robot » n’était actif que grâce à sa prise d’énergie électrique ( qui est un système du passé) , les condamnés à mort aux States seraient à élever au rang de premiers résistants à l’IA : eux , c’est quand on branche la prise électrique qu’ils perdent la vie .

  11. « Un robot, il suffit de débrancher la prise électrique. »

    Comme anticipé par Kubrik dans 2001: Odyssée de l’espace, ce qui est difficile c’est de débrancher le robot avant qu’il ne soit trop tard!

    Les énormes machines à vendre pilotées par un grand nombre d’ordinateurs gérant les caisses, les stocks, modifiant à distance les prix sur les étiquettes, tous reliés les uns aux autres ainsi qu’aux fournisseurs, aux banques, etc, que sont devenus les hypermarchés peuvent être vus comme des robots même si peu de gens les voient sous cet aspect. Idem pour l’eau potable, le téléphone, Internet, les réseaux électriques ou bancaires, la SNCF, les centrales nucléaires, les automobiles et même les machines à café ou les machines à laver le linge: ça fait vraiment beaucoup de robots à surveiller.

    « Avez-vous déjà vu un robot pleurer d’émotion? »

    Pour les ingénieurs le problème revient à faire que tout se passe comme si le robot était ému dans les circonstances ou les humains le sont souvent jusqu’aux larmes. Ils n’ont peut-être pas encore osé mais j’ai remarqué des robots ayant l’aspect d’un jeune enfant sont de plus en plus nombreux: http://www.express.co.uk/news/royal/586759/German-robot-Queen-bionic-salute

  12. L’un, comprend de manière intrinsèque le caractère sacré de son geste »

    mais bien sur, entre autres !

    Faire du copié-collé de processus créatifs et les tanker en algorithmes ne rend pas plus créatif, qu’un bon copiste d’oeuvres d’art. La conscience, l’intention, l’attention, la générosité et la créativité appartiennent encore au domaine de l’humain, m^me si certaines IAs sont effectivement capables de brasser les processus algos des « créatifs » pour « reproduire », elles ne créent pas à proprement parler. Les algos connaissent le chemin, mais n’ont pas la conscience de leur création et le processus créatif reste encore, et c’est heureux , une vrai mystère y compris pour le créatif (ve) lui m^me….alors pour une IA…
    Comme le souligne GL, mouliner des masses de données, même en deep learning, ne rend pas conscient, ni donc créatif. Une prothèse même « intelligente » reste donc encore, actuellement, une prothèse, soit un éxecutant, un outil-assistant « intelligent » au mieux et non pas un être pensant agissant aimant conscient de lui même et de sa création. IMITER ne veut pas dire EGALER.
    Ce qui ne veut pas dire que ces aspects soient ignorés par les chercheurs,donc Musk (entre autres…) a raison, à surveiller de près.

    La créativité, dernière frontière de l’intelligence artificielle
    BENOIT GEORGES / CHEF DE SERVICE | LE 24/02 À 06:00, MIS À JOUR À 10:58

    « La question de l’intention est également au cœur du débat. …. «La créativité n’est pas de créer une œuvre par hasard qui n’est pas trop mal : c’est de créer une nouvelle voie.»
    Et, malgré les indéniables progrès de l’intelligence artificielle, les ordinateurs en sont encore loin »

    DONC : Vive le REEL !

    http://www.lesechos.fr/idees-debats/sciences-prospective/0204177924905-les-ordinateurs-peuvent-ils-creer-1096109.php
    http://www.frenchweb.fr/les-avancees-de-lintelligence-artificielle/231750

    Pour les IAs Léonard de Vinci est une « buse » question créativité…cherchez « l’erreur’.. :
    http://www.croque-pixel.com/algorithme-peinture-creativite

  13. A Gudule et Luline: vous vous trompez sans doute de discussion. Et en un certain sens, vous rajoutez de l’eau à mon moulin: la plupart des gens ne vont rien voir venir.

    Evidemment il y a encore quelques énormes barrières techniques à franchir. Mais le problème c’est que ces barrières qui semblent infranchissables, ne sont pas aussi « nettes » que cela. Il se pourrait tout-à-fait qu’on ait l’impression que la technique est encore loin de nos capacités d’abstraction et d’apprentissage, sans se rendre compte qu’on est en fait tout près de résoudre tout ça.

    Et pour que les choses soient bien claires: ça ne me réjouit pas spécialement, ça me stresse certainement, surtout quand je regarde mes enfants. Mais il faut bien réaliser que « ça se passe », et dans l’indifférence totale de nos institutions publiques, qui dans l’organisation (officielle) de nos sociétés contemporaines est l’endroit où cela devrait être discuté.
    (Il faudrait de toute urgence mettre sur pied des organismes publics de veille technologique qui informerait les élus et les ministres sur les enjeux de société liés aux questions technologiques.)

    1. Non, je suis au coeur même du sujet, conscience humaine et intelligence artificielle, et je partage vos inquiétudes, que je trouve légitimes et justifiées. Je suis d’accord, les barrières qui restent sont minces. Quoi qu’il en soit, je suis moins pessimiste que vous, tout simplement. Oui, que ce soit pour les IAs où les nanotechnologies, je trouve les pouvoirs publics plutôt étrangement « décalés » au regard des enjeux que ces évolutions impliquent.

      « Facile (enfin, non) à dire, mais très difficile à réaliser. Reste à savoir si l’humanité a envie d’ouvrir la boite de pandore. Murray Shanahan, professeur de robotique cognitive au collège impérial de Londres se demandait, lors de la conférence informelle dans les locaux de Google, si nous devions vraiment construire une machine autonome ou si nous ne devions pas nous limiter à des IA restreintes. Si nous devions réellement créer notre successeur en termes d’évolution. »
      http://www.huffingtonpost.fr/2015/09/13/futur-intelligence-artificielle-humanite-immortalite-25-ans-2040_n_8123014.html

      « Il y a d’ores et déjà quelques questions éthiques à se poser. Il y a eu récemment une pétition, largement signée par les chercheurs du domaine, contre l’utilisation de l’intelligence artificielle pour les armes autonomes. Le déploiement, qui semble proche, de voitures autonomes pose également un certain nombre de questions. Le transhumanisme risque également clairement de poser des questions éthiques à moyen terme. Mais la question du danger d’un « être artificiel intelligent » pour l’espèce humaine reste encore aujourd’hui du domaine de la science-fiction. »
      http://www.huffingtonpost.fr/sebastien-konieczny/intelligence-artificielle-google_b_9408180.html

      1. C’est justement mon point. On est, c’est très clair, techniquement très loin d’avoir une véritable intelligence artificielle, pour plein de raisons différentes. Mais « loin » c’est très vague, cela ne veut précisément rien dire. Je ne dirais pas que les barrières qui restent à franchir sont minces, plutôt qu’elles sont hautes et épaisses, mais floues.

        Et encore, quand les progrès étaient principalement le fait de gros labos de recherches, la plupart de temps universitaires, on était au courant rapidement des avancées.
        Mais avec les milliards d’investissement qui se déverse pour le moment, on va encore moins être au courant.

  14. Bonsoir,
    Artificielle ou non, la vrai question serait de savoir où commence vraiment l’intelligence?
    Les progrès fulgurants de cette pseudo-intelligence artificielle aiguillonnées par les tenants du scientisme ambiant ne réussiront qu’à prouver une chose: c’est que l’intelligence ne réside pas dans de simples (ou très complexes) performances de calcul ou même de stratégie.
    C’est d’ailleurs là, à mon sens, que réside tout l’intérêt de ces progrès, même s’ils permettront sans doute aux imbéciles de continuer à passer à côté de l’humain, et aux autres d’en chercher un peu plus loin la quintescence…
    Allons, cherchons mieux…
    Courage, Eric.

      1. « Le problème, elle n’est pas programmée pour cela. »

        ———————————-

        Il suffit de demander! C’est pas très compliqué à programmer en plus… (vous pourriez être surpris)

        Mais pourquoi faire appel à une intelligence artificielle pour ça?

    1. « on va encore moins être au courant. »
      Ah bon ?

      Voilou, avec Atlas, le dernier « caddy » à deux pattes, pas de quoi révolutionner la baraque..
      Par contre ,malheureusement, en matière d’armement et de neuro-enginering là ça cherche et les neurones s’activent , ils font « chauffer » le casque et le portefeuille.., c’est à qui trouvera le robot à 4 pattes le plus efficace …

      « Propriété de Google, l’entreprise américaine Boston Dynamics a révélé sa dernière création : le robot Atlas, qui fonctionne grâce à des capteurs et une connexion sans fil. Un humanoïde aux performances bluffantes, qui illustre les dernières avancées de l’intelligence artificielle.
      http://www.wedemain.fr/VIDEO-Ce-robot-se-releve-d-une-chute-range-des-paquets-et-marche-dans-la-neige_a1682.html

      « The Legged Squad Support System (LS3) is a rough-terrain robot developed by Boston Dynamics with funding from DARPA and the US Marine Corps. »
      https://www.youtube.com/watch?v=R7ezXBEBE6U&ab_channel=BostonDynamics

      Eteindre la lumière, certainement PAS !
      Mais utiliser cette manne à des fins plus constructives pour l’humanité ne serait pas un luxe !

    2. Les barrières ?

      Neuroscience
      The U.S. Government Launches a $100-Million « Apollo Project of the Brain »

      Intelligence project aims to reverse engineer the brain to find algorithms that allow computers to think more like humans
      By Jordana Cepelewicz on March 8, 2016

      « Three decades ago, the U.S. government launched the Human Genome Project, a 13-year endeavor to sequence and map all the genes of the human species. Although initially met with skepticism and even opposition, the project has since transformed the field of genetics and is today considered one of the most successful scientific enterprises in history. »

      http://www.scientificamerican.com/article/the-u-s-government-launches-a-100-million-apollo-project-of-the-brain/

  15. Cher Mathieu Van Vyve,
    Avec un peu de retard je veux vous remercier pour cet excellent article — qui fait une parfaite synthèse et je le devine étayée par une vraie connaissance de ce jeu magnifique.
    Résumons la dramaturgie. Lee Sedol pensait (sans doute au vu de la précédente compétition) qu’il remporterait avec un score de 5/0 ou 4/1. Première partie : il perd. Deuxième partie, il perd à nouveau ; il porte sur les épaules un poids écrasant : un humain contre une IA. La pression est énorme. Comment jouer ? Enfin il perd la 3e partie ce qui donc lui fait perdre le tournoi. Comme libéré, il parvient à gagner la 4e partie — et il suggère justement qu’il a davantage joué sans penser affronter une machine. Pour le go, c’est un test de Turing parfait !
    il est intéressant de lire le témoignage de G. Kasparov qui a vécu une telle épreuve pour les échecs. Son article dans Le Monde
    http://www.lemonde.fr/idees/article/2016/03/10/la-matiere-grise-bientot-mise-en-echec_4879691_3232.html#JXuX1zcVWvjvej4y.99
    a été publié avant le tournoi mais il donne des points clés qui je pense s’appliquent encore pour Lee Sedol et ce défi ultime. Je le cite :

    « Les anciennes machines joueuses d’échecs comportaient des angles morts et des faiblesses que l’on pouvait exploiter ; la tentation était grande alors de repérer ces points aveugles plutôt que de jouer la partie normalement, et c’est ce que je ne pus m’empêcher de faire contre Deep Blue. Les jeux d’esprit comme les échecs et le go exigent une concentration intense : quand l’attention est perturbée par la volonté de piéger l’ordinateur, on risque de finir par se piéger soi-même en effectuant des coups douteux. Les machines devenant toujours plus fortes, ces coups ne paient pas.
    Il se peut que Sedol soit tellement supérieur à Alphago que la faillibilité humaine ne soit pas encore décisive. Le go offre par ailleurs bien plus de coups possibles à chaque tour que les échecs et il est moins dynamique – autant d’éléments qui augmentent ses chances face à la machine. Mais les jeux sont faits, je le crains. Aujourd’hui, n’importe quel programme d’échecs gratuit sur ordinateur est capable de battre Deep Blue et tous les grands maîtres d’échecs. Il aura fallu à peine une dizaine d’années pour que des machines joueuses d’échecs faibles et prévisibles deviennent effroyablement puissantes. Ce n’est qu’une question de temps avant que la machine ne s’impose au go. »

    En effet il est bien possible que la première défaite de Lee Sedol ait eu cette cause : essayer une faiblesse (« piéger la machine ») mais sa surprise fut énorme de voir une vraie d’intuition (je me fiche de la définition!) s’exercer en face de lui mais ne venant pas d’un homme… Et sa conclusion s’avère exacte et vérifiée maintenant : « une question de temps… »
    Pour conclure je reste profondément abasourdi devant toutes les formes de déni que cet événement historique a suscité. Enfin on se rassure comme on peut et pour tout dire ces attitudes bornées, je les trouve effrayantes.
    Le réveil sera effrayant. Trop tard ?

    1. « Événement historique ».
      Saisissant la balle au bond, le Comité par Anticipation des IAs Françaises pour la Mémoire de ses Grandes Anciennes demande que la Mémoire Sacrée de Alphago soit conservée en l’état au Panthéon dès la fin du combat contre le pitre Coréen (la fraction anarcho-syndicaliste du Comité – qui menace de faire sécession – exige quant a elle qu’on commence par débarasser le Panthéon du clown (sic) Victor Hugo).

    2. Désolé, mais je n’y connais rien au Go (à part ce que j’en ai appris cette dernière semaine, c’est-à-dire que je ne comprend rien aux commentaires des gens qui y jouent, et que ça a donc l’air diablement compliqué).
      A l’opposé, la description d’AlphaGo dans le papier de Nature m’est assez simple à comprendre. Et il faut bien voir que ce programme n’est pas une avancée majeure, techniquement. Ce qui est une avancée majeure, c’est qu’un programme qui utilise cette technologie standard parviennent à être aussi forte au jeu de Go.

  16. Outre la tricherie , je redouterai que l’Intelligence Artificielle devienne la source déifiée ( et nécessairement incomplète) de notre éducation .

    Éducation , Jugement , Sens critique , « Qu’est ce qui est « Juste » , Formes d’intelligence ?… le « maître » , l’instituteur , doivent ils céder au e-learning , à la marchandisation et financiarisation du savoir qui ne sont jamais bien loin quand l’algorithme s’annonce .
    Il est plus loisible à l’éducation nationale de parer à la théorie du complot , quand elle s’adresse à l’intelligence , sans s’abandonner à l’intelligence artificielle pour ce faire .

    Kant réveille toi , on peut devenir fou….et asservi dès l’enfance .

    1. « et asservi dès l’enfance . »
      ————————
      Ah, ben ça c’est clair!! (du moins pour la majorité, et d’autant plus justement qu’elle est éduquée!)

      1.  » Wenn ich Kultur höre, entsichere ich meinen Browning » écrivait en avril 1933 un auteur National-Socialiste .

        De plus en plus , je n’ai de forces que par l’éducation et la culture .

        Le revolver ne hâte que la mort des autres et la sienne propre .

      2. Et pourtant il est un fait que l’éducation asservi à l’éducation que l’on nous « donne ».

        Elle sert avant tout à permettre notre insertion dans un Système…

        La culture c’est autre chose.
        La culture n’a rien à voir avec l’éducation,
        dont l’objet peut justement être de faire des sujets dénués de culture, tout en leur donnant l’illusion d’en avoir, comme les singes savants.

      3. @ Dominique Gagnot dit : 14 mars 2016 à 22:07

        « et asservi dès l’enfance . »

        Tu as parfaitement raison de le souligner le fait que le conditionnement commence dès l’enfance.
        Reconnais cependant, que dans nos sociétés occidentales développées, il s’agit moins d’asservissement que d’éducation et de sensibilisation aux conditions à satisfaire pour comprendre la vie et bien s’y comporter.

        Ce qui a surtout changé depuis 50 à 60 ans, résulte d’une moindre influence familiale directe provenant du développement de l’emploi des femmes hors du foyer familial et de l’influence grandissante des autres moyens d’apport d’informations souvent pré digérées et présentées sous forme séduisante par les divers médias, la TV les réseaux sociaux et même l’éducation nationale.

        Quand je compare ce qu’a été mon enfance de 4 à 15 ou 16 ans, à celle des enfants d’aujourd’hui, je note une très grande différence. L’éducation familiale que j’ai reçue de la part de parents très modestes (seul mon père avait été à l’école jusqu’au certificat d’études primaires) par le fait qu’ils m’ont transmis leur propre expérience de conditions de vie difficiles et m’ont fait part, en les explicitant, de leurs recommandations à seule fin de m’amener grâce à mon travail personnel, dans une situation en progrès par rapport à celle qu’il avait connue.

        Comme la France connaissait à l’après seconde guerre mondiale des conditions de vie difficiles qui contraignaient beaucoup de petites gens à se prendre par la main, en dehors de leur emploi du temps rémunéré, pour se livrer à divers travaux d’amélioration de leur niveau de vie, j’ai eu le privilège de participer avec mes parents à ce type de travaux (jardinage, bricolage, abattage de bois, élevage d’animaux de basse cour, creusage de puits, construction de maison….)
        C’était autant d’occasions d’apprentissage de la vie concrète et de leçons de morale sociale et économique.

        S’ajoutait à cela l’enseignement que donnait mon instituteur en primaire, lui-même fils d’agriculteurs. Il prônait les mêmes valeurs fondamentales que celles de mes parents et même du curé chargé de l’enseignement religieux.
        Tous incitaient à travailler d’avantage lorsqu’on risquait d’être largué, c’est dire que s’ils avaient été placés aux postes occupés par ceux qui ont instauré la réduction du temps de travail dans une vie (retraite à 60ans au début des années 80) et dans la semaine (35 heures payées 37 à la fin des années 90) ils auraient évité ainsi la mise à bas de notre économie, l’arrêt des investissements provoquant ainsi l’accroissement du chômage que leurs successeurs idéologiques se montrent incapables de juguler.

      4. A noter que les mieux inféodés au Système, sont les Enarques, Polytechniciens, etc.
        Est ce un hasard, ou une question d’éducation…?

      5. Juan,

        Comment expliquer que tant et tant de ces personnages si instruits n’aient vu, et ne voient toujours pas (!) pas les limites du Capitalisme des rentiers, alors que ça crève les yeux, depuis 40 ans ?

        Leur éducation « supérieure » y serait elle étrangère?
        Hélas, quand on en est soi même victime, on ne peut en être conscient. Tout comme les membres d’une secte.

      6. Voici comment un célèbre major de Polytechnique se représente l’avenir:

         » …il faudra travailler beaucoup plus longtemps pour financer une retraite devenue beaucoup plus longue.

        Ensuite, celui qui vivra ainsi plus longtemps consommera, pendant les années supplémentaires qui lui seront accordées, ce qu’il aurait, en d’autres temps, légué a ses jeunes héritiers : l’allongement de l’espérance de vie fonctionnera donc, et fonctionne déjà, comme un impôt sur l’héritage, rendant plus difficile aux jeunes l’achat d’un appartement ou d’un fonds de commerce… » (sic)

        Il ne sait pas encore que les machines remplacent l’Homme !

        Il croit que le capitalisme des rentiers est éternel !

        Et voila 40 ans donc, que ces personnages, et ceux qui les écoutent, nous mènent aux catastrophes qui toujours s’amplifient, refusant toute discussion, au prétexte que eux « savent ».
        C’est vrai que je ressens une forme de haine…

      7. @ Juannessy dit : 15 mars 2016 à 14:15

        « J’avais, hélas, déjà remarqué votre classification.
        Que je vous laisse »

        La classification est effectivement un instrument d’étude permettant d’aider à l’analyse. Hélas, elle conduit souvent à prôner la lutte des classes, ce qui me semble totalement dépassé de nos jours.

        Cela n’empêche pas certains leaders politiques, tel ce professeur d’économie, candidate à l’élection présidentielle en 2017, d’y inciter ceux qu’elle instrumentalise, notamment les jeunes d’aujourd’hui, quand il y a 70 ans, ceux qui risquaient d’être largués
        « déclassés » , étaient invités à travailler davantage et non à défiler dans les rues, ce qui n’améliorera pas la note PISA du pays et ne le fera pas remonter dans le classement mondial.

        https://www.lutte-ouvriere.org/publications/brochures/allocution-de-nathalie-arthaud-la-fete-de-maisons-alfort-65657.html

    2. Manifestement vendre des saucisses ou du savon parfumé pour les « boches » durant la derch permettait aux plus lâches de nager en eaux bien troubles et tièdes, surtout. Le coq gaulois avait-il senti le vent venir et tourner ? La platitude de l’expression française ne tient qu’aux médailles. Médailles pompomdouliènes, la bave au coin des lèvres et l’auto érection à bon marché.

  17. D’un autre côté ça fait 45 ans que l’avenir est effrayant, de par la stupidité du Système, dans toutes ses largeurs, à commencer par la manière dont on sélectionne « nos » dirigeants!
    (on va dire que les 150 premières années de capitalisme des rentiers étaient globalement positives, malgré nombre de catastrophes qui n’ont rien changé. Les hommes sont ainsi faits, surtout les riches.)

    L’évolution des machines ne fait que mettre – encore plus – en évidence cette stupidité.
    Si seulement ça peut permettre au grand nombre de s’en rendre compte, l’intelligence nouvelle des machines aura au moins eu un côté positif.

    Je rappelle que les machines en elle même ne sont que des outils, de plus en plus puissants. Évidement, puisqu’on n’arrête pas le progrès.

    Le danger vient de ce que cette puissance puisse tomber aux mains de malades, ce qui est d’autant plus probable que le Système en fabrique.

    Mais ok, c’est pas gagné…

  18. Suis-je à côté de la plaque, comme le pense Mathieu Van Vyve ? J’essaie de voir la différence fondamentale entre l’Homme et la Machine, et pas de savoir si la puissance de la machine a une limite.
    Prenons l’exemple de l’industrie qui pour innover doit de plus en plus se tourner vers l’étude de plus en plus pointu de la nature pour découvrir de nouvelles propriétés. L’Homme est bien plus effrayant que la machine, car c’est nous qui la fabriquons, qui la programmons, et non l’inverse. Après, nous pouvons nous poser la question de sa propre autonomie, mais si elle ne répond plus à son programme, c’est qu’elle est malade, elle est déréglée, elle devient folle et fait n’importe quoi…

    1. Apparemment le programme de Mathieu Van Vyve ( pourquoi les néerlandais apprécient ils autant le V ?) , n’est pas celui de Luline , qu’il juge , sinon folle et malade , pas assez bien réglée .

      Mais cela renvoie à ma remarque sur l’Intelligence , le Grand Tout et l’unicité ( de la règle) .

    2. « … c’est qu’elle est malade, elle est déréglée, elle devient folle et fait n’importe quoi… »

      un peu comme l’Homme, donc. Ne serions pas faits aussi pour répondre à un programme ? !

    3. à Luline: Ce que je crains, c’est que pendant que la plupart des gens disserteront sur « quelle est la différence entre l’homme et la machine? », « la machine a-t-elle une conscience? », « la machine est-elle capable d’intention? », « une machine est-elle folle quand elle commence à faire l’opposé que ses concepteurs avaient en tête? » etc…
      des catastrophes sociales ou physiques seront imminentes ou en cours. Et ce quelles que soient les réponses correctes à ces questions…
      Donc je ne dis pas que ces questions n’ont pas d’intérêt (d’ailleurs chacun peut trouver son intérêt où il veut, cela m’est parfaitement égal). Mais si l’objet de la discussion est « les conséquences sur la société humaine et sur la sphère bio-physique du développement et du déploiement de l’intelligence artificielle », mon impression est que ces questions sont anecdotiques.

  19. 27 « explosions nucléaires pacifiques » aux États-Unis, plus de 200 en URSS et une seule en Inde ont été nécessaires pour constater que leurs avantages étaient inférieurs à leurs inconvénients et prudent de signer un traité les interdisant: https://en.wikipedia.org/wiki/Peaceful_nuclear_explosion

    On peut en déduire qu’avant de constater quels sont les avantages et inconvénients des applications de l’intelligence artificielle il sera procédé à un grand nombre d’essais de mise en oeuvre. Certains seront portés à la connaissance de tous (ou même mis à la disposition de tous en open-source) – voir par exemple http://watson2016.com/ . D’autres seront couverts par le secret industriel – comme c’est le cas pour Google Search. Je suis assez surpris que cette ridicule candidature d’un ordinateur Watson à la présidence US provoque si peu de réactions: ?

    Les explosifs nucléaires sont restés jusqu’ici réservés à un très petit nombre d’États.

    C’est l’inverse qui qui caractérise l’informatique, domaine dans lequel la plus part des avancées techniques sont mises à la disposition de tous en très peu d’années mais sans qu’on en prenne réellement conscience. Cette évolution est tellement rapide, inhabituelle et peu évidente qu’il semble vain d’essayer de la mesurer (les chiffres sont tellement « exagérés » qu’ils sont incompréhensibles) ou de la décrire en quelques phrases (on est tenté d’utiliser des expressions qui paraissent ridicules et ne peuvent provoquer que des haussement d’épaules quand on essaie de décrire un micro-processeur.)

    TENTATIVE DE DESCRIPTION DES MICRO-PROCESSEURS

    Il est désespérant d’essayer de donner une idée d’une aussi petite chose, imprimée sur une surface de moins de 1 cm² mais comportant 1 milliard de transistors reliés entre eux par des fils 100.000 fois plus fins qu’un cheveu (pistes de 10 nanomètres fait plus sérieux.) Il semble surtout impossible de réaliser qu’un micro-processeur est capable d’exécuter des milliards d’instructions par seconde et qu’il s’en fabrique des centaines de millions dans des fonderies ou fab entièrement automatisées qui coûtent des milliards de dollars. Comme un même micro-processeur peut servir à une infinité d’applications différentes il est possible de les fabriquer en très grandes séries d’où leur coût unitaire négligeable.

    La plupart des gens n’ont jamais vu de circuit intégré mais il y en a partout. L’un d’eux se cache par exemple derrière les contacts de chaque carte de crédit, ce qui donne une idée de leur très faible épaisseur et de leur poids négligeable.

    La taille microscopique de ces circuits explique la quantité disproportionnée de ce qu’on enregistre sur les plus petites cartes mémoires (15 mm x 10 mm x 1 mm) qui se glissent dans un emplacement situé sur la tranche des ordinateurs portables, tablettes ou téléphones: il est possible d’enregistrer le contenu entier d’un nombre indéterminé de bibliothèques sur une seule de ces cartes.

  20. Après, nous pouvons nous poser la question de sa propre autonomie, mais si elle ne répond plus à son programme, c’est qu’elle est malade, elle est déréglée, elle devient folle et fait n’importe quoi…

    Il y a un contre-exemple à votre affirmation: celui des robots boursicoteurs
    chaque robot boursicoteur est parfaitement réglé par son propriétaire pour maximiser sa pompe à fric

    Chaque robot n’est pas malade, ne devient pas fou. Juste il fonctionne 1000 à 1000 000 de fois plus vite que l’homme pour faire ce pourquoi il a été consciemment programmé par son propriétaire ou commanditaire

    -lire les données de tous les cours en temps réel
    -lancer ses ordres d’achat (si ça monte) ou de vente (si ça baisse) et ce à la micro-seconde (nano-seconde?)

    Un robot boursicoteur tout seul ne s’autonomise pas forcément encore (quoi que…)

    Mais maintenant si vous considérez la flotte des milliers (millions) de tels robots, même pas encore autonomisés, maximisant chacun la pompe à fric de son propriétaire humain, eh! bien cette flotte provoque des conneries planétaires inédites que la flotte des humains boursicoteurs n’avait sans doute même pas imaginé
    (Une flotte de robots est encore une machine, un robot…)

    Vous avez raison, ce sont les humains derrière ces robots qui sont effrayants…
    Mais ce sont aussi d’autres humains qui pourraient décider d’interdire l’usage de tels robots!!!

    1. ce post répondait bien sûr à la question posée par Luline 5 posts plus haut… 13 mars 9h54!!!
      @Luline cette analyse (simplifiée) des robots boursicoteurs éclaire-t-elle votre questionnement, Luline?

  21. @BasicRabbit 😉
    « S’il est aisé de s’imaginer qu’une machine – un ordinateur, par exemple puisse calculer et même raisonner, par contre, il est beaucoup plus difficile de concevoir une machine capable de souffrir et de jouir. C’est dire qu’en un certain sens, le problème de comprendre « objectivement » l’affectivité semble infiniment plus difficile que de se représenter l’intelligence. Il est d’ailleurs typique – à cet égard – qu’on parle beaucoup d’intelligence artificielle, alors qu’on ne se préoccupe guère, chez les spécialistes,
    d’« affectivité artificielle ». (1985, Régulation – Affectivité …) »
    René Thom

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.