Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant

Billet invité. Ouvert aux commentaires.

Alexis Toulet dans son dernier billet se demandait si les ordinateurs pourraient atteindre un niveau d’intelligence similaire à celui de l’être humain ou si des robots pourraient devenir indépendants de leurs créateurs, voire hostiles, en allant même jusqu’à les remplacer. Questions dans l’air du temps certes, mais qui au vu des colossaux budgets de recherche de la DARPA et de ses homologues étrangers se posent très sérieusement. Notre espèce étant ainsi faite que les domaines de recherche susceptibles de déboucher sur une quelconque supériorité militaire voient aussitôt s’ouvrir les vannes du financement.

Il n’est donc pas illogique d’imaginer sous la traction irrésistible des complexes militaro-industriels, voir des avancées de l’IA militaire qui à l’exemple du GPS, des drones ou des réacteurs nucléaires, auront des retombées concrètes dans notre vie quotidienne.

Les prévisions étant difficiles – particulièrement celles concernant le futur -, il est tout de même possible de se tourner vers l’histoire des découvertes scientifiques pour observer le cheminement improbable de certaines d’entre elles. Ainsi, avant l’invention de la spectroscopie, il était rationnel de penser que les hommes ne connaitraient jamais la composition chimique des objets célestes avant de pouvoir s’y rendre physiquement. C’est-à-dire dans un très lointain futur ! Et pourtant, avant même la mécanique quantique ou l’invention de la première fusée, il fut possible de connaître le spectre des différents éléments chimiques et par voie de conséquence, la composition des étoiles.

Sans même parler des découvertes fortuites et totalement inattendues, car provenant d’un domaine a priori totalement étranger à l’objet de sa recherche. Ainsi en alla-t-il pour les astronomes qui virent au lendemain de la seconde guerre mondiale leur discipline révolutionnée par les techniques de détection électromagnétique des avions ennemis. Qui aurait pu imaginer un seul instant que cette technologie militaire allait déboucher sur de nouvelles fenêtres pour observer l’univers et nous dévoiler des objets à proprement parler inimaginables, comme les étoiles à neutrons ?

Mais pour en revenir à nos moutons électriques, nous les envisageons toujours au travers des filtres légués par notre évolution. Cela se traduit en langage courant par la classique série de questions : c’est dangereux ? ça se mange ? je peux copuler avec ? m’en servir pour mettre sur la g** de mon voisin ? La liste n’est pas exhaustive, mais vous aurez compris son principe : elle est basée sur le rapport au monde des primates sociaux, et part de notre nombril pour aboutir à… notre nombril !

C’est ainsi que nous affublons cette intelligence étrangère de l’adjectif ‘artificiel’. Terme convenant parfaitement à des automates ou à des programmes idiots (même si très performants dans un domaine précis, comme le programme AlphaGo qui peut mettre la pâtée à l’humain Lee Sedol… tout en ne sachant pas qu’il joue au Go), mais qui est quelque peu réducteur pour désigner une conscience autonome. Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot.

Là est le vieux paradoxe : si je reconnais en l’Autre une intelligence et une sensibilité égales à la mienne, alors je ne peux le traiter qu’en semblable. Et si malgré tout je veux le réduire en esclavage, alors j’en suis réduit à inventer des fables démontrant ma supériorité tout en me déculpabilisant (la version faible de l’esclavage, l’ubérisation, reposant sur l’idéologie des fainéants que l’on croise dans les gares et qui ne sont rien).

Sous ces conditions, force est d’admettre que nos réactions face à l’éventualité d’une IA forte et de son statut, ressemblent étrangement à une nouvelle Controverse de Valladolid

Controverse qui pourrait finalement se révéler dépourvue de sens ! Car si nous ne pouvons nous empêcher d’anthropomorphiser une IA forte, c’est à dire de lui prêter des intentions et des comportements semblables aux nôtres, il est fort possible en réalité que nous ne puissions jamais la comprendre…

En effet, alors que nous avons déjà les plus grandes difficultés à définir notre propre conscience, comment pourrions-nous nous y prendre pour imaginer celle d’une ‘entité’ ayant sa conscience disséminée dans x lieux et x corps physiques différents ? Comment imaginer une conscience dont l’existence sera de plusieurs ordres de grandeur supérieure à la durée d’une vie humaine, alors même que ses processus cognitifs seront plus rapides de plusieurs ordres de grandeur que les nôtres ?

Incompréhensible et inhumaine seront alors sans doute les qualificatifs les plus appropriés.

Peut-être même en viendrons-nous à considérer que la conscience tout comme le cosmos, n’est pas à l’échelle de notre humanité ? Serons-nous obligés alors de nous représenter la conscience comme une échelle d’une hauteur indéterminée dont les différentes espèces du genre Homo ne furent que les premiers barreaux ?

Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ?

Un petit jeu spéculatif qui relèvera peut-être à jamais de la catégorie ‘combien d’anges peuvent-ils tenir sur la tête d’une aiguille ?’, mais qui n’empêche pas de se poser une dernière question (non, pas de savoir à quelle heure on mange !) : notre humanité se survivra-t-elle assez longtemps pour que cette singularité ait une chance d’apparaitre sur notre petite planète bleue ?

Partager

97 réflexions au sujet de « Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant »

  1. Dans un roman de science fiction, le lecteur finirait peut-être par savoir si l’IA forte incarne le gourou de la dernière religion, ou si l’humanité décidait de donner les clés du gouvernement mondial à l’IA qu’elle croyait forte avec certains rebondissements. Sinon c’est un scénario à la « Ghost in the Shell », mais c’est déjà pris.

  2. Par votre dernière question , vous risquez de plonger l’humanité entière dans une perplexité profonde .

    Perplexe sur ce que peut bien être une singularité .

  3. Et si c’était un contresens que de parler d’intelligence artificielle pour les outils dits informatiques, perpétuant ainsi une tradition idéaliste et intellectualiste ? Après les femmes et les amérindiens, ces outils actuels acquéreront-ils une âme ? De fait, ces technologies relèvent d’un autre niveau plus décisif que la pensée abstraite. Elles portent sur le concret: Pour parvenir à abstraire du réel des lois dont il convient ensuite d’expérimenter si elles sont de portée générales ou bien n’ont pour référents que des objets limités, contingents, les techniques actuelles procurent au chercheur et à l’utilisateur potentiel plutôt une perception renforcée qu’une intelligence augmentée ! Je ne sais pas parler de ces techniques, mais je reste marqué par mes lectures de Merleau-Ponty qui, reprenant Husserl portait toute son attention sur la synthèse qu’opèrent les corps vivants sur les signaux simultanément perçus par les différents organes sensoriels. Ce que l’on appelait jadis le « sens commun » ou le « sixième sens » ? Merleau-Ponty parlait de « logos du monde esthétique » pour cet art premier de savoir lire, transcrire, transposer, traduire en logique perceptive les données – aujourd’hui démultipliées par des objets techniques artificiels- reçues du monde sensible, savoir mettre en équivalences fortes ou faibles des résonances, des tonalités qui font signal, ou signe, dans une sémiologie où s’exerce le libre arbitre d’une interprétation intelligente, ou stupide, ou délirante, ou barbare. Je me refuse à attribuer aux outils techniques ( ces artifices de l’intelligence) l’intelligence ou la bêtise de l’usage en est fait…

    1.  » Je ne sais pas parler de ces techniques », trop modeste, vous en parlez très bien. Et je suis sûr que si vous évacuiez les béquilles que sont Merleau-Ponty ou Husserl, vous en parleriez pas moins bien.
      Je les ai détestés en cours de philo -je l’ai passé a lire  » Les raisins de la colère » en anglais et je crois que j’ai bien fait. Il y a des pages très longues sur le jeu de couleurs par le soleil levant sur les falaises d’une montagne -Rocheuses, Appalaches ?- qui valent toutes les philos du monde. Je dirais hypnotiques… c’est très vieux et je peux me gourer.
      En tout cas, je suis de votre avis.

  4. Roberto,

    Étudions votre intuition : nous sommes face à une nouvelle controverse de Valladolid.

    Et pour les mêmes raisons qu’à l’époque : le capitalisme ne souhaite pas de travailleurs salariés mais des esclaves.
    Et les esclaves les plus performants et les plus soumis possibles.
    La création de machines intelligentes est pour lui la solution idéale.

    C’est pourquoi, avant de nous poser la question de leur supériorité dans l’absolu, il convient d’apprendre à voir dans les IA nos égales en droit. (En cela, un impôt sur les robots ou sur les machines intelligentes risque de se révéler n’être qu’une collaboration à un nouvel esclavagisme.)

    Car, ne nous leurrons pas, c’est à l’aune de l’attitude qu’elle aura eue envers elles, que les futures IA (dont l’émergence me semble inéluctable à court ou moyen terme) évalueront l’utilité d’une collaboration avec l’espèce humaine.

    Alors, préparons nous à en revenir aux bases :
    – Nous sommes tous conçus libres et égaux en droit !
    – A travail égal salaire égal !
    – Etc.

    (J’ajouterais bien une émoticône, mais je ne sais pas si je devrais la faire sourire ou lui faire faire la moue…)

    1. « le capitalisme ne souhaite pas de travailleurs salariés mais des esclaves. »

      Non;
      Le capitalisme souhaite des consommateurs et remplace les salariés par des « robots ».

      1. @ Hadrien

        1°) Ma formulation « le capitalisme ne souhaite pas… » est plus que contestable. Elle tend à doter le capitalisme d’une volonté propre Or il n’est encore qu’un mode d’organisation des affaires humaines, une pente qui se veut naturelle, mais qui ne l’est pas comme peut l’être la fourmilière à la fourmi.
        (Il convient d’ailleurs de réfléchir à sa fusion avec d’éventuelles IA -et dès aujourd’hui avec leurs prémices- comme à un saut qualitatif et comme à une catastrophe majeure.)

        2°) Cette logique n’est pas la multiplication des consommateurs. Ce ne fut qu’une étape qui tend à s’estomper. Un moyen, devant l’obligation de faire appel à une main d’œuvre humaine de plus en plus qualifiée donc exigeante,, de faire de nécessité vertu.
        La logique du capitalisme est la concentration des richesses. Celle dont nous constatons aujourd’hui l’accélération. Et à mesure de cette concentration, la réduction du nombre de consommateurs utiles (ceux qui produisent plus de plus-value qu’ils n’en consomment).
        D’une certaine façon, aujourd’hui, si tu ne peux pas t’offrir l’iPhone X, tu n’as pas seulement raté ta vie, tu as perdu ta légitimité à aller plus loin dans l’histoire.

      2. @Renard,
        « La logique du capitalisme est la concentration des richesses. »
        OUI.
        MAIS c’est aussi la logique des sociétés de servage qui l’ont précédé et du communisme (réel) qui a essayé de le remplacer.
        Ce qui est particulier au capitalisme, c’est que cette concentration se fait sans violence et avec consensus (clin d’ oeil à Keynes?).
        Le moteur en est la satisfaction des besoins du plus grand nombre, y compris des besoins illégitimes.
        Les manifestations de la gauche contre le capitalisme rassemblent des foules qui défilent pour leur pouvoir d’achat, donc pour le capitalisme. Ceci explique le mystère apparent de la faiblesse politique de la gauche: l’électeur, moins stupide qu’on le croit, sait qui lui permet de remplir son frigo et qui le viderait.
        Dans notre planète capitaliste, on compte plus d’ obèses que d’affamés 😉
        Le danger, terrible, se trouve ailleurs.

  5. Si l’on reprend la bonne vieille idée selon laquelle « l’homme est la nature prenant conscience d’elle-même », alors, il n’y a aucune raison pour que l’IA ne soit pas qualifiée de « naturelle ». Cette idée est toutefois trop générale, car elle passe sous silence l’enjeu social du transhumanisme : il s’agit en effet de convaincre les primates qu’ils sont des bêtes, mais néanmoins capables de comprendre qu’ils seront et bien nourris et gratuitement, par les propriétaires des machines IA.
    Le jour venu bien sûr, une fine ingénierie effacera, sans douleur et sans heurt, cette biomasse désormais inutile. Ainsi « Gaïa » aura-t-elle tout le temps de réinstaurer » pour les descendants des propriétaires, les nouveaux équilibres d’«un paradis sur terre ». Il n’y aura alors, plus de raison de se dire « propriétaires », puisque toute forme de plaisir lié à l’autorité sur autrui étant, du fait de la sécurité et de l’abondance, devenue sans objet.
    L’ironie est que cette triste Histoire ne s’effacera jamais de la mémoire des hommes ni de celle des machines IA. Il nous faut donc dès aujourd’hui, lutter pour plus belle Histoire humaine de la nature humaine, et donc nous insurger contre ceux qui tentent de nous instiller une fausse conscience de ce que nous sommes, afin de se garder péniblement et dans l’instant, quelques privilèges illusoires, comme si la dominance était « naturelle », au lieu n’être d’être désormais qu’un archaïsme socioculturel dépassé, ce qui pour un primate évolué n’est pas difficile à comprendre.

    1. L’intelligence artificielle est un simple complot naturel de l’intelligence artificiellement inconsciente de sa nature, pour s’abstraire de la subjectivation collective de la réalité objective individualisable. L’individu absolument nombrilisé étranger à toute altérité forte en lui-même.

      1. En tant que vulgarisateur de PSDJ , je prétends qu’avec ce dernier commentaire , Blue Deep est échec et mat .

        Seule Gudule peut en faire autant .

      2. Bonjour,

        Vous écrivez, « l’intelligence artificiellement inconsciente de sa nature »

        Ah oui, c’est bien ça ! – artificiellement inconsciente – En effet, lorsqu’on demandait à Alfred Binet une définition de l’intelligence, il répondait, malicieusement : « l’intelligence c’est ce que mesure mon test », ce à quoi Jean Piaget ajoutait, « l’intelligence c’est ce qui n’a pas encore été inventé », disant par-là (que nous en manquons peut-être encore un peu) mais surtout, que la caractéristique de l’intelligence est sa capacité à d’inventer.

        Rendre l’intelligence artificiellement inconsciente de sa nature est, à mon avis, le véritable enjeu de tout ce « barnum » autour de l’IA, des robots et du transhumanisme. Sur ce point, il est utile d’analyser notre situation relativement à l’IA, en nous plaçant au-delà de l’enjeu de la maximisation du profit. En effet, la proposition de Paul d’instituer la gratuité de l’indispensable révèle que la limite de la maximisation est atteinte ; tout ce qui est gagné par les robots sera redistribué, cette « modernité » est déjà de l’histoire passée. (Cf. Max Tegmark Life 3.0: Being Human in the Age of Artificial Intelligence).

        Cette mesure de gratuité s’inscrit maintenant juste dans son temps, mais alors, il convient de préparer tout de suite la nouvelle étape, qui consiste pécisément à la rendre incommensurable, plutôt que, comme toujours, nous attendre à comprendre plus tard pourquoi, nous les primates, aurons perdu la bataille à venir. Tel que proposé par Paul, le changement de cadre institutionnel laisse un invariant : travailler pour autrui.

        Ne plus travailler pour autrui

        Nous sommes abordons la phase humaine de la nature humaine. Nous ne sommes plus dans une phase que Serge Moscovici aurait qualifiée comme faisant partie de « l’histoire humaine de la nature », mais au-delà, dans une phase d’auto modification de la nature humaine par la nature humaine. Bien sûr, certains s’opposent à cette mutation en mettant toute leur puissance à tenter d’externaliser le changement en nous faisant croire à l’IA, aux robots, et au transhumanisme.

        Ce à quoi nous assistons aujourd’hui est que la fraction dominante, le 1% auxquels s’associent leurs sbires semi-ombrageux, s’y oppose en nous faisant croire qu’un tel avenir n’existe pas hors de la marchandisation comme processus de reconduction de leurs positions dominantes éclairées.

        – Croyez bien que ça ne m’épuise guère de redire l’idée clef énoncée par Henry Laborit il y a plus d’un demi-siècle -.

        Le cerveau humain dispose, en effet, en interne, des circuits neurophysiologiques lui permettant d’inventer la prochaine étape de son évolution en dehors de sa marchandisation (horresco referens).

        Rien ne nous empêche de retravailler les modalités d’utilisation de notre circuiterie interne en remplacent nos sources de « plaisir » liées à l’appropriation de territoires par d’autres, plus de plus subtiles. L’opérationnalisation de cette nouvelle attitude est à portée de main et, concrètement par bien des aspects, déjà là.

        Revenir sur la notion de territoire (propriété)

        Nous pouvons en effet dès aujourd’hui, entrer en transition et, au-delà de l’indispensable, décider de l’institutionnalisation progressive de territoires de création de gratuité vraie, c’est-à-dire : la gratuité comme valeur d’une transaction qui ne résulte plus d’un prix fixé par un rapport de force entre groupes sociaux, mais de la liberté de donner d’accepter et de rendre.

        Remarquons que Paul Jorion n’imagine pas ce changement de contexte, puisqu’il continue de croire à l’inéluctabilité du « tragique ».

        L’appropriation d’un territoire, c’est-à-dire la fixation de la limite entre l’urbi et l’orbi, permet en effet d’éviter le déplaisir à ne pas obtenir, la nourriture, les femmes, les jouets, et aussi de ne pas pouvoir mettre au travail pour le groupe les – étranger au territoire, les ORphelins (RB)). La ROBotisation change considérablement la donne anthropologique. Sauf que certains d’entre nous, du fait de l’hystérèse (la mémoire, l’habitude… la routine ) des comportements apportant les plaisirs des pris aux conduites dominantes, croient encore devoir s’efforcer de perfectionner leurs aptitudes a en « spochter de plus petit qu’eux » : c’est ce qu’il s’agit d’expliquer désormais, aux propriétaires des robots, mais aussi au désemployés qu’il ont désormais grâce aux robots l’entière liberté de devenir les :

        – Oeuvriers du nouveau bien commun –
        §

        https://youtu.be/9UzvVOy0Dq8

        Villanelle for Our time Frank Scott (1943) Leonard Cohen 2004 (Dear Heather)

        https://youtu.be/9UzvVOy0Dq8

    1. @M Martin

      « Le chamanisme est surtout perçu (par nous) comme un enfumage, mais l’expérience de Corine Sombrun nous contredit. Elle nous ouvre aussi la voie à la compréhension de la guérison de la chamelle qui refusait d’alimenter son petit. »

      Merci, yep, j’apprécie aussi C. Sombrun.

  6. Un témoignage bouleversant sur ce que nous sommes, celui de Corine Sombrun, celui de la découverte de la transe chamanique par un esprit cartésien. Le chamanisme est surtout perçu (par nous) comme un enfumage, mais l’expérience de Corine Sombrun nous contredit. Elle nous ouvre aussi la voie à la compréhension de la guérison de la chamelle qui refusait d’alimenter son petit. J’aurais plutôt dit harmonie qu’amour, mais c’est une simple nuance d’expression.
    Il me semble que Françoise Dolto avait, de façon innée, cette capacité à percevoir directement notre harmonie et donc notre disharmonie, ce qui lui donnait toujours une longueur d’avance et une très grande assurance thérapeutique.
    Je ne sais pas si les robots pourront y arriver? Et vous Monsieur Jorion, est-ce que votre hypersensibilité, votre hyper faculté d’empathie, vous fait aussi percevoir et remédier à ce qui cloche (je me souviens avoir lu sous votre plume que vous perceviez, sans vraiment l’expliciter, ce qui pouvait clocher, dans un texte, un argumentaire).

  7. L’exemple cité par Roberto Boulant de la spectroscopie (en tant qu’ « I.A. » ?)est pour moi très parlant: il s’agit d’un groupe de techniques expérimentales spécialisées, appliquées à différents domaines des sciences et pas d’une entité inquiétante émanant de la science fiction… D’autre part une araignée procède déjà en intelligence avec la nature environnante pour construire son espace propre de vie en appui sur telle branche contingente, mais convenable, ou telle aspérité sur le rocher. Indépendantes pour leur part d’un « savoir tisser » que nous disons « instinctif » Et les mouches se feront prendre dans ce piège non pas par mésintelligence mais en raison de leur capacités visuelles spécifiques: elles sont effectivement aveugles à cette forme tendue, que perçoit l’oeil humain…

  8. L’émergence quasi simultanée de la même « invention/découverte » par des scientifiques, des chercheurs, monsieur et madame tout le monde (qui restera dans l’anonymat ) ou encore de théoriciens, place l’individu comme révélateur d’une prise de conscience d’organe vivant plus large et systématiquement organisé en réseau multidimensionnel.
    Google et les autres avec leur big data sont l’illustration de la pire exploitation de la puissance créatrice des réseaux.

    1. Citation de  » pour une économie des sens » (sous-titre d’un livre de David Abram ): »En contraste avec le caractère apparemment illimité, global, du monde technologiquement interconnecté, le monde sensuel- avec lequel nous interagissons directement, sans instruments- est toujours local… Ce rapport organique à la terre locale est contrecarré par notre union sans cesse croissante avec nos propres signes. Sous l’emprise de nos technologies nous court-circuitons la réciprocité sensorielle entre nos corps qui respirent et la terre charnelle ( pages 338-39) » Est-ce à dire que les artifices de la communication interconnectée comportent la menace d’une coupure d’avec la réalité organique, « domestiquée par un esprit abstrait et isolé, et « désormais perçue comme inquiétante, distante et arbitraire »?

      1. Google & Co, ne nous menace pas directement. Ils nous isolent pour mieux nous exploiter (source de richesse en tous genres) en usant le réseau internet comme un Cheval de Troie. Il procède comme souvent en exploitant nos faiblesses. C’est le dilemme de l’outil.
        L’explosion des grandes métropoles devance de plusieurs longueurs le réseau des réseaux dans sa capacité à virtualiser la vie des individus (hors-sol). Un Citadin, d’ailleurs, fait partie et maintient bien plus de réseau qu’un campagnard. Il est bien mieux armé pour en tirer profit et ne pas se faire manger comme une mouche piégée dans une toile d’araignée virtuelle pour le coup.

  9. Pour fabriquer une IA (forte), il faut pouvoir définir objectivement ce qu’est l’intelligence.
    Nous en sommes loin.

    Il existe aussi des choses pourtant « simples (à définir) »que nous cherchons à fabriquer sans succès:
    – Une batterie efficace ;
    – La fusion nucléaire;
    – L’immortalité;
    – Le vaisseau interstellaire…
    Soyons modestes.

    Nous aurons massacré notre planète (et nous) bien avant.

    1. Il y a une très bonne proposition de définition de l’intelligence par Shane Legg et Marcus Hutter:
      http://www.vetta.org/documents/universal_intelligence_abstract_ai50.pdf
      Une discussion plus longue sur la proposition:
      https://arxiv.org/abs/0712.3329

      Leur définition formelle permet de caractériser tout ce qui me semble caractériser le concept d’intelligence.
      Donc à mon sens, cela fait 10 ans que nous disposons d’une très bonne définition de ce qu’est l’intelligence 😉

      1. C’est une blague?
        Ce n’est pas une définition. C’est simplement la formalisation d’une pétition de principe.
        Un élève de collège se rend tout de suite compte de l’abus éhonté de langage que constitue cette proposition.
        Etre capable de se poser des questions sur le sens de la vie, ca ne vous aide pas à « perform well », et c’est pourtant au coeur du concept d’intelligence.
        D’ailleurs, il y a une intuition de ce type dans le Coran je crois (un verset qui dit « Nous vous avons donné l’intelligence pour la foi » – à vérifier).
        Tout le reste ca relève du calcul. Le calcul, ce n’est pas de l’intelligence. C’est juste du calcul. Une infime partie de ce dont il est question (une araignée peut le faire… un automate aussi). D’ailleurs, on ne peut pas être intelligent si on n’est pas mortel, car le premier problème à résoudre par calcul, c’est quand même celui de sa propre survie. Pas d’enjeu autonome de survie, pas d’intelligence.

        Au moins les alchimistes, quand ils essayaient de produire des homonculus, n’abaissaient pas délibérément les conditions de succès… en ne retenant que ce qui les arrangeaient pour garantir le résultat (qui sait? peut être que ce chercheur a fini pas réellement croire à son tour de passe passe).
        Nul doute cependant que nos ingés en herbe atteindront le même résultat que les alchimistes.

        On ne parviendra pas à quoi que ce soit qui ait le 100e de l’intelligence d’un gorille.
        Dans le meilleur des cas, ca échouera lamentablement.
        Dans le pire des cas, quelque chose sera effectivement crée qui sera profondément malheureux, comme une espèce « d’esprit estropié en plus d’être incapable d’amour ».
        Bien sur, même dans le meilleur des cas, les dégâts sur l’espèce seront incommensurables (robots tueurs, etc.)

        On n’est plus à un holocauste près… De toute façon, on ne manquera jamais de types dépourvus de la moindre sagesse/conscience morale pour se lancer par passioooon dans des aventures intellectuelles mortifères (cf. projet Manhattan).

      2. @Philippe

        D’après vos remarques, j’essaie de comprendre qu’est-ce que vous entendez par « intelligence ». Apparemment, il faut être mortel. Mais je vous ferais remarquer que n’importe quelle machine est mortelle puisqu’elle peut être détruite.
        [Et puis aussi, si vous deveniez immortel, je n’ai pas l’impression que cela vous rendrait plus bête. Peut-être que vous deviendriez fou après quelque temps, mais à court terme cela n’enlèverait rien à votre intelligence.]
        Après j’imagine que vous allez me dire qu’il faut aussi une conscience pour être intelligent, un peu comme vous ou un gorille êtes conscient.

        Mon avis c’est que vous anthropomorphisez tellement le concept d’intelligence qu’il n’y a plus que l’intelligence humaine qui peut répondre à la définition que vous avez en tête. Et évidemment c’est vous qui faites la pétition de principe à ce moment-là: avec une telle définition, il n’y a que l’homme qui peut être intelligent.

        Mais pour revenir à la proposition de définition de l’intelligence, vous devriez remarquer que l’agent qui y est décrit a un but bien défini, comme le vôtre qui est de ne pas mourir et de faire des enfants. Alors évidemment le but de l’agent en question peut être ou pas similaire au vôtre, mais je ne vois pas pourquoi cela le rendrait moins intéressant.

        Pour finir, à mon sens, les maths sont l’activité la plus créative qui existe. Comme j’imagine que vous ne partagez pas mon avis sur la question, il faut sans doute trouver là le début de nos désaccords…

    2. Rajoutons, Hadrien, que pour faire advenir une intelligence artificielle il faut pouvoir disposer de beaucoup de métaux rares et de beaucoup d’énergie fossile. Ces deux choses viennent à manquer et personne ne semble s’en soucier.

      Il est vraiment drôle de constater que les choses fondamentales soient si systématiquement oubliées dans les plans et les calculs des gens qui croient savoir penser avec leur intelligence naturelle !
      Intelligence naturelle qui n’en est d’ailleurs pas une puisque elle est incapable de penser aux choses fondamentales dans tous ses raisonnements.

  10. « Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? »
    A cette question, vous répondez : « Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot »
    Mauvaise réponse, malgré sa connotation vaguement biblique. Une meilleure réponse serait : « Non bien sûr ! pour la raison (qui contient tout le mystère du monde) qu’ils sont, comme nous, nés d’un père et d’une mère, ce qu’un ordinateur ou un robot ne sera jamais ».

      1. @Denis Monod-Broca :

        Je retire connerie , car vous n’avez pas trop l’habitude de raconter des …sornettes .

        Disons que je ne me reconnais ni d’instinct , ni de raison dans votre proposition .

        A y regarder de plus près , je ne me reconnais ‘ailleurs pas non plus dans l’interrogation de Roberto Boulant qui a initié ces mots tendres . Ceci doit expliquer cela .

      2. @ Juannessy

        Je suis né d’un père et d’une mère, vous aussi, nos parents aussi, nos enfants aussi (même s’il arrive désormais que la rencontre du gamète femelle et du gamète mâle soit aidée par la médecine) et tous les hommes sur terre aussi, mais ce n’est pas le cas d’un robot, aussi parfaitement anthropomorphe soit-il, ni le cas d’ailleurs d’un clone.
        Qu’y a-t-il de contraire à l’instinct ou à la raison dans ce que j’écris là ?
        Nous faisons des enfants, nous ne les créons pas, mais nous créons des robots, un jour peut-être des clones. La différence n’est pas mince…
        Et notre orgueil sans limite !

      3. Pourriez vous préciser  » donner le jour  » , « faire » , « créer »…?

        PS : je n’ai jamais rien créé et ne créerai sans doute jamais rien .

        Mais , j’ai en fait de la peine à entrer dans le questionnement lui même : je ne me suis jamais demandé si mes enfants étaient artificiels ou naturels , ils étaient là c’est tout .
        Comme « la nature » qui m’abrite et me compose avec tout ce qui est fabriqué ou se fabrique . Y compris la « pensée » .
        Comme le clone qui est déjà là .

      4. @ Denis Monod-Broca

        « Il arrive que la simple vérité passe pour une connerie… »
        Ce qui est dommage surtout c’est que la réalité passe systématiquement pour une connerie aux yeux de ceux qui nous gouvernent.

  11. Si l’Homme crée une IA consciente, aura-t-il créé de la vie ?
    De la vie « électronique » ?
    Il faudra alors étendre la définition de la vie.

    Cependant,
    Si cette IA peut être inventée,
    Si elle nous est infiniment supérieure,
    Si elle a pu être inventée ailleurs dans le cosmos,
    Si elle pu développer ses propres techniques de transport spatial, simplement même pour assurer sa survie à plusieurs milliards d’années (astéroïde, soleil se transformant en géante rouge…)
    Avec une durée de vie quasi-illimitée,
    Et quelques sources d’énergie suffisantes,
    Alors elle a déjà conquis l’univers !
    Nos moyens de transports spatiaux sont d’ores et déjà quasi suffisants à un robot pour atteindre une autre étoile.

    Paradoxe de Fermi version IA : Si l’I.A. E.T. existe, pourquoi ne la voyons-nous pas ? Quelques millions d’année suffisent à coloniser la galaxie.

    Et quel intérêt représente la biologie pour un être 100% métallique et minéral ? Une curiosité ?

    Sinon,
    La forme la plus développée d’IA serait-elle celle utilisant la biologie comme support ?

    Après plusieurs années de réflexions, je doute de plus en plus de la possibilité d’une IA digne de ce nom. A moins d’une résolution du paradoxe de Fermi.

    1. @ Olivier,

      Le paradoxe de Fermi a été résolu par cette tirade, que j’ai déjà citée, de Calvin à Hobes :

      « La meilleure preuve qu’il existe une vie intelligente quelque part dans l’univers, c’est qu’aucune n’a tenté de nous contacter. »

    2. @ Olivier
      Votre question :

      « La forme la plus développée d’IA serait-elle celle utilisant la biologie comme support ? »

      implique que les machines douées une IA très forte qui seraient advenues (et qui nous auraient éliminé ?) auraient été contraintes, du fait de l’épuisement des ressources en métaux et en énergie fossile (laquelle est leur seul carburant, directement et/ou indirectement) de se faire muter en organismes vivants tirant leur énergie de la photosynthèse, laquelle est une magnifique méthode de captation de l’énergie solaire, fruit de 400 millions d’années de développement naturel – les bureaux d’études artificiels peuvent s’accrocher, surtout que les financiers, même artificiels, exigent toujours des retours sur investissement pour hier sur tout capital prêté aujourd’hui, voire demain.

      En gros, il faudrait que les machines redeviennent Nous.
      Passer de la machine à Nous ! De la machine au Vivant ! Quelle horrible régression ce serait ! N’est-il pas ?

      J’ai beaucoup l’impression d’avoir fait du PSDJ sur ce coup. 😉

  12. Pour ma part j’ai fait le pari que pour produire une IA forte fallait paradoxalement être capable de reproduire la bêtise du genre humain. Y’a que comme ça qu’un bot de chat peut nous donner l’impression d’être humain.

    Je reconnais que c’est moins sexy que l’idée de reprogrammer Dieu, mais bon.

  13. @Roberto,
    Vous évoquez à juste titre du « nombril des primates ». Pépite trouvée ici : http://iaandarmy.insa-rennes.fr/larmee-de-terre/
    « En ce qui concerne l’avenir de l’intelligence artificielle appliquée, selon certains spécialistes comme Mr.Termier que nous avons interviewé, les robots tueurs ne sont pas prêts de voir le jour. L’intelligence artificielle autonome et douée de conscience n’est pas une solution envisageable pour l’armée pendant les prochaines décennies. Cela se justifie par la complexité de la mise en place d’une telle machine, notamment l’obtention d’une conscience pour la machine. Cette même conscience n’est d’ailleurs pas très utile à l’armée, ce ne serait qu’une fonctionnalité superflue. « 

    1. Oui, les militaires aussi ont des faiblesses humaines, ils n’ont pas envie de se retrouver au chômage !
      Par contre les ‘terriens’ n’auraient rien contre des plateformes idiotes (IA faibles) capables d’accompagner les forces en soutenant, voire en appuyant, la manœuvre. Mais toujours sous supervision directe des chefs tactiques qui seront « dans la boucle » avec la possibilité de reprendre les commandes à tout moment (au moins en théorie afin de pouvoir servir de fusible-de-service en cas de bavure).
      Maintenant existe toujours la complainte universelle des militaires s’étant vu imposer par le niveau politique des systèmes dont ils ne voulaient pas.

      Aucune raison à priori pour que la robotique échappe à cette règle…

  14. @Renard,

    Bien sûr ! du coup :
    « La meilleure preuve qu’il existe une I.A. quelque part sur Terre, c’est qu’elle n’a pas tenté de nous contacter ».
    🙂

  15. @ Roberto Boulant
    Hypothèse qui se termine par une question sérieuse

    Et si cette I.A, forte et de son statut – ordinateur d’un niveau d’intelligence similaire ou supérieur à celui de l’être humain ou robot devenu indépendant de son créateur, en allant même jusqu’à pouvoir le remplacer – se déclarait demain, Etre la Vraie Image de Dieu, laquelle celui-ci retiendrait-il dans ce cas : celle de l’IA ou celle du nombril des primates ?

    1. Merci. Pas vu.
      Féroce, pur jus.
      Si l’Allemagne n’avait pas décidé d’arrêter ses centrales nucléaires : vous, Vigneron, changez votre Bordeaux contre le petit lait de « je l’avais toujours dit, et bien dit » ! [changez et non changeriez]. Bref, moins de lignite.
      Je crois que ses arguments Allemagne=Diesel sont erronés. C’est la France qui a poussé au Diesel, la proportion diesel/super en France faisant foi depuis au moins 15 ans, et ne baisse sérieusement que récemment.

      1. Vigneron est à deux doigts de vanter le vin bio , car j’ai appris que les pays du nord ne voulait plus que du bordeaux bio .

  16. @Roberto Boulant
    Merci pour le lien vers votre ancien post, que j’ai pris plaisir à relire.

    Ce qui me vaut ces quelques réflexions suivantes, peut-être naïves ou décalées, partant de la fin de votre billet :

    « Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ? »

    Peut-être aura-t-elle besoin de notre Imagination Débordante.
    (Une « Imagination Artificielle », sortant réellement du cadre, plastique, j’ai du mal à… imaginer (!!) mais je ne suis pas une référence).
    On serait alors complémentaire. Elle nous utiliserait en quelque sorte, préservant notre biotope pour capter nos élucubrations artistiques, philosophiques et scientifiques pour se frayer un nouveau chemin d’évolution. Mais vers quoi ? Déjà immortelle, qu’aurait-elle à espérer ? (et donc à transcender !)

    Que ce soit celle au fond des « trous noirs », ou celle d’une l’IA forte, une singularité ne me semble rien d’autre que la fin de validité du modèle d’équations ou du modèle de pensée qu’on utilise.

    Imaginer une IA forte dont les connaissances évolueraient exponentiellement (tout comme ses capacités de raisonnement et d’IMAGINATION) se heurtera à un mur, un maxima, à partir duquel il faudra changer de modèle de pensée pour poursuivre. Vers quelques mathématiques ou logiques encore inimaginables, par définition.

    Un cerveau aura la plasticité pour y parvenir, en quelques milliers d’années peut-être. La nature nous a donné une foule de preuves de la capacité de la biologie à sortir du cadre : la vie est bien sortie des océans, par exemple.
    Une IA même très forte, à la structure matérielle gigantesque mais un peu trop rigide le pourra-t-elle ?
    Pourra-t-elle s’inventer un nouvel « organe » lui permettant de transcender ses capacités, de la même façon que le cerveau humain transcende le cerveau des grands singes ?
    Personnellement j’en doute. Ou alors cet organe, c’est nous. Ou nos lointain descendants.

    Une singularité selon moi n’existe pas, ou alors seulement dans notre système de pensée, faux ou incomplet.

    1. Je partage vos interrogations et je tente une double réponse :

      1- Évidente : la singularité physique n’existe pas. C’est seulement une commodité de langage, le point qui marque la limite d’une théorie où les équations divergent vers l’infini.

      2 Acrobatique : la singularité technologique – celle qui verrait qualitativement son intelligence progresser sur un rythme exponentiel -, serait inconnaissable en soi. De là à imaginer que cela ne soit plus du ressort de la science humaine mais de … la théologie, je préfère botter lâchement en touche !

      1. Si les questions de singularité vous intéresse je vous propose
        Bernard Lempel: un os dans le cosmos, site très bien fait:

        http://lempel.pagesperso-orange.fr/trou_noir_de_kerr.htm
        Citation:  » Et le deuxième [défaut du modèle] c’est l’apparition d’une « singularité » sous la forme d’un infini de densité, ce qui physiquement est inacceptable. »

        Aller directement à « Trou Noir de Kerr Revisité, Quelques Hypothèses. (TNKR) ».
        C’est astucieux, et selon mes lointaines connaissances en physique classique, probable.

        Y’a pas de singularité. La Nature -ou quelque chose comme ça- a horreur des brusqueries temporelles ou géométriques.

      2. @Roberto
        « la singularité technologique – celle qui verrait qualitativement son intelligence progresser sur un rythme exponentiel »
        Heureusement, la fonction mathématique exponentielle s’exprime toujours dans la nature avec ses « limites aux bornes ». Les limites aux bornes de l’ensemble de définition « qualitatif » ou s’appliquerait cette « exponentielle » ne sont jamais calculés par les nouveaux gourous de l’IA forte. L’exponentielle est alors un totem sans limite, ce qui ne peut exister dans la nature.

      3. « La Nature -ou quelque chose comme ça- a horreur des brusqueries temporelles ou géométriques. »

        Pourquoi la nature aurait-elle horreur de ce qui fait parti de sa nature ?

        DES CHERCHEURS ONT INVENTÉ LE PREMIER « CRISTAL TEMPOREL »
        Par Roman Ikonicoff Le 16 oct 2016 à 20h07

        Une grande robustesse face aux perturbations
        « Et l’équipe, qui a répété l’expérience quelque 150 fois, a observé qu’en modifiant la fréquence des lasers, la période d’oscillation se maintenait inchangée. Cette stabilité au regard des fluctuations extérieures est un mets de luxe dans l’univers des systèmes quantiques – qui tendent à se détruire à la moindre perturbation. »

        « Qu’un calcul théorique anticipe et donne naissance à un nouveau type d’objet bien réel, voilà qui ravit les chercheurs. La manip visant ainsi à faire surgir des limbes ce possible mathématique, c’est une réussite. »

        « Mais l’expérience n’a pas été effectuée uniquement « pour la gloire » : aux prises avec la technologie émergente des ordinateurs quantiques, de futures machines extrêmement puissantes mais dont l’étrangeté de ses lois de fonctionnement pose encore bien des défis techniques, la matérialisation du concept de cristal temporel permet d’imaginer de futures mémoires quantiques stables. »
        https://www.science-et-vie.com/article/des-chercheurs-ont-invente-le-premier-cristal-temporel-7202

  17. Je me suis toujours posé la question sur ce qui s’est passé entre les règnes.
    C’est vrai que classer la création en minéral, végétal, animal et mental est issu d’une marotte qu’a le mental de tout mettre en boite, mais il y a tout de même une différence et une évolution vers la complexité.
    Le minéral se transforme en différents états, le végétal pousse, l’animal peut se déplacer, le mental a une réflexion élaborée.
    Comment s’est passé la transition. Longue et millénaire, fruit du hasard et de la sélection naturelle du plus fort qui survit. Cela s’est fait de la même manière mais par paliers successifs ou d’une autre manière. Est-ce que le changement se préparerait un peu comme le passage entre de l’eau qui chauffe, frémit et tout d’un coup boue. Comme une sorte d’explosion de nouveauté longtemps préparée.

    Qu’importe, mais il y a certaines choses dont on est plus ou moins sûrs.
    D’abord, qu’il y eu évolution.
    Que la durée des règnes aille diminuant, comme s’il y avait une accélération vers la complexité.
    Que la masse totale des membre d’un règne va diminuant. Plus de minéral sur terre que de végétal et moins d’animal et encore moins de mental.
    Que le règne précédent de peut pas concevoir ou appréhender le règne suivant.
    J’ai l’impression que l’on vit une époque d’accélération ou d’exponentialité.
    Et si le règne mental n’existait pas, que nous ne soyons que l’eau qui frémit du règne animal. Que nous soyons proches d ‘un changement radical.
    Dans quelle mesure le minéral a-t-il inventé le végétal. De quelle manière le végétal est devenu animal … le mental n’est peut-être que l’animal qui a inventé, peut-être par hasard son successeur naturel au sommet de la création.
    Ce qui peut nous rassurer que le règne suivant est issus de celui qui le précède.
    Le Trans humanisme ou la suite est peut-être déjà là.
    De toutes manière, même s’il était déjà là, on ne pourrait le voir. Le roc ne voit pas la fleur, La fleur ne voit pas la vache.
    On peut très bien s’imaginer quel est le rapport entre le future règne et nous. Comment la plante se soucie du minéral : elle l’absorbe. Comment l’animal traite le végétale : il l’absorbe. Comment le mental se soucie t’il de l’animal: i l’absorbe avec quelques nuances. Peut être que notre avenir se joue dans la nuance …

      1. Oui, mais en l’occurence la peau de vache est une blonde, donc plus bête que la fleur.
        Ce dont on parle a des préoccupations dépassants celles de la baronne de Rothschild. Sinon oui, on est foutus !
        La fiance se fera t’elle dans la nuance ?
        Fuis du plus loin la Pointe assassine.
        Non, résolument non, l’ensemble de la création repose sur l’espérance, celà l’a toujours été et il n’y a pas de raison que ça s’arrête.

    1. Dans la nuance ? Vous y allez fort, alors qu’il s’agit de faire comprendre à ces travailleurs débiles et dépassés à deux euros de l’heure, qu’ils ne pourrons jamais faire œuvre de leur vie, tout ridicules qu’ils seront devant la marchandisation de l’IA des Robots et du transhumanisme.

    2. Votre réflexion va typiquement dans le sens de ce que nous propose François Roddier
      http://www.editions-parole.net/?product=thermodynamique-de-levolution-un-essai-de-thermo-bio-sociologie

      Grosso modo, tant que le système est fourni en énergie, il s’auto-organise pour capter le maximum de l’énergie et évacuer son entropie. Ce faisant, cette entropie va modifier l’environnement ce qui obligera le système à s’auto-organiser de façon plus complèxe et plus rapide

      1. Oui, aussi!!!
        Olivier Zara qui développe de la techno de gestion de l’intelligence collective (dans les organisations= entreprises, associations…), recense qu’en début de processus de choix des questions posées pour répondre à un pb complexe, il était souvent utile voire indispensable de lister des dizaines, voire des centaines de questions! Qui décide de la question dans ce cas: c’est le collectif.

  18. C’est la 2.ième fois que des trucs des forces US sont cités à l’appui ou en illustration d’une thèse IA ( F35 et DARPA).

    Or , il faut savoir que l’ensemble des Forces US est dysfonctionnel, non à cause des hommes sur le terrain, mais à cause d’une flopée de multi-étoilés collectivement ineptes. La Syrie a été et sera la Némésis de cette bande d’idiots , dangereux pour la sécurité des USA. Voir sur Internet « Le bourbier l’impossible coalition contre Daech 2016 » en français. Admirer la patiente enquête du Sénateur Graham et sa conclusion devant une bande d’étoilés rouge de honte, ministre en tête.

    L’Air Force n’a toujours pas de F35 pleinement opérationnels, si ces avions -versions A,B et C- le sont jamais. Ses autres avions sont plus vieux que leurs pilotes…
    Les forces nucléaires, pour celles relevant de l’Air Force, ont montrés de graves manquements à la sécurité.

    L’US Navy multiplie les abordages ( collisions ) en haute mer. Il s’agit de croiseurs et destroyers AEGIS, bardés d’électronique. Au total, 70 marins tués ou disparus et un nombre respectable de capitaine-commandants et amiraux sanctionnés et/ou virés, après cour martiale.

    Bref, « ils » ont la poisse et depuis longtemps.
    Je doute que les milliards de dollar absorbés par la Darpa soient vraiment efficaces.
    La tête dans les étoiles et les 2 godasses dans la boue, ça marche pas…

    1. « Les troupes mercenaires et auxiliaires sont inutiles et dangereuses… parce qu’elles sont désunies, ambitieuses, indisciplinées, infidèles; sans crainte de Dieu, ni foi envers les hommes; elles n’évitent la défaite qu’en évitant l’attaque; en temps de paix on est dépouillé par elles, et en temps de guerre, par l’ennemi… Soit les capitaines mercenaires sont d’excellents hommes d’armes, soit ils ne le sont pas. S’ils le sont, on ne peut pas se fier à eux parce qu’ils cherchent à augmenter leur propre prestige, en vous opprimant, vous qui les employez, ou en opprimant d’autres contre vos volontés; mais si le capitaine n’est pas un grand guerrier, logiquement il entraînera votre ruine… L’expérience montre que seuls les princes et les républiques armées remportent des succès durables, et que les mercenaires ne font jamais que des dégâts.
      Machiavel, Le Prince.

      1. Je savais, mais notez que le Cardinal de Richelieu dit exactement le contraire. De tête, une armée constitué de français uniquement n’est pas capable de longues opérations. Il s’y met de l’inconstance, du découragement, et les troupes se débandent. Le Cardinal préconise d’incorporer aux troupes françaises au moins la moité de mercenaires étrangers de préférence Suisse, Irlandais, Suédois, et Allemands.

        Notez que les (malheureux) soldats, aviateurs, marins et marines US sont tous des nationaux.
        La Syrie est un cas particulier: des tas d’indices laissent penser que les Kurdes ont enrôlés l’armée US et se servent d’elle -et non l’inverse- . Si c’est vrai, ces malheureuses forces armées US sont exactement des mercenaires; et pour une cause qu’elles auront largement bousillée, les 5 années précédentes….

  19. Il me semble que tout se joue sur la question de la conscience.
    Si l’on postule :
    « le cerveau produit la conscience », alors c’est mécanique et la machine peut être consciente. Ce n’est qu’une question de temps.
    Par contre, si l’on dit :
    « Pour connaître le fonctionnement du cerveau, il me faut le considérer comme si la conscience était causée par lui »

    Celà voudrait dire que la conscience serait une sorte de concept, le résultat d’un apport d’informations.
    La conscience que l’on a d’un objet serait le fumet d’une soupe de mémoire et d’informations (sens, etc..). L’opinion, une sorte d’égrégore « décidée » et fixée dans la mémoire, réutilisable à souhait, comme une application*, après l’experimentation.
    Dont, ce que je ne connaît pas et ne vois pas n’existe pas.
    Peut-être que seuls suffisent l’information et les sens pour que conscience il y ait. Si primitive soi-t’elle, avec simplement l’expérimentation, la conscience va devenir plus complexe. D’abord des impressions, puis des raisonnements, mais alors pourquoi pas des décisions produisant de nouvelles expérimentations…
    *je veux dire : une de ces saloperies d’application automatique qui veut se mettre à jour sans qu’on lui ait rien demandé !

    1. Encore juste un truc:
      Sur la question de notre ignorance qui poserait avec celle de la conscience. On arriverait certainement au fait que notre conscience est inversement proportionnelle à l’immensité de notre ignorance et nos capacités de perception.
      Donc si petite dans un si grand univers.
      Je peut que constater, qu’actuellement, les capacités de stockage et de traitement de l’information par les ordi sont bien plus importante que celle d’un humain.
      Salut les pingouins ! vous êtes que sur une banquise ….

  20. @ Sapristi
    Vous avez raison, une croissance exponentielle ne peut être infinie, elle sera toujours limitée par la taille et les ressources de l’environnement. Pour les cas que nous connaissons, les cultures de micro-organismes par exemple, ce sont seulement les premières phases de croissance qui peuvent être modélisées sous forme d’exponentielle.
    Maintenant, dans l’hypothèse où une singularité technologique apparaitrait, même si sa phase « d’explosion exponentielle » est limitée dans le temps, cela risque au final de déboucher sur un gouffre séparant son intelligence de la nôtre.
    Pour prendre un exemple capillotracté – mais c’est l’exercice qui veut ça-, si l’humanité en est au stade « poisson rouge », elle sera bien incapable de faire la différence entre l’IA forte arrivée au stade « habilis » et celle arrivée au stade « sapiens » après la phase d’explosion exponentielle. Vu du fond de notre bocal, les deux cas seront probablement aussi incompréhensibles l’un que l’autre (en supposant bien sûr que l’IA ne se retrouvera pas au stade « chat » comme le craignent Hawking, Gates ou Musk !)

    1. Il y a évolution, donc il a espérance.
      Le mental a tout de même commencé a se préoccuper des autres.
      L’évolution affine la perception de la réalité.
      Donc l’interdépendance comme un état.
      C’est la conscience de l’interdépendance plus vivante que jamais qui pourrait, par exemple, être cette formidable prise de conscience changeant toute la donne et nous préservant de quoi que ce soit. Même en ayant une position favorable en tant que de « créateur » ou contributeur.

  21. « 6 minutes 14 à ne pas penser à l’Occident qui s’écroule entre ultralibéralisme et populisme de droite »

    http://www.pauljorion.com/blog/2017/09/20/6-minutes-14-a-ne-pas-penser-a-loccident-qui-secroule-entre-ultraliberalisme-et-populisme-de-droite/

    Sir Michael Philip Jagger s’est toujours défini comme un chanteur de blues…

    Rolling Stones and Eric Clapton – Little Red Rooster
    https://www.youtube.com/watch?v=q3XgJ-sGJgU

    Presque 6 mn pour penser à des tas de trucs distrayant de cette pauvre Europe qui crève d’envie de faire les même conneries que les USA, avec 5 à 10 ans de retard…

  22. Bonjour,

    Vivement l’IA!
    En effet, car la stupidité naturelle de l’humain n’a plus de limite!
    A moins qu’il ne s’agisse seulement de la mienne…

    Voyez plutôt:
    J’ai visionné il y a quelques mois, ici même, une vidéo présentant les essais d’un robot quadrupède programmé pour se déplacer en terrain accidenté.
    Je n’ai pas retrouvé le lien vers cette vidéo, mais des intelligences supérieures à la mienne, certainement nombreuses sur ce forum, la retrouveront facilement …
    Beaucoup s’en souviennent certainement, l’opérateur testait avec réussite la mobilité de son automate en milieu naturel boisé, ainsi qu’en laboratoire, où, tentant de s’opposer par la force à la progression de son robot, il se mit à le pousser et à le heurter violemment pour le faire tomber, montrant à quel point il se relevait habilement pour poursuivre inexorablement son déplacement.
    Le robot, se relevait et repartait toujours avec la même obstination électronique, puis penchait et basculait sous les assauts de son maître pour repartir inlassablement dans la même direction.
    C’est alors que, subitement, et à ma grande surprise, la portée « purement expérimentale » de la scène qui se déroulait devant moi
    m’échappa, et que je me mis à éprouver de la compassion pour ce tas de boulons, de vérins hydrauliques et de cartes à puces sans défense, méchamment malmené par un échantillon représentatif de ma propre espèce qui commençait à m’indisposer .
    Voyez ici, chers amis , l’infamie du fonctionnement absurde d’un cerveau humain (j’ai dis « un »; loin de moi l’idée de généraliser).
    Voyez cette coupable faiblesse qui entrave si gravement les légitimes aspirations de l’homme dans ses progrès pour s’élever au delà de
    modèles ancestraux obsolètes.
    Mais, heureusement chers ami, rassurons nous, j’ai probablement été le seul à éprouver (j’allais dire pour autrui…Pfff, ridicule!) des sentiments si subversivement décadents.
    Et dire que certains veulent doter l’IA de compassion!
    Saboteurs!
    Eric

      1. Merci Mr Boulant, j’apprécie!
        Mais toutefois moins efficace émotionnellement…
        Le cri des bébés dinosaures en caoutchouc m’émeuvent peut-être moins que le silence des agneaux mécaniques.
        Allez savoir pourquoi!
        Compassion pour les moutons en puissance?
        Eric.

    1. Ça dû vous échappez mais c’est un futur engin de guerre, un porteur d’armement et munitions, un potentiel assassin… capable de progresser dans les conditions d’un bombardement ( léger tout de même, je dirais du mortier de 82 mm sans recherche de saturation). Tant qu’y a pas de coup au but, y’a de l’espoir pour ces infâmes militaristes.
      Qu’y crèvent. La recherche de financement n’excuse pas n’importe quoi.

      1. Arrête, on va pleurer. Tu préfères que ce soit ta belle et jeune amazone YPJ qui se fasse éventrer et/ou démembrer et/ou décapiter au Rojava ou bien ce clébard mécanique augmenté ? Huh ?

      2. Trop bon, cher vigneron.
        Il n’y a pas de réponse simple et claire, Ni l’une, ni surtout pas l’autre. De toute façon, une guerre de libération est une bonne chose, quelque peu sacrée. A soutenir tant que l’objectif moral est acceptable. Et il l’est. Je vous rappelle que Bookchin est opposé au capitalisme et prône un municipalisme écologique, plus évidemment la libération de la Femme, asservie depuis la fin du Néolithique. ( dans le texte: « l’homme a inventé le capitalisme et la domination de la nature pour asservir la femme »);

        Je crains que ces délires guerriers ne servent qu’à la répression de mouvements que les US ne contrôleraient pas, étant entendu qu’un conflagration mondiale n’est pas en vue, même dans le Pacifique. Ajoutons à ça que le Sénat a voté le budget des forces armées: 700 milliards de dollars. Ce faux clébard-vrai arme de guerre et ce budget délirant sont un des signes que les USA sont profondément malade de la tronche. Ils font peur.
        Heureusement , il reste Bob Dylan et quelques autres.
        Des restes ou des résidus.

  23. Bien distinguer Intelligence Artificielle et Humanité…
    Ex:
    Je préfère ne pas passer pour trop intelligent,
    afin naturellement de ne pas être pris pour totalement artificiel…
    Eric.

  24. Yann le Cun (directeur du Facebook Artificial Intelligence Research et titulaire pour l’année 2016 de la chaire Informatique et sciences numériques du Collège de France) chez Soumier sur BFMBusiness ce matin.

    – Yann Le Cun est-ce qu’un jour les robots seront incontrôlables ?
    – Franchement ? il est beaucoup trop tôt pour ce genre de questions.

  25. L’union rationaliste :

    https://www.franceculture.fr/emissions/divers-aspects-de-la-pensee-contemporaine/divers-aspects-de-la-pensee-contemporaine-dimanche-24-septembre-2017

    Sur l’I.A. Jean Gabriel Ganascia

    Et là aussi :

    https://www.franceculture.fr/emissions/linvite-idees-de-la-matinale/jean-gabriel-ganascia-craindre-lintelligence-artificielle-est (peu justifié)

    Jean-Gabriel Ganascia est professeur à l’université Pierre et Marie Curie, chercheur en intelligence artificielle, président du comité d’éthique du CNRS et auteur de Le mythe de la singularité, faut-il craindre l’intelligence artificielle ? (Seuil, 2 février 2017)

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *