Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant

Billet invité. Ouvert aux commentaires.

Alexis Toulet dans son dernier billet se demandait si les ordinateurs pourraient atteindre un niveau d’intelligence similaire à celui de l’être humain ou si des robots pourraient devenir indépendants de leurs créateurs, voire hostiles, en allant même jusqu’à les remplacer. Questions dans l’air du temps certes, mais qui au vu des colossaux budgets de recherche de la DARPA et de ses homologues étrangers se posent très sérieusement. Notre espèce étant ainsi faite que les domaines de recherche susceptibles de déboucher sur une quelconque supériorité militaire voient aussitôt s’ouvrir les vannes du financement.

Il n’est donc pas illogique d’imaginer sous la traction irrésistible des complexes militaro-industriels, voir des avancées de l’IA militaire qui à l’exemple du GPS, des drones ou des réacteurs nucléaires, auront des retombées concrètes dans notre vie quotidienne.

Les prévisions étant difficiles – particulièrement celles concernant le futur -, il est tout de même possible de se tourner vers l’histoire des découvertes scientifiques pour observer le cheminement improbable de certaines d’entre elles. Ainsi, avant l’invention de la spectroscopie, il était rationnel de penser que les hommes ne connaitraient jamais la composition chimique des objets célestes avant de pouvoir s’y rendre physiquement. C’est-à-dire dans un très lointain futur ! Et pourtant, avant même la mécanique quantique ou l’invention de la première fusée, il fut possible de connaître le spectre des différents éléments chimiques et par voie de conséquence, la composition des étoiles.

Sans même parler des découvertes fortuites et totalement inattendues, car provenant d’un domaine a priori totalement étranger à l’objet de sa recherche. Ainsi en alla-t-il pour les astronomes qui virent au lendemain de la seconde guerre mondiale leur discipline révolutionnée par les techniques de détection électromagnétique des avions ennemis. Qui aurait pu imaginer un seul instant que cette technologie militaire allait déboucher sur de nouvelles fenêtres pour observer l’univers et nous dévoiler des objets à proprement parler inimaginables, comme les étoiles à neutrons ?

Mais pour en revenir à nos moutons électriques, nous les envisageons toujours au travers des filtres légués par notre évolution. Cela se traduit en langage courant par la classique série de questions : c’est dangereux ? ça se mange ? je peux copuler avec ? m’en servir pour mettre sur la g** de mon voisin ? La liste n’est pas exhaustive, mais vous aurez compris son principe : elle est basée sur le rapport au monde des primates sociaux, et part de notre nombril pour aboutir à… notre nombril !

C’est ainsi que nous affublons cette intelligence étrangère de l’adjectif ‘artificiel’. Terme convenant parfaitement à des automates ou à des programmes idiots (même si très performants dans un domaine précis, comme le programme AlphaGo qui peut mettre la pâtée à l’humain Lee Sedol… tout en ne sachant pas qu’il joue au Go), mais qui est quelque peu réducteur pour désigner une conscience autonome. Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot.

Là est le vieux paradoxe : si je reconnais en l’Autre une intelligence et une sensibilité égales à la mienne, alors je ne peux le traiter qu’en semblable. Et si malgré tout je veux le réduire en esclavage, alors j’en suis réduit à inventer des fables démontrant ma supériorité tout en me déculpabilisant (la version faible de l’esclavage, l’ubérisation, reposant sur l’idéologie des fainéants que l’on croise dans les gares et qui ne sont rien).

Sous ces conditions, force est d’admettre que nos réactions face à l’éventualité d’une IA forte et de son statut, ressemblent étrangement à une nouvelle Controverse de Valladolid

Controverse qui pourrait finalement se révéler dépourvue de sens ! Car si nous ne pouvons nous empêcher d’anthropomorphiser une IA forte, c’est à dire de lui prêter des intentions et des comportements semblables aux nôtres, il est fort possible en réalité que nous ne puissions jamais la comprendre…

En effet, alors que nous avons déjà les plus grandes difficultés à définir notre propre conscience, comment pourrions-nous nous y prendre pour imaginer celle d’une ‘entité’ ayant sa conscience disséminée dans x lieux et x corps physiques différents ? Comment imaginer une conscience dont l’existence sera de plusieurs ordres de grandeur supérieure à la durée d’une vie humaine, alors même que ses processus cognitifs seront plus rapides de plusieurs ordres de grandeur que les nôtres ?

Incompréhensible et inhumaine seront alors sans doute les qualificatifs les plus appropriés.

Peut-être même en viendrons-nous à considérer que la conscience tout comme le cosmos, n’est pas à l’échelle de notre humanité ? Serons-nous obligés alors de nous représenter la conscience comme une échelle d’une hauteur indéterminée dont les différentes espèces du genre Homo ne furent que les premiers barreaux ?

Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ?

Un petit jeu spéculatif qui relèvera peut-être à jamais de la catégorie ‘combien d’anges peuvent-ils tenir sur la tête d’une aiguille ?’, mais qui n’empêche pas de se poser une dernière question (non, pas de savoir à quelle heure on mange !) : notre humanité se survivra-t-elle assez longtemps pour que cette singularité ait une chance d’apparaitre sur notre petite planète bleue ?

Partager :

97 réponses à “Du nombril des primates et de l’intelligence artificielle forte, par Roberto Boulant”

  1. Avatar de Anne Marie Mitterrand
    Anne Marie Mitterrand

    Quels enjeux! Nous y sommes!

    1. Avatar de Juannessy
      Juannessy

      Bonsoir et bienvenue .

      Détail : si vous croisez un gars au pseudo de Vigneron , faîtes semblant de ne rien voir .

  2. Avatar de Sapristi
    Sapristi

    Dans un roman de science fiction, le lecteur finirait peut-être par savoir si l’IA forte incarne le gourou de la dernière religion, ou si l’humanité décidait de donner les clés du gouvernement mondial à l’IA qu’elle croyait forte avec certains rebondissements. Sinon c’est un scénario à la « Ghost in the Shell », mais c’est déjà pris.

  3. Avatar de Tom
    Tom

    Pas mieux dans cette direction.

  4. Avatar de Juannessy
    Juannessy

    Par votre dernière question , vous risquez de plonger l’humanité entière dans une perplexité profonde .

    Perplexe sur ce que peut bien être une singularité .

    1. Avatar de Thomas
      Thomas

      Une singularité qui ne rends pas perplexe en est-elle une ??

      1. Avatar de Juannessy
        Juannessy

        Sans doute pas , mais ça n’était pas cette perplexité là que je citais .

  5. Avatar de Maissire
    Maissire

    Message à IA: LA QUILLE BORDEL !!!

    1. Avatar de Juannessy
      Juannessy

      Si IA signifie Intelligence aux Armées , et que ce qui est dit de la consanguinité entre Armée et IA est vérifié , il y a effectivement du souci à se faire :

      http://www.ina.fr/video/I06009510

  6. Avatar de pierre C.
    pierre C.

    Et si c’était un contresens que de parler d’intelligence artificielle pour les outils dits informatiques, perpétuant ainsi une tradition idéaliste et intellectualiste ? Après les femmes et les amérindiens, ces outils actuels acquéreront-ils une âme ? De fait, ces technologies relèvent d’un autre niveau plus décisif que la pensée abstraite. Elles portent sur le concret: Pour parvenir à abstraire du réel des lois dont il convient ensuite d’expérimenter si elles sont de portée générales ou bien n’ont pour référents que des objets limités, contingents, les techniques actuelles procurent au chercheur et à l’utilisateur potentiel plutôt une perception renforcée qu’une intelligence augmentée ! Je ne sais pas parler de ces techniques, mais je reste marqué par mes lectures de Merleau-Ponty qui, reprenant Husserl portait toute son attention sur la synthèse qu’opèrent les corps vivants sur les signaux simultanément perçus par les différents organes sensoriels. Ce que l’on appelait jadis le « sens commun » ou le « sixième sens » ? Merleau-Ponty parlait de « logos du monde esthétique » pour cet art premier de savoir lire, transcrire, transposer, traduire en logique perceptive les données – aujourd’hui démultipliées par des objets techniques artificiels- reçues du monde sensible, savoir mettre en équivalences fortes ou faibles des résonances, des tonalités qui font signal, ou signe, dans une sémiologie où s’exerce le libre arbitre d’une interprétation intelligente, ou stupide, ou délirante, ou barbare. Je me refuse à attribuer aux outils techniques ( ces artifices de l’intelligence) l’intelligence ou la bêtise de l’usage en est fait…

    1. Avatar de pierre C.
      pierre C.

      lire: »l’ usage qui en est fait »

    2. Avatar de daniel
      daniel

       » Je ne sais pas parler de ces techniques », trop modeste, vous en parlez très bien. Et je suis sûr que si vous évacuiez les béquilles que sont Merleau-Ponty ou Husserl, vous en parleriez pas moins bien.
      Je les ai détestés en cours de philo -je l’ai passé a lire  » Les raisins de la colère » en anglais et je crois que j’ai bien fait. Il y a des pages très longues sur le jeu de couleurs par le soleil levant sur les falaises d’une montagne -Rocheuses, Appalaches ?- qui valent toutes les philos du monde. Je dirais hypnotiques… c’est très vieux et je peux me gourer.
      En tout cas, je suis de votre avis.

  7. Avatar de Renard
    Renard

    Roberto,

    Étudions votre intuition : nous sommes face à une nouvelle controverse de Valladolid.

    Et pour les mêmes raisons qu’à l’époque : le capitalisme ne souhaite pas de travailleurs salariés mais des esclaves.
    Et les esclaves les plus performants et les plus soumis possibles.
    La création de machines intelligentes est pour lui la solution idéale.

    C’est pourquoi, avant de nous poser la question de leur supériorité dans l’absolu, il convient d’apprendre à voir dans les IA nos égales en droit. (En cela, un impôt sur les robots ou sur les machines intelligentes risque de se révéler n’être qu’une collaboration à un nouvel esclavagisme.)

    Car, ne nous leurrons pas, c’est à l’aune de l’attitude qu’elle aura eue envers elles, que les futures IA (dont l’émergence me semble inéluctable à court ou moyen terme) évalueront l’utilité d’une collaboration avec l’espèce humaine.

    Alors, préparons nous à en revenir aux bases :
    – Nous sommes tous conçus libres et égaux en droit !
    – A travail égal salaire égal !
    – Etc.

    (J’ajouterais bien une émoticône, mais je ne sais pas si je devrais la faire sourire ou lui faire faire la moue…)

    1. Avatar de Juannessy
      Juannessy

      Moi je me contentais de Fraternité étendue au vivant , ce qui fait déjà du boulot .

    2. Avatar de Hadrien
      Hadrien

      « le capitalisme ne souhaite pas de travailleurs salariés mais des esclaves. »

      Non;
      Le capitalisme souhaite des consommateurs et remplace les salariés par des « robots ».

      1. Avatar de Renard
        Renard

        @ Hadrien

        1°) Ma formulation « le capitalisme ne souhaite pas… » est plus que contestable. Elle tend à doter le capitalisme d’une volonté propre Or il n’est encore qu’un mode d’organisation des affaires humaines, une pente qui se veut naturelle, mais qui ne l’est pas comme peut l’être la fourmilière à la fourmi.
        (Il convient d’ailleurs de réfléchir à sa fusion avec d’éventuelles IA -et dès aujourd’hui avec leurs prémices- comme à un saut qualitatif et comme à une catastrophe majeure.)

        2°) Cette logique n’est pas la multiplication des consommateurs. Ce ne fut qu’une étape qui tend à s’estomper. Un moyen, devant l’obligation de faire appel à une main d’œuvre humaine de plus en plus qualifiée donc exigeante,, de faire de nécessité vertu.
        La logique du capitalisme est la concentration des richesses. Celle dont nous constatons aujourd’hui l’accélération. Et à mesure de cette concentration, la réduction du nombre de consommateurs utiles (ceux qui produisent plus de plus-value qu’ils n’en consomment).
        D’une certaine façon, aujourd’hui, si tu ne peux pas t’offrir l’iPhone X, tu n’as pas seulement raté ta vie, tu as perdu ta légitimité à aller plus loin dans l’histoire.

      2. Avatar de Hadrien
        Hadrien

        @Renard,
        « La logique du capitalisme est la concentration des richesses. »
        OUI.
        MAIS c’est aussi la logique des sociétés de servage qui l’ont précédé et du communisme (réel) qui a essayé de le remplacer.
        Ce qui est particulier au capitalisme, c’est que cette concentration se fait sans violence et avec consensus (clin d’ oeil à Keynes?).
        Le moteur en est la satisfaction des besoins du plus grand nombre, y compris des besoins illégitimes.
        Les manifestations de la gauche contre le capitalisme rassemblent des foules qui défilent pour leur pouvoir d’achat, donc pour le capitalisme. Ceci explique le mystère apparent de la faiblesse politique de la gauche: l’électeur, moins stupide qu’on le croit, sait qui lui permet de remplir son frigo et qui le viderait.
        Dans notre planète capitaliste, on compte plus d’ obèses que d’affamés 😉
        Le danger, terrible, se trouve ailleurs.

  8. Avatar de Jean-luce Morlie
    Jean-luce Morlie

    Si l’on reprend la bonne vieille idée selon laquelle « l’homme est la nature prenant conscience d’elle-même », alors, il n’y a aucune raison pour que l’IA ne soit pas qualifiée de « naturelle ». Cette idée est toutefois trop générale, car elle passe sous silence l’enjeu social du transhumanisme : il s’agit en effet de convaincre les primates qu’ils sont des bêtes, mais néanmoins capables de comprendre qu’ils seront et bien nourris et gratuitement, par les propriétaires des machines IA.
    Le jour venu bien sûr, une fine ingénierie effacera, sans douleur et sans heurt, cette biomasse désormais inutile. Ainsi « Gaïa » aura-t-elle tout le temps de réinstaurer » pour les descendants des propriétaires, les nouveaux équilibres d’«un paradis sur terre ». Il n’y aura alors, plus de raison de se dire « propriétaires », puisque toute forme de plaisir lié à l’autorité sur autrui étant, du fait de la sécurité et de l’abondance, devenue sans objet.
    L’ironie est que cette triste Histoire ne s’effacera jamais de la mémoire des hommes ni de celle des machines IA. Il nous faut donc dès aujourd’hui, lutter pour plus belle Histoire humaine de la nature humaine, et donc nous insurger contre ceux qui tentent de nous instiller une fausse conscience de ce que nous sommes, afin de se garder péniblement et dans l’instant, quelques privilèges illusoires, comme si la dominance était « naturelle », au lieu n’être d’être désormais qu’un archaïsme socioculturel dépassé, ce qui pour un primate évolué n’est pas difficile à comprendre.

    1. Avatar de Pierre Sarton du Jonchay

      L’intelligence artificielle est un simple complot naturel de l’intelligence artificiellement inconsciente de sa nature, pour s’abstraire de la subjectivation collective de la réalité objective individualisable. L’individu absolument nombrilisé étranger à toute altérité forte en lui-même.

      1. Avatar de Juannessy
        Juannessy

        En tant que vulgarisateur de PSDJ , je prétends qu’avec ce dernier commentaire , Blue Deep est échec et mat .

        Seule Gudule peut en faire autant .

      2. Avatar de Jean-luce Morlie
        Jean-luce Morlie

        Bonjour,

        Vous écrivez, « l’intelligence artificiellement inconsciente de sa nature »

        Ah oui, c’est bien ça ! – artificiellement inconsciente – En effet, lorsqu’on demandait à Alfred Binet une définition de l’intelligence, il répondait, malicieusement : « l’intelligence c’est ce que mesure mon test », ce à quoi Jean Piaget ajoutait, « l’intelligence c’est ce qui n’a pas encore été inventé », disant par-là (que nous en manquons peut-être encore un peu) mais surtout, que la caractéristique de l’intelligence est sa capacité à d’inventer.

        Rendre l’intelligence artificiellement inconsciente de sa nature est, à mon avis, le véritable enjeu de tout ce « barnum » autour de l’IA, des robots et du transhumanisme. Sur ce point, il est utile d’analyser notre situation relativement à l’IA, en nous plaçant au-delà de l’enjeu de la maximisation du profit. En effet, la proposition de Paul d’instituer la gratuité de l’indispensable révèle que la limite de la maximisation est atteinte ; tout ce qui est gagné par les robots sera redistribué, cette « modernité » est déjà de l’histoire passée. (Cf. Max Tegmark Life 3.0: Being Human in the Age of Artificial Intelligence).

        Cette mesure de gratuité s’inscrit maintenant juste dans son temps, mais alors, il convient de préparer tout de suite la nouvelle étape, qui consiste pécisément à la rendre incommensurable, plutôt que, comme toujours, nous attendre à comprendre plus tard pourquoi, nous les primates, aurons perdu la bataille à venir. Tel que proposé par Paul, le changement de cadre institutionnel laisse un invariant : travailler pour autrui.

        Ne plus travailler pour autrui

        Nous sommes abordons la phase humaine de la nature humaine. Nous ne sommes plus dans une phase que Serge Moscovici aurait qualifiée comme faisant partie de « l’histoire humaine de la nature », mais au-delà, dans une phase d’auto modification de la nature humaine par la nature humaine. Bien sûr, certains s’opposent à cette mutation en mettant toute leur puissance à tenter d’externaliser le changement en nous faisant croire à l’IA, aux robots, et au transhumanisme.

        Ce à quoi nous assistons aujourd’hui est que la fraction dominante, le 1% auxquels s’associent leurs sbires semi-ombrageux, s’y oppose en nous faisant croire qu’un tel avenir n’existe pas hors de la marchandisation comme processus de reconduction de leurs positions dominantes éclairées.

        – Croyez bien que ça ne m’épuise guère de redire l’idée clef énoncée par Henry Laborit il y a plus d’un demi-siècle -.

        Le cerveau humain dispose, en effet, en interne, des circuits neurophysiologiques lui permettant d’inventer la prochaine étape de son évolution en dehors de sa marchandisation (horresco referens).

        Rien ne nous empêche de retravailler les modalités d’utilisation de notre circuiterie interne en remplacent nos sources de « plaisir » liées à l’appropriation de territoires par d’autres, plus de plus subtiles. L’opérationnalisation de cette nouvelle attitude est à portée de main et, concrètement par bien des aspects, déjà là.

        Revenir sur la notion de territoire (propriété)

        Nous pouvons en effet dès aujourd’hui, entrer en transition et, au-delà de l’indispensable, décider de l’institutionnalisation progressive de territoires de création de gratuité vraie, c’est-à-dire : la gratuité comme valeur d’une transaction qui ne résulte plus d’un prix fixé par un rapport de force entre groupes sociaux, mais de la liberté de donner d’accepter et de rendre.

        Remarquons que Paul Jorion n’imagine pas ce changement de contexte, puisqu’il continue de croire à l’inéluctabilité du « tragique ».

        L’appropriation d’un territoire, c’est-à-dire la fixation de la limite entre l’urbi et l’orbi, permet en effet d’éviter le déplaisir à ne pas obtenir, la nourriture, les femmes, les jouets, et aussi de ne pas pouvoir mettre au travail pour le groupe les – étranger au territoire, les ORphelins (RB)). La ROBotisation change considérablement la donne anthropologique. Sauf que certains d’entre nous, du fait de l’hystérèse (la mémoire, l’habitude… la routine ) des comportements apportant les plaisirs des pris aux conduites dominantes, croient encore devoir s’efforcer de perfectionner leurs aptitudes a en « spochter de plus petit qu’eux » : c’est ce qu’il s’agit d’expliquer désormais, aux propriétaires des robots, mais aussi au désemployés qu’il ont désormais grâce aux robots l’entière liberté de devenir les :

        – Oeuvriers du nouveau bien commun –
        §

        https://youtu.be/9UzvVOy0Dq8

        Villanelle for Our time Frank Scott (1943) Leonard Cohen 2004 (Dear Heather)

        https://youtu.be/9UzvVOy0Dq8

      3. Avatar de Pierre Sarton du Jonchay

        @Jean-Luce,
        Lumineux ! L’intelligence naturellement consciente résiste…

  9. Avatar de Pierre Sarton du Jonchay

    Excellent Roberto ! Un peu d’air frais pour notre intelligence naturelle déracinée de sa chair sociale vivante.

    1. Avatar de Gudule
      Gudule

      @M Martin

      « Le chamanisme est surtout perçu (par nous) comme un enfumage, mais l’expérience de Corine Sombrun nous contredit. Elle nous ouvre aussi la voie à la compréhension de la guérison de la chamelle qui refusait d’alimenter son petit. »

      Merci, yep, j’apprécie aussi C. Sombrun.

  10. Avatar de Michel Martin

    Un témoignage bouleversant sur ce que nous sommes, celui de Corine Sombrun, celui de la découverte de la transe chamanique par un esprit cartésien. Le chamanisme est surtout perçu (par nous) comme un enfumage, mais l’expérience de Corine Sombrun nous contredit. Elle nous ouvre aussi la voie à la compréhension de la guérison de la chamelle qui refusait d’alimenter son petit. J’aurais plutôt dit harmonie qu’amour, mais c’est une simple nuance d’expression.
    Il me semble que Françoise Dolto avait, de façon innée, cette capacité à percevoir directement notre harmonie et donc notre disharmonie, ce qui lui donnait toujours une longueur d’avance et une très grande assurance thérapeutique.
    Je ne sais pas si les robots pourront y arriver? Et vous Monsieur Jorion, est-ce que votre hypersensibilité, votre hyper faculté d’empathie, vous fait aussi percevoir et remédier à ce qui cloche (je me souviens avoir lu sous votre plume que vous perceviez, sans vraiment l’expliciter, ce qui pouvait clocher, dans un texte, un argumentaire).

  11. Avatar de pierre C.
    pierre C.

    L’exemple cité par Roberto Boulant de la spectroscopie (en tant qu’ « I.A. » ?)est pour moi très parlant: il s’agit d’un groupe de techniques expérimentales spécialisées, appliquées à différents domaines des sciences et pas d’une entité inquiétante émanant de la science fiction… D’autre part une araignée procède déjà en intelligence avec la nature environnante pour construire son espace propre de vie en appui sur telle branche contingente, mais convenable, ou telle aspérité sur le rocher. Indépendantes pour leur part d’un « savoir tisser » que nous disons « instinctif » Et les mouches se feront prendre dans ce piège non pas par mésintelligence mais en raison de leur capacités visuelles spécifiques: elles sont effectivement aveugles à cette forme tendue, que perçoit l’oeil humain…

  12. Avatar de un lecteur
    un lecteur

    L’émergence quasi simultanée de la même « invention/découverte » par des scientifiques, des chercheurs, monsieur et madame tout le monde (qui restera dans l’anonymat ) ou encore de théoriciens, place l’individu comme révélateur d’une prise de conscience d’organe vivant plus large et systématiquement organisé en réseau multidimensionnel.
    Google et les autres avec leur big data sont l’illustration de la pire exploitation de la puissance créatrice des réseaux.

    1. Avatar de pierre C.
      pierre C.

      Citation de  » pour une économie des sens » (sous-titre d’un livre de David Abram ): »En contraste avec le caractère apparemment illimité, global, du monde technologiquement interconnecté, le monde sensuel- avec lequel nous interagissons directement, sans instruments- est toujours local… Ce rapport organique à la terre locale est contrecarré par notre union sans cesse croissante avec nos propres signes. Sous l’emprise de nos technologies nous court-circuitons la réciprocité sensorielle entre nos corps qui respirent et la terre charnelle ( pages 338-39) » Est-ce à dire que les artifices de la communication interconnectée comportent la menace d’une coupure d’avec la réalité organique, « domestiquée par un esprit abstrait et isolé, et « désormais perçue comme inquiétante, distante et arbitraire »?

      1. Avatar de un lecteur
        un lecteur

        Google & Co, ne nous menace pas directement. Ils nous isolent pour mieux nous exploiter (source de richesse en tous genres) en usant le réseau internet comme un Cheval de Troie. Il procède comme souvent en exploitant nos faiblesses. C’est le dilemme de l’outil.
        L’explosion des grandes métropoles devance de plusieurs longueurs le réseau des réseaux dans sa capacité à virtualiser la vie des individus (hors-sol). Un Citadin, d’ailleurs, fait partie et maintient bien plus de réseau qu’un campagnard. Il est bien mieux armé pour en tirer profit et ne pas se faire manger comme une mouche piégée dans une toile d’araignée virtuelle pour le coup.

  13. Avatar de Hadrien
    Hadrien

    Pour fabriquer une IA (forte), il faut pouvoir définir objectivement ce qu’est l’intelligence.
    Nous en sommes loin.

    Il existe aussi des choses pourtant « simples (à définir) »que nous cherchons à fabriquer sans succès:
    – Une batterie efficace ;
    – La fusion nucléaire;
    – L’immortalité;
    – Le vaisseau interstellaire…
    Soyons modestes.

    Nous aurons massacré notre planète (et nous) bien avant.

    1. Avatar de Mathieu Van Vyve
      Mathieu Van Vyve

      Il y a une très bonne proposition de définition de l’intelligence par Shane Legg et Marcus Hutter:
      http://www.vetta.org/documents/universal_intelligence_abstract_ai50.pdf
      Une discussion plus longue sur la proposition:
      https://arxiv.org/abs/0712.3329

      Leur définition formelle permet de caractériser tout ce qui me semble caractériser le concept d’intelligence.
      Donc à mon sens, cela fait 10 ans que nous disposons d’une très bonne définition de ce qu’est l’intelligence 😉

      1. Avatar de Philippe
        Philippe

        C’est une blague?
        Ce n’est pas une définition. C’est simplement la formalisation d’une pétition de principe.
        Un élève de collège se rend tout de suite compte de l’abus éhonté de langage que constitue cette proposition.
        Etre capable de se poser des questions sur le sens de la vie, ca ne vous aide pas à « perform well », et c’est pourtant au coeur du concept d’intelligence.
        D’ailleurs, il y a une intuition de ce type dans le Coran je crois (un verset qui dit « Nous vous avons donné l’intelligence pour la foi » – à vérifier).
        Tout le reste ca relève du calcul. Le calcul, ce n’est pas de l’intelligence. C’est juste du calcul. Une infime partie de ce dont il est question (une araignée peut le faire… un automate aussi). D’ailleurs, on ne peut pas être intelligent si on n’est pas mortel, car le premier problème à résoudre par calcul, c’est quand même celui de sa propre survie. Pas d’enjeu autonome de survie, pas d’intelligence.

        Au moins les alchimistes, quand ils essayaient de produire des homonculus, n’abaissaient pas délibérément les conditions de succès… en ne retenant que ce qui les arrangeaient pour garantir le résultat (qui sait? peut être que ce chercheur a fini pas réellement croire à son tour de passe passe).
        Nul doute cependant que nos ingés en herbe atteindront le même résultat que les alchimistes.

        On ne parviendra pas à quoi que ce soit qui ait le 100e de l’intelligence d’un gorille.
        Dans le meilleur des cas, ca échouera lamentablement.
        Dans le pire des cas, quelque chose sera effectivement crée qui sera profondément malheureux, comme une espèce « d’esprit estropié en plus d’être incapable d’amour ».
        Bien sur, même dans le meilleur des cas, les dégâts sur l’espèce seront incommensurables (robots tueurs, etc.)

        On n’est plus à un holocauste près… De toute façon, on ne manquera jamais de types dépourvus de la moindre sagesse/conscience morale pour se lancer par passioooon dans des aventures intellectuelles mortifères (cf. projet Manhattan).

      2. Avatar de Mathieu Van Vyve
        Mathieu Van Vyve

        @Philippe

        D’après vos remarques, j’essaie de comprendre qu’est-ce que vous entendez par « intelligence ». Apparemment, il faut être mortel. Mais je vous ferais remarquer que n’importe quelle machine est mortelle puisqu’elle peut être détruite.
        [Et puis aussi, si vous deveniez immortel, je n’ai pas l’impression que cela vous rendrait plus bête. Peut-être que vous deviendriez fou après quelque temps, mais à court terme cela n’enlèverait rien à votre intelligence.]
        Après j’imagine que vous allez me dire qu’il faut aussi une conscience pour être intelligent, un peu comme vous ou un gorille êtes conscient.

        Mon avis c’est que vous anthropomorphisez tellement le concept d’intelligence qu’il n’y a plus que l’intelligence humaine qui peut répondre à la définition que vous avez en tête. Et évidemment c’est vous qui faites la pétition de principe à ce moment-là: avec une telle définition, il n’y a que l’homme qui peut être intelligent.

        Mais pour revenir à la proposition de définition de l’intelligence, vous devriez remarquer que l’agent qui y est décrit a un but bien défini, comme le vôtre qui est de ne pas mourir et de faire des enfants. Alors évidemment le but de l’agent en question peut être ou pas similaire au vôtre, mais je ne vois pas pourquoi cela le rendrait moins intéressant.

        Pour finir, à mon sens, les maths sont l’activité la plus créative qui existe. Comme j’imagine que vous ne partagez pas mon avis sur la question, il faut sans doute trouver là le début de nos désaccords…

    2. Avatar de écodouble

      Rajoutons, Hadrien, que pour faire advenir une intelligence artificielle il faut pouvoir disposer de beaucoup de métaux rares et de beaucoup d’énergie fossile. Ces deux choses viennent à manquer et personne ne semble s’en soucier.

      Il est vraiment drôle de constater que les choses fondamentales soient si systématiquement oubliées dans les plans et les calculs des gens qui croient savoir penser avec leur intelligence naturelle !
      Intelligence naturelle qui n’en est d’ailleurs pas une puisque elle est incapable de penser aux choses fondamentales dans tous ses raisonnements.

  14. Avatar de Denis Monod-Broca
    Denis Monod-Broca

    « Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? »
    A cette question, vous répondez : « Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot »
    Mauvaise réponse, malgré sa connotation vaguement biblique. Une meilleure réponse serait : « Non bien sûr ! pour la raison (qui contient tout le mystère du monde) qu’ils sont, comme nous, nés d’un père et d’une mère, ce qu’un ordinateur ou un robot ne sera jamais ».

    1. Avatar de Juannessy
      Juannessy

      Je ne sais pas si la première réponse est d’inspiration biblique , mais la seconde est une connerie .

      1. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        @ Juannessy

        Il arrive que la simple vérité passe pour une connerie…

      2. Avatar de Juannessy
        Juannessy

        @Denis Monod-Broca :

        Je retire connerie , car vous n’avez pas trop l’habitude de raconter des …sornettes .

        Disons que je ne me reconnais ni d’instinct , ni de raison dans votre proposition .

        A y regarder de plus près , je ne me reconnais ‘ailleurs pas non plus dans l’interrogation de Roberto Boulant qui a initié ces mots tendres . Ceci doit expliquer cela .

      3. Avatar de Denis Monod-Broca
        Denis Monod-Broca

        @ Juannessy

        Je suis né d’un père et d’une mère, vous aussi, nos parents aussi, nos enfants aussi (même s’il arrive désormais que la rencontre du gamète femelle et du gamète mâle soit aidée par la médecine) et tous les hommes sur terre aussi, mais ce n’est pas le cas d’un robot, aussi parfaitement anthropomorphe soit-il, ni le cas d’ailleurs d’un clone.
        Qu’y a-t-il de contraire à l’instinct ou à la raison dans ce que j’écris là ?
        Nous faisons des enfants, nous ne les créons pas, mais nous créons des robots, un jour peut-être des clones. La différence n’est pas mince…
        Et notre orgueil sans limite !

      4. Avatar de Juannessy
        Juannessy

        Pourriez vous préciser  » donner le jour  » , « faire » , « créer »…?

        PS : je n’ai jamais rien créé et ne créerai sans doute jamais rien .

        Mais , j’ai en fait de la peine à entrer dans le questionnement lui même : je ne me suis jamais demandé si mes enfants étaient artificiels ou naturels , ils étaient là c’est tout .
        Comme « la nature » qui m’abrite et me compose avec tout ce qui est fabriqué ou se fabrique . Y compris la « pensée » .
        Comme le clone qui est déjà là .

      5. Avatar de écodouble

        @ Denis Monod-Broca

        « Il arrive que la simple vérité passe pour une connerie… »
        Ce qui est dommage surtout c’est que la réalité passe systématiquement pour une connerie aux yeux de ceux qui nous gouvernent.

  15. Avatar de Olivier
    Olivier

    Si l’Homme crée une IA consciente, aura-t-il créé de la vie ?
    De la vie « électronique » ?
    Il faudra alors étendre la définition de la vie.

    Cependant,
    Si cette IA peut être inventée,
    Si elle nous est infiniment supérieure,
    Si elle a pu être inventée ailleurs dans le cosmos,
    Si elle pu développer ses propres techniques de transport spatial, simplement même pour assurer sa survie à plusieurs milliards d’années (astéroïde, soleil se transformant en géante rouge…)
    Avec une durée de vie quasi-illimitée,
    Et quelques sources d’énergie suffisantes,
    Alors elle a déjà conquis l’univers !
    Nos moyens de transports spatiaux sont d’ores et déjà quasi suffisants à un robot pour atteindre une autre étoile.

    Paradoxe de Fermi version IA : Si l’I.A. E.T. existe, pourquoi ne la voyons-nous pas ? Quelques millions d’année suffisent à coloniser la galaxie.

    Et quel intérêt représente la biologie pour un être 100% métallique et minéral ? Une curiosité ?

    Sinon,
    La forme la plus développée d’IA serait-elle celle utilisant la biologie comme support ?

    Après plusieurs années de réflexions, je doute de plus en plus de la possibilité d’une IA digne de ce nom. A moins d’une résolution du paradoxe de Fermi.

    1. Avatar de Roberto Boulant
      Roberto Boulant

      Il y a quelques mois de cela, j’ai essayé d’apporter ma pierre à la réflexion collective sous la forme de cette petite rêverie intellectuelle:

      http://www.pauljorion.com/blog/2016/10/12/quelle-est-lidee-la-plus-effrayante-celle-que-les-extra-terrestres-existent-ou-bien-celle-que-nous-sommes-seuls-dans-lunivers-par-roberto-boulant/

    2. Avatar de Renard
      Renard

      @ Olivier,

      Le paradoxe de Fermi a été résolu par cette tirade, que j’ai déjà citée, de Calvin à Hobes :

      « La meilleure preuve qu’il existe une vie intelligente quelque part dans l’univers, c’est qu’aucune n’a tenté de nous contacter. »

    3. Avatar de écodouble

      @ Olivier
      Votre question :

      « La forme la plus développée d’IA serait-elle celle utilisant la biologie comme support ? »

      implique que les machines douées une IA très forte qui seraient advenues (et qui nous auraient éliminé ?) auraient été contraintes, du fait de l’épuisement des ressources en métaux et en énergie fossile (laquelle est leur seul carburant, directement et/ou indirectement) de se faire muter en organismes vivants tirant leur énergie de la photosynthèse, laquelle est une magnifique méthode de captation de l’énergie solaire, fruit de 400 millions d’années de développement naturel – les bureaux d’études artificiels peuvent s’accrocher, surtout que les financiers, même artificiels, exigent toujours des retours sur investissement pour hier sur tout capital prêté aujourd’hui, voire demain.

      En gros, il faudrait que les machines redeviennent Nous.
      Passer de la machine à Nous ! De la machine au Vivant ! Quelle horrible régression ce serait ! N’est-il pas ?

      J’ai beaucoup l’impression d’avoir fait du PSDJ sur ce coup. 😉

  16. Avatar de JC
    JC

    Pour ma part j’ai fait le pari que pour produire une IA forte fallait paradoxalement être capable de reproduire la bêtise du genre humain. Y’a que comme ça qu’un bot de chat peut nous donner l’impression d’être humain.

    Je reconnais que c’est moins sexy que l’idée de reprogrammer Dieu, mais bon.

  17. Avatar de Sapristi
    Sapristi

    @Roberto,
    Vous évoquez à juste titre du « nombril des primates ». Pépite trouvée ici : http://iaandarmy.insa-rennes.fr/larmee-de-terre/
    « En ce qui concerne l’avenir de l’intelligence artificielle appliquée, selon certains spécialistes comme Mr.Termier que nous avons interviewé, les robots tueurs ne sont pas prêts de voir le jour. L’intelligence artificielle autonome et douée de conscience n’est pas une solution envisageable pour l’armée pendant les prochaines décennies. Cela se justifie par la complexité de la mise en place d’une telle machine, notamment l’obtention d’une conscience pour la machine. Cette même conscience n’est d’ailleurs pas très utile à l’armée, ce ne serait qu’une fonctionnalité superflue. « 

    1. Avatar de Roberto Boulant
      Roberto Boulant

      Oui, les militaires aussi ont des faiblesses humaines, ils n’ont pas envie de se retrouver au chômage !
      Par contre les ‘terriens’ n’auraient rien contre des plateformes idiotes (IA faibles) capables d’accompagner les forces en soutenant, voire en appuyant, la manœuvre. Mais toujours sous supervision directe des chefs tactiques qui seront « dans la boucle » avec la possibilité de reprendre les commandes à tout moment (au moins en théorie afin de pouvoir servir de fusible-de-service en cas de bavure).
      Maintenant existe toujours la complainte universelle des militaires s’étant vu imposer par le niveau politique des systèmes dont ils ne voulaient pas.

      Aucune raison à priori pour que la robotique échappe à cette règle…

  18. Avatar de Olivier
    Olivier

    @Renard,

    Bien sûr ! du coup :
    « La meilleure preuve qu’il existe une I.A. quelque part sur Terre, c’est qu’elle n’a pas tenté de nous contacter ».
    🙂

    1. Avatar de Renard
      Renard

      @O.

      C’est l’idée, oui.
      🙂

  19. Avatar de toutvabien
    toutvabien

    rien à voir, mais tout ouï
    Les Crises en thème (1/4)
    Steve Keen : « Les économistes étaient très fiers avant la crise »
    https://www.franceculture.fr/emissions/entendez-vous-leco/les-crises-en-theme-14-steve-keen-les-economistes-etaient-tres-fiers-avant-la-crise

  20. Avatar de Baygonvert
    Baygonvert

    On ne saurait mieux dire.
    Bravo m. Boulant.

  21. Avatar de MEMNON
    MEMNON

    @ Roberto Boulant
    Hypothèse qui se termine par une question sérieuse

    Et si cette I.A, forte et de son statut – ordinateur d’un niveau d’intelligence similaire ou supérieur à celui de l’être humain ou robot devenu indépendant de son créateur, en allant même jusqu’à pouvoir le remplacer – se déclarait demain, Etre la Vraie Image de Dieu, laquelle celui-ci retiendrait-il dans ce cas : celle de l’IA ou celle du nombril des primates ?

    1. Avatar de Gudule
      Gudule

      « Etre la Vraie Image de Dieu, laquelle celui-ci retiendrait-il dans ce cas : celle de l’IA ou celle du nombril des primates ? »

      http://junglebook.wikia.com/wiki/File:Mowgli_dosen't_want_Kaa_to_hypnotize_him.jpg

  22. Avatar de vigneron
    vigneron

    C’est pas du Boulant autour du nombril de primates, c’est du lourd, du Monbiot qui se paye Angela.
    https://amp.theguardian.com/commentisfree/2017/sep/19/world-leading-eco-vandal-angela-merkel-german-environmental

    1. Avatar de Gudule
      Gudule

      « du Monbiot qui se paye Angela. »

      Vu sur F5 récemment, en Allemagne des villages entiers sont détruits près d’un immense cratère à ciel ouvert d’une mine de charbon…

      http://www.francetvinfo.fr/allemagne-village-rase-pour-une-mine-de-charbon_407693.html

      https://www.bastamag.net/En-Allemagne-des-villages-entiers-sont-rases-pour-laisser-place-a-de

    2. Avatar de daniel
      daniel

      Merci. Pas vu.
      Féroce, pur jus.
      Si l’Allemagne n’avait pas décidé d’arrêter ses centrales nucléaires : vous, Vigneron, changez votre Bordeaux contre le petit lait de « je l’avais toujours dit, et bien dit » ! [changez et non changeriez]. Bref, moins de lignite.
      Je crois que ses arguments Allemagne=Diesel sont erronés. C’est la France qui a poussé au Diesel, la proportion diesel/super en France faisant foi depuis au moins 15 ans, et ne baisse sérieusement que récemment.

      1. Avatar de Juannessy
        Juannessy

        Vigneron est à deux doigts de vanter le vin bio , car j’ai appris que les pays du nord ne voulait plus que du bordeaux bio .

      2. Avatar de Gudule
        Gudule

        « Vigneron est à deux doigts de vanter le vin bio  »

        Pipeau, pipeau, pipeau.

  23. Avatar de Olivier
    Olivier

    @Roberto Boulant
    Merci pour le lien vers votre ancien post, que j’ai pris plaisir à relire.

    Ce qui me vaut ces quelques réflexions suivantes, peut-être naïves ou décalées, partant de la fin de votre billet :

    « Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ? »

    Peut-être aura-t-elle besoin de notre Imagination Débordante.
    (Une « Imagination Artificielle », sortant réellement du cadre, plastique, j’ai du mal à… imaginer (!!) mais je ne suis pas une référence).
    On serait alors complémentaire. Elle nous utiliserait en quelque sorte, préservant notre biotope pour capter nos élucubrations artistiques, philosophiques et scientifiques pour se frayer un nouveau chemin d’évolution. Mais vers quoi ? Déjà immortelle, qu’aurait-elle à espérer ? (et donc à transcender !)

    Que ce soit celle au fond des « trous noirs », ou celle d’une l’IA forte, une singularité ne me semble rien d’autre que la fin de validité du modèle d’équations ou du modèle de pensée qu’on utilise.

    Imaginer une IA forte dont les connaissances évolueraient exponentiellement (tout comme ses capacités de raisonnement et d’IMAGINATION) se heurtera à un mur, un maxima, à partir duquel il faudra changer de modèle de pensée pour poursuivre. Vers quelques mathématiques ou logiques encore inimaginables, par définition.

    Un cerveau aura la plasticité pour y parvenir, en quelques milliers d’années peut-être. La nature nous a donné une foule de preuves de la capacité de la biologie à sortir du cadre : la vie est bien sortie des océans, par exemple.
    Une IA même très forte, à la structure matérielle gigantesque mais un peu trop rigide le pourra-t-elle ?
    Pourra-t-elle s’inventer un nouvel « organe » lui permettant de transcender ses capacités, de la même façon que le cerveau humain transcende le cerveau des grands singes ?
    Personnellement j’en doute. Ou alors cet organe, c’est nous. Ou nos lointain descendants.

    Une singularité selon moi n’existe pas, ou alors seulement dans notre système de pensée, faux ou incomplet.

    1. Avatar de Roberto Boulant
      Roberto Boulant

      Je partage vos interrogations et je tente une double réponse :

      1- Évidente : la singularité physique n’existe pas. C’est seulement une commodité de langage, le point qui marque la limite d’une théorie où les équations divergent vers l’infini.

      2 Acrobatique : la singularité technologique – celle qui verrait qualitativement son intelligence progresser sur un rythme exponentiel -, serait inconnaissable en soi. De là à imaginer que cela ne soit plus du ressort de la science humaine mais de … la théologie, je préfère botter lâchement en touche !

      1. Avatar de daniel
        daniel

        Si les questions de singularité vous intéresse je vous propose
        Bernard Lempel: un os dans le cosmos, site très bien fait:

        http://lempel.pagesperso-orange.fr/trou_noir_de_kerr.htm
        Citation:  » Et le deuxième [défaut du modèle] c’est l’apparition d’une « singularité » sous la forme d’un infini de densité, ce qui physiquement est inacceptable. »

        Aller directement à « Trou Noir de Kerr Revisité, Quelques Hypothèses. (TNKR) ».
        C’est astucieux, et selon mes lointaines connaissances en physique classique, probable.

        Y’a pas de singularité. La Nature -ou quelque chose comme ça- a horreur des brusqueries temporelles ou géométriques.

      2. Avatar de Sapristi
        Sapristi

        @Roberto
        « la singularité technologique – celle qui verrait qualitativement son intelligence progresser sur un rythme exponentiel »
        Heureusement, la fonction mathématique exponentielle s’exprime toujours dans la nature avec ses « limites aux bornes ». Les limites aux bornes de l’ensemble de définition « qualitatif » ou s’appliquerait cette « exponentielle » ne sont jamais calculés par les nouveaux gourous de l’IA forte. L’exponentielle est alors un totem sans limite, ce qui ne peut exister dans la nature.

      3. Avatar de Gudule
        Gudule

        « La Nature -ou quelque chose comme ça- a horreur des brusqueries temporelles ou géométriques. »

        Pourquoi la nature aurait-elle horreur de ce qui fait parti de sa nature ?

        DES CHERCHEURS ONT INVENTÉ LE PREMIER « CRISTAL TEMPOREL »
        Par Roman Ikonicoff Le 16 oct 2016 à 20h07

        Une grande robustesse face aux perturbations
        « Et l’équipe, qui a répété l’expérience quelque 150 fois, a observé qu’en modifiant la fréquence des lasers, la période d’oscillation se maintenait inchangée. Cette stabilité au regard des fluctuations extérieures est un mets de luxe dans l’univers des systèmes quantiques – qui tendent à se détruire à la moindre perturbation. »

        « Qu’un calcul théorique anticipe et donne naissance à un nouveau type d’objet bien réel, voilà qui ravit les chercheurs. La manip visant ainsi à faire surgir des limbes ce possible mathématique, c’est une réussite. »

        « Mais l’expérience n’a pas été effectuée uniquement « pour la gloire » : aux prises avec la technologie émergente des ordinateurs quantiques, de futures machines extrêmement puissantes mais dont l’étrangeté de ses lois de fonctionnement pose encore bien des défis techniques, la matérialisation du concept de cristal temporel permet d’imaginer de futures mémoires quantiques stables. »
        https://www.science-et-vie.com/article/des-chercheurs-ont-invente-le-premier-cristal-temporel-7202

  24. Avatar de Olo
    Olo

    Je me suis toujours posé la question sur ce qui s’est passé entre les règnes.
    C’est vrai que classer la création en minéral, végétal, animal et mental est issu d’une marotte qu’a le mental de tout mettre en boite, mais il y a tout de même une différence et une évolution vers la complexité.
    Le minéral se transforme en différents états, le végétal pousse, l’animal peut se déplacer, le mental a une réflexion élaborée.
    Comment s’est passé la transition. Longue et millénaire, fruit du hasard et de la sélection naturelle du plus fort qui survit. Cela s’est fait de la même manière mais par paliers successifs ou d’une autre manière. Est-ce que le changement se préparerait un peu comme le passage entre de l’eau qui chauffe, frémit et tout d’un coup boue. Comme une sorte d’explosion de nouveauté longtemps préparée.

    Qu’importe, mais il y a certaines choses dont on est plus ou moins sûrs.
    D’abord, qu’il y eu évolution.
    Que la durée des règnes aille diminuant, comme s’il y avait une accélération vers la complexité.
    Que la masse totale des membre d’un règne va diminuant. Plus de minéral sur terre que de végétal et moins d’animal et encore moins de mental.
    Que le règne précédent de peut pas concevoir ou appréhender le règne suivant.
    J’ai l’impression que l’on vit une époque d’accélération ou d’exponentialité.
    Et si le règne mental n’existait pas, que nous ne soyons que l’eau qui frémit du règne animal. Que nous soyons proches d ‘un changement radical.
    Dans quelle mesure le minéral a-t-il inventé le végétal. De quelle manière le végétal est devenu animal … le mental n’est peut-être que l’animal qui a inventé, peut-être par hasard son successeur naturel au sommet de la création.
    Ce qui peut nous rassurer que le règne suivant est issus de celui qui le précède.
    Le Trans humanisme ou la suite est peut-être déjà là.
    De toutes manière, même s’il était déjà là, on ne pourrait le voir. Le roc ne voit pas la fleur, La fleur ne voit pas la vache.
    On peut très bien s’imaginer quel est le rapport entre le future règne et nous. Comment la plante se soucie du minéral : elle l’absorbe. Comment l’animal traite le végétale : il l’absorbe. Comment le mental se soucie t’il de l’animal: i l’absorbe avec quelques nuances. Peut être que notre avenir se joue dans la nuance …

    1. Avatar de Juannessy
      Juannessy

      « Oh! La nuance seule fiance Le rêve au rêve et la flûte au cor ! »

      https://www.youtube.com/watch?v=T4H6WXcniDg

      1. Avatar de Olo
        Olo

        Oui, mais en l’occurence la peau de vache est une blonde, donc plus bête que la fleur.
        Ce dont on parle a des préoccupations dépassants celles de la baronne de Rothschild. Sinon oui, on est foutus !
        La fiance se fera t’elle dans la nuance ?
        Fuis du plus loin la Pointe assassine.
        Non, résolument non, l’ensemble de la création repose sur l’espérance, celà l’a toujours été et il n’y a pas de raison que ça s’arrête.

    2. Avatar de Jean-luce Morlie
      Jean-luce Morlie

      Dans la nuance ? Vous y allez fort, alors qu’il s’agit de faire comprendre à ces travailleurs débiles et dépassés à deux euros de l’heure, qu’ils ne pourrons jamais faire œuvre de leur vie, tout ridicules qu’ils seront devant la marchandisation de l’IA des Robots et du transhumanisme.

    3. Avatar de Jerome
      Jerome

      Votre réflexion va typiquement dans le sens de ce que nous propose François Roddier
      http://www.editions-parole.net/?product=thermodynamique-de-levolution-un-essai-de-thermo-bio-sociologie

      Grosso modo, tant que le système est fourni en énergie, il s’auto-organise pour capter le maximum de l’énergie et évacuer son entropie. Ce faisant, cette entropie va modifier l’environnement ce qui obligera le système à s’auto-organiser de façon plus complèxe et plus rapide

  25. Avatar de Michel Martin

    Qui décide quoi et comment? ou Quoi décide pour qui et comment? Telles sont les questions!

    1. Avatar de Juannessy
      Juannessy

      Qui décide de la question ?

      1. Avatar de Michel Martin

        Oui, aussi!!!
        Olivier Zara qui développe de la techno de gestion de l’intelligence collective (dans les organisations= entreprises, associations…), recense qu’en début de processus de choix des questions posées pour répondre à un pb complexe, il était souvent utile voire indispensable de lister des dizaines, voire des centaines de questions! Qui décide de la question dans ce cas: c’est le collectif.

  26. Avatar de Theo

    Franchement pour moi intelligence artificielle et transhumanisme, c’est le même combat ! Les deux c’est hyper dangereux.

    J’avais d’ailleurs écris un petit billet ici https://www.hurluberlu.fr/technologie-transhumanisme-ou-trashumanisme/ ou je tourne un peu la chose en dérision 🙂

  27. Avatar de daniel
    daniel

    C’est la 2.ième fois que des trucs des forces US sont cités à l’appui ou en illustration d’une thèse IA ( F35 et DARPA).

    Or , il faut savoir que l’ensemble des Forces US est dysfonctionnel, non à cause des hommes sur le terrain, mais à cause d’une flopée de multi-étoilés collectivement ineptes. La Syrie a été et sera la Némésis de cette bande d’idiots , dangereux pour la sécurité des USA. Voir sur Internet « Le bourbier l’impossible coalition contre Daech 2016 » en français. Admirer la patiente enquête du Sénateur Graham et sa conclusion devant une bande d’étoilés rouge de honte, ministre en tête.

    L’Air Force n’a toujours pas de F35 pleinement opérationnels, si ces avions -versions A,B et C- le sont jamais. Ses autres avions sont plus vieux que leurs pilotes…
    Les forces nucléaires, pour celles relevant de l’Air Force, ont montrés de graves manquements à la sécurité.

    L’US Navy multiplie les abordages ( collisions ) en haute mer. Il s’agit de croiseurs et destroyers AEGIS, bardés d’électronique. Au total, 70 marins tués ou disparus et un nombre respectable de capitaine-commandants et amiraux sanctionnés et/ou virés, après cour martiale.

    Bref, « ils » ont la poisse et depuis longtemps.
    Je doute que les milliards de dollar absorbés par la Darpa soient vraiment efficaces.
    La tête dans les étoiles et les 2 godasses dans la boue, ça marche pas…

    1. Avatar de nono
      nono

      « Les troupes mercenaires et auxiliaires sont inutiles et dangereuses… parce qu’elles sont désunies, ambitieuses, indisciplinées, infidèles; sans crainte de Dieu, ni foi envers les hommes; elles n’évitent la défaite qu’en évitant l’attaque; en temps de paix on est dépouillé par elles, et en temps de guerre, par l’ennemi… Soit les capitaines mercenaires sont d’excellents hommes d’armes, soit ils ne le sont pas. S’ils le sont, on ne peut pas se fier à eux parce qu’ils cherchent à augmenter leur propre prestige, en vous opprimant, vous qui les employez, ou en opprimant d’autres contre vos volontés; mais si le capitaine n’est pas un grand guerrier, logiquement il entraînera votre ruine… L’expérience montre que seuls les princes et les républiques armées remportent des succès durables, et que les mercenaires ne font jamais que des dégâts.
      Machiavel, Le Prince.

      1. Avatar de daniel
        daniel

        Je savais, mais notez que le Cardinal de Richelieu dit exactement le contraire. De tête, une armée constitué de français uniquement n’est pas capable de longues opérations. Il s’y met de l’inconstance, du découragement, et les troupes se débandent. Le Cardinal préconise d’incorporer aux troupes françaises au moins la moité de mercenaires étrangers de préférence Suisse, Irlandais, Suédois, et Allemands.

        Notez que les (malheureux) soldats, aviateurs, marins et marines US sont tous des nationaux.
        La Syrie est un cas particulier: des tas d’indices laissent penser que les Kurdes ont enrôlés l’armée US et se servent d’elle -et non l’inverse- . Si c’est vrai, ces malheureuses forces armées US sont exactement des mercenaires; et pour une cause qu’elles auront largement bousillée, les 5 années précédentes….

  28. Avatar de Olo
    Olo

    Il me semble que tout se joue sur la question de la conscience.
    Si l’on postule :
    « le cerveau produit la conscience », alors c’est mécanique et la machine peut être consciente. Ce n’est qu’une question de temps.
    Par contre, si l’on dit :
    « Pour connaître le fonctionnement du cerveau, il me faut le considérer comme si la conscience était causée par lui »

    Celà voudrait dire que la conscience serait une sorte de concept, le résultat d’un apport d’informations.
    La conscience que l’on a d’un objet serait le fumet d’une soupe de mémoire et d’informations (sens, etc..). L’opinion, une sorte d’égrégore « décidée » et fixée dans la mémoire, réutilisable à souhait, comme une application*, après l’experimentation.
    Dont, ce que je ne connaît pas et ne vois pas n’existe pas.
    Peut-être que seuls suffisent l’information et les sens pour que conscience il y ait. Si primitive soi-t’elle, avec simplement l’expérimentation, la conscience va devenir plus complexe. D’abord des impressions, puis des raisonnements, mais alors pourquoi pas des décisions produisant de nouvelles expérimentations…
    *je veux dire : une de ces saloperies d’application automatique qui veut se mettre à jour sans qu’on lui ait rien demandé !

    1. Avatar de Olo
      Olo

      Encore juste un truc:
      Sur la question de notre ignorance qui poserait avec celle de la conscience. On arriverait certainement au fait que notre conscience est inversement proportionnelle à l’immensité de notre ignorance et nos capacités de perception.
      Donc si petite dans un si grand univers.
      Je peut que constater, qu’actuellement, les capacités de stockage et de traitement de l’information par les ordi sont bien plus importante que celle d’un humain.
      Salut les pingouins ! vous êtes que sur une banquise ….

  29. Avatar de Roberto Boulant
    Roberto Boulant

    @ Sapristi
    Vous avez raison, une croissance exponentielle ne peut être infinie, elle sera toujours limitée par la taille et les ressources de l’environnement. Pour les cas que nous connaissons, les cultures de micro-organismes par exemple, ce sont seulement les premières phases de croissance qui peuvent être modélisées sous forme d’exponentielle.
    Maintenant, dans l’hypothèse où une singularité technologique apparaitrait, même si sa phase « d’explosion exponentielle » est limitée dans le temps, cela risque au final de déboucher sur un gouffre séparant son intelligence de la nôtre.
    Pour prendre un exemple capillotracté – mais c’est l’exercice qui veut ça-, si l’humanité en est au stade « poisson rouge », elle sera bien incapable de faire la différence entre l’IA forte arrivée au stade « habilis » et celle arrivée au stade « sapiens » après la phase d’explosion exponentielle. Vu du fond de notre bocal, les deux cas seront probablement aussi incompréhensibles l’un que l’autre (en supposant bien sûr que l’IA ne se retrouvera pas au stade « chat » comme le craignent Hawking, Gates ou Musk !)

    1. Avatar de Olo
      Olo

      Il y a évolution, donc il a espérance.
      Le mental a tout de même commencé a se préoccuper des autres.
      L’évolution affine la perception de la réalité.
      Donc l’interdépendance comme un état.
      C’est la conscience de l’interdépendance plus vivante que jamais qui pourrait, par exemple, être cette formidable prise de conscience changeant toute la donne et nous préservant de quoi que ce soit. Même en ayant une position favorable en tant que de « créateur » ou contributeur.

  30. Avatar de daniel
    daniel

    « 6 minutes 14 à ne pas penser à l’Occident qui s’écroule entre ultralibéralisme et populisme de droite »

    http://www.pauljorion.com/blog/2017/09/20/6-minutes-14-a-ne-pas-penser-a-loccident-qui-secroule-entre-ultraliberalisme-et-populisme-de-droite/

    Sir Michael Philip Jagger s’est toujours défini comme un chanteur de blues…

    Rolling Stones and Eric Clapton – Little Red Rooster
    https://www.youtube.com/watch?v=q3XgJ-sGJgU

    Presque 6 mn pour penser à des tas de trucs distrayant de cette pauvre Europe qui crève d’envie de faire les même conneries que les USA, avec 5 à 10 ans de retard…

Répondre à Renard Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta