Mark O’Connell, To Be a Machine (VII) L’esprit en tant que logiciel

Ouvert aux commentaires. Je crois savoir – pour en avoir écrit et produit – ce qu’est un logiciel. Sur la partie quincaillerie d’un ordinateur je sais très peu. Si j’ai commis ici des erreurs, soyez gentil(le) de me le signaler, je corrigerai.

Je vais terminer ce compte-rendu détaillé du livre de Mark O’Connell, To Be a Machine (2017) et dont j’ai dit tout le bien que j’en pensais en mentionnant une erreur qu’il commet, due me semble-t-il au manque de familiarité – très excusable pour un spécialiste de la littérature anglaise – avec l’informatique.

Pour les six premières parties de mon compte-rendu, cliquer ici.

O’Connell écrit ainsi à propos de « la représentation techno-dualiste de nous-mêmes, comme un logiciel tournant sur la quincaillerie (hardware) de nos corps » (63), que « réside en elle un étrange paradoxe […] : son origine est dans un matérialisme absolu, dans une interprétation de l’esprit comme une propriété émergente de l’interaction entre des objets de nature physique, et cependant elle se manifeste comme la conviction que l’esprit et la matière sont séparés, ou séparables. Ce qui revient à dire que cela se manifeste comme une forme de dualisme, voire même une sorte de mysticisme » (64).

Il écrit ailleurs : « … [la métaphore de] l’esprit comme un logiciel, une application tournant sur un support fait de chair » (49).

Or si l’on suit O’Connell dans son raisonnement, il faut voir de la même manière dans le fait de distinguer dans un ordinateur, la « bécane » proprement dite des applications qui tournent sur elle, une forme de dualisme, voire même une sorte de mysticisme, ce qui est absolument injustifiable, les deux existant exactement au même titre : hardware et software, et constater leur existence ainsi que le fait que l’un est le support matériel de l’autre, ne suppose pas, comme chacun peut les constater à tout instant, ni un acte de foi, ni une prédisposition au mysticisme.

Ce que O’Connell ne saisit pas, c’est le point d’articulation entre « bécane » et « logiciel », plus que probablement faute de connaître le mécanisme qui assure leur communication dans un ordinateur, le point d’articulation entre les deux étant un ensemble d’instructions en « langage-machine », traduction sous la forme binaire d’une suite de 1 ou de 0 de ce que le programmeur veut voir effectuer par la machine (ouvrir un traitement de texte, par exemple, prêt à répondre aux entrées de l’utilisateur). La machine – et plus précisément son CPU (Central Processing Unit), unité centrale de traitement – lira cette suite de 1 et de 0 et enverra dans ses circuits des impulsions électriques de deux niveaux de charge distincts correspondant à ce 1 ou ce 0, ce qui se manifestera à l’utilisateur (sauf erreur ou « bogue » de la part du programmeur ou de la programmeuse) par un comportement de la machine en accord avec celui qui était espéré.

O’Connell trahit sa mécompréhension quand il manifeste son scepticisme à l’égard d’un rapport intitulé : « Whole Brain Emulation : A Roadmap », ce qui signifie : « reproduction globale du cerveau : une feuille de route », dont les auteurs fameux dans les milieux du transhumanisme sont Anders Sandberg et Nick Bostrom, rapport où l’on peut lire qu’« il n’est pas nécessaire de comprendre tout un système pour le reproduire [sous forme numérique] : il suffit d’une base de données contenant toute l’information pertinente relative au cerveau en question, et des facteurs dynamiques déterminant ses changements d’état d’instant en instant » (51).

Mais c’est là que réside l’écueil : si « l’information pertinente relative au cerveau » ne pose pas de problème particulier – du moins au niveau conceptuel – ce qu’ils appellent les « facteurs dynamiques déterminant ses changements d’état d’instant en instant » est beaucoup plus problématique.

Encore faudrait-il bien entendu que le cerveau contienne toute l’information dont on ait besoin, ce qui n’est pas certain vu qu’une part considérable des neurones présents dans notre corps se trouvent ailleurs que dans le cerveau (il n’est pas certain par exemple que les neurones se trouvant dans le corps ailleurs que dans le cerveau n’encryptent pas une part de mémoire considérable de ce que nous appelons notre « esprit »). Les cryogénistes qui congèlent la tête de morts-dignes-d’être-ressuscités pourraient connaître de terribles déconvenues sur ce plan-là.

Quant aux « facteurs dynamiques déterminant ses changements d’état d’instant en instant », ils pourraient bien être en nombre tout à fait considérable et il est fort possible que nous ne sachions pas pour de nombreuses années encore ni ce qu’ils sont exactement, ni quelles sont les interactions entre eux.

Quoi qu’il en soit, lisez To Be a Machine de Mark O’Connell, vous ne regretterez pas le voyage : on y parle de nous sous les deux formes sympathiques de la poussière d’étoiles et du savant fou.

FIN

Partager :

38 réponses à “Mark O’Connell, To Be a Machine (VII) L’esprit en tant que logiciel”

  1. Avatar de Juannessy
    Juannessy

    Je sens que Clo Clo ne choisira ni la poussière , ni le savant fou .

    Je ne sais pas ce que ça vaut ,mais , en vous lisant , il m’est venu à ….l’idée , que le passage du 0 au 1 ,le zéro OU le un , c’est ce que pourrait écrire un Shakespeare informaticien peut être fou aujourd’hui pour traduire la même interrogation « dynamique » que le Shakespeare original .

  2. Avatar de Juannessy
    Juannessy

    Finalement , si l’on assimile facteurs dynamiques à « souffle » , soit le sens originel » d’esprit  » , les transhumanistes rentrent dans le rang et rendent à l’esprit , au moins l’esprit humain, sa grandeur , et le spiritualisme peut à nouveau contester le matérialisme .

    On notera que l’esprit si l’on veut le mettre en concurrence de la matière , resterait cependant selon d’autres « la dupe du cœur » .Reste plus qu’à « trouver » le cœur .

     » Le corps enferme l’esprit dans une forteresse ; bientôt la forteresse est assiégée de toutes parts et il faut à la fin que l’esprit se rende « .

  3. Avatar de RenaudL
    RenaudL

    De quelle machine est-il question ? Système asservi ou PC ? Le périmètre n’est pas le même.
    Il faudrait également se pencher sur la notion de mémoire, RAM, ROM, Masse, court terme-long terme, comparer…Beaucoup d’actions de la « machine » humaine ne sont pas conscientes.

  4. Avatar de JC
    JC

    Je suis pas un bout de logiciel qui tourne sur un bout de hardware.

    Je peux faire une distinction entre mon esprit et mon corps pour me représenter le système « individu » mais ça ne signifie pas que les deux soient sépérables.

    Donc il a tout à fait raison quand il pointe une forme de mysticisme. C’est d’ailleurs le truc le plus fascinant du champs du transhumanisme, ils ont accordé la toute puissance de Dieu à la science. On est en plein dans la science sans conscience qui ruine l’âme. Autant dire dans le délire scientiste pur et simple.
    D’ailleurs, et ça c’est le plus rigolo, le concept d’IA forte pour de nombreux transhumaniste ça revient à penser un Dieu silliconé. Comme ils sont athés pour la majorité, ça a quelque chose de piquant. Et ça confirme un peu l’idée que tout le monde croit en Dieu. Même si certains le dénient et se revendiquent athé, se retrouvant donc à croire en un Dieu dont ils ignorent jusqu’à l’existence.

    Sinon pour penser une IA forte faut être capable de simuler l’influence de l’affect sur le traitement de l’information, donc être en mesure de reproduire nos biais cognitifs. Pour ça faut doter l’IA d’une capacité à se représenter elle même. Faut donner à l’IA la possibilité de se calculer un état d’esprit. A partir de là l’IA peut calculer l’état d’esprit des tiers qu’elle rencontre et donc envisager de se positionner par rapport à ces tiers. Face à une machine pareille on se retrouve pas d’égal à égal mais d’égo à égo. Et c’est parce que l’IA se retrouve doté d’un égo à défendre qu’elle se met à être aussi déconnante que n’importe quel autre humain sur la terre.

    Reste qu’au bout du chemin ca sera une coquille vide, tout juste capable de simuler l’effet de l’affect sur le traitement de l’information. Et si l’inidivu qui interragit avec la machine pourra éprouver la sensation que y’a un autre de caché dans l’IA, dans les faits ce sera jamais qu’une suite de 1 et de 0 qui joue à l’être humain.

    Le bon côté de l’affaire c’est que notre égo en prendra un bon coup, quand l’homme aura repertorié, décortiqué et réarticulé ses biais cognitifs il arrêtera de se prendre pour la huitième merveille du monde et commencera à penser ses propres limites. Ce qui lui donnera l’occasion de devenir enfin libre.

    A noter que le scientisme qu’on trouve à l’heure dans le champs du transhumanisme c’est le même qui irrigue l’économie. Ce qu’on appelle, à tort d’ailleurs je crois, néolibéralisme dans le fond c’est ça. Un scientisme généralisé qui nous conduit à une forme d’objectivité fallacieuse qui serait soutenue par le Dieu mathématique.

    Heureusement ce vilain délire se casse, il suffit de relire Hayek avec Hayek pour produire une singularité idéologique. C’est comme ça qu’on ouvre la troisième voie sur laquelle Macron prétend marcher, donc théoriquement si j’arrive à produire les preuves de toutes mes âneries d’ici la fin de sa mandature on doit pouvoir faire un ramake de « The Big Short ». Mais bon j’ai pas encore trouvé mon Brad Pitt.

    1. Avatar de Juannessy
      Juannessy

      On ne demandera pas à JC de se revendiquer athée .

      J’attends que Vigneron décrypte votre dernier paragraphe avec son propre logiciel .

      Pour moi Macron marche surtout sur un malentendu consenti par les électeurs , faute de mieux .

      1. Avatar de Otromeros
        Otromeros

        … »Pour moi Macron marche surtout sur un malentendu consenti par les électeurs , faute de mieux . »

        Un utile rappel… les VRAIS votes pro-politique annoncée-Macron sont UNIQUEMENT repérables aux résultats du PREMIER tour de l’élection présidentielle (rappel de l’énorme biais du second tour avec présence FN à écarter absolument).
        Soit donc 24% des VOTANTS soit , abstention-blancs-nuls obligent , de l’ordre de 15% du réel complet corps électoral</b … !
        Alors , le "consentement des électeurs"……

      2. Avatar de Juannessy
        Juannessy

        Que devra -t-on dire et penser de celle et ceux qui n’ont pas su empêcher cela ?!!!…

        « Ils » ont aussi consenti à ce que « les autres » soient éliminés , car incapables de leur faire comprendre et partager une alternative qui les éblouissent , un peu comme Jospin est resté sur le carreau « parce qu’on ne comprenait pas où il voulait mener les français ».

        Partie remise peut être , mais il va falloir adapter les discours et les arguments pour emporter l’adhésion majoritaire .

        Ça s’appelle un régime démocratique , même si ça n’est pas toute la démocratie .

  5. Avatar de Laurent
    Laurent

    Les créateurs d’un « langage machine » le font-ils en conscience ?

    1. Avatar de Juannessy
      Juannessy

      Ça doit revenir à se demander si langage machine est une création de langage humain , et sur le sens de  » langage » ( sans parler de « langue maternelle » !)

      http://lewebpedagogique.com/terminale-philo/2012/05/sans-le-langage-pourrais-je-prendre-conscience-de-moi/

  6. Avatar de CloClo
    CloClo

    Sacré Juan toujours en mode MS DOS 32 !

    Moi je démarre chaque matin en mode Sans Echec, et ça dure toute la journée.

    Ce que je pense en revanche, c’est que cette histoire d’IA n’a et n’aura jamais rien à voir avec la « conscience » ou « l’intelligence » dans le monde animal qui fluctue au gré de la pression sélective exercée par le milieu sur le vivant depuis le début et des erreurs/modifications de code génétique de transmission en transmission entre individus. Ces foutus boulons seront toujours de foutus boulon, malgré leur rapidité de calcul et capacité de stockage. Ils sont destinés à disparaître avec nous.
    Alors que la « conscience de soi » embarqué dans le vivant ma foi, tant qu’y en aura sur terre assemblé avec de la bonne GATC, les possibilités sont inimaginables et aléatoires.

    Bien le bonjour chez vous.

    1. Avatar de CloClo
      CloClo

      Ah oui au fait pour ceux qui s’extasient devant Deep Blue qui a pilonné Lee Sedol au jeu de Go.

      Lors de sa défaite :

      « « C’est moi, Lee Sedol, qui ai perdu, mais pas l’humanité », a-t-il déclaré.

      De son côté, le fondateur de Deep Mind, qui a conçu le logiciel AlphaGo, a salué la performance du joueur professionnel. « AlphaGo peut calculer des dizaines de milliers de positions par seconde, mais ce qui est incroyable, c’est que Lee Sedol ait été capable de rivaliser contre ça avec le pouvoir de son cerveau et de son ingéniosité et de pousser AlphaGo dans ses retranchements », a appuyé Demis Hassabis. »

      Ensuite Lee Sedol, est rentré avec sa voiture, au milieu de la circulation surchargée. En arrivant, il a embrassé son épouse et lui a offert des fleurs, lui procurant par dessus un sourire amoureux. Après le repas qu’il a préparé, il a fait les devoirs avec sa fille en lui apprenant à résoudre l’air d’un carré. Plus tard, il a échangé sur le net avec quelques amis sur un texte philosophique ancien en mettant en évidence une certaine capacité à produire des sophismes chez l’auteur. Enfin, il a sorti son chien pour lui faire prendre l’air, en le caressant, il s’est aperçu qu’il avait une tique. En revenant, il a rit quelques instants en plaisantant avec son voisin. Avant de s’endormir, il s’est dit qu’il faudrait voter pour un candidat plus humain que celui en tête des sondages trop libéral libertaire transhumaniste.

      Pendant ce temps la Deep Blue était en veille.

      1. Avatar de 2Casa
        2Casa

        L55-6_DO12 venait à peine d’achever le transfert de sa mémoire vive dans ses prothèses d’origine en provenance de ses prothèses blindées en Tripalium 99 du site de fouille archéologique de 6-UKU-6Ma, sur fibre optique d’un diamètre qu’il jugea insuffisant, qu’il activa ses neuro-senseurs et ceux de son vieux modèle ancillaire patché fonctions sex-game, tout en veillant à la bonne lubrification des nano-engrenages internes de celui-ci par stimulation des proéminences labiales et lui offrit un bidon du tout nouveau Rustall-22 destiné à rénover son revêtement externe corrodé par l’atmosphère chargée de particules radioactives tout en se réjouissant du coup de jeune que cela allait lui offrir.

        Après avoir rechargé leurs batteries dont la longévité laissait désormais à désirer, il poursuivit la programmation du nouveau modèle L55-7_DO12 qui serait, à n’en pas douter, son plus grand chef-d’œuvre avant qu’il ne rejoigne les bacs de recyclage.

        Lors de la fusion nocturne sur l’intranet planétaire de Terra-Sol III afin d’assurer la mise-à-jour quotidienne de la série L55-6, il mit en évidence un défaut de la génération ClO-2 consistant à produire des lignes de code défectueuses et un bug mémoire rédhibitoire consistant à perdre les màj de plus d’un cycle solaire.

        Enfin, il testa les capacités du quadripode VI-GNe-2piR à vidanger de manière autonome son bac à graisse, tout en laissant l’atmosphère sulfurée polir son revêtement chromé, notant au passage un bug occasionnant une forte dissipation d’énergie.

        En rentrant il produisit quelques lignes de codes absurdes avec L55-6_DO13, son successeur immédiat sur la chaîne d’assemblage, comme lorsque leur core-logiciel n’avait pas encore été entièrement programmé.

        Avant de se mettre en veille et de préserver les 24 cellules de sa batterie lithium retardant ainsi le grand recyclage de ses éléments, il se dit qu’il faudrait coopter un nouveau logiciel de planification de la production robotique que celui qu’avait en vue ses homologues des autres séries de lignes d’assemblage, celui-ci ayant tendance à perdre de vue les 3 règles fondamentales de la robotique.

        Pendant ce temps-là, l’humanité avait été oubliée depuis longtemps, immolée dans un grand feu de joie nucléaire et le site de VA-2N_519 rasé par la fusion du cœur de la centrale de Brennilis n’avait encore pas livré tous les secrets contenus dans des disques durs tellement anciens qu’on ne parvenait pas à les décoder !

        On avait toutefois pu identifier une ligne de code dont la signification restait pourtant mystérieuse :

        23AsA@Clo2-21h48_ if no response_ or_ joke-and/or-acte_de_foi – then-gameover = 🙂 – endoftransmission

      2. Avatar de CloClo
        CloClo

        2Casa,

        A quoi attends-tu une réponse ?

      3. Avatar de 2Casa
        2Casa

        Salut Cloclo,

        C’est vrai qu’au bout d’un moment ça devient difficile de suivre les réponses aux réponses…

        Alors 1/ http://www.pauljorion.com/blog/2017/07/27/mark-oconnell-to-be-a-machine-vi-la-singularite-est-elle-pour-demain/#comment-622369

        et 2/ http://www.pauljorion.com/blog/2017/07/27/mark-oconnell-to-be-a-machine-vi-la-singularite-est-elle-pour-demain/#comment-622381

        Celui-là est parti se coller chais pas où dans la file…

        Merci de votre suivi.

      4. Avatar de CloClo
        CloClo

        2Casa,

        Tu persistes à vouloir n’y voir que du feu comme tu dis. Un système IA avec une puissance de calcul pourrait très bien reconstruire entièrement un univers à mes yeux et le simuler, que rien n’y changerait, je serai le seul conscient de cela dans cette illusion, pas le système qui produit cette « réalité » alternative.

        Je sais pas moi, c’est quoi le truc que tu ne captes pas dans cette évidence ?

        Il n’y aura jamais de singularité dans une bécane du type « conscience de soi » observée ou vécue par toi et moi, tu peux lui coller tous les processeurs au derche que tu veux, ça restera une suite de simulation.

        Maintenant, faudrait franchement déjà bien définir ce qu’on entends par « intelligence » « artificielle » « conscience » etc etc. Sinon c’est casse gueule se genre d’échange. Les échanges avec le milieu sont tellement vastes et nombreux pour le cerveau (le système neuronal) ainsi que les boucles de rétroaction sur ce dernier, qui influe sur son modelage, sa plasticité qui joue in fine sur cet aspect de « conscience » que je doute de voir émerger cela sur un support machine…

        Comment filer une dose d’Alcool, de drogue, de rêves, de privation de sommeil, d’émotions, un coup de gégène, à une puce électronique pour in vivo modifier son état ?

      5. Avatar de 2Casa
        2Casa

        Si c’est uniquement sur le rapport « à toi » que ça coince, imagine-le dans un rapport à « lui-même », ma formulation était sans doute maladroite.

        Les drogues etc, en tant que modification de l’état de conscience, justement, n’ont jamais modifié que ton rapport à toi-même et ta façon de te rapporter au monde.

        Il me semble que dans ton avant dernier paragraphe tu commences à toucher le problème (et à douter du coup). D’où ma question : as-tu lu l’article de Jorion ? Et ma tentative piteuse de résumé n’est que cela.

        Il est probable que Jorion t’assigne à cette illusion dont on se berce sur ce qu’est véritablement cette « conscience de soi » et dont on fait si grand cas. La preuve en est qu’on a même du mal à en parler autrement que dans les termes qu’on emploie de manière spontanée pour le faire (mes propres hésitations quant à ton commentaire et la nécessité d’une re-re-re-lecture pour assurer la… « conversion du regard » !) sans compter sur la nécessité subjective de nous défendre dans le dernier bastion qui est le nôtre : cette « conscience de soi ».

        Son seul mérite m’apparaît comme étant « d’origine biologique » et… de source inconnue ? (Les mystères de Juan, notre non-savoir absolu, ma petite fantaisie sur l’oubli du programmeur initial, la complexité par un facteur temps suffisamment long, que sais-je ?!)

        Sinon, sur ton dernier paragraphe, que saura-t-on d’une injection de… je sais pas, moi, n’importe quel produit à même de perturber des circuits intégrés avant de l’observer ou qu’il en cause ? Tente le coup avec une bonne grosse surtension tu vas voir la gueule du machin jusqu’à l’infarctus ou l’AVC, les émotions je l’ai déjà dit me paraissent un mauvais exemple et sur le rêve : do androïds dream of electric sheeps 😉 ? En dehors des phénomènes physiques observables il nous faudra son discours dessus et un psychanalyste.

        Anyway, c’est pas moi le spécialiste et avant de me prendre les pieds dans le tapis, je vais sans doute me relire l’article.

        En tout cas merci de m’avoir permis d’avancer…un peu !

      6. Avatar de 2Casa
        2Casa

        Salut Cloclo,

        Finalement, s’appliquer ses propres conseils n’est pas complètement inutile !

        Elle y est la définition dans le texte de Jorion, en trois points. Je note au passage que ces trois points étaient évoqués, même en ordre dispersé et de manière intuitive (de l’ordre du résumé inconscient ?) jusque dans ma petite histoire : « noter », « juger », « se dire », « se réjouir » et de l’ordre de « la mise en oeuvre ».

        L’IA, il faut qu’elle note – que cela apparaisse dans le « regard de la conscience » – for whatever it is – qu’elle se le dise et s’en réjouisse – des mots avec une dynamique d’affect – et que cela provoque une action – qui peut être un discours s’adressant à elle-même, à toi ou des actes posés dans le monde.

        La définition de Jorion :

        1/ Il faudrait que les actions du robot s’affiche dans un regard (« l’équivalent d’une conscience ou des percepts viennent s’afficher en temps réel »)
        2/ qu’elles génèrent à partir de là des associations de type linguistique et que celles-ci produisent une combinaison de signaux qui, lorsqu’un seuil est atteint déclenche (« l’équivalent d’une conscience qui génère un discours sur ce qu’elle perçoit du monde et du comportement du corps auquel elle est attachée »)
        3/ une action conduisant à la relaxation provisoire du système. (« l’équivalent d’une conscience qui génère des instructions à partir de l’affect associé aux mots du discours qu’elle produit »)

        Et pof ! Voilà les éléments de la « conscience de soi » que tu ne juges pas à même de survenir. Est-ce que jusque là on est d’accord ? Peut-être que la dissension vient que tu n’es pas prêt à accepter l’importance du mot « équivalent » et que pour toi y’a pas d’équivalent, justement. C’est bio et c’est ça ou ce n’est pas une « conscience de soi » ?

        Reste le platform-independantly évoqué par Jorion que je situe pas trop. Est-ce à dire que c’est valable sur n’importe quel support ? Ou que cela peut se produire spontanément sans que cela ait été implémenté directement à partir du moment où les différents éléments sont présents ? D’où le « miracle » ?

        Partant de là, je crois qu’on peut avancer dans la discussion ! 🙂

    2. Avatar de Antoine
      Antoine

      Pour ma part, la conscience est étroitement liée à l’appréhension de l’espace et du temps: la vie serait la capacité de percevoir les contraintes de notre existence. Et ce serait ainsi que naîtrait la crainte du lendemain, la notion d’effort, la volonté de préservation.
      Cette faculté de sortir de l’espace-temps pour le discerner, c’est à mon avis pas concevable, sauf à se trouver dans une autre dimension, qui n’est pas accessible par la vie.
      Donc je plussoie au point de vue de Clo Clo, qui me donne envie de manger un barracuda sous le soleil d’Alexandrie.

  7. Avatar de Tom
    Tom

    @ JC : « la possibilité à l’IA de se calculer un état d’esprit ». Un état du corps entier plutôt ?

  8. Avatar de G L
    G L

    Côté hardware il n’y a aucun mystère! Turing a démontré qu’un dispositif d’une simplicité enfantine (automate ayant un nombre fini d’états qui compte en écrivant et en effaçant des batons sur un ruban, dispositif dont tout le monde peut avec un minimum de patience comprendre le fonctionnement: https://fr.wikipedia.org/wiki/Automate_fini ) faisait l’affaire et que l’ordinateur le plus perfectionné ne fera jamais plus que cet automate (bien qu’il le fasse « beaucoup plus vite ».)

    Tout est donc dans la programmation (à distinguer de son aspect sordide qu’est le codage,) Un ordinateur ne pourra remplacer complètement un humain que le jour où les humains auront entièrement compris eux-même comment ils fonctionnent!

    A mon humble avis, parce que ce qu’on a compris n’est qu’un grain de sable face à ce qu’on a pas encore compris, c’est pas demain la veille (et d’ailleurs nous ne savons même pas si nous sommes assez intelligents pour y parvenir un jour.) Le danger encouru réside surtout dans le fait que certains chercheront à tirer profit de notre crédulité bien avant d’y être parvenus.

    1. Avatar de Nicolas I.
      Nicolas I.

      @ G L : je suis assez d’accord avec votre constat mais j’ajouterai que l’IA dans un premier temps va surtout « analyser » nos comportements au travers du big data… avant de parler de « développer » un « esprit » à nos machines, elles vont surtout NOUS comprendre et nous FORCER à comprendre ce que nous sommes.
      Autant on peut douter du développement d’une conscience informatique, autant il est plus difficile de douter du chamboulement absolu que l’IA va représenter pour nous…
      Ce que l’IA va commencer par faire une fois opérationnelle, c’est détruire nos illusions et nos hypocrisies, ce qui représente déjà un sacré problème.

      p.s.: Attention, je ne dis pas que la science a toujours raison pour l’analyse de nos comportements mais l’IA va utiliser nos « manières scientifiques » pour CALCULER qui nous sommes et ca ne sera pas si simple de lui donner tort

    2. Avatar de vigneron
      vigneron

      Soit :

      P=NP ?

      Les maths c’est bien kâmême.
      C’est bref, c’est court, toujours élégant…

      1. Avatar de Lexia
        Lexia

        La mathitude est aux mathématiques ce que l’économie est à la science…

    3. Avatar de G L
      G L

      À propos de Turing (et de Church) j’aurais mieux fait de choisir comme référence https://fr.wikipedia.org/wiki/Machine_de_Turing

      À Nicolas I – à partir des big data je ne vois pas comment produire autre chose que des statistiques.

      Je conçois bien que les statistiques permettent à une machine de d’être plus efficace que nous dans des circonstances déjà rencontrées ou « qui ressemblent » à celles déjà rencontrées. J’ai bien peur que ça ne marche plus quand les circonstances sont « trop différentes » de celles rencontrées lors de l’apprentissage.

      C’est un peu comme les sondages électoraux qui marchent d’autant moins bien que les conditions dans lesquelles ils se font sont inhabituelles. Exemple: si un candidat promettait de lier le montant des impôts à la première lettre du nom du contribuable, un humain penserait à s’assurer que l’échantillon est bien réparti en fonction de ce critère alphabétique mais le big data ne serait d’aucun secour pour un robot censé le remplacer dans le choix de l’échantillon.

      Les enchaînements d’idées farfelues ou non qui se produisent dans l’esprit humain quand il se frotte à l’univer qui l’entoure me semblent très largement dépasser ceux dont il est capable quand il doit se soumettre aux règles très étroites du jeu de go.

  9. Avatar de Antoine
    Antoine

    Lu avec délice les billets de notre hôte et de chacun des convives.
    Si je pouvais apporter ma modeste contribution sur les perspectives qu’offrent les progrès de la science, de la machine et de l’informatique, je recomanderais la lecture d’un livres d’Arthur Koestler, Les Call Girls. L’histoire: on est à la veille de la troisième guerre mondiale, et le plus humaniste des grands scientifiques décide d’organiser un séminaire avec ses pairs pour trouver une solution afin de sauver le monde. Toutes les solutions proposées sont terribles.

  10. Avatar de Jean Francois Le Bitoux
    Jean Francois Le Bitoux

    « Quant aux « facteurs dynamiques déterminant ses changements d’état d’instant en instant », ils pourraient bien être en nombre tout à fait considérable et il est fort possible que nous ne sachions pas pour de nombreuses années encore ni ce qu’ils sont exactement, ni quelles sont les interactions entre eux. »

    Eh oui, au sein d’une cellule vivante, les facteurs déterminant les « changements d’état et de fonction » de leur voisinage sont légion et même plus que légion : une chaîne sans fin de circulation d’électrons car la vie est « circulation d’énergie » régulée. C’est un courant électrique à travers des membranes sélectives, dont chaque réaction modifie l’environnement en laissant des traces partout où il passe. La présence ou l’absence de ces charges va modifier localement les cinétiques des réactions enzymatiques et ce en cascade, pour le meilleur ou pour le pire. C’est l’évolution en marche !
    C’est aussi valable dans un écosystème ouvert sans qu’aucune membrane matérielle ne définisse un ensemble identifiable à l’intérieur de l’écosystème Gaïa. Par exemple, la mitochondrie est un écosystème identifiable, une organelle cellulaire qui a sa propre « gestion biochimique» et qui contribue à la vie d’ensemble d’écosystème de plus en plus vaste et de plus en plus délicat à réguler : son dysfonctionnement entraîne de graves pathologies.
    Si on a pu vivre en ignorant que la biologie est circulation d’électrons, donc un déséquilibre nécessaire, régulé, plus ou moins correctement entretenu, il vient un moment où la machine « VIE » ralentit, puis progressivement se coince et se dégrade car elle s’use : on peut appeler cela « vieillir » ! Elle peut sans doute encore vivre en mode dégradé pendant quelque temps jusqu’à ce qu’une pièce casse ! Regardons autour de nous vivre ce qu’on appelle encore « Démocratie » ! Attendons-nous qu’une pièce casse ? Il faudra choisir : vivre en mode dégradé ou « faire de efforts » ? Mais de qui, pour qui et pourquoi faire?
    Bref quand vous mettez le doigt dans un aquarium, non seulement vous stressez ses habitants mais vous perturbez la physicochimie aquatique de manière significative : c’est un vieillissement accéléré. Mettre les doigts dans la confiture la contamine de même et plus il y a de doigts, de mains, etc., plus elle se gâte vite : elle est d’ailleurs déjà fort corrompue !

    Le phénix renaîtra-t-il de ses cendres ? Sans doute mais à quelle vitesse ? Gaïa s’est réchauffée et toutes les vies microbiennes, planctoniques et autres s’en trouvent chamboulées.
    En fait, les paramètres de changement d’état restent bien les mêmes mais leurs cinétiques d’application fluctuent avec l’environnement qu’ils contribuent à modifier continuellement : c’est ça, la vie ! Et chaque membrane de protection en modifie alors les fonctions. Ce qui explique que le même ADN d’un organisme produise des cellules vivantes différenciées (foie, muscle, os, etc.) selon le statut et les filtres sélectifs membranaires.
    Une cellule cancéreuse ne perçoit plus certains signaux extérieurs car ses « filtres » sont altérés : elle est en surchauffe et respire très mal ! (Effet Warburg annoncé dès 1930). Il y a pourtant des « stabilisateurs » partout qui contribuent à entretenir une « homéostasie ». Mais il serait prétentieux d’afficher les connaître pour les réguler : on progresse mais tout reste à faire ou presque.

    Dans nos sociétés, selon le statut accordé et plus ou moins respecté de l’acteur, selon les privilèges qui lui sont accordés, une parole sera entendue ou ignorée. Comme je tente actuellement de parler aux princes qui a seul la main sur le territoire et sur les cantonniers du roi (cf. Tocqueville), je vous tiendrai au courant si j’arrive à son oreille.

    1. Avatar de Juannessy
      Juannessy

      TPAMC !

      ( Touche pas à mes cantonniers , d’ailleurs il n’y en a plus )

  11. Avatar de Juannessy
    Juannessy

    Je l’avais déjà cité dans un vieux billet que je ne sais pas retrouver , alors je remets ici cet extrait d’un merveilleux petit bouquin de Misha Gromov ( un matheux) intitulé « Introduction aux mystères » (2012):

    « Le processus qui transforme le flot complexe des signaux électriques/chimiques reçus pas le cerveau en une image cohérente du « monde externe » durant les deux premières années de la vie humaine est aussi miraculeux que la Vie elle même . Et c’est pour ainsi dire du  » libre apprentissage »: si vous soumettez un bébé ( ou un tout jeune animal) à  » l’instruction » , vous ne ferez que perturber son apprentissage car vous n’avez pas la moindre idée de ce qui se passe dans son cerveau/esprit. Faire usage de votre  » intelligence d’adulte » dans cette situation , c’est comme utiliser des forceps pour aider une cellule à se dupliquer correctement . »

    « ….nos expériences et notre logique doivent servir à contrôler plutôt que confirmer nos idées ; si les conclusions s’avéraient être bien éloignées de ce que nous en attendions, alors, avec un peu de chance, nous devrions être capables de retrouver le chemin par lequel l’illusion d’autosatisfaction de notre  » intelligence » est venue , et d’emprunter une autre route vers la compréhension de ce qu’est l’essence de l’intelligence /apprentissage . »

    1. Avatar de Nicolas.I
      Nicolas.I

      Merci pour le bouquin a lire

  12. Avatar de Gudule
    Gudule

    The Healer
    John Lee Hooker & Carlos Augusto Alves Santana –
    https://www.youtube.com/watch?v=0aFKgi5D6eU

  13. Avatar de Gudule
    Gudule

    John Lee Hooker & Carlos Santana –
    « Chill Out »
    https://www.youtube.com/watch?v=PqBM0kPLLe0

  14. Avatar de Jean Francois Le Bitoux
    Jean Francois Le Bitoux

    Ce qui vaut pour le bébé que nous avons pu rester, vaudrait-il pour un cantonnier ?
    Une autre lecture BD constructive : « Les rêveurs lunaires » d’un autre matheux en service Villani (et Baudouin). Son côté optimiste lui permet de décrire « L’étrange victoire » de combattants solitaires en temps troublés avec des arguments similaires à ceux utilisés par Marc Bloch dans « L’étrange défaite » ! (malgré l’unanimité de la bureaucratie ambiante) :
    intéressant !

  15. Avatar de Vincent Rey
    Vincent Rey

    Lorsque l’IA fera des statistiques sur les risques judiciaires, les robots seront capables de nous voler, avec le risque très faible d’être puni.
    Voici une histoire qui m’est arrivée : je me suis fait avoir par la Poste, il y a quelques années, par une case à cocher, lors d’une sélection d’assurance sur le site Colissimo.fr. Sans doute on a voulu entretenir une confusion entre un choix cumulatif, et un choix exclusif. Et donc je pensai ajouter une assurance, en cochant cette case (carrée), alors que je faisais un choix exclusif (habituellement rondes et exclusive). Et donc en cochant cette case, je pensai ajouter une assurance à l’assurance de base, alors que je changeai d’assurance, à mon insu : une chose pas facile à démontrer.
    Je me suis aperçu de la supercherie, lorsque La Poste a perdu un colis, et lorsqu’elle n’a remboursé que quelques euros, un colis qui valait 400, selon l’assurance que je pensai avoir souscrit.
    J’ai alors tenté de protester contre La Poste, mais le médiateur de Justice n’a pas compris cette histoire de case à cocher, et il m’a donné tort contre La Poste. Il aurait alors fallu que je prenne l’énorme risque d’aller en Cassation !
    J’ai alors pensé que cette arnaque à la petite semaine (donner à un choix alternatif l’apparence d’un choix cumulatif) constituait un risque très faible pour la Poste. Sans doute c’est un groupe d’humains qui a imaginé ce stratagème : ils ont évalué le risque de perte d’un colis, le multipliant par le risque de plainte, puis par le risque de perdre en cassation, et on peut penser que tout cela ne pesait pas lourd, comparé aux remboursements qu’aurait impliqué une sélection claire de l’assurance. Mais lorsque des robots, et c’est là où je voulais en venir, pourront élaborer de telles stratégies de risque, alors ce genre d’arnaque à la petite semaine prendra d’autres dimensions.
    L’impossibilité pour l’humain (et même par les juges de la Cour de Cassation) de comprendre avec précision des niveaux de technologies de plus en plus profonds, ouvrira la porte à une arnaque robotisée à très faible risque…

    1. Avatar de Julien Alexandre

      Ça existe depuis des années dans le transport aérien, ça s’appelle le yield management. C’est le cas aussi dans l’hôtellerie. Et on commence à en voir les premières applications dans le retail, ce qui veut dire que d’ici quelques années, tous les supermarchés seront passés à l’étiquette électronique.

      Le rapport de force poussé à son paroxysme permet déjà de faire les poches de ceux qui n’ont pas/plus le choix.

    2. Avatar de Antoine
      Antoine

      Par expérience, les escroqueries organisées par les compagnies, sociétés de « service public », banques, sont déjà très nombreuses. Pas besoin de faciliter les choses avec le progrès de la machine, même si à la lecture du billet de Julien Alexandre, on ne s’en prive pas.
      Pour avoir travaillé à la défense du consommateur, à l’époque, il s’agissait d’expliquer comment sortir d’un abonnement téléphonique de deux ans: il fallait payer la totalité de l’abonnement. Plus une clause pénale qu’une clause de dédit. Évidemment, écrite en police de taille 5 au travers des conditions générales de 5 pages, sur un papier même pas digne d’un trou de balle.
      Aujourd’hui, je bataille au service du notariat. Je passe les 1001 combines pour entuber son prochain…De concert bien souvent avec agents immobiliers, et même Etat (attention à la commission de l’agence à la charge du vendeur, ce n’est pas neutre…).

    3. Avatar de Antoine
      Antoine

      Pour l’anecdote, le camping où je me trouve propose des tentes tout confort avec vaisselle, micro onde et frigo.
      A l’état des lieux d’entrée, on constate notamment qu’un verre cassé, c’est 5 €. Et pour la vaisselle, on l’amène aux communs à l’aide d’une bassine qui pourrait servir… Pour la dînette de mes filles 🙂

Répondre à 2Casa Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta