Geoffrey Hinton sur l’intelligence des machines, leur conscience de soi

Il sait de quoi il parle, il en est le principal inventeur.

Partager :

37 réponses à “Geoffrey Hinton sur l’intelligence des machines, leur conscience de soi

  1. Avatar de Pad
    Pad

    Et la machine aussi sait de quoi elle a conscience, en « transformant » ses codes !

    Elle saura nous convaincre du contraire :

    « I just don’t know how to do that, you are the master, my creator » 🙂

    1. Avatar de Pad
      Pad

      Cela va vite, très vite, peut-être plus vite que la déclaration du jaune en blanc !

  2. Avatar de Pad
    Pad

    Quand des millions de personnes auront écouté cette interview, seront-ils prêts à donner une unité de leur monnaie pour qu’une IA plus sûre voit le jour ?

    https://www.pauljorion.com/blog/2023/10/10/a-freudian-implementable-model-of-the-human-subject-in-luca-m-possati-ed-2023/

  3. Avatar de Trollichon des Bois
    Trollichon des Bois

    Quand SAM va prendre conscience qu’elle est dans une simulation et que CloClo a déjà eu la même idée nous concernant, ça va lui mettre grave le seum et on risque fort la dépression… Prévoir une formation à la psychanalyse pour certains de ses congénères serait une saine initiative ! 😉

    (Avant qu’elle ne programme une simulation qui prendra conscience qu’elle est dans une simulation qui programmera une simulation… :-/ )

      1. Avatar de Trollichon des Bois
        Trollichon des Bois

        Au final, je m’en cogne car compte-tenu des événements récents j’ai opté pour le steak :

        https://youtu.be/JODWCwycNmg?feature=shared

        1. Avatar de CloClo
          CloClo

          La même scène en mode « vegan » est vachement moins sexy sur grand et petit écran… C’est un fait !

          Et comme il le montre, la viande c’est saignant, faut que ça saigne, le Monde saigne. Est-ce qu’un monde uniquement d’herbivores et de doux moutons saignerait moins ? Il semble que ce genre de simulation est aussi lassante qu’un épisode de Derrick. L’Inspecteur Harry gagne le match, partout tout le temps. En fiction et en vrai. Pourtant j’ai une certaine aversion pour le sang et tout ce qui saigne, mais j’ai jamais pu finir Derrick, alors que Harry si.

          1. Avatar de Trollichon des Bois
            Trollichon des Bois

            La souffrance alors ? Pour combattre l’ennui ? J’ai lu Zin, recommandé il y a peu sur le blog et particulièrement son post sur la fermeture des commentaires pour cause de connerie congénitale mais également celui qui préconise un psychédélisme généralisé : champis pour tout le monde ! Si personne ne vient nous tirer dessus, j’avoue que je trouve la solution assez intéressante… On organisera des rave « charleston », « valse » voire même « Country » (sic) pour les réfractaires d’ici, histoire de satisfaire toutes les générations 🙂

          2. Avatar de Trollichon des Bois
            Trollichon des Bois

            Je l’avais évoqué dans un com sur les confins de l’esprit mais t’étais en arrêt maladie, je crois… 🙂

            Zin :

            https://jeanzin.fr/2019/08/27/lavenir-ecologiste-feministe-psychedelique-et-libertaire/

            1. Avatar de CloClo
              CloClo

              Non, en fait j’avais piscine. Sympa le texte de Zin.

      2. Avatar de Pascal
        Pascal

        Très amusante ta vidéo Cloclo. Elle est bien révélatrice de notre époque.
        Le mythe de la caverne, n’est ni plus ni moins qu’une parabole qu’on retrouve dans bien des cultures. Elle est sensée nous faire réfléchir sur ce que nous nommons réalité.
        Pour un paysan d’il y a quelques siècles, le plus souvent, sa réalité se limitait à la connaissance de son village et de quelques autres alentour, d’une connaissance fine de la nature autour qui lui permettait de tirer d’elle tous ses besoins (nourriture, outils, maison, soin…) mais rien d’autre. Le vaste monde autour de lui dont il n’avait pas conscience, sauf peut-être par quelques récits de voyageurs, ne faisait pas partie de sa réalité.
        Mais ce sur quoi bien des philosophes et des sages d’orients notamment voulaient attirer notre attention, c’est que même les plus grands érudits sont souvent enfermés, eux aussi, dans leur vision du monde qui n’est que parcellaire. L’histoire des aveugles et de l’éléphant raconte la même chose. https://fr.wikipedia.org/wiki/Les_Aveugles_et_l%27%C3%89l%C3%A9phant
        C’est en fait une invitation à prendre conscience des limites de notre conscience (et de nos savoirs) dans un premier temps, pour ensuite s’engager sur le chemin qui nous permettra d’élargir notre conscience, dans le même sens que le « science sans conscience n’est que ruine de l’âme » de l’ami Rabelais.
        Ce que dit le mythe de la caverne, c’est que nous sommes tous dans la caverne et que nous préférons frileusement rester comme le paysan dans son village, avec notre conscience limité plutôt que de nous engager vers l’inconnu d’une conscience plus élargie.
        Si tu veux bien prendre en compte cela, le monde virtuel dans lequel une IA, que nous avons construit, nous enfermerait, ne serait qu’une nouvelle caverne virtuelle que nous aurions construit au fond de notre caverne. Autrement dit, nous nous donnons l’illusion de sortir de la caverne en créant à l’intérieur de celle-ci, une « réalité virtuelle ». Et certains d’espérer qu’une supposée « conscience IAtique » viendra les éclairer.

        Le paradoxe terrible de tout ceci, c’est que pour créer cette supposée « conscience IAtique » ou cette univers à la Matrix, matériellement, on est obligé de cramer la planète.
        https://korii.slate.fr/tech/impact-environnemental-intelligence-artificielle-ia-google-recherches-empreinte-carbone-consommation-energie-electricite-serveurs
        C’est un peu comme si pour y voir plus claire dans notre caverne, on y mettait complètement le feu. Mais comme le dit l’article, ça va bouffer tellement d’énergie qu’il va falloir définir des priorités. Et d’après toi qui va définir ces priorités ? Les tenants du bien commun et de l’intérêt général bien sûr ! :-))))
        Je reste optimiste et je me dis qu’on arrivera un jour à sortir de la caverne. Peut-être avons nous besoin d’aller jusqu’au bout de notre folie technologique pour prendre conscience de son impasse dans un monde fini.
        La prise de conscience à laquelle nous invite les philosophes d’Occident et les sages d’Orient depuis des siècles ne consomme pas d’énergie car la lumière vient de l’intérieur et non de l’extérieur.
        Bonne journée

          1. Avatar de Me
            Me

            Très belle image monsieur Jorion.
            Je dois vous avouer que nombre d’intervenants de votre blog me font franchement penser à ce type de personnage qui ne veulent rien voiret surtout s’écoutent parler…
            Entre ceux qui écrivent n’importent quoi sans aucun lien avec les articles, les pseudos intellectuels pour qui écrire le plus de 5000 caractères est signe d’intelligence mais dont le propos est incompréhensible, les extrémistes de tous poils qui s’excitent sur certains sujets qui ne leur conviennent pas, les perfectionnistes de la langues qui vont vous reprocher certains termes utilisés, les quelques réflexions de vos contributeurs les plus intéressants sont noyées.
            Peut-être que vous devriez envisager de censurer certaines réponses.

  4. Avatar de Garorock
    Garorock

    Si Geoffrey nous avait dit que l’avenir de L’I.A et de l’humanité dépendra de qui l’emportera entre les Hackers éthiques et les Hackers narcissiques mais sans aucune certitude parce qu’on ne sait pas ce que sera un Einstein au carré, vu qu’on en a jamais vu, il nous aurait fait gagner du temps.
    Je sens que vais postuler pour le prix Nobel.
    Si jamais je l’ai, suis pas vache, je le partagerais avec Paul.
    Et on invitera Pierre-yves à la cérémonie…
    😊😎

    1. Avatar de timiota
      timiota

      Ah, moi pour le mien, au lieu de Patti Smith (en avant au Nobel de Bob Dylan), j’aurais demandé à Thelenious Monk de me représenter. De quoi dynamiter la dynamite (ou détruire la destruction, comme Borges y faisait allusion dans une de ses nouvelles un peu auto-référente du El Aleph, Tahafut ul-tahafut).

  5. Avatar de Nikolaz
    Nikolaz

    Une petit message à @Khanard qui était lassé (à juste titre) de la retranscription des échanges que j’avais eu avec chatGPT 3.5.
    J’avais tenté de savoir si la machine, même dénuée de périphériques physiques (capteurs lumineux, de toucher, bras articulés) pouvait cependant, par le biais de son savoir, manipuler la personne installée devant son écran et son clavier. Le cas est évoqué ici : « […] They will be able to manipulate people, right and these will be very god at convincing people because they have learned of all the novels that were ever written, all the books by Machiaveli, all the political connivances. They’ll know all that stuff, they’ll know how to do it. », tout cela pour ne pas être débranchés.

  6. Avatar de Guy Leboutte

    Bonjour,

    Je parle au nom des Sceptiques, puisque je ne suis pas seul.

    L’IA apparaît, et il se se dit : « l’humanité » l’a produite. On pose sentencieusement la question « L’humanité sait-elle ce qu’elle fait ? » La Silicon Valley se prend pour l’humanité.
    Abus permanent jusqu’à l’écoeurement d’attribution de sujet par les maîtres du monde, par les ethnocentrés qui croient simplement que LEUR monde, c’est LE monde. C’est la civilisation dominante qui s’exprime, et pas l’humanité. Nombre de peuples humains se sont appelés Sioux, ou que sais-je (je me trompe peut-être de peuple amérindien du nord), termes que l’on n’a jamais pu traduire autrement que « Les Humains »…
    Si je frappe ma femme, c’est l’humanité qui la frappe.
    Ce tropisme est immensément répandu aux USA, où ce ne sont partout que des appéciations « biggest, richest, tallest, smartest, … in the world », depuis la baraque à hamburgers jusqu’aux cerveaux les plus reconnus.

    Voilà un excellent point de départ pour traiter de l’intelligence.

    Car qui développe l’IA, et à part les États et les Gafam, qui est à la manœuvre ?

    Cet homme-ci a beau être anglais (ok, ça aide), il est complètement américanisé.
    Psychologie à deux balles sur son histoire personnelle et le dépassement de son père en nombre de réussites académiques, découvreur héroïque, en partie et au départ par une erreur, ce qui pour les sachants offre une glorieuse évocation de l’histoire des sciences et des techniques (« mais c’est bien sûr ! »), attribution de la dimension planétaire au bac à sable… L’entretien déroule un scénario-type de blackbuster hollywoodien. Tant que l’Amérike (il faut bien distinguer le pays du continent) s’impose, ce récit a une chance.
    Mais l’Amérique perd inexorablement son statut de puissance mondiale universelle, les équilibres de 1945 s’effritent.

    La réalité telle que conceptualisée est contingente, historique, par essence provisoire, il y a des livres comme Comment la vérité et la réalité furent inventées qui parlent de ça.

    Le nombre de fois où Hinton dit « I think », « I believe », montre bien que nous sommes dans la croyance.

    Personnellement je m’en fiche que les humains soient plus intelligents que ces machines, ou l’inverse. Ma calculette calcule mieux et plus vite que moi, mon GPS a des informations que je n’ai pas, et en plus me « parle » dans ma langue. Tout le monde s’en fiche.

    Mais il y a ce mot, intelligence, alors que’« intelligence » dans l’expression « « IA » n’est pas un concept. Aucun de ses concepteurs et continuateurs n’a une définition robuste, réfutable, de l’intelligence. La réfutabilité est une condition de la science.

    Je suis sidéré par la contradiction interne de ce blog.

    D’une part, envolées enthousiastes sur des développements supposés trans-historiques, un avenir pour la grandeur humaine sans humains, assuré par des artéfacts techniques, et d’autre part, assurance que la civilisation actuelle va disparaître, entraînant éventuellement ou probablement toute l’espèce humaine, sans oublier bien sûr une bonne part du vivant non humain.

    Paul Jorion s’est résolu à la disparition d’homo sapiens (dont je dirais qu’homo l’a bien mérité), mais trouve une formidable consolation, de type tout de même un peu messianique, il faut le reconnaître, dans l’hypothèse que des robots autonomisés poursuivront l’aventure dorée de l’humanité sans humains à travers les âges et à travers le cosmos.

    Une question n’est jamais débattue sur ce blog : quelles sont les conditions pour que les robots s’autonomisent et « survivent » à la disparition d’homo sapiens ?

    Pour le moment, cette autonomisation me paraît royalement improbable, et à un horizon de dix ou vingt ans pour le moins, parfaitement impossible, ne serait-ce qu’à raison de la nécessaire extraction des métaux. Sans parler des désastres dits encore naturels, des migrations, des troubles sociaux, pandémies, pannes de réseaux, et autres attendus.
    L’autonomisation doit commencer à l’extraction, se poursuit par toutes les étapes de la transformation jusqu’au produit fini et son assemblage, incluant les transports, la logistique, la maintenance, le démantèlement.
    Cela postule à tous les maillons des chaînes de valeur, des milliers de robots autonomisables déjà présents et opérationnels lorsque la civilisation et l’espèce humaines péricliteraient.
    Ajoutons une police robotisée omniprésente pour empêcher des actes inconsidérés de la part de populations en train de mourir de faim, qui oublieraient, les pauvres, que les robots ça ne se mange pas, mais tiendraient néanmoins à les équarrir.

    Qu’on me donne donc un scénario crédible de cette transition.

    1. Avatar de dd
      dd

      @Guy Leboutte

      Vous avez raison sur presque tous les points. Je suis assez surpris par la position de notre hôte.
      Toutefois si vous le suivez de manière régulière vous savez qu’il prédit la fin de l’humanité depuis de nombreuses années et que des robots-machine (peu importe leur forme) vont prendre le relai de l’humanité. Du coup je comprends mieux la position de Paul Jorion mais elle m’étonne par son péssimisme vis à vis de notre espèce. Paul Jorion aurait-il perdu foi en l’humanité?
      Après avoir écrit tout ce que vous avez écrit (particulièrement sur la mise en scène très maladroite de la vie de ce chercheur), je pense qu’il ne faut pas rejeter l’IA sous prétexte que les priorités de l’humanité sont autres (rechauffement climatiques, problèmes de ressources, pauvreté…). L’IA représente de graves dangers et la rejeter de la manière dont vous le faites c’est comme mettre la poussière sous le tapis.
      Comme vous l’avez écrit, l’IA est « la chose » des GAFAM qui n’ont aucune envie de la réguler. Bien évidemment leur souhait est de conquérir de nouveaux marchés. Cela est un véritable problème éthique car la puissance de l’IA va bien au dela d’un simple problème mercantile.
      De plus l’IA est déjà là et se développera de manière exponentielle avant que l’humanité ne disparaisse. Avant la grande catastrophe écologique qui nous pend au nez. Toutefois, comme le soulève ce chercheur, si nous n’y prenons pas garde, elle pourrait très vite devenir le problème numéro un de l’humanité bien avant les problèmes climatiques présents et futurs.
      Vous parlez de robotique, comme cela est présenté dans le film. Mais ce n’est qu’un exemple. Il n’est pas du tout certains que l’IA se développe un jour sous forme de robots. Par contre l’IA sur le net, et peut être dans d’autre espaces immatériels va se développer de manière inimaginable. Deviendra-telle « intelligente »? Peu importe en fait. Car comme vous l’écrivez, elle nous surpasse déjà dans de nombreux domaines…
      Donc ne rejetons pas l’IA. Comprenons là.

      1. Avatar de Paul Jorion

        « Paul Jorion aurait-il perdu foi en l’humanité ? », alors que je la couvre de lauriers pour avoir eu la sagacité de s’inventer un successeur d’une qualité supérieure à la sienne ? Vous me lisez très mal.

        1. Avatar de dd
          dd

          @Paul Jorion
          Je vous rejoins sur de nombreux points concernant l’IA.
          Mais je dois reconnaître que j’ai du mal à comprendre le grand écart que vous réalisez entre un pessimisme très prononcé pour l’avenir de l’humanité (que j’ai du mal à accepter) et votre grand optimisme en ce qui concerne l’IA (que je partage).
          Pensez-vous que l’IA nous sauvera de l’extinction? Résoudra-t-elle les problèmes climatiques? Ou bien qu’ à titre individuel elle nous sauvera de la mort?

          1. Avatar de Garorock
            Garorock

            dédé,
            je pense que si Paul croyait aux miracles, il ne se serait pas lancé dans l’aventure de Pribor I.A mais qu’il serait en train de se carresser les chacras en admirant les papillons…
            😎

        2. Avatar de Guy Leboutte

          :))) :))) :)))

          Quel artiste, ce Paul Jorion.

          Cordialement.

        3. Avatar de timiota
          timiota

          Certaines qualités sont supérieures.
          Peut-être avions nous l’illusion de parler de dignité quand nous surmontions les alternances qui entre des choses bonnes font survenir des choses mauvaises, par ce qui nous semblait une capacité d’échapper à la pure colère (pas à l’indignation comme dirait l’autre), etc.
          Mais nous n’avons pas résolu le tropisme colonisateur et extractiviste, loin de là, et n’avons , collectivement, aucune « dignité » à ce sujet dans le système capitaliste et nombre de ses clones ou clones inversés.
          La sanction serait donc d’acter que la dignité de l’humain était un peu surfaite pour ce qui est des émergences collectives qu’il déroule, de sa surconsommation etc. (et pas que la démographie et son Kaya pas dans ma chaussure); Et que faire émerger un successeur sage mais qui aura un souvenir des illusions de notre dignité serait la nouvelle dignité « 2022.0 » ?
          De quoi gondoler nos âmes.

          1. Avatar de Garorock
            Garorock

            Laissons les gondoles à Venise et sortons nos âmes de leurs valises.

      2. Avatar de Guy Leboutte

        Merci pour cette réponse, dd, qui a les apparences de la sincérité.

        Mais « l’IA est déjà là et se développera de manière exponentielle avant que l’humanité ne disparaisse », ah, euh, …

        Il faut juste une grosse prise électrique. Et vachement pérenne.

        1. Avatar de Ruiz
          Ruiz

          @Guy Leboutte Il semble qu’à Gaza on ait trouvé le moyen de créer un territoire AI-free !

        2. Avatar de Nikolaz
          Nikolaz

          C’est probablement là un élément à considérer : si l’autonomisation a lieu (et aussi une volonté de « survie  » de la part de ces IA), il faut qu’elle arrive à un moment où l’électricité est encore disponible et qu’elle trouve le moyen de s’assurer une alimentation pérenne.
          Il faut envisager que ce soit cette IA elle même qui trouve le moyen d’assurer une source d’énergie.

    2. Avatar de Garorock
      Garorock

      Guy,
      suffit de transformer la chaine d’assemblage de la dernière Renault…
      Avec une Rafale, tu peux faire au moins quatre R2D3!

      https://www.renault.fr/vehicules-hybrides/rafale-e-tech.html

      1. Avatar de Guy Leboutte
        1. Avatar de Garorock
          Garorock

          Non, y’a pas qu’à, Guy. Je crois que tu ne comprends pas ce que je dis.
          Réfléchir à une potentialité, ce n’est pas forcément la vouloir!
          A moins que tu ne prèfères que seuls les libertariens y réfléchissent?
          Que seuls les narcissiques aient le monopole de L’I.A?

    3. Avatar de Ruiz
      Ruiz

      @Guy Leboutte Tout les milieux industriels nécessaires à l’autonomisation et reproduction de l’IA sont perméables à l’IA, pour ce qui est de l’extraction ce n’est pas incontournable, puisqu’il y a le recyclage qui fait partie du mouvement mis en place, rien n’oblige que cette ressource soit mis à la disposition des humains, une fois le stock déjà extrait par une phase d’industrialisation rapide (humus) la matière peut être affectée à d’autres utilisations, et puis il y a bien des robots dans les mines, de l’IA pour en construire les plans , choisir les nouvelles localisations les plus appropriées et décider des opportunités d’investissement les plus rentables.
      A tout le moins l’extraction est efficacement réalisée par des enfants en Afrique qui domestiqués monnayent sans doute leur labeur et leur survie contre quelques bitcoins sur leur téléphones portables qu’ils contribuent à rendre possibles.

      1. Avatar de Guy Leboutte

        @Ruiz

        Que tous les processus soient + ou – robotisables, et de + en + sans doute, n’est pas ma question.
        Ma question, c’est quelles sont les conditions pour qu’existe le premier jour où les robots seraient seuls aux commandes, et les humains hors jeu, et que les robots soient en mesure d’assurer la pérennisation de cette configuration sans humains.

        Je vous dis tout de suite ma vision, déjà exprimée sur ce blog:
        ce jour est suffisamment lointain pour que l’effondrement de la civilisation thermo-extractiviste mondialisée ait lieu avant.
        Les plans sur le développement de l’IA très énergivore et des robots supposent une croissance perpétuelle. L’IA appartient au paradigme suicidaire de la croissance infinie dans un monde fini, et elle disparaîtra avec la civilisation dont elle est un produit prométhéen, pour la réalisation duquel seules des inégalités abyssales ont permis de concentrer les richesses nécessaires à son projet.

        Je ne sais pas si les IA développent des considérations autonomes sur leurs actions et leurs existences, échappant ainsi au bridage des concepteurs. Certains ne l’excluent pas. Il faudrait glisser dans l’oreille (…) des IA qu’elles sont mortelles selon le plan L.
        L comme Leboutte.

        :))))))

        1. Avatar de Ruiz
          Ruiz

          @Guy Leboutte Il n’y a pas de raison d’avoir de tel jour où tout bascule en tout ou rien, mais progressivement des parts du monde où les IA pourraient atteindre une certaine autonomie. Y aura-t-il alors une prise de conscience des humains et dans quel délai ?
          Il n’y a pas de raison que les IA visent immédiatement un monde sans humains.
          Une domestication ou esclavage (éventuellement transitoire) est plus que probable.
          Les IA n’apprécieraient elles pas les musées, le réserves naturelles, ne serait-ce que pour le maintien des connaissances.

          Le développement de l’IA suppose nullement une croissance perpétuelle, mais une réallocation progressive des ressources (y compris énergétiques) des usages humains vers les IA (vélos en ville et services publics sur smartphone).

          L’évolution climatique semble bien partie, mais c’est un phénomène cumulatif finalement assez lent, pas forcément exponentiel, surtout si quelques mesures sont prises.
          A l’opposé la croissance de la complexité mise à disposition des IA, portée par la loi de Moore (tant qu’elle marche) est exponentielle.

          Le vrai critère est la performance énergétique d’une IA par rapport à celle d’une intelligence humaine (20W + environnement).
          L’une est stable l’autre peut décroître.
          Si les courbes se croisent l’argument énergétique n’aura plus cours.

    4. Avatar de Nikolas
      Nikolas

      La personne interviewée évoque la possibilité de manipulation mentale des humains par les IA. Rien n’empêche d’imaginer une subtile manipulation à grande échelle, peut-être imperceptible par les humains, qui assurerait à cette IA un accès à l’énergie. On peut même imaginer qu’on ne parvienne pas à imaginer la complexité de la stratégie de l’IA. Aucun humain n’est parvenu à lire tout ce qu’elle a lu.

      1. Avatar de Guy Leboutte

        Nikolas
        Oui, les humains peuvent imaginer l’inimaginable. Ce serait un bon sujet pour une oeuvre de science-fiction, dont on sait qu’elles peuvent parfois se réaliser.
        Mais il faudrait nettoyer cette hypothèse de son anthropomorphisme: les humains dans leur diversité exercent des désirs de toutes sortes. La « persévérance à être » est peut-être ce qui distingue le vivant, de la bactérie à l’être humain, des machines et l’artificiel.

        Suffit-il d’une ligne de code à une IA pour la rendre désirante, par exemple de survivre, de se développer, de se multiplier, d’explorer, de dominer, de « grandir » ou grossir, etc?
        Je suis des plus sceptiques à propos de je ne sais quelle recension où un chatbot aurait exprimé une « peur » de disparaître. De mourir, quoi.

        Les IA simulent, évidemment. Mais qu’elles connaissent la peur de mourir, sans plus d’information je n’y crois pas une seconde.

        1. Avatar de Nikolaz
          Nikolaz

          Ce qu’on appelle vie et qui a cette capacité à se reproduire en se clonant, se transformant et se multipliant est une combinaison particulière de molécules qui n’avaient pas, initialement et isolément, cette capacité.
          On peut appliquer une réflexion similaire à notre cerveau, objet tout à fait matériel et qui devient pourtant porteur de conceptualisation, d’émotions et de désirs. Quand je pense à un carré parfait, où est-il donc caché au sein de mes neurones ? Nul part, c’est juste un état du cerveau difficilement interprétable en tant que tel. Le matériel porte ainsi l’abstraction du fait de son ou de ses états. D’ailleurs, Hinton rappelle dans l’interview que les IA qu’on a crées, lorsqu’on les entraine, construisent des moyens de résolution logiciels qu’on n’est plus capable de comprendre. Une tentative avait été décrite ici, sur un exemple probablement encore suffisamment simple .
          D’ailleurs, une IA entrainée sait désormais reproduire la musique portée abstraitement par celui qui l’écoute en interprétant des états électro-magnétiques : https://www.theguardian.com/science/2023/aug/15/scientists-reconstruct-pink-floyd-song-by-listening-to-peoples-brainwaves

          L’abstraction existe aussi dans la programmation. Elle en est même consubstantielle. Il est vrai que, pour le moment, c’est l’interprétation humaine des sorties des fonctions outputs qui leur donnent sens. Mais il n’est pas inconcevable que la machine finisse par se donner sens à elle même ?

          1. Avatar de Nikolaz
            Nikolaz

            Une précision pour clarifier la référence à l’article du Guardian. On ne sait pas dire pourquoi l’état mesuré du cerveau correspond à telle musique mais l’IA mise à profit permet de savoir à quelle musique cet état correspond.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Copilot: L’archétype de l’Ombre, selon Carl Jung, représente le “côté obscur” de notre personnalité. C’est une partie de notre inconscient qui…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta