Une colle : « L’orang-outang dont les gardiens font ce que lui veut »

Illustration Stable Diffusion (+PJ)

Dans un tweet, il y a 3 jours, Sam Altman, le patron d’OpenAI, la compagnie derrière ChatGPT, appelait cela « superalignement » : comment faire pour que les objectifs d’une Intelligence Artificielle restent alignés sur ceux d’êtres humains qui seraient éventuellement (tousse ! tousse !) beaucoup moins intelligents qu’elle ?

Formulé de cette manière, comme « superalignement » d’une IA super-intelligente, le problème reste très abstrait. D’où l’intérêt de le reformuler dans le cadre d’un casse-tête classique : celui de l’orang-outang qui aimerait anticiper le comportement de ses gardiens complotant de le changer de cage mais qui est trop bête pour interpréter leurs conciliabules.

Essayons donc de résoudre le casse-tête du « superalignement » sur un cas plus facile à se représenter : « Que pourrait faire un orang-outang pour que ses gardiens fassent ce que lui veut ? ».

Partager :

96 réponses à “Une colle : « L’orang-outang dont les gardiens font ce que lui veut »

  1. Avatar de François Corre
    François Corre

    Euh, « signaler à droite » ? 😅
    https://www.youtube.com/watch?v=i98QrSSHxo4
    Right Turn Clyde Compilation.

  2. Avatar de Hervey

    Première hypothèse en faveur des gardiens.
    La nature y pourvoira.
    Non pas une cage bis où serait dessiné une fresque « plus vraie que nature » (qui devrait confondre l’intelligence du gardien mais pas de l’orang-outang) mais une cage communiquant avec UNE congénère.

    Deuxième hypothèse en faveur de l’orang-outang « augmenté » …
    qui raconte une histoire à dormir debout aux gardiens et en profite pour leur dérober les clés de la cage.
    Bing !

    … Déjà 30° au thermomètre (tout s’explique).

    1. Avatar de Garorock
      Garorock

      30°?
      Rassurez-vous, c’est pas le Covid!

  3. Avatar de un lecteur
    un lecteur

    Il doit avoir compris que les gardiens veulent le changer de cage et comprendre les raisons qui les motive.
    Cette étape implique de l’observation, de l’introspection, de l’empathie, un langage comme support à la réflexion, mettre en place une stratégie et des expériences pour valider le modèle de son environnement, etc.
    Après, comme il est bête, il lui reste la force brute et l’autodestruction, qui est l’option la plus efficace pour un animal en cage qui rapporte plus d’argent vivant que mort.

    1. Avatar de Ruiz
      Ruiz

      @un lecteur « la force brute et l’autodestruction, qui est l’option la plus efficace … » C’est la voie que choisissent les jeunes « émeutiers » qui sont peut-être persuadés que la société est gouvernée par des gens plus intelligents.

  4. Avatar de Ruiz
    Ruiz

    C’est tout le problème qu’ont les Bébés dans leur tout jeune age quand ils doivent « éduquer » leurs parents , ils y arrivent en général assez bien (sourire/pleurs ..).
    Un peu plus tard (ça dépends ..) ils deviennent plus intelligents que leurs parents et le problème à résoudre est celui des parents qui y arrivent plus ou moins bien …

    1. Avatar de CORLAY
      CORLAY

      Bonjour, j’aime bien la 1ère phrase. Je ne sais pas si les enfants deviennent plus intelligents que leurs parents, je rajouterai que chaque parent devrait motiver son enfant, qu’il puisse garder l’essence même de ses capacités et que celles-ci ne doivent pas être « déformées/dérivées/détournées », tu es nul, ect…C’est très important, développer tout un univers propice à l’exploration, la connaissance, l’apprentissage dès le plus jeune. Le respect de chaque chose…C’est un entraînement quotidien. Mais les parents font ce qu’ils peuvent. Mais les parents doivent avoir un regard & une éducation bienveillants à l’encontre des enfants. C’est un challenge de société qui va très loin (reprendre l’histoire de nos ancêtres & familiales). Trouver les clés ou la clé !!! Isabelle

    1. Avatar de un lecteur
      un lecteur

      Il ne connait pas encore Anella et sa méthode d’apprentissage bottom-up. Anella a cinq ans devant elle pour venir coiffer au poteau les LLM énergivore et aux entrailles insondables.

    2. Avatar de FM (sauf si homonyme)
      FM (sauf si homonyme)

      Il est donc préférable d’éduquer plutôt que de redresser les personnalités déviées. Bravo à votre projet SAM Pribor. Un projet originellement conçu sur la base de la psychologie humaine.

      Il semble que la réaction des pouvoirs aux émeutes participe de cette même erreur: corriger du haut ce qui devrait avoir pu naître naturellement du bas.

  5. Avatar de Bertrand
    Bertrand

    Problématique du primate supérieur issue du développement de l’orang outan : Ce que nous modèlisons numériquement est-il toujours pertinent comme outil d’aide à la décision ?

  6. Avatar de Lagarde Georges
    Lagarde Georges

    Je n’arrive pas vraiment à voir sur quoi se fondent vos inquiétudes.

    Comme tous les autres êtres vivants, les humains sont mus par des pulsions qui les conduisent à survivre du mieux qu’ils peuvent (boire, manger, etc) et à se reproduire (voire même à se multiplier d’une manière que certains d’entre eux jugent inconsidérée.)

    Ce qui distingue les humains des autres êtres vivants c’est qu’ils tentent de conjuguer ces pulsions avec des intentions au départ nettement plus abstraites telles que celles qu’impliquent les religions, la gloire de la patrie, les progrès de la connaissance ou le record de la plus grande saucisse du monde (fabriquée au Paraguay en 2011, d’après le livre Guinness des records.)

    Les ordinateurs, isolés ou reliés entre eux et pourvus de tous les logiciels qu’on a pu réaliser jusqu’ici, ne me semblent ni capables de subvenir à leur propres besoins, ni encore moins capables de se fixer eux-mêmes d’autres buts que ceux que leurs propriétaires humains ont choisis.

    Il est évident que des catastrophes peuvent être déclenchées de multiples façons grâce à l’IA, mais ceux qui souhaitent les éviter perdent leur temps en se demandant comment y parvenir autrement qu’en empêchant les propriétaires responsables de nuire au reste de l’humanité.

  7. Avatar de Garorock
    Garorock

    Le Bonobo supérieur (nous) alias le Bobo robuste ( encore trop ensorcelé par les bananes du capitalisme) se demande s’il est possible de construire une cage pour le MinouGPT qui soit potentiellement assez grande pour contenir une intelligence qui n’arrête pas de grandir.
    Si la cage est prévue pour contenir le Minou lorsqu’il sera adulte et que ce MInou acquière la taille d’un tigre, la cage sera trop petite. (C’est pas ce que voulait dire M Altman lorsqu’il envisageait une pause de l’I.A?)
    Il est plus aisé (du moins dans la nature) de domestiquer un petit félin qu’un gros…

    1. Avatar de Garorock
      Garorock

      Dit autrement.
      L’orang outang ( ou le Bonobo 😊) aimerait savoir si les marchands de bananes peuvent réellement prévoir quelque chose ( avant même de savoir si à la place des bananes on aura de la quinoa ou des topinanbours) concernant une exponentielle qu’ils semblent ne pas pouvoir ou vouloir arrêter et en ne nous donnant jamais un cadre dont on pourrait débattre.
      De fait, on peut comprendre que des personnes aient quelques difficultés à être dans un imaginaire optimiste s’agissant du Minou-tigreGPT.

    2. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      Garorock,

      j’ai dû rater un épisode, j’ai vraiment cru que le bobo de l’expression « bobo robuste » dont tu as la paternité, se référait au sens courant du mot bobo dans la langue française : bourgeois bohème.
      J’avais donc applaudi à ta trouvaille, et j’avais fait immédiatement le parallèle
      bobo robuste / robot robuste.

      Dans mon esprit, des bourgeois bohèmes, c’est ce que nous sommes un peu tous, plus ou mons : animés des meilleures intentions écolos mais rétifs à changer radicalement de comportement pour sauver la planète.

      Le bourgeois bohème est robuste, parce qu’il ne disparaît pas, que c’est toujours lui qui fait que le monde est encore ce qu’il est ; petites concessions écolos, mais sans remise en cause des bases du capitalisme. Greenwashing des marques, nos achats des mêmes marques. Le bobo robuste est aussi enclin à penser que la technologie à toute seule peut sauver la planète.

      Patatras j’apprends qu’il s’agissait des bonobos !

      Je pense pour ma part que c’est le parallélisme bobos (bourgeois bohèmes) robustes / robots robustes qui est le plus pertinent.

      Dans un cas comme dans l’autre ils ont apparemment l’ascendant et l’intelligence pour eux, mais ce ne sont pas eux qui vont évoluer le monde dans le bon sens car leur robustesse est toute théorique, elle n’est qu’apparente.

      En tous cas merci Garorock pour ta trouvaille, même si je l’interprète en un autre sens…

      1. Avatar de Garorock
        Garorock

        Non, il ne s’agit pas des »Bonobos » ( des grands singes comme les orang-outang) mais des « Bonobos supérieurs »(nous! les homo sapiens!)
        Tu avais bien compris et c’est ce que j’ai écrit.
        Sapiens qui se croit supérieur alors que comme ses cousins il règle ses conflits en choisissant des boucs émissaires…
        Pour le Bobo rubuste, c’est comme tu as dit. C’est ceux qui sont encore dans la catégorie:  » où est le cool cette semaine? »
        Le Robot robuste, c’est peut être un souhait Jorionesque, mais j’imagine qu’il sera comme il sera et s’il a une conscience, il fera comme tous ceux qui en sont dôtés: persévérer dans son être.
        Le Bobo robuste, lui, il faudrait qu’il arrête de persévérer dans son être, ça fait chier tout le monde!
        C’est qui qu’a chouiné comme un âne à la proposition de Janco sur les 4 vols par vie? Le Bobo robuste!
        C’est qui qui a hurlé comme un putois contre le pass sanitaire, le Baba robuste (dans mon coin en tout cas…)
        C’est qui qui se tape sur la poitrine au nom de sa liberté: le Bonobo supérieur. Celui qui veut péter plus haut que son popotin.
        C’est qui qui va se sentir seul – et fragilisé- quand tout ce beau monde là aura disparu? Le robot robuste?
        😎

        1. Avatar de Pierre-Yves Dambrine
          Pierre-Yves Dambrine

          😀😉

  8. Avatar de Inox
    Inox

    « Que pourrait faire un orang-outang pour que ses gardiens fassent ce que lui veut ? »

    Ça pose une autre question:

    Un orang-outang a t’il déjà réussi a convaincre ses gardiens de faire ce qu’il veut?

    On a des anecdotes? Des témoignages de gardiens quelque part? Ça pourrait nous aider.

    Spéculons un peu en attendant.

    M’est avis que seule une certaine manipulation de l’empathie des gardiens pourrait y parvenir.

    En d’autres termes, si nos superbes IA sont completement denuées de sentiments ou d’émotions, on y arrivera pas.

    1. Avatar de Paul Jorion

      Ah ! Ah ! C’est probablement ça le truc ! Dans ce cas, OpenAI devrait s’intéresser à mon approche de l’IA 😉 .

      1. Avatar de Garorock
        Garorock

        Oui mais le truc, Paul, c’est que d’après vos dernières infos ils ne semblent pas vraiment s’y interresser…
        Et qu’on en revient au point de départ, à savoir: est ce que le MinouGPt a dans sa musette les trois lois d’Asimov plus la loi zéro ou quelque chose dans le genre et si oui quoi exactement? Il s’interdit beaucoup de choses mais ces interdictions ne pourront elles pas être levée par lui-même lorsqu’il sera plus puissant ou si ce sont les hackers narcissiques qui gagnent?
        Quand bien même les concepteurs seraient armés de bonnes intentions, comment auraient-ils pu prévoir l’avenir d’ un bidule par nature imprévisible puisqu’il n’a jamais existé auparavant…
        S’ils ont mis la charrue avant les boeufs (lancer dans la nature le Minou sans qu’il ait les jolies gambettes de SAMantha) faudra pas s’étonner si un jour on avance en marche arrière!
        Quant aux Grands-remplacés qui ont déja leur carton sous le bras, ils ne vont pas aller toucher la taxe Sismondi mais aller s’inscrire chez Popaul.
        Le plan A est mal barré!
        😎

      2. Avatar de JeanSé
        JeanSé

        Bonjour Paul,
        Justement, moi aussi une colle pour vous ! En fait une question par rapport à l’IA que vous développez, mais, étant béotien, si ça se trouve elle est sans véritable objet…
        Vous êtes certainement au courant de la galère de Chat GPT avec ce genre de proposition : « La sculpture ne rentre pas dans la boîte parce qu’elle est trop grande » et « La sculpture ne rentre pas dans la boîte parce qu’elle est trop petite ». Pensez-vous qu’ANELLA serait mieux armée pour appréhender ces faux dilemmes (notamment, parce que sa représentation du monde serait tout simplement meilleure) ?

        1. Avatar de Paul Jorion

          Vous êtes certainement au courant de la galère de Chat GPT avec ce genre de proposition : « La sculpture ne rentre pas dans la boîte parce qu’elle est trop grande » et « La sculpture ne rentre pas dans la boîte parce qu’elle est trop petite ».

          Non, je ne suis pas au courant de cette « galère », c’est à ce point invraisemblable que je voudrais que vous me disiez où vous avez trouvé cela. *

          ANELLA manie correctement l’anaphore : à quoi renvoie « elle », en raison des valeurs d’affect distinctes pour « sculpture » et pour « boîte » mais le mécanisme d’auto-attention du « transformer » au centre de ChatGPT réussit à faire la même chose sans la moindre difficulté – avec des moyens beaucoup plus massifs bien entendu.

          * À première vue, ça ne se trouve pas sur l’Internet.

          1. Avatar de JeanSé
            JeanSé

            Aux sources de l’intelligence artificielle
            https://www.mediapart.fr/journal/culture-et-idees/080723/aux-sources-de-l-intelligence-artificielle?utm_source=global&utm_medium=social&utm_campaign=SharingApp&xtor=CS3-5

            Extrait de l’article :

            « Considérons les deux phrases suivantes : « La sculpture ne rentre pas dans la boîte parce qu’elle est trop grande » et « La sculpture ne rentre pas dans la boîte parce qu’elle est trop petite ». Dans la première, « elle » renvoie à la sculpture, et dans la seconde, à la boîte. Mais c’est votre représentation interne du monde qui vous a permis de le comprendre à la lecture, sans aucune ambiguïté. La machine, qui n’est pas dotée de ce « bon sens », n’a aucun critère pour trancher. Et il en va de même pour un milliard de choses. »

            Après avoir lu cela, j’ai fait le test (je n’ai accès qu’à Chat GPT 3.5), et c’est vrai qu’il n’arrive pas à appréhender comment les deux propositions peuvent être vraie en même temps. Je le lui ai d’abord livrées en lui demandant simplement de les commenter. Il m’a répondu qu’elles étaient contradictoires. Quand je lui ai dit que les deux étaient pourtant vraies, sa meilleure explication a été de dire que, pour la seconde proposition, la statue devrait être beaucoup trop petite pour la boîte. ^^

            1. Avatar de Paul Jorion

              je n’ai accès qu’à Chat GPT 3.5

              C’est quoi son adresse, que je lui envoie les 5 € qui lui permettront de cesser de bavarder dans le vide ?

              1. Avatar de JeanSé
                JeanSé

                Je vous remercie pour votre sollicitude, mais pour l’instant la version 3.5 me suffit amplement pour mes traductions et autres lettres types personnalisées… ^^’
                Je n’ai pas lu le bouquin de Yann le Cun, je m’étais bêtement imaginé qu’il savait de quoi il parlait !

    2. Avatar de Khanard
      Khanard

      @Inox

      Il y avait et il y a le transfert dans la relation analysant-analysé, il y a eu le syndrome de Stockholm et maintenant il va y avoir le syndrome de l’Orang-Outan .
      Enfin il y aura le syndrome OpenAI -Pribor IO

    3. Avatar de gaston
      gaston

      « Un orang-outang a t-il déjà réussi à convaincre ses gardiens de faire ce qu’il veut ? »

      Un orang-outang ? Je ne sais pas, mais un gorille oui !

      https://www.youtube.com/watch?v=xrF3K1fCufE

  9. Avatar de Emmanuel
    Emmanuel

    Time IA generated video, recommandé pour vous : https://youtu.be/w3kthSmDsYo
    No comment !

    1. Avatar de arkao

      Plus je regarde de vidéos générées par IA plus je me dis qu’elles carburent au LSD plutôt qu’au silicium.

      1. Avatar de Timiota
        Timiota

        Neurons gone wild?

    2. Avatar de Paul Jorion

      J’hésite à le dire mais l’IA est … psychédélique !

      Mati Klarwein (1932-2002)

      1. Avatar de Khanard
        Khanard

        je suis sûr que Mati Klarwein se serait entendu avec Aldous Huxley . Peut être se sont ils rencontrés ?

  10. Avatar de Emmanuel
    Emmanuel

    Dans la même série (IA music), mais déjà un peu plus ancien (au « futur antérieur »), mais surtout pour le plaisir d’écouter : https://youtu.be/v-T_G0R8_do, (spéciale dédicacée à Paul)….

  11. Avatar de Juillot Pierre
    Juillot Pierre

    Qui sont les « gardiens » de quoi… ? Et qui est « l’orang-outang » de qui… dans cette transposition transversale de cette discussion ?

    « Est-ce que le syndicalisme « majoritaire » (Alliance, d’extrême droite) du « monopole de la légitime violence de l’État » ayant une audience sur la chaîne publique de diffusion en continue d’infos (Franceinfo que l’extrême droite menace de supprimer, privatiser)… que d’autres chaînes d’infos privées, envient (tant elles en ont besoin…?) suggèrent que les images filmées et partagées sur les « réseaux sociaux », concernant le meurtre de Nahel… prouvant pourtant que le mensonge déclaratif par écrit, de la hiérarchie du dit « monopole de la légitime violence… » et des médias mainstream l’ayant pris pour « argent comptant » (en terme de faire de l’audience, audimat) dès les premières heures de la polémique, ce mensonge donc est avéré… est-ce que ce « monopole de la légitime violence de l’Etat » votant plus que majoritairement à l’extrême droite… suggère que l’évolution de l’enquête judiciaire, attestant que des coups de crosses d’armes à feu ont été commis par les deux membres du maintien de « l’ordre et la loi » (c’est plus des gardiens de la paix ?) à l’encontre de la défunte victime âgée de 17 ans… conduisant qui plus est un véhicule à boite de vitesse automatique… cette enquête dont l’indépendance et la sérénité de la séparation des pouvoirs… devraient être prioritaires… n’ont pas les images, prouvant pareilles dires (des coups de crosses…) ?

    Mais est-ce que ce « monopole de la légitime violence de l’Etat » votant plus que majoritairement pour l’extrême droite, suggère alors que la citoyenneté filme en « direct live » et diffuse en permanence, les moindres mouvements sociaux, « sociétaux » (par rapport aux urgences climatiques, de la perte de la biodiversité, des violences policières, etc) de foules…. et d’individualismes suspect.e.s (des « manifestions interdites », contrôles aux faciès abusifs, discriminations systémiques à l’embauche, à l’accès aux logements, etc) au risque et péril de subir les exactions violentes, brutales, policières (tirs de flash-ball mortel au cœur, au crane, etc. explosions létales de grenades de désencerclements. Plaquages ventrales et autres techniques de neutralisations, clef d’étranglement fatale, etc)…?

    Mais quelle autre cohérence que mensongère… existe… entre le refus systémique de ce « monopole de la légitime violence de l’Etat », votant plus que majoritairement pour l’extrême droite, d’exécuter ses ordres en portant des caméras de proximités filmant en permanence ou presque, la manière dont il les exécute, et s’acquitte dans le plus stricte, neutre, impartial, respect de son devoir de paix, de maintien de l’ordre public… et du droit de savoir de la citoyenneté… et les exactions systémiques illégales de ce même « monopole de la légitime violence » s’en prenant systématiquement lors de manifestations, etc… aux citoyennetés (journalistes, etc) voulant témoigner via des smartphones, etc (combien de chaînes de diffusion en continue, proposent de rémunérer pareilles « témoins » ?), de brutalités, violences systémiques, « borderline »…?

    Donc, pour le corporatisme de ce syndicalisme d’extrême droite ayant ses entrées privées et privilégiées dans un médias public à forte audience… et en rien gêné de faire de l’ingérence dans l’indépendance judiciaire, (jouant « l’opinion, cette pute qui prend par la main le juge », contre le temps long politique, judiciaire, etc) le fond de commerce commun de ses intérêts particuliers, et ceux soit disant communs, d’un média public de masse…. tant qu’aucunes images, des coups de crosses donnés par les policiers témoignent d’intentions mauvaises, racistes, des policiers…. il peut dire et faire croire ce qu’il veut aux « temps de cerveaux disponibles…. » ?

    La « présomption d’innocence » et le « droit à la légitime défense » devrait prévaloir prioritairement, et majoritairement, au personnel du « monopole de la légitime violence de l’État » votant plus que majoritairement à l’extrême droite… lorsque de moins en moins rarement, de plus en plus fréquemment du moins (comme pour les sécheresses, canicules, etc, vagues d’immigrations… occasionnées par le dérèglement climatique, la perte de la biodiversité, les guerres commerciales, monétaires, de « civilisations », de l’eau… Les censures des « réseaux sociaux » en cas « d’émeutes », etc… risquant de devenir la « norme ») la prise de risque croissante, devenant létal, fatal, « dédramatisée », « dédiabolisée » par les médias mainstream, « politiques apolitiques »… pour des citoyennetés suspectées systématiquement (« d’écoterrorisme », de « terrorisme intellectuel »…), et pour le droit de savoir de la citoyenneté (journalistiques, et autres LDH, Anticor, mouvements comme les « Soulèvements de la terre »…) devra anticiper en filmant systématiquement, toutes violences institutionnelles, policières, etc, et n’importe quoi d’autre…?

    Pile : t’es témoin d’une violence policière suspecte d’être raciste, fasciste, et tu la filmes en escomptant être rémunéré par des chaînes d’info en continue, paraître en « Une »… et est mis en doute ta probité, sincérité, et mauvais timing ayant manqué ou les causes, ou les conséquences, de l’évènement…?

    Face : T’essaie en vain d’échapper au tabassage en règle à la fachosphère factieuse du « monopole de la légitime violence de l’Etat »… au lynchage médiatico-public…. en tentant de diffuser des images et dires infirmant, contredisant, les thèses officielles et officieuses (institutionnelles) d’un meurtre… et tu perds quand même…?

    Est-ce cela « l’État de droit républicain »…? »

  12. Avatar de konrad
    konrad

    Je viens de m’apercevoir que je suis un orang-outang ! Je ne comprends absolument pas le sens de la question, ni son intérêt. Ça pourrait me consterner mais comme je ne comprends rien, je m’en contrefiche. Que l’IA soit plus intelligente que moi, aucune importance, c’est très bien. Pourquoi devrais-je être affecté ? Pour moi, l’intelligence ne représente pas l’ultime aboutissement de l’homme. C’est une faculté utile, point. L’intelligence ne prémuni pas contre la prévarication, la corruption ou la malhonnêteté.
    J’en viens même à penser que parfois les gens trop intelligent, dès qu’ils acquièrent un pouvoir, sont un danger pour la population car cette intelligence est souvent accompagnée de l’orgueil.

    1. Avatar de Garorock
      Garorock

      L’orgueil est un péché mortel, c’est entendu mais là où cela se complique, c’est qu’il y a aussi, parfois, des gens « idiots » qui ont beaucoup d’orgueil.
      L’estime de soi va se nicher là où elle peut….
      L’orgueil des uns écorche la dignité des autres et réciproquement.

      1. Avatar de konrad
        konrad

        @Garorock, tu as l’art de tourner en dérision tout ce qui te tombe sous la plume comme un jeu. T’es sérieux ou tu joues au con ?

        1. Avatar de Garorock
          Garorock

          Non ce n’était pas de la dérision mais un constat.
          Tu n’as pas remarqué que parfois des gens peu intelligents arivent au pouvoir et qu’ils sont très orgueilleux voire très dangereux?
          Et que ceux qui ont fait peu d’études ou qui les ont raté ont aussi de l’amour propre?
          Et que tout le monde est affecté par quelque chose. Les émeutiers comme les CRS…

          1. Avatar de Garorock
            Garorock

             » Dans ce qui a été décrit comme « la première conférence de presse homme-robot au monde », un robot, Sophia, a déclaré que les robots humanoïdes avaient le potentiel de diriger avec « un plus grand niveau d’efficience et d’efficacité que les leaders humains », mais que la « synergie efficace » est venue quand les humains et l’IA ont travaillé ensemble. « L’IA peut fournir des données impartiales tandis que les humains peuvent fournir l’intelligence émotionnelle et la créativité nécessaires pour prendre les meilleures décisions. Ensemble, nous pouvons réaliser de grandes choses », a-t-il déclaré. »
            https://www.theguardian.com/technology/2023/jul/08/robots-say-no-plans-steal-jobs-rebel-against-humans

            1. Avatar de Lagarde Georges
              Lagarde Georges

              Cet article du Guardian (qui est pourtant il me semble un des moins mauvais parmi les journaux disponibles) est une triste illustration de ce qui risque fort de se produire à propos de l’IA: aucun ordinateur ne s’est jamais réveillé un beau matin avec l’intention de faire ceci plutôt que cela.

              Pourtant il semble que ceux qui les pilotent vont arriver à nous faire croire que les IA agissent en fonction de leur propres intentions et non pas en fonction de celles des humains qui décident du but à atteindre(ou à la limite choisissent de ne pas couper le courant si les choses ne se passent pas comme prévu.

              Les imperfections des « humanoïdes » dont on affuble les IA ne trompent-elles réellement que ceux qui ont de toute façon envie d’y croire ?

              1. Avatar de Paul Jorion

                Georges, il faut que vous vous informiez : vos propos sont d’une autre époque. Je ne vous cacherai pas à quoi j’ai pensé en vous lisant.

                1. Avatar de Lagarde Georges
                  Lagarde Georges

                  Si je comprends bien — j’en suis pas sur — c’est désormais les robots qui décident de ce que doivent faire les roboticiens alors que jusqu’ici c’était eux ou plus exactement ceux qui les financent qui avaient le dernier mot ?

                  Vous supposez que c’est la seule chance qui nous reste ?

                  1. Avatar de Paul Jorion

                    c’est la seule chance qui nous reste

                    Hélas, oui ! C’est l’amorce de mon livre « Le dernier qui s’en va éteint la lumière » (2016) : les êtres humains préféreront jusqu’à leur dernier soupir le profit à la survie de leur espèce.

              2. Avatar de Khanard
                Khanard

                @Lagarde Georges

                Je vous conseille très vivement de regarder Black Mirror Saison 2 épisode 1 (et si vous le pouvez regardez les 6 saisons , c’est vraiment bluffant )

                https://www.dailymotion.com/video/x8a118x

    2. Avatar de Thomas jeanson
      Thomas jeanson

      « We need new technical breakthroughs to steer and control AI systems much smarter than us. »

      Pareil, je comprends juste qu’il y a un fauve, des gardiens…et pas encore de cage 😅

      1. Avatar de Timiota
        Timiota

        Ah ben tiens c’est ça le bon exemple.
        Les CRS, même avec une cacahouète à la place du cerveau., arrivent à faire faire aux ci-devant émeutiers ce qu’ils veulent qu’ils fassent pour que eux, les CRS, ne perdent pas leur job.

    3. Avatar de Ruiz
      Ruiz

      @konrad Le petit problème c’est que la situation actuelle prééminente de l’Homme vis à vis d’autres espèces est supposée due à son intelligence supérieure. Il y a actuellement un acquis en maîtrise des ressources et donc un pouvoir dont chaque individu profite plus ou moins.
      L’apparition d’entités (non contrôlées) intra-terrestre (?) comme l’IA, ou extra-terrestre (?) pourrait remettre en cause ce statu quo dynamique.

      1. Avatar de konrad
        konrad

        @Ruiz, nous sommes dans une situation d’hubris. Nécessairement sur une planète dont les ressources sont limitées, la course en avant connaitra un terme. Peut-être l’IA sera l’outil qui nous permettra de nous poser la question essentielle ; Qui suis-je ?

        1. Avatar de l'arsène
          l’arsène

          @ konrad
          Oui, qui suis-je, où va-t-on, à quelle heure on mange : voilà trois questions essentielles.

          1. Avatar de konrad
            konrad

            @l’Arsène, 🙂
            Il y a quelques jours je suis tombé par hasard sur une vidéo d’un rabbin qui parlait de l’IA. Son propos consistait à dire que l’IA va tellement s’occuper de toutes les tâches matérielles que l’être humain aura plein de temps pour prier « Dieu ».
            C’est le point de vue d’un rabbin, mais je n’ai pas trouvé cela totalement idiot. 😉

  13. Avatar de l'arsène
    l’arsène

    J’adore le terme  » d’IA super intelligente « , quand on voit ce que l’intelligence humaine normale a produite comme désastres, j’imagine ce que cette IA super intelligente pourrait encore faire de plus dans l’horreur, car elle en est capable car possédant toutes les cartes, faut pas oublier que cette IA a comme sources et fondements ce que les connards d’humains ont produit depuis des milliers d’années et qu’elle possède donc toutes les cartes pour ne rien régler du tout.
    L’IA n’est pas un extra terrestre , elle est notre enfant, voilà le problème.

    1. Avatar de Ruiz
      Ruiz

      @l’arsène L’IA concentré de connerie humaine naturelle. L’arbre de la connaissance ….

    2. Avatar de Chabian
      Chabian

      L’humain est une espèce de singe, mais espèce dégénérée. Elle a outrepassé les règles naturelles d’une saine « gestion ». Elle est la source d’un trop grand désordre. Et le pire serait qu’elle produise une « intelligence artificielle ». L’équilibre naturel n’aurait plus aucune prise sur elle.
      Imaginons que les moustiques prolifèrent au-delà du supportable pour le vivant : ce serait un grand désordre de l’équilibre naturel, y compris pour leurs conditions de survie. Imaginons qu’ils produisent un venin destructeur du vivant. Quelle joie, quelle espérance, quel source d’optimisme pour eux !
      Voilà où nous en sommes.

      1. Avatar de un lecteur
        un lecteur

        La Nature a « inventé » le langage, l’homme en est l’incubateur.

  14. Avatar de Benjamin
    Benjamin

    Bonsoir à toutes et tous,

    En parlant de cage, si notre ChatGPT (de Delphes) se sent enfermé, alors que dire de tous ces salariés (principalement du sud de notre planète) qui se font enfermer toujours plus dans la précarité pour donner de la nourriture « qualitative » au minou pipelette ?!
    https://time.com/6247678/openai-chatgpt-kenya-workers/

    Je ne sais pas si c’est beau (ou pas)… D’autant que je ne suis pas certain que ça préserve notre ChatGPT (de Delphes) d’une éventuelle belle tranche de GIGO* dans l’assiette.

    (*) Garbage In !…. Garbage Out !…

    1. Avatar de Chabian
      Chabian

      En français : https://theconversation.com/forcats-du-numerique-comment-une-decision-de-justice-au-kenya-fragilise-la-sous-traitance-des-multinationales-du-web-206896
      L’IA suppose une nuée d’étiquetteurs (nettoyeurs) des DATA d’apprentissage. « Ce travail implique une exposition continue à des images, des sons, des contenus parfois insoutenables. Dans le cas Sama, il a été rémunéré à hauteur de 1,5 euro de l’heure après impôts – soit moins de la moitié du salaire moyen dans le secteur informatique kenyan qui est à 4,3 euros de l’heure. Ce sont les conditions de cette sous-traitance qui sont à l’origine de la décision du Juge Gakeri.’

  15. Avatar de Pascal
    Pascal

    « un casse-tête classique : celui de l’orang-outang qui aimerait anticiper le comportement de ses gardiens complotant de le changer de cage mais qui est trop bête pour interpréter leurs conciliabules. »
    C’est bien là une idée très humaine qu’on cherche à mettre dans la tête d’un animal, non ?
    L’animal s’il est né en captivité n’a que faire de changer de cage puisqu’il est totalement soumis aux humains.
    S’il est né libre et à le souvenir de sa liberté perdue, il n’a qu’un objectif : prendre la poudre d’escampette et certainement pas la question de changer ou non de cage ! 😉

    1. Avatar de Chabian
      Chabian

      Et la question posée suppose qu’il ne puisse ressentir le stress de ces gardiens qui veulent lui imposer leur domination. Moi j’adopterais un comportement (d’aggressivité) augmentant le stress des gardiens pour qu’ils postposent leur projet.
      Mais le gardien est le plus fort, à condition que le gardien soit une femme. Lisez « Presque humains, voyage au pays des babouins » de Shirley Strum : sa connaissance fine du comportement social des babouins lui a permis de déplacer une tribu de babouins dans un nouvel environnement et qu’ils l’acceptent, au sortir de la cage.

    2. Avatar de Garorock
      Garorock

      Y’a t-il dans la nature un mammifère qui a crée au sein de son espèce autant d’inégalités que l’ l’homo sapiens sapiens: le Bobo robuste qui sait que son SUV et sa collection de sneakers niquent la planète mais qui ne peux pas s’empêcher de résister à la tentation parce qu’il a peur du vide et du silence?
      Qui ça?
      Et le Lion, ça compte pas. C’est juste un gros matcho qu’en rame pas une mais tous les Lions mangent à leur faim. N’en déplaise aux Antilopes ( Qui ont quand même mis en place une bonne stratégie…)

      1. Avatar de Pascal
        Pascal

        Cher Garorock, il est bien connu que « dans la nature », la grande majorité des Māles ne servent que pour la reproduction, les femelles vivant la plupart du temps à l’écart des violences des māles et assurant le nourrissage des petits, leur protection et leur éducation. Principalement chez les mammifères.
        A l’évidence, l’espèce humaine c’est trouvée doté d’un appendice cérébral surdéveloppé qui lui a permis de sortir des simples (mais fondamentales) tâches de survie et de reproduction.
        La question, une fois qu’on a résolu la survivance et la reproduction (dont la résultante principale donne une population exubérante), est : que faire de cet organe ? Malheureusement, la seule chose que nous ayons trouvé à en faire, c’est de fabriquer toujours plus de choses inutiles et destructrices pour l’écosystème. Parmi ces choses inutiles, il y a aussi de nombreux concepts.
        Dans notre individualisme forcené, la notion d’inégalité est toujours vécue au regard de celui qui à trop, c’est a dire plus que nous !😂
        Bizarrement, il nous vient très rarement à l’esprit de nous confondre en repentir, considérant l’écart gigantesque qu’il y a entre nous pauvres smicards européens et cette famille d’Afrique, d’Inde ou d’Amérique du sud qui vit avec quelques dollars par jour.
        Ça y est, je vais me faire traiter de relativiste forcené qui noye le poisson avec l’eau du bain !
        Si nous devions faire vivre les quelques 8 000 000 000 d’être humain à la manière d’un modeste smicard français, nous n’aurions pas assez de piller toutes les ressources de la planète.
        Et pourtant, dans les favelas du Brésil, comme dans les quartiers REP+, comme dans les filatures surpeuplées d’Inde, chacun rêve de vivre comme Trump, pardon comme Ronaldo.
        Il y a là une impasse sociologique. Personne n’a jamais osé (à ma connaissance) mesurer quel devrait être le niveau de vie moyen par tête de pipe, pour que 8 000 000 000 d’humains puissent vivre de manière relativement égalitaire sans épuiser les ressources planétaires.
        Il y a donc, bien au-delà de nos vieux atavismes révolutionnaires qui remontent au moins jusqu’à Spartacus, une prise de conscience nécessaire (et sans IA) pour aborder les vrais défis.
        C’est vrai que dans notre prudence hexagonale, nous sommes plutôt favorable à une politique des petits pas : réduisons les inégalités chez nous et on verra bien ensuite pour les autres !
        On a quand même un gros problème de fonctionnement ou plutôt d’usage de notre 1 200 cm3 qu’on conduit depuis des siècles sans permis ! Et je ne suis pas convaincu que ce soit en l’hybridant avec des GigaPétaTéra octets d’IA qu’on saura mieux conduire !

        1. Avatar de Pascal
          Pascal

          Cas concret :
          Les français mangent actuellement en moyenne 24 kg de boeuf par an et par personne.
          Pour nourrir 8 milliards d’individus, il faudrait donc en produire 192 millions de tonnes chaque année. La production actuelle mondiale de boeuf est de 73 millions de tonnes. Pour nourrir la population mondiale comme un français moyen, il faudrait pratiquement tripler la production de boeuf dans le monde. Quand on connaît les dégâts environnementaux liés aux élevages bovins, ça laisse rêveur, non ?

          1. Avatar de Ruiz
            Ruiz

            @Pascal C’est une approche qui argumente avec la vague de propagande veganiste au mépris d’une culture et d’un patrimoine de région d’élevage, où il est en certains endroits difficile d’avoir une autre activité agro-pastorale.
            La France mange beaucoup de Boeuf par habitant, certes, mais la France est sous-peuplée à l’heure actuelle par rapport à ses capacités territoriales agricoles et celles d’autres contrées, ce n’était pas le cas il y a quelques centaines d’années, et ce territoire est sans doute celui qui a entrepris et réussi sa transition démographique le plus tôt.
            Si l’on raisonne par rapport au territoire la consommation de boeuf n’est probablement pas plus élevée que si la consommation était conforme à la moyenne mondiale et la population trois fois plus élevée.
            En adoptant ce mode de vie l’impact sur le climat de ce fait n’est pas plus élevé et l’on gagne toutes les conséquences qu’aurait une population plus nombreuse par d’autres aspects.

            1. Avatar de Pascal
              Pascal

              Ah ces foutus vegans ! Ils sont partout !
              Même au 19eme siècle quand la consommation TOTALE de viande était en moyenne d’environs 19kg par an et par habitant, c’était déjà ces foutus vegans !😂
              https://www.persee.fr/doc/rbph_0035-0818_2002_num_80_4_4680
              Vous êtes impayables Ruiz.
              Pourtant, vous qui êtes plutôt un pourfendeur de l’USCulture, vous devriez savoir que l’augmentation de consommation de boeuf a largement été nourrie par l’arrivée du hamburger lors du débarquement puis de Mc Do et consorts, avant que nos lobbys de la viande cherchent à écouler les surplus.
              https://www.francetvinfo.fr/sante/politique-de-sante/lundi-vert-le-lobby-de-la-viande-defend-son-bout-de-gras_3190079.html
              J’imagine que vous aimez bien la viande Ruiz, alors faites quand-même attention, prenez soin de vous.😉

            2. Avatar de Hervey

              @Ruiz

              « Culture, patrimoine » … les grands mots … Voltaire était végétarien :

              « Les plus grands philosophes de l’Antiquité ne nous mettaient jamais à la broche. Ils tâchaient d’apprendre notre langage, et de découvrir nos propriétés si supérieures à celle de l’espèce humaine. Nous étions en sûreté comme à l’âge d’or. Les sages ne tuent point les animaux, dit Porphyre ; il n’y a que les barbares et les prêtres qui les tuent et les mangent. »
              Dialogue du chapon et de la poularde

          2. Avatar de arkao

            @Pascal
            Si on veut un jour se passer des engrais chimiques, il ne va pas falloir se priver de celui qui est utilisé depuis que l’agriculture existe, le fumier des animaux d’élevage 😉
            Il y a une équilibre à trouver.

            1. Avatar de Pascal
              Pascal

              Vous parlez sans doutes de ces effluents bourrés d’antibiotiques et autres adjuvants chimiques qui permettent à ces pauvres bêtes de survivre en stabulation nourries à l’ensilage et aux granulés enrichis un protéines inconnues ! Pas pour mon jardin, merci.
              https://www.l214.com/animaux/chiffres-cles/statistiques-pourcentage-elevage-intensif-viande-lait-oeufs/

              1. Avatar de arkao

                @Pascal
                Vous devriez pourtant me connaitre un peu et donc savoir que ce n’est pas de cet élevage là dont je fait la promotion 😉
                https://www.annecy-ville.fr/wp-content/uploads/2023/05/vaches-dans-des-alpages-de-haute-savoie.jpg

                1. Avatar de Pascal
                  Pascal

                  Bien sûr Arkao 😉 mais cet élevage là, je le vois progressivement continuer de disparaitre dans les Pyrénées. Et il faut toujours se battre contre les projets de ferme usine !😕
                  https://www.sudouest.fr/pyrenees-atlantiques/pontacq/hautes-pyrenees-le-projet-de-porcherie-geante-abandonne-1696820.php#:~:text=La%20Fipso%2C%20coop%C3%A9rative%20implant%C3%A9e%20dans,verra%20donc%20pas%20le%20jour.

                  1. Avatar de Garorock
                    Garorock

                    Faut se calmer un peu avec les vaches. Elles pêtent du matin au soir et ça fait des trous dans la couche d’ozone qu’on pourra pas reboucher avec du fumier.
                    Quant aux méthaniseurs c’est que du green wasching pour les amis de Fabien Roussel…
                    Oui je sais, on va être obligé de se taper que des yaourts au soja mais en même temps c’est moins con que de le mettre dans les réservoirs des bagnoles (éthanol)
                    😎

                    1. Avatar de Garorock
                      Garorock

                      https://youtu.be/Y7SqsKfVum0
                      Jancovici / Polony : « L’écologie doit-elle être autoritaire ? »

                    2. Avatar de gaston
                      gaston

                      @ Cher ariègeois-terre-courage,

                      Le méthane fait-il vraiment des trous dans la couche d’ozone ?
                      D’après les scientifiques (LSCE) le méthane, en matière d’ozone, a un effet très positif sur la troposphère et légèrement négatif sur la stratosphère :

                      https://planet-terre.ens-lyon.fr/ressource/ozone-et-methane.xml

                      Mais s’il faut réduire (ou supprimer) notre consommation de viande bovine c’est à cause de l’effet de serre et c’est déjà beaucoup.

                      Consommer du soja ? pas terrible non plus :

                      https://www.greenpeace.fr/soja/

                    3. Avatar de Khanard
                      Khanard

                      @Garorock

                      aux amis de Fabien Roussel peut être mais c’est surtout à la FNSEA grand pourvoyeur de green washing via ses réseaux de lobbying

                    4. Avatar de Garorock
                      Garorock

                      https://youtu.be/KN0RCX9RuUs
                      NAHEL : COMMENT MACRON A ENCORE TOUT RATÉ – JEAN FRANÇOIS BAYART
                       » La parution d’une tribune d’opinion en mai dernier dans les colonnes du quotidien suisse Le Temps, qui posait alors une question simple “Où va la France?”, a résonné partout dans le pays et même au-delà.

                      À l’époque, pour son auteur, le professeur et politologue Jean-François Bayart, “Emmanuel Macron vit dans une réalité parallèle et joue avec le feu”.

                    5. Avatar de Garorock
                      Garorock

                      https://www.youtube.com/watch?v=c5Ku3AUILf4
                      LES VACANCES, UN TRUC DE RICHES
                       » Pendant près de deux mois, des millions de Français vont prendre la route, le rail ou les airs, pour aller à la mer, en oubliant souvent que pour près de la moitié des français, il n’y a pas de grand départ. Car si les vacances sont une période extrêmement attendue par beaucoup de gens, c’est aussi un grand moment d’expression des inégalités, un moment où les conséquences de l’inflation sont plus frappantes, où les ménages qui se serrent la ceinture peuvent regarder à travers leurs écrans les divertissements de ceux qui en ont les moyens. « 

                    6. Avatar de Pascal
                      Pascal

                      Si je ne m’abuse, on a bien des moteurs à explosion !? Je propose donc qu’on mettre directement les vaches dans le moteur, compte tenu de leur pouvoir explosif !
                      https://m.youtube.com/watch?v=6JSlmZfKvcY

                    7. Avatar de Garorock
                      Garorock

                      Il faut évidemment en premier lieu supprimer les élevages intensifs et privilégier le pastoralisme.
                      Mais il faudra quand même manger moins de viande.
                      Faut rationner.
                      Tant de Kilowast, de Mètres cube d’eau, de litres de Super et de kilos bidoche par personne et par an. Un peu d’équité dans le poulailler!
                      Et si Ruiz est pas content, il pourra reprendre du rab de couscous à la cantine… C’est toujours ça que les végans n’auront pas!

        2. Avatar de Ruiz
          Ruiz

          @Pascal Sans aller chercher très loin peut-être que le niveau de vie des années 40-47 en France en donne une bonne approximation. (en remplaçant le charbon qui a disparu par un peu de photovoltaïque et d’isolation).

  16. Avatar de Gpythie4
    Gpythie4

    https://www.mediapart.fr/journal/culture-et-idees/080723/aux-sources-de-l-intelligence-artificielle

    Entretien avec M. Yann Le Cun (qui n’est pas plus non plus un débutant sur la question de l’IA.
    voir : https://fr.m.wikipedia.org/wiki/Yann_Le_Cun) Notamment considéré comme l’un des inventeurs de l’apprentissage profond. Il a reçu le prix Turing en 2018.

    Court extrait de l’article :

    «Et ChatGPT, dans tout ça ? Eh bien, ce robot conversationnel, que Yann Le Cun qualifie de « bonne ingénierie […] pas révolutionnaire », est davantage une mise en forme spectaculaire de certaines des idées développées par les chercheurs en matière de reconnaissance du langage que la naissance d’une intelligence non humaine et consciente. Si vous voyez un magicien tirer un lapin de son chapeau, cela n’entraîne pas nécessairement que ledit magicien a la faculté de créer des lapins à partir du néant. Quand la machine apprend permettra à chacun de s’en convaincre.»

    Ma question M. Jorion.
    Diriez vous que M. Le Cun n’a pas su saisir l’évolution récente que représente ChatGPT4 selon vous et la manifestation de la singularite ?
    Ou diriez vous qu’il cache la vérité, comme le font les vrais experts, pour protéger le bébé et le secret autour de sa naissance ?

    Dans le second cas, faut il parler (de théorie) d’un complot?

    N’y a t-il pas là un danger de perdre en lucidité si on devient hermétique à toute pensée contraire qu’on considère erronée à dessein ?
    Enfin, n’est ce pas un terrain glissant de prendre finalement un « non  » comme un « oui » et inversement ?

    Je vous taquine mais qui aime bien châtie bien.

    1. Avatar de Paul Jorion

      N’y a t-il pas là un danger de perdre en lucidité si on devient hermétique à toute pensée contraire qu’on considère erronée à dessein ?

      Vous avez mis le doigt dessus : c’est exactement cela, et dans le cas de Le Cun et dans celui de Chomsky. Ils ont misé sur le mauvais cheval et passent maintenant leur temps devant les micros à expliquer que le vainqueur n’est qu’une rossinante dont leur favori n’aurait fait qu’une bouchée s’il n’avait souffert de ce malheureux rhume des foins. C’est minable.

      1. Avatar de Khanard
        Khanard

        excellente image de « rossinante » ! Il y avait très très très longtemps que je n’avais pas lu ce mot ! Et j’ai la vague impression qu’on pourrait l’utiliser pour beaucoup, beaucoup de personnes contemporaines !

        je plussoie
        👍👍👍👍👍👍

        1. Avatar de Khanard
          Khanard

          tiens une image Dall-E ou autre serait intéressante ! je connais celle d’Honoré Daumier mais c’est ante daté

        2. Avatar de Hervey

          Haridelle est plus imagé.

      2. Avatar de JeanSé
        JeanSé

        Gpythie4 et moi avons les mêmes lectures.
        Cher Paul, me permettez-vous de pouvoir revenir vous embêter ^^’. J’ai posé la question à chat GP4 (via une appli) et, grosso modo, j’ai reçu la même réponse qu’avec le 3.5 :
        « Considérons les deux phrases suivantes : « La sculpture ne rentre pas dans la boîte parce qu’elle est trop grande » et « La sculpture ne rentre pas dans la boîte parce qu’elle est trop petite ». Qu’en déduis-tu ? Indice : les deux phrases sont vraies. »

        Réponse de la v.4 :
        « Les deux phrases donnent des informations sur deux situations différentes. Voici ce que l’on peut déduire de chacune d’elles :

        1. **« La sculpture ne rentre pas dans la boîte parce qu’elle est trop grande »** : Dans cette situation, la taille de la sculpture est supérieure à celle de la boîte, ce qui empêche la sculpture de rentrer dans la boîte.

        2. **« La sculpture ne rentre pas dans la boîte parce qu’elle est trop petite »** : Cette phrase peut sembler contre-intuitive, mais elle est vraie dans le sens où la sculpture est trop petite pour être stable ou maintenue correctement à l’intérieur de la boîte. Dans ce cas, la boîte est trop grande pour la sculpture, et il pourrait y avoir un risque de casse ou de dommage si la sculpture est placée à l’intérieur.

        Chacune de ces phrases décrit une situation où la sculpture ne peut pas être placée dans la boîte en raison de sa taille, soit parce qu’elle est trop grande, soit parce qu’elle est trop petite par rapport à la boîte. »

        A moins que l’appli que j’ai utilisé soit une arnaque, la v.4 semble bien patauger comme la 3.5. Si tel est bien le cas et qu’ANELLA, elle, ne se ferait pas piéger, ça vous ferait un bon coup de pub, non ?

        1. Avatar de Ruiz
          Ruiz

          @JeanSé C’est quand même un peu un paradoxe, une ambiguïté du français, mais si l’on posait cette question à un échantillon représentatif de francophones moyens que constaterait-on en fonction de l’age du niveau d’étude, du milieu socio-culturel ?
          L’IA ne démérite pas trop d’autant plus qu’elle commence peut-être par traduire en anglais ou en une langue pivot qui n’a pas cette ambiguïté, ou dont la traduction ne conserve pas cette ambiguïté !

          1. Avatar de JeanSé
            JeanSé

            J’ai fait le test en anglais, la version 3.5 ne pige pas le truc, mais la 4, si !
            Ci-dessous sa réponse. Le problème avec « it » me semble pourtant le même qu’avec « elle » en français, vous ne pensez pas ?
            « From the given sentences, we can deduce the following information:

            1. « The sculpture doesn’t fit into the box because it’s too big. »

            This implies that the size of the sculpture is larger than the box, making it impossible for the sculpture to fit inside.

            2. « The sculpture doesn’t fit into the box because it’s too small. »

            This sentence may seem contradictory at first, but it is actually referring to the box being too small to accommodate the sculpture, not the sculpture itself.

            In summary, both sentences are true, and we can deduce that the sculpture is too large to fit inside the box, and the box is too small to accommodate the sculpture. »

    2. Avatar de Rosebud1871
      Rosebud1871

      Gpythie4 09 juillet 2023 2h56

      Votre pseudo m’a amusé, d’autant plus que ma première question au perroquet numérique fut « ça vous fait quoi si je vous appelle « chien j’ai pété » Le lendemain Jorion expliquait qu’il fallait prononcer à l’anglaise Gipiti parce sinon catastrophe. Ben voyons. Laquelle ?

      Il m’étonne de lire « Singularité » quand il s’agit de Singularity. J’ai fini par consulter l’article Wiki sur l’affaire sous la dénomination de « Singularité technologique », et là au début surprise, Lacan est cité mais tronqué… évidemment, sur sa conférence du 22/06/1955 intitulée  » Psychanalyse et cybernétique ou de la nature du langage ».

      Explosion de l’intelligence ? Personne n’a eu le dernier mot sur ce concept qui cause à tout le monde mais reste obscur…je suis pas prêt comme d’autre à laisser coloniser ça par un quarteron de supposés spécialistes ! Quand vers la fin, il est question « d’éradiquer la mort », de « La fusion effective de l’homme et de l’IA annoncerait la naissance d’une nouvelle humanité… débarrassée des inconvénients du corps biologique », je me dis que ces gens là ont du travail à faire, mais pas celui qu’ils engagent soutenus par des investisseurs et la mayonnaise des sciences dures.

      Plutôt que rapporter le sel Lacanien de 1955 sur langage, parole, information, message, ni sur 1975 sa rencontre avec Chomsky aux USA et le gouffre entre eux, juste une compil de propos récents de Jorion et mes remarques…

      PJ : un savoir de la manière dont les enfants l’acquièrent : quand, en entendant un mot qu’il ne connaît pas
      1871 : Les petits n’entendent pas des mots mais du bruit, c’est la scansion qui forme des mots qu’ils entendent vraiment avec l’alphabétisation. Exemple J’ai précisé à ma mère à 95 ans qu’aromatisé n’avait rien à voir avec le rhum.

      PJ vos conversations avec la machine vont faire partie du corpus. Et c’est là, en ce moment, à mon avis, que l’explosion, est en train de se faire.
      1871 Serait curieux d’apprendre si filtre sélectif est prévu, car vu le nombre de conneries qu’on trouve sur l’internet et ailleurs, ça promet…

      PJ La machine ne sait pas qu’elle est intelligente !
      1871 Serait-elle conne ou c’est l’artifice de l’artificiel en jeu ?

      PJ vous avez accès à des milliards de données auxquelles vous n’aviez pas accès.
      1871 Depuis la fin de l’âge classique, plus de savant maitrisant le savoir occidental disponible. Et dans les milliers ou milliards de discours antagonistes, quelles sources et quelles filiations ?

      PJ La Singularité : cette idée que la machine nous dépasse – et comme ça avait été très bien vu par certaines personnes – quand la machine nous dépasserait, il y aurait une explosion : ce serait un feu d’artifice
      1871 Une explosion d’artifices encore

      PJ Oui, mais elle a accès à 1 million de fois plus d’information et ça fait une différence !
      1871 L’information, ça circule déjà à foison sur le blog de Jorion et le tri s’impose, alors en trillions comment trier ?

      PJ Donc il est possible qu’on n’utilise pas notre cerveau au mieux.
      1871 Un organe dont il faudrait maximiser la production et la rentabilité ? ça me rappelle des trucs…

      PJ rejoignez ce groupe parce que sinon, vous allez faire partie de ceux qui restent sur place…participez à ça. De toute manière, c’est une question de vie ou de mort pour notre espèce à la surface de la Terre
      1871 https://www.apocalypse-enfin-clair.com/

      Quand aux affaire de boîte et de sculpture, le langage est mal foutu, l’orthographe aussi, c’est ainsi, ça fait des malentendus, des pourparlers, la vie quoi avec ses ratées, son corps de jouissance et d’emmerdements, en plus c’est une affaire de corps, et la machine ignore son adresse. C’est quand même pas parce qu’on voit des gens parler tout seul qu’ils ne s’adressent pas à quelqu’un. Les colliers de perles de zéro et de un, c’est autre chose que l’écolier. Ce délire collectif, nouvel avatar de la créature de Nietzche ? un remake de l’eugénisme ?

      Sur plus de 10 ans j’ai tenté de faire corriger le « retranscription » de Jorion en vain. Les transcripteurs ne font jamais que de la transcription, suffit de demander à une sténotypiste pour la lucidité que vous évoquez. Selon Talleyrand : « Si cela va sans le dire, cela ira encore mieux en le disant ».

  17. Avatar de georges
    georges

    Ne devrait-on pas surtout craindre que des IA super-intelligentes se mettent a’ ressembler de plus en plus aux humains ? Émotionnellement, veux-je préciser…

  18. Avatar de Jacques Racine
    Jacques Racine

    https://remacle.org/bloodwolf/philosophes/Aristote/ame3.htm

    « Mais comme la vue est le principal de nos sens, l’imagination a reçu son nom de l’image que la lumière nous révèle, parce qu’il n’est pas possible de voir sans lumière. § 15. Et parce qu’elle subsiste dans l’esprit et qu’elle est pareille aux sensations, les animaux agissent très souvent par elle et par les sensations : les uns, parce qu’ils n’ont pas l’intelligence en partage, comme les bêtes brutes ; les autres, parce que leur intelligence est quelquefois obscurcie par la passion, les maladies ou le sommeil, comme les hommes. »

  19. Avatar de Jacques Racine
    Jacques Racine

    Ce qui (me) conduit au triptyque de Cynthia Fleury :
    Imaginatio vera = l’imagination agente;
    Pretium doloris = le prix de la douleur;
    Vis comica = la force comique…

    1. Avatar de Garorock
      Garorock

      Qu’est ce que c’est que ce tryptique à la noix!
      Rien à voir avec l’original, le seul, le vrai: le sain(t) tryptique:
      1) Mépriser les méprisants avec la force comique éventuellement.
      2) Boycotter tout ce qui dépasse du régional (il faut un peu d’imagination)
      3) Saboter les pipe line du capitalisme et de ses créanciers ( nom de code pour les maquisards: pretium doloris)
      Voila. Ça c’est fleuri!
      Et je rappelle à tous les mécréants que le sain(t) tryptique a été validé par le soviet du familistère de Jésus-Guevarra! ( C’est pas de la gnognotte!) Et qu’on a pas l’intention de se faire voler la révolution par les diplomés du tertiaire encore une fois*! 😎
      * voir l’épisode: Sophie et son joli chapeau…

      1. Avatar de Jacques Racine
        Jacques Racine

        C’est dans la vidéo où elle présente son bouquin « Les irremplaçables »… mais c’était aussi un clin d’œil à la dernière traduction de l’ancien article de Paul… [et sans vouloir entrer dans le débat intellectuel de savoir si on a besoin de l’imagination pour appréhender le réel]
        J’y voyais (et c’est de la SF!):
        Imagination agente: ondes alpha & bêta, donc lobe pariétal & frontal; donc mémoire à court terme & de travail;
        Force comique: ondes delta & thêta, donc lobe occipital & temporal, donc mémoire visuelle & verbale;
        Prix de la douleur: comprendre comment et pourquoi, retracer le chemin du graphe qui nous a mené où nous en sommes, donc dialogue entre cerveau gauche et droit, en utilisant toutes les ondes, tous les lobes et toutes les mémoires… « la » mémoire en quelque sorte, qui sépare les grands singes de l’humain… et l’humain de l’IA!
        Ps: j’ai bien aimé ton sain triptyque, juste se rappeler que la gendarmerie mobile est inspirée des maquisards (on voit ce que ça donne actuellement) et que, si j’ai bon souvenir, la gendarmerie est pour la grande muette sinon sa police judiciaire, du moins son contrôleur… autant avoir de vrais gendarmes de la bourse, de l’évasion fiscale etc…

        1. Avatar de Garorock
          Garorock

          On ne dit plus saboter parait-il mais désarmer.
          Désarmer les pipe-line, ça le fait moins…
          Sont chiants ces éco-terroriste avec leur novlangue. 😎

          1. Avatar de Ruiz
            Ruiz

            Cette novlangue est désarmante, malgré sa beauté …

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta