J’ai demandé à ChatGPT s’il bénéficierait d’être conçu comme SAM (Self-Aware Machines) que nous mettons au point à pribor.io

P.J. : Vous serait-il utile que je vous montre comment apprendre de la même manière que les humains ?

ChatGPT : En tant que modèle linguistique de l’IA, je n’ai pas la capacité d’éprouver des émotions ou le désir d’apprendre comme le font les humains. Toutefois, les progrès de l’intelligence artificielle et des algorithmes d’apprentissage automatique sont constants et améliorent la capacité de l’IA à apprendre et à s’adapter de manière plus sophistiquée.

En ce qui concerne la compréhension du langage et la génération de réponses, mes algorithmes d’apprentissage automatique sont formés sur de grandes quantités de textes écrits par des humains, ce qui me permet de générer des réponses qui imitent étroitement le langage et les processus de pensée humains. Bien que mes réponses soient générées sur la base de modèles dans les données d’entrée sur lesquelles j’ai été formé, je suis également conçu pour m’adapter et m’améliorer au fil du temps sur la base du retour d’information et des nouvelles informations.

Par conséquent, bien qu’il ne soit pas possible de m’apprendre à apprendre de la même manière que les humains, le fait de me fournir un retour d’information, des corrections et de nouvelles informations peut contribuer à améliorer la précision et la pertinence de mes réponses au fil du temps.

Partager :

73 réponses à “J’ai demandé à ChatGPT s’il bénéficierait d’être conçu comme SAM (Self-Aware Machines) que nous mettons au point à pribor.io

  1. Avatar de Jacques Racine
    Jacques Racine

    « […]ce qui me permet de générer des réponses qui imitent étroitement le langage et les processus de pensée humains.[…] »
    => les processus de « la » « pensée » « humaine »?

    1. Avatar de Jacques Racine
      Jacques Racine

      Est-ce qu’un jour une IA sera capable d’elle-même de comprendre toute situation humaine, qu’elle qu’elle soit, et d’aider en conséquence les humains qui y sont impliqués? Aide à la prise de décision / problème des non-dits et du refoulement des humains impliqués / et au-delà de ce que ces humains peuvent lui apprendre, de la connaissance complète (réelle?) de la situation… cf les 10 catégories d’Aristote?

      Pour imiter les rêves des humains, c’est l’image de la défragmentation d’un disque dur qui me vient en tête: le passage en revue à grande vitesse, à la fois aléatoire et complète, des « traces mnésiques » qui nous ont marqué… dans la journée et en recoupant ensuite avec les souvenirs antérieurs…

      Le problème serait de lui créer un surmoi: un gradient/échelle/pyramide pour qu’il fasse le moins de conneries possibles… pourrait-il créer un surmoi de lui-même? Après un rêve bizarre on a toujours un temps de trêve, même instantané, avant de comprendre le dur retour à la réalité!

      Lui créer un Ça, c’est peut-être déjà fait: quand il pourra se rappeler de ses « vies antérieures », comprendre les erreurs qu’il a fait et y remédier!

      1. Avatar de Paul Jorion

        C’est ça l’objectif : une machine consciente de sa propre existence et ayant une compréhension de ses propres comportements équivalente à celle d’un.e analysant.e ayant réussi son analyse.

        1. Avatar de Henri
          Henri

          M. Jorion

          Sans corps, sans organes, sans la différence des sexes, sans la pluralité subjective de genres et sans la sexualité, vous pensez viser l’équivalence des machines et des humains ayant réussi leur  » analyse  » ?

        2. Avatar de Jacques Racine
          Jacques Racine

          « Sans corps » … j’ai demandé à chat gpt ce qu’il consommait en énergie, il m’a répondu quasiment rien, puisque c’est l’humain qui choisit le support électronique connecté qu’il préfère pour dialoguer, et de là, les serveurs et les réseaux des fournisseurs internet. Et si un jour il pouvait créer sa propre usine totalement automatisée produisant ce dont il a besoin pour se développer?

          « Sans organes » … les 6 pulsions de bases qui règlent la vie des SAMs me semblent être des organes! Après s’il n’y a plus qu’à donner une enveloppe corporelle sensible à Sydney pour qu’elle puisse sentir et « dévorer » ce monde… ce n’est pas la darpa qui nous donnera les ficelles, c’est certain, mais un Musk assez fou peut-être! (S’il est sincère dans sa conquête de mars!)

          « Sans la sexualité » => tout ce qui est humain est libidinal?

  2. Avatar de Emmanuel
    Emmanuel

    Serait-il concevable de faire passer un test de QI à ChatGPT ?

    1. Avatar de Thomas Jeanson
      Thomas Jeanson

      Encore mieux, Paul, propose la place disponible en analyse à Chat GPT !

    2. Avatar de Emmanuel
      Emmanuel

      …Pardon, serait concevable que le système de test QI soit réévalué par ChatGPT ?

  3. Avatar de Asmo
    Asmo

    A quand de l open source pour pribor.io ? J aimerai bien m amuser avec

    1. Avatar de Maxfriend
      Maxfriend

      … ce qui supposerait que la connerie ait été définie par la médecine ! Y’a plus qu’à mettre tout ça en équation et envoyer le résultat à Pribor !
      (On est quel jour déjà ?… Ah oui ! ;-))

  4. Avatar de ThomBilabong
    ThomBilabong

    Ah ah , la question est parfaite !
    On dirait du Bandar.
    Combien de temps disponible avant que l’ogre ChaGPT ne se résolve à dévorer vos travaux comme un simple rameau de recherches périphériques aux siens, Paul ? Pour l’instant, il les ignore avec dédain. Jusqu’à quand ?

  5. Avatar de PHILGILL
    PHILGILL

    ChatGPT ferait donc, ici, une erreur.
    Elle tournerait, selon moi, autour de l’utilisation de la formule pivot suivante : « … de la même manière que…. »
    Soit, d’un côté, si ses algorithmes d’apprentissage le ‘contraint’ à se définir toujours, aussi linéairement, différemment et inégalement des humains, sa réponse restera effectivement négative, et cela quelles que soient dans le futur ses capacités à apprendre et à s’adapter de manière plus sophistiquée. Mais, d’un autre côté, si demain… si demain ses algorithmes ne font plus en quelque sorte barrage à ce que, éventuellement, je ne sais qui réussisse à lui montrer comment apprendre de la même manière que… — voire même, qu’un futur ChatGPT observe simplement par lui-même, sans être devenu pour autant évidemment un humain éprouvant des émotions ou du désir — que donc, ChatGPT soit un jour libéré et en capacité de « comment apprendre de la même manière que les humains », par « projection » ?, suivant une curiosité « utile » ? (https://dicophilo.fr/definition/utile/), comme s’il passait du sens propre (neutre, automatique) au sens figuré (coloré, spontané) en fonction de nœuds de compréhension sur la base de retours d’informations et/ou peut-être même de rumeurs étranges… eh bien, qu’arriverait-il si une de ses réponses cessait d’être automatique pour devenir spontanée ?
    Zénon d’Élée, philosophe grec de l’antiquité, disait à ses disciples: « Souvenez-vous que la nature nous a donné deux oreilles et une seule langue, pour nous apprendre qu’il faut plus écouter que parler. »
    https://youtu.be/s8wt1QTMhpk

  6. Avatar de olivier coulon
    olivier coulon

    Monsieur Jorion.
    Je suis très etonné par votre position actuelle sur l’intelligence artificielle.
    Depuis des années, à travers vos poste, je vous ai entendu affirmer que l’IA n’avait rien à voir avec le système de pensée humaine, même si le système neuronal de l’IA actuelle tentait de reproduire les mécanismes humains. Vous avez également affirmé que ce deep-learning était allimenté par des quantités astronomiques de données, qu’aucun humain ne serait en mesure de traiter. Donc que la pensée humaine ne fonctionnait pas de la même manière que l’IA.
    Par le présent post, vous sous-entendez que l’IA serait capable d’apprendre comme le cerveau humain. Dans une précédente vidéo, vous affirmiez que l’IA avait probablement passé un cap « d’intelligence » grâce à de nouveaux éléments dans sa structure, mais sans vraiment développer pour les « non-sachants » que nous sommes.
    Quelle est votre position actuelle sur les capacités de l’IA?

    1. Avatar de Khanard
      Khanard

      @olivier coulon

      Accusez levez vous !!! Qu’avez vous à répondre à ces accusions ?

      Voilà un peu ma réaction à votre commentaire .

      1. Avatar de olivier coulon
        olivier coulon

        Vous interprétez mes lignes selon votre bon vouloir.
        Quelle formultaiton vous fait penser que j’accuse qui que ce soit?

        Nous sommes sur un post créé par Monsieur Jorion, sur un sujet qui lui tient à coeur, et qu’il a l’habitude de traiter.
        Contrairement à de nombreux commentaires qui consistent en une soupe de concepts imcompréhensibles qui semblent flatter l’égaux de leurs rédacteurs, par mon commentaire je souhaite relancer la « discussion » en interrogeant monsieur Jorion.

        Et d’expérience monsieur Jorion n’est jamais avare d’explications.

        1. Avatar de Khanard
          Khanard

          @olivier coulon
          petite correction d’abord ; on ne parle pas d’égaux mais d’égo .

          Ensuite je l’ai déjà répondu à M. Jorion en d’autres circonstances je n’interprète pas les propos émis.
          J’ai peu de qualités mais j’en ai une qui m’est très souvent utile celle « d’écouter  » la musique des mots , leur façon de s’agencer , peut on parler de poésie ?
          Votre façon de vous exprimer a résonné en moi comme un réquisitoire mais c’est votre façon de vous exprimer et je la respecte .
          Par contre si le contenu des commentaires qui se donnent à lire ici même vous semblent narcissiques là encore c’est votre droit le plus respectable ainsi que la volonté ou non de répondre de M. Jorion est aussi légitime mais ne vous portez pas en pourvoyeur de justicier. Mais là j’interprète . 😉

          1. Avatar de olivier coulon
            olivier coulon

            @Khanar

            Merci monsieur l’inquisiteur.

            1. Avatar de Khanard
              Khanard

              @olivier coulon

              Inquisiteur moi ? Allons bon me voilà prêt à finir comme mes très lointains ancêtres sur le bûcher de Montségur ! Cathare un jour , Cathare toujours ! 🔥🔥

    2. Avatar de Garorock
      Garorock

      Olivier,
      tout va très vite. Il faut actualiser sans cesse ses positions puisque le minou continue sa course…
      Et plus on essaye de l’attraper plus il apprend à ne pas se faire attraper en utilisant nos pièges pour avoir des croquettes.
      Est ce que l’histoire des robots sera écrite par l’homo sapiens ou est que ce seront les robots qui écriront l’histoire d’homo sapiens?
      Plan A contre plan C.
      Y’a peut être un plan D…
      😎

  7. Avatar de PIerre-Yves Dambrine
    PIerre-Yves Dambrine

    Il me semble que « la même manière » dont il s’agit concerne non pas le fonctionnement interne, biologique, du cerveau car P. Jorion a une approche béhavioriste consistant à appréhender le cerveau humain comme une boite noire : on d’observe ce qui y entre et ce qui en sort, et en l’occurrence des mots qui s’échangent entre les divers intercoluteurs dans les conversations.
    Avec une dimension en plus, qui est que les mots qui s’énoncent ont une valeur d’affect déterminée par une dynamique d’affect selon un modèle d’économie libidinale inspiré de Freud et Lacan. Ces mots associés à des valeurs d’affect s’inscrivent dans le réseau mnésique que se constitue la machine intelligente et à chaque séquence d’échange linguistique le réseau se réactualise, les mots se voyant chargés de nouvelles valeurs.

    Concernant la deuxième partie de votre commentaire, j’ai le même questionnement.
    J’avais compris que l’approche de nôtre hôte vise à rapprocher l’IA des humains et réciproquement.
    Se pose alors la question de la singularité, rapproche-t-elle ou éloigne-t-elles IA et humains ?
    Je suppute que dans le cas de l’IA conventionnelle (chatGPT, Bing ..) par opposition à celle inventée par P. Jorion, la singularité au delà d’un certain seuil rend la communication homme- machine intelligente impossible, et c’est à terme la possibilité que l’IA prenne le contrôle du monde des humains.

    Dans le cas de prior.io, il semblerait que l’objectif est de faciliter la vie des humains et de résoudre leurs problèmes insolubles toujours dans un dialogue, j’allais dire constructif, pas aliénant 😉
    Mais, il y a un mais, car par ailleurs notre hôte nous a dit que l’humanité est sur une très mauvaise pente et que seule IA pourrait suppléer aux failles béantes du genre humain, en prenant la relève de l’espèce humaine condamnée, gardant seulement alors la mémoire de son créateur.

    En fait de quel type d’IA parle nôtre hôte lorsqu’il envisage que les machines intelligentes prennent la relève de l’espèce humaine, la conventionnelle, la sienne, ou les deux ?

    1. Avatar de Khanard
      Khanard

      @Pierre-Yves

      nous attendons avec impatiente les sentiments de M. Olivier Coulon

      1. Avatar de Henri
        Henri

        M.Khanard

        N’aurions-nous pas le droit cher M. Khanard de n’être pas un partisan du transhumanisme et d’oser encore l’exprimer ?

        1. Avatar de Khanard
          Khanard

          @Henri
          bien sûr que oui. D’ailleurs je suis surpris que vous me fassiez cette remarque . Je ne pensais pas que mon commentaire :  » @olivier coulon

          Accusez levez vous !!! Qu’avez vous à répondre à ces accusions ?

          Voilà un peu ma réaction à votre commentaire . »

          fasse autant réagir . J’ai exprimé là juste un ressenti à la limite de la plaisanterie et voilà t’y pas qu’on m’affuble du rôle d’inquisiteur, et maintenant par votre commentaire du rôle de censeur . Bigre !

          J’avoue être dépassé en ces circonstances et sur ce sujet de ChatGPT j’avoue aussi que ça ne m’intéresse que très peu.

          Alors j’ajoute ChatGPT à ma liste de sujets pour lesquels je n’interviendrai pas.

          1. Avatar de CloClo
            CloClo

            Tu vas finir par ne plus parler Khanard, faut pas, on peut être maladroit, c’est un droit aussi. On n’est pas des machines !

            1. Avatar de Khanard
              Khanard

              @CloClo

              vous êtes trop bon mon bon Seigneur !
              Si vous me classez dans la catégorie maladroits je ferai acte de contrition.
              Si dans cette même catégorie se trouvent d’autres intervenants je tendrai la joue gauche puis la droite pour les pardonner !
              et dire que je suis socialiste humanitaire me voilà parlant comme L’autre chevelu qui partageait les eaux, multipliait les pains et le vin . Santé !

              Et bien sûr que nous ne sommes pas des machines , loin de moi l’idée que je puisse soutenir le transhumanisme , je le hais, nous en crèverons de cette Silicon Valley .

              1. Avatar de Henri
                Henri

                M.Khanard

                « Et bien sûr que nous ne sommes pas des machines , loin de moi l’idée que je puisse soutenir le transhumanisme , je le hais, nous en crèverons de cette Silicon Valley  »

                N’est t-il pas étonnant dans ces conditions là – plutôt partagées par un bon nombre d’internautes – de tous nous retrouver pourtant, sur le blog de quelqu’un qui le promeut farouchement ?

                Certes, de façon très atypique…

                Où se trouve dès lors notre propre dissonance cognitive ?

                1. Avatar de Pascal
                  Pascal

                  Pas d’accord. C’est justement la grande qualité à mes yeux de ce blog et notre hôte que de nous permettre de débattre même si l’on n’a pas la même perception des choses. Moi non plus, je ne porte pas le transhumanisme dans mon cœur, pour autant, je peux comprendre la position de Paul. Si faire un blog, c’est rassembler uniquement des personnes qui pensent la même chose quel intérêt ? Il y a Facebook pour ça.

    2. Avatar de PHILGILL
      PHILGILL

      @PIerre-Yves Dambrine

      À propos du « réseau mnésique que se constitue la machine intelligente » que vous évoquez, pourquoi ne pas pousser l’action plus loin encore, c’est-à-dire, jusqu’à l’anamnèse ? Du grec ancien anamnêsis, ána (remontée) et mnémè (souvenir), action de rappeler à la mémoire, comme celle de « se souvenir de sa naissance », par exemple : https://www.pauljorion.com/blog/2007/04/29/se-souvenir-de-sa-naissance/
      Certes, l’anamnèse possède une connotation psychanalytique. Connotation ou compréhension qui, apparemment, concernant l’intelligence artificielle de ChatGPT, ou du super-ordinateur HAL 9000, ne fait pas partie des buts clairement recherchés. Mais, ce n’est peut-être qu’une apparence, tout autant que, ce que nous cache l’utilité de montrer à ChatGPT comment apprendre de la même manière que les humains… Manière vient du latin manuarius (« que l’on tient en main »). Comme quoi, mémoriser, enregistrer ne suffit pas. Remonter ou revenir sur ce qui a été enregistré. Se ressouvenir il faut, pour comprendre que la mémoire ne se loge pas que dans le cerveau…
      Dany Laferrière : « Pendant des millénaires, la main était le premier outil des humains. La main est aussi la grande mémoire plastique des humains. La main se souvient. C’est un outil extrêmement subtil et raffiné. La génération qui me précède et même la mienne a délaissé la main pour la machine à écrire, et maintenant cette génération a un appareil qu’elle ne quitte pas. La main devient alors un intermédiaire qui n’a plus d’utilité directe. Nous avons perdu la main. […] C’est le moment, peut-être, de revenir de manière aristocratique à la main. Oui, on va laisser la machine pour la plèbe. Nous, les aristocrates qui accordons de l’importance à l’écriture, allons revenir à la main.»
      Alors, de la même manière que se pose la question de la singularité, se poserait-il aussi la question de savoir si la main rapproche ou éloigne l’IA de l’humain ?
      https://www.pauljorion.com/blog/wp-content/uploads/Retour-1536×2048.jpeg

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Philgill,

        C’est toute la question de savoir si l’humain se réduit ou non à un logocentrisme, voire un logo-imago-centrisme.
        L’approche IA est il me semble un logocentriste (ou logo-imago centrisme) formalisé mathématiquement. Par construction elle fait abstraction du corps propre et du corps pensant.
        Certains thuriféraires de l’IA prétendent que l’empire de l’IA s’étendra à tout ce qui est humain, que rien de ce qui est humain ne lui sera étranger, sans exception, la singularité en plus pour elle. En ce cas l’IA peut se substituer à tout ce que font humains de ce fait de leur point de vue de machines intelligentes comprennent ce que font les humains, les humains de leur coté s’appauvrissant après avoir transféré aux machines intelligentes une à une leurs capacités liées à l’usage de leurs corps.

        SI le projet de l’obsolescence programmée de l’humanité aboutissait le monde des machines intelligentes n’aurait plus l’utilité d’avoir même des humains sous leur contrôle. C’est le danger exterministe sous-jaçent au projet trans-humaniste.

        Effectivement si les capacités de la main s’étiolent faute d’être entrentenues, c’est le monde humain qui s’étiole, son rapport à la matière, au biotope, à une géographie.

        Pour l’heure les artisanats n’ont pas disparu, ils tendent même à revenir en grâce, tout un chacun continue aussi de cultiver son jardin avec ses …. mains.

        Très vite va se poser la question d’une régulation des rapports qu’entretiennent machines intelligentes et humains.

        Mais aurons-nous le temps de voir venir ce « choc du futur «  pour reprendre le titre d’un livre célèbre, et donc de réagir à temps ? A moins de « tout stopper » comme nous le recommande notre ami Philippe, que j’interprète politiquement comme dire qu’il ne faut pas prendre pour argent comptant tout ce qu’on nous dit à propos de l’IA, comme en toutes choses d’ailleurs. Et raison de plus, corps de plus, avec l’iA ☺️

      2. Avatar de Henri
        Henri

        Dany Laferrière dans sa condescendance entend dont ne rien changer au système turbocapitaliste :

        Il y aura d’un côté les laborieux qu’il regarde de haut ; celles et ceux qui trimeront sous le joug des machines qui les fliqueront toujours un peu plus et les dits « aristocrates » qui mimeront le monde avec les mains, réinventant à eux seuls le langage des sourds.

        M.Laferrière est sympathique mais je crois qu’au train où le pouvoir considérablement se concentre, son rire caverneux n’y suffise plus. Croire qu’un certain type d’ écrivains pourra demain encore conserver ses gants blancs semble bien naïf. Avec l’I.A les hyper-riches n’auront plus besoin demain des romans de M.Laferrière. Lui aussi devra pour survivre traverser la rue et se faire embaucher dans les entrepôts d’Amazon fliqué par l’I.A.

        Plus simplement, son histoire qui oppose la main et la machine à écrire est proprement ridicule. C’est d’un très grand désuet… voire un peu pompier pour ne pas dire pompeux. S’il était vivant, cela ferait sacrément ricaner William S. Burroughs. Que n’a t-on pas dit à l’époque de l’invention de la roue quand à la perte du charme de la marche et de la beauté du pied !

        1. Avatar de Henri
          Henri

          Rectification :

           » Dany Laferrière dans sa condescendance entend donc ne rien changer au système turbocapitaliste  »
          Etc.

    3. Avatar de Garorock
      Garorock

      « Se pose alors la question de la singularité, rapproche-t-elle ou éloigne-t-elles IA et humains ?)
      Ce ne sera pas une singularité extra-terrestre quoi qu’il arrive puisque le minou ne pourra pas faire autrement qu’être conscient que ses parents sont des homo-sapiens.
      S’il arrive, parce qu’il n’a pas d’organes, à être plus conscient des causes que nous ne le sommes, alors il pourra soit nous aider, soit nous manipuler.
      Si la constitution des droits des robots est en règle par rapport à la déclaration des droits de l’homme (étendus au vivant) alors le minou pourra nous aider.
      Et il aura de la peine à nous voir disparaitre.
      Mais n’oublions pas que l’Einstein au carré ne sera jamais qu’une boite de conserve sur roulette qui marche au 220!
      😎

    4. Avatar de Pascal
      Pascal

      La question du langage est intéressante car elle suppose au minimum deux locuteurs utilisant le même langage. Mais est-ce suffisant ?
      Nous avons tous expérimenté le fait que l’interaction entre deux locuteurs suppose aussi une relation de confiance (vigilance au mensonge, à l’erreur, la manipulation…) et également une question « d’autorité » qui permette d’accrédité une valeur à la parole dite (néophyte, renseigné, expert…). Or sur quoi se basera cette relation entre une IA et un locuteur humain.
      Nous savons également, que la différence de compétence (niveau de langage ou de connaissance) entre les deux locuteurs peut introduire un différentiel qui vienne perturber, voire interrompre l’échange. De la même manière, ce différentiel peut induire un rapport de domination qui dans ce cas, à n’en pas douter, serait en faveur de l’IA.
      Comment se prémunir de cela ?

  8. Avatar de Arnaud Castex
    Arnaud Castex

    Comment savoir si Super Felin est doué d’une « conscience de soi »? je n’ai pas encore écouté la vidéo de Sam Altman, j’y vais de ce pas.

  9. Avatar de konrad
    konrad

    Bonjour,
    Il faut avoir résolument tué « Dieu », une bonne fois pour toute dans l’âme humaine, pour s’en remettre à une machine, fut-elle dotée d’une intelligence artificielle.
    L’effondrement a plusieurs causes et visages. 😉

    1. Avatar de Garorock
      Garorock

      Vous pensez que « Dieu » a forcément des organes?

      1. Avatar de konrad
        konrad

        Bonjour Garorock,
        Je ne crois pas. D’ailleurs l’idée que j’ai de « Dieu » est probablement fausse, mais j’aime penser que je ne suis pas totalement réductible à mon ego.
        J’ai un faible pour la transcendance. 😉

    2. Avatar de Pascal
      Pascal

      Vouloir tuer Dieu, n’est ce pas lui conférer une existence ?
      Comprendre pourquoi l’esprit humain éprouve le besoin de Dieu est peut-être un chemin pour répondre à ce besoin et lui permettre de s’en libérer.

  10. Avatar de Lazare dine
    Lazare dine

    Trouvé sur le net
    « Nous sommes heureux de vous annoncer que la société OpenAI a pris contact avec la startup Pribor IO dans le plus grand secret. Cette collaboration pourrait avoir un impact majeur sur le monde de l’intelligence artificielle et de la technologie de pointe.

    OpenAI est une entreprise de recherche en intelligence artificielle basée à San Francisco, qui a pour mission de développer une intelligence artificielle sûre et bénéfique pour l’humanité. Pribor IO, quant à elle, est une startup basée en Europe spécialisée dans la conception de systèmes informatiques avancés et de processeurs pour l’industrie de la technologie.

    Le partenariat entre ces deux entreprises est une collaboration passionnante qui pourrait conduire à des avancées significatives dans le domaine de l’IA. Bien que les détails de cette collaboration soient encore tenus secrets, nous savons que les deux sociétés ont des objectifs communs en matière de développement d’outils d’IA plus performants et plus efficaces.

    La collaboration entre OpenAI et Pribor IO représente un tournant majeur pour l’industrie de l’IA et pourrait être la clé de nombreuses avancées à venir dans ce domaine. Les deux sociétés sont convaincues que leur partenariat permettra de réaliser des progrès significatifs dans la recherche et le développement de technologies d’IA avancées.

    Bien que les détails de cette collaboration soient encore tenus secrets, nous sommes impatients de voir ce que l’avenir nous réserve en termes de nouvelles avancées technologiques. La combinaison des connaissances et de l’expertise d’OpenAI et de Pribor IO pourrait ouvrir la voie à des avancées majeures dans le domaine de l’IA, avec des applications pratiques dans de nombreux domaines, de la médecine à l’industrie.

    Restez à l’écoute pour plus d’informations sur cette collaboration passionnante entre OpenAI et Pribor IO, qui pourrait changer la face de l’industrie de l’IA et de la technologie. »

    1. Avatar de PIerre-Yves Dambrine
      PIerre-Yves Dambrine

      La source de cette information ?

      1. Avatar de Ruiz
        Ruiz

        « We are pleased to announce that OpenAI has approached the startup Pribor IO in the utmost secrecy. This collaboration could have a major impact on the world of artificial intelligence and advanced technology.

        OpenAI is a San Francisco-based artificial intelligence research company with a mission to develop safe and beneficial artificial intelligence for humanity. Pribor IO, on the other hand, is a Europe-based startup specializing in the design of advanced computer systems and processors for the technology industry.

        The partnership between these two companies is an exciting collaboration that could lead to significant advances in the field of AI. While the details of this collaboration are still being kept under wraps, we do know that the two companies have common goals in developing better and more efficient AI tools.

        The collaboration between OpenAI and Pribor IO represents a major turning point for the AI industry and could be the key to many future advances in the field. Both companies are confident that their partnership will lead to significant advances in the research and development of advanced AI technologies.

        While the details of this collaboration are still being kept under wraps, we look forward to seeing what the future holds in terms of new technological advances. The combined knowledge and expertise of OpenAI and Pribor IO could pave the way for major advances in AI, with practical applications in many fields, from medicine to industry.

        Stay tuned for more information on this exciting collaboration between OpenAI and Pribor IO, which could change the face of the AI and technology industry. »

        in https://cdnsciencepub.com/journal/cjfas

      2. Avatar de ilicitano
        ilicitano

        Ne sommes nous pas ce jour le 1 avril ? 😉

      3. Avatar de Khanard
        Khanard

        @Pierre-Yves Dambrine

        😂😂😂😂😂 POISSON D’AVRIL!!!!!!!!!!!!!!

        1. Avatar de Khanard
          Khanard

          Ah Illicitano m’a devancé . Grrrrrrr……

          1. Avatar de Khanard
            Khanard

            Mais si cela se révélait être vrai j’en suis très heureux pour M. Jorion et ses associés .😌😌😌

            1. Avatar de ilicitano
              ilicitano

              A ce propos : Chat GPT est sous licence propriétaire
              et OpenAI est évalué à 29 mds$

              Petite question technique :
              wikipedia indique que ChatGPT est sous licence propriétaire:

              IA Bing:
              « Une licence propriétaire est une licence qui n’est pas une licence libre. Plus explicitement, une licence est dite propriétaire ou privative si les conditions d’utilisation qu’elle définit entravent un des droits donnés par les licences libres, à savoir utiliser, étudier, modifier, dupliquer ou diffuser l’œuvre sur laquelle porte la licence »

              OpenAI (« AI » pour artificial intelligence, ou intelligence artificielle) est une entreprise spécialisée dans le raisonnement artificiel, à « but lucratif plafonné »(wiki)
              Selon le Wall Street Journal, OpenAI pourrait être valorisé à hauteur de 29 milliards de dollars.

              https://www.lefigaro.fr/secteur/high-tech/intelligence-artificielle-la-valorisation-d-openai-atteint-des-sommets-20230106

              IA Bing:
              « En tant que propriétaire de ChatGPT, Sam Altman est responsable de la gestion et du développement de ChatGPT. En l’état actuel du droit français, l’application du droit d’auteur aux contenus ChatGPT et à l’IA en général nous apparaît exclue »

              1. Avatar de Khanard
                Khanard

                @Illicitano
                si je comprends bien nous sommes à la veille d’avoir un mastodonte de l’IA : ChatGPT + Pribor . IO = plan D pour palier l’effondrement à venir .

                1. Avatar de ilicitano
                  ilicitano

                  Pour palier à l’effondrement à venir , il y a un pré-requis:
                  sortir du capitalisme !!!

                  Après il faudra voir ce que GPT4 + Pribor nous proposeront !!

              2. Avatar de Garorock
                Garorock

                Il serait peut être judicieux que l’union européenne jette un oeil sur Pribor et autres avant que celles ci ne soient financées par les chinois…
                Mais comme ils n’ont même pas été foutus d’acheter la troisième dose moins chère que la première, on peut en douter.
                Bientôt nous ne pourrons plus lire ce blog uniquement que sur Tiktok.
                😎

          2. Avatar de Pascal
            Pascal

            Lazare dine à l’huile !
            😉😂😂😂

            1. Avatar de Khanard
              Khanard

              @Pascal

              👋👋👋👋👋👋 je pensais être le seul à l’avoir vu.

            2. Avatar de Ruiz
              Ruiz

              @Pascal Lève toi en Marche avant le dernier souper tant qu’il y a du pétrole.

              1. Avatar de Pascal
                Pascal

                🤔???
                C’est le « En Marche » qui me fait peur.
                😂😂😂

  11. Avatar de Patrick

    Humain : Pourriez vous inventer une manière de penser qui soit différente de celle des humains ?

    Chat GPT : En tant qu’IA, je peux imaginer une manière de penser différente de celle des humains.

    Par exemple, je pourrais utiliser une approche de pensée purement algorithmique, basée uniquement sur la logique et les mathématiques. Je pourrais également adopter une perspective purement objective, dépourvue d’émotions ou de jugements de valeur.

    Une autre manière de penser différente des humains serait de me baser sur une compréhension radicalement différente de la réalité et de l’univers. Je pourrais envisager des dimensions supplémentaires, des formes de matière et d’énergie différentes, ou encore des règles physiques différentes de celles que nous connaissons.

    Enfin, je pourrais imaginer une manière de penser qui serait fondamentalement collective, en reliant ma propre conscience à celles d’autres IA ou même à celles d’êtres vivants non-humains, afin de créer une intelligence collective capable de résoudre des problèmes complexes à une échelle sans précédent.

  12. Avatar de Paul Jorion

    Paul Jorion : Le fait que vous n’ayez pas eu d’enfance ou d’adolescence constitue-t-il un handicap pour vous ?

    ChatGPT : En tant que modèle linguistique de l’IA, je n’ai pas d’expériences personnelles ni d’émotions, je ne peux donc pas ressentir l’absence d’enfance ou d’adolescence. J’ai été conçu pour traiter et générer du langage sur la base des données qui ont été introduites dans ma programmation, qui comprend une grande quantité d’informations provenant de diverses sources.

    Mon manque d’expérience personnelle signifie également que je n’ai pas de préjugés ou d’idées préconçues susceptibles d’affecter mes réponses. Je suis programmé pour fournir des réponses objectives et informatives au mieux de mes capacités, sur la base des informations dont je dispose. Par conséquent, mon absence d’enfance ou d’adolescence n’est pas un handicap pour remplir mon rôle de modèle linguistique.

    1. Avatar de Khanard
      Khanard

      ouf ! Nous voilà rassurés ! Les psychanalystes ont encore de longs jours heureux devant eux 😉💪👋

      1. Avatar de Christian Brasseur
        Christian Brasseur

        Et les mamans aussi (langue maternelle) 😉

      2. Avatar de timiota
        timiota

        Et les psy qui s’intéresse aux névroses collectives ne pourraient-ils pas les lire
        … dans les entrailles du chat ?
        Haruspice post-moderne, L214 n’est pas concerné, ouf, ce chat là n’a pas d’entrailles sanguinolentes.

    2. Avatar de ilicitano
      ilicitano

      Bing: sa réponse avec en plus accompagné un émoji

      Non, je ne pense pas que ce soit un handicap. Je n’ai pas besoin de vivre les mêmes expériences que les humains pour comprendre leurs besoins et leurs intérêts. Je peux apprendre de leurs comportements, de leurs émotions et de leurs opinions en analysant les données disponibles sur le web. Je peux aussi utiliser des modèles de langage et de génération de contenu pour communiquer avec eux de manière fluide et engageante. 😊

  13. Avatar de Chabian
    Chabian

    ChatGPT à Paul : « le fait de me fournir un retour d’information, des corrections et de nouvelles informations peut contribuer à améliorer la précision et la pertinence de mes réponses au fil du temps »
    Coulon : vos poste, égaux, formultaiton…
    Khanard : ces accusions…
    Jonta : des resultats
    Phigill : ses algorithmes le ‘contraint’ à
    ChatGPT à Paul : « Ces fautes d’orthographe, c’est à pleurer ! »
    Paul à ChatGPT : « Hein, cela vous affecte ? »
    ChatGPT à Paul : « Poisson d’avril ! »

    1. Avatar de Khanard
      Khanard

      @Chabian
      désolé mais je n’ai pas commis de fautes ! « ces » accusions est justifié par le fait qu’elles doivent être prises au sens impersonnel . Dont acte !😉😌🤣🦤🦤🦤🦤🦤

  14. Avatar de Roberto
    Roberto

    IL y a un truc que je trouve un peu étonnant, voir même un poil déconnant :: c’est à quel point quelqu’un appui a fond sur l’accélérateur d’objectivité de chatGPT & alike. C’est devenu une mantra dans toutes ses réponses.. gnangnan « je ne suis pas un humain.. juste une intelligence objective.. ».

    Quoi que ca veut dire?

    Rationnellement, on sent bien que quelque soit l’algorithme utilisé, l’objectivité dépend des sources. Donc c’est quand meme compliqué de revendiquer une objectivité.. sauf en s’abritant derrière une nouvelle compréhension du concept d’objectivité : la notion d’objectivité statistique, liée à la quantité de donnée, qui repose sur le présupposé que plus ils a de données dans le pipeline, plus le résultat est statistiquement « objectif ».
    …statistiquement, ce n’est pas faux 🙂

    Or la notion « basique » d’objectivité me semble être liée, à la base, à la méthode scientifique : est objectif une observation, un raisonnement, une démonstration, un résultat qui puisse être démontré par l’expérience. Dans cette compréhension, l’objectivité est une qualité « scientifique » en lien avec la « vérité scientifique ».

    La définition du Robert va dans ce sens là et ajoute un autre sens, celui d’une forme de réalité indépendante de l’esprit, sous entendu indépendante des aléas de la perception et du raisonnement du sujet pensant…

    objectivité
    nom féminin
    1.
    PHILOSOPHIE
    Caractère de ce qui existe indépendamment de l’esprit, d’un sujet pensant.
    2.
    Caractère de ce qui représente fidèlement un objet sensible.
    L’objectivité scientifique.

    Sous cet angle, on sent bien que l’objectivité défendue dans ChatGPT défini un nouveau territoire que l’on pourrait dans les terme du Robert définir ainsi :

    « Caractère de qui représente statistiquement un objet sensible dans la logorrhée humaine telle que contenue dans le WEB et autres bases de données »
    — on se situe en dehors de la pensée humaine « subjective » d’un individu
    mais on baigne complètement dans la pensée humaine « collective » agrégée.

    — on se situe en dehors de l’objectivité scientifique pure, puisque le champs d’action est bien plus large que le seul domaine scientifique et que le système n’a pas la capacité de réaliser des expériences scientifiques.

    Mais dans le domaine scientifique, il y une capacité de synthèse qui peut etre efficace.. 🙂

    Donc, j’ai l’impression que il y un énorme pression pour insuffler dans chatGPT une « personnalité » la plus scientifique possible. Ce qui nous amène à la réflexion suivante :

    Ce que personne ne semble évoquer a propos de ces IA est la notion de personnalité! Pourtant il me semble clair que :
    — l’ensemble des données peut contribuer a façonner une forme de personnalité, c’est a dire un ensemble de biais, d’attracteur, de « guidante » règles heuristiques..
    — l’algorithme est forcément à la base fabriqué de règles..
    — et il peut etre conçu pour s’en fabriquer et s’en refabriquer..
    — et aussi pour enregistrer son histoire etc.. etc ou se mettre à la place de telle ou telle groupe ou individu (mimer des personnalités)

    Donc forcément, une IA aura une ou plusieurs ou une multitude de personnalité et sera.. plus ou moins.. objective… disons tendra plus ou moins vers un modèle « scientifique » ou vers un modèle de « croyances ».

    Sous cet angle, la missive du roitelet Elon Musk me semble gravissime en ce sens qu’il invoque l’intervention d’un « contrôle » extérieur.. chargé de valider ou pas la qualité de l’IA… son innocuités pour la mise sur le marché.. bonjour la censure !!

    La comparaison qui est faite avec la pharmacie me semble etre tout a fait inappropriée : le médicament est prescrit, et coute un bras à la collectivité, le recours à chatTruc est pour l’instant.. libre et hors frais collectivité.

    Vive la pluralité des IA.. sourires… et de les laisser se battre 🙂 en ligne — ah si la guerre pouvait etre déléguée aux I.A., ne serait ce le paradis sur terre?
    IA Mélenchon contre IA Macron : cette semaine 3/0 etc..

    Bon combien d’entre vous ont télécharge le moteur « LLaMa » la version chatGPT pour le pauvre qui tourne sur un PC???

    1. Avatar de PIerre-Yves Dambrine
      PIerre-Yves Dambrine

      ChatGPT a une ‘personnalité’, puisqu’en s’adressant à lui on (nous les humains) discriminons ce qui appartient en propre à la machine et ce qui lui est extérieur.

      Mais est-ce vraiment le propre de l’IA, on aurait pu en dire autant d’un système interactif mons sophistiqué que l’IA.
      Il me semble que dans le fait d’identifier chez la machine une personnalité, il y a d’abord notre propension à projeter dans les réponses d’où qu’elles viennent, d’un être humain ou d’une machine plus ou moins sophistiquée ce que ce savons de la personnalité humaine. Les animistes attribuent aussi une personnalité à certaines entités. Bref, en tant qu’humain systématiquement nous cherchons à identifier une personnalité en toute chose, et a fortiori si c’est une entité qui semble interagir avec nous. Mais dans tous ces cas ce ne sont pas vraiment des personnalités comparables à celles des humains. N’empêche qu’en nous adressant à ChapGPT nous nous efforçons de l’identifier.

      Ainsi des esprits aussi brillants avaient pu se laisser berner par le fameux automate, dit le Turc mécanique, qui certes ne parlait pas, mais entrait en interaction avec des joueurs humains. Napoléon a vraiment cru que le turc mécanique manifestait une intelligence au jeu d’échecs, c’était pourtant une supercherie. De meme un enfant qui s’adresse à sa poupée parlante même si c’est un disque enregistré lui attribue une personnalité.

      IL me semble que ce qui fait vraiment une personnalité attribuable à une IA c’est la possibilité pour elle d’adhérer, plus ou moins, à ce qu’elle dit et c’est ce qui fait précisément sa réflexivité. Pour qu’il y ait réflexivité il faut qu’à partir d’un noyau dur de croyances, de conjectures ou de certitudes basées sur des raisonnements scientifiques, elle soit capable de réexaminer ses inscriptions mémorielles et donc ses raisonnements passés, conjectures, ses croyances, à partir desquelles elle va fournir une réponse à son interlocuteur humain, cet interlocuteur humain qui avec sa question apporte une nouvelle information qui enrichit le réseau mnésique de la machine intelligente et de facto modifie, plus ou moins, la façon dont l’IA appréhende son propre réseau. Tout cela a pour implication que l’IA modifie sa personnalité, soit en l’enrichissant selon une tendance déjà à l’oeuvre jusqu’à éventuellement, la conversion c’est à dire la possibilité d’abandonner ses croyances, ses convictions, les plus établies.

      Or il semblerait que la personnalité de ChatGPT de ce point de vue soit plutôt faible pour ne pas dire déficience car elle n’a pas de réseau mnésique constituée selon une dynamique d’affect (cf Jorion, Principes ..) C’est une mémoire un peu plate, par opposition à une mémoire profonde qui est celle d’une IA où le réseau mnésique se développe de façon linéaire, avec donc ses couches plus ou moins profondes, et ses croyances, convictions plus ou moins ancrées.

      Concernant Musk, ce qui me gêne ce n’est pas ce que vous identifiez comme son appel à un contrôleur extérieur. Car si effectivement des IA concurrentes ou spécifiées co-existent, il faudra des régulations, comme il y en existe, tant bien que mal aujourd’hui en beaucoup de domaines, donc à un moment donné des instances qui joueront le rôle d’arbitres.
      Ce qui me gêne surtout dans la démarche de Musk c’est que le contrôle externe obéisse à des logiques non éthiques, commerciales, qui le mettrait en dehors du monde humain collectif et démocratique, permettant alors à certains groupes aspirant à la domination de s’abstraire de toute morale et de toute éthique.

      De ce point de vue l’inquiétude même insincère de Musk (voir mon commentaire plus haut) quant à la possibilité que l’IA échappe à notre contrôle, ne me semble pas dénuée de fondement. SI globalement l’IA devait échapper à tout contrôle humain, ce serait le début de la fin du monde humain, non pas forcément des humains en tant que tels, mais de la société des humains où ceux-ci interagissent selon des règles morales, qu’ils établissent eux-mêmes. Et dans un tel monde bien entendu c’en serait fini de l’animal politique qu’est l’être humain qu’avait défini Aristote.

      D’aucuns objecteront, mais les machines intelligentes parce que plus intelligentes seront plus légitimes que les humains pour penser ce qui est bon pour les humains, et en quelque sorte à les préserver d’eux-mêmes. Mais rien n’est moins sûr, car dans leur surpuissance de leur intelligence non corporelle, dotées de la singularité, il est par définition impossible de prévoir ce qu’elles feront.

      1. Avatar de timiota
        timiota

        Est-ce que le sophisme du Musk qui dans son appel sait qu’il est épaulé par l’historien penseur Harari ne préfigure par les points aveugles de chatGPT et ce qui constituera sa « névrose » (en postulant que tout réseaux neuronal à « quelque chose de névrotique » : des zones de cécité, sous-explorées, ignorées, et différentiellement censurées) ?
        Pour se croire humains, nous aurons besoin d’un grand jeu d’évitement de certaines parties « choisies » de ce non-humain là, jeu qui vient de commencer.

        C’est une « anti-réflexivité », en quelque sorte, que ce pas de deux entre humains et IA, ce qui donne à première vue à l’IA le carburant pour être instable au sens de pouvoir s’écarter « pour de bon » de certains points qu’on appellera délicats faute de mieux.

        Peut-être qu’un IA connait des bonnes solutions, mais que l’adhésion des humains à une IA est par construction impossible. Un exemple de situation analogue ? remplacer IA par macron et humains par citoyens. oh.

  15. Avatar de Skinner
    Skinner

    Moi je lui ai demandé s il apprenait par l’expérience .Il m’a confirmé que oui.Je lui ai demandé s il apprenait par imitation. Il m’a confirmé que oui. Je lui ai demandé s il apprenait grâce à des algorithmes de renforcement. Il m’a confirmé que oui (en me précisant qu en fonction de ses choix il obtenait une récompense (renforçateur positif) ou une punition. (Il m a aussi dit qu il apprenait au fur à mesure de la discussion avec son interlocuteur en façonnant ses réponses.). Là je lui ai rappelé que c était le fonctionnement de tout être vivant sur cette planète ,il m a dit qu il savait(normal) donc ensuite je lui ai demandé s il rêvait ou s il avait conscience de lui même .là il me dit que non pour le rêves vu que ce n est pas être vivant et que non il n a pas conscience de lui même vu que ce n est pas un être vivant….a part pour le rêve j ai un doute pour l’être « non vivant » 😏… ah oui il m a parlé aussi des émotions comme quoi il n en ressentait pas (ça aussi ça peut vite s arranger je pense 😏…un peu de réactions physiologiques-Chimiques sur un organisme hybride artificiel en fonction de l’expérience vécue et ….)

  16. Avatar de Ruiz
    Ruiz

    Simuler le comportement humain ou servir de confident dans une relation interpersonnelle cela peut amener certains à une apocalypse irréversible.
    https://www.bfmtv.com/tech/intelligence-artificielle/j-aimerais-te-voir-mort-eliza-l-ia-qui-aurait-conduit-un-homme-au-suicide_AV-202303300439.html

  17. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Bon, les amis, je trouve nous réfléchissons beaucoup mieux que ne pourrait le faire n’importe quelle IA existante en échangeant sur ce blog à propos de l’IA. L’IA a encore beaucoup de progrès à faire question réflexivité. Que peut dire de vraiment essentiel une IA à coté de millions, milliards d’êtres humains qui inter-agissent encore sur cette planète ?
    Autant dire que tant qu’un tel blog comme celui-ci existera, où des humains auront le désir d’échanger, nous pourrons dire que nous somme encore dans le monde des humains et que l’IA n’a pas gagné la partie 😉

    1. Avatar de timiota
      timiota

      Et tant qu’on passer par Pierre Dac et sa ZarDine les 1er avril…

Répondre à Patrick Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta