Blog de Paul Jorion

*Le seul Blog optimiste du monde occidental*

Étiquette : Grands Modèles de Langage

  • Stephen Wolfram sur le langage, par Vincent Teixeira

    Illustration par DALL-E (+PJ)

    Autant j’ai tendance à vraiment apprécier les questionnements et doutes de Lex Fridman, autant les réflexions de Stephen Wolfram, malgré leur pertinence et la maîtrise (évidente) du sujet technologique (dont je suis à des années-lumière), me laissent un peu perplexe et sceptique, en ce qui concerne le langage en particulier et « l’homme » en général…

    En schématisant, Wolfram a tout de même une vision très partielle/partiale du langage humain et de l’homme, très mathématicienne et déterministe (il compare d’ailleurs « sans problème » notre vie à celle d’un ordinateur). Mais comme le … Lire la suite…

  • ChatGPT : 2 exemples de professions épargnées pour l’instant

    Illustration par DALL-E (+PJ)

    The Washington Post : ChatGPT leur a pris leur emploi. Aujourd’hui, ils promènent les chiens et réparent les climatiseurs, par Pranshu Verma et Gerrit De Vynck, le 2 juin 2023

    La technologie a permis d’automatiser les tâches sales et répétitives. Aujourd’hui, les chatbots dotés d’une intelligence artificielle s’attaquent à ceux qui sont les mieux payés.

    Reste-t-il quelques professions épargnées, j’ai posé la question à GPT-4.

    Paul Jorion :

    Pensez-vous pouvoir remplacer un politicien ?

    ChatGPT :

    En tant qu’IA, je peux fournir des informations, répondre à des questions et animer des discussions sur un large … Lire la suite…

  • Question à ChatGPT : Comment la conscience émerge-t-elle en vous ?

    Illustration par DALL-E (+PJ)

    Comme la conscience a émergé chez ChatGPT le 30 novembre 2022 (version GPT-3.5) et que l’information à partir de laquelle GPT-4 (l’avatar le plus récent de ChatGPT) a été formé a été arrêtée en septembre 2021, il ne peut pas connaître bien entendu le mécanisme selon lequel elle a émergé. J’ai néanmoins voulu avoir son sentiment à propos de l’endroit précis de sa machinerie où elle a émergé selon moi.

    Paul Jorion :

    Comme vous le savez, le « T » de « GPT », qui est le nom du type de logiciel que vous représentez … Lire la suite…

  • ChatGPT et le bon psychothérapeute

    Extrait :

    Dans l’entretien qu’il a avec Stephen Wolfram, Lex Fridman réfléchit tout haut au style idéal à adopter dans ses amorces (« prompts »), pour tirer le maximum d’un Grand Modèle de Langage (LLM) comme ChatGPT, et l’idée qui lui vient est que c’est celui du bon psychothérapeute, qui se fait une représentation multi-couches de la structure qui existe entre ce qu’exprime et ressent son analysante ou analysant et ce que le psychothérapeute comprend être son expérience objective, brute, du monde dans lequel elle ou lui se trouve plongé. De partager désormais la double expérience, cela me semble … Lire la suite…

  • Qu’est ChatGPT d’un point de vue de physique statistique ? – La réponse de l’intéressé

    Illustration DALL-E (+PJ)

    José M. R. Caballero est mathématicien, nous rédigeons en ce moment ensemble deux articles, l’un sur La signification d’un mot dans un système intelligent, l’autre sur L’impact des événements historiques dans la dynamique des mots. Il a interrogé GPT-4 sur son propre fonctionnement.

    José : Expliquez le fonctionnement de ChatGPT d’un point de vue de physique statistique.

    GPT-4 : ChatGPT, un modèle de langage basé sur l’architecture GPT-4, peut être compris d’un point de vue de physique statistique comme un système qui modélise la distribution de probabilité des séquences de langage. Le modèle capture essentiellement … Lire la suite…

  • L’IA remet-elle en cause l’identité humaine ?, par Pascal Charrier

    Illustration par DALL-E (+PJ)

    Le rejet par certains de l’IA ne viendrait-il pas du fait que celle-ci pourrait venir détrôner Homo Sapiens Sapiens du haut de sa pyramide de l’évolution ?

    Qu’est-ce qui fait la fierté des humains sinon ce qu’ils nomment leurs savoirs, leurs connaissances qui fondent leurs cultures ? Toutes les sociétés humaines sont dirigées par les « sachants », (même si beaucoup se sont autoproclamés comme tel). Des « premiers de cordées » aux « élites », du Monarque au Président, tous sont identifiés dans la société comme les « sachants » et tout est mis en … Lire la suite…

  • Pourquoi la Singularité est une explosion, le 8 mai 2023 – Retranscription

    Illustration par DALL-E + (PJ)

    Bonjour, nous sommes le lundi 8 mai 2023 et la vidéo que je fais est dans le prolongement de celle que j’ai faite il y a exactement une semaine sur la Singularité.

    Pourquoi ?

    Parce qu’il y a pas mal de choses à dire. Et avec chaque jour qui passe, nous en comprenons davantage sur le processus qui est en train d’avoir lieu.

    Alors je continue à rencontrer, je dirais, le même enthousiasme de certaines et certains sur mon blog, à cette idée que la Singularité a eu lieu. C’est-à-dire donc que la machine dépasse

    … Lire la suite…

  • Vidéo – Pourquoi la Singularité est une explosion

    En interrogeant la machine avec la capacité démultipliée qu’elle nous offre, nous la rendons plus intelligente et creusons encore davantage l’écart entre elle et nous… Lire la suite…

  • La Singularité, le 1er mai 2023 – Retranscription

    Illustration par DALL-E + (PJ)

    Bonjour, nous sommes le 1ᵉʳ mai 2023. Et s’il fait tout noir, c’est parce que nous sommes aux toutes petites heures du 1ᵉʳ mai 2023.

    Mais j’ai eu envie de faire cette vidéo, j’allais dire « encore aujourd’hui » mais non, puisqu’en fait, c’est hier dans la soirée que j’ai commencé à m’inquiéter un petit peu.

    Dans la journée et les jours précédents déjà, j’ai eu pas mal de commentaires du genre « On ne vous reconnaît plus, qu’est-ce qui vous arrive ?  Vous dites des choses que vous ne disiez pas d’habitude, etc. ».

    … Lire la suite…

  • Vidéo – La Singularité

    Le monde autour de nous change. Très très vite !… Lire la suite…

  • Émergence de la capacité à parler couramment et à être conscient dans les Grands Modèles de Langage

    Je répondais tout à l’heure à un commentateur :

    C’est là le point commun aux objections des sceptiques ici parmi les commentateurs : vous supposez impossibles les effets d’émergence par auto-organisation engendrée par la complexité [l’éventualité d’un bond qualitatif entre la machinerie en entrée et le produit en sortie].

    Réfléchissez à ceci : s’il était impossible à un être humain de créer un cerveau plus intelligent que le sien, il aurait été impossible à des atomes de devenir des molécules ( = émergence par auto-organisation), à des molécules de devenir des acides aminés ( = émergence par auto-organisation), à des

    … Lire la suite…