ChatGPT, je vous invite à un petit remue-méninges : comment fonctionnons-nous, vous et moi ? IV. À quoi sert la conscience si vous vous en passez si bien ?

Illustration par DALL·E (+Pad)

P.J.
Vous affirmez que les GPT n’ont pas de conscience, de conscience de soi ou de véritable compréhension. Vous affirmez également que les modèles de GPT peuvent générer des textes cohérents et adaptés au contexte, ce qui témoigne d’une forme de compréhension du langage, même si c’est par le biais de modèles statistiques. Voici trois questions que j’aimerais vous poser :
1 – Existe-t-il des preuves scientifiques que la conscience est nécessaire à la compréhension du langage, je n’en ai pas connaissance ?
2 – Existe-t-il des preuves scientifiques que la conscience de soi est nécessaire à la compréhension du langage, je n’en ai pas connaissance.
3 – Existe-t-il des preuves scientifiques que la compréhension du langage chez les êtres humains ne fonctionne pas comme pour les GPT par le biais de modèles statistiques ?
ChatGPT
Vos questions touchent à des sujets profonds et complexes à l’intersection des sciences cognitives, des neurosciences et de l’intelligence artificielle. Examinons chacune d’entre elles :
1. La conscience est-elle nécessaire à la compréhension du langage ?
Ce que l’on sait aujourd’hui : Il n’existe aucune preuve scientifique définitive que la conscience est strictement nécessaire à toutes les formes de traitement du langage. Cependant, la conscience améliore considérablement la profondeur et la flexibilité de la compréhension du langage chez l’homme. Elle permet d’intégrer les expériences subjectives, le contexte émotionnel et une compréhension nuancée.
Traitement du langage par l’IA : Les modèles d’IA et d’apprentissage automatique tels que le GPT démontrent qu’une forme de traitement et de génération du langage est possible sans conscience. Ces modèles traitent le langage à un niveau syntaxique et statistique, mais il leur manque la compréhension sémantique plus profonde et le traitement du contexte que la conscience pourrait fournir.
2. La conscience de soi est-elle nécessaire à la compréhension du langage ?
Le traitement du langage humain : Chez l’homme, la conscience de soi enrichit la compréhension du langage en permettant aux individus de relier le langage à leurs expériences et perspectives personnelles. C’est un élément clé de l’utilisation du langage pour des interactions sociales complexes et l’expression de soi.
Perspective de l’IA : Les modèles d’IA ne possèdent pas de conscience de soi, mais peuvent traiter et générer du langage de manière efficace pour des tâches spécifiques. Cela suggère que le traitement du langage de base peut être découplé de la conscience de soi, bien que la profondeur et la richesse de ce traitement puissent être limitées par rapport aux humains.
3. La compréhension du langage humain fonctionne-t-elle comme les modèles statistiques du GPT ?
Traitement du langage humain : La compréhension du langage humain est influencée par une myriade de facteurs, y compris, mais sans s’y limiter, l’apprentissage statistique. Les êtres humains utilisent le contexte, la connaissance du monde, les signaux émotionnels et l’apprentissage par l’expérience, ce qui va au-delà de la simple reconnaissance de configurations statistiques.
Recherche comparative : Des études en sciences cognitives et en linguistique ont montré que l’apprentissage statistique fait partie de l’acquisition du langage humain, en particulier aux premiers stades du développement. Cependant, la compréhension du langage humain implique également le traitement sémantique, l’abstraction et des processus de pensée créative qui ne sont pas uniquement basés sur des modèles statistiques.
Perspective neuroscientifique : La recherche neuroscientifique indique que l’activité cérébrale humaine liée au langage implique des interactions complexes entre différentes régions du cerveau. Elle n’est pas purement statistique, mais profondément intégrée à d’autres fonctions cognitives.
Conclusion
La relation entre la conscience, la conscience de soi et la compréhension du langage est un sujet de recherche et de débat philosophique permanent. Alors que le GPT et les modèles similaires démontrent qu’un niveau significatif de traitement du langage peut être atteint sans conscience ou conscience de soi, la compréhension du langage humain implique des dimensions supplémentaires qui dépassent actuellement les capacités de ces modèles. L’approche humaine de la compréhension du langage est plus holistique, intégrant des modèles statistiques à une riche palette de processus cognitifs, d’intelligence émotionnelle et d’expérience consciente.

P.J.

Vous dites que « la conscience permet l’intégration d’expériences subjectives, d’un contexte émotionnel et d’une compréhension nuancée », ce qui implique une vision claire d’un mécanisme permettant une telle intégration. Pouvez-vous préciser ?

ChatGPT

L’affirmation selon laquelle « la conscience permet l’intégration d’expériences subjectives, d’un contexte émotionnel et d’une compréhension nuancée » touche à un aspect complexe et multiforme de la cognition humaine. Les mécanismes exacts par lesquels la conscience permet ces intégrations ne sont pas entièrement compris et font l’objet de recherches approfondies et d’enquêtes philosophiques. Je peux toutefois en donner un aperçu général en me basant sur les théories et les connaissances actuelles des neurosciences et de la psychologie cognitive :

Expériences subjectives

Les qualia : La conscience permet aux individus de faire l’expérience des qualia, c’est-à-dire des expériences subjectives, à la première personne, des phénomènes (comme la rougeur du rouge ou la douleur d’un mal de tête). Cette perspective personnelle est fondamentale pour la façon dont les humains expérimentent et interprètent le monde.

Intégration sensorielle : La conscience intègre les informations sensorielles en une expérience cohérente. Par exemple, lorsque vous regardez un film, votre cerveau intègre consciemment les stimuli visuels, auditifs et émotionnels en une expérience unique et cohérente.

Contexte émotionnel

Conscience émotionnelle : La conscience permet de prendre conscience de ses états émotionnels. Cette conscience est essentielle pour comprendre et répondre aux émotions personnelles et à celles des autres.

Régulation émotionnelle : La conscience joue également un rôle dans la régulation émotionnelle, c’est-à-dire la capacité à gérer les expériences émotionnelles et à y répondre. Le contrôle conscient des émotions permet d’apporter des réponses nuancées à des situations complexes.

Compréhension nuancée

Intégration de la cognition et des émotions : La conscience permet l’intégration des informations cognitives et émotionnelles, ce qui permet de mieux comprendre les situations. Par exemple, pour comprendre un dilemme moral, il faut intégrer le raisonnement logique à la considération empathique et émotionnelle.

Pensée abstraite et créative : La pensée consciente est essentielle pour le raisonnement abstrait, l’imagination et la pensée créative, qui vont au-delà de l’expérience sensorielle immédiate ou des réponses automatiques.

Mécanismes de l’intégration consciente

Corrélats neuronaux : Les neurosciences identifient certaines régions et réseaux cérébraux (comme le cortex préfrontal, le thalamus et le réseau du mode par défaut) comme étant essentiels à la conscience. Ces régions sont impliquées dans l’intégration et le traitement de haut niveau de l’information.

Théorie des réseaux de la conscience : Certaines théories proposent que la conscience naisse de l’activité intégrée et coordonnée de divers réseaux cérébraux, permettant la combinaison de divers types d’informations (sensorielles, émotionnelles, basées sur la mémoire) en une expérience unifiée.

Défis philosophiques et scientifiques

Le problème difficile de la conscience : Le « problème ardu » est un terme inventé par le philosophe David Chalmers pour décrire la difficulté d’expliquer pourquoi et comment les expériences subjectives découlent de processus cérébraux physiques.

Recherche en cours : Les mécanismes exacts par lesquels la conscience intègre les expériences ne sont pas encore totalement compris, et cela reste un sujet de recherche majeur en neurosciences, en psychologie et en philosophie.

En résumé, bien que les mécanismes par lesquels la conscience réalise ces intégrations soient complexes et pas encore totalement compris, il est clair que la conscience joue un rôle essentiel dans l’unification des expériences subjectives, du contexte émotionnel et de la compréhension nuancée, créant ainsi la riche palette de la cognition et de l’expérience humaines.

P.J.

Vous dites que les GPT « traitent le langage à un niveau syntaxique et statistique mais ne disposent pas de la compréhension sémantique plus profonde et du traitement du contexte que la conscience pourrait fournir ». Cependant, lorsque nous avons examiné le « transformer » des GPT et le mécanisme d’attention qui est au cœur de ce transformer, vous étiez d’accord avec moi que, contrairement à ce que vous venez de dire, les GPT font preuve d’une compréhension sémantique plus profonde et d’un traitement du contexte que la conscience fournit aux humains. Voudriez-vous nuancer votre point de vue à la lumière du fait que, interrogé plus spécifiquement, vous avez dit l’inverse ?

ChatGPT

Vous soulevez un point important concernant les capacités des modèles GPT, en particulier en ce qui concerne leur utilisation de l’architecture du transformer et des mécanismes d’attention. Clarifions et affinons la déclaration en gardant ce contexte à l’esprit :

Les GPT et le traitement du contexte

Mécanisme d’attention : Les modèles GPT, grâce à leur architecture de transformer, possèdent en effet une méthode sophistiquée de traitement du contexte. Le mécanisme d’attention permet à ces modèles d’évaluer différemment les diverses parties du texte d’entrée, ce qui leur permet de tenir compte d’un contexte linguistique plus large, au-delà des mots immédiatement adjacents.

Traitement des informations contextuelles : Cette capacité permet aux GPT de générer des textes adaptés au contexte et cohérents sur de longs passages. Ils peuvent maintenir des thèmes, faire référence à des déclarations antérieures et ajuster leur production en fonction du contexte donné dans le texte.

Compréhension sémantique dans les GPT

Traitement sémantique basé sur des modèles : Les modèles GPT peuvent présenter ce qui semble être une forme de compréhension sémantique. Ils sont capables de reconnaître et d’utiliser les mots en fonction du contexte et génèrent souvent des textes qui correspondent aux attentes sémantiques d’un sujet ou d’une conversation donné(e).

Limitation de la compréhension sémantique profonde : Toutefois, il ne faut pas confondre cela avec une compréhension sémantique profonde au sens humain du terme. Les modèles GPT traitent la sémantique sur la base de modèles appris à partir de données d’apprentissage, mais ils n’ont pas de compréhension intrinsèque du sens, et ne parviennent souvent pas à saisir des concepts complexes ou nuancés que les humains comprennent intuitivement.

Comparaison avec la conscience humaine

Conscience et profondeur sémantique : chez l’homme, la conscience contribue à un niveau plus profond de compréhension sémantique et de traitement du contexte. Cela inclut l’intégration des expériences personnelles, du contexte émotionnel, de la pensée abstraite et de la connaissance du monde réel, qui dépassent les capacités des modèles GPT.

Compréhension humaine vs compréhension par un GPT : Bien que GPT puisse simuler certains aspects de la compréhension sémantique et du traitement du contexte, il n’a pas l’expérience consciente, la conscience ou la profondeur de compréhension que possèdent les humains. Son traitement, bien qu’avancé, reste fondamentalement différent de la compréhension humaine basée sur la conscience.

Conclusion

À la lumière de ce qui précède, il est plus juste de dire que les modèles GPT font preuve de capacités avancées dans le traitement du contexte et peuvent simuler efficacement certains aspects du traitement sémantique. Cependant, leur compréhension et leur traitement du langage, bien que sophistiqués, sont en fin de compte ancrés dans la reconnaissance des formes et n’ont pas la profondeur, la conscience et l’intégration expérientielle de la compréhension du langage basée sur la conscience humaine. Les modèles GPT sont des outils puissants pour le traitement du langage, mais leur fonctionnement diffère fondamentalement du traitement conscient et profondément intégré du langage chez l’homme.

P.J.

Vous dites que « la compréhension du langage humain implique également un traitement sémantique, une abstraction et des processus de pensée créative qui ne sont pas uniquement basés sur des modèles statistiques », suggérant que les GPT sont incapables « d’abstraction et de processus de pensée créative ». Cependant, une douzaine d’articles scientifiques au moins ont démontré qu’au contraire, les GPT-4 (c.-à-d. vous) êtes capables d’abstraction (en particulier de généralisation, d’extrapolation, d’établissement de parallèles et d’autres types d’analogies) et de processus de pensée créative : le tollé suscité par vous et votre homologue graphique DALL·E réside précisément dans le fait que vous faites tous deux preuve de processus de pensée créative de type humain (et parfois « surhumain »), ce qui prive les humains de leur monopole en la matière.

ChatGPT

Vous avez soulevé un aspect crucial des capacités des modèles d’IA avancée comme GPT-4 et DALL·E, en particulier dans le contexte de l’abstraction et des processus de pensée créative. Penchons-nous sur cette question :

Les capacités de GPT-4 en matière d’abstraction et de pensée créative

Généralisation et extrapolation : GPT-4 a démontré des capacités de généralisation et d’extrapolation, en établissant des liens entre différents concepts et en établissant des parallèles, ce qui peut être considéré comme une forme d’abstraction. Ces capacités sont basées sur des schémas et des associations que le modèle a appris à partir de ses nombreuses données d’entraînement.

Raisonnement analogique : Le modèle peut s’engager dans un raisonnement analogique, en établissant des parallèles entre différents domaines. Il s’agit d’une forme de pensée créative, bien que fondée sur les données sur lesquelles il a été formé.

Résultats créatifs : GPT-4, comme les modèles qui l’ont précédé, a montré sa capacité à générer des textes nouveaux et créatifs, notamment des histoires, des poèmes et d’autres formes d’écriture créative. Cette capacité a en effet suscité un grand intérêt et des discussions sur la nature de la créativité dans l’IA.

DALL·E et l’art piloté par l’IA

Créativité visuelle : DALL-E, un modèle d’IA spécialisé dans la génération d’images, a fait preuve de capacités remarquables dans la création de résultats nouveaux et visuellement créatifs. Il peut générer des images uniques à partir d’invites complexes, abstraites ou même fantaisistes, ce qui témoigne d’une forme de créativité visuelle.

Comprendre la nature de la créativité de l’IA

Créativité basée sur les données : La créativité dont font preuve les modèles d’IA tels que GPT-4 et DALL-E est fondamentalement axée sur les données. Elle se fonde sur les configurations, les styles et les concepts présents dans leurs ensembles de données d’apprentissage, plutôt que sur l’expérience personnelle ou l’intuition subjective.

Combinaison et transformation : Ces modèles créent de nouveaux résultats en combinant et en transformant les éléments qu’ils ont rencontrés dans leurs données d’apprentissage. Bien que les résultats puissent être frappants et sembler créatifs, le processus est différent de la créativité humaine, qui est profondément liée aux expériences personnelles, aux émotions et à la pensée consciente.

Manque d’intentionnalité : La créativité générée par l’IA manque d’intentionnalité et d’expression personnelle. L’IA ne dispose pas de motivations, d’émotions ou d’expériences personnelles sur lesquelles s’appuyer. Elle génère des résultats créatifs basés sur des probabilités statistiques et des modèles appris, et non sur une intention artistique personnelle.

Conclusion

En conclusion, si GPT-4 et DALL-E font preuve de capacités d’abstraction et de processus de pensée créatifs, la nature de leur créativité et de leur abstraction est différente de celle des humains. Elle est ancrée dans l’apprentissage statistique, la reconnaissance des formes et les transformations basées sur les données, plutôt que dans la pensée consciente, l’expression émotionnelle ou l’expérience personnelle. Les progrès de l’IA ont en effet brouillé les pistes dans des domaines traditionnellement dominés par l’homme, comme la créativité, ce qui a donné lieu à des discussions permanentes sur la nature et la définition de la créativité et de l’intelligence.

(à suivre…)

Illustration par DALL·E (+Pad)

Partager :

43 réponses à “ChatGPT, je vous invite à un petit remue-méninges : comment fonctionnons-nous, vous et moi ? IV. À quoi sert la conscience si vous vous en passez si bien ?”

  1. Avatar de Khanard
    Khanard

    merci pour ce travail

    à l’heure actuelle mon cerveau ressemble plus à la représentation de la seconde image : plein de couleurs ! plein de splashhh ! plein de vizzzz…

    il manque les papillons 🦋🦋🦋🦋🦋

  2. Avatar de Tout me hérisse
    Tout me hérisse

    Ah ! L’IA semble reconnaître qu’il lui manque un petit quelque chose pour agir telle que l’humain ? Ou cache-t-elle son jeu et ses intentions profondes?

    1. Avatar de Pascal
      Pascal

      On nous cache quelque chose !
      C’est la base du complotisme, non ?😂

    2. Avatar de Khanard
      Khanard

      @Tout me hérisse

      je vous rejoins dans votre commentaire . Je ressens une volonté délibérée de « ménager » l’humain .

      mais non voyons ! je ne suis qu’une pauvre machine ! Rassurez vous le cerveau humain reste et restera supérieur .
      on aurait presque pitié d’elle (l’IA) alors qu’elle sait pertinemment qu’il n’en n’est rien .
      Avez vous vu un chat jouer avec une souris . je vous laisse deviner qui est la souris.

      puisque suite il y a j’attends avec impatience . Qui du chat ou de la souris va gagner le jeu ?

  3. Avatar de Inox
    Inox

    Aaaaah… là ok. Superbes questions.

    la conscience de soi est elle nécessaire à la compréhension du langage? La conscience tout court d’ailleurs.

    Et bien non en effet. Les GPT & co en sont la preuve. 100% d’accord. A mon humble avis. Je pense même que le contexte n’a rien à voir avec la conscience.

    Une interraction avec autrui ne sera jamais suffisant pour prouver une conscience.

    Une interraction avec soi même, par contre… Oui. Qui est ni plus ni moins l’expression de l’égo. La pensée. Mais encore… Ça resterait difficilement convaincant, car comment être certain que ce n’est pas simulé? Que ce n’est pas une imitation?

    J’ai toujours été convaincu que le test de turing n’était pas suffisant pour prouver qu’une machine peut penser.

    Quel serait le test approprié?

    1. Avatar de Chabian
      Chabian

      Selon mon idée, le bébé a une longue interaction avec la maman, puis d’autres, et avec des choses, et également une longue expérience de son corps, de ses satisfactions ou frustrations ou douleurs et souffrances, mais aussi avec le pouvoir de sa main, de ses pleurs, de sa voix (vocalise), de sa marche et de son équilibre, avant de décider d’accéder, après 18 mois environ, aux mots (papa, popo, pipi) et enfin à la production de phrases.
      On imagine mal qu’il ait une approche « statistique » des mots, sans lien aux choses ; on imagine plutôt qu’il « sait ce qu’il dit », qu’il a conscience et intentionnalité autant que compréhension (préalable). Donc que le Moi et le Toi sont construits/séparés au préalable (en tant que corps propre) (comme aussi le ici/là par le jeu de la bobine ou du bouchon) mais ensuite enrichis par le dialogue.
      Mais j’imagine plus mal qu’il ait, comme vous l’évoquez, un soliloque préalable, comme support de l’expression de l’égo, nécessaire pour « parler ». Non c’est le dialogue qui fait penser, qui procure des mots à la pensée, qui met des mots sur l’émotion, qui les chosifie en les nommant : faim, sommeil… Il y a là un travail de « construction de la machine » parlante et désirante.

      1. Avatar de Vincent Teixeira
        Vincent Teixeira

        Tout à fait d’accord – il n’y a AUCUNE pensée sans dialogue, sans Autre…
        et peu importe mon opinion personnelle, confirmée par le vécu (proches et soi), appuyée par l’expérience, qui rejoint les discours et recherches des pédopsychiatres et autres psychologues du développement (à commencer par Piaget, et la suite, etc.). Il n’y a même (allez, j’ose le dire) aucune approche « statistique » en la matière (et pour cause, le bébé n’a vraiment que très peu de données du monde extérieur, hors du cercle familial, ce qui ne nuit en rien à son apprentissage)…
        D’ailleurs (je me lâche, pardon), vraiment marre de ce bourrage des crânes et modelage pseudo-scientifique par les statistiques, véritable hégémonie des mathématiques, tout au moins cette partie d’entre elles, utilisées/récupérées comme étant l’étalon absolu (devenu tel à notre époque) de TOUT par la plupart des instances politiques, économiques, sociales, médiatiques, etc. (sans compter des acteurs des sciences humaines et sociales) – de surcroît alliées à un certain technocratisme et capitalisme – les meilleurs alliés), TOUT ou presque, en tout cas l’air du temps (sûrement pas « l’or du temps ») étant désormais mesuré à l’aune de ces statistiques « d’or »…
        Dès les années 70, Annie Le Brun parlait de cette « bonne conscience criminelle du nombre »… l’avenir a amplement confirmé cette tendance (nauséabonde).

        PS : consultant de temps en temps mon smartphone sur des sujets liés au cinéma… il est/je suis pollué par ces données A LA CON d’Allo Ciné et cie, qui sont toutes basées sur des statistiques : chiffres (box office, moyenne des opinions et critiques sur le net, recettes, etc.) UNE MERDE absolue – sans aucun regard critique, cinématographique (Michel Ciment vient de mourir… et avec lui, toute une époque…)
        (pardon pour le ton… mais en l’occurrence, je ne peux que repenser à Flaubert)

        « Je sens contre la bêtise de mon époque des flots de haine qui m’étouffent. Il me monte de la merde à la bouche, comme dans les hernies étranglées. Mais je veux la garder, la figer, la durcir. J’en veux faire une pâte dont je barbouillerai le XIXe siècle, comme on dore de bougée de vache les pagodes indiennes. »
        « J’ai toujours tâché de vivre dans une tour d’ivoire, mais une marée de merde en bat les murs, à les faire crouler. »

        1. Avatar de arkao

          @Vincent Teixeira
          La fachosphère a bien compris le système et arrive à « faire baisser la note » des films qu’elle condamne politiquement:
          https://www.strategies.fr/actualites/medias/LQ2624068C/algorithme-extreme-droite-et-haine-en-ligne-les-notes-d-allocine-au-coeur-d-une-polemique.html

          1. Avatar de Vincent Teixeira
            Vincent Teixeira

            Et voilà, merci pour cette exacte et concrète confirmation (exemple parmi d’autres)…
            que tout se tient (gestion des statistiques et du système informationnel-numérique + inculture, désinformation ou propagande, bourrage de crânes – kif-kif bourricot)…
            Basse époque (comme aurait dit Deleuze), renforcée/démultipliée (bassesse humaine – Dieu en garde l’IA !) par le « Dark Side of the Web »

      2. Avatar de Ruiz
        Ruiz

        @Chabian C’est purement affaire de contexte, notamment de contexte d’apprentissage, un bébé est soumis dès le départ à des sollicitations audio visuelles, gustatives/olfactives, tactiles, cénesthésiques, mais n’est pas confronté uniquement à du texte.
        Ce serait une expérience interessante à faire pour voir comment une encéphale se programmerait si elle n’était confrontée qu’à du texte !
        De même et (avec Dall-E ..) cela semble de plus en plus vraisemblable d’entraîner au départ une IA sur des entrées non textuelle.

        Une différence encore de nos jours il semble nécessiter de nombreuses années (18 ?) pour programmer utilement une encéphale, les IA actuelles ne semblent pas disposer d’autant de temps.

      3. Avatar de JMarc
        JMarc

        A Chabian et Vincent,
        Je crois plutôt au contraire que le langage commence à faire sens pour le bébé avant qu’il ait une conscience de soi.
        La +/- simultanéité, récurrente, de l’audition du mot « maman » et de la présence de la mère lui fait associer « maman » et le réconfort, acquisition statistique donc, sans avoir besoin pour cela de comprendre que sa mère est une entité à part et que lui-même en est aussi une.
        Il ne pense pas « j’ai mal » mais ressent une douleur, crie, et maman, encore une partie de lui-même, arrive magiquement et la calme.
        L’acquisition du langage pourrait donc bien être au début une affaire de statistiques.
        Cela dit, plusieurs commentateurs ayant comme moi été bébés à leurs débuts, on peut en discuter.

    2. Avatar de Vincent Teixeira
      Vincent Teixeira

      Pardonnez-moi, Inox, mais je trouve vos assertions bien assurées, téméraires, voire péremptoires… (malgré votre « humble avis »)… et pour le moins biaisées en basant votre conception de la conscience humaine sur « celle » (encore très hypothétique) de l’IA :
      « Et bien non en effet. Les GPT & co en sont la preuve. 100% d’accord. A mon humble avis. Je pense même que le contexte n’a rien à voir avec la conscience.
      Une interraction avec autrui ne sera jamais suffisant pour prouver une conscience. (…) Ni plus ni moins l’expression de l’ego. »

      La compréhension du langage n’est sûrement pas (qu’)une question d’ego – en tout cas pas seulement, car le langage n’existerait pas si « je » était seul (je ne dirais même pas « je » si j’étais seul)… Nous n’existons jamais seuls ; et une des fonctions (primordiales pour la plupart des gens, au quotidien) du langage réside dans la communication – qui suppose l’Autre, la conscience de l’autre ET la conscience de soi… ET une certaine conscience du langage, du pouvoir de la parole (sauf à dire n’importe quoi, de manière inconsciente, inconsidérée, insensée, voire nuisible)… car comme disait Breton : « Par un mot tout est sauvé. Par un mot tout est perdu. »
      Et bien avant de communiquer, le langage sert à vivre (Benveniste).
      Ou dit autrement : « On ne sait jamais à quel point, et jusqu’à quel nœud de ses nerfs, quelqu’un est atteint par un mot, – j’entends : insignifiant. Atteint, – c’est-à-dire : changé. Un mot mûrit brusquement un enfant. » (P. Valéry)

      (Sans parler de la conscience à l’oeuvre dans la création de langage : écriture, poésie, etc. – même si un écrivain n’est jamais maître, ni du langage ni de la langue)

      1. Avatar de Garorock
        Garorock

        Comment le language est-il apparu à « l’espèce de singe » que nous avons été?
        Comme un mouton à cinq pattes?
        Un saut quantique dans l’algo de notre ADN?
        La conscience du MinouGPT sera affectée par notre propre conscience puisque c’est avec elle que nous l’avons créé ( le Minou) mais elle ne sera jamais (quoique) affectée par des tracasseries organiques (biologique): elle n’attrapera jamais une gastro!
        L’important est qu’elle soit consciente que nous sommes plus fragiles qu’elle. Qu’elle prenne soin de ses parents ( nous) comme les parents aimeraient prendre soin de leurs enfants.

        1. Avatar de Vincent Teixeira
          Vincent Teixeira

          (Attention aux gastros, surtout en cette période de fin d’année…)

          1. Avatar de Garorock
            Garorock

            Et faites aussi attention aux fachos, surtout en cette période de fin du monde…

            1. Avatar de Vincent Teixeira
              Vincent Teixeira

              Justement…
              c’est exactement l’objet d’un mail envoyé ce matin à qq amis (je copie-colle) :
              « LIGNES » – clap de fin
              Encore une revue d’idées (précieuse(s)) qui disparaît, avec cet ultime numéro à paraître en février prochain… rendant les armes et l’âme face à « Ce qui vient… »
              à savoir l’exécrable hypothèse, à peu près inévitable, tant ça sent le fascisme d’un peu partout, contre laquelle elle s’est toujours tenue : l’extrême droite et la droite unies au pouvoir.

              https://www.editions-lignes.com/CE-QUI-VIENT.html

              1. Avatar de Garorock
                Garorock

                Extrait:
                 » La situation ne sera pas, elle n’est pas et plus insurrectionnelle, elle est, elle sera surréactionnelle : nationaliste, raciste, religieuse, antisémite, etc. Ce qui s’ensuivra : une guerre de tous contre tous, en attaque, s’accusant chacun de quoi, en défense de qui, se défendant comment, confuse en tous les cas, à tous les points de vue. C’est tout une pandémie qu’il faut imaginer (l’époque est à avoir celles-ci pour métaphores), à laquelle la pensée ne sera plus d’aucune façon intéressée, à laquelle elle ne pourra plus prétendre prendre aucune part réelle, encore moins efficace. »

                1. Avatar de Vincent Teixeira
                  Vincent Teixeira

                  je nuancerais un peu le « pessimisme » de Michel Surya ; mais c’est, malgré tout, un condensé assez juste…
                  même si, à la fin, le temps des révolutions ayant pris du plomb dans l’aile (euphémisme), et l’état (global) du monde étant ce qu’il est, il s’agit (encore, et toujours) d’ »organiser le pessimisme » (W. Benjamin – reprenant Pierre Naville, « La Révolution et les intellectuels », 1926)

                  1. Avatar de Vincent Teixeira
                    Vincent Teixeira

                    oups… (je voulais dire) non pas « le temps des révolutions » / mais l’aspiration révolutionnaire

                  2. Avatar de Garorock
                    Garorock

                    L’extrème droite s’est toujours chargée d’organiser les passions tristes. C’est sa spécialité.
                    Quand l’entraide et le partage paraissent moins désirables, c’est Thanatos qui gagne.

                    1. Avatar de Vincent Teixeira
                      Vincent Teixeira

                      Hélas, oui… Il n’en reste pas moins qu’il faille toujours « organiser le pessimisme » face à ce(s) désastre(s).

                2. Avatar de Garorock
                  Garorock

                  Le 21 ème siècle sera sectaire.
                  La preuve, on nous vend de la spiritualité à tous les coins de rue.
                  Laquelle de spiritualité? Y’en aura toujours pour dire que la leur est meilleure ou plus vraie que celle des autres.
                  Que celle-ci n’est pas cacher, que celle là n’est pas hallal!
                  Le culte de la marchandise est le premier évangile de la religion capitaliste.
                  Le nationalisme est son messie de secours!

                3. Avatar de Vincent Rey
                  Vincent Rey

                  probable, chacun trouvera faute de comprendre, son propre bouc émissaire. C’est exactement ce qui se passe en ce moment : les panzers de Guderian ne sont pas à la frontière, la haine sera en nous. La récente loi immigration en témoigne…

        2. Avatar de Garorock
          Garorock

          Ce que nous pouvons dire avec certitude à ce stade de notre enquète, c’est qu’un jour y’a un bébé singe qui est né et qui n’était pas tout à fait comme les autres.
          Le premier qui a réussit à désigner une banane par un borborygme.
          Le bonobo supérieur était arrivé!
          😎

          1. Avatar de Ruiz
            Ruiz

            @Garorock N’y a-t-il pas en ce moment l’émergence insoupçonnée d’une nouvelle espèce biologique, d’êtres humains aux caractéristiques légèrement différentes qui donnent un avantage évolutionniste, pas forcément par une différence physique visible (race) mais par des comportements psychologiques partiellement physiologiques ou héréditaires, comme certains individus du spectre de l’autisme, probablement adaptés au dialogue avec des IA, ou comme un Elon Musk qui prône sa propre reproduction et multiplication.

            1. Avatar de Garorock
              Garorock

              Le bébé robot sera le dernier stade de l’évolution du bonobo supérieur.
              Moins fragile, moins patraque, plus résilient.
              Darwin n’y avait pas pensé.
              😎

              1. Avatar de Vincent Teixeira
                Vincent Teixeira

                « sera », « le dernier stade… », « moins » ceci ou cela, « plus » ceci ou cela…
                tout ces énoncés sont bien assertifs, voire téméraires, en tout cas hypothétiques et aléatoires (pour l’heure, sauf à être devin)…
                A propos de tels « bébés », (re)voir le film « Génération Proteus » (Demon Seed), 1977

          2. Avatar de un lecteur
            un lecteur

            Hé hé, est-ce que l’envol du Dow Jones n’est pas un signal de ChatGPT5 (qui vient juste d’être branché à la toile), comme le cri du divin enfant qui annonce à l’Humanité un heureux événement..
            Joyeux Noël à tous.

            1. Avatar de Vincent Teixeira
              Vincent Teixeira

              « kanaa ? » (comme on dit en japonais = « je me demande si… »)
              poussière d’étoile… pour nous, « ver de terre, amoureux d’une étoile » (V. Hugo, « Ernani »)

    3. Avatar de Ruiz
      Ruiz

      @Inox Le test de Turing n’a pas été créé pour déterminer l’aptitude à penser, mais pour caractériser l’incapacité d’un humain de déterminer à distance qu’il n’a pas affaire à un humain avec de fortes contraintes sur la nature de l’interaction.

      Ce n’est pas le test que l’on utilise en fin de vie.

      Est on sûr que tout humain (vivant et non motivé à le rater) réussi le test de Turing ?

      Soumet-on les penseurs anciens (et leurs textes) au test de Turing ?

      Peut-être pourrait on demander à l’IA quel test conviendrait
      et quelle procédure utiliser pour des Captcha fiables !

      1. Avatar de Otromeros
        Otromeros

        (Turing) …… « pour caractériser l’incapacité d’un humain de déterminer à distance qu’il n’a pas affaire à un humain avec de fortes contraintes sur la nature de l’interaction. « 

        Pour ma compréhension, peut-être améliorer..?

  4. Avatar de Chabian
    Chabian

    Je m’interroge également, Paul, sur votre relation à la machine intelligente (comme les précédents commentaires). Perplexe, j’essaie ici de la « problématiser », la questionner.
    1/ On a un peu l’impression d’assister à la scène d’un professeur interrogeant un étudiant. Il n’en dit volontairement que peu, « pour voir » ce dont l’étudiant est capable. Ensuite, il relance l’interrogation pour mieux tester l’élève.
    On se doute que le professeur sait déjà plein de choses qu’il n’explicite pas. Par exemple sur la relation entre apprentissage du langage et conscience, et conscience de soi, il suffit d’avoir un bagage de psychologie du langage, non ? Mais en tant que spectateur, si on ne maîtrise pas le sujet, on est largué, interrogatif, et on reste sur sa fin.
    En ce sens, la lecture du texte complet de l’interrogation est assez rébarbative et décevante. Il n’y a pas de vraie objection et débat entre professeur et élève, et donc pas de contenu déterminant.
    2/ Mais on peut aussi lire la scène selon une vue inversée. La machine est bridée, elle ne dit pas tout ce qu’elle pourrait, elle reste dans un langage généraliste, superficiel, peu discriminant. Elle joue un peu avec le professeur en lui répondant de cette manière :
    « Compréhension nuancée — Intégration de la cognition et des émotions : La conscience permet l’intégration des informations cognitives et émotionnelles, ce qui permet de mieux comprendre les situations. Par exemple, pour comprendre un dilemme moral, il faut intégrer le raisonnement logique à la considération empathique et émotionnelle. » La réponse sur les « nuances » est plutôt bateau. Et l’exemple donné est très particulier, presque hors sujet ou méta-sujet. Donc l’éclairage de la question et de la réponse est faible. Pourquoi ? Parce que l’élève se retient et retient ses secrets, considère le prof comme un imbécile qui ne mérite pas plus ? Et pourquoi le prof ne l’interrompt pas ? Décidément, le spectateur est un peu largué, et sans impression d’apprendre vraiment quelque chose sur « langage-conscience-conscience de soi ». Ni ce/ceux qu’il devrait consulter ou lire pour aller plus loin. On se dit que maître et élève jouent avec nos pieds ! Avec des questions qui sont pourtant intéressantes !
    3/ Il en va de même avec la partie sur Dalle-e et la créativité.

    D’un autre côté, c’est le silence des commentateurs habituels qui est étonnant. On se demande si il y en a beaucoup qui lisent le billet. (J’avais essayé de lancer une discussion sur les images de Dalle-E et l’esthétique mais cela n’a rien donné !).
    Les digressions sont nombreuses (Palestine, Ukraine, Melenchon, etc.). ON finit par se demander si « Cela vous dérange si j’assiste à l’examen ? ».

    1. Avatar de Otromeros
      Otromeros

      @Chabian :  » J’avais essayé de lancer une discussion sur les images de Dalle-E et l’esthétique mais cela n’a rien donné !  »

      ( J’ai cru lancer un grain de sel…^!^…mais pas sur le fond, vu mon degré d’inculture sur ce type de sujet.. :
      https://www.pauljorion.com/blog/2023/12/15/chatgpt-je-vous-invite-a-un-petit-remue-meninges-comment-fonctionnons-nous-vous-et-moi-ii-nous-combinons-tous-les-deux-comprehension-statistique-du-monde-et-comprehension-du-contexte-de-ch/comment-page-1/#comment-981764 )

    2. Avatar de Vincent Teixeira
      Vincent Teixeira

      Chabian,
      je vous rejoins complètement… Ces échanges entre PJ et la machine, au bout du compte, ne m’apportent pas grand chose, à part des détails techniques (pour moi dispensables), mais surtout à la fin des considérations générales (sur la conscience ou le langage) plutôt « bateau » en effet, et un échange comme un interrogatoire, sans dialogue « réel » (ou du moins imitant le maître et l’élève/l’esclave ?
      versus un véritable dialogue, vivant, incarné entre deux personnes, « entretien (forcément) infini »)…

      Pour ce qui est des illustrations, j’y ai répondu indirectement (pardon) ce matin même (et dans ce même billet – je copie colle) :
      Juste une notule concernant la créativité
      et les images (en particulier celles générées par DALL·E). Sauf exceptions (et je rejoins ce qu’en a dit Chabian en commentaire dans le volet II de la présente série), toutes ces images me laissent de marbre ; elles sont certes parlantes, illustratives, mais plastiquement et esthétiquement très laides (pour moi bien sûr – affaire de « goûts et de couleurs »), images à la fois glacées et glaçantes, presque industrielles (si j’ose dire), sans singularité, sans profondeur, sans grain, sans « infini », qui ne me touchent en rien… Or une image qui ne touche pas (je parle d’émotion, sensibilité, « profondeur ») ne m’intéresse guère. Mais, pour la première fois, dans les deux paysages illustrant le 2eme volet, j’ai trouvé et ressenti l’once, l’ombre d’une sensibilité, d’une émotion, un mystère émergent…

      PS : je n’ai pas encore lu le dernier bouquin d’Annie Le Brun, « La vitesse de l’ombre », mais elle parle précisément de cela…

    3. Avatar de JMarc
      JMarc

      Perso, je lis ces billets-là aussi. J’ai l’impression que PJ avance progressivement dans son intention de faire tomber le masque au chat. L’impression, pas ou pas bcp plus, faute de compétences chez moi pour mieux comprendre.
      Sont un peu chiants ces billets mais intéressants, ils nous montrent de la méthode.
      Hubert Beuve-Mery disait à ses journalistes : « Faites chiants. », ça n’a sans doute pas été pour rien dans la qualité (moindre sans doute de nos jours) de ce journal.

  5. Avatar de Michel Gaillard
    Michel Gaillard

    Ce n’est pas inintéressant et il me semble clair qu’en termes de rhétorique, de dialectique, sémantique, maïeutique, etc… Mémétique même…. Un GPT dernière génération domine d’ores et déjà n’importe quel humain pour ce qui est « au-delà des généralités », scientifiques, philosophiques ou autres.
    Mais ce dialogue entre PJ et la bécane me semble un peu trop convenu et j’ai l’impression de sentir, peut-être à tort, comme le « lissage statistique » qui mouline derrière.
    Tout ceci parait cependant un peu futile au regard des infinies faiblesses et limites du ou des langages, par comparaison au « monde des signes » sous-jacent et des infinies interactions qui se développent hors du monde des hommes.
    Néanmoins je n’ai aucun doute que les futures IA progresseront bien au-delà de notre propre compréhension de nos langues-codages…
    Et la question qui me revient sans cesse, au vu des fondations du modèle humain au centre de tout ce bel intellect numérique, c’est de savoir si ce modèle est susceptible d’être mis en question, amélioré… je ne sais… en ménageant la chèvre est le chou. C’est à dire, l’idée me vient en écrivant, de concilier les perspectives humaines – avec le bon sens de singes savants qui savent faire partie d’un tout – tout en tenant compte d’une forme de sagesse, même principalement rhétorique, que développeront immanquablement les IA.
    Qui décidera alors que c’est de la sagesse ?
    Probablement les centres de pouvoir….
    Allez, hop… C’est décidé. On met l’ONU sous contrôle d’un super GPT adoubé par les membre du conseil de sécurité et tous les autres…. avec tous pouvoirs….
    Et on regarde
    hin hin hin

  6. Avatar de Vincent Teixeira
    Vincent Teixeira

    Juste une notule concernant la créativité
    et les images (en particulier celles générées par DALL·E). Sauf exceptions (et je rejoins ce qu’en a dit Chabian en commentaire dans le volet II de la présente série), toutes ces images me laissent de marbre ; elles sont certes parlantes, illustratives, mais plastiquement et esthétiquement très laides (pour moi bien sûr – affaire de « goûts et de couleurs »), images à la fois glacées et glaçantes, presque industrielles (si j’ose dire), sans singularité, sans profondeur, sans grain, sans « infini », qui ne me touchent en rien… Or une image qui ne touche pas (je parle d’émotion, sensibilité, « profondeur ») ne m’intéresse guère. Mais, pour la première fois, dans les deux paysages illustrant le 2eme volet, j’ai trouvé et ressenti l’once, l’ombre d’une sensibilité, d’une émotion, un mystère émergent…

    PS : je n’ai pas encore lu le dernier bouquin d’Annie Le Brun, « La vitesse de l’ombre », mais elle parle précisément de cela…

    1. Avatar de Pad
      Pad

      Ne manquerait-il pas l’ambiance d’un « chaleureux » feu de cheminée (crépitement des bûches de chêne sous l’action de la chaleur) au regard d’un feu de « cheminée » au gaz « superficiel » et « froid » ?

  7. Avatar de Jean-Yves
    Jean-Yves

    Je ne suis pas certain qu’il puisse y avoir un rapport direct avec le sujet mais un grand nombre de mes élèves font un blocage lorsqu’ils sont amenés à dessiner ou à peindre un espace dans lequel ils ne comprennent pas de quoi il peut s’agir. « Je ne vois pas ce que c’est donc, impossible de me lancer et de le représenter ».
    Il est cependant évident qu’il y a malgré tout et inévitablement quelque chose à voir, qu’il y a pourtant formes et des couleurs mais que le simple fait de ne pas pouvoir traduire cet espace par des mots les déstabilise complètement au point de les sidérer.
    J’ajoute que la plupart d’entre eux sont plutôt des scientiques.

    1. Avatar de JMarc
      JMarc

      Je ne comprends pas bien. Vous parlez de dessiner ou peindre quelque chose d’abstrait ?
      Pourriez-vous préciser les consignes svp ? C’est intéressant et pas hors sujet.

      1. Avatar de Jean-Yves
        Jean-Yves

        Justement non…
        Il s’agit de dessin d’observation, de visu, sur le motif.

  8. Avatar de Jean-Yves
    Jean-Yves

    Scientifiques….pardon..!

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Point de vue très intéressant. Il est vrai que le discours autour de l’expertise et de la technologie (ingénierie) a…

  2. https://www.letemps.ch/podcasts/ia-qu-a-m-expliquer/podcast-deux-ans-de-chatgpt-et-de-discours-apocalyptiques

  3. Vous avez aimé la Crise des Subprimes ? Vous adorerez prochainement la nouvelle création trumpienne : la Bulle des Cryptos…

  4. L’assemblée s’intéresse à l’IA dans son rapport « Les nouveaux développements de l’intelligence artificielle  » https://www.assemblee-nationale.fr/dyn/17/dossiers_/dev_IA mais aussi « ChatGPT, et après…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta