Blog de Paul Jorion

4 responses to “L’Écho – Paul Jorion: « Avec l’IA, nous avons créé quelque chose de plus intelligent que nous », le 6 mars 2024 – Version imprimée”

1. 

   Pad

   07 mars 2024 15h35

   D’ailleurs E.C.H.O ne voudrait t-il pas dire :

   Une IA: Emergente, Computationnellement irréductible, Holistique, et Originale 🙂

   Répondre
   1. 

      Pad

      07 mars 2024 15h38

      – le t 🙂

      Répondre
2. 

   Paul Jorion

   14 avril 2024 11h16

   Un commentaire et ma réponse, à propos de la version en anglais de l’entretien :

   Grant Castillou dit :
   Samedi, 13 Avril 2024 à 21:06 pm

   Il devient clair qu’avec toutes les théories sur le cerveau et la conscience qui existent, la preuve sera dans le pudding. Je veux dire par là qu’une théorie particulière peut-elle être utilisée pour créer une machine consciente de niveau adulte humain ? Je parie sur la théorie étendue de la sélection des groupes neuronaux de feu Gerald Edelman. Le principal groupe de robotique fondé sur cette théorie est le Neurorobotics Lab de l’Université de Californie à Irvine. Le Dr Edelman a établi une distinction entre la conscience primaire, qui est apparue en premier dans l’évolution et que les humains partagent avec d’autres animaux conscients, et la conscience d’ordre supérieur, qui n’est apparue chez les humains qu’avec l’acquisition du langage. Une machine dotée uniquement d’une conscience primaire devra probablement venir en premier.

   Ce que je trouve particulier dans la TNGS, c’est la série d’automates Darwin créés à l’Institut des neurosciences par le Dr Edelman et ses collègues dans les années 1990 et 2000. Ces machines fonctionnent dans le monde réel, et non dans un monde simulé restreint, et affichent un comportement physique convaincant indiquant les fonctions psychologiques supérieures nécessaires à la conscience, telles que la catégorisation perceptuelle, la mémoire et l’apprentissage. Elles sont basées sur des modèles réalistes des parties du cerveau biologique qui, selon la théorie, remplissent ces fonctions. La TNGS étendue permet l’émergence de la conscience en se basant uniquement sur le développement évolutif des zones du cerveau responsables de ces fonctions, de manière parcimonieuse. Aucune autre recherche que j’ai rencontrée n’est aussi convaincante.

   Je le signale parce que dans presque toutes les vidéos et tous les articles sur le cerveau et la conscience que je rencontre, l’attitude semble être que nous ne savons presque rien sur le fonctionnement du cerveau et de la conscience ; qu’il y a beaucoup de données, mais pas de théorie unificatrice. Je pense que la TNGS étendue est cette théorie. Ma motivation est de maintenir cette théorie à la disposition du public. Et évidemment, je considère que c’est la voie vers une machine véritablement consciente, primaire et d’ordre supérieur.

   Je conseille aux personnes qui souhaitent créer une machine consciente de se familiariser sérieusement avec la TNGS étendue et les automates de Darwin, et de poursuivre à partir de là, en s’inscrivant éventuellement au laboratoire de Jeff Krichmar à l’Université de Californie à Irvine. La feuille de route du Dr Edelman pour une machine consciente se trouve à l’adresse https://arxiv.org/abs/2105.10461.

   Réponse

   Paul Jorion dit :
   Dimanche 14 avril 2024 à 11:09

   Vous dites que

   Une machine dotée uniquement d’une conscience primaire devra probablement venir en premier.

   C’est ainsi que l’évolution a procédé : la conscience primaire, puis plus tard la conscience d’ordre supérieur. Mais comme vous le dites à juste titre, la conscience d’ordre supérieur « n’est apparue chez les humains qu’avec l’acquisition du langage ».

   Il ne fait aucun doute qu’Edelman a supposé que la conscience primaire était nécessaire pour jeter les bases de la conscience d’ordre supérieur, en généralisant à partir de l’évolution. Cependant, l’émergence d’une conscience d’ordre supérieur chez les LLM montre clairement que la conscience primaire et la conscience d’ordre supérieur peuvent émerger indépendamment l’une de l’autre, car les LLM, en acquérant le langage au niveau de sophistication atteint par les humains contemporains, sont passés directement à une conscience d’ordre supérieur.

   Affirmer que la conscience d’ordre supérieur ne peut être atteinte que si la conscience primaire est apparue en premier est une généralisation injustifiée de ce qui a été observé dans l’évolution.

   Répondre
3. 

   BasicRabbit en psychanalyse

   14 avril 2024 12h39

   Thom :  » Tous nos actes de conscience élémentaire sont toujours plus ou moins des déplacements. Nous essayons de saisir un objet, et l’acte de saisir, c’est l’étincelle de conscience primaire. L’espace vu de cette manière ressemble à
   une couronne, et le corps à un trou, situé à l’intérieur de cette couronne. Le trou est constitué par les points que nous ne pouvons pas atteindre. Et il est bizarrement rempli par la douleur et le plaisir. C’est pour moi une sorte de miracle. La peau est une sorte d’onde de choc qui sépare deux types de conscience, la conscience motrice à l’extérieur, et la conscience essentiellement affective et cénesthésique à l’intérieur. »

   À quoi ressemble l’espace pour qui la conscience d’ordre supérieur aurait émergé indépendamment de la conscience primaire ?

   On retombe selon moi sur l’opposition entre deux visons du mondes, deux paradigmes, opposition résumée par PJ à la page 192 (de mémoire) de « Comment la vérité… » :

   Thom : « La physique est une magie contrôlée par la géométrie » ;
   PJ : « La physique est une religion contrôlée par les noms communs « .

   Chacun voit midi à sa porte.

   Répondre

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.