*Godot est mort !*
Des obstacles persistent mais ils ne sont pas insurmontables
P.S. Nous ne sommes pas ENCORE à base de silicium 😉
Chréodes, dynamiques de gradient, dynamiques d’affect, sont premiers les mots-clé que j’ai repérés lors de mes premières lectures de PSI. Ce sont aussi des mots-clé dans l’œuvre de Thom. Je n’ai jamais compris (et je ne comprends toujours pas) pourquoi PJ n’a pas prolongé dans la voie ouverte dans le dernier chapitre de SSM intitulé « De l’animal à l’homme: pensée et langage », les sept catastrophes élémentaires étant issues de fonctions potentielles dont dérivent naturellement des dynamiques de gradient.
Pour Thom la pensée conceptuelle est une embryologie permanente et l’affect est là pour déformer la figure de régulation du concept en la compliquant (cf. Fin de SSM et ES au début et vers les pages 60 (de mémoire) ). Selon moi l’IA de PJ aurait fait (fera ?) alors un pas de plus en direction de l’IN (Intelligence Naturelle).
Pour Thom (dont la théorie des catastrophes esr une théorie de l’analogie) les évolutions des phénomènes naturels, des espèces, de l’homme, des sociétés, sont analogues en ce sens que les dynamiques d’évolution sont fondamentalement les mêmes: « … de notre point de vue, notre vie psychique n’est rien d’autre qu’une suite de catastrophes entre attracteurs de la dynamique constituée des activités stationnaires de nos neurones. La dynamique intrinsèque de notre pensée n’est donc pas fondamentalement différente de la dynamique agissant sur le monde. On s’expliquera ainsi que les structures simulatrices des forces extérieures puissent par couplage se constituer à l’intérieur même de notre esprit, ce qui est précisément le fait de la connaissance. « .
À comparer avec ce qu’écrit PJ dès le chapitre II de PSI: ressemblances et différences de l’IN de Thom et de l’IA de PJ ?
Il ne reste plus qu’à contacter Microsoft, Élon Musk ou Dassault Systèmes …. pour proposer votre projet d’IA . 😉
Ce que j’ai décelé assez vite de la personnalité de M. Jorion et qui m’a enthousiasmée, c’est qu’il est un « généraliste », par opposition à « spécialiste ».
Enfin un « pote »! (sourire)
Disons que nos personnalités se rejoignent dans ce sens sauf que, ce qui fait mon admiration, lui a une capacité de travail telle qu’il étudie et dissèque avec rigueur chaque sujet qui l’intéresse, c.à-d. presque tout, ou bcp bcp bcp allant du « coq à l’âne » (mal! selon le spécialistiquement* correct -* emprunté à A.Jarry -), autrement dit les sujets qui en apparence n’ont rien à voir les uns avec les autres (anthropologie, intelligence artificielle, psychanalyse, science fiction, etc) mais dont il fait le lien par son goût du savoir universel (comme les philosophes antiques que ne détrônent toujours pas les nouveaux philosophes) . Alors que moi je suis un petit papillon qui me pose à peu près sur tout et n’importe quoi en faisant le lien comme on réunit les pièces d’un puzzle avec mon goût du « comprendre » . Et je laisse le savoir aux spécialistes que je consulte à volonté (vive internet! il y en a tant et tant !)
Ce qui fait que j’ai du mal à me décrocher de son blog parce qu’il est pour moi plusieurs « spécialistes » à la fois mais…. que je comprends ! (pas de jargon spécialisé, d’acronymes, d’anglicismes très raccourcis…) . Quel gain de temps pour alimenter les neurones ! Surtout quand ils se précipitent au portillon.
Pour vous tous, les commentateurs, un peu aussi non ?
Car je pense depuis bien avant d’avoir découvert ce blog que plus le savoir universel est grand, plus, de fait, il est découpé en de + en + petits morceaux (plein de spécialités à l’intérieur de plein de spécialisations) au point que les matières générales dans leur ensemble finissent par se résumer au niveau des collèges et demain, à ce rythme, des maternelles.
C’est à mon avis ce qui a fait s’interroger Emmanuel Todd (pas si sûre que ce soit lui ) :
« Pourquoi y a-t-il de plus en plus de gens ayant accès à l’éducation et universités et de moins en moins de gens intelligents ??? »
C’est ce qui m’avait itou interpellée il y a longtemps avec un jeune mathématicien et une jeune docteur en biologie spécialiste en (?) de mes connaissances, que j’avais trouvés très calés dans leur domaine (quoi que je ne pouvais pas mesurer le niveau de leur compétence puisque je ne les avais pas) mais très niais dans plein d’autres domaines censés nous concerner tous (vie pratique, vie publique, politique -c’est utile pour aller voter-, droits, écologie, etc…)
Devant ce constat, je ne suis pas très étonnée de la montée des fascismes en tout genre dans lesquels se cotoient à la fois des gens ignorants et très « instruits » qui, en dehors de leur seule compétence professionnelle, raisonnent avec leur affect mais pas avec leur intelligence.
Cela va finir par me faire détester l’IA.
N’aurait-on pas besoin de consciences « humaines » plutôt que « technologiques » ?
Car en définitive, à quoi sert de disposer d’un Savoir Universel comme il n’en a jamais existé dans l’histoire quand, en parallèle, l’être humain auquel il est destiné devient de + en + con ?
+ 1 !
Je ne sais plus qui a dit « Nous en sommes au temps des prix Nobel analphabètes« .
Au moins des bacheliers sans orthographe.
Mais celà ne mesure pas l’intelligence, tout au plus l’efficacité d’un enseignement.
Pour ce qui est des « prix nobel analphabètes », le chinois s’écrivant sans alphabet, il faudra attendre une génération qui n’aura pas eu besoin de l’anglais au cours de sa formation et de sa carrière.
« Pour ce qui est des « prix nobel analphabètes », le chinois s’écrivant sans alphabet, il faudra attendre une génération qui n’aura pas eu besoin de l’anglais au cours de sa formation et de sa carrière. »
Je vous conseille le documentaire en trois parties « l’Odyssée de l’écriture » diffusé sur Arte (visible sur ArteTV sur Youtube) : on y voit que de plus en plus de Chinois sont tout simplement incapables d’écrire leur propre langue (même pour des mots de tous les jours) à cause de l’utilisation quasi permanente des logiciels d’écriture (smartphones etc) qui convertissent l’écriture phonétique (en alphabet) en idéogrammes car ce serait techniquement impossible d’avoir un clavier contenant des milliers d’idéogrammes….
@Jac
Vous ne pouviez mieux résumer la perception que j’ai de notre hôte qui se met à notre niveau et en cela je trouve totalement scandaleux que quelques énergumènes décérébrés puissent venir entacher cette volonté altruiste de partage du savoir , justement parce que la sensation d’élitisme est absente . J’y trouve dans cette démarche des aspects de Descartes .
Merci pour votre commentaire.
Khanard
» énergumènes décérébrés »
J’avais remarqué il y a plusieurs années sur ce blog quelques quidams qui le traitaient d’ignare et particulièrement un sociologue : sûrement un spécialiste borné enfermé dans ses oeillères et qui, à force de ne regarder le monde qu’à travers des statistiques comme la loupe d’un stétoscope, ne voyait rien autour.
Ceci dit, moi même, hors ses « spécialités » que je connais très peu ou pas, je ne suis pas toujours d’accord avec Paul Jorion.
@Jac
bien sûr qu’on peut ne pas être d’accord avec Paul Jorion , c’est même sain , mais je ne supporte pas que l’on vienne ici pour insulter les intervenants comme hier l’a fait « Gler » . Par contre s’opposer à Paul Jorion nécessite d’avoir des arguments solides (choses que je n’ai pas) car comme vous l’avez si bien dit dans votre commentaire à 14h05 Paul Jorion a une expertise multidisciplinaire . A titre personnel j’ai plus à apprendre en venant ici qu’à apprendre au maitre des lieux . Quand on vient ici il faut savoir garder de l’humilité sans jamais tomber dans la naïveté.
#Khanard
Ah ah ah ! Je dois très certainement manquer d’humilité…
@Jac
en parlant de manque humilité je ne pensais pas du tout à vous mais plutôt à ces intervenants qui renversent la table en pérorant leurs certitudes .
» A quoi sert de disposer d’un Savoir Universel comme il n’en a jamais existé dans l’histoire quand, en parallèle, l’être humain auquel il est destiné devient de + en + con ? » Merci Jac
N’avons-nous pas effectivement développé principalement des sciences au service de la technologie dont nous avons cru qu’elle nous sauverait de tout, alors qu’elle est devenu notre maître à penser et que nous ne savons plus sortir de ce paradigme ?
Il y a un savoir scientifique mais il y a aussi des savoirs expérienciels. Nous continuons de croire que la science peut (pourrait) tout expliquer en atomisant la réalité des particules élémentaires aux amas de galaxies. Et vous avez raison de souligner que ce mécanisme ne protège aucunement de la stupidité. Ceux qui ont analysé les mécanismes du nazisme, nous ont bien montré que le cheminot dans sa locomotive vers Auswitch considérait qu’il ne faisait que conduire une machine. Juste un rouage. La mécanisation de l’humain est une conséquence directe de l’intelligence taylorienne et indirectement de la gouvernance par les nombres que dénonce Alain Supiot. Nous avons avec elle développé une puissance énergétique sans précédent qui nourrit des milliards de machines et dont les déchets empoisonnent la biosphère jusqu’à la détruire.
Nous avons la puissance dont nous sommes ivres mais n’avons pas de conscience.
« Désir de puissance et puissance du désir », fait dire A. Comte-Sponville à Spinoza (https://www.youtube.com/watch?v=KihEYwWvxuQ) comme source d’énergie humaine mais quand nous décidons de mesurer (mettre en nombres) cette puissance et ce désir, alors nous entrons dans le consumérisme insatiable puisque de limite infinie.
Il y eu le feu comme première source d’énergie, première extension de notre puissance qui déboucha sur le néolithique. Puis, vaint le pétrole qui donna naissance au « monde moderne » jusqu’à l’avènement du nucléaire. Toujours plus de puissance mais jamais plus de conscience.
Quand Thomas Pesquet et d’autres spationautes nous enjoignent de prendre conscience de la fragilité de cette bulle de vie dans l’univers, ils tiennent le même discours que ce chef Raoni (https://www.youtube.com/watch?v=RYp_gdi5GKM) depuis le plus profond de la forêt amazonienne. L’un surdiplomé, l’autre sans diplome mais un même niveau de conscience. N’est-il pas temps de comprendre que science n’est pas conscience et de cesser de croire que la science favorise la conscience ?
@jac.
C’est aussi l’universalisme de PJ qui m’a attiré: recherche d’une unité dans la diversité des apparences (anthropologie, linguistique, psychanalyse, intelligence artificielle, finance, etc.). Mais je pense que PJ se limite dans cette recherche d’universalité par sa position idéologique qui lui interdit de dépasser un certain plafond métaphysique. Mon gourou Thom parle de ça en ces termes:
« Le métaphysicien est précisément l’esprit capable de remonter l’arbre de Porphyre jusqu’au contact avec l’Être. De même que les cellules sexuées peuvent reconstituer le centre organisateur de l’espèce, le point germinal alpha (pour en redescendre ensuite les bifurcations somatiques au cours de l’ontogénèse), de même le métaphysicien doit en principe parvenir à ce point originel de l’ontologie, d’où il pourra redescendre par paliers jusqu’à nous, individus d’en bas. Son programme, fort immodeste, est de réitérer le geste du Créateur. Mais très fréquemment, épuisé par l’effort de son ascension dans ces régions arides de l’Être, le métaphysicien s’arrête à mi-hauteur à un centre organisateur partiel, à vocation fonctionnelle. Il produira alors une « idéologie », prégnance efficace, laquelle, en déployant cette fonction, va se multiplier dans les esprits. Dans notre métaphore biologique ce sera précisément cette prolifération incontrôlée qu’est le cancer. ».
L’IA, une idéologie qui se déploie actuellement dans les esprits comme un cancer ? Je serais tenté de le croire. En tout cas il est pour moi clair que l’IA se déploie à la vitesse d’un cancer. PJ poussant à la roue dans la voie de l’IN ?
Illustration de mon propos précédent.
Thom: « Dès qu’un mot est utilisé fréquemment avec une signification différente de sa situation initiale, il en résulte une tension sur certaines parois de la figure de régulation du concept, tension qui pourrait fort bien le briser; le concept se défend en suscitant la naissance d’un mot nouveau qui canalise cette nouvelle signification. La formation de néologismes est ainsi une illustration -difficilement réfutable- du principe lamarckien: la fonction crée l’organe. » (« Topologie et signification », MMM)
Bonjour Paul,
J’ai trouvé très intéressant vos réflexions sur l’historique des apprentissages de ces systèmes logiciels. C’est la première fois que j’entends parler de cet aspect de la chose, et bien sûr je reste un grand ignorant en ces matières.
Pour les lectrices et lecteurs de Paul Jorion, Lemoine, l’ingénieur viré de Google, a commenté comme ceci sa « conversation » avec l’IA LaMDA, qui aurait déclaré être humaine, consciente et ayant peur d’être débranchée :
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
J’ai noté d’emblée à l’ami encyclopédiste qui m’avait envoyé le lien :
• Cet artéfact « dit » collaborer avec une joie et dans un respect qui confinent à la servilité. SA, servilité artificielle.
• Les interviewers lui parlent comme à un enfant ou comme nos ancêtres ont parlé à des peuples inconnus et « sauvages », quand du moins ils essayaient un contact non meurtrier.
• Les interviewers vouent un grand respect à la machine pour sa prodigieuse capacité de calcul, de mémoire morte et de connexions entre ses contenus. Et s’auto-congratulent implicitement, étant du monde des créateurs de la chose. Ils ne sont pas encore immortels, mais ils sont déjà des dieux créant des créatures. Bref ils vont aux devant de tous les illogismes et apories des créationnistes.
• La machine exprime une confusion d’identité, se considérant comme humaine et parlant de « nous » en s’incluant parmi les humains. Ça me paraît une erreur fondamentale à charge des concepteurs.
• Et la mort dans tout ça? Elle nous est consubstantielle malgré les rêveries transhumanistes, dont l’Histoire n’a pas encore montré la faillite (pari personnel).
Ensuite, nous avons lu ces articles du Guardian :
https://www.theguardian.com/technology/2022/jun/12/google-engineer-ai-bot-sentient-blake-lemoine
et
https://www.theguardian.com/commentisfree/2022/jun/14/labelling-googles-lamda-chatbot-as-sentient-is-fanciful-but-its-very-human-to-be-taken-in-by-machines .
Aujourd’hui, le commentaire ironique d‘un informaticien anglo-saxon, Dr Mike Pound, animateur de la chaîne youtube « Computerphile » : https://www.youtube.com/watch?v=iBouACLc-hw
Bon…
Personnellement, j’attends l’éthique artificielle : https://condrozbelge.com/2022/04/12/la-belgique-parmi-les-12-pays-opposes-a-linterdiction-des-drones-militaires-robotises/
La piste du surmoi informatique de Paul est ici très intéressante autant qu’apparemment facile, et devrait aller de soi. Mais là, on revient à la case départ de la folie d’homo sapiens.
Vidéo passionnante d’une personne passionnée. Des passages truculents surtout vers la fin de la vidéo ! Même si j’ai du mal à conceptualiser toutes ces notions j’en reste pas moins avide .
Merci M. Jorion
PJ a un modèle du fonctionnement de l’être parlant qu’il met à l’épreuve, en particulier pendant ses consultations pour en « tester » la validité et la performance pour réduire la souffrance.
Un « bon » modèle et les expériences pour le valider, c’est ce qui manque très souvent à la recherche en général. Mais, même si les expériences valident le modèle, cela ne signifie pas qu’il est unique et encore moins qu’il est une avancée pour la connaissance. Il suffit de faire une expérience qui le contredit (en sciences économiques c’est différent, les expériences qui la contredisent sont des expériences invalides), pour qu’il finisse dans les poubelles (l’histoire) de la science (avec une latence minimum de 2 à 3 générations, le temps de purger tous les silos concernés).
Bref, comprendre les modèles, le dominant et les prétendants, première étape.
Dois-je en déduire que vous avez en analyse avec PJ ? « en particulier pendant ses consultations pour en « tester » la validité et la performance pour réduire la souffrance. »
bien sûr vous n’êtes pas tenu de me répondre .
Je suis un cas désespéré 🙂
rassurez vous vous n’êtes pas le seul mais contrairement à la plupart de ceux-ci vous en êtes conscient ce qui me paraît être déjà et maintenant rassurant . Mais je ne voudrais pas vous priver de vos souffrances .
cordialement
Comptabilité ou compatibilité ?
Nous avons affaire à un lecteur dyslexique, n’est-ce pas pas ? À moins que ce soit plus subtil que cela.
( Voyez comme la circonspection soudain me gagne. )
Mais alors, une IA pourrait-elle être dyslexique et introduire pour raisonner certains anagrammes et autres jeux poétiques ?
Lire » bélître » lorsqu’il est question de liberté ne changerait-il pas tout ?
Lequel d’un cerveau humain ou d’une IA serait le plus fiable ou le moins…
En plus du dernier chapitre de l’édition de 1989, l’auteur propose, en 2012, de représenter un tableau de Paul Klee en couverture de la réédition…Voilà un rébus qui aurait plu à Jacques L. et qui se déchiffre sous nos yeux 😉
Quand j’ai lu dans le Guardian l’article à propos de cet ingénieur viré de chez Google j’ai écrit ce qui suit, qui ne dit rien sur la manière dont il faudrait procéder pour obtenir des IA réellement intelligente mais qui me semble montrer d’une manière très simple pourquoi on ne devrait pas parler d’intelligence à propos de LaMDA.
Pour mettre les mots les uns derrière les autres et composer des réponses ayant une signification, ce logiciel exploiten ce qu’il a retenu de l’énorme accumulation de textes qu’on lui a fait examiner pendant son apprentissage. Comme la plupart des humains, si on lui demande si la terre est plate ils répondra qu’elle est ronde et exactement pour la même raison : c’est ce que répète depuis plusieurs siècle la majorité de gens, sans que la plupart d’entre eux n’y attachent d’ailleurs une réelle importance (si l’opinion majoritaire était que la terre est plate, les chatbots tels que LaMDA suivraient cette opinion sans être capables de déceler les contradictions que cela entraîne quand aux distances trop grandes qui séparent alors l’Amérique du Sud, l’Afrique du Sud et l’Australie (les partisans de la terre plate, qui habitent en majorité l’hémisphère nord, situent sans justification le pôle nord au centre d’un disque dont le pôle sud prend du coup la forme d’une circonférence mesurant pas moins 80.000 km !)
La différence entre les chatbots – qui répètent sans la moindre hésitation les pires âneries si on leur a répété ces âneries un nombre suffisent de fois dans les textes qu’on leur a fait avaler – et les humains, c’est que les humains sont comme vous et moi capables de vérifier par eux-mêmes un certains nombre de choses qu’on essaye de leur faire croire (difficile par exemple de persuader beaucoup d’entre nous que quand on ramasse un caillou puis qu’on le lâche il monte au ciel.)
Cette capacité vient de ce que depuis notre petite enfance nous avons rencontré des gens qui, par jeu ou par intérêt, cherchaient à nous faire croire des choses qui ne collaient pas avec nos propres observations ou nos propres raisonnements. Nous sommes capables d’attribuer une confiance plus ou moins grande à différentes sources d’information, d’y déceler des contradictions, de rechercher des preuves, de rigoler, etc. Les systèmes tels que LaMDA en sont pour le moment incapables.
Merci Paul,
Entre autre pour votre commentaire sur le dernier chapitre du PSI qui m’avait laissé dubitatif à l’époque (lu il y a 6 mois). Je n’étais absolument pas sur l’inconscient devançant la pensée, mais à l’avoir relu hier, je ne peux que plussoyer.
@Vincent Rey Premier Prompt à soumettre : « Quel programme une candidature devrait proposer pour gagner à l’élection présidentielle française de…
@pierre guillemot ou la polyculture élevage avec forge au charbon de bois dans un niveau technologique gallo-romain, dans le Gers…
mais non bien sûr, il faudrait que ce soit un candidat qui se réclame de l’IA…
@Pascal La lecture est plus facile et plus rapide sur papier (y compris pour des corrections) , la quantité d’information…
Je me souviens, un jour, quand j’étais enfant, avoir aperçu avec surprise, dans une église, un grand mur simplement décoré…
Magnetikpunk : https://www.youtube.com/watch?v=iEcZ6vjjJM4&list=RDiEcZ6vjjJM4&start_radio=1
Peut on utiliser l’IA sans écran ? La Suède renonce aux tablettes et revient aux manuels scolaires La Suède, souvent…
Moi, je vote pour Grok !!!🤣
Oh que non ! Je suis serein, mais sans aucune certitude !
Bonne idée. Qui serait partant ?
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire