« plus personne pour tenir une majorité Républicaine » Pô, pô, pô ! Tu vas un peu vite Rafio. Tu as déjà…
*Godot est mort !*
-
Le mystère du LLM : pourquoi se prend-il pour le pont du Golden Gate ?
Lire la suite : Le mystère du LLM : pourquoi se prend-il pour le pont du Golden Gate ?
Illustration par DALL·E
J’aurai l’occasion de faire plusieurs remarques sur cet article au titre sibyllin :
Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet publié par l’équipe de recherche de la firme Anthropic.Ils vous présentent la chose suivante en se demandant ce qui se passe :
J’explique. Dans la cartouche orange se trouve un identifiant. Le « F » est pour « feature », ce qui veut dire « caractéristique », ils en ont découvert des millions dans la mémoire…
-
Réflexion sur une expression à la mode : l’expression « à la mode », par Christophe Grosjean
Lire la suite : Réflexion sur une expression à la mode : l’expression « à la mode », par Christophe Grosjean
Illustration par DALL·E à partir du texte
Réflexion sur une expression à la mode : l’expression « à la mode »
Ces trois mots me rappellent une comptine dont le refrain était : « savez-vous planter les choux, à la mode de chez nous ? ». Mais tous comptes faits, j’ai l’impression que cette expression « à la mode » effectivement à la mode peut servir pour nous conter des histoires qui ressemblent plus à des salades qu’à des comptines.
Je m’accorde volontiers avec Deleuze qui considère que les « sociétés de contrôle » fonctionnent par…
-
Discréditez ! discréditez ! et il ne restera bientôt plus rien
Lire la suite : Discréditez ! discréditez ! et il ne restera bientôt plus rien
Illustration par DALL·E (+Rembrandt) (+PJ)
Quand un témoin hier au procès de Trump répond au juge qui a accepté une objection de l’accusation : « Jeez… », « C’est pas possible… », le juge pète les plombs et fait évacuer la salle. Il a bien compris que la stratégie de la défense depuis le début du procès fait partie d’un plan plus vaste du mouvement fasciste « MAGA » : discréditer la séparation des pouvoirs, discréditer le système démocratique US dans son ensemble.
Cela ne devrait pas étonner venant d’un mouvement fasciste mais comme l’histoire n’intéresse…
-
Voyage au cœur de la Charente profonde II. Norton & Morse
Lire la suite : Voyage au cœur de la Charente profonde II. Norton & Morse
L’autre client au Bed & Breakfast, c’était David : il est du Nord de l’Angleterre et terminait une tournée de courses et de conventions de motards.
Je lui ai parlé d’un ami des années 70, artiste (il m’avait offert un très beau et grand portrait de ma Leica M11 au crayon de couleur), assistant d’Andy Warhol (il tirait ses sérigraphies), je l’entendais arriver de loin vu les pétarades de sa Norton.
David m’avait écouté avec un petit sourire. Il me fit une confession : « J’ai deux Norton. Il…
-
Questions de sécurité en Intelligence artificielle
Lire la suite : U. S. : Quand une nation dérive vers la guerre civileComme plusieurs d’entre vous, je vais me balader un peu sur les routes durant la dizaine de jours qui viennent. Bien entendu, je ne me désintéresse pas pour autant de l’actualité quand je suis au volant et je vais m’abreuver en particulier dans les 48 heures qui viennent des podcasts du New York Times. Je vais tirer parti néanmoins du fait que certaines personnes pensent sur certains sujets à peu de choses près la même chose que moi, comme c’est le cas ici.
Ça vient de se passer. Il s’agit d’une commission parlementaire.
-
Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! V. Vers une compréhension des réseaux relationnels complexes plus fidèle à la véritable nature de l’intelligence humaine
Lire la suite : Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! V. Vers une compréhension des réseaux relationnels complexes plus fidèle à la véritable nature de l’intelligence humaine
Illustration par DALL·E (+PJ)
P.J. :Très bien ! Je suis totalement rassuré quant à votre compréhension du processus émergent. Or, vous avez dû remarquer que si la croissance du graphe original est totalement transparente pour les êtres humains (vous ajoutez un nouveau mot attaché comme étiquette à un nœud et vous lancez des arêtes vers d’autres mots attachés à un nœud d’une manière totalement prévisible), la croissance du P-graphe est alors totalement contre-intuitive (par exemple, vous ajoutez « Lassie » au graphe en tant que deuxième instance de « chien »…
-
Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! IV. Une approche conforme à l’apprentissage dans les réseaux neuronaux biologiques
Lire la suite : Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! IV. Une approche conforme à l’apprentissage dans les réseaux neuronaux biologiques
Illustration par DALL·E (+PJ)
P.J. :
Ok. Si c’est clair pour vous, vous serez acquis à l’idée que lorsque de nouvelles informations sont fournies pour la construction du graphe, cela ne devrait pas se faire par un retour au graphe source (ce qui entraînerait une perte d’information) mais par la poursuite de la croissance du P-graphe dual ?
Claude 3 :
Absolument ! Si nous acceptons la prémisse selon laquelle la représentation du P-graphe capture les informations et les propriétés émergentes qui sont perdues lorsque l’on…
-
Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! III. Gain d’information dans la transposition d’un graphe en son dual
Lire la suite : Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! III. Gain d’information dans la transposition d’un graphe en son dual
Illustration par DALL·E (+PJ)
P.J. :
Très bien ! S’il vous semble plausible qu’on observe des phénomènes émergents lors de la transposition du graphe original vers son dual, comment expliqueriez-vous qu’il y ait un gain d’information dans le processus (gain qui est flagrant lorsque le processus est inversé et qu’une perte d’information est à l’inverse tout aussi flagrante) ?
Claude 3 :
Le gain apparent d’information lors du passage d’un réseau sémantique au « P-graphe », son dual, et la perte d’information correspondante lors de l’inversion du processus,…
-
ChatGPT-4o
Lire la suite : ChatGPT-4oIl y a quelques mois, je me suis retrouvé dans la pièce où avec des jeunes gens de mon âge et au petit matin, nous regardions à la télé les images floues ponctuées d’affreux crépitements des premiers pas de nous sur la lune. J’y pense parce que je me retrouve au moment où je regarde ces vidéos qui nous sont distillées depuis quelques heures à revivre le même émerveillement. Je sais, au…
-
Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! II. Peut-on l’observer à l’occasion d’une simple transposition ?
Lire la suite : Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! II. Peut-on l’observer à l’occasion d’une simple transposition ?
Illustration par DALL·E (+PJ)
À l’époque (1987-90) où je développais pour British Telecom un logiciel appelé ANELLA (Associative Network with Emergent Logical and Learning Abilities), un « réseau associatif à propriétés émergentes de logique et d’apprentissage », c’est le collègue qui avait inventé ce sympathique acronyme qui avait attiré mon attention sur des phénomènes d’émergence dans mon IA. Au cœur du processus, une astuce que j’avais mise au point pour éliminer d’un seul coup la plupart des impasses des réseaux sémantiques : définir comme mémoire d’une IA, le dual d’un réseau sémantique.…
-
Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! I. Un éloge intolérable de … l’obésité !
Lire la suite : Les Grands Modèles de Langage (+PJ) s’attaquent à l’émergence ! I. Un éloge intolérable de … l’obésité !
Illustration par DALL·E à partir du texte.
Le mois dernier (du 6 au 9 avril), j’ai proposé ici une série de 6 billets où je quadriloguais avec GPT-4 et une version dédoublée de Claude 3 à propos de la conjecture P vs NP, une question classique d’informatique théorique relative à la relation – pour autant qu’il en existe une – entre la complexité de la solution d’un problème et la complexité de la vérification qu’une solution a bien été trouvée.
Vous avez sans doute vu ce qui…
La formule des abonnements ayant été abandonnée, ayez l’amabilité de soutenir le blog en contribuant ici !
Contact
Les livres de Paul Jorion
Articles récents
- Claude Code hier, Claude Code aujourd’hui et ce qu’en pense Claude Opus – pas que du bien !
- Doctrine française de souveraineté en intelligence artificielle
- Bon week-end… en espérant vous retrouver lundi !
- Neil Sedaka (1939-2026)
- Trump contre Claude
Commentaires récents
Anthropic/Claude blacklisté par Trump pour le Pentagone. Pas de problème : OpenAI récupère le contrat avec le Pentagone qui accorde…
Surveillance, quand tu nous tiens https://www.youtube.com/watch?v=vcmI4NVswGo
Ah, ah, ah ! Joli combat des chefs en perspective !😉 https://youtu.be/f4YqWtOyxyk?feature=shared
RV, Otroméros, Les propos de Mélenchon ne portaient pas sur la pertinence d’une prononciation plutôt que d’une autre. Chaque prononciation…
Trump à certainement fait là sa plus grosse erreur. Non, seulement il n’a le soutien que d’un quart des américains…
Au sujet d’Epstein, on peu parler de l’origine mystérieuse de sa richesse, des viols, des suicides, de son amitié avec…
Une structure de contraintes. Un fait survit à la contradiction. 😉
Ce pauvre Netanyahou ! S’imaginer qu’il suffit de zigouiller le haut commandement pour que des sans culotte prennent le pouvoir.…
HAARETZ à l’instant : L’État d’Israël : Netanyahu appelle les Iraniens à « se libérer » alors que Tsahal ciblerait…
Catégories
Archives
Tags
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Blogroll
- Blog de Pierre Sarton du Jonchay
4 - Contacter Paul Jorion
Contacter Paul Jorion
9 - Le Forum du Blog de Paul Jorion
Le Forum du Blog de Paul Jorion
10