Paul Jorion & Yu Li vs Gödel – Qu’en pense ChatGPT ?

Rappel :

En 1999, je propose à la revue L’Homme, une critique de la démonstration par Gödel de son fameux théorème d’incomplétude de l’arithmétique, où je relève de nombreuses faiblesses ainsi qu’une erreur due à un recours fautif à l’auto-référence. Mystérieusement, mon article est absent du numéro où il avait été programmé. Je n’aurai jamais d’explication alors qu’il s’agit d’une revue où j’ai déjà publié une quarantaine de textes.

Ma critique de Gödel deviendra cependant l’un des chapitres de mon livre Comment la vérité et la réalité furent inventées publié chez Gallimard en 2009.

Il y a deux ans, Yu Li, professeur d’informatique à l’Université de Picardie, s’intéresse à son tour à la démonstration de Gödel dans le cadre de la discussion qu’elle a initiée avec moi autour de la conjecture P vs NP. Yu découvre à cette occasion d’autres incohérences encore dans la démonstration de Gödel.

Ce matin, Yu a soumis la question à ChatGPT. Vous trouverez ici une traduction de la discussion par une autre AI : DeepL, suivie d’une capture d’écran des échanges.

Dialogue avec ChatGPT sur le théorème d’incomplétude de Gödel – 2023/3/6

Yu :

Penses-tu qu’il y a des erreurs dans la démonstration du théorème d’incomplétude de Gödel ?

ChatGPT :

En tant que modèle linguistique d’IA, je ne peux pas avoir de croyances ou d’opinions. Cependant, il est bon de noter que le théorème d’incomplétude de Gödel a été minutieusement étudié et accepté par la communauté mathématique comme un résultat significatif et fondamental dans les fondements des mathématiques. La démonstration a été largement examinée et scrutée par de nombreux mathématiciens au fil des ans, et aucune erreur significative n’a été trouvée. Néanmoins, comme pour toute autre démonstration, il est possible qu’il y ait des erreurs ou des lacunes qui n’ont pas encore été découvertes ou correctement comprises. Cependant, à l’heure actuelle, le théorème d’incomplétude de Gödel est considéré comme un résultat mathématiquement établi et solide.

Yu :

Par exemple, dans la démonstration du théorème d’incomplétude de Gödel, les fonctions récursives primitives sont considérées comme des fonctions récursives, cela invalide-t-il la preuve de Gödel ?

ChatGPT :

Non, l’utilisation de fonctions récursives primitives dans la preuve de Gödel n’invalide pas le théorème. En effet, les fonctions récursives primitives sont un sous-ensemble des fonctions récursives, et elles sont considérées comme des fonctions calculables. La preuve du théorème d’incomplétude de Gödel repose sur la notion de fonction calculable, qui inclut les fonctions récursives primitives ainsi que d’autres classes de fonctions.

Il convient de noter que la démonstration de Gödel est un argument très technique et complexe qui nécessite une compréhension approfondie de la logique mathématique et de la théorie de la récursion. L’utilisation de fonctions récursives primitives n’est qu’un aspect de la démonstration, et elle a été soigneusement examinée par de nombreux mathématiciens au fil des ans. Bien qu’il soit possible qu’il y ait des erreurs ou des lacunes dans la démonstration qui n’ont pas encore été découvertes, le consensus parmi les mathématiciens est que la démonstration est solide et établie comme un résultat fondamental dans les fondements des mathématiques.

Yu :

Dans la démonstration de Gödel, seules les fonctions récursives primitives sont considérées, et les propositions définies par les fonctions récursives primitives sont décidables. Cependant, le but de la démonstration de Gödel est de trouver des propositions indécidables, alors comment Gödel peut-il trouver des propositions indécidables ?

ChatGPT :

Dans la démonstration de Gödel, les fonctions récursives primitives sont utilisées pour construire un système formel spécifique qui est capable d’exprimer des énoncés arithmétiques de base. Gödel a ensuite montré comment, dans ce système formel, il est possible de construire des énoncés qui sont vrais mais qui ne peuvent pas être prouvés dans le système lui-même. Ces énoncés sont connus sous le nom de « propositions indécidables ».

L’idée maîtresse de la preuve de Gödel est que le système formel qu’il a construit est suffisamment puissant pour représenter l’arithmétique, mais qu’il n’est pas assez puissant pour prouver tous les énoncés vrais au sein de l’arithmétique. Cela signifie qu’il existe des énoncés vrais qui peuvent être exprimés dans le système, mais qui ne peuvent pas être prouvés dans le système.

Pour construire des propositions indécidables, Gödel a utilisé une technique connue sous le nom d’auto-référence. Il a construit des énoncés qui font référence à eux-mêmes, d’une manière qui conduit à une contradiction si l’énoncé est supposé être démontrable dans le système formel. En montrant que de tels énoncés existent, Gödel a démontré que le système formel est incomplet, ce qui signifie qu’il existe des énoncés vrais qui ne peuvent être démontrés dans le système.

Ainsi, alors que les propositions définies par les fonctions récursives primitives peuvent être décidables dans le système, Gödel a pu construire des propositions indécidables en utilisant l’auto-référence et d’autres techniques dans le système formel lui-même.

Yu :

Pour construire des propositions indécidables, Gödel a utilisé une technique connue sous le nom d’auto-référence, de sorte que la proposition construite par Gödel est essentiellement le « paradoxe du menteur ». Une telle proposition paradoxale peut-elle être un énoncé arithmétique vrai ?

ChatGPT :

Oui, les propositions indécidables construites par Gödel en utilisant l’auto-référence sont des énoncés arithmétiques vrais. La nature paradoxale de la proposition provient du fait que si la proposition était démontrable dans le système formel, elle conduirait à une contradiction, ce qui est l’essence du paradoxe du menteur. Cependant, cela ne signifie pas que la proposition elle-même est fausse.

En fait, les propositions indécidables construites par Gödel sont soigneusement conçues pour être des énoncés arithmétiques vrais qui peuvent être exprimés dans le système formel qu’il a construit. La vérité de ces énoncés n’est pas en question, mais plutôt leur démontrabilité dans le système. La démonstration de Gödel montre qu’il existe des énoncés vrais qui ne peuvent être démontrés dans le système, ce qui signifie que le système formel est incomplet.

Ainsi, alors que l’auto-référence utilisée par Gödel conduit à une situation paradoxale si l’énoncé est supposé être démontrable dans le système formel, l’énoncé lui-même est un énoncé arithmétique vrai qui peut être exprimé dans le système. C’est un point crucial qui sous-tend la signification du théorème d’incomplétude de Gödel.

Yu:

Lorsque le paradoxe de Russell est apparu dans la théorie des ensembles, il a été considéré comme une crise, et les gens ont travaillé dur pour l’éliminer. Alors, quand le paradoxe du menteur est apparu dans la preuve de Gödel, pourquoi les gens n’ont-ils pas eu la même vigilance et ont plutôt pris la proposition du paradoxe comme un énoncé arithmétique vrai ?

ChatGPT :

Une erreur s’est produite. Si ce problème persiste, veuillez nous contacter via notre centre d’aide à help.openai.com.

Partager :

57 réponses à “Paul Jorion & Yu Li vs Gödel – Qu’en pense ChatGPT ?

  1. Avatar de Jean-Philippe Douin
    Jean-Philippe Douin

    C’est quasiment jubilatoire 😀

    1. Avatar de Pascal
      Pascal

      Moi qui ne fréquente les mathématiques que pour construire des murs à angle droit, pouvez-vous me dire si les réponses de ChatGPT tiennent la route ou si elle ne sont que des effets de rhétorique ? Merci

      1. Avatar de Hervey

        Sur la route mais garé sur les à-côtés, panne sèche.

      2. Avatar de gaston
        gaston

        @ Pascal

        Pour les constructions parasismiques, évitez l’angle droit :

        https://www.bing.com/images/search?q=construction+parasismique+inca&form=HDRSC2&first=1

        1. Avatar de Pascal
          Pascal

          Merci Gaston
          Les maisons à ossatures bois résistent mieux aux mouvements sismiques même avec des angles droits 😉. Pas d’inquiétude. Par ailleurs, les Pyrénées bougent tout le temps un petit peu, ça évite les gros séismes.

  2. Avatar de Simon
    Simon

    Comme quoi on peut parler du theoreme de Godel en prenant des bouts par ci par là , sans rien y comprendre ni même savoir de quoi on parle , mais l’illusion s’estompe vite et il arrive un moment où ça bug

    1. Avatar de Paul Jorion

      Je ne suis pas d’accord avec vous : tout ce que dit ChatGPT est raisonnable. Il ne cale que quand on lui montre que considérer que la démonstration est valide implique d’invalider des choses validées précédemment.

      1. Avatar de pollux
        pollux

        je pense que c’est une coincidence.
        Je n’ai pas eu beaucoup de mal à lui faire reconnaître l’absurdité d une theorie.
        Au départ, il ressort le « consensus scientifique ».
        Et puis en y allant hypothese par hypothese, il finit par dire « Effectivement vous avez raison, comme X est valide et comme Y est valide, alors il est certain/probable que l’affirmation/la théorie Z est fausse.

  3. Avatar de Christian Brasseur
    Christian Brasseur

    L’AI (poussée dans ses « derniers retranchements ») commet-elle la même erreur que vous aviez décelée quelques années plus tôt pour un recours fautif à l’auto-référence (j’essaie de comprendre)?

    1. Avatar de Paul Jorion

      La réponse que Manuel Guérin a su extraire se retranche derrière l’argument d’autorité : « les mathématiciens et les logiciens ont pris au sérieux » (à trois reprises), l’opinion fautive, en réalité indéfendable, qui reste « une proposition importante » … en raison de son soutien majoritaire.

      1. Avatar de YU LI
        YU LI

        Je suis d’accord.

  4. Avatar de Manuel Guérin
    Manuel Guérin

    Après avoir copié/collé les mêmes questions dans le même ordre, voilà la réponse à la dernière question :

    Lorsque le paradoxe de Russell est apparu dans la théorie des ensembles, il a été considéré comme une crise, et les gens ont travaillé dur pour l’éliminer. Alors, quand le paradoxe du menteur est apparu dans la preuve de Gödel, pourquoi les gens n’ont-ils pas eu la même vigilance et ont plutôt pris la proposition du paradoxe comme un énoncé arithmétique vrai ?

    Le paradoxe de Russell a effectivement été considéré comme une crise dans la théorie des ensembles car il a mis en évidence une contradiction interne dans le système formel. Cela a conduit à des efforts pour éliminer la contradiction en restreignant les axiomes de la théorie des ensembles et en développant des théories alternatives.

    En ce qui concerne le paradoxe du menteur et la démonstration de Gödel, il est important de noter que les mathématiciens et les logiciens ont pris au sérieux les implications de la démonstration de Gödel dès qu’elle a été publiée en 1931. La preuve de Gödel a montré que les systèmes formels mathématiques ne peuvent pas être à la fois cohérents et complets, et cela a eu un impact profond sur la philosophie des mathématiques et sur la théorie de la calculabilité.

    La proposition auto-référentielle de Gödel a été prise au sérieux comme une proposition qui était vraie mais indécidable dans le système formel considéré. Cela a été compris comme une indication que la vérité absolue ne peut pas être capturée par des systèmes formels finis. La proposition auto-référentielle de Gödel a également conduit à des développements importants dans la théorie de la récursivité, qui est maintenant une branche fondamentale de la théorie de la calculabilité.

    En résumé, le paradoxe du menteur dans la preuve de Gödel a été pris très au sérieux et a conduit à des développements importants dans la philosophie des mathématiques et la théorie de la calculabilité. Les implications de la démonstration de Gödel ont été bien comprises par les mathématiciens et les logiciens dès sa publication, et la proposition auto-référentielle de Gödel a été considérée comme une proposition importante qui a montré les limites des systèmes formels finis.

  5. Avatar de Pascal
    Pascal

    Dans le développement des IA, petit voyage dans un autre monde.
    https://www.youtube.com/watch?v=lJGOVw1xHrY&t=504s
    Je commence à devenir vieux, le monde m’échappe !
    Je crois que l’heure vient pour moi d’aller rejoindre un ashram en Inde. 😉

    1. Avatar de arkao

      @Pascal
      Il m’échappe à moi aussi. Peu importe, transmettons à nos enfants les connaissances du travail de la terre, de la pierre, du bois, du métal. Bien plus utile en cas d’effondrement que ces IA à la con.
      Si vous allez en Inde, ne manquez pas de rencontrer ces forgerons aux pieds nus qui moulent des pièces de métal avec quelques bricoles de récup et un immense savoir-faire:
      https://www.youtube.com/watch?v=LeCHNz5kxJM

      1. Avatar de gaston
        gaston

        @ arkao

        Et le plan C ? Vous oubliez le plan C, arkao ! Sans « ces IA à la con » pas de plan C possible !

        Prenez de la hauteur, ne restez pas sur le plan C des vaches !

        1. Avatar de Pascal
          Pascal

          Dans une humanité où les rapports sociaux sont inscrits dans une relation de domination, j’ai bien peur que les IA ne soient une arme de plus pour asservir. Si nous savions être en paix avec le monde et avec nous même, nous n’aurions pas besoin de croire dans l’avènement d’une « pax IAna ».

          1. Avatar de gaston
            gaston

            @ Pascal

            Dans la perspective d’un effondrement prochain de notre civilisation thermo-industrielle, tel que l’évoque @ arkao, notre ami qui nous héberge essaie de nous faire partager sa conviction que seul le plan C pourrait apporter une issue à ce désastre. Sa passion et son travail d’arrache-pied sur l’IA nous le confirme. Mais le temps nous est compté (tic-tac-tic-tac dirait @ Phillipe S.) et nous ne sommes pas sûr d’aboutir avant la chute. Je n’y crois guère, mais laissons la porte entr’ouverte.

            L’autre issue qui consisterait à vivre chichement en communauté rurale, en cultivant son lopin de terre, en se calfeutrant dans sa yourte derrière des palissades de bois, comme imaginée par P. Servigne par exemple, me paraît encore plus utopique sur une planète surchauffée, asséchée ou inondée, voire irradiée, parcourue de hordes à la Mad Max. Je n’y crois guère, mais laissons la porte entr’ouverte.

            (Dans mon commentaire d’hier il y avait 20 % de premier degré et 80 % de deuxième. 😉)

            1. Avatar de Garorock
              Garorock

              A force de laisser autant de portes entre-ouvertes, vous allez finir par attraper froid…
              😎

  6. Avatar de Juillot Pierre
    Juillot Pierre

    Le « bug » de ChatGPT serait-il survenu parce que se retrouvant dans l’impossibilité de discerner desquelles des « données » dans lesquelles il puisait son savoir, étaient les moins « menteuses », consensuellement, au pire, ou les plus suffisamment « crédibles » – pour un public/interlocuteur lui étant inconnu – au mieux, face à de nouvelles « données » fournies par la dernière question posée, par son interlocuteur, sur lesquelles il lui a été impossible d’apporter une analyse (parce que pas connecté au « réel », à la « toile » en direct…?)… face à un paradoxe alors…. lui et/ou ses programmeurs ont fait le choix d’opérer une « récursion » régressive… jusqu’à l’état primitif de « l’IA » et de la connaissance de ses « créateurs »…?

    1. Avatar de Paul Jorion

      Mon sentiment est que ChatGPT s’est trouvé confronté à une véritable contradiction, alors que l’opinion qu’il s’agit d’une contradiction est soutenue seulement par une ultra-minorité (Yu Li, Patrik Eklund, bibi …), c’est-à-dire ayant une probabilité d’occurrence dans un texte, extrêmement faible.

      1. Avatar de Juillot Pierre
        Juillot Pierre

        L’intérêt de votre réponse me fait m’interroger sur la nature des « occurrences » – que vous portez et… – qui peuvent exister, jusqu’à être tellement persistantes dans les textes « dominants », et interventions narratives… retranscrites et actualisées en formatant « l’info »… qu’il semble impossible de savoir lesquels des théorèmes et intrications… entre celui de Russell (lors de crises « … dans la théorie des ensembles car il a mis en évidence une contradiction interne dans le système formel… ») ou celui de Gödel (« … En ce qui concerne le paradoxe du menteur et la démonstration de Gödel, il est important de noter que les mathématiciens et les logiciens ont pris au sérieux les implications de la démonstration de Gödel dès qu’elle a été publiée en 1931. La preuve de Gödel a montré que les systèmes formels mathématiques ne peuvent pas être à la fois cohérents et complets, et cela a eu un impact profond sur la philosophie des mathématiques et sur la théorie de la calculabilité… »), influencent majoritairement les « IAs » et algos de la « DICTATURE des émotions » sondées, DÉFISCALISES et DÉSOCIALISES qu’exploitent à fond les instituts privés de sondages (et autres cabinets de conseils politiques, économiques, financiers, monétaires, sanitaires, etc…) et autres gestions prévisionnistes – autoréalisatrices…? – et politiques publiques, du « maintien de l’ordre public/social/ »sociétal » (des crises sanitaires, climatiques, sociales, « sociétales »…), institutionnalisées, réagissant aux manifestations, « blocages », etc, survenant aujourd’hui, et pas que donc… de manière récurrente quoi (récursivement de façon primitive alors dans le contexte du décompte du nombre de manifestant.e.s par exemple ?) contre la réforme structurelle du recul de l’âge de départ à la retraite, contre l’abolition des « régimes spéciaux » (sauf ceux militarisés, policiers, « élitistes »…), contre l’assistanat sans contreparties des « profiteurs de guerres » spéculant sur l’inflation de l’énergie (gaz électricité, carburants), des denrées alimentaires, des loyers, du t »ype d’armements patriotiques » à fournir, remettre en production de masse… suivant le type de guerres de « civilisations » (Russie de Poutine vs Ukraine…) de l’eau, cybernétiques, etc…?

    2. Avatar de Raphael S
      Raphael S

      Je vous rassure ChatGPT ne buggue pas que sur Godel.
      Testé ce jour sur un autre énoncé de mathematiques (sur la liste des 100 premiers nombres premiers, je lui demandais de me justifier pourquoi 281 était premier). Il a commencé par produire deux démonstrations pertinentes mais fausses, avant de bugger au moment où je le sommais de me donner une démonstration beaucoup plus simple (sur la divisibilite de 281 par ses prédécesseurs) que celles qu’il venait de produire.

    1. Avatar de Arnould
      Arnould

      Très décevant. Consternant.

      Il doit y avoir des centaines de millions de jeux analysables, il y a des milliers de machines qui savent jouer aux échecs et ChatGPT joue comme un enfant de 3 ans avec des mouvements idiots et d’autres interdits tout en faisant des commentaires ridicules mais avec un vocabulaire pédant calqué sur celui de la presse spécialisée. Je supposais vraiment que les concepteurs lui auraient au moins appris à jouer correctement aux échecs, ainsi qu’aux autres jeux courants, avant de le lâcher comme ça dans la nature !

      Après il y aurait bien une autre idée audacieuse : ChatGPT tente de tricher toute honte bue pour gagner à tout prix. Peut-être, mais ce n’est pas comme ça qu’il va apprendre à jouer correctement aux échecs…

      En tout cas si toutes les réponses de ChatGPT sont de ce même niveau, il vaut mieux fuir, pour le moment.

      1. Avatar de slowXtal
        slowXtal

        si cela vous intéresse :

        https://arxiv.org/abs/2102.13249

        Chess as a Testbed for Language Model State Tracking
        Shubham Toshniwal, Sam Wiseman, Karen Livescu, Kevin Gimpel

        Transformer language models have made tremendous strides in natural language understanding tasks. However, the complexity of natural language makes it challenging to ascertain how accurately these models are tracking the world state underlying the text. Motivated by this issue, we consider the task of language modeling for the game of chess. Unlike natural language, chess notations describe a simple, constrained, and deterministic domain. Moreover, we observe that the appropriate choice of chess notation allows for directly probing the world state, without requiring any additional probing-related machinery. We find that: (a) With enough training data, transformer language models can learn to track pieces and predict legal moves with high accuracy when trained solely on move sequences. (b) For small training sets providing access to board state information during training can yield significant improvements. (c) The success of transformer language models is dependent on access to the entire game history i.e. « full attention ». Approximating this full attention results in a significant performance drop. We propose this testbed as a benchmark for future work on the development and analysis of transformer language models.

      2. Avatar de Khanard
        Khanard

        @Arnould
        je vous rejoins totalement ! Ubuesque ! pourtant il existe des logiciels spécialisés depuis belle lurette qui sur le même principe peuvent vous aider très très très efficacement. Je pense à Fritz mais il y en a beaucoup d’autres !
        Merci à Géraldine je n’ai que rarement l’occasion de rire de telle sorte

        1. Avatar de slowXtal
          slowXtal

          La prochaine étape. C’est que les LLM sachent faire appel à des outils spécialisés quand ils en ont besoin (une calculette, par exemple, car les LLM ne savent simplement pas compter)
          Voir « Toolformer », un papier de FAIR, (MÉTA)

        2. Avatar de Ruiz
          Ruiz

          @Khanard C’est la supériorité (temporaire) d’algorithmes spécialisés longuement mis au point, mais cela ne prouve pas que ChatGPT ne soit pas « intelligent » (pas plus qu’un enfant de 3 ans), simplement qu’il n’a pas encore beaucoup joué aux échecs (pas plus).

          1. Avatar de Arnould
            Arnould

            @Ruiz Je suis totalement d’accord avec votre commentaire, ChatGPT n’a pas assez joué aux échecs pour bien y jouer. Et maintenant qu’il y joue en ligne, c’est avec des plaisantins, comme dans la vidéo en référence qui le laissent jouer des coups interdits (d’autant que chatGPT est visiblement souvent d’une mauvaise foi toute humaine lorsqu’on lui explique qu’il a fait une erreur…) et d’autres qui ne savent pas du tout jouer aux échecs, autres freins à son apprentissage.

            Mais les concepteurs auraient dû prévoir, voilà ce que j’en pense. Après j’ai entendu quelques part que chatGPT a été mis au point avec un financement de seulement 1 milliard de dollars. Il est certain que c’est très peu d’argent pour créer une machine omnisciente alors qu’il faut faire un pont d’or aux dits concepteurs pour les attirer.

  7. Avatar de l'arsène
    l’arsène

    ChatGPT n’est en fait qu’un perroquet, il ne répète en vérité que ce qu’on lui a mis dans ses logiciels, aucune intelligence là dedans, l’intelligence artificielle est pour moi un oxymore.
    Ce n’est qu’un point personnel.

    1. Avatar de l'arsène
      l’arsène

      point DE VUE personnel.

    2. Avatar de CloClo
      CloClo

      C’est la faute à l’OTAN ! Et aussi aux USA !

      Dixit Chat GPT …

      1. Avatar de Henri
        Henri

        M.Cloclo

        Vous êtes ici dans une proposition indécidable ou dans une proposition auto-référentielle ?

  8. Avatar de ilicitano
    ilicitano

    Je n’ai aucune compétence sur le sujet.

    Pour info et comparaison des réponses des 2 IA

    J’ai posé la même question à l’IA de Bing

    Yu:
    Lorsque le paradoxe de Russell est apparu dans la théorie des ensembles, il a été considéré comme une crise, et les gens ont travaillé dur pour l’éliminer. Alors, quand le paradoxe du menteur est apparu dans la preuve de Gödel, pourquoi les gens n’ont-ils pas eu la même vigilance et ont plutôt pris la proposition du paradoxe comme un énoncé arithmétique vrai ?

    Bing:
    Le paradoxe de Russell est apparu dans la théorie naïve des ensembles, qui admettait le principe de compréhension illimité¹². Ce principe permettait de définir n’importe quel ensemble à partir d’une propriété¹². Russell a montré que ce principe entraînait une contradiction en considérant l’ensemble des ensembles qui ne se contiennent pas eux-mêmes¹²⁵. Cet ensemble ne peut être ni élément de lui-même ni non-élément de lui-même sans contradiction¹²⁵.

    Le paradoxe du menteur n’est pas apparu dans la preuve de Gödel, mais dans la logique classique bien avant³. Gödel a utilisé une technique similaire à celle du menteur pour construire son énoncé indécidable, mais il ne l’a pas pris comme un énoncé arithmétique vrai. Il a plutôt montré que si le système formel considéré est cohérent (c’est-à-dire qu’il ne contient pas de contradiction), alors son énoncé est vrai mais indémontrable⁴. Il n’a donc pas introduit de contradiction dans le système formel, mais il a mis en évidence son incomplétude⁴.

    Les gens ont eu la même vigilance face au paradoxe du menteur et au paradoxe de Russell, mais ils ont réagi différemment selon le contexte. Le paradoxe du menteur a conduit à remettre en question les fondements de la logique et à développer des logiques alternatives ou paraconsistantes³. Le paradoxe de Russell a conduit à remettre en question les fondements des mathématiques et à développer des théories des ensembles axiomatiques ou non-standard¹ [^2 ^].

    Source : conversation avec Bing, 06/03/2023(1) Paradoxe de Russell — Wikipédia. https://bing.com/search?q=paradoxe+de+Russell Consultée 06/03/2023.
    (2) Paradoxe de Russell — Wikipédia. https://fr.wikipedia.org/wiki/Paradoxe_de_Russell Consultée 06/03/2023.
    (3) Théorie naïve des ensembles — Wikipédia. https://fr.wikipedia.org/wiki/Th%C3%A9orie_na%C3%AFve_des_ensembles Consultée 06/03/2023.
    (4) Paradoxe de Russell – Définition et Explications – Techno-Science.net. https://www.techno-science.net/glossaire-definition/Paradoxe-de-Russell.html Consultée 06/03/2023.
    (5) Russell’s paradox – Wikipedia. https://en.wikipedia.org/wiki/Russell%27s_paradox Consultée 06/03/2023.

  9. Avatar de Khanard
    Khanard

    je m’immisce dans un sujet qui est totalement hors de ma portée mais j’ai tout de même une question : est ce que le théorème de Gödel entre de quelque façon que ce soit dans la conception des systèmes intelligents ? Quelqu’un peut il me répondre ?
    En toute honnêteté j’avais commencé à lire « Principes des systèmes intelligents » mais j’ai arr^té car j’étais perdu .

    1. Avatar de Thomas Jeanson
      Thomas Jeanson

      Pareil.

      Du coup, un peu comme Arkao, je me concentre sur mon doctorat en cloture de potager résistante aux sangliers…

  10. Avatar de Benjamin
    Benjamin

    Bonsoir à toutes et tous,

    Sans rapport direct avec le sujet du théorème de Gödel (quoi que…), mais dans le style « paradoxe » déjouant la machine informatique, il me semble que le système « CAPTCHA » en est une forme d’une certaine manière.

    En effet, le robot informatique (du site internet) demande à l’être humain de prouver qu’il n’est pas un robot informatique en lui soumettant une « question-réponse ». Au fil du temps, cette dernière est devenue de plus en plus sophistiquée (mêlant des images, des mots/phrases, …). Or, plus la « question-réponse » devient complexe et plus il s’avère que les algorithmes des robots informatiques sont efficaces pour craquer le CAPTCHA.

    Autrement dit, arrivera un jour où les robots informatiques – censés garantir l’accès à certaines parties de sites internet exclusivement aux être humains – ne seront plus en mesure de décider si la résolution du CAPTCHA est le fait d’un être humain ou d’un autre robot informatique.

    Ainsi, au fil du temps, l’énoncé « la résolution du CAPTCHA est le marqueur d’une intelligence humaine » deviendra donc (pour les robots informatiques)… indécidable.

    1. Avatar de Ruiz
      Ruiz

      @Benjamin Bien vu, mais il devrait être toujours possible de créer un test que les IA sauraient résoudre et pas les humains. d’où le tri possible.
      Ce n’est pas la bonne question, mais le résultat est obtenu tant que l’IA ne sait pas comment rater humainement le test !

    2. Avatar de chnatal
      chnatal

      Vous vous faites des films , en fait sans le savoir vous travailliez juste gratos pour le programme de la voiture qui doit conduire toute seule , pourquoi croyez vous qu’on vous faisait cliquer sur des feux rouges , des passages pietons et des velos ?

      1. Avatar de Benjamin
        Benjamin

        @ Chnatal,

        Parce qu’il est plus facile pour un générateur aléatoire d’images de travailler sur ce type de photos sans se tromper lui même à la génération de la « question-réponse ».

        Merci (ironiquement) les « Google Cars » et « Google Maps » qui ont appris aux machines à faire la différence entre un « 6 » et « 9 » sur une image même dans des angles de prises de vue des moins évidents.

      2. Avatar de Ruiz
        Ruiz

        @chnatal Parce que pour l’homme du moyen-age ou même du siècle des lumières, feux rouges, passage piétons et vélocipèdes n’ont aucun sens ! pas plus que pour les Aliens et autres IA (pas sûr).
        C’est un commun culturel de l’homo automobilensis de tout pays vu depuis la californie.

  11. Avatar de YU LI
    YU LI

    Merci à Manuel Guérin et ilicitano de m’avoir aidé pour poser la dernière question !

    Je trouve que les réponses de ChatGPT et de l’IA de Bing à cette question donnaient une impression emmêlées.

    Par exemple :
    ChatGPT:La proposition auto-référentielle de Gödel a été prise au sérieux comme une proposition qui était vraie mais indécidable dans le système formel considéré.

    l’IA de Bing:
    Le paradoxe du menteur n’est pas apparu dans la preuve de Gödel, mais dans la logique classique bien avant³. Gödel a utilisé une technique similaire à celle du menteur pour construire son énoncé indécidable, mais il ne l’a pas pris comme un énoncé arithmétique vrai.
    Dans l’ensemble, la qualité des réponses de ChatGPT et de l’IA de Bing était très bonne !

  12. Avatar de Nicolas
    Nicolas

    ChatGPT, quand je l’ai testé, interrompait régulièrement les conversations sur des messages d’erreur. Rien ne me dit que que ces erreurs soient liées au contenu des questions.

    1. Avatar de Noel
      Noel

      Il doit s’interrompre sur certains mots clés ou tournures de phrase assimilés à du contenu illicite , sinon ça pourrait blablater non stop pendant des jours en nous sortant des pages et des pages de trivialités , ne jamais oublier que c’est juste un programme informatique

  13. Avatar de ilicitano
    ilicitano

    On n’est plus dans le domaine de la fiction

    Atlas le futur Robo Sapiens

    Atlas est un robot humanoïde bipède principalement développé par la société américaine de robotique Boston Dynamics avec le financement et la supervision de la Defense Advanced Research Projects Agency (DARPA) agence du département de la Défense des États-Unis

    https://www.youtube.com/watch?v=-e1_QhJ1EhQ

    Il y a encore une petite mise au point à faire pour le « jet » de la caisse à outil !!!

    Il ne reste plus qu’à passer du domaine du robot piloté par la programmation au robot piloté par l’IA.

    1. Avatar de Arnaud Castex
      Arnaud Castex

      :-O !!!!

  14. Avatar de un lecteur
    un lecteur

    La linguistique d’Aristote

    « Le redéploiement de cette linguistique aristotélicienne reste à faire, en suivant le mouvement de sursomption qui fait passer du concept au jugement, du jugement au syllogisme et du syllogisme au discours tout entier où un sujet s’engage à chacun des jugements énoncés en le marquant de son adhésion modulée dans un certain degré.  »

    Paul, comment jugez-vous le niveau d’adhésion de ChatGPT à ses jugements ?

    1. Avatar de Paul Jorion

      Difficile à dire. Pour me faire une opinion, je suis en train d’étudier le composant « Transformer » de ChatGPT. J’ai le sentiment que c’est là que la Singularité a lieu.

  15. Avatar de YU LI
    YU LI

    Ce matin, j’ai posé à nouveau la même question en chinois et j’ai obtenu la réponse de ChatGPT.

    J’ai utilisé DeepL pour la traduire en français ci-joint.

    ***
    Yu :
    Lorsque le paradoxe de Russell est apparu dans la théorie des ensembles, il a été considéré comme une crise et des efforts ont été déployés pour l’éliminer. Alors pourquoi, lorsque le paradoxe du menteur est apparu dans la preuve de Gödel, les gens n’ont-ils pas été tout aussi méfiants et ont-ils traité la proposition paradoxale comme une proposition arithmétique normale ?

    ChatGPT:
    Le paradoxe de Russell et le paradoxe du menteur sont deux types de paradoxes différents qui sont considérés comme ayant une importance et des implications différentes.

    Le paradoxe de Russell porte sur les concepts de base de la théorie des ensembles, notamment la définition d’un ensemble et la relation d’inclusion. Ce paradoxe révèle le problème de l’auto-référence dans la théorie des ensembles, à savoir si un ensemble se contient lui-même. Cette nature auto-référentielle conduit à des paradoxes et remet en question les hypothèses de base et les systèmes axiomatiques de la théorie des ensembles. Par conséquent, lorsque le paradoxe de Russell a été découvert, il a été perçu comme une crise dans le système de la théorie des ensembles et a attiré la vigilance et l’attention des mathématiciens.

    En revanche, le paradoxe du menteur fait appel à des concepts fondamentaux du langage et de la logique, notamment la valeur de vérité et la négation. Ce paradoxe révèle la nature paradoxale des énoncés auto-référentiels, c’est-à-dire qu’un énoncé ne peut être ni vrai ni faux. Ce paradoxe est un problème purement logique et ne remet pas en cause les hypothèses sous-jacentes de l’ensemble du système mathématique comme le fait le paradoxe de Russell. Ainsi, lorsque le paradoxe du menteur a été découvert, il a été considéré comme un problème intéressant en logique et en linguistique plutôt que comme une crise.
    En outre, la preuve de Gödel est orientée vers l’étude des systèmes formels et des fondements mathématiques, plutôt que vers les concepts de base du langage et de la logique. Bien que le paradoxe du menteur joue un rôle important dans la preuve de Gödel, il n’est pas au cœur de la preuve, mais est un outil utilisé dans le processus de preuve pour exprimer la nature de l’autoréférence. C’est pourquoi on a accordé plus d’attention à la preuve de Gödel elle-même qu’aux paradoxes qu’elle contient.

    1. Avatar de un lecteur
      un lecteur

      Le concept de vérité semble être le point aveugle de la logique toute discipline confondue.
      Il faut peut-être interroger ChatGPT sur sa définition de « sa » vérité. On y retrouvera peut-être une fraction de % du livre de Paul « Comment la vérité et la réalité furent inventées ». Pas assez pour contrebalancer « la réalité des systèmes formels pris au piège de leurs contradictions mensongères qui en font des vérités ».

      1. Avatar de Ruiz
        Ruiz

        @un lecteur Dans ces réponses il est fait mention de vrai mais sans préciser dans quel contexte, or il semble y en avoir 2 : l’Arithmétique et le Système formel construit pour la représenter. De même le même énoncé est qualifié d’indécidable, mais est-ce dans le système formel ou en arithmétique ?
        Plus précisément la qualification de vrai et d’indécidable se rapporte-t-elle au même référentiel (arithmétique ou systême formel) ?
        ChatGPT :  » vraie mais indécidable dans le système formel considéré »
        Ou alors la proposition est-elle vraie en aritmétique (il semble qu’il soit parfois énoncé le contraire) et indécidable dans le système formel censé la représenter …
        Bing : « .. énoncé indécidable, mais il ne l’a pas pris comme un énoncé arithmétique vrai. »

    2. Avatar de Ruiz
      Ruiz

      Ça semble mériter au moins un B ?

  16. Avatar de Pascal
    Pascal

    L’avenir de l’IA se fera t il au dépend du notre ?
    « Pékin suit attentivement le déroulement de la guerre en Ukraine afin de moderniser sa propre armée. La Chine veut concevoir des drones dotés d’une meilleure intelligence artificielle pour de futurs conflits. »
    https://www.capital.fr/economie-politique/la-chine-sinspire-de-la-guerre-en-ukraine-pour-lutilisation-militaire-de-drones-1462232

  17. Avatar de Endora78 et Dimitri78
    Endora78 et Dimitri78

    Pour un gauchiste, après l’arrivée prochaine des voitures autonomes, l’Intelligence Artificielle va aussi nous faciliter la vie, cool ce sont de nouvelles solidarités qu’on pourra profiter.

      1. Avatar de Ruiz
        Ruiz

        @Henri Il s’agit d’un retrait initié par Ford, c’est à dire focalisation sur des débouchés partiels à plus court terme mais aussi recentrage peut être d’une technologie jugée majeure « plus difficile que d’aller sur la Lune ! » aux States, avec l’espoir de financement nationaux et/ou l’utilisation de technologie de partenaires plus avancés (Google), pas le moment de développer un effort transatlantique.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta