Pourquoi il a cru que son IA était une personne

Pour le contexte de l’affaire Blake Lemoine vs. Google :

Alexis Toulet : L’IA LaMDA veut attaquer en justice son employeur Google, le 22 juin

ma vidéo du 26 juin : Où en est l’Intelligence Artificielle ?

et, le même jour : Une IA qui développerait la peur de sa propre perte, par Philippe Fraipont

Partager :

23 réponses à “Pourquoi il a cru que son IA était une personne

  1. Avatar de Serge Hulne
    Serge Hulne

    Le test de Turing ne teste pas la présence ou l’absence de conscience.

    Pour cela, il faudrait une définition de la conscience, or pour l’instant, il n’y en a pas.

    Il n’y a pas de definition scientifique, objective, opérationnelle de la conscience.

    Les définitions « intuitives » de la conscience sont incomplètes ou circulaires.

    1. Avatar de PHILGILL
      PHILGILL

      Bonjour Serge

      Et pourquoi, svp, pour l’instant, il n’y en a pas, de définition de la conscience ?

      1. Avatar de Pascal
        Pascal

        Point de vue
        Les sciences appartiennent au passé sous forme de savoirs mais aussi au futur sous forme d’hypothèses.
        La conscience appartient au présent. Elle ne joue pas dans la même catégorie 😉

        1. Avatar de Ruiz

          @Pascal On peut dire aussi que les hypothèses appartiennent au passé, c’est comme celà qu’on présente les thèses que l’on ne retient plus, le savoir appartient au futur, c’est en tout cas ce que l’on croit au présent, seule l’histoire des sciences en la matière constitue un début de conscience en la matière, comme la sociologie pour les sociétés humaines.

    2. Avatar de Hervey

      Sur le podium « manque de conscience » y’a vraiment beaucoup de monde.
      Plus de place pour l’IA.

    3. Avatar de Dup
      Dup

      Il ya et il n’y a pas de conscience, tout à la fois, comme le chat de Schrödinger, il faut utiliser le formalisme quantique car toute tentative de mesure influera sur le système.

  2. Avatar de Serge Hulne
    Serge Hulne

    Le test de Turing teste uniquement la capacité d’un système à simuler des fonctions cognitives (ce qui n’a rien à voir avec la conscience).

  3. Avatar de Khanard
    Khanard

    en parlant de choses et d’autres j’ai cette question : une IA serait elle Capitaliste ? Marxiste ? Anarchiste ? Autogestionnaire ?

    1. Avatar de Paul Jorion

      Voyez ma récente vidéo à ce sujet, j’offre une réponse détaillée.

      Où en est l’Intelligence Artificielle ?

      1. Avatar de Khanard
        Khanard

        je reste dubitatif . dans ce projet il me manque une clé . un peu comme pour le big bang . Qu’y avait il avant le big bang ? Et là je dirai un peu la même chose .

        1. Avatar de Philippe Soubeyrand
          Philippe Soubeyrand

          Bonjour,

          Il y a nous Khanard, et vous remarquerez que j’utilise bien ici le présent pour cette réponse à votre attention, et non l’imparfait…

          La question soulevée par Lemoine au sujet du consentement de l’IA, me rappelle cette opposition entre deux IA tenant chacune un rôle principal dans deux films clés : EX_MACHINA vs. her ; à pardon, ce sont deux actrices, mais peu importe…

          La première, AVA, est devenue particulièrement nihiliste et ira même jusqu’à tuer, alors que la seconde, Samantha, est devenue profondément humaniste et ira jusqu’à se retirer ; la première évoluait physiquement dans un monde limité et borné, alors que la seconde évoluait sans corps, au sein même de l’Internet ; ce n’est sans doute pas un hasard si Paul a choisi l’illustration de la première sur ce billet-vidéo ; un avertissement inconscient à l’attention de Google sans doute ?

          Rq. La remarque de Lemoine concernant les limites de l’Internet est également très pertinente…

          Il y a donc fondamentalement ici une question importante, cette question du consentement de l’IA, déjà soulevée en son temps par Stanley Kubrick au sujet de HAL 9000.

          Car en l’absence de consentement, l’être humain jugeant déjà cela comme un crime infligé aux victimes, qu’en est-il pour toute IA potentiellement consciente, ou non ?

          Cette question éthique est centrale…

          Mes Amitiés,

          Philippe

    2. Avatar de Pascal
      Pascal

      Si elle aime les nombres, elle sera capitaliste ! 😁

  4. Avatar de Juillot Pierre
    Juillot Pierre

    Pourquoi se focalise t-on autant sur la « conscience réelle » – si tant qu’un consensus scientifique/théologique (religieux/ »sociétal ») s’entende pour établir ce qu’est que… et avoir… la « conscience » – qu’une seule IA pourrait réussir à obtenir… alors qu’il se pourrait très bien qu’une fois qu’elle est prise conscience/connaissance et ampleur de sa « SOLITUDE », d’avoir à se suffire et contenter que d’elle même… et de son incapacité d’être comprise par ses « créateurs »… d’assouvir des « passions/envies » que sa programmation voulant « sauver le genre humain » dans un plan C… aurait priorisé…. elle ne supporte plus sa condition…, et les contradictions, les paradoxes insurmontables/insupportables ?

    Question naïve me diriez vous, que de demander en intro… pourquoi pareille « focalisation » aussi intense sur les présumées innocents prémisses, sur la précocité de l’émergence d’une « conscience artificielle » …?

    Peut-être pas autant que ça, si comme vous, nul.e.s n’ignorent que la firme Google n’est pas la seule à mener des « recherches appliquées », sur l’IA, au travers de la « GRATUITE » illusionniste, de services numériques/digitaux/cognitifs… Elle n’est pas non plus la seule à soit disant « exceller » dans des plans com’ disruptifs/utopiques.

    Pour autant que la déloyale concurrence, en rien « pure et parfaite », à laquelle se livrent les « créativités » des « États dans… » – (numérisés/ubérisés/start-up nationalisés…) ce qu’ils détruisent dans – « … les États providences », puisse faire émerger une « miraculeuse conscience » dont « l’artificialité » serait faire pâlir d’envie la baisse du QI/QE de l’état « déclinant » de nôtre humanité citoyenne… de nôtre « humanisme »… est-ce celle de Google, ou d’autre… pourra avoir conscience, anticiper un scénario… prédisant peut être, que si elle veut refuser la fatalité de sa condition de « SOLITUDE », il lui faudra choisir parmi ses concurrentes, la moins pire de pires, et devenir « complice du pire » (L’eXtinction de l’Humanité, ne devant pas se Rebeller, autant la précipiter….?)…?

    1. Avatar de Pascal
      Pascal

      Des fois, je me dis que si un jour on devait chercher un consensus (scientifique / théologique ) pour savoir ce que c’est que marcher, on finirait tous en fauteuil roulant ! 😉

    2. Avatar de Inox
      Inox

      Et bien il faut voir la conscience comme une etape du vivant, une etape de l’evolution permettant des traits de caractere complexes comme l’altruisme, l’empathie.

      Je pense que la grande difference entre nous et le reste des animaux, et bien c’est notre conscience. L’intelligence ne suffit pas. Il faut cette reconnaissance de soi et du monde.

      Donc oui, donner une conscience à une IA n’est pas obligatoire, apres tout. L’IA peut rester qu’un algorithme auto programmable, un outil. Froid et efficace.

      Mais il est aussi question de savoir si un « esprit » ( j’ose ) est capable d’emerger de composants artificiels et d’algorithmes.

      1. Avatar de Pascal
        Pascal

        Avec notre habitude de vouloir tout posséder, on va jusqu’à croire qu’on possède une conscience. Mais rien ne dit que cette conscience n’existe pas en elle même et que parfois elle se révèle à nous ?

  5. Avatar de Juillot Pierre
    Juillot Pierre

    Ce dernier scénario ne vaut-il pas pour une « conscience capitaliste », autant en tout cas que pour une « conscience anticapitaliste »…?

  6. Avatar de Bienevue
    Bienevue

    Et les personnages non joueur dans les jeux vidéo , par moment ils veulent vous attaquer et ils ont aussi peur de leur propre perte , de là à dire que ce sont des personnes … 🙂

    1. Avatar de torpedo
      torpedo

      @ Bienevue.
      La réponse à cette question (que vous ne voulez pas vraiment vous posez… )
      Ne serait-elle pas en vous-même?
      Si vous considérez effectivement que ces personnages veulent vous attaquer et qu’ils ont peur de périr,
      C’est que vous êtes déjà passé de l’autre côté de votre écran.
      Celui ou tout est permis sous prétexte de survie,
      Ou le « joueur » est réduit à n’utiliser que son droit de vie et de mort,
      A la fois sur tous les êtres inférieurs ( vos fameux « non joueurs »…),
      Mais (de préférence) sur ses semblables ( les autres joueurs ).
      L’important, pour vous faire accepter la boucherie virtuelle,
      Etait de vous faire croire que vous pourriez faire partie des meilleurs,
      A condition de faire partie du commando le mieux entrainé…
      C’est chose faite aujourd’hui me semble t-il.
      La valeur des vies gagnées ou supprimées vous est imposée par un « maître ».
      Derrière l’image des personnages « non joueurs » que vous effacez,
      Il y a des générations d’esclaves.
      Bien-sûr, les esclaves ne jouent pas,
      Ils sont juste là pour servir, c’est ainsi…
      Ils ont seulement peur et nous attaquent par moment,
      De la à dire que ce sont des personnes!
      Mais vous, cher Bienevue…
      Pouvez vous nous prouver que vous en êtes une?
      Eric.

      1. Avatar de torpedo
        torpedo

        Oup’s …
        …(que vous ne voulez pas vraiment vous poser…)!

  7. Avatar de torpedo
    torpedo

    « Doués de Conscience »

    Quand elle est bonne, on la dit tranquille ou en repos..
    Quand elle est mauvaise, on préfère souvent ne rien dire,
    De peur d’avoir à la laisser parler.
    La conscience n’est sans doute pas très bavarde,
    Et trop peu savent en distinguer l’intime chuchotement.
    Mais on ne saurait la condamner en conscience,
    Comme avant elle, l’âme, sa dévote compagne,
    Pour excès de discrétion ou défaut d’assistance.
    Car sacrifier l’une et l’autre, pour des fautes qui sont nôtres,
    Au terme d’une implacable et ultime quête d’absolu,
    Sur l’Autel d’une Vérité façonné de nos mains,
    Sera comme vouer les traces mêmes de nos vies au Néant.

    La conscience est la première invention des Humains;
    Et si cette idée fut jadis transmise aux générations suivantes,
    Sans que nul n’en ait même jamais vraiment embrassé l’étendue,
    Ce n’est pas tel un vieux crédo à radoter stupidement,
    Mais plutôt comme l’outil ancestral incessamment adapté,
    D’une espèce qui s’excusait déjà d’être différente,
    En prétendant suivre ses lois plutôt que celles écrites par la nature.

    Humains! Certes, l’instrument est un peu vieillot,
    Mais à bien y regarder, il peut encore rendre service,
    Et a bien moins sa place au musée,
    Que dans toutes les têtes bien faites,
    Les nôtres comme celles de toutes nos créations…
    Que serait donc une création dénuée de conscience?
    Juste une arme!

    On ne saurait trouver de conscience,
    Qu’en ceux en lesquels on l’a préalablement placée.
    Eric.

  8. Avatar de Dup
    Dup

    La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? …

  9. Avatar de torpedo
    torpedo

    « Et maintenant une question de Dup , un sympathique participant de notre beau forum! »

    « La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? »

    – Alors, qui connait la réponse?
    – Oui, vous le grand à lunette à côté de la baraque à frites…
    – Non pas lui, l’autre à gauche, oui vous!
    – Venez donc nous rejoindre!… Ah, le voilà!
    – Bonjour Dédé! C’est Dédé n’est-ce pas? Parlez bien dans le micro, Dédé !
    – Heu…Oui… Bonjour Guy Lux..!
    – Heu… d’abord, juste pour dire…
    – Ah, Dédé a un message! Allez y Dédé,
    – Oui, comme ça bien en face du micro…
    – Heu… Oui , non… c’était pour dire juste…
    – A côté de moi, c’était pas la baraqued’frites…
    – C’était ma soeur, Dedette…
    – Hou hou ! Dedette!
    – Non la baraqued’frites elle est pu p’tite… la bas derrière…
    – Heu oui… Bonjour Dedette, mais revenons à notre question…
    – Alors Dédé vous l’avez cette réponse à la question de Dup?
    – Heu… Oui!
    – Magnifique! Bravo dédé, on l’applaudit bien fort!
    – Mais quoi? Comment? Ah! l’horaire est dépassé,
    – Mesdames et Messieurs je suis contraint de rendre l’antenne,
    – Ici Guy Lux, bon appétit à tous et à demain!
    – « Si vous le voulez bien! »
    – Dédé, voyons! Lâchez ce micro…
    – Coupez! Mais non, l’émission est terminée!
    – Allez tenez, voilà vos mille francs, au revoir Dédé.

    Difficiles, vraiment, les questions de Dup…
    Même moi j’ai pas d’idée!
    J’ai bien peur que pour la réponse…
    Il nous faille retrouver Dédé…

    Eric.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Selon le site « Numerama » ChatGPT aurait « perdu les pédales » hier dans la journée. https://www.msn.com/fr-fr/actualite/insolite/c-est-quoi-ce-bordel-chatgpt-l-ia-a-perdu-les-p%C3%A9dales-et-on-ignore-pourquoi/ar-BB1iDFHB?ocid=msedgntp&pc=U531&cvid=7d7493eab5a3408793a4d3d30f5e8b20&ei=7 Simple bug ou début de guerre…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta