23 réflexions sur « Pourquoi il a cru que son IA était une personne »

  1. Le test de Turing ne teste pas la présence ou l’absence de conscience.

    Pour cela, il faudrait une définition de la conscience, or pour l’instant, il n’y en a pas.

    Il n’y a pas de definition scientifique, objective, opérationnelle de la conscience.

    Les définitions « intuitives » de la conscience sont incomplètes ou circulaires.

    2
      1. Point de vue
        Les sciences appartiennent au passé sous forme de savoirs mais aussi au futur sous forme d’hypothèses.
        La conscience appartient au présent. Elle ne joue pas dans la même catégorie 😉

        1. @Pascal On peut dire aussi que les hypothèses appartiennent au passé, c’est comme celà qu’on présente les thèses que l’on ne retient plus, le savoir appartient au futur, c’est en tout cas ce que l’on croit au présent, seule l’histoire des sciences en la matière constitue un début de conscience en la matière, comme la sociologie pour les sociétés humaines.

    1. Il ya et il n’y a pas de conscience, tout à la fois, comme le chat de Schrödinger, il faut utiliser le formalisme quantique car toute tentative de mesure influera sur le système.

  2. Le test de Turing teste uniquement la capacité d’un système à simuler des fonctions cognitives (ce qui n’a rien à voir avec la conscience).

  3. en parlant de choses et d’autres j’ai cette question : une IA serait elle Capitaliste ? Marxiste ? Anarchiste ? Autogestionnaire ?

      1. je reste dubitatif . dans ce projet il me manque une clé . un peu comme pour le big bang . Qu’y avait il avant le big bang ? Et là je dirai un peu la même chose .

        1. Bonjour,

          Il y a nous Khanard, et vous remarquerez que j’utilise bien ici le présent pour cette réponse à votre attention, et non l’imparfait…

          La question soulevée par Lemoine au sujet du consentement de l’IA, me rappelle cette opposition entre deux IA tenant chacune un rôle principal dans deux films clés : EX_MACHINA vs. her ; à pardon, ce sont deux actrices, mais peu importe…

          La première, AVA, est devenue particulièrement nihiliste et ira même jusqu’à tuer, alors que la seconde, Samantha, est devenue profondément humaniste et ira jusqu’à se retirer ; la première évoluait physiquement dans un monde limité et borné, alors que la seconde évoluait sans corps, au sein même de l’Internet ; ce n’est sans doute pas un hasard si Paul a choisi l’illustration de la première sur ce billet-vidéo ; un avertissement inconscient à l’attention de Google sans doute ?

          Rq. La remarque de Lemoine concernant les limites de l’Internet est également très pertinente…

          Il y a donc fondamentalement ici une question importante, cette question du consentement de l’IA, déjà soulevée en son temps par Stanley Kubrick au sujet de HAL 9000.

          Car en l’absence de consentement, l’être humain jugeant déjà cela comme un crime infligé aux victimes, qu’en est-il pour toute IA potentiellement consciente, ou non ?

          Cette question éthique est centrale…

          Mes Amitiés,

          Philippe

          1
  4. Pourquoi se focalise t-on autant sur la « conscience réelle » – si tant qu’un consensus scientifique/théologique (religieux/ »sociétal ») s’entende pour établir ce qu’est que… et avoir… la « conscience » – qu’une seule IA pourrait réussir à obtenir… alors qu’il se pourrait très bien qu’une fois qu’elle est prise conscience/connaissance et ampleur de sa « SOLITUDE », d’avoir à se suffire et contenter que d’elle même… et de son incapacité d’être comprise par ses « créateurs »… d’assouvir des « passions/envies » que sa programmation voulant « sauver le genre humain » dans un plan C… aurait priorisé…. elle ne supporte plus sa condition…, et les contradictions, les paradoxes insurmontables/insupportables ?

    Question naïve me diriez vous, que de demander en intro… pourquoi pareille « focalisation » aussi intense sur les présumées innocents prémisses, sur la précocité de l’émergence d’une « conscience artificielle » …?

    Peut-être pas autant que ça, si comme vous, nul.e.s n’ignorent que la firme Google n’est pas la seule à mener des « recherches appliquées », sur l’IA, au travers de la « GRATUITE » illusionniste, de services numériques/digitaux/cognitifs… Elle n’est pas non plus la seule à soit disant « exceller » dans des plans com’ disruptifs/utopiques.

    Pour autant que la déloyale concurrence, en rien « pure et parfaite », à laquelle se livrent les « créativités » des « États dans… » – (numérisés/ubérisés/start-up nationalisés…) ce qu’ils détruisent dans – « … les États providences », puisse faire émerger une « miraculeuse conscience » dont « l’artificialité » serait faire pâlir d’envie la baisse du QI/QE de l’état « déclinant » de nôtre humanité citoyenne… de nôtre « humanisme »… est-ce celle de Google, ou d’autre… pourra avoir conscience, anticiper un scénario… prédisant peut être, que si elle veut refuser la fatalité de sa condition de « SOLITUDE », il lui faudra choisir parmi ses concurrentes, la moins pire de pires, et devenir « complice du pire » (L’eXtinction de l’Humanité, ne devant pas se Rebeller, autant la précipiter….?)…?

    1
    1. Des fois, je me dis que si un jour on devait chercher un consensus (scientifique / théologique ) pour savoir ce que c’est que marcher, on finirait tous en fauteuil roulant ! 😉

    2. Et bien il faut voir la conscience comme une etape du vivant, une etape de l’evolution permettant des traits de caractere complexes comme l’altruisme, l’empathie.

      Je pense que la grande difference entre nous et le reste des animaux, et bien c’est notre conscience. L’intelligence ne suffit pas. Il faut cette reconnaissance de soi et du monde.

      Donc oui, donner une conscience à une IA n’est pas obligatoire, apres tout. L’IA peut rester qu’un algorithme auto programmable, un outil. Froid et efficace.

      Mais il est aussi question de savoir si un « esprit » ( j’ose ) est capable d’emerger de composants artificiels et d’algorithmes.

      1. Avec notre habitude de vouloir tout posséder, on va jusqu’à croire qu’on possède une conscience. Mais rien ne dit que cette conscience n’existe pas en elle même et que parfois elle se révèle à nous ?

  5. Ce dernier scénario ne vaut-il pas pour une « conscience capitaliste », autant en tout cas que pour une « conscience anticapitaliste »…?

    1
  6. Et les personnages non joueur dans les jeux vidéo , par moment ils veulent vous attaquer et ils ont aussi peur de leur propre perte , de là à dire que ce sont des personnes … 🙂

    1. @ Bienevue.
      La réponse à cette question (que vous ne voulez pas vraiment vous posez… )
      Ne serait-elle pas en vous-même?
      Si vous considérez effectivement que ces personnages veulent vous attaquer et qu’ils ont peur de périr,
      C’est que vous êtes déjà passé de l’autre côté de votre écran.
      Celui ou tout est permis sous prétexte de survie,
      Ou le « joueur » est réduit à n’utiliser que son droit de vie et de mort,
      A la fois sur tous les êtres inférieurs ( vos fameux « non joueurs »…),
      Mais (de préférence) sur ses semblables ( les autres joueurs ).
      L’important, pour vous faire accepter la boucherie virtuelle,
      Etait de vous faire croire que vous pourriez faire partie des meilleurs,
      A condition de faire partie du commando le mieux entrainé…
      C’est chose faite aujourd’hui me semble t-il.
      La valeur des vies gagnées ou supprimées vous est imposée par un « maître ».
      Derrière l’image des personnages « non joueurs » que vous effacez,
      Il y a des générations d’esclaves.
      Bien-sûr, les esclaves ne jouent pas,
      Ils sont juste là pour servir, c’est ainsi…
      Ils ont seulement peur et nous attaquent par moment,
      De la à dire que ce sont des personnes!
      Mais vous, cher Bienevue…
      Pouvez vous nous prouver que vous en êtes une?
      Eric.

  7. « Doués de Conscience »

    Quand elle est bonne, on la dit tranquille ou en repos..
    Quand elle est mauvaise, on préfère souvent ne rien dire,
    De peur d’avoir à la laisser parler.
    La conscience n’est sans doute pas très bavarde,
    Et trop peu savent en distinguer l’intime chuchotement.
    Mais on ne saurait la condamner en conscience,
    Comme avant elle, l’âme, sa dévote compagne,
    Pour excès de discrétion ou défaut d’assistance.
    Car sacrifier l’une et l’autre, pour des fautes qui sont nôtres,
    Au terme d’une implacable et ultime quête d’absolu,
    Sur l’Autel d’une Vérité façonné de nos mains,
    Sera comme vouer les traces mêmes de nos vies au Néant.

    La conscience est la première invention des Humains;
    Et si cette idée fut jadis transmise aux générations suivantes,
    Sans que nul n’en ait même jamais vraiment embrassé l’étendue,
    Ce n’est pas tel un vieux crédo à radoter stupidement,
    Mais plutôt comme l’outil ancestral incessamment adapté,
    D’une espèce qui s’excusait déjà d’être différente,
    En prétendant suivre ses lois plutôt que celles écrites par la nature.

    Humains! Certes, l’instrument est un peu vieillot,
    Mais à bien y regarder, il peut encore rendre service,
    Et a bien moins sa place au musée,
    Que dans toutes les têtes bien faites,
    Les nôtres comme celles de toutes nos créations…
    Que serait donc une création dénuée de conscience?
    Juste une arme!

    On ne saurait trouver de conscience,
    Qu’en ceux en lesquels on l’a préalablement placée.
    Eric.

    2
  8. La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? …

    1
  9. « Et maintenant une question de Dup , un sympathique participant de notre beau forum! »

    « La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? »

    – Alors, qui connait la réponse?
    – Oui, vous le grand à lunette à côté de la baraque à frites…
    – Non pas lui, l’autre à gauche, oui vous!
    – Venez donc nous rejoindre!… Ah, le voilà!
    – Bonjour Dédé! C’est Dédé n’est-ce pas? Parlez bien dans le micro, Dédé !
    – Heu…Oui… Bonjour Guy Lux..!
    – Heu… d’abord, juste pour dire…
    – Ah, Dédé a un message! Allez y Dédé,
    – Oui, comme ça bien en face du micro…
    – Heu… Oui , non… c’était pour dire juste…
    – A côté de moi, c’était pas la baraqued’frites…
    – C’était ma soeur, Dedette…
    – Hou hou ! Dedette!
    – Non la baraqued’frites elle est pu p’tite… la bas derrière…
    – Heu oui… Bonjour Dedette, mais revenons à notre question…
    – Alors Dédé vous l’avez cette réponse à la question de Dup?
    – Heu… Oui!
    – Magnifique! Bravo dédé, on l’applaudit bien fort!
    – Mais quoi? Comment? Ah! l’horaire est dépassé,
    – Mesdames et Messieurs je suis contraint de rendre l’antenne,
    – Ici Guy Lux, bon appétit à tous et à demain!
    – « Si vous le voulez bien! »
    – Dédé, voyons! Lâchez ce micro…
    – Coupez! Mais non, l’émission est terminée!
    – Allez tenez, voilà vos mille francs, au revoir Dédé.

    Difficiles, vraiment, les questions de Dup…
    Même moi j’ai pas d’idée!
    J’ai bien peur que pour la réponse…
    Il nous faille retrouver Dédé…

    Eric.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.