Vidéo – Intelligence Artificielle et 3 lois de la robotique

Les robots qui nous succéderont devront être autonomes et moraux

Partager :

16 réponses à “Vidéo – Intelligence Artificielle et 3 lois de la robotique

  1. Avatar de Jean-Claude Svadchii
    Jean-Claude Svadchii

    Merci Paul,
    finalement, il s’agit d’attribuer un univers psychologique éthique à chaque robot. Comme il y a une infinité de sensibilités éthiques dans le monde, comment pourrait-on en sélectionner une seule pour en doter nos robots autonomes, et éviter que ne prolifèrent des robots autonomes qui reproduiraient les travers des sociétés humaines ?

  2. Avatar de Nosfératu
    Nosfératu

    « ……..robots….autonomes et moraux »
    C’est très idéaliste tout ca. Regardez la Chine, où est la morale. C’est la morale du parti « communiste » et de ses obsédés du pouvoir qui décident ce qui est moral et ce qui ne l’est pas. On a le même problème quant au capitalisme, ou à l’économie tout court. Tout dépend de ce qu’on fait. Et regardez l’histoire: ca laisse plutôt un goût de pessimisme.

    1. Avatar de Paul Jorion

      Il me semble que c’est exactement ce que je dis. Où voyez-vous une différence ?

      1. Avatar de Nosfératu
        Nosfératu

        Tant mieux. J’ajouterais un détail: la découverte de l’énergie nucléaire avait comme finialité l’application en recherche, diagnostique et thérapie dans le domaine médical – dixit Madame Curie.

  3. Avatar de Tout me hérisse
    Tout me hérisse

    Comme rien n’est parfait en ce bas monde, donc la possibilité de ‘coups de canif’ dans le contrat éthique, pourrions-nous imaginer un jour voir apparaître des ‘robots juges’ destinés à juger leurs pairs fautifs ?
    D’un autre côté, ne risque-t-on pas de voir apparaître des ‘robots politiques’ arguant de leur intelligence supérieure et tenter de prendre le pouvoir sur l’humain ?
    Attention à la notion d’affect introduite dans l’IA, il faut veiller à ce qu’elle ne soit pas auto-modifiable dans un sens non désirable à l’aide de filtres ‘durcis’…🤓

  4. Avatar de John
    John

    Bonjour,

    J’ai pensé à la version de 2002 du film « La Machine à voyager dans le Temps » où à la fin l’IA de la bibliothèque enseigne aux humains du futur au milieu de vestiges.

    Selon « Jean-Claude Svadchii » plus haut: et si chaque robot pouvait aussi apprendre d’autres robots. On aurait une communauté de robots veillant sur la communauté humaine.

    Selon Paul, pour le militaire, en inversant les lois, on a Terminator par Skynet.

    John

  5. Avatar de Lagarde Georges
    Lagarde Georges

    Dans le cas de robots ayant remplacé l’humanité disparue, une transposition est évidemment nécessaire puisque faire autant de bien que possible aux humains sans jamais leur faire de mal n’a plus aucun sens.

    La première idée qui m’est venue est de remplacer la première loi par « Un robot ne peut porter atteinte à un autre robot ni, restant passif, laisser ce robot exposé au danger », mais pour les autres lois remplacer humain par robot ne résout absolument rien. La seule solution qui semble convenir serait d’énoncer clairement le ou les buts à assigner de manière globale aux robots.

    C’est un sujet qui semble d’autant plus intéressant qu’il met peut-être en lumière le fait que les lois qui devraient gouverner les robots seraient bien plus claires si les humains commençaient par se mettre d’accord sur ce qu’ils veulent et ce qu’ils ne veulent pas. Malheureusement les guerres – tout particulièrement les guerres de religion – semblent expliquer pourquoi Asimov ne s’y est pas risqué.

    Finalement en informatique, donc probablement aussi en robotique, la principale difficulté est d’arriver à faire dire à l’avance au donneur d’ordre ce qu’il veut réellement. Attention: le plus facile, et de très loin, pour un informaticien est de décider des « détails » à sa place.

  6. Avatar de Romain Vitorge
    Romain Vitorge

    Un parallèle avec le texte de la Genèse ?
    …/… Puis Dieu dit : Faisons l’homme à notre image, selon notre ressemblance, et qu’il domine sur les poissons de la mer, sur les oiseaux du ciel, sur le bétail, sur toute la terre, et sur tous les reptiles qui rampent sur la terre. Dieu créa l’homme à son image, il le créa à l’image de Dieu, il créa l’homme et la femme. Dieu les bénit, et Dieu leur dit : Soyez féconds, multipliez, remplissez la terre, et l’assujettissez; et dominez sur les poissons de la mer, sur les oiseaux du ciel, et sur tout animal qui se meut sur la terre …/…

    Dieu aurait fait l’homme à son image est-ce pour autant que nous devrions l’imiter en se proposant de faire pareil « et » en mieux ?
    Un robot plus humain que les humains, plus justes que les humains, plus éthique que les humains, etc.

    Vos robots seront-ils tous identiques ou prévoyez vous qu’ils puissent évoluer et se diversifier comme le vivant ?

  7. Avatar de pierre guillemot
    pierre guillemot

    Déjà dit : les robots doués d’intelligence artificielle ressemblent de très près aux Esprits du « Livre des Esprits » d’Allan Kardec (1857). (en ligne https://fr.wikisource.org/wiki/Le_Livre_des_Esprits , et en livre de poche J’ai lu) Ils passent par le même processus d’éducation et d’enrichissement intellectuel. Comme Allan Kardec a écrit au temps où la haute technologie c’était la locomotive, la rotative, et le chronomètre, les Esprits s’incarnent dans des êtres humains quand ils désirent agir dans le monde. Quelle sera l’incarnation des robots du futur, quand il n’y aura plus d’espèce humaine (exterminée par la catastrophe climatique, selon la doxa) ni même de vie au sens de la biologie ?

    1. Avatar de Lagarde Georges
      Lagarde Georges

      S’il n’y a plus d’humains, n’envisager qu’un seul « robot » – mais ce terme serait alors inapproprié puisqu’il dérive du mot du tchèque robota, travail forcé – semble plus simple et surtout plus prudent pour éviter que s’il y en a plusieurs ils héritent de nos mauvaises habitudes et s’avèrent incapables de se faire la guerre.

      Cet unique entité consciente – à quoi bon si elle ne l’est pas? – devrait probablement disposer de mécanismes indépendants pour recueillir l’énergie nécessaire à son fonctionnement, assurer les réparations indispensables et les améliorations souhaitables, mais il doit être possible d’éviter que ça ressemble trop à un autre de nos principaux travers, l’esclavage.

      1. Avatar de Lagarde Georges
        Lagarde Georges

        … ne pas se faire la guerre …

  8. Avatar de 2Casa
    2Casa

    À notre image et à notre ressemblance, seront-ils confrontés aux mêmes apories que nous ?

    Nouveau hacking des IA à venir, les mettre en rideau face à des dilemmes moraux… Construire la situation en jouant sur les contradictions de leurs lois pour leur faire cramer les diodes ?

    Sauront-ils effectuer des « sauts » comme nous ? L’absurdité, l’humour… Comment affronteront-ils le regret, les remords, la foi, l’espérance ? Sauront-ils s’émouvoir d’un châssis titane profilé en soufflerie de chez Boston Dynamics, de la douce pulsation d’une batterie atomique ? Noieront-ils leur chagrin dans les piles de 12 volts ? Rêveront-ils de moutons électriques ?

    Tout cela est-il quantifiable ?

  9. Avatar de Didier Rombosch
    Didier Rombosch

    Il faut détruire Alpha 60 et sauver ceux qui pleurent.

  10. Avatar de torpedo
    torpedo

    « Les robots qui nous succéderont devront être autonomes et moraux »

    Dépêchons nous donc d’être autonomes et moraux nous même,
    Afin que les robot puissent intégrer les notions de bien, de mal, de vertu et de vice,
    Où bien ils ne pourront être conçus qu’à l’image de ce que nous sommes,
    Avant de s’entre-détruire.

    Eric.

    1. Avatar de pierre guillemot
      pierre guillemot

       » … intégrer les notions de bien, de mal, de vertu et de vice … » Hypothèse hasardeuse du bien et du mal comme des notions qui ont une définition sur laquelle les êtres humains, ou des êtres artificiels créés par les humains, pourraient être d’accord. Les Indiens Tupinambas du Brésil consacraient leurs loisirs à la guerre, dans le but de faire des prisonniers, ensuite tués selon un rite, en présence de ceux qui le mangeront en commun, expression des qualités humaines de celui qui organise la fête (Hans Staden 1557). On peut raisonnablement supposer que, pour les Indiens Tupinambas, agir ainsi est bien (alors que tuer sans cette raison est mal).

      « La Loi c’est : ne fais pas aux autres ce que tu ne voudrais pas qu’on te fasse ; le reste est commentaire. » (attribué à Hillel) L’idée qu’on pourrait définir le bien et le mal absolus, même à partir de cette définition, me ravit.

  11. Avatar de torpedo
    torpedo

    Bonjour,
    Les êtres qui nous survivront sont déjà parmi nous.
    Ils sont bien plus autonomes et moraux que les humains,
    Et le sont bien plus que ne le sera jamais aucun robot créé par nous.
    Et c’est ce qui les rend si aptes à s’adapter aux changements de leur environnement.
    Mais ils ne témoigneront sans doute pas en faveur de notre règne sur la Terre.
    Puisque nous les avons réduit en esclavage…
    Je veux parler bien-sûr des animaux !
    Mais quelques robots ne seront sans doute pas de trop pour chanter nos louanges,
    Sur les cendres et les immondices de nos vies.

    Eric.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. « Je m’efforcerais d’avoir un dialogue honnête et de rester fidèle à mes principes.  » kr kr kr

  2. L’ambigüité des intellos, ravis ou pas de faire sécession d’avec la pâte humaine mafflue et charnue … ?

  3. MARGARET ATWOOD (réfléchissant) C’est une vision charmante. Mais sa réalisation nécessitera une extrême prudence et prévoyance. Nous devons être des…

  4. MARGARET ATWOOD (levant un sourcil) Et qui décide de ce que doivent être ces cadres ? Les programmeurs ? Les…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta