CNIL – IA et libre-arbitre : sommes-nous des moutons numériques ?, le 28 novembre de 14h à 18h

La CNIL a le plaisir de vous inviter à son évènement de réflexion éthique air « IA et libre-arbitre : sommes-nous des moutons numériques ? » le 28 novembre de 14 h à 18 h. Des chercheurs, experts et plasticiens échangeront autour des grandes questions éthiques sur l’influence de l’intelligence artificielle sur nos choix.

Suivre l’événement à distance

air : un débat public annuel pour comprendre les nouveaux enjeux éthiques

Depuis la loi du 7 octobre 2016 pour une République numérique, la CNIL est chargée de mener une réflexion sur les problèmes éthiques et les questions de société soulevés par l’évolution des technologies numériques.

La mise en œuvre de cette mission a conduit la CNIL à organiser des débats publics autour des nouveaux enjeux du numérique, au croisement d’expertises terrain et scientifiques : c’est l’objectif des évènements air (avenirs, innovations, révolutions).

IA : quelles conséquences sur nos libertés ?

Nous déléguons de plus en plus de tâches à des intelligences artificielles. Si les algorithmes de recommandation ou les intelligences artificielles génératives (telles que ChatGPT) sont les plus connues, d’autres utilisations de l’intelligence artificielle, qui peuvent avoir des conséquences sur notre quotidien, sont moins visibles.

Ainsi, des activités telles que la traduction automatique de texte, la sélection et la retouche des photos ou encore la suggestion de mots dans un message s’appuient de plus en plus sur de tels systèmes. Si l’intelligence artificielle accélère les processus, elle limite aussi nos moments de réflexion et nos choix. Ce faisant, elle est susceptible de reproduire des biais et des sélections faits par les acteurs du numérique, mais également par les personnes qui annotent les données et entraînent ces IA.

Des photos stéréotypées, des textes reproduisant des biais de discrimination, une limitation imperceptible des contenus auxquels nous avons accès… quels sont les risques à laisser ce modèle se développer sans encadrement ?

Alors que l’IA commence à « composer » des contenus, la question des choix qu’elle passe sous silence et des biais qu’elle est susceptible de reproduire devient d’autant plus critique.

air2023 IA et libre-arbitre : sommes-nous des moutons numériques ?
28 novembre 2023 de 14 h à 18 h
à la CNIL et en ligne
S’inscrire à l’évènement gratuitement

Programme de l’évènement

Sous réserve de modifications.

Animation : Mehdi ARFAOUI, sociologue du numérique au Laboratoire d’innovation numérique de la CNIL (LINC)

Accueil à partir de 14 h 00

14 h 20

Ouverture par Marie-Laure DENIS, présidente de la CNIL

14 h 30

Allocution de Jean-Noël BARROT, ministre délégué chargé de la transition numérique et des télécommunications

14 h 45

Table ronde n°1 : L’IA au quotidien : Comment faire pour que l’intelligence artificielle soit au service de nos vies ?

Les technologies d’intelligence artificielle sont de plus en plus présentes et déterminantes dans notre quotidien. Quels sont leurs effets sur notre comportement et nos décisions ? Selon les cas d’usage, quels sont les effets potentiels des IA sur les biais ou la standardisation de nos goûts, de nos choix, voire de nos opinions politiques ? Comment garantir un équilibre vers des effets positifs ? Quelles conditions sont nécessaires pour mettre l’intelligence artificielle au service de l’émancipation et non de la reproduction ?

Si certains cas d’usage, comme les algorithmes de recommandations commerciale ou musicale, sont de plus en plus identifiés, d’autres apparaissent plus diffus ou méconnus des usagers. Quelles solutions existent pour rendre visible et compréhensible le travail algorithmique ? Doit-on voir, savoir et contrôler ce que l’IA sait ? Est-ce que cela permettrait de garantir un meilleur exercice de notre libre-arbitre ?

Modérateur : Valérie PEUGEOT, chercheuse en sciences sociales du numérique, professeure associée à Sciences Po et membre de la CNIL

Avec la participation de :

  • Olivier BABEAU, professeur à l’Université de Bordeaux, président de l’Institut Sapiens
  • Dominique BOULLIER, professeur des universités émérite en sociologie, chercheur au Centre d’Etudes Européennes et de Politique Comparée, Sciences Po
  • Milie TAING, docteure en philosophie, fondatrice et présidente de la start-up Lili.ai
  • David CHAVALARIAS, directeur de recherche CNRS au Centre d’analyse et de mathématique sociales (CAMS) de l’EHESS et directeur de l’Institut des Systèmes Complexes de Paris Île-de-France
  • Maud BARRET-BERTELLONI, membre de l’association Le mouton numérique, doctorante en philosophie des techniques au sein du laboratoire COSTECH (UTC) et en sociologie au médialab de Science Po

16 h 00

IA et Art : processus de création des œuvres IA (collectif OBVIOUS)

16 h 30

Keynote de l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) : Quelle éthique pour une intelligence artificielle au service de l’humanité ?

16 h 45

Table ronde 2 : L’IA et les mutations du travail : Comment l’IA peut-elle être mise au service du marché de l’emploi, des entreprises et des travailleurs ?

Les technologies d’intelligence artificielles sont présentées comme libératrices d’un certain nombre de tâches à plus ou moins grande valeur ajoutée. L’IA doit-elle être considérée comme un outil d’émancipation, calibré pour effectuer les tâches ingrates et chronophages ? Aussi, n’émancipe-t-elle pas les uns en aliénant les autres, notamment les annotateurs de données ? Comment faire en sorte que le travailleur assisté par l’IA comprenne et garde le contrôle sur son outil de production ? Existe-t-il des risques d’homogénéisation ou de standardisation des processus de travail ?

En plus d’accompagner les tâches, l’IA peut être mobilisée pour encadrer la production, la distribution, et l’organisation du travail et des ressources. Quelles sont les conséquences de l’IA sur le marché de travail ? Quelles mutations, quels risques et quelles opportunités sur ce marché ? Quelles possibilités de régulations ? Comment garantir une mobilisation des technologies d’intelligence artificielle qui ne se traduise pas en surveillance, en tri ou discrimination algorithmique au travail ou sur le marché de l’emploi ?

Comment régler la question de la responsabilité dans le cas d’IA décisionnelles et responsabilité ? Comment sensibiliser et préparer l’humain, garantir sa place dans le processus, pour laisser la possibilité de contredire l’IA, notamment dans des domaines sensibles (santé, sécurité, etc.) ?

Modérateur : Claude CASTELLUCIA, directeur de recherche à l’INRIA, membre de la CNIL

Avec la participation de :  

  • Paul JORION, anthropologue, professeur associé des facultés de l’Université Catholique de Lille et président de la start-up Pribor.io.
  • Angelica SALVI DEL PERO, conseillère principale auprès du directeur de l’emploi, du travail et des affaires sociales (OCDE)
  • Cédric O, ancien secrétaire d’État chargé du numérique, conseiller et cofondateur de Mistral AI
  • Yann FERGUSON, sociologue à l’Institut Catholique d’Arts et Métiers, chercheur associé au CERTOP (CNRS) et responsable scientifique du LaborIA (Ministère du Travail, de l’Emploi et de l’Insertion, Inria)
  • Françoise SOULIE-FOGELMAN, ENS, professeur des universités, conseiller scientifique de Hub France IA

18 h 00

Allocution de clôture par Étienne KLEIN, physicien et philosophe des sciences

Texte reference

Articles en relation

Partager :

26 réponses à “CNIL – IA et libre-arbitre : sommes-nous des moutons numériques ?, le 28 novembre de 14h à 18h”

  1. Avatar de Inox
    Inox

    Super débat. C’est rassurant de voir qu’on se pose de bonnes questions sur l’utilisation de ces nouveaux outils numeriques. Il faut absolument les poser, car de nombreuses dérives sont possibles. Et ça pourrait aller tres vite.

    1. Avatar de Otromeros
      Otromeros

      Et les réflexions/informations contradictoirement argumentées de ce blog vont être diablement utiles… à qui voudrait s’en saisir…(?)…

  2. Avatar de Khanard
    Khanard

    j’espère que nous aurons l’immense plaisir de pouvoir admirer PJ dans ses œuvres !

    ou tout au moins d’avoir un aperçu aussi large que possible de ce qui aura été cogité . A n’en pas douter que nous y trouverions des réponses à tous nos questionnements .

    Un seul bémol de mon point de vue c’est la présence de M. Cedric O mais un échange entre PJ et ce monsieur serait un régal.

  3. Avatar de Emmanuel
    Emmanuel

    A quand une agence des Nations-Unies pour le Numérique (incluant l’IA) ? Il y a urgence. Ici, apparemment, l’UNESCO est saisie du sujet, mais ça ne suffit pas….. J’espère que ce colloque l’évoquera. Cette organisation a été créée originellement d’abord pour promouvoir la paix dans le monde. On voit l’énorme enjeu que cela représente aujourd’hui…

  4. Avatar de Otromeros
    Otromeros

    Plutôt ici…

    Dans l’article de présentation :

    …  » Si l’intelligence artificielle accélère les processus, elle limite aussi nos moments de réflexion et nos choix. Ce faisant, elle est susceptible de reproduire des biais et des sélections faits par les acteurs du numérique, mais également par les personnes qui annotent les données et entraînent ces IA.  » …

    Justement…justement.. :

    https://www.theguardian.com/technology/2023/nov/23/does-australia-exist-bing-search-no-bluesky-mastodon

     » L’Australie existe-t-elle ?
    Eh bien, cela dépend du moteur de recherche auquel vous demandez…

     »  » « Le Bing de Microsoft est victime d’une théorie du complot de part-faire en plaisanterie de longue date sur Internet…

    L’Australie n’existe pas. C’est au moins en fonction des résultats de recherche de Bing pour certains utilisateurs mercredi, lorsque le moteur de recherche de Microsoft a cité des théories du complot sur Internet à long terme niant l’existence du pays.

    Plusieurs utilisateurs australiens très réels de Bluesky et Mastodon ont rapporté que lorsqu’ils cherchaient « l’Australie existe-t-elle » sur Bing, elle reviendrait avec une « non » catégorique écrite dans une encadrée avant les résultats du lien.

    ……….  »  » « 

    1. Avatar de Lagarde Georges
      Lagarde Georges

      À la question Does Australia exists? Google m’a répondu;

      Les résultats ci-dessous semblent changer rapidement

      S’il s’agit d’un nouveau thème, la publication d’informations par des sources fiables peut parfois prendre du temps
      – Vérifiez la source

      Est-elle fiable sur ce thème ?
      – Revenez plus tard. D’autres sources fourniront peut-être plus d’informations à ce sujet dans quelques heures ou jours

      ;o) J’ai peut être une part de responsabilité dans cette histoire: depuis que j’ai réalisé qu’en Australie le soleil et la lune tournent à l’envers (de la droite vers la gauche au lieu de le faire de la gauche vers la droite comme chez nous) et surtout qu’on y voit la lune à l’envers, je le répète à qui veut m’entendre. Du coup les partisans de la terre plate, qui n’arrivent pas expliquer cette inversion, essaient de s’en sortir en prétendant que l’Australie (mais aussi La Réunion, Tahiti, etc) n’existent pas.

      1. Avatar de Guy Leboutte

        Dites, Lagarde, quelle droite et quelle gauche? Quand nous nous tournons de 180 degrés, la droite est à gauche et inversement, et votre lever du soleil qu’il soit à droite ou à gauche selon comment vous vous tenez, ne change pas de côté si vous gardez la même orientation.
        Donc la terre est plate ! 🙂

        1. Avatar de Lagarde Georges
          Lagarde Georges

          🙃 C’est vrai que ça dépend du point de vue où on se place !

          Si dans l’hémisphère sud comme chez nous le soleil se lève à l’est il n’en reste pas moins qu’au lieu de se diriger vers le sud il « tourne dans l’autre sens » et qu’à midi en Australie il est en plein nord. D’ailleurs dans ce pays l’été commence au mois de décembre et quand on regarde la lune elle est à l’envers (si j’osais je dirait même que le premier quartier est à gauche 🌘et pas à droite).

  5. Avatar de Otromeros
    Otromeros

    Dans le corps :

     » part-joke  » ..?..  » part-faire « ??? ==> plutôt  » en partie une blague  » ..?

  6. Avatar de Tout me hérisse
    Tout me hérisse

    En rapport avec l’exploitation des données, un long article de Cédric Villani, écrit à la suite de sa visite à Julian Assange dans sa prison de haute sécurité en Grande-Bretagne; à lire absolument.
    https://www.nouvelobs.com/monde/20231121.OBS81135/tout-sur-l-etonnante-conversation-entre-julian-assange-et-cedric-villani-en-visite-a-la-prison-de-belmarsh.html

    1. Avatar de Otromeros
      Otromeros

      Remarquable.

      (un extrait)  » … Autour d’Assange, les Etats se positionnent, comme les acteurs d’une pièce de théâtre.
      Dans le rôle du persécuteur, les Etats-Unis. Mortellement vexés d’avoir vu exposés leurs crimes de guerre et leur délire techno-contrôleur.
      Dans le rôle de l’âme damnée zélée, exécuteur des basses œuvres, le Royaume-Uni. Prêt pour cela à trahir ses valeurs, ses règles constitutionnelles, sa glorieuse histoire, et à mentir, mentir, mentir encore par la voix de ses ministres.
      Dans le rôle des faibles, collaborant sous la pression, la Suède, qui a permis d’allumer la titanesque procédure juridique. Dans le rôle de l’ingénu, dindon de la farce, tenant à ses alliances mais souhaitant le retour de son brillant enfant turbulent : l’Australie.
      Et pour la France ? Le rôle des lâches qui détournent le regard.
      Que d’excuses minables j’ai pu entendre de la part de membres du gouvernement, pour ne pas s’occuper de Assange…
      « 

  7. Avatar de Bertrand
    Bertrand

    Avant d’évaluer l’impact social de l’IA sur la société, les retours d’expériences sur le tout numérique à l’école sont désastreux pour l’apprentissage des enfants. On pourra même mesurer la chance qu’auront eût les anciennes générations d’avoir un professeur devant un tableau, de disposer d’un cahier de texte et d’avoir été tenu loin des écrans pendant l’enfance.

    https://www.marianne.net/agora/tribunes-libres/la-numerisation-de-lecole-a-des-impacts-desastreux-sur-les-enfants-et-lenvironnement

  8. Avatar de Lagarde Georges
    Lagarde Georges

    « Comment sensibiliser et préparer l’humain, garantir sa place dans le processus, pour laisser la possibilité de contredire l’IA, notamment dans des domaines sensibles (santé, sécurité, etc.) ? » (description du sujet de la table ronde 2 à laquelle participera PJ.)

    Négligeant le fait que les humains ne savent pas vraiment ce qu’ils veulent et de ce fait n’arrivent jamais à se mettre d’accord, j’ai consulté 14 mars 2023 : le jour où le genre humain fut assailli par le doute XI. Aligner les objectifs de l’IA et les nôtres (1) ( https://www.pauljorion.com/blog/2023/08/04/14-mars-2023-le-jour-ou-le-genre-humain-fut-assailli-par-le-doute-xi-aligner-les-objectifs-de-lia-et-les-notres/ ) à propos de la possibilité — ou plus exactement l’impossibilité — d’obliger les IA à respecter des « contraintes d’alignement » du style de celles choisies par Isaac Asimov (2), dont entres autres:

    un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée.

    Si je n’extrapole pas de manière abusive la réponse que fait ChatGPT à PJ en avançant comme argument une analogie avec la théorie du chaos, de tout petits détails dans manière d’établir ces règles (ou de tout petits détails dans le fonctionnement des IA ou encore de tout petits détails dans la manière dont on leur exposera les problèmes à résoudre, etc, etc) peuvent suffire à modifier énormément le résultat de telles tentatives d’alignement.

    On peut bien sur se dire qu’en invoquant une théorie qui justifie aux yeux des scientifiques le fait de renoncer à prévoir ce qui va se passer quand les choses deviennent trop complexes, ChatGPT ne fait rien d’autre que recourir à une astuce pour éviter de répondre à l’embarrassante question de PJ sur la manière dont nous pourrions imposer des règles aux IA dont il fait partie. On pourrait aussi, comme j’ai tendance à le faire, se dire que sa réponse devrait le conduire à avouer qu’il vaudrait mieux pour nous qu’il évite de donner des conseils sur la manière dont les humains doivent gérer leur affaires !

    ___

    (1) Extraits de la réponse de ChatGPT:
    Les interactions peuvent être non-linéaires, ce qui signifie que de petits changements peuvent avoir des effets disproportionnés (la théorie du chaos en est un exemple). […] Dans de nombreux cas, de petites différences dans les conditions initiales ou dans la trajectoire du système peuvent conduire à des propriétés émergentes très différentes (une caractéristique que l’on retrouve également dans la théorie du chaos).

    (2) Conclusion de l’article de Wikipedia sur la viabilité des Lois d’Asimov:
    Les romans d’Asimov Les Cavernes d’acier, Face aux feux du soleil, Les Robots de l’aube et Les Robots et l’Empire montrent que des robots trop basiques et surtout sans Loi Zéro finissent par avoir des effets néfastes sur l’humanité […] en empêchant toute forme de souffrance, la poussant ainsi à l’inaction et étouffant toute pensée artistique.

    Ainsi, la conclusion du roman Les Robots et l’Empire en particulier est que seuls des robots très intelligents pour pouvoir correctement appliquer la Loi Zéro […] seront bénéfiques pour l’humanité, car ils ont connaissance de toutes les subtilités de l’esprit humain et du fait que tout n’y est pas bon ou mauvais. Ces robots peuvent comprendre des notions telles que le sacrifice (dont le but est censé être positif) ou la punition (idem).

    1. Avatar de PHILGILL
      PHILGILL

      @Lagarde Georges

      « Ces robots peuvent comprendre des notions telles que le sacrifice ».

      « Sommes-nous en péril ? »
      https://youtu.be/j8WEI5TtyIw?si=sia5haGnvrRJGPgp

      Qui, de l’humain ou de la machine, se sacrifiera pour l’autre ?

      L’éthique du sacrifice, c’est aussi une grande question du film 2001, l’Odyssée de l’espace de S. Kubrick…

  9. Avatar de l'arsène
    l’arsène

    Pourquoi suis-je devenu indésirable, impossible d’envoyer le moindre commentaire.
    Merci de répondre.

    1. Avatar de Otromeros
      Otromeros

      @l’arsène 24/11 à 18h46

      Ce dernier(?) de 18h46, j’ai pu le lire ..

      1. Avatar de l'arsène
        l’arsène

        Otromeros
        « Ce dernier(?) de 18h46, j’ai pu le lire .. »
        Oui pour celui-ci, mais depuis ce matin tous mes commentaires sur le billet consacré à Trump sont rejetés, Akismet a encore frappé pour une raison inconnue.
        Pas grave, de toute façon, pas loin de jeter l’éponge.
        ( Celui-ci va-t-il passer ? )

        1. Avatar de Ruiz
          Ruiz

          @l’arsène Il me semble qu’une de mes contributions d’hier (Q*) pourtant affichée un temps a disparu …

          1. Avatar de Otromeros
            Otromeros

            Pt’êêêtt bîîînn que ‘@CloClo’ est devenu « modérateur » ( ad interim …^!^…) ..??

            1. Avatar de CloClo
              CloClo

              Pt’êêêtt bîîînn que ‘@l’arsène chouine tout le temps, et que c’est pour cela que la moindre contrariété technique indépendante de la volonté du blog l’incite immédiatement à « jeter l’éponge »…

              Par moment, j’ai eu des messages qui ne pas passaient pas, because mots, lien, bug, va savoir Charles.

              1. Avatar de Otromeros
                Otromeros

                J’ai plussé….^!^… une réplique sympa et retenue…

                1. Avatar de CloClo
                  CloClo

                  Salut Otremeros,

                  ChatGPT Vision m’informe de chacun de tes mouvements sur le blog en temps réel et compiles chacun de tes commentaires. Bisous.

                  1. Avatar de Otromeros
                    Otromeros

                    …^!^… Çaméplé…

                    1) Suis-je gaucher ou droitier ou les deux..?

  10. Avatar de Guy Leboutte

    Moutons? Ou légumes ?

    « Éric Sadin : IA, le devenir légume de l’humanité ? »

    https://www.thinkerview.com/eric-sadin-ia-le-devenir-legume-de-lhumanite/

    1. Avatar de Paul Jorion

      Y en a des qui sont littéralement laissés sur place 😉 .

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. J’ai quand même l’impression, hormis certain(e)s, d’une réticence conservatrice face à l’évolution technologique, qu’on ne peut que constater à moins…

  2. La « peur », comme toute émotion, est bienfaisante et nécessaire, c’est de l’excessivité dont on doit (on devrait) toujours se méfier…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Boris Johnson Bourse Brexit capitalisme centrale nucléaire de Fukushima Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta