{"id":138924,"date":"2024-02-20T16:38:13","date_gmt":"2024-02-20T15:38:13","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=138924"},"modified":"2024-02-20T16:38:13","modified_gmt":"2024-02-20T15:38:13","slug":"les-ia-ne-sont-que-des-perroquets-elles-ne-peuvent-agir-que-selon-leur-programmation","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2024\/02\/20\/les-ia-ne-sont-que-des-perroquets-elles-ne-peuvent-agir-que-selon-leur-programmation\/","title":{"rendered":"\u00ab\u00a0Les IA ne sont que des perroquets : elles ne peuvent agir que selon leur programmation !\u00a0\u00bb<\/b>"},"content":{"rendered":"

\"\"<\/a> Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\r\n\r\n

\"User\"<\/figure>\r\n\r\n\r\n\r\n

Vous avez r\u00e9pondu \u00e0 quelqu’un qui vous interrogeait<\/a> : \u00ab\u00a0les IA ne peuvent agir que selon leur programmation\u00a0\u00bb. Bien des personnes peu famili\u00e8res de l’informatique interpr\u00e9teront cela comme voulant dire que le comportement des IA est pr\u00e9visible parce que d\u00e9terministe. Pouvez-vous cataloguer \u00e0 l’intention des profanes les diff\u00e9rentes mani\u00e8res dont un programme informatique peut conduire \u00e0 des comportements impr\u00e9visibles parce que non-d\u00e9terministes ?<\/p>\r\n\r\n\r\n\r\n

ChatGPT<\/strong> :<\/p>\r\n\r\n\r\n\r\n

Les programmes informatiques, y compris ceux qui sous-tendent les syst\u00e8mes d’intelligence artificielle (IA), sont souvent per\u00e7us comme \u00e9tant d\u00e9terministes, ce qui signifie qu’ils devraient produire des r\u00e9sultats pr\u00e9visibles \u00e0 partir d’entr\u00e9es donn\u00e9es. Cependant, plusieurs facteurs peuvent conduire \u00e0 des comportements impr\u00e9visibles ou non-d\u00e9terministes, m\u00eame dans des syst\u00e8mes initialement con\u00e7us pour \u00eatre pr\u00e9visibles. Voici quelques-unes de ces sources d’impr\u00e9visibilit\u00e9, expliqu\u00e9es de mani\u00e8re accessible :<\/p>\r\n\r\n\r\n\r\n

    \r\n
  1. Complexit\u00e9 des syst\u00e8mes<\/strong> : Les programmes informatiques modernes, y compris les IA, peuvent devenir extr\u00eamement complexes, int\u00e9grant des millions de lignes de code et interagissant avec de nombreux autres syst\u00e8mes et avec des donn\u00e9es vari\u00e9es. Cette complexit\u00e9 peut rendre difficile la pr\u00e9diction de tous les comportements possibles, surtout lorsque les interactions sont complexes ou non lin\u00e9aires.<\/li>\r\n\r\n\r\n\r\n
  2. Al\u00e9atoire et stochasticit\u00e9<\/strong> : Certains algorithmes, notamment dans l’apprentissage automatique et l’optimisation, utilisent d\u00e9lib\u00e9r\u00e9ment des processus al\u00e9atoires ou stochastiques pour explorer des solutions potentielles. Cela signifie que m\u00eame avec les m\u00eames entr\u00e9es, ces algorithmes peuvent produire des r\u00e9sultats diff\u00e9rents \u00e0 chaque ex\u00e9cution.<\/li>\r\n\r\n\r\n\r\n
  3. D\u00e9pendance aux donn\u00e9es d’entr\u00e9e<\/strong> : Les syst\u00e8mes d’IA, en particulier ceux bas\u00e9s sur l’apprentissage profond, sont extr\u00eamement sensibles aux donn\u00e9es d’entr\u00e9e. De petites variations dans les donn\u00e9es, souvent imperceptibles pour les humains, peuvent entra\u00eener des comportements tr\u00e8s diff\u00e9rents. Cette sensibilit\u00e9 rend la pr\u00e9diction du comportement difficile, surtout en pr\u00e9sence de donn\u00e9es nouvelles ou inattendues.<\/li>\r\n\r\n\r\n\r\n
  4. Interactions avec l’environnement<\/strong> : Les syst\u00e8mes interactifs, comme les robots ou les applications en ligne, changent leur comportement en fonction de l’environnement dans lequel ils op\u00e8rent. Cet environnement peut changer de mani\u00e8re impr\u00e9visible, conduisant \u00e0 des comportements inattendus de la part de l’IA.<\/li>\r\n\r\n\r\n\r\n
  5. Concurrence et conditions de course<\/strong> : Dans les syst\u00e8mes informatiques o\u00f9 plusieurs processus ou threads s’ex\u00e9cutent en parall\u00e8le, des conditions de course peuvent survenir. Cela signifie que l’ordre dans lequel les op\u00e9rations s’ex\u00e9cutent peut affecter le r\u00e9sultat final, rendant le comportement du syst\u00e8me impr\u00e9visible si l’ordre exact ne peut pas \u00eatre contr\u00f4l\u00e9 ou pr\u00e9vu.<\/li>\r\n\r\n\r\n\r\n
  6. Bugs et erreurs de programmation<\/strong> : Les erreurs dans le code peuvent conduire \u00e0 des comportements impr\u00e9visibles, surtout si elles se produisent dans des parties du syst\u00e8me rarement test\u00e9es ou utilis\u00e9es dans des conditions non anticip\u00e9es par les d\u00e9veloppeurs.<\/li>\r\n\r\n\r\n\r\n
  7. Apprentissage et adaptation<\/strong> : Les syst\u00e8mes d’IA qui apprennent et s’adaptent au fil du temps peuvent changer leur comportement de mani\u00e8re inattendue en r\u00e9ponse \u00e0 de nouvelles informations ou \u00e0 des changements dans leur environnement d’apprentissage. Ce processus d’adaptation peut conduire \u00e0 des r\u00e9sultats non pr\u00e9vus au moment de la conception.<\/li>\r\n\r\n\r\n\r\n
  8. Interactions syst\u00e8me-utilisateur<\/strong> : La mani\u00e8re dont les utilisateurs interagissent avec les syst\u00e8mes d’IA peut \u00e9galement introduire de l’impr\u00e9visibilit\u00e9, car les comportements humains sont divers et peuvent changer de mani\u00e8re inattendue.<\/li>\r\n<\/ol>\r\n\r\n\r\n\r\n

    En r\u00e9sum\u00e9, bien que les programmes informatiques soient construits sur des principes logiques et des algorithmes pr\u00e9cis, la complexit\u00e9 des syst\u00e8mes, l’interaction avec des donn\u00e9es et des environnements changeants, ainsi que l’utilisation de processus al\u00e9atoires ou adaptatifs, peuvent tous contribuer \u00e0 des comportements impr\u00e9visibles. Comprendre ces sources d’impr\u00e9visibilit\u00e9 est crucial pour les d\u00e9veloppeurs, les utilisateurs et les r\u00e9gulateurs des technologies d’IA.<\/p>\r\n\r\n

    \"\"<\/a> Illustration par DALL\u00b7E (+PJ)<\/em><\/p>","protected":false},"excerpt":{"rendered":"

    \"\"<\/a> Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n

    Vous avez r\u00e9pondu \u00e0 quelqu’un qui vous interrogeait<\/a> : \u00ab\u00a0les IA ne peuvent agir que selon leur programmation\u00a0\u00bb. Bien des personnes peu famili\u00e8res de l’informatique interpr\u00e9teront cela comme voulant dire que le comportement des IA est […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5470,13],"tags":[9487,6626,9486,9160],"class_list":["post-138924","post","type-post","status-publish","format-standard","hentry","category-informatique","category-intelligence-artificielle","tag-codage","tag-determinisme","tag-previsibilite","tag-programmation"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138924","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=138924"}],"version-history":[{"count":11,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138924\/revisions"}],"predecessor-version":[{"id":138939,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/138924\/revisions\/138939"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=138924"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=138924"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=138924"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}