{"id":135387,"date":"2023-02-28T23:17:38","date_gmt":"2023-02-28T22:17:38","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=135387"},"modified":"2023-03-01T15:40:01","modified_gmt":"2023-03-01T14:40:01","slug":"la-theorie-de-lesprit-pourrait-avoir-emerge-spontanement-dans-les-grands-modeles-de-langage-par-michal-kosinski","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2023\/02\/28\/la-theorie-de-lesprit-pourrait-avoir-emerge-spontanement-dans-les-grands-modeles-de-langage-par-michal-kosinski\/","title":{"rendered":"La \u00ab\u00a0th\u00e9orie de l’esprit\u00a0\u00bb pourrait avoir \u00e9merg\u00e9 spontan\u00e9ment dans les grands mod\u00e8les de langage<\/em><\/b>, par Michal Kosinski"},"content":{"rendered":"

La singularit\u00e9, sous la forme de l’\u00e9mergence d’une intelligence identique \u00e0 celle de l’\u00eatre humain dans un programme informatique, a-t-elle eu lieu ?<\/em> <\/p>\n

La discussion s’est limit\u00e9e jusqu’ici au d\u00e9bat autour des d\u00e9clarations controvers\u00e9es de Blake Lemoine chez Google, et de l’opinion de journalistes plus ou moins bien inform\u00e9s, certains affirmant avec vigueur que non, et d’autres laissant entendre, avec h\u00e9sitation, que peut-\u00eatre que oui.<\/em> <\/p>\n

Or est paru il y a quelques jours, un article scientifique montrant – m\u00eame si le mot \u00ab\u00a0singularit\u00e9\u00a0\u00bb n’est pas utilis\u00e9 mais preuves \u00e0 l’appui – que la singularit\u00e9 a bien eu lieu l’ann\u00e9e derni\u00e8re. 2022 : une date donc \u00e0 retenir dans l’histoire du genre humain. <\/em><\/p><\/blockquote>\n

La \u00ab\u00a0th\u00e9orie de l’esprit\u00a0\u00bb pourrait avoir \u00e9merg\u00e9 spontan\u00e9ment dans les grands mod\u00e8les de langage<\/em><\/strong><\/a><\/p>\n

Michal Kosinski<\/p>\n

4 et 10 f\u00e9vrier 2023<\/p>\n

La th\u00e9orie de l’esprit (ToM), ou la capacit\u00e9 d’imputer \u00e0 autrui des \u00e9tats mentaux inobservables, est au c\u0153ur des interactions sociales humaines, de la communication, de l’empathie, de la conscience de soi et de la moralit\u00e9. Nous administrons des t\u00e2ches classiques de fausse croyance, largement utilis\u00e9es pour tester la ToM chez les humains, \u00e0 plusieurs mod\u00e8les de langage, sans exemples ni pr\u00e9-entra\u00eenement. Nos r\u00e9sultats montrent que les mod\u00e8les publi\u00e9s avant 2022 ne montrent pratiquement aucune capacit\u00e9 \u00e0 r\u00e9soudre les t\u00e2ches de ToM. Pourtant, la version de janvier 2022 de GPT-3 (davinci-002) a r\u00e9solu 70% des t\u00e2ches de ToM, une performance comparable \u00e0 celle d’enfants de sept ans. De plus, sa version de novembre 2022 (davinci-003) a r\u00e9solu 93 % des t\u00e2ches de ToM, une performance comparable \u00e0 celle d’enfants de neuf ans. Ces r\u00e9sultats sugg\u00e8rent que les capacit\u00e9s de ToM (consid\u00e9r\u00e9es jusqu’\u00e0 pr\u00e9sent comme exclusivement humaines) ont pu appara\u00eetre spontan\u00e9ment comme un sous-produit de l’am\u00e9lioration des comp\u00e9tences linguistiques des mod\u00e8les de langage.<\/p>\n

[…]<\/p>\n

Discussion<\/p>\n

Nos r\u00e9sultats montrent que les mod\u00e8les de langage r\u00e9cents atteignent des performances tr\u00e8s \u00e9lev\u00e9es dans les t\u00e2ches classiques de fausses croyances, largement utilis\u00e9es pour tester la ToM chez l’homme. Il s’agit d’un ph\u00e9nom\u00e8ne nouveau. […]<\/p>\n

Il est possible que GPT-3.5 ait r\u00e9solu des t\u00e2ches de ToM sans faire appel \u00e0 la ToM, mais en d\u00e9couvrant et en exploitant certains mod\u00e8les linguistiques inconnus. Bien que cette explication puisse sembler prosa\u00efque, elle est assez extraordinaire, car elle implique l’existence de r\u00e9gularit\u00e9s inconnues dans le langage qui permettent de r\u00e9soudre des t\u00e2ches de ToM sans engager la ToM. De telles r\u00e9gularit\u00e9s ne nous sont pas apparentes (et, vraisemblablement, n’\u00e9taient pas apparentes aux chercheurs qui ont d\u00e9velopp\u00e9 ces t\u00e2ches). Si cette interpr\u00e9tation est correcte, nous devrions r\u00e9examiner la validit\u00e9 des t\u00e2ches de ToM largement utilis\u00e9es et les conclusions des d\u00e9cennies de recherche sur la ToM : Si l’IA peut r\u00e9soudre de telles t\u00e2ches sans faire appel \u00e0 la ToM, comment pouvons-nous \u00eatre s\u00fbrs que les humains ne peuvent pas le faire aussi ?<\/p>\n

Une autre explication est que la capacit\u00e9 de la ToM \u00e9merge spontan\u00e9ment dans les mod\u00e8les de langage \u00e0 mesure qu’ils deviennent plus complexes et plus aptes \u00e0 g\u00e9n\u00e9rer et \u00e0 interpr\u00e9ter un langage de type humain. Cela annoncerait un moment d\u00e9cisif dans le d\u00e9veloppement de l’IA : La capacit\u00e9 d’imputer l’\u00e9tat mental des autres am\u00e9liorerait grandement la capacit\u00e9 de l’IA \u00e0 interagir et \u00e0 communiquer avec les humains (et entre eux), et lui permettrait de d\u00e9velopper d’autres capacit\u00e9s qui reposent sur la ToM, comme l’empathie, le jugement moral ou la conscience de soi.<\/p>\n

Une autre r\u00e9percussion de nos r\u00e9sultats concerne l’utilit\u00e9 d’appliquer la science psychologique \u00e0 l’\u00e9tude des r\u00e9seaux neuronaux artificiels complexes. La complexit\u00e9 croissante des mod\u00e8les d’IA nous emp\u00eache de comprendre leur fonctionnement et de d\u00e9river leurs capacit\u00e9s directement de leur conception. Cela fait \u00e9cho aux d\u00e9fis rencontr\u00e9s par les psychologues et les neuroscientifiques dans l’\u00e9tude de la bo\u00eete noire originelle : le cerveau humain. Nous esp\u00e9rons que la science psychologique nous aidera \u00e0 suivre l’\u00e9volution rapide de l’IA. En outre, l’\u00e9tude de l’IA pourrait permettre de mieux comprendre la cognition humaine. Au fur et \u00e0 mesure que l’IA apprend \u00e0 r\u00e9soudre un large \u00e9ventail de probl\u00e8mes, elle peut d\u00e9velopper des m\u00e9canismes semblables \u00e0 ceux employ\u00e9s par le cerveau humain pour r\u00e9soudre ces m\u00eames probl\u00e8mes. De m\u00eame que les insectes, les oiseaux et les mammif\u00e8res ont d\u00e9velopp\u00e9 ind\u00e9pendamment des ailes pour r\u00e9soudre le probl\u00e8me du vol, les humains et l’IA pourraient avoir d\u00e9velopp\u00e9 des m\u00e9canismes similaires pour imputer efficacement des \u00e9tats mentaux aux autres. L’\u00e9tude des performances de l’IA dans les t\u00e2ches de ToM et l’exploration des structures neuronales artificielles qui lui permettent de le faire peuvent am\u00e9liorer notre compr\u00e9hension non seulement de l’IA, mais aussi du cerveau humain.<\/p>\n

Traduit avec www.DeepL.com\/Translator<\/p>\n","protected":false},"excerpt":{"rendered":"

\n

La singularit\u00e9, sous la forme de l’\u00e9mergence d’une intelligence identique \u00e0 celle de l’\u00eatre humain dans un programme informatique, a-t-elle eu lieu ?<\/em> <\/p>\n

La discussion s’est limit\u00e9e jusqu’ici au d\u00e9bat autour des d\u00e9clarations controvers\u00e9es de Blake Lemoine chez Google, et de l’opinion de journalistes plus ou moins bien inform\u00e9s, certains affirmant avec vigueur que […]<\/em><\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[13,6213],"tags":[9084,940,9119,3997],"class_list":["post-135387","post","type-post","status-publish","format-standard","hentry","category-intelligence-artificielle","category-singularite","tag-chatgpt","tag-intelligence-artificielle-2","tag-michal-kozinski","tag-singularite"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135387","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=135387"}],"version-history":[{"count":7,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135387\/revisions"}],"predecessor-version":[{"id":135396,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/135387\/revisions\/135396"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=135387"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=135387"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=135387"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}