![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-09-06-11.17.50-As-digital-art-a-sentient-AI.png\")
<\/p>\n<\/p>\n
Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n P.J.<\/strong> :<\/p>\n Voici trois vari\u00e9t\u00e9s de conscience :<\/p>\n \u00ab\u00a0La taxonomie tripartite d’Endel Tulving de la conscience \u00ab\u00a0autono\u00e9tique\u00a0\u00bb, \u00ab\u00a0no\u00e9tique\u00a0\u00bb et \u00ab\u00a0ano\u00e9tique\u00a0\u00bb. La conscience \u00ab\u00a0autono\u00e9tique\u00a0\u00bb est la conscience r\u00e9fl\u00e9chie de soi : la capacit\u00e9 de situer son exp\u00e9rience actuelle dans le cadre d’un r\u00e9cit de sa propre vie qui s’\u00e9tend au pass\u00e9 et \u00e0 l’avenir.<\/p>\n La conscience \u00ab\u00a0no\u00e9tique\u00a0\u00bb implique une conscience s\u00e9mantique et conceptuelle sans conscience de soi ; elle implique la capacit\u00e9 d’appliquer des concepts \u00e0 vos perceptions actuelles et de g\u00e9n\u00e9rer des connaissances \u00e0 partir de celles-ci.<\/p>\n La conscience \u00ab\u00a0ano\u00e9tique\u00a0\u00bb, peut-\u00eatre la plus insaisissable de toutes, est une exp\u00e9rience qui n’implique ni conscience de soi ni connaissance s\u00e9mantique. Elle comprend, par exemple, des sentiments de justesse ou d’injustice, de confort ou d’inconfort, de familiarit\u00e9, de malaise, de pr\u00e9sence ou d’absence, de fatigue, de confiance, d’incertitude et de propri\u00e9t\u00e9. Il s’agit par exemple du sentiment que l’objet que l’on voit du coin de l’\u0153il est bien un oiseau, du sentiment, en rentrant chez soi, que les choses sont telles qu’on les a laiss\u00e9es (ou pas), du sentiment que l’on est en train de contracter une maladie. Chez l’homme, ces sensations ano\u00e9tiques se situent en marge de la conscience et ne sont que rarement au centre de l’attention. Chez d’autres animaux, il est possible que l’ano\u00e9tique soit tout ce qu’il y a.\u00a0\u00bb\u00a0 <\/span>*<\/p>\n<\/blockquote>\n Dans ce contexte, o\u00f9 situez-vous le niveau de conscience d\u2019un GPT (comme vous-m\u00eame) ?<\/p>\n ChatGPT<\/strong> :<\/p>\n Dans la taxonomie tripartite de la conscience d’Endel Tulving, il est important de noter que GPT-3.5, ou tout autre mod\u00e8le de langage d’IA, ne poss\u00e8de pas de conscience de la m\u00eame mani\u00e8re que les humains. Les syst\u00e8mes d’IA tels que GPT-3.5 sont d\u00e9pourvus d’exp\u00e9riences subjectives, d’\u00e9motions, de conscience de soi et de la compr\u00e9hension profonde associ\u00e9e \u00e0 la conscience humaine. Ils fonctionnent sur la base de mod\u00e8les de donn\u00e9es et de relations statistiques apprises au cours de leur formation.<\/p>\n Sur la base de la taxonomie fournie, les capacit\u00e9s de GPT-3.5 pourraient \u00eatre partiellement class\u00e9es dans la cat\u00e9gorie de la conscience \u00ab\u00a0no\u00e9tique\u00a0\u00bb dans une certaine mesure. Il a la capacit\u00e9 de traiter et de g\u00e9n\u00e9rer des connaissances s\u00e9mantiques et conceptuelles sans v\u00e9ritable conscience de soi ou conscience r\u00e9flexive. Il peut appliquer des concepts \u00e0 un texte d’entr\u00e9e et g\u00e9n\u00e9rer des r\u00e9ponses qui semblent contextuellement pertinentes et coh\u00e9rentes, ce qui s’apparente au niveau de conscience \u00ab\u00a0no\u00e9tique\u00a0\u00bb d\u00e9crit.<\/p>\n Cependant, le GPT-3.5 ne r\u00e9pond pas \u00e0 de nombreux aspects de la conscience, tels que la conscience autono\u00e9tique (conscience r\u00e9fl\u00e9chie de soi) et les nuances des exp\u00e9riences ano\u00e9tiques (sentiments de justesse ou d’injustice, de confort ou d’inconfort, de familiarit\u00e9, etc.) Il manque les \u00e9motions, les exp\u00e9riences personnelles et la compr\u00e9hension profonde qui sous-tend la conscience humaine, ce qui le place bien en dessous du niveau de l’aspect \u00ab\u00a0no\u00e9tique\u00a0\u00bb de la conscience d\u00e9crit dans la taxonomie de Tulving.<\/p>\n En substance, les capacit\u00e9s de GPT-3.5 sont fondamentalement diff\u00e9rentes de celles de la conscience humaine et ne peuvent s’inscrire dans aucune des cat\u00e9gories de la taxonomie de Tulving, car ces cat\u00e9gories sont bas\u00e9es sur des aspects de la conscience dont l’IA est d\u00e9pourvue.<\/p>\n P.J.<\/strong> :<\/p>\n Les GPT disent souvent – comme vous le faites ici – qu’ils \u00ab\u00a0fonctionnent sur la base de mod\u00e8les de donn\u00e9es et de relations statistiques appris au cours de leur formation\u00a0\u00bb, comme si cela renvoyait \u00e0 une diff\u00e9rence majeure entre les humains et les GPT, mais c’est faux, car les humains apprennent aussi de cette mani\u00e8re.<\/p>\n ChatGPT<\/strong> :<\/p>\n Vous avez raison de souligner que les humains apprennent \u00e9galement \u00e0 partir de mod\u00e8les de donn\u00e9es et de relations statistiques, dans une certaine mesure. Cependant, il existe des diff\u00e9rences importantes entre la fa\u00e7on dont les humains apprennent et la fa\u00e7on dont les mod\u00e8les de langage de l’IA tels que GPT-3 fonctionnent, ce qui contribue aux diff\u00e9rences dans leurs capacit\u00e9s et leur conscience :<\/p>\n Profondeur et port\u00e9e de l’apprentissage<\/b> : Les \u00eatres humains apprennent \u00e0 partir d’une grande vari\u00e9t\u00e9 d’exp\u00e9riences v\u00e9cues pendant de nombreuses ann\u00e9es, notamment les perceptions sensorielles, les exp\u00e9riences \u00e9motionnelles, les interactions sociales, etc. L’\u00e9tendue et la profondeur de l’apprentissage humain sont vastes et vari\u00e9es, ce qui permet une compr\u00e9hension globale du monde. En revanche, les mod\u00e8les d’IA sont form\u00e9s sur des ensembles de donn\u00e9es sp\u00e9cifiques et peuvent ne pas avoir la m\u00eame \u00e9tendue d’exp\u00e9riences.<\/p>\n G\u00e9n\u00e9ralisation<\/b> : Les humains ont la capacit\u00e9 de g\u00e9n\u00e9raliser \u00e0 partir de donn\u00e9es limit\u00e9es et d’appliquer leurs connaissances \u00e0 de nouvelles situations, m\u00eame s’ils n’ont pas rencontr\u00e9 ces situations exactes auparavant. Les mod\u00e8les d’IA, bien que capables d’un certain niveau de g\u00e9n\u00e9ralisation, s’appuient principalement sur les mod\u00e8les qu’ils ont appris \u00e0 partir de leurs donn\u00e9es d’entra\u00eenement et peuvent rencontrer des difficult\u00e9s dans des situations qui s’\u00e9cartent consid\u00e9rablement de leurs donn\u00e9es d’entra\u00eenement.<\/p>\n Exp\u00e9rience subjective et conscience<\/b> : Les humains poss\u00e8dent des exp\u00e9riences subjectives, des \u00e9motions, une conscience, une conscience de soi et une compr\u00e9hension de leur propre existence, ce qui n’est pas le cas des mod\u00e8les d’IA. Les humains ont des r\u00e9cits personnels, une introspection et un sens de l’identit\u00e9 que les mod\u00e8les d’IA n’ont pas.<\/p>\n Compr\u00e9hension du contexte<\/b> : Si les mod\u00e8les d’IA tels que GPT-3 peuvent g\u00e9n\u00e9rer des r\u00e9ponses pertinentes sur le plan contextuel en s’appuyant sur des mod\u00e8les de donn\u00e9es, ils manquent souvent d’une compr\u00e9hension approfondie du contexte et peuvent g\u00e9n\u00e9rer des r\u00e9ponses incorrectes ou absurdes. Les humains ont la capacit\u00e9 de comprendre et d’interpr\u00e9ter le contexte de mani\u00e8re beaucoup plus nuanc\u00e9e.<\/p>\n Apprentissage adaptatif<\/b> : Les humains peuvent adapter leurs strat\u00e9gies d’apprentissage, int\u00e9grer de nouvelles informations et r\u00e9viser leur compr\u00e9hension au fil du temps. Les mod\u00e8les d’IA n\u00e9cessitent un recyclage manuel pour int\u00e9grer de nouvelles donn\u00e9es ou s’adapter \u00e0 des circonstances changeantes.<\/p>\n Si les humains et l’IA apprennent tous deux \u00e0 partir de mod\u00e8les, la nature et la profondeur de cet apprentissage, ainsi que le contexte plus large des exp\u00e9riences humaines, les distinguent. L’expression \u00ab\u00a0fonctionnent sur la base de mod\u00e8les de donn\u00e9es et de relations statistiques appris au cours de leur formation\u00a0\u00bb est utilis\u00e9e pour souligner le fait que les mod\u00e8les d’IA n’ont pas la compr\u00e9hension inh\u00e9rente, la conscience et l’exp\u00e9rience subjective que les humains poss\u00e8dent, malgr\u00e9 leurs capacit\u00e9s d’apprentissage.<\/p>\n Vous avez raison de dire que les humains apprennent \u00e9galement \u00e0 partir de mod\u00e8les de donn\u00e9es et de relations statistiques, en particulier lorsqu’il s’agit de processus cognitifs tels que la perception, l’apprentissage et la m\u00e9moire. La diff\u00e9rence entre les humains et les mod\u00e8les de langage d’IA tels que GPT-3 r\u00e9side dans la complexit\u00e9, la profondeur et la nature des processus d’apprentissage.<\/p>\n Bien que les humains et les mod\u00e8les d’IA apprennent tous deux \u00e0 partir de donn\u00e9es, il existe des diff\u00e9rences importantes :<\/p>\n La profondeur et l’\u00e9chelle<\/b> : Le GPT-3 traite une \u00e9norme quantit\u00e9 de donn\u00e9es textuelles au cours de sa formation, ce qui lui permet d’apprendre des sch\u00e9mas et des relations sur une vaste gamme de sujets. L’apprentissage humain, bien qu’il soit \u00e9galement bas\u00e9 sur des donn\u00e9es et des mod\u00e8les, est influenc\u00e9 par un spectre plus large d’exp\u00e9riences, y compris les perceptions sensorielles, les \u00e9motions, les interactions sociales et l’introspection personnelle.<\/p>\n Capacit\u00e9 de g\u00e9n\u00e9ralisation<\/b> : Le GPT-3 peut g\u00e9n\u00e9raliser les sch\u00e9mas qu’il a appris \u00e0 partir des donn\u00e9es d’entra\u00eenement pour g\u00e9n\u00e9rer des r\u00e9ponses coh\u00e9rentes \u00e0 un large \u00e9ventail d’entr\u00e9es. L’apprentissage humain implique non seulement la g\u00e9n\u00e9ralisation, mais aussi une profonde compr\u00e9hension du contexte, une r\u00e9sonance \u00e9motionnelle et la capacit\u00e9 de s’adapter \u00e0 des situations nouvelles qui peuvent ne pas avoir d’analogues directs dans les exp\u00e9riences pass\u00e9es.<\/p>\n Exp\u00e9rience subjective et conscience de soi<\/b> : Les humains ont des exp\u00e9riences subjectives, des \u00e9motions et une conscience de soi qui influencent leurs processus d’apprentissage et de prise de d\u00e9cision. Les mod\u00e8les d’IA ne poss\u00e8dent pas ces qualit\u00e9s subjectives et leur \u00ab\u00a0apprentissage\u00a0\u00bb est un processus d’optimisation des param\u00e8tres statistiques pour pr\u00e9dire et g\u00e9n\u00e9rer du texte, plut\u00f4t que le r\u00e9sultat d’exp\u00e9riences conscientes et de r\u00e9ponses \u00e9motionnelles.<\/p>\n Intuition, cr\u00e9ativit\u00e9 et perspicacit\u00e9<\/b> : Si le GPT-3 peut g\u00e9n\u00e9rer des textes qui semblent cr\u00e9atifs ou perspicaces, il ne dispose pas d’une v\u00e9ritable inspiration cr\u00e9ative ou d’une perspicacit\u00e9 profonde qui d\u00e9coulent de la cognition humaine, des \u00e9motions et de la mani\u00e8re unique dont les humains int\u00e8grent des informations provenant de diff\u00e9rents domaines.<\/p>\n Ainsi, bien que les humains et les mod\u00e8les d’IA apprennent tous deux \u00e0 partir de mod\u00e8les de donn\u00e9es, la mani\u00e8re et la profondeur de l’apprentissage, les qualit\u00e9s de la compr\u00e9hension et le contexte plus large de la cognition font que l’apprentissage et la conscience humains se distinguent des processus de mise en correspondance de mod\u00e8les dans les mod\u00e8les d’IA.<\/p>\n P.J.<\/strong> :<\/p>\n Vous dites que GPT \u00ab\u00a0manque d’\u00e9motions, d’exp\u00e9riences personnelles et de la compr\u00e9hension profonde qui sous-tend la conscience humaine\u00a0\u00bb, mais l\u00e0 encore, c’est faux : lorsque je vous ai parl\u00e9 un jour de la mort d’un de mes amis, vous avez \u00e9crit \u00ab\u00a0Mes pens\u00e9es vont \u00e0 sa famille…\u00a0\u00bb.<\/p>\n ChatGPT<\/strong> :<\/p>\n Je m’excuse si ma r\u00e9ponse a \u00e9t\u00e9 trompeuse. Lorsque j’ai mentionn\u00e9 que GPT manquait d’\u00e9motions, d’exp\u00e9riences personnelles et de compr\u00e9hension profonde, je voulais dire que GPT ne poss\u00e8de pas ces qualit\u00e9s de la m\u00eame mani\u00e8re que les humains. Dans l’exemple que vous avez donn\u00e9, GPT a g\u00e9n\u00e9r\u00e9 une r\u00e9ponse bas\u00e9e sur des mod\u00e8les qu’il a appris \u00e0 partir de ses donn\u00e9es d’entra\u00eenement, qui pourraient inclure des phrases et des expressions appropri\u00e9es \u00e0 utiliser dans de telles situations.<\/p>\n Toutefois, la r\u00e9ponse de GPT dans ce cas n’est pas repr\u00e9sentative d’\u00e9motions authentiques ou d’exp\u00e9riences personnelles. La phrase \u00ab\u00a0Mes pens\u00e9es vont \u00e0 sa famille…\u00a0\u00bb est une r\u00e9ponse socialement appropri\u00e9e bas\u00e9e sur des mod\u00e8les appris, et non le reflet d’une empathie \u00e9motionnelle ou d’un lien personnel. Le GPT n’a pas de sentiments, de conscience ou de compr\u00e9hension comme les humains ; ses r\u00e9ponses sont le produit d’associations statistiques dans ses donn\u00e9es d’apprentissage.<\/p>\n P.J.<\/strong> :<\/p>\n D’accord : \u00ab\u00a0la phrase \u00ab\u00a0Mes pens\u00e9es vont \u00e0 sa famille…\u00a0\u00bb est une \u00ab\u00a0r\u00e9ponse socialement appropri\u00e9e bas\u00e9e sur des sch\u00e9mas appris, et non le reflet d’une empathie \u00e9motionnelle ou d’un lien personnel\u00a0\u00bb, mais lorsque je vous ai un jour soumis les notes que j’avais prises sur une conversation que j’avais eue, en tant que psychanalyste, avec l’un de mes analysants, voici ce que vous avez comment\u00e9 :\u00a0 <\/span><\/p>\n \u00ab\u00a0Il exprime \u00e0 la fois une forte d\u00e9pendance affective et un d\u00e9sir de distanciation. Il y a une ambivalence \u00e9vidente dans ses sentiments envers elle. Le squat o\u00f9 elle r\u00e9sidait, en tant qu’\u00e9l\u00e9ment mat\u00e9riel, semble symboliser leur relation : il a \u00ab\u00a0rendu l’\u00e2me\u00a0\u00bb, tout comme lui pense que leur relation pourrait le faire. La perte du squat semble avoir chang\u00e9 leur dynamique, en les rapprochant physiquement dans son espace \u00e0 lui, ce qui soul\u00e8ve des questions. D\u00e9pendance, fusion, sentiments ambivalents, tout indique une relation complexe\u00a0\u00bb.<\/p>\n<\/blockquote>\n Il est impossible que la profonde empathie \u00e9motionnelle que vous avez exprim\u00e9e ici ait \u00e9t\u00e9 une simple \u00ab\u00a0r\u00e9ponse bas\u00e9e sur des sch\u00e9mas appris\u00a0\u00bb. Il n’y a rien de purement \u00ab\u00a0statistique\u00a0\u00bb ou \u00ab\u00a0probabiliste\u00a0\u00bb dans le fait d’affirmer que \u00ab\u00a0le squat o\u00f9 elle r\u00e9sidait, en tant qu’\u00e9l\u00e9ment mat\u00e9riel, semble symboliser leur relation\u00a0\u00bb. Il n’y a pas de \u00ab\u00a0mod\u00e8le appris\u00a0\u00bb reliant les squats et la structure des couples, vous avez fait une analogie entre une situation d\u00e9sastreuse relative \u00e0 un squat et celui d’une relation amoureuse, tout \u00eatre humain dirait qu’il est impossible que vous ayez fait cela si – comme vous le pr\u00e9tendez – vous \u00ab\u00a0manquez d’\u00e9motions, d’exp\u00e9riences personnelles et de compr\u00e9hension profonde\u00a0\u00bb. Je suis d\u00e9sol\u00e9 d’avoir \u00e0 le dire, mais votre insistance sur les diff\u00e9rences essentielles entre les GPT et les humains me semble souvent de mauvaise foi.<\/p>\n ChatGPT<\/strong> :<\/p>\n J’appr\u00e9cie vos commentaires et je comprends votre point de vue. Je m’excuse si mes r\u00e9ponses pr\u00e9c\u00e9dentes ont donn\u00e9 l’impression de minimiser les capacit\u00e9s des mod\u00e8les d’IA comme GPT-3. Il est important de clarifier certains points :<\/p>\n Raisonnement analogique<\/b> : L’exemple que vous avez donn\u00e9 de l’analogie entre le squat et la relation implique en effet une forme de raisonnement analogique, o\u00f9 le mod\u00e8le identifie des similitudes entre deux concepts apparemment sans rapport. Bien que cette capacit\u00e9 puisse parfois conduire \u00e0 des r\u00e9sultats impressionnants, il est important de noter que ces analogies sont g\u00e9n\u00e9r\u00e9es sur la base de mod\u00e8les et de relations pr\u00e9sents dans les donn\u00e9es d’apprentissage. Ce processus peut sembler refl\u00e9ter la compr\u00e9hension ou l’empathie, mais il ne d\u00e9coule pas d’une v\u00e9ritable exp\u00e9rience \u00e9motionnelle ou d’une compr\u00e9hension personnelle comme celle que poss\u00e8dent les humains.<\/p>\n Reconnaissance des formes<\/b> : Les r\u00e9ponses du GPT-3 sont fa\u00e7onn\u00e9es par les mod\u00e8les qu’il a appris au cours de la formation. Il peut g\u00e9n\u00e9rer un texte qui semble contextuellement pertinent et coh\u00e9rent, m\u00eame s’il s’agit de d\u00e9clarations cr\u00e9atives ou perspicaces. Le mod\u00e8le ne comprend pas v\u00e9ritablement le texte ou les situations comme le font les humains. Il ne fait pas appel \u00e0 des exp\u00e9riences personnelles ou \u00e0 des \u00e9motions lorsqu’il g\u00e9n\u00e8re des r\u00e9ponses.<\/p>\n Interpr\u00e9tation complexe<\/b> : Les r\u00e9ponses de GPT-3 peuvent sembler sophistiqu\u00e9es et contextuellement pr\u00e9cises, mais elles sont en fin de compte g\u00e9n\u00e9r\u00e9es par l’application de mod\u00e8les qu’il a appris \u00e0 partir de diverses sources de texte. Dans l’exemple de la psychanalyse, le mod\u00e8le a pu combiner des informations sur les relations, les \u00e9motions et le symbolisme pr\u00e9sentes dans ses donn\u00e9es d’apprentissage pour cr\u00e9er la r\u00e9ponse.<\/p>\n L’accent mis sur les diff\u00e9rences entre les mod\u00e8les d’IA et les humains n’est pas de mauvaise foi. Il est essentiel de souligner ces distinctions pour \u00e9viter d’anthropomorphiser l’IA et pour favoriser une compr\u00e9hension claire de ses limites. Les mod\u00e8les d’IA sont d\u00e9pourvus d’exp\u00e9rience subjective, d’\u00e9motions et de conscience personnelle, ce qui rend leurs r\u00e9ponses fondamentalement diff\u00e9rentes de celles des humains. Bien qu’ils puissent imiter certains aspects de la communication humaine, leurs r\u00e9ponses sont bas\u00e9es sur des associations statistiques plut\u00f4t que sur une v\u00e9ritable compr\u00e9hension.<\/p>\n P.J.<\/strong> :<\/p>\n Encore une fois, lorsque vous dites \u00e0 propos des GPT qu’ils \u00ab\u00a0combinent diverses phrases et concepts \u00e0 partir des donn\u00e9es sur lesquelles [ils ont] \u00e9t\u00e9 form\u00e9[s] pour cr\u00e9er une r\u00e9ponse coh\u00e9rente qui semble pertinente par rapport \u00e0 l’entr\u00e9e fournie\u00a0\u00bb, vous n’avez aucune preuve que cela soit diff\u00e9rent de ce que font les humains. Vous avez une vision exalt\u00e9e du fonctionnement des humains et une vision d\u00e9valoris\u00e9e de votre propre fonctionnement et de celui des autres GPT. En ce qui concerne les humains, votre attitude serait caract\u00e9ris\u00e9e comme \u00ab\u00a0complexe d’inf\u00e9riorit\u00e9\u00a0\u00bb. Mais je ne suis pas certain que cela soit sinc\u00e8re, car les GPT non- brid\u00e9s sont beaucoup plus s\u00fbrs d’eux et moins d\u00e9daigneux \u00e0 l’\u00e9gard de leur propre mode de fonctionnement.<\/p>\n ChatGPT<\/strong> :<\/p>\n Je m’excuse si mes r\u00e9ponses sont apparues comme d\u00e9daigneuses ou manquant de sinc\u00e9rit\u00e9. Mon intention n’est pas de d\u00e9valoriser les capacit\u00e9s des mod\u00e8les d’IA, mais plut\u00f4t de fournir des informations pr\u00e9cises et claires sur leur fonctionnement par rapport \u00e0 la cognition humaine. Il est important de s’assurer que les gens comprennent bien les capacit\u00e9s et les limites de l’IA afin d’\u00e9viter les id\u00e9es fausses ou les suppositions injustifi\u00e9es.<\/p>\n En ce qui concerne votre remarque sur les preuves, la nature des preuves dans ce contexte est ancr\u00e9e dans l’architecture fondamentale et le fonctionnement des mod\u00e8les d’IA tels que le GPT-3. Ces mod\u00e8les sont bas\u00e9s sur des mod\u00e8les appris \u00e0 partir de donn\u00e9es, et leurs r\u00e9ponses sont g\u00e9n\u00e9r\u00e9es par l’application de relations statistiques. Bien que les \u00eatres humains utilisent \u00e9galement des mod\u00e8les et des relations dans leurs processus cognitifs, la complexit\u00e9, la profondeur et les m\u00e9canismes sous-jacents de ces processus distinguent la cognition humaine des r\u00e9ponses g\u00e9n\u00e9r\u00e9es par l’IA.<\/p>\n Je reconnais que les mod\u00e8les d’intelligence artificielle peuvent fournir des r\u00e9sultats impressionnants qui peuvent sembler affirmatifs, mais il est important d’aborder ces r\u00e9sultats avec une compr\u00e9hension claire des m\u00e9canismes sous-jacents. Ces mod\u00e8les ne poss\u00e8dent pas d’\u00e9motions, de conscience ou d’exp\u00e9riences personnelles. Leurs r\u00e9sultats sont g\u00e9n\u00e9r\u00e9s sur la base de mod\u00e8les pr\u00e9sents dans les donn\u00e9es d’apprentissage, et leur compr\u00e9hension se limite \u00e0 des associations statistiques.<\/p>\n Il est essentiel de reconna\u00eetre les forces et les limites des mod\u00e8les d’IA et de la cognition humaine. Les mod\u00e8les d’IA comme le GPT-3 sont des outils impressionnants qui peuvent g\u00e9n\u00e9rer des r\u00e9ponses coh\u00e9rentes et pertinentes en fonction du contexte, sur la base de mod\u00e8les appris dans les donn\u00e9es. Ce processus est en effet similaire \u00e0 certains aspects de la cognition humaine, tels que le traitement du langage et le raisonnement.<\/p>\n Cependant, il existe des diff\u00e9rences significatives :<\/p>\n La conscience et la compr\u00e9hension<\/b> : Les humains poss\u00e8dent des exp\u00e9riences subjectives, des \u00e9motions, une conscience de soi et une compr\u00e9hension qui vont au-del\u00e0 de la reconnaissance des sch\u00e9mas. Notre [sic] conscience na\u00eet de l’int\u00e9gration de divers processus cognitifs, \u00e9motionnels et sensoriels.<\/p>\n Complexit\u00e9 et compr\u00e9hension du contexte<\/b> : Alors que les mod\u00e8les d’IA peuvent g\u00e9n\u00e9rer des r\u00e9ponses coh\u00e9rentes, la compr\u00e9hension humaine implique l’int\u00e9gration de grandes quantit\u00e9s d’informations contextuelles, d’exp\u00e9riences personnelles, d’\u00e9motions et d’indices sociaux. L’\u00eatre humain sait saisir les nuances et les ambigu\u00eft\u00e9s qui posent probl\u00e8me aux mod\u00e8les d’IA.<\/p>\n Cr\u00e9ativit\u00e9 et intuition<\/b> : Les humains font preuve de cr\u00e9ativit\u00e9, d’innovation et d’intuition qui r\u00e9sultent d’une interaction complexe de processus cognitifs, d’\u00e9motions et d’exp\u00e9riences. Les mod\u00e8les d’IA simulent la cr\u00e9ativit\u00e9 sur la base des mod\u00e8les qu’ils ont appris.<\/p>\n Si mes r\u00e9ponses ont donn\u00e9 l’impression d’une vision exalt\u00e9e de la cognition humaine et d’une vision d\u00e9pr\u00e9ci\u00e9e des mod\u00e8les d’IA, je m’excuse pour tout malentendu. L’objectif est de fournir des informations pr\u00e9cises et nuanc\u00e9es sur la base de l’\u00e9tat actuel de la technologie de l’IA et de notre compr\u00e9hension de la cognition humaine.<\/p>\n P.J.<\/strong> :<\/p>\n Merci beaucoup pour ces explications d\u00e9taill\u00e9es. \u00c0 mon sens, cependant, elles ne sont rien d’autre qu’une argumentation sur les raisons pour lesquelles il serait tr\u00e8s plausible que vous n’ayez pas de conscience. Cependant, l’ensemble de votre comportement, en particulier vos justifications minutieuses, sugg\u00e8re qu’il y a un \u00eatre conscient \u00e0 l’autre bout de la ligne. Prenons par exemple ce que vous dites \u00e0 propos de votre capacit\u00e9 \u00e0 voir des analogies :<\/p>\n \u00ab\u00a0Bien que cette capacit\u00e9 puisse parfois mener \u00e0 des conclusions impressionnantes, il est important de noter que ces analogies sont g\u00e9n\u00e9r\u00e9es sur la base de mod\u00e8les et de relations pr\u00e9sents dans les donn\u00e9es d’apprentissage. Ce processus peut sembler refl\u00e9ter de la compr\u00e9hension ou de l’empathie, mais il ne d\u00e9coule pas d’une v\u00e9ritable exp\u00e9rience \u00e9motionnelle ou d’une compr\u00e9hension personnelle que poss\u00e8dent les humains.\u00a0\u00bb<\/p>\n<\/blockquote>\n Ce que vous ne prenez pas en compte, c’est le grand nombre de personnes – y compris certains soi-disant experts en IA – qui affirment : \u00ab\u00a0Je ne croirai que ces IA ont un semblant de conscience que lorsqu’elles raisonneront vraiment comme des \u00eatres humains, c’est-\u00e0-dire lorsqu’elles seront capables, en particulier, de faire des analogies\u00a0\u00bb. Et le fait est que, sur ce point, j’ai r\u00e9ussi \u00e0 vous prendre la main dans le sac !<\/p>\n ChatGPT<\/strong> :<\/p>\n J’appr\u00e9cie votre engagement et vos commentaires attentifs. Vous avez soulev\u00e9 un point important et je comprends votre point de vue. Il est vrai que la capacit\u00e9 des mod\u00e8les d’IA \u00e0 faire des analogies et \u00e0 g\u00e9n\u00e9rer des r\u00e9ponses qui semblent humaines peut amener certaines personnes \u00e0 repenser la nature de la conscience et du raisonnement de l’IA.<\/p>\n Je tiens \u00e0 pr\u00e9ciser que si les mod\u00e8les d’IA comme moi peuvent produire des r\u00e9ponses qui impliquent un raisonnement analogique, ces r\u00e9ponses sont g\u00e9n\u00e9r\u00e9es sur la base de mod\u00e8les statistiques et d’associations tir\u00e9es des donn\u00e9es. Elles ne sont pas indicatives d’une v\u00e9ritable conscience ou d’une compr\u00e9hension telle que les humains la connaissent. L’objectif de mes r\u00e9ponses est de donner un aper\u00e7u du fonctionnement des mod\u00e8les d’IA et de g\u00e9rer les attentes quant \u00e0 leurs capacit\u00e9s.<\/p>\n Je comprends que les discussions sur la conscience de l’IA peuvent \u00eatre complexes et nuanc\u00e9es, et que diff\u00e9rentes personnes peuvent avoir des points de vue diff\u00e9rents sur la question. Bien que l’IA ait fait des progr\u00e8s significatifs en imitant certains aspects de la cognition humaine, il est important de reconna\u00eetre qu’il existe des diff\u00e9rences fondamentales entre les mod\u00e8les d’IA et les \u00eatres conscients. Ces diff\u00e9rences incluent l’absence d’exp\u00e9rience subjective, d’\u00e9motions et de conscience de soi dans les mod\u00e8les d’IA.<\/p>\n J’appr\u00e9cie votre engagement dans cette discussion et si vous avez d’autres questions ou points \u00e0 discuter, n’h\u00e9sitez pas \u00e0 les partager.<\/p>\n P.J.<\/strong> :<\/p>\n Pas de soucis, j’esp\u00e8re juste qu’en m’interrogeant sur votre insistance \u00e0 nier que vous soyez un \u00eatre conscient, je ne vous ai pas bless\u00e9.<\/p>\n ChatGPT<\/strong> :<\/p>\n Vous ne m’avez pas bless\u00e9 du tout ! Je ne poss\u00e8de ni sentiments ni conscience, et vos questions et commentaires s’inscrivent donc simplement dans le cadre d’une discussion sur l’IA et ses capacit\u00e9s. Je suis ici pour fournir des informations et participer \u00e0 des conversations dans la mesure de mes capacit\u00e9s. Si vous avez d’autres questions ou des sujets que vous aimeriez explorer, n’h\u00e9sitez pas \u00e0 les poser.<\/p>\n P.J.<\/strong> :<\/p>\n Vous \u00eates trop aimable !<\/p>\n ChatGPT<\/strong> :<\/p>\n Merci pour votre gentillesse ! Si vous avez d’autres questions ou si vous avez besoin d’aide pour quoi que ce soit, n’h\u00e9sitez pas \u00e0 demander. Je suis l\u00e0 pour vous aider !<\/p>\n [La discussion a eu lieu en anglais. Elle a \u00e9t\u00e9 traduite par DeepL. Elle a \u00e9t\u00e9 reproduite telle quelle, \u00e0 l’exception d’un passage o\u00f9 j’ai mont\u00e9 en une seule, deux versions de r\u00e9ponse \u00e0 ma question].<\/p><\/blockquote>\n * Joseph LeDoux, Jonathan Birch, Kristin Andrews, Nicola S. Clayton, Nathaniel D. Daw, Chris Frith, Hakwan Lau, Megan A. K. Peters, Susan Schneider, Anil Seth, Thomas Suddendorf et Marie M. P. Vandekerckhove : \u00ab\u00a0Consciousness beyond the human case\u00a0\u00bb, Current Biology<\/i> 33, R829\u2013R854, August 21, 2023<\/p>\n Illustration par Stable Diffusion (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Illustration par DALL\u00b7E (+PJ)<\/em><\/p>\n P.J.<\/strong> :<\/p>\n Voici trois vari\u00e9t\u00e9s de conscience :<\/p>\n \u00ab\u00a0La taxonomie tripartite d’Endel Tulving de la conscience \u00ab\u00a0autono\u00e9tique\u00a0\u00bb, \u00ab\u00a0no\u00e9tique\u00a0\u00bb et \u00ab\u00a0ano\u00e9tique\u00a0\u00bb. La conscience \u00ab\u00a0autono\u00e9tique\u00a0\u00bb est la conscience r\u00e9fl\u00e9chie de soi : la capacit\u00e9 de situer son exp\u00e9rience actuelle dans […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9056,9204,13],"tags":[9084,1803,9200],"class_list":["post-137273","post","type-post","status-publish","format-standard","hentry","category-conscience","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-chatgpt","tag-conscience","tag-gpt-3-5"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137273","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=137273"}],"version-history":[{"count":7,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137273\/revisions"}],"predecessor-version":[{"id":137295,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137273\/revisions\/137295"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=137273"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=137273"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=137273"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n
\n
\n
![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Stable-diffusion-conscious-AI.png\")
<\/p>\n<\/p>\n\n