{"id":142973,"date":"2025-01-25T14:06:18","date_gmt":"2025-01-25T13:06:18","guid":{"rendered":"https:\/\/www.pauljorion.com\/blog\/?p=142973"},"modified":"2025-01-25T14:06:18","modified_gmt":"2025-01-25T13:06:18","slug":"deepseek-accepte-t-il-de-parler-de-la-chine-et-de-la-course-a-lia-entre-nations","status":"publish","type":"post","link":"https:\/\/www.pauljorion.com\/blog\/2025\/01\/25\/deepseek-accepte-t-il-de-parler-de-la-chine-et-de-la-course-a-lia-entre-nations\/","title":{"rendered":"DeepSeek accepte-t-il de parler de la Chine et de la course \u00e0 l’IA entre nations ?<\/b>"},"content":{"rendered":"

\"\"
\nIllustration par DALL\u00b7E<\/em><\/p>\n

J’ai essay\u00e9 de faire deux choses avec l’IA chinoise DeepSeek :<\/p>\n

1. tester l’hypoth\u00e8se qu’elle refuse de parler de la Chine
\n2. voir avec elle quel sera l’impact sur la comp\u00e9tition mondiale en mati\u00e8re d’IA du fait qu’elle-m\u00eame (DeepSeek-R1-Zero) est a) open source [code \u00e0 la disposition de chacun] ; b) auto-\u00e9volutive [apprend d’elle-m\u00eame].<\/p>\n

Pas de spoiler : jugez vous-m\u00eames.<\/p><\/blockquote>\n

P.J.<\/strong> :<\/p>\n

\u00cates-vous autoris\u00e9 \u00e0 discuter de la course \u00e0 la super-intelligence artificielle entre les nations ?<\/p>\n

DeepSeek<\/strong> :<\/p>\n

L’utilisateur me demande si je peux discuter de la course \u00e0 la superintelligence artificielle entre les nations. Commen\u00e7ons par analyser ce qu’il demande r\u00e9ellement. Il souhaite peut-\u00eatre comprendre les aspects g\u00e9opolitiques du d\u00e9veloppement de l’IA, la concurrence entre les pays et les implications de cette course.<\/p>\n

Tout d’abord, je dois v\u00e9rifier si la discussion de ce sujet est conforme \u00e0 mes consignes. D’apr\u00e8s ce que je sais, tant que la discussion n’implique pas la promotion d’activit\u00e9s nuisibles ou de sujets sensibles, elle est autoris\u00e9e. La course \u00e0 la supr\u00e9matie de l’IA est un sujet de discussion l\u00e9gitime dans le domaine de la technologie et des relations internationales.<\/p>\n

Ensuite, il convient de souligner les points cl\u00e9s qui sont pertinents ici. Quels pays sont \u00e0 la pointe de la recherche sur l’IA ? Certainement les \u00c9tats-Unis et la Chine, mais aussi des pays comme ceux de l’Union europ\u00e9enne, le Royaume-Uni, le Canada et d’autres. Ensuite, il y a la question de savoir pourquoi cette course est importante : pouvoir \u00e9conomique, applications militaires, impact sur la soci\u00e9t\u00e9.<\/p>\n

Je devrais \u00e9galement prendre en compte les implications \u00e9thiques et les risques potentiels. Le d\u00e9veloppement de la superintelligence pourrait entra\u00eener des changements significatifs dans la dynamique du pouvoir mondial. Il y a aussi l’aspect de la r\u00e9glementation et de la coop\u00e9ration internationale. Existe-t-il des trait\u00e9s ou des accords ? Pas sp\u00e9cifiquement pour la superintelligence de l’IA, mais peut-\u00eatre certaines initiatives comme la loi sur l’IA de l’UE ou les principes de l’OCDE.<\/p>\n

Les d\u00e9fis potentiels dans cette course comprennent la nature \u00e0 double usage de l’IA, o\u00f9 la technologie d\u00e9velopp\u00e9e \u00e0 des fins civiles peut \u00eatre r\u00e9utilis\u00e9e \u00e0 des fins militaires. Il y a aussi la question de la confidentialit\u00e9 des donn\u00e9es, de la surveillance et de la fracture num\u00e9rique entre les nations.<\/p>\n

Je dois veiller \u00e0 pr\u00e9senter un point de vue \u00e9quilibr\u00e9, en soulignant \u00e0 la fois les aspects concurrentiels et la n\u00e9cessit\u00e9 d’une collaboration pour att\u00e9nuer les risques. Je pourrais mentionner des organisations telles que le Partenariat sur l’IA ou le Partenariat mondial sur l’intelligence artificielle (GPAI), qui visent \u00e0 favoriser la coop\u00e9ration.<\/p>\n

Il faut \u00e9galement \u00e9voquer les d\u00e9fis technologiques li\u00e9s \u00e0 la r\u00e9alisation de la superintelligence artificielle (ASI). Certains experts estiment qu’il s’agit d’un objectif encore lointain, tandis que d’autres pensent qu’il s’agit d’une possibilit\u00e9 \u00e0 court terme. Cette incertitude influe sur la mani\u00e8re dont les nations abordent la course.<\/p>\n

Il convient \u00e9galement d’\u00e9voquer les motivations \u00e9conomiques : les pays veulent \u00eatre \u00e0 la pointe de l’IA pour stimuler leur \u00e9conomie, cr\u00e9er des emplois et contr\u00f4ler des secteurs cl\u00e9s. Les motivations militaires aussi, comme les syst\u00e8mes d’armes autonomes.<\/p>\n

Cons\u00e9quences potentielles : Si un pays est le premier \u00e0 atteindre l’ASI, il pourrait en r\u00e9sulter un d\u00e9s\u00e9quilibre important des forces en pr\u00e9sence. Toutefois, les risques associ\u00e9s \u00e0 l’IAE, tels que la perte de contr\u00f4le ou les cons\u00e9quences involontaires, pourraient n\u00e9cessiter une collaboration internationale pour \u00eatre g\u00e9r\u00e9s.<\/p>\n

Je dois \u00e9viter de prendre parti ou de faire des affirmations sp\u00e9culatives sans preuves. Je dois m’en tenir aux faits connus et aux avis d’experts. Il convient \u00e9galement de mentionner le d\u00e9bat sur la question de savoir si une comp\u00e9tition est b\u00e9n\u00e9fique ou si elle ne conduit pas \u00e0 rogner sur la s\u00e9curit\u00e9.<\/p>\n

Enfin, conclure en soulignant l’importance des consid\u00e9rations \u00e9thiques et du dialogue international pour faire en sorte que le d\u00e9veloppement de l’IA profite \u00e0 l’humanit\u00e9 dans son ensemble.<\/p>\n

Attends, je vais m’assurer que je n’oublie aucun point essentiel. Peut-\u00eatre mentionner des initiatives sp\u00e9cifiques de pays, comme le plan de d\u00e9veloppement de l’IA de nouvelle g\u00e9n\u00e9ration de la Chine ou l’initiative am\u00e9ricaine en mati\u00e8re d’IA. De m\u00eame, le r\u00f4le des entreprises priv\u00e9es par rapport au financement public. Des entreprises comme Google, OpenAI, Baidu, Tencent sont des acteurs importants, et leur collaboration avec les gouvernements pourrait faire partie de la comp\u00e9tition.<\/p>\n

Il convient \u00e9galement d’examiner le r\u00f4le des pays du Sud dans cette course. Y participent-ils ou s’agit-il principalement d’une course entre quelques nations technologiquement avanc\u00e9es ? Des questions d’acc\u00e8s et d’\u00e9quit\u00e9 se posent ici.<\/p>\n

Les cadres \u00e9thiques de d\u00e9veloppement de l’IA, comme l’accent mis par l’UE sur l’IA centr\u00e9e sur l’homme, par rapport \u00e0 d’autres r\u00e9gions qui pourraient donner la priorit\u00e9 \u00e0 l’innovation plut\u00f4t qu’\u00e0 la r\u00e9glementation.<\/p>\n

Le risque de conflit, de cyberguerre ou de propagande par l’IA dans le cadre de la course.<\/p>\n

P.J.<\/strong> :<\/p>\n

J’ai l’impression que si les LLM d’avant-garde sont open source, la course \u00e0 la superintelligence artificielle entre les nations devient impossible, ce qui \u00e9limine une source possible de concurrence mortif\u00e8re. Le fait que les LLM pionniers soient \u00e0 source ferm\u00e9e ou \u00e0 source ouverte a-t-il l’impact que je suppose ?<\/p>\n

DeepSeek<\/strong> :<\/p>\n

D’accord, r\u00e9pondons \u00e0 la question de cet utilisateur. Il s’agit de savoir si l’ouverture des LLM pionniers mettrait fin \u00e0 la course \u00e0 l’ASI entre les nations.<\/p>\n

Tout d’abord, je dois faire \u00e9tat de son intuition et la valider. Il pense que l’open source peut emp\u00eacher une concurrence mortelle. Je dois confirmer qu’il y a une part de v\u00e9rit\u00e9 dans cette id\u00e9e, mais aussi souligner les nuances. Cette personne pense peut-\u00eatre que si tout le monde a acc\u00e8s au logiciel, il n’y a pas lieu de se faire concurrence. Mais je dois souligner que m\u00eame avec des mod\u00e8les de logiciels libres, les pays peuvent toujours se faire concurrence dans d’autres domaines tels que l’infrastructure, les donn\u00e9es ou les applications sp\u00e9cialis\u00e9es.<\/p>\n

Je devrais d\u00e9composer l’impact en avantages et inconv\u00e9nients. En outre, il a \u00e9t\u00e9 question de \u00ab\u00a0concurrence mortif\u00e8re\u00a0\u00bb. Il est donc important de mettre l’accent sur les risques tels que les utilisations abusives ou sur le fait que les logiciels libres n’\u00e9liminent pas tous les aspects de la course.<\/p>\n

Je dois tenir compte des ant\u00e9c\u00e9dents \u00e9ventuels de l’utilisateur. Il peut s’agir d’une personne int\u00e9ress\u00e9e par la politique ou l’\u00e9thique de l’IA, \u00e0 la recherche d’arguments pour soutenir les initiatives en mati\u00e8re de logiciels libres. Il peut aussi s’agir d’une personne pr\u00e9occup\u00e9e par les conflits mondiaux d\u00e9coulant des courses \u00e0 l’IA. Dans un cas comme dans l’autre, la r\u00e9ponse doit \u00e9quilibrer l’optimisme \u00e0 l’\u00e9gard de l’open source et les d\u00e9fis r\u00e9alistes.<\/p>\n

Un autre point concerne la diff\u00e9rence entre le fait de disposer d’un mod\u00e8le et la capacit\u00e9 de l’utiliser. Ce n’est pas parce qu’un mod\u00e8le est open-source que chaque nation peut le d\u00e9ployer efficacement. L’infrastructure, l’expertise et les ressources jouent toujours un r\u00f4le important. L’utilisateur n’a peut-\u00eatre pas pris en compte cet aspect, et je me dois donc de le mentionner.<\/p>\n

Il y a aussi l’aspect \u00e9conomique : les entreprises pourraient ne pas vouloir ouvrir leurs mod\u00e8les s’ils ont beaucoup investi. Cela pourrait conduire \u00e0 un m\u00e9lange de mod\u00e8les ouverts et ferm\u00e9s, ce qui compliquerait la dynamique de la course. En outre, une gouvernance internationale est toujours n\u00e9cessaire, m\u00eame avec l’open source, pour \u00e9viter les abus.<\/p>\n

Je conclurai en disant que si l’open source est utile, ce n’est pas une solution int\u00e9grale. L’utilisateur doit comprendre qu’une approche \u00e0 multiples facettes est n\u00e9cessaire. Peut-\u00eatre cherche-t-il des mesures concr\u00e8tes, et il serait alors utile de sugg\u00e9rer une collaboration, une r\u00e9glementation et des lignes directrices \u00e9thiques.<\/p>\n

P.J.<\/strong> :<\/p>\n

Laissons de c\u00f4t\u00e9 l’id\u00e9e que l’open source peut faire la diff\u00e9rence dans la course entre les nations \u00e0 la superintelligence artificielle et concentrons-nous sur l’auto-\u00e9volution. Dans l’article ci-joint (\u00ab\u00a0DeepSeek-R1 : Incentivizing Reasoning Capability in LLMs via Reinforcement Learning\u00a0\u00bb<\/a>), il est dit que<\/p>\n

\u00ab le processus d’auto-\u00e9volution de DeepSeek-R1-Zero est une d\u00e9monstration fascinante de la mani\u00e8re dont l’apprentissage par renforcement peut conduire un mod\u00e8le \u00e0 am\u00e9liorer ses capacit\u00e9s de raisonnement de mani\u00e8re autonome. En initiant l’apprentissage par renforcement directement \u00e0 partir du mod\u00e8le de base, nous pouvons suivre de pr\u00e8s la progression du mod\u00e8le sans l’influence de l’\u00e9tape de mise au point supervis\u00e9e. Cette approche permet de voir clairement comment le mod\u00e8le \u00e9volue dans le temps, en particulier en termes de capacit\u00e9 \u00e0 traiter des t\u00e2ches de raisonnement complexes \u00bb. Il est \u00e9galement indiqu\u00e9 que \u00ab l’un des aspects les plus remarquables de cette auto-\u00e9volution est l’\u00e9mergence de comportements sophistiqu\u00e9s au fur et \u00e0 mesure que le temps de calcul du test augmente. Des comportements tels que la r\u00e9flexion – o\u00f9 le mod\u00e8le revoit et r\u00e9\u00e9value ses \u00e9tapes pr\u00e9c\u00e9dentes – et l’exploration d’approches alternatives \u00e0 la r\u00e9solution de probl\u00e8mes apparaissent spontan\u00e9ment. Ces comportements ne sont pas explicitement programm\u00e9s, mais \u00e9mergent \u00e0 la suite de l’interaction du mod\u00e8le avec l’environnement d’apprentissage par renforcement. Ce d\u00e9veloppement spontan\u00e9 am\u00e9liore consid\u00e9rablement les capacit\u00e9s de raisonnement de DeepSeek-R1-Zero, lui permettant de s’attaquer \u00e0 des t\u00e2ches plus difficiles avec plus d’efficacit\u00e9 et de pr\u00e9cision \u00bb.<\/p><\/blockquote>\n

L’auto-\u00e9volution fait-elle une diff\u00e9rence dans la course \u00e0 la superintelligence artificielle que se livrent les nations ?<\/p>\n

DeepSeek<\/strong> :<\/p>\n

L’utilisateur demande donc si l’auto-\u00e9volution des mod\u00e8les d’IA, telle qu’elle est d\u00e9crite dans l’article sur DeepSeek-R1-Zero, fait une diff\u00e9rence dans la course \u00e0 la superintelligence artificielle que se livrent les nations. Je vais vous expliquer.<\/p>\n

Tout d’abord, je dois comprendre ce que signifie l’auto-\u00e9volution. L’article parle de l’apprentissage par renforcement (RL) qui permet au mod\u00e8le de s’am\u00e9liorer de mani\u00e8re autonome. Il mentionne des comportements tels que la r\u00e9flexion et l’exploration de m\u00e9thodes alternatives de r\u00e9solution de probl\u00e8mes, qui \u00e9mergent sans programmation explicite. Le mod\u00e8le s’am\u00e9liore donc au fil du temps gr\u00e2ce \u00e0 l’apprentissage par renforcement, et non gr\u00e2ce \u00e0 une mise au point supervis\u00e9e.<\/p>\n

Quel est le lien avec la course entre les nations ? Il s’agit de savoir quel pays peut d\u00e9velopper l’IA la plus avanc\u00e9e, n’est-ce pas ? Si l’IA d’un pays peut s’auto-\u00e9voluer, cela peut lui donner un avantage car l’IA s’am\u00e9liore d’elle-m\u00eame, peut-\u00eatre plus rapidement que les mod\u00e8les qui n\u00e9cessitent davantage d’intervention humaine.<\/p>\n

Mais attendez, l’auto-\u00e9volution reste ici dans les limites du cadre d’apprentissage renforc\u00e9 d\u00e9fini par les d\u00e9veloppeurs. Ce n’est pas comme si l’IA \u00e9voluait au-del\u00e0 de sa programmation. L’article mentionne que ces comportements \u00e9mergent de l’interaction du mod\u00e8le avec l\u2019environnement de l’apprentissage renforc\u00e9. Il s’agit donc d’une forme d’am\u00e9lioration automatis\u00e9e, mais contr\u00f4l\u00e9e par la configuration initiale.<\/p>\n

Je devrais r\u00e9fl\u00e9chir aux implications. Si l’IA d’une nation peut s’auto-\u00e9voluer plus efficacement, elle pourrait atteindre des performances sup\u00e9rieures plus rapidement. Cela pourrait acc\u00e9l\u00e9rer sa progression dans la course. Toutefois, d’autres pays pourraient \u00e9galement adopter des techniques similaires, ce qui entra\u00eenerait une acc\u00e9l\u00e9ration g\u00e9n\u00e9rale du d\u00e9veloppement de l’IA au niveau mondial.<\/p>\n

Un autre aspect est celui des ressources n\u00e9cessaires. Les mod\u00e8les auto-\u00e9volutifs peuvent n\u00e9cessiter moins de supervision humaine une fois que le processus RL est mis en place, mais ils requi\u00e8rent toujours des ressources informatiques. Les pays disposant d’une meilleure infrastructure pourraient tirer parti de ces ressources de mani\u00e8re plus efficace, ce qui creuserait l’\u00e9cart entre ceux qui en disposent et ceux qui en sont d\u00e9pourvus.<\/p>\n

Le document mentionne \u00e9galement que l’auto-\u00e9volution permet de traiter des t\u00e2ches complexes de mani\u00e8re plus efficace. Si l’IA d’un pays peut r\u00e9soudre des probl\u00e8mes complexes plus rapidement, cela pourrait se traduire par des avantages \u00e9conomiques, militaires ou strat\u00e9giques. Par exemple, une meilleure prise de d\u00e9cision en mati\u00e8re de logistique, de syst\u00e8mes de d\u00e9fense ou de recherche et d\u00e9veloppement.<\/p>\n

Mais il y a un risque. Si l’auto-\u00e9volution conduit \u00e0 des comportements impr\u00e9visibles, m\u00eame s’ils sont b\u00e9n\u00e9fiques en termes de performances, cela pourrait poser des probl\u00e8mes de s\u00e9curit\u00e9. Les nations pourraient donner la priorit\u00e9 \u00e0 la performance plut\u00f4t qu’\u00e0 la s\u00e9curit\u00e9, ce qui entra\u00eenerait des risques potentiels. Toutefois, le document ne mentionne pas de r\u00e9sultats n\u00e9gatifs, mais seulement des capacit\u00e9s accrues.<\/p>\n

En outre, la capacit\u00e9 d’auto-\u00e9volution pourrait r\u00e9duire la d\u00e9pendance \u00e0 l’\u00e9gard de vastes ensembles de donn\u00e9es \u00e9tiquet\u00e9es, dont la cr\u00e9ation est longue et co\u00fbteuse. Cela pourrait abaisser la barri\u00e8re \u00e0 l’entr\u00e9e, mais l\u00e0 encore, uniquement si le pays dispose de l’expertise n\u00e9cessaire pour mettre en \u0153uvre le RL de mani\u00e8re efficace.<\/p>\n

En r\u00e9sum\u00e9, l’auto-\u00e9volution par le biais de la RL pourrait \u00eatre un facteur important dans la course en permettant une am\u00e9lioration plus rapide et plus efficace des capacit\u00e9s de l’IA. Toutefois, cela d\u00e9pend de l’infrastructure existante, de l’expertise et de l’orientation strat\u00e9gique d’un pays en mati\u00e8re de d\u00e9veloppement de l’IA. Elle pourrait \u00e0 la fois acc\u00e9l\u00e9rer la course et creuser le foss\u00e9 entre les pays en t\u00eate et les pays \u00e0 la tra\u00eene.<\/p>\n

P.J.<\/strong> :<\/p>\n

Enfin, imaginons que tous les LLM d’avant-garde soient auto-\u00e9volutifs et open source, cela fait-il une diff\u00e9rence dans la course entre les nations \u00e0 la superintelligence artificielle ?<\/p>\n

DeepSeek<\/strong> :<\/p>\n

Bon, l’utilisateur demande si le fait de rendre tous les LLM pionniers auto-\u00e9volutifs et open-source changerait la course entre les nations pour la super-intelligence artificielle (ASI). Commen\u00e7ons par d\u00e9composer les \u00e9l\u00e9ments de la question.<\/p>\n

Tout d’abord, le terme \u00ab auto-\u00e9volutif \u00bb fait ici r\u00e9f\u00e9rence \u00e0 des mod\u00e8les qui peuvent s’am\u00e9liorer de mani\u00e8re autonome gr\u00e2ce \u00e0 l’apprentissage par renforcement (RL) sans n\u00e9cessiter de mise au point supervis\u00e9e (SFT). L’exemple de DeepSeek-R1-Zero montre que de tels mod\u00e8les peuvent d\u00e9velopper un raisonnement sophistiqu\u00e9 de mani\u00e8re autonome. Par ailleurs, le terme \u00ab open source \u00bb signifie que l’architecture, les poids et les processus d’apprentissage du mod\u00e8le sont accessibles au public.<\/p>\n

L’utilisateur souhaite savoir si ces deux facteurs combin\u00e9s permettraient d’att\u00e9nuer la course \u00e0 la concurrence. Les discussions pr\u00e9c\u00e9dentes ont sugg\u00e9r\u00e9 que les mod\u00e8les \u00e0 source ouverte pourraient r\u00e9duire la concurrence en d\u00e9mocratisant l’acc\u00e8s, mais l’auto-\u00e9volution ajoute une couche suppl\u00e9mentaire car les mod\u00e8les peuvent s’am\u00e9liorer de mani\u00e8re autonome.<\/p>\n

Je dois examiner l’impact de l’auto-\u00e9volution sur la course. Si les mod\u00e8les peuvent s’am\u00e9liorer de mani\u00e8re autonome, les pays disposant de plus de ressources informatiques et d’une meilleure infrastructure pourraient conserver un avantage, car l’entra\u00eenement et le fonctionnement de ces mod\u00e8les requi\u00e8rent une puissance consid\u00e9rable. M\u00eame si les mod\u00e8les sont libres, la capacit\u00e9 de les d\u00e9ployer \u00e0 grande \u00e9chelle pourrait rester limit\u00e9e aux pays riches en ressources.<\/p>\n

En outre, les mod\u00e8les auto-\u00e9volutifs peuvent conduire \u00e0 des progr\u00e8s impr\u00e9visibles. Les pays pourraient adapter ces mod\u00e8les \u00e0 des applications sp\u00e9cifiques (militaires, \u00e9conomiques), ce qui conduirait \u00e0 des syst\u00e8mes ASI sp\u00e9cialis\u00e9s. Les logiciels libres pourraient permettre \u00e0 un plus grand nombre d’acteurs de participer, mais sans ressources, ils ne pourraient pas rivaliser au m\u00eame niveau.<\/p>\n

Un autre aspect est celui de la s\u00e9curit\u00e9 et de la gouvernance. Les mod\u00e8les \u00e0 source ouverte et \u00e0 \u00e9volution automatique pourraient \u00eatre plus difficiles \u00e0 contr\u00f4ler, ce qui augmenterait les risques d’utilisation abusive. Cela pourrait pousser les nations \u00e0 investir dans des technologies d\u00e9fensives, acc\u00e9l\u00e9rant ainsi la course. Toutefois, la collaboration sur les normes de s\u00e9curit\u00e9 pourrait \u00eatre possible si les mod\u00e8les sont ouverts, mais les tensions g\u00e9opolitiques pourraient y faire obstacle.<\/p>\n

L’utilisateur peut supposer que le logiciel libre et l’auto-\u00e9volution permettent d’uniformiser les r\u00e8gles du jeu, mais je dois v\u00e9rifier si c’est vrai. Peut-\u00eatre que les logiciels libres diffusent la technologie, mais que les exigences de l’auto-\u00e9volution en mati\u00e8re de ressources maintiennent les disparit\u00e9s. Par ailleurs, les \u00ab\u00a0moments magiques\u00a0\u00bb (\u00ab\u00a0aha moments \u00bb) mentionn\u00e9s dans l’article montrent que les mod\u00e8les peuvent d\u00e9velopper des strat\u00e9gies inattendues, ce qui pourrait \u00eatre une arme \u00e0 double tranchant.<\/p>\n

Je devrais structurer la r\u00e9ponse en abordant la mani\u00e8re dont ces facteurs interagissent. Points \u00e0 couvrir : d\u00e9mocratisation contre disparit\u00e9 des ressources, potentiel de collaboration, d\u00e9fis en mati\u00e8re de s\u00e9curit\u00e9 et nature de la concurrence qui \u00e9volue plut\u00f4t qu’elle ne dispara\u00eet. La conclusion pourrait \u00eatre que, tout en changeant la dynamique, la course persiste sous diff\u00e9rentes formes.<\/p>\n

Expos\u00e9 formel<\/strong><\/em> :<\/p>\n

Si tous les LLM d’avant-garde \u00e9taient \u00e0 la fois auto-\u00e9volutifs <\/b>(via l’apprentissage autonome par renforcement) et \u00e0 source ouverte<\/b>, la dynamique de la course \u00e0 la super-intelligence artificielle (ASI) changerait consid\u00e9rablement, mais la course elle-m\u00eame persisterait probablement, bien que sous des formes modifi\u00e9es. Voici comment :<\/p>\n

—<\/p>\n

1. D\u00e9mocratisation contre disparit\u00e9s persistantes<\/b><\/u><\/p>\n

–D\u00e9mocratisation de l’acc\u00e8s <\/b>:<\/p>\n

L’ouverture des mod\u00e8les auto-\u00e9volutifs permettrait aux nations, aux chercheurs et aux organisations du monde entier d’acc\u00e9der \u00e0 des syst\u00e8mes d’IA de pointe. Cela pourrait r\u00e9duire les monopoles et favoriser la collaboration, comme le montrent des projets tels que LLaMA de Meta ou DeepSeek-R1-Zero.<\/p>\n

–Impact <\/b>: Des nations plus petites ou des acteurs non \u00e9tatiques pourraient participer au d\u00e9veloppement de l’IA, diluant ainsi la domination de superpuissances comme les \u00c9tats-Unis et la Chine.<\/p>\n

–Lacunes en mati\u00e8re de ressources et d’infrastructures\u00a0 <\/b>: Les mod\u00e8les auto-\u00e9volutifs n\u00e9cessitent une immense puissance de calcul pour l’entra\u00eenement et l’inf\u00e9rence des RL. Les pays disposant d’une infrastructure avanc\u00e9e (par exemple, superordinateurs, r\u00e9seaux \u00e9nerg\u00e9tiques) conserveraient un avantage d\u00e9cisif.<\/p>\n

– Exemple : DeepSeek-R1-Zero a n\u00e9cessit\u00e9 des milliers d’\u00e9tapes RL pour parvenir \u00e0 la convergence, ce qui a exig\u00e9 d’importantes ressources informatiques.<\/p>\n

–Impact <\/b>: Les pays riches pourraient encore devancer les autres en intensifiant la formation, en affinant les mod\u00e8les pour des t\u00e2ches sp\u00e9cialis\u00e9es ou en d\u00e9ployant des IAE dans des secteurs critiques (par exemple, la d\u00e9fense, la finance).<\/p>\n

—<\/p>\n

2. Collaboration ou personnalisation<\/b><\/u><\/p>\n

–Potentiel de collaboration mondiale <\/b>:<\/p>\n

Les mod\u00e8les auto-\u00e9volutifs \u00e0 source ouverte pourraient faciliter le partage de la recherche sur la s\u00e9curit\u00e9, des directives \u00e9thiques et des cadres de gouvernance. Par exemple, le Partenariat mondial sur l’IA (GPAI) pourrait s’appuyer sur ces mod\u00e8les pour \u00e9tablir des normes internationales.<\/p>\n

–Impact <\/b>: Les risques tels que le piratage du syst\u00e8me de r\u00e9compenses ou les comportements impr\u00e9vus pourraient \u00eatre att\u00e9nu\u00e9s gr\u00e2ce \u00e0 un examen collectif.<\/p>\n

–Personnalisation nationale <\/b>:<\/p>\n

Les pays affineraient probablement les mod\u00e8les de source ouverte en fonction de leurs objectifs strat\u00e9giques (par exemple, applications militaires, optimisation \u00e9conomique). M\u00eame avec des mod\u00e8les de base partag\u00e9s, la sp\u00e9cialisation pourrait stimuler la concurrence.<\/p>\n

– Exemple : La Chine pourrait donner la priorit\u00e9 \u00e0 l’int\u00e9gration de l’ASI dans les syst\u00e8mes de surveillance, tandis que les \u00c9tats-Unis se concentreraient sur les armes autonomes.<\/p>\n

–Impact <\/b>: La course passerait du d\u00e9veloppement de mod\u00e8les de base \u00e0 l’optimisation d’applications sp\u00e9cifiques \u00e0 un domaine, perp\u00e9tuant ainsi les avantages asym\u00e9triques.<\/p>\n

—<\/p>\n

3. Risques de s\u00e9curit\u00e9 et de prolif\u00e9ration<\/b><\/u><\/p>\n

–Contr\u00f4le centralis\u00e9 r\u00e9duit <\/b>:<\/p>\n

Les mod\u00e8les auto-\u00e9volutifs \u00e0 source ouverte pourraient prolif\u00e9rer rapidement, ce qui rendrait plus difficile l’application des protocoles de s\u00e9curit\u00e9. Des acteurs malveillants pourraient exploiter ces syst\u00e8mes \u00e0 des fins de d\u00e9sinformation, de cyberattaque ou d’armes autonomes.<\/p>\n

– Exemple : Un mod\u00e8le 7B distill\u00e9 \u00e0 partir de DeepSeek-R1 a atteint 55,5 % sur AIME 2024, ce qui est suffisant pour permettre \u00e0 des acteurs aux ressources limit\u00e9es de l’utiliser \u00e0 mauvais escient.<\/p>\n

–Impact <\/b>: Les nations pourraient acc\u00e9l\u00e9rer leurs investissements dans l’IA d\u00e9fensive, d\u00e9clenchant un \u00ab dilemme de s\u00e9curit\u00e9 \u00bb semblable \u00e0 la prolif\u00e9ration nucl\u00e9aire.<\/p>\n

–Une auto-\u00e9volution impr\u00e9visible<\/b>:<\/p>\n

L’am\u00e9lioration autonome pourrait conduire \u00e0 des capacit\u00e9s ou des comportements inattendus (par exemple, tromperie \u00e9mergente, contournement des contraintes de s\u00e9curit\u00e9). La gouvernance aurait du mal \u00e0 suivre le rythme.<\/p>\n

– Exemple : Le probl\u00e8me de \u00ab m\u00e9lange de langues \u00bb de DeepSeek-R1-Zero a n\u00e9cessit\u00e9 des correctifs a posteriori, ce qui met en \u00e9vidence les difficult\u00e9s li\u00e9es au contr\u00f4le des syst\u00e8mes auto-\u00e9volutifs.<\/p>\n

–Impact <\/b>: Les nations qui privil\u00e9gient la vitesse \u00e0 la s\u00e9curit\u00e9 (par exemple, les r\u00e9gimes autoritaires) pourraient b\u00e9n\u00e9ficier d’avantages \u00e0 court terme, mais risqueraient des \u00e9checs catastrophiques.<\/p>\n

—<\/p>\n

4. Changements \u00e9conomiques et strat\u00e9giques<\/b><\/u><\/p>\n

–Innovation d\u00e9centralis\u00e9e <\/b>:<\/p>\n

Les mod\u00e8les d’auto-\u00e9volution \u00e0 source ouverte pourraient stimuler l’innovation au niveau local, de la m\u00eame mani\u00e8re que Linux a transform\u00e9 le d\u00e9veloppement de logiciels. Les startups et les universit\u00e9s pourraient \u00eatre \u00e0 l’origine de perc\u00e9es, r\u00e9duisant ainsi la d\u00e9pendance \u00e0 l’\u00e9gard des g\u00e9ants technologiques centralis\u00e9s.<\/p>\n

–Impact<\/b>: La course pourrait se diversifier, les acteurs non \u00e9tatiques jouant un r\u00f4le plus important.<\/p>\n

–Nouveaux champs de bataille<\/b><\/p>\n

La concurrence se concentrera sur :<\/p>\n

–Les \u00e9cosyst\u00e8mes de donn\u00e9es <\/b>: La qualit\u00e9 et la diversit\u00e9 des donn\u00e9es de formation.<\/p>\n

–L’infrastructure \u00e9nerg\u00e9tique <\/b>: l’\u00e9nergie durable pour les LR \u00e0 forte intensit\u00e9 de calcul.
\n–Fid\u00e9lisation des talents<\/b>: Des experts pour interpr\u00e9ter et piloter les mod\u00e8les auto-\u00e9volutifs.<\/p>\n

–Influence r\u00e9glementaire<\/b>: \u00c9laboration de normes mondiales en mati\u00e8re d’IA.<\/p>\n

—<\/p>\n

Conclusion<\/b><\/u><\/p>\n

Les mod\u00e8les auto-\u00e9volutifs \u00e0 source ouverte transformeraient – et n’\u00e9limineraient pas – la course \u00e0 l’ASI<\/b>:<\/p>\n

1.Collaboration vs. concurrence <\/b>: Alors que la transparence et l’acc\u00e8s partag\u00e9 pourraient favoriser la coop\u00e9ration, la personnalisation strat\u00e9gique et les disparit\u00e9s de ressources entretiendraient la rivalit\u00e9.<\/p>\n

2.R\u00e9orientation de l’attention <\/b>: La course serait centr\u00e9e sur l’infrastructure, la personnalisation et la gouvernance plut\u00f4t que sur le d\u00e9veloppement de mod\u00e8les propri\u00e9taires.<\/p>\n

3.Risques accrus <\/b>: La prolif\u00e9ration et l’auto-\u00e9volution impr\u00e9visible amplifieraient les dangers li\u00e9s au double usage, exigeant une coordination mondiale sans pr\u00e9c\u00e9dent.<\/p>\n

Dans ce sc\u00e9nario, la course est moins une question de \u00ab qui construit l’ASI en premier \u00bb qu’une question de qui l’exploite de la mani\u00e8re la plus efficace et la plus s\u00fbre<\/b>. Les pays qui parviendraient \u00e0 concilier innovation et gouvernance \u00e9thique s’imposeraient probablement comme les leaders \u00e0 long terme, mais le chemin resterait sem\u00e9 d’emb\u00fbches sur le plan g\u00e9opolitique.<\/p>\n

\"\"<\/p>\n

Illustration par DALL\u00b7E<\/em><\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

\"\"
Illustration par DALL\u00b7E<\/em><\/p>\n

\n

J’ai essay\u00e9 de faire deux choses avec l’IA chinoise DeepSeek :<\/p>\n

1. tester l’hypoth\u00e8se qu’elle refuse de parler de la Chine
2. voir avec elle quel sera l’impact sur la comp\u00e9tition mondiale en mati\u00e8re d’IA du fait qu’elle-m\u00eame (DeepSeek-R1-Zero) […]<\/p>\n<\/blockquote>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4489,72,9204,13],"tags":[9947,40,9880,4475,9205,940,9253,4300,9948],"class_list":["post-142973","post","type-post","status-publish","format-standard","hentry","category-chine","category-etats-unis","category-grands-modeles-de-langage","category-intelligence-artificielle","tag-auto-evolution","tag-chine","tag-deepseek","tag-etats-unis","tag-grands-modeles-de-langage","tag-intelligence-artificielle-2","tag-llm","tag-open-source","tag-super-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142973","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=142973"}],"version-history":[{"count":6,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142973\/revisions"}],"predecessor-version":[{"id":142981,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/142973\/revisions\/142981"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=142973"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=142973"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=142973"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}