Question<\/strong> : Au cours de l’ann\u00e9e \u00e9coul\u00e9e, comment la DARPA et les programmes de la DARPA qui voient le jour restent-ils pertinents face aux progr\u00e8s rapides de l’IA ? Comment le DARPA conserve-t-il sa pertinence face \u00e0 un tel rythme ?<\/p>\nR\u00e9ponse<\/strong> : L’un des domaines est la structure du programme. Le AI Cyber Challenge (AIxCC) est une comp\u00e9tition dans le cadre de laquelle nous nous associons \u00e0 des entreprises de grands mod\u00e8les de langage (Anthropic, Google, Microsoft et OpenAI) pour fournir un acc\u00e8s au calcul aux participants \u00e0 la comp\u00e9tition.<\/p>\nAu fur et \u00e0 mesure que les capacit\u00e9s se d\u00e9veloppent, les artistes qui les utilisent sont \u00e9galement en mesure de tirer parti de ces capacit\u00e9s avanc\u00e9es. Il s’agit l\u00e0 d’un mod\u00e8le. Par ailleurs, nous garderons un \u0153il sur ce qui se passe si la capacit\u00e9 sur laquelle nous travaillons dans le programme devient d\u00e9pass\u00e9e, nous arr\u00eaterons le programme et le r\u00e9g\u00e9n\u00e9rerons ou ferons quelque chose d’autre. Par ailleurs, toutes les fronti\u00e8res ne progressent pas au m\u00eame rythme. L’apprentissage par renforcement n’avance pas aussi vite que le mod\u00e8le du transformateur. Le rythme des mod\u00e8les de fronti\u00e8re ralentit un peu. Une grande partie des r\u00e9sultats que nous observons actuellement consiste \u00e0 comprendre ce qu’ils font et ce qu’ils ne font pas. Ils n’ont pas encore publi\u00e9 le GPT5. Ils n’ont m\u00eame pas commenc\u00e9 \u00e0 former GPT5 en raison du ralentissement de la sortie des H100 d\u00fb aux probl\u00e8mes de production de la Taiwan Semiconductor Manufacturing Company Limited (TSMC). Nous avons donc un peu de r\u00e9pit. Le mod\u00e8le Gemini, l’int\u00e9gration de la partie planification dans le LLM, nous ne sommes pas s\u00fbrs, nous manquons de transparence, mais il y a de grands probl\u00e8mes de recherche qui doivent encore \u00eatre r\u00e9solus. Entendre les gens dire que nous sommes \u00ab\u00a0juste un peu loin de l’intelligence artificielle g\u00e9n\u00e9rale (AGI)\u00a0\u00bb est un peu plus optimiste que la r\u00e9alit\u00e9. Il y a des choses comme le probl\u00e8me de l’arr\u00eat. Il y a encore des choses exponentielles. Nous avons toujours besoin de ressources. Je pense qu’il y aura encore des probl\u00e8mes tr\u00e8s difficiles qui ne seront pas r\u00e9solus par la mise \u00e0 l’\u00e9chelle.<\/p>\n
Question compl\u00e9mentaire<\/strong> : Ma question est la suivante : quand vous aurez, peut-\u00eatre pas l’AGI, mais un syst\u00e8me qui aide les humains et toutes les personnes pr\u00e9sentes dans cette pi\u00e8ce \u00e0 progresser si rapidement qu’avant que l’AGI n’arrive, il y aura un apex, et non pas une croissance asymptotique o\u00f9 nous devrons constamment faire face \u00e0 cela ?<\/p>\nR\u00e9ponse compl\u00e9mentaire<\/strong> : Nous nous effor\u00e7ons de ne pas entraver l’action de l’industrie. Nous essayons de r\u00e9soudre des probl\u00e8mes et de travailler sur des probl\u00e8mes que l’industrie ne fera pas demain. Nous ne pr\u00e9voyons pas de travailler sur des modules linguistiques multimodaux de grande taille, parce qu’ils le feront un jour. Nous n’essayons pas de travailler sur l’int\u00e9gration de nouvelles informations dans un LLM parce qu’ils vont le faire d\u00e8s qu’ils le pourront. Nous essayons de travailler sur des choses sur lesquelles ils ne travailleront pas tout de suite. Nous ne l’avons pas encore fait, mais nous pourrions nous int\u00e9resser \u00e0 la s\u00e9curit\u00e9 multi-niveaux, car nous pensons que c’est un sujet qui int\u00e9resse davantage le DoD que l’industrie. Cela figure peut-\u00eatre sur la feuille de route de l’industrie, mais dans un avenir plus lointain. Je ne connais pas les bonnes r\u00e9ponses, mais la question de savoir ce qu’ils vont faire et dans quel d\u00e9lai, et ce que nous devrions faire, est quelque chose dont nous parlons tout le temps. Avons-nous des r\u00e9ponses parfaites ? Non, mais nous posons-nous constamment cette question ? Oui.<\/p>\nQuestion<\/strong> : Vous avez soulign\u00e9 ici aujourd’hui que le code g\u00e9n\u00e9r\u00e9 par les syst\u00e8mes d’IA va simplement augmenter en port\u00e9e et en \u00e9chelle d’une mani\u00e8re que nous pouvons \u00e0 peine imaginer ? Quelle est l’importance pour la DARPA de la v\u00e9rification de la fonctionnalit\u00e9 et des propri\u00e9t\u00e9s de s\u00e9curit\u00e9 de ce code ?<\/p>\nR\u00e9ponse<\/strong> : C’est une question sur laquelle nous avons beaucoup r\u00e9fl\u00e9chi. Il est clair que les entreprises vont beaucoup travailler sur la g\u00e9n\u00e9ration d’un grand nombre de codes. Nous ne sommes pas certains qu’elles g\u00e9n\u00e9reront un code de haute qualit\u00e9 ou qu’elles se soucieront de g\u00e9n\u00e9rer un code de haute qualit\u00e9. Il est clair que g\u00e9n\u00e9rer des preuves de code et g\u00e9n\u00e9rer des sp\u00e9cifications, des sp\u00e9cifications, des codes et des preuves sont des langages qui font tous partie de la panoplie des LLM ; les lier ensemble pourrait \u00eatre difficile. Il est certain qu’il est difficile d’essayer de g\u00e9n\u00e9rer des sp\u00e9cifications, des codes et des preuves qui sont v\u00e9rifi\u00e9s. Je vous recommande de parler au Dr Velasquez et \u00e0 M. Martin. Il y a des tonnes de code sur le web, et beaucoup d’entre eux ne sont pas bons. Je crois qu’une \u00e9tude r\u00e9alis\u00e9e il y a cinq ans par Stack Overflow montre qu’il y a g\u00e9n\u00e9ralement une bonne r\u00e9ponse de s\u00e9curit\u00e9 \u00e0 une question, mais qu’elle est g\u00e9n\u00e9ralement la num\u00e9ro 10. Cela signifie qu’il y a 9 mauvaises r\u00e9ponses avant la bonne r\u00e9ponse.<\/p><\/blockquote>\nUne autre question est abord\u00e9e maintenant, dont j’avais trait\u00e9 dans une vid\u00e9o du 18 d\u00e9cembre 2020 :<\/p>\n
![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2024-04-04-16.32.11-Illustrate-the-military-and-civilian-AI-sector-as-benevolent-giants-in-a-socialist-realist-style-known-for-its-idealized-and-heroic-portrayal-of-work.webp\")
<\/a><\/p>\n