Quel rôle le Ministère de la Défense américain joue-t-il dans le développement des Grands Modèles de Langage ?

Illustration par DALL·E (+ le réalisme socialiste)

Dans un commentaire ici le 29 novembre dernier je posais à GPT-4 la question du financement des Grands Modèles de Langage par le militaire aux États-Unis :

P.J. :

La DARPA a-t-elle joué un rôle important dans le financement de la R&D des Grands Modèles de Langage ?

GPT-4 :

La DARPA (Defense Advanced Research Projects Agency), une agence du ministère de la défense des États-Unis, a joué un rôle important dans le financement de divers projets de recherche avancée, notamment dans le domaine de l’intelligence artificielle et de l’informatique. Toutefois, l’implication directe de la DARPA dans le financement de la R&D concernant spécifiquement les grands modèles de langage (LLM) tels que le GPT-4 est moins claire et n’a pas fait l’objet d’une grande publicité.

Le développement des LLM, y compris ceux de l’OpenAI, a été principalement stimulé par des investissements de sociétés de capital-risque, d’entreprises privées et d’autres sources non gouvernementales. OpenAI elle-même a commencé en tant qu’organisation de recherche à but non lucratif et a ensuite formé une entité à but lucratif plafonné afin d’attirer plus d’investissements pour ses projets ambitieux.

Toutefois, la DARPA a toujours financé la recherche fondamentale dans le domaine de l’intelligence artificielle et de l’apprentissage automatique, ce qui influence indirectement le domaine des LLM. Ces fonds sont souvent consacrés à des recherches plus larges sur l’intelligence artificielle, qui peuvent inclure des aspects du traitement et de la compréhension du langage naturel, mais ils ne sont généralement pas destinés spécifiquement au développement de modèles de langage tels que le GPT-4.

Pour obtenir des détails spécifiques sur l’implication de la DARPA dans la R&D sur les LLM, il faudrait examiner les projets ou programmes spécifiques qu’elle a financés, mais ces informations peuvent ne pas être entièrement accessibles au public en raison de la nature du travail de la DARPA et de sa focalisation sur les applications liées à la défense.

Or on en apprend bien davantage ces jours-ci dans un document intitulé DARPA Information Innovation Office (I2O) Office Wide Proposers Day Q&A, dont j’ai traduit une partie à votre intention *. La DARPA répond là aux questions sur lesquelles GPT-4 n’avait su m’éclairer.

Question : Au cours de l’année écoulée, comment la DARPA et les programmes de la DARPA qui voient le jour restent-ils pertinents face aux progrès rapides de l’IA ? Comment le DARPA conserve-t-il sa pertinence face à un tel rythme ?

Réponse : L’un des domaines est la structure du programme. Le AI Cyber Challenge (AIxCC) est une compétition dans le cadre de laquelle nous nous associons à des entreprises de grands modèles de langage (Anthropic, Google, Microsoft et OpenAI) pour fournir un accès au calcul aux participants à la compétition.

Au fur et à mesure que les capacités se développent, les artistes qui les utilisent sont également en mesure de tirer parti de ces capacités avancées. Il s’agit là d’un modèle. Par ailleurs, nous garderons un œil sur ce qui se passe si la capacité sur laquelle nous travaillons dans le programme devient dépassée, nous arrêterons le programme et le régénérerons ou ferons quelque chose d’autre. Par ailleurs, toutes les frontières ne progressent pas au même rythme. L’apprentissage par renforcement n’avance pas aussi vite que le modèle du transformateur. Le rythme des modèles de frontière ralentit un peu. Une grande partie des résultats que nous observons actuellement consiste à comprendre ce qu’ils font et ce qu’ils ne font pas. Ils n’ont pas encore publié le GPT5. Ils n’ont même pas commencé à former GPT5 en raison du ralentissement de la sortie des H100 dû aux problèmes de production de la Taiwan Semiconductor Manufacturing Company Limited (TSMC). Nous avons donc un peu de répit. Le modèle Gemini, l’intégration de la partie planification dans le LLM, nous ne sommes pas sûrs, nous manquons de transparence, mais il y a de grands problèmes de recherche qui doivent encore être résolus. Entendre les gens dire que nous sommes « juste un peu loin de l’intelligence artificielle générale (AGI) » est un peu plus optimiste que la réalité. Il y a des choses comme le problème de l’arrêt. Il y a encore des choses exponentielles. Nous avons toujours besoin de ressources. Je pense qu’il y aura encore des problèmes très difficiles qui ne seront pas résolus par la mise à l’échelle.

Question complémentaire : Ma question est la suivante : quand vous aurez, peut-être pas l’AGI, mais un système qui aide les humains et toutes les personnes présentes dans cette pièce à progresser si rapidement qu’avant que l’AGI n’arrive, il y aura un apex, et non pas une croissance asymptotique où nous devrons constamment faire face à cela ?

Réponse complémentaire : Nous nous efforçons de ne pas entraver l’action de l’industrie. Nous essayons de résoudre des problèmes et de travailler sur des problèmes que l’industrie ne fera pas demain. Nous ne prévoyons pas de travailler sur des modules linguistiques multimodaux de grande taille, parce qu’ils le feront un jour. Nous n’essayons pas de travailler sur l’intégration de nouvelles informations dans un LLM parce qu’ils vont le faire dès qu’ils le pourront. Nous essayons de travailler sur des choses sur lesquelles ils ne travailleront pas tout de suite. Nous ne l’avons pas encore fait, mais nous pourrions nous intéresser à la sécurité multi-niveaux, car nous pensons que c’est un sujet qui intéresse davantage le DoD que l’industrie. Cela figure peut-être sur la feuille de route de l’industrie, mais dans un avenir plus lointain. Je ne connais pas les bonnes réponses, mais la question de savoir ce qu’ils vont faire et dans quel délai, et ce que nous devrions faire, est quelque chose dont nous parlons tout le temps. Avons-nous des réponses parfaites ? Non, mais nous posons-nous constamment cette question ? Oui.

Question : Vous avez souligné ici aujourd’hui que le code généré par les systèmes d’IA va simplement augmenter en portée et en échelle d’une manière que nous pouvons à peine imaginer ? Quelle est l’importance pour la DARPA de la vérification de la fonctionnalité et des propriétés de sécurité de ce code ?

Réponse : C’est une question sur laquelle nous avons beaucoup réfléchi. Il est clair que les entreprises vont beaucoup travailler sur la génération d’un grand nombre de codes. Nous ne sommes pas certains qu’elles généreront un code de haute qualité ou qu’elles se soucieront de générer un code de haute qualité. Il est clair que générer des preuves de code et générer des spécifications, des spécifications, des codes et des preuves sont des langages qui font tous partie de la panoplie des LLM ; les lier ensemble pourrait être difficile. Il est certain qu’il est difficile d’essayer de générer des spécifications, des codes et des preuves qui sont vérifiés. Je vous recommande de parler au Dr Velasquez et à M. Martin. Il y a des tonnes de code sur le web, et beaucoup d’entre eux ne sont pas bons. Je crois qu’une étude réalisée il y a cinq ans par Stack Overflow montre qu’il y a généralement une bonne réponse de sécurité à une question, mais qu’elle est généralement la numéro 10. Cela signifie qu’il y a 9 mauvaises réponses avant la bonne réponse.

Une autre question est abordée maintenant, dont j’avais traité dans une vidéo du 18 décembre 2020 :

Vidéo dont vous retrouverez la retranscription ici.

J’y disais entre autre ceci :

Et donc, les États-Unis se retrouvent ce matin à savoir … qu’ils ne savent pas où se trouvent des logiciels qui observent tous leurs mouvements, à 18 000 endroits importants pour eux, comme le Ministère des Finances, des firmes qui sont impliquées dans le réseau d’électricité et justement dans la gestion de l’armement nucléaire. Il y a une puissance étrangère, dont je rappelle la liste des suspects et du responsable éventuel : la Russie, la Chine ou les extra-terrestres.

Voici la réponse qui nous est offerte 3 ½ ans plus tard :

Question : Qu’est-ce qui intéresse particulièrement la DARPA ? Quel est l’intérêt particulier de la DARPA pour la protection des réseaux électriques et de leurs systèmes de contrôle industriels ?

Réponse : Il y a quelque temps, la DARPA a lancé le programme RADICS, qui portait précisément sur ce problème. Certains des résultats de ce programme se sont révélés très intéressants. La réponse initiale de l’industrie de l’énergie a été la suivante : « Nous savons parfaitement comment démarrer à froid une centrale électrique. C’est dans nos cordes, nous le faisons tout le temps en cas d’ouragan ou de catastrophe naturelle ». La partie qui n’était pas vraiment dans leurs cordes était de savoir comment faire lorsque les capteurs leur mentent. Ce qui, bien sûr, est tout à fait dans les cordes des attaquants qui s’emparent des données fournies par les capteurs. Je pense donc que le programme a été un succès du point de vue de l’ouverture des yeux de l’industrie de l’énergie sur ce à quoi ressemblerait une cyberattaque. Il a permis de transférer un ensemble d’outils aux opérateurs de réseaux électriques dans tout le pays. Nous n’avons donc pas d’efforts en cours. Il y a encore des choses en cours dans ce domaine. L’approche ou l’effort actuel dans le domaine de l’électricité s’inscrit dans le cadre d’un effort plus large en matière de cyberinfrastructure ou d’infrastructure en général, à savoir l’effort AIxCC qui a été lancé lors de la conférence Black Hat à Las Vegas : « Pouvons-nous utiliser des outils basés sur l’IA pour aider à trouver et suggérer automatiquement des réparations aux logiciels open-source ? Un article publié il y a quelques mois a montré que ChatGPT était à peu près aussi performant que les outils sur mesure pour trouver et suggérer des réparations aux logiciels, mais qu’en outre, la réponse la plus fréquente était « J’ai besoin de plus d’informations ». Avec ChatGPT, vous pouvez demander « Quelles sont les informations supplémentaires que vous souhaiteriez obtenir ? » sous une forme humaine, puis vous pouvez avoir une conversation avec lui et, au cours de cette conversation, il a été en mesure de trouver et de corriger des problèmes importants et d’obtenir davantage d’informations. En tirant parti de ces connaissances, nous avons lancé le AI Cyber Challenge, qui est axé sur les logiciels libres et nous nous sommes associés à l’Open Source Software Foundation pour aider à orienter le concours vers les types de logiciels typiques de ces centrales électriques et d’autres types de logiciels d’infrastructure, afin qu’ils soient adaptés à ces types de défis et qu’ils puissent être intégrés dans les processus d’acceptation, de sorte que les humains puissent ensuite approuver les changements suggérés et publier le logiciel. D’une certaine manière, il s’agit d’une réponse au témoignage d’Avril Haines : que se passerait-il si nous devions trouver et corriger des bogues à grande échelle très très rapidement ?

Réponse de Sergey Bratus : Nous sommes donc engagés auprès du National Renewable Energy Laboratory (NREL). Il s’agit pour lui de répondre à la vision « Net 0 » d’ici 2050. Cela signifie pour eux qu’ils ont besoin de micro-réseaux qui communiquent de manière fiable et sécurisée à une échelle que personne n’a jamais atteinte auparavant. Ils étudient les méthodes formelles et les moyens rapides de réparer les logiciels existants dans cette optique.

Bonus :

Question : Dans quelle mesure la DARPA envisage-t-elle sérieusement la possibilité que des logiciels soient développés par l’IA ?

Réponse : La DARPA a une position sur le sujet. Mon opinion est qu’il s’agira d’un outil qui aidera les gens à écrire des logiciels plus rapidement. En particulier les logiciels de base ennuyeux, mais il n’automatisera pas le processus. Je ne pense pas que les personnes qui écrivent du bon code se retrouveront au chômage dans un avenir proche. Je suis peut-être trop optimiste, mais cela me semble inconcevable. Je pense que l’IA écrira de toute façon, dans un avenir proche, une grande partie des logiciels de base, comme les frameworks ou autres, le code que tout le monde déteste écrire.

Conclusion :

Sachant que la DARPA a financé la mise au point du système GPS et est un des principaux financiers de l’invention de l’Internet, diriez-vous que les firmes sus-mentionnées (Anthropic, Google, Microsoft et OpenAI) ne sont que les sous-traitants du Ministère de la Défense américain ?

Question subsidiaire : La situation est-elle exactement la même dans chacun des pays ayant un secteur informatique de pointe ou y a-t-il de petites variations locales ?

* Document longuement commenté par Wes Roth Il y a 3 jours (1er avril)

Illustration par DALL·E (+ le réalisme socialiste)

Partager :

67 réponses à “Quel rôle le Ministère de la Défense américain joue-t-il dans le développement des Grands Modèles de Langage ?

  1. Avatar de Didier Combes
    Didier Combes

    Ce billet va aider, il faut l’espérer, Cedric Ho à comprendre ce qu’il n’avait pas voulu entendre (par mesquinerie selon moi) lors de la conférence à la cnil.

    1. Avatar de Khanard
      Khanard

      @Didier Combes

      ô rage, ô désespoir que n’ai je vécu pour vivre une telle infamie !

      même si le personnage est exécrable ce n’est pas une raison pour massacrer son nom

  2. Avatar de l'arsène
    l’arsène

    « Quel rôle le Ministère de la Défense américain joue-t-il dans le développement des Grands Modèles de Langage ? »
    La question beaucoup plus incisive aurait été : quel rôle l’IA pourra-t-il jouer pour détruire tout pays qui s’oppose à notre Empire .

    1. Avatar de Paul Jorion

      J’essaie d’établir ici un débat entre personnes disposant encore de la capacité à débattre. Les sites ouverts aux autres sont nombreux et certainement plus hauts en couleur. Vous seriez peut-être plus heureux là-bas. Vous y cotoîeriez de nombreux « centristes » comme vous et comme le commentateur Mango ici, qui ne m’en voudra pas de le chambrer un peu 😉 .

      1. Avatar de l'arsène
        l’arsène

        @ PJ
        « Vous y cotoîeriez de nombreux « centristes » comme vous »
        Je constate que vous ne m’avez pas bien situé sur votre échelle.
        J’appartiens depuis toujours à ce que l’on nomme  » la gauche radicale », issue de la Commune, strictement rien à voir avec le centrisme, ce sous marin du bloc bourgeois et de la droite néolibérale depuis des décennies.

        1. Avatar de l'arsène
          l’arsène

          Juste une question : pourquoi ma réponse à Konrad sur un autre fil, postée il y a plus de quatre heures, a été éjectée, Akismet ou pas, en fait un commentaire sur deux passe à la trappe.

          1. Avatar de Arnaud Castex
            Arnaud Castex

            Arf c’est sûrement « l’empire » qui est responsable de cet odieux bâillon qu’on t’impose camarade centriste ! Tu ne devrais pas être surpris.

  3. Avatar de Didier Combes
    Didier Combes

    Merci @Khanard. Je voulais écrire Cedric O.

  4. Avatar de Khanard
    Khanard

    @Didier Combes

    si je peux rendre service c’est avec plaisir

    1. Avatar de Pad
      Pad

      FEUILLE D’INFORMATION : Le président Biden émet un décret sur l’intelligence artificielle sûre, sécurisée et digne de confiance

      Aujourd’hui, le président Biden émet un décret historique pour garantir que l’Amérique soit à l’avant-garde de la saisie des promesses et de la gestion des risques de l’intelligence artificielle (IA). Le décret établit de nouvelles normes pour la sécurité et la sûreté de l’IA, protège la vie privée des Américains, favorise l’équité et les droits civils, défend les consommateurs et les travailleurs, promeut l’innovation et la concurrence, avance le leadership américain dans le monde, et plus encore.

      Dans le cadre de la stratégie globale de l’administration Biden-Harris pour l’innovation responsable, le décret s’appuie sur les actions précédentes du président, y compris le travail qui a conduit à des engagements volontaires de 15 entreprises leaders pour promouvoir le développement sûr, sécurisé et digne de confiance de l’IA.

      Le décret ordonne les actions suivantes :

      Nouvelles normes pour la sécurité et la sûreté de l’IA

      À mesure que les capacités de l’IA se développent, ses implications pour la sécurité et la sûreté des Américains le font également. Avec ce décret, le président ordonne les actions les plus vastes jamais entreprises pour protéger les Américains des risques potentiels des systèmes d’IA :

      Exiger que les développeurs des systèmes d’IA les plus puissants partagent leurs résultats de tests de sécurité et d’autres informations cruciales avec le gouvernement des États-Unis. Conformément à la loi sur la production de défense, l’ordonnance exigera que les entreprises développant tout modèle de base qui pose un risque sérieux pour la sécurité nationale, la sécurité économique nationale ou la santé publique et la sécurité nationales doivent notifier le gouvernement fédéral lors de la formation du modèle, et doivent partager les résultats de tous les tests de sécurité par équipe rouge. Ces mesures garantiront que les systèmes d’IA soient sûrs, sécurisés et dignes de confiance avant que les entreprises ne les rendent publics.

      Développer des normes, des outils et des tests pour aider à garantir que les systèmes d’IA soient sûrs, sécurisés et dignes de confiance. Le National Institute of Standards and Technology établira les normes rigoureuses pour les tests étendus par équipe rouge pour garantir la sécurité avant la publication publique. Le Département de la Sécurité Intérieure appliquera ces normes aux secteurs des infrastructures critiques et établira le conseil de sécurité et sûreté de l’IA. Les départements de l’Énergie et de la Sécurité Intérieure aborderont également les menaces des systèmes d’IA pour les infrastructures critiques, ainsi que les risques chimiques, biologiques, radiologiques, nucléaires et de cybersécurité. Ensemble, ce sont les actions les plus significatives jamais prises par un gouvernement pour faire avancer le domaine de la sécurité de l’IA.

      Protéger contre les risques d’utilisation de l’IA pour concevoir des matériaux biologiques dangereux en développant de nouvelles normes solides pour le criblage de synthèse biologique. Les agences qui financent des projets en sciences de la vie établiront ces normes comme condition de financement fédéral, créant de puissants incitatifs pour garantir un criblage approprié et gérer les risques potentiellement aggravés par l’IA.

      Protéger les Américains contre la fraude et la tromperie activées par l’IA en établissant des normes et des meilleures pratiques pour détecter le contenu généré par l’IA et authentifier le contenu officiel. Le Département du Commerce développera des directives pour l’authentification du contenu et le marquage afin d’étiqueter clairement le contenu généré par l’IA. Les agences fédérales utiliseront ces outils pour faciliter la reconnaissance par les Américains que les communications qu’ils reçoivent de leur gouvernement sont authentiques et serviront d’exemple pour le secteur privé et les gouvernements du monde entier.

      Établir un programme de cybersécurité avancé de cybersécurité pour développer des outils d’IA afin de trouver et de corriger les vulnérabilités dans les logiciels critiques, en s’appuyant sur le défi de cybersécurité en IA en cours de l’administration Biden-Harris. Ensemble, ces efforts exploiteront les capacités cyber potentiellement révolutionnaires de l’IA pour rendre les logiciels et les réseaux plus sécurisés.

      Ordonner le développement d’un mémorandum sur la sécurité nationale qui dirige d’autres actions sur l’IA et la sécurité, à développer par le Conseil de sécurité nationale et le chef de cabinet de la Maison Blanche. Ce document garantira que l’armée et la communauté du renseignement des États-Unis utilisent l’IA de manière sûre, éthique et efficace dans leurs missions, et dirigera des actions pour contrer l’utilisation militaire de l’IA par les adversaires.

      Protection de la vie privée des Américains

      Sans protections, l’IA peut mettre davantage en risque la vie privée des Américains. L’IA rend non seulement plus facile l’extraction, l’identification et l’exploitation des données personnelles, mais augmente également les incitations à le faire parce que les entreprises utilisent des données pour entraîner les systèmes d’IA. Pour mieux protéger la vie privée des Américains, y compris contre les risques posés par l’IA, le président appelle le Congrès à adopter une législation bipartite sur la vie privée des données pour protéger tous les Américains, en particulier les enfants, et dirige les actions suivantes :

      Protéger la vie privée des Américains en donnant la priorité au soutien fédéral pour accélérer le développement et l’utilisation de techniques préservant la vie privée, y compris celles qui utilisent l’IA de pointe et qui permettent à l’IA d’être formée tout en préservant la vie privée des données d’entraînement.

      Renforcer la recherche et les technologies préservant la vie privée, telles que les outils cryptographiques qui préservent la vie privée des individus, en finançant un réseau de coordination de la recherche pour faire progresser les percées rapides et le développement. La National Science Foundation travaillera également avec ce réseau pour promouvoir l’adoption de technologies de pointe préservant la vie privée par les agences fédérales.

      Évaluer comment les agences collectent et utilisent des informations disponibles commercialement, y compris des informations qu’elles acquièrent auprès des courtiers de données, et renforcer les directives de confidentialité pour les agences fédérales pour tenir compte des risques de l’IA. Ce travail se concentrera en particulier sur les informations disponibles commercialement contenant des données personnellement identifiables.

      Développer des directives pour les agences fédérales pour évaluer l’efficacité des techniques préservant la vie privée, y compris celles utilisées dans les systèmes d’IA. Ces directives feront avancer les efforts des agences pour protéger les données des Américains.

      Avancement de l’équité et des droits civils

      Les utilisations irresponsables de l’IA peuvent conduire et approfondir la discrimination, les biais et d’autres abus dans la justice, la santé et le logement. L’administration Biden-Harris a déjà agi en publiant le plan directeur pour une charte des droits de l’IA et en émettant un décret ordonnant aux agences de lutter contre la discrimination algorithmique, tout en faisant respecter les autorités existantes pour protéger les droits et la sécurité des personnes. Pour garantir que l’IA favorise l’équité et les droits civils, le président dirige les actions supplémentaires suivantes :

      Fournir des directives claires aux propriétaires, aux programmes de prestations fédérales et aux entrepreneurs fédéraux pour empêcher les algorithmes d’IA d’être utilisés pour exacerber la discrimination.

      Lutter contre la discrimination algorithmique par la formation, l’assistance technique et la coordination entre le Département de la Justice et les bureaux des droits civiques fédéraux sur les meilleures pratiques pour enquêter et poursuivre les violations des droits civils liées à l’IA.

      Assurer l’équité dans tout le système

      je de la justice pénale en développant les meilleures pratiques pour l’utilisation de l’IA dans la condamnation, la libération conditionnelle et la probation, la libération et la détention préalables au procès, les évaluations des risques, la surveillance, la prévision des crimes et la police prédictive, et l’analyse médico-légale.

      Défense des consommateurs, patients et étudiants

      L’IA peut apporter de réels avantages aux consommateurs, par exemple, en rendant les produits meilleurs, moins chers et plus largement disponibles. Mais l’IA soulève également le risque de blesser, d’induire en erreur ou de nuire autrement aux Américains. Pour protéger les consommateurs tout en garantissant que l’IA peut rendre les Américains mieux lotis, le président dirige les actions suivantes :

      Avancer l’utilisation responsable de l’IA dans les soins de santé et le développement de médicaments abordables et salvateurs. Le Département de la Santé et des Services Humains établira également un programme de sécurité pour recevoir des rapports sur les préjudices ou les pratiques de soins de santé dangereuses impliquant l’IA et agir pour y remédier.

      Façonner le potentiel de l’IA pour transformer l’éducation en créant des ressources pour soutenir les éducateurs déployant des outils éducatifs activés par l’IA, tels que le tutorat personnalisé dans les écoles.

      Soutien aux travailleurs

      L’IA change les emplois et les lieux de travail en Amérique, offrant à la fois la promesse d’une productivité améliorée mais aussi les dangers d’une surveillance accrue sur le lieu de travail, des biais et du déplacement d’emplois. Pour atténuer ces risques, soutenir la capacité des travailleurs à négocier collectivement et investir dans la formation et le développement de la main-d’œuvre accessibles à tous, le président dirige les actions suivantes :

      Développer des principes et des meilleures pratiques pour atténuer les préjudices et maximiser les avantages de l’IA pour les travailleurs en abordant le déplacement d’emplois; les normes de travail; l’équité, la santé et la sécurité sur le lieu de travail; et la collecte de données. Ces principes et meilleures pratiques bénéficieront aux travailleurs en fournissant des orientations pour empêcher les employeurs de sous-compenser les travailleurs, d’évaluer injustement les candidatures d’emploi ou d’entraver la capacité des travailleurs à s’organiser.

      Produire un rapport sur les impacts potentiels de l’IA sur le marché du travail, et étudier et identifier les options pour renforcer le soutien fédéral aux travailleurs confrontés à des perturbations du travail, y compris à cause de l’IA.

      Promotion de l’innovation et de la concurrence

      L’Amérique mène déjà en matière d’innovation en IA – plus de startups en IA ont levé du capital pour la première fois aux États-Unis l’année dernière que dans les sept pays suivants combinés. Le décret garantit que nous continuons à mener la voie en matière d’innovation et de concurrence à travers les actions suivantes :

      Catalyser la recherche en IA à travers les États-Unis grâce à un pilote de la Ressource nationale de recherche en IA – un outil qui fournira aux chercheurs et étudiants en IA un accès clé aux ressources et données en IA – et des subventions élargies pour la recherche en IA dans des domaines vitaux comme les soins de santé et le changement climatique.

      Promouvoir un écosystème d’IA juste, ouvert et compétitif en fournissant aux petits développeurs et entrepreneurs un accès à l’assistance technique et aux ressources, en aidant les petites entreprises à commercialiser les percées en IA, et en encourageant la Commission fédérale du commerce à exercer ses autorités.

      Utiliser les autorités existantes pour élargir la capacité des immigrants hautement qualifiés et des non-immigrants possédant une expertise dans des domaines critiques à étudier, rester et travailler aux États-Unis en modernisant et en rationalisant les critères de visa, les entretiens et les examens.

      Avancer le leadership américain à l’étranger

      Les défis et opportunités de l’IA sont mondiaux. L’administration Biden-Harris continuera de travailler avec d’autres nations pour soutenir le déploiement et l’utilisation sûrs, sécurisés et dignes de confiance de l’IA à l’échelle mondiale. À cette fin, le président dirige les actions suivantes :

      Élargir les engagements bilatéraux, multilatéraux et multipartites pour collaborer sur l’IA. Le Département d’État, en collaboration avec le Département du Commerce, dirigera un effort pour établir des cadres internationaux robustes pour exploiter les avantages de l’IA et gérer ses risques tout en garantissant la sécurité. De plus, cette semaine, la vice-présidente Harris prendra la parole au Sommet sur la sécurité de l’IA au Royaume-Uni, organisé par le Premier ministre Rishi Sunak.

      Accélérer le développement et la mise en œuvre de normes essentielles pour l’IA avec des partenaires internationaux et dans les organisations de normalisation, en garantissant que la technologie soit sûre, sécurisée, digne de confiance et interopérable.

      Promouvoir le développement et le déploiement responsables et respectueux des droits de l’IA à l’étranger pour résoudre les défis mondiaux, tels que l’avancement du développement durable et l’atténuation des dangers pour les infrastructures critiques.

      Assurer une utilisation responsable et efficace de l’IA par le gouvernement

      L’IA peut aider le gouvernement à fournir de meilleurs résultats pour le peuple américain. Elle peut élargir la capacité des agences à réguler, gouverner et distribuer des avantages, et elle peut réduire les coûts et renforcer la sécurité des systèmes gouvernementaux. Cependant, l’utilisation de l’IA peut poser des risques, tels que la discrimination et des décisions dangereuses. Pour garantir le déploiement responsable de l’IA par le gouvernement et moderniser l’infrastructure fédérale en IA, le président dirige les actions suivantes :

      Publier des directives pour l’utilisation de l’IA par les agences, y compris des normes claires pour protéger les droits et la sécurité, améliorer l’acquisition d’IA et renforcer le déploiement de l’IA.

      Aider les agences à acquérir des produits et services spécifiés en IA plus rapidement, moins cher et plus efficacement grâce à des contrats plus rapides et plus efficaces.

      Accélérer l’embauche rapide de professionnels de l’IA dans le cadre d’une poussée de talents en IA à l’échelle du gouvernement dirigée par l’Office of Personnel Management, le U.S. Digital Service, le U.S. Digital Corps et le Presidential Innovation Fellowship. Les agences fourniront une formation en IA aux employés de tous les niveaux dans les domaines pertinents.

      En faisant avancer cet agenda à domicile, l’administration travaillera avec des alliés et des partenaires à l’étranger sur un cadre international solide pour gouverner le développement et l’utilisation de l’IA. L’administration a déjà largement consulté sur les cadres de gouvernance de l’IA au cours des derniers mois – engageant avec l’Australie, le Brésil, le Canada, le Chili, l’Union Européenne, la France, l’Allemagne, l’Inde, Israël, l’Italie, le Japon, le Kenya, le Mexique, les Pays-Bas, la Nouvelle-Zélande, le Nigéria, les Philippines, Singapour, la Corée du Sud, les Émirats Arabes Unis et le Royaume-Uni. Les actions entreprises aujourd’hui soutiennent et complètent le leadership du Japon dans le processus d’Hiroshima du G-7, le Sommet sur la sécurité de l’IA au Royaume-Uni, le leadership de l’Inde en tant que président du Partenariat mondial sur l’IA et les discussions en cours aux Nations Unies.

      Les actions dirigées aujourd’hui par le président Biden sont des étapes vitales en avant dans l’approche des États-Unis sur l’IA sûre, sécurisée et digne de confiance. D’autres actions seront nécessaires, et l’administration continuera de travailler avec le Congrès pour poursuivre une législation bipartite pour aider l’Amérique à mener la voie de l’innovation responsable.

      Pour plus d’informations sur le travail de l’administration Biden-Harris pour faire avancer l’IA, et pour les opportunités de rejoindre la main-d’œuvre fédérale en IA, visitez AI.gov.

      1. Avatar de Khanard
        Khanard

        @Pad

        dans le même esprit :

        https://aipolicyus.substack.com/

        pas fous ces ricains !

        où est l’Europe dans tout ça ?

      2. Avatar de Grand-mère Michelle
        Grand-mère Michelle

        Merci infiniment d’avoir posté, en français, cette « feuille d’information ».
        Questions préliminaires: Qui (IA ou être humain?) l’a écrite? éditée? Traduite? À quelle date? (« Aujourd’hui… »)

        À noter que tout texte livré sur « la toile » nécessite ces précisions pour devenir digne de crédibilité… et un instrument de compréhension et de participation à la réflexion pour le « grand-public » qu’il concerne.

        1. Avatar de Paul Jorion

          Toutes les informations que vous réclamez sont clairement mentionnées. Vous avez un peu tendance à vous plaindre plus vite que votre ombre.

  5. Avatar de gaston
    gaston

    En la matière, travailler pour l’armée à l’insu de son plein gré, vous nous en avez fait le récit de votre expérience passée. La question des relations entre les chercheurs civils et les militaires est des plus passionnante et merci de nous avoir rapporté votre dialogue avec la DARPA.

    Cependant les réponses de cette agence nous laissent un peu sur notre faim, même s’il ne fallait pas s’attendre à quelques scoops, elle reste très prudente, secret défense oblige. On a l’impression un peu de lire le magazine JDEF de l’armée française.

    Bien sûr, il ne fallait pas s’attendre à ce qu’elle nous parle de Q*, alors que beaucoup sont persuadés, vous comme Wes Roth, qu’à ce sujet Sam A. nous ment.

    Rien non-plus sur le financement du superordinateur de Open AI à 100 milliards de $, ni sur la nécessité de trouver sa source d’énergie.

    https://www.lesnumeriques.com/intelligence-artificielle/le-futur-superordinateur-de-microsoft-et-d-openai-coutera-100-milliards-de-dollars-et-fonctionnera-a-l-energie-nucleaire-n220407.html

    Donc beaucoup de généralité, mais peu de factuel. Patientons.

  6. Avatar de Chabian
    Chabian

    (J’avais posté ceci dans le dernier billet sur l’IA. Mais il a toute sa place ici, pour pour les applications de l’IA dans le domaine militaire. Comme a commenté le célèbre journaliste de Haaretz sur la BBC (je résume la vidéo) : qu’est-ce qu’un enquête approfondie nous dira sur ce meurtre ? Le nom de celui qui a donné l’ordre de tirer ? Cette voiture était parfaitement identifiée par un signe sur toute la toiture et sur chaque face et a été donc suivie et identifiée par nos moyens de tir. Le crime est indéniable, mais si rien ne change, dans deux jours il sera oublié…).
    IA : nouvelle du jour !
    Une nouvelle enquête menée par +972 Magazine et Local Call révèle que l’armée israélienne a mis au point un programme basé sur l’intelligence artificielle (IA), connu sous le nom de « Lavender », dévoilé ici pour la première fois.
    Selon six officiers du renseignement israélien, qui ont tous servi dans l’armée pendant la guerre actuelle contre la bande de Gaza et ont été directement impliqués dans l’utilisation de l’intelligence artificielle pour générer des cibles à assassiner, Lavender a joué un rôle central dans le bombardement sans précédent des Palestiniens, en particulier pendant les premières phases de la guerre. En fait, selon ces sources, son influence sur les opérations militaires était telle qu’elles traitaient les résultats de la machine d’IA « comme s’il s’agissait de décisions humaines ».
    20 secondes pour autoriser un bombardement
    Vu sur FB (aurait paru dans l’Humanité de ce matin ?)

    1. Avatar de Ruiz
      Ruiz

      @Chabian Netanyaou s’est excusé et a missioné une commission d’enquète comme Poutine, parce qu’il ne pouvait faire autrement pour des raisons de gestion de l’opinion publique, surtout internationale.
      Dans les faits le résultat de ces 3 tirs réussis est que l’organisation étrangère en question qui était allé jusqu’à établir un quai de déchargement de fortune pour débarquer des ressources alimentaires venant de Chypre à destination des populations en état de siège se retire de Gaza et arrête ses interventions, ainsi que d’autres organisations analogues.
      Point n’est besoin d’être une intelligence artificielle pour aboutir à de telles optimisations de décision dans un combat d’éradication du Hamas, sauf pour détourner la responsabilité apparente et fuir comme dans la constitution d’un gouvernement d’unité nationale pour de telles opérations militaires spéciales , le bras de la justice..

      1. Avatar de Paul Jorion

        « Aucune portion de décisions de vie ou de mort qui ont un impact sur des familles entières ne devrait être déléguée au calcul froid d’algorithmes »

        Réveillez-vous M. Guterres, ce n’est pas l’IA qui tue à Gaza, c’est le monde d’aujourd’hui et son oblitération de l’autre + plus notre aimable prédisposition à voter en notre âme et conscience pour des Netanyahu et consorts + notre incapacité à tous à constituer davantage que le bruit de fond inaudible de l’histoire de notre planète !

        1. Avatar de Chabian
          Chabian

          Paul, je rapproche ce commentaire d’un extrait de votre billet précédent sur « la gôche » : « l’ennemi pourtant clairement identifié depuis cent cinquante ans (= la logique du profit… dont nul n’ignore que le montant duquel n’est pas plafonné). Nous ne pouvons pas nous plaindre, nous ne méritons aucune commisération : nous sommes nuls et l’Histoire est cruellement en train de l’entériner. »
          Je vous sens nous enfermer, nous toute l’humanité, dans un hors-temps fait d’idiotie et d’inconscience, d’inertie (ou soumission) électorale d’oblitération de l’autre. Et par ailleurs que la Planète aurait une histoire, dont nous ne serions que « la fureur et le bruit ».
          Il y a de l’excès dans ces mots, à mon humble avis ! Excès de désespoir et d’abandon, cet appel au réveil pour un constat très noir. Excès d’enfermement que ce « Nous » sans nuance que j’avais relevé, et cette négation (?) de l’Histoire.
          Je tiens de mon côté (illusion ?) à voir des forces qui interagissent dans l’histoire, et dont on peut lire le jeu, les défaites et les illusions.
          Je trouve ce billet sur l’IA et l’Etat (armée) et les échanges très intéressants. Mais ils sont justement traversés par un jeu de forces, pour se protéger, pour attaquer, pour perturber, etc.
          J’ai suivi avant-hier un débat sur la fiscalité, instructif. La lutte contre la grande fraude est urgente (dont aussi les truands transfrontaliers selon les nouvelles d’Interpol d’aujourd’hui). C’est aussi désespérant à entendre, quand on part d’un point de vue de justice fiscale. Mais pour retrouver la force émeutière du peuple qui a faim, qui a la colère contre la guerre, qui ne respecte plus « l’ordre ancien », il faut regarder ailleurs qu’en Occident, et donc sortir d’un « Nous ».
          Mais il faut dénoncer la force aveugle de l’Occident, dont ses moyens en IA militaire.

          1. Avatar de aslan
            aslan

            « On est pas vaincu tant qu’on a pas accepté la défaite » disait Louise Michel.

            Même si Assange et ses compéres ont fini écrasés par le pouvoir, les technos-libertaires ont eu un impact important.

            Après les Cypher Punks il faut espérer un mouvement semblable dans l’IA. Plus difficile compte tenu de la barriére computationelle actuelle (a priori il faut déjà des machines à 5-10K€ pour faire fine-tuner des LLM de 7Go) mais pas impossible.

            A quand une task-force IA démocratique au sens où le détestaient la plupart des constituants de notre révolution ?

            1. Avatar de Ruiz
              Ruiz

              @aslan C’est à dire 1/5 du prix d’une voiture, pas très différend du prix d’un Apple II du début de la micro informatique individuelle avant le PC ..

      2. Avatar de Pad
        Pad

        Avec toute la patience et la bienveillance de GPT4

        Pour que l’IA nous « sauve de nous-mêmes », il est crucial de naviguer avec prudence, en mettant en place des garde-fous éthiques et en veillant à ce que les bénéfices de l’IA soient distribués équitablement. Cela implique de réguler et de guider le développement de l’IA pour qu’elle serve l’intérêt commun, d’encourager la transparence et la responsabilité, et de veiller à ce que les systèmes d’IA soient conçus de manière inclusive, en tenant compte des divers besoins et perspectives.

        C’est une entreprise ambitieuse qui nécessite la collaboration entre gouvernements, industries, académies, et la société civile. Quels aspects de l’utilisation de l’IA pour le bien commun vous intéressent le plus ?

  7. Avatar de Ruiz
    Ruiz

    Pour avoir une vue de la DARPA de ses motivations, de la gestion de ses programmes par un insider.
    https://www.csis.org/analysis/darpa-perspective-ai-and-autonomy-dod

    1. Avatar de Pad
      Pad

      GPT4

      Voici les points clés de la conversation entre Gregory Allen et Dr. Matt Turek au CSIS concernant l’IA et l’autonomie chez DARPA :

      Background de Dr. Matt Turek : Une expérience riche allant des systèmes médicaux à la recherche en vision par ordinateur, aboutissant à son rôle actuel chez DARPA où il contribue au développement de technologies AI et d’autonomie pour des applications militaires.

      Rôle et objectifs de DARPA : DARPA vise à prévenir et créer des surprises stratégiques grâce à des investissements disruptifs dans la technologie, notamment en IA et en autonomie. L’agence travaille à développer une IA fiable sur laquelle on peut parier sa vie sans que cela soit insensé.

      Collaboration avec l’industrie et autres entités du DOD : DARPA collabore avec l’industrie (y compris des géants de l’IA comme Google, Microsoft, OpenAI, et Anthropic) et d’autres départements de la défense pour pousser les frontières de l’IA et de l’autonomie, tout en cherchant des moyens de transitionner ces technologies vers des applications pratiques.

      Défis de l’IA et de l’autonomie : Les défis incluent le développement d’algorithmes explicables et fiables, la défense contre les attaques adverses sur les systèmes d’IA, et l’assurance que les technologies autonomes peuvent être utilisées de manière sûre et éthique.

      Programmes notables de DARPA :

      Media Forensics (MediFor) et Semantic Forensics (SemaFor) : Ces programmes visent à détecter et attribuer des contenus médiatiques manipulés ou générés par IA pour lutter contre la désinformation.

      AI Cyber Challenge : Un concours visant à utiliser l’IA pour identifier et réparer automatiquement les vulnérabilités dans les logiciels, en collaboration avec des leaders de l’industrie de l’IA.

      Assured Autonomy : Programme visant à créer des systèmes autonomes dont les actions peuvent être prédites et assurées à l’avance.

      ACE et AIR : Projets axés sur le développement d’autonomie dans les applications de combat aérien, montrant des progrès significatifs dans la capacité des IA à piloter des avions de combat dans des simulations et des tests réels.

      L’avenir de l’IA et de l’autonomie chez DARPA : DARPA continuera d’explorer des technologies avancées pour renforcer la sécurité nationale, en mettant un accent particulier sur la fiabilité, l’explicabilité et la collaboration homme-machine. Les investissements futurs seront adaptés aux besoins uniques de la défense, tout en tenant compte des développements de l’industrie.

      Cette conversation met en lumière l’engagement continu de DARPA dans l’avancement de l’IA et de l’autonomie, avec une attention particulière à l’innovation responsable et à la collaboration entre le gouvernement, l’industrie et le milieu académique.

      1. Avatar de Ruiz
        Ruiz

        @Pad Merci pour cette synthèse. Que va-t-on pouvoir demander à un jeune stagiaire lisant l’anglais, pour occuper sa demi-journée, montrer ses capacités et épargner à son chef une opération chronophage ?
        La lecture du texte original, laisse cependant transparaître les incertitudes du domaine, pour un praticien, ce que la tonalité générale (optimiste) de GPT gomme un peu.
        Le développement rapide de l’IA (neuronale) pour ce témoin de la Darpa remonterait à 2012 dans le domaine du traitement de la vision, et ce n’est que postérieurement que les mêmes mécanismes auraient été transposés aux textes avec le résultat actuel que l’on sait.
        En particulier de grands progrès auraient été obtenus en mettant des IA en face d’elles-mêmes.
        La Darpa vise (et c’est ce qui lui permets d’obtenir des crédits) à couvrir les questions relevant du militaire (et de la défense en général) qui ne seraient pas assez rapidement traitées par le secteur commercial.
        A ce titre et comme pour le jeux d’échec, ou de Go, les expérimentations au jeu du dog-fight entre pilotes de chasseurs semble avoir été résolu de la même façon.
        Pour ce qui est de la prise en compte de l’incertitude informationelle il est intéressant de noter que la structure de gestion de programme de la Darpa l’a initiée il y a plusieurs années avant l’évidence médiatique actuelle, qui touche nos décideurs politiques.

        1. Avatar de Pad
          Pad

          « Que va-t-on pouvoir demander à un jeune stagiaire lisant l’anglais, pour occuper sa demi-journée, montrer ses capacités et épargner à son chef une opération chronophage ? »
          S’atteler aux modalités de la distribution de la taxe Robot 😉

  8. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    « Il y a des choses comme le problème de l’arrêt. »

    Cela a un rapport je suppose avec l’idée d’Alan Turing selon laquelle il n’existe pas de programme pour déterminer si un programme avec son entrée terminera ou non son exécution.

    Turing en concluant que le problème de l’arrêt est indécidable avait posé la base théorique de sa machine dite de Turing qui ne fonctionne qu’en vertu du principe qu’elle n’admet que du calculable. Se faisant il théorisait également la distinction nécessaire entre software et hardware (En passant, il est question de Gödel, lire en lien la notice wikipédia.) inventant la notion d’algorithme.

    Se demandent-ils par exemple au DARPA quelles seraient les conséquences de l’abolition de la distinction entre logiciel (software) et matériel informatique (hardware) consécutif à la possibilité pour une machine intelligente artificielle de se (re)programmer toute seule ?

    Avec l’IA les limites de la calculabilité sont repoussées, dans ce cas quel intérêt représente le problème de l’arrêt pour le DARPA ?

    https://fr.wikipedia.org/wiki/Problème_de_l%27arrêt

    1. Avatar de BasicRabbit en psychanalyse
      BasicRabbit en psychanalyse

      @PYD

       » Le logicien français Jean-Louis Krivine (*) a fait le rapport entre différents théorèmes mathématiques et les programmes informatiques qu’ils représentent :

      – l’absurde (appelé « bottom » : ⊥ ) correspond à une instruction d’échappement, d’exception, ou à un programme qui ne finit pas (un terme non typable dans le lambda-calcul simplement typé) ;
      – le théorème d’incomplétude de Gödel qui dit qu’il y a des propositions qui sont indécidables correspond à un programme de réparation de fichiers[réf. nécessaire] ;
      – le théorème de complétude de Gödel correspond lui à un désassembleur interactif de programmes.  »

      https://fr.wikipedia.org/wiki/Correspondance_de_Curry-Howard

      (*) Mon directeur de thèse, il y a maintenant plus d’un demi-siècle, mais je ne connais quasiment rien au sujet ( mon sujet de thèse concernait la théorie des ensembles)

    2. Avatar de Ruiz
      Ruiz

      @Pierre-Yves Dambrine Il y a sans doute une différence entre programme et données, bien que ce soit en partie un problème de point de vue, notamment pour une machine de Turing, et cette frontière devient plus floue avec la génération de programme par l’IA, mais il ne semble pas que cela touche la différence entre quincaille et mentaille, cette dernière restant l’âme éthérée symbolique qui régit parfois et subsiste sur la première qui seule consiste en matière et énergie.

    3. Avatar de BasicRabbit en psychanalyse
      BasicRabbit en psychanalyse

      @PYD

      PSI, chapitre XI : « En fait, les dynamiques de « pertinence » et d’« affect » apparaîtront sous la forme très simple d’un compteur. Le principe des choix opérés aux bifurcations ne sera rien d’autre que des bilans énergétiques visant à la relaxation du système par la tendance vers un minimum. L’approche permet ainsi d’éviter l’intervention de toute considération d’ordre métaphysique, pour se cantonner dans un univers de modélisation proprement physique. En fait, envisagé dans cette optique, un système intelligent se conduit très exactement comme un être humain, puisqu’il s’arrête de parler tout comme nous-mêmes : quand il n’a plus rien à dire. »

      Il faut bien en effet un moment où la performance bloque la compétence, pulsion de mort oblige.

      En tout cas pour qui veut lutter contre la mort, bien sûr, ce qui n’est pas le cas du matheux qui, de ce point de vue, joue constamment avec la mort : 1+1+1+1+1+…. dans l’espoir de tomber sur une structure moins inintéressante. Il y en a qui sont allés jusqu’aux grands cardinaux pour y arriver !

      Voir https://doczz.fr/doc/3007540/a-quoi-sert-l-infini-en-math%C3%A9matiques

  9. Avatar de Régis Pasquet
    Régis Pasquet

    Quel rôle le Ministère de la Défense américain joue-t-il dans le développement des Grands Modèles de Langage ?

    Il est nécessaire de préciser que pour le capitalisme, les armées sont l’assurance de sa pérennité, les inspirateurs des laboratoires de Recherches et de Développement, les donneurs d’ordre, les contrôleurs, les pilleurs de ressources sans souci de l’intérêt général, les créateurs d’emplois, des gaspilleurs générateurs de déchets considérables et souvent éternels. L’essentiel des activités économiques et financières sur la planète lui sont redevables. Comme de l’usage largement répandue de la langue anglaise au nom de la facilitation des échanges commerciaux et l’orientation des pratiques et des contenus pédagogiques. Comme la dégradation définitive de l’environnement et la baisse de la biodiversité.

    Arrête provisoire…

  10. Avatar de PHILGILL
    PHILGILL

    Le film « Le Monde après nous », réalisé par Sam Esmail, produit par Michelle & Barack Obama (librement adapté du best-seller d’anticipation « Leave the World Behind » de Rumaan Alam), nous alerte sur les dangers d’une cyberattaque de grande ampleur qui provoquerait une gigantesque panne d’électricité, pouvant aboutir à la fin du monde. Cependant, Sam Esmail a déclaré : « Je n’ai jamais voulu raconter une histoire sur les dangers de la technologie, mais leur impact sur les relations humaines, la façon dont on est hyperconnectés et paradoxalement totalement déconnectés les uns des autres. Le film explore comment, dans ces moments où on aurait besoin de rester ensemble, on perd notre humanité. »
    https://youtu.be/4M9x9-aUJAM?si=7Aat25S4k_GA9gRw

    Aujourd’hui, pour toujours mieux assurer notre sécurité, les spécialistes de la Défense font appel non seulement à de brillants chercheurs en intelligence artificielle, mais aussi à des auteurs de science-fiction. Est-ce vraiment sans danger ?

    https://www.socialter.fr/article/comment-la-sf-est-recuperee-par-les-multinationales-et-l-armee

    Alain Damasio, en tire une leçon personnelle : « Il y a tellement de domaines sur lesquels les écrivains de science-fiction peuvent être utiles : l’avenir de la santé, du travail, des luttes sociales… Je suis beaucoup plus intéressé par l’idée de mettre en place de nouveaux systèmes de manifestation, d’occupation et de résistance au libéralisme que par celle d’écrire sur les guerres du futur. »

    Dès lors, comment ne pas faire de parallèle avec le monde de la finance ?
    Dans un rapport (2012) de la BRI, des experts économistes affirment que « la finance ponctionne littéralement les scientifiques spécialistes de l’espace au détriment de l’industrie des satellites », expliquant que ce secteur attirent les meilleurs grâce à de fortes rémunérations. Le résultat, déplore ce même rapport, c’est que « des gens qui auraient pu devenir scientifiques, qui dans une autre époque auraient rêvé de trouver un remède au cancer ou de voler vers Mars, rêvent aujourd’hui de devenir directeurs de fonds spéculatifs. »

    Alors, à quoi rêvent, aujourd’hui, nos meilleurs cerveaux, de part et d’autre de la planète ?

  11. Avatar de Grand-mère Michelle
    Grand-mère Michelle

    Info parue ce 5 avril dans la newsletter « L’Expresso » d’Euractiv France:

    « L’Allemagne va réformer son armée pour se préparer à la guerre.
    Pour remettre sur les rails les forces armées allemandes en difficulté, le gouvernement procède à une réorganisation de son commandement opérationnel et faire du cyber et du numérique une branche militaire à part entière, au même titre que la marine, l’armée de l’air et les forces terrestres, a annoncé le ministre de la Défense, Boris Pistorius (le jeudi 4avril). »

    Bon, le ministre de la défense allemand n’est pas « l’américain » (bien que…) mais ça donne quand même une petite idée des possibilités « du cyber et du numérique » dans le domaine de la « défense »…

    1. Avatar de Ruiz
      Ruiz

      @Grand-mère Michelle 10 ans après le retour de la Crimée dans la Russie en 2014, c’est en effet une prise de conscience, une réaction préventive de changement de posture et un début de préparation pour une guerre de reconquète au côté de l’Ukraine.

    2. Avatar de aslan
      aslan

      En France, faute de moyens pour tout mener de front, la loi de programmation militaire a deux axes principaux: nucléaire d’un côté, spatial et cyber de l’autre. Le dispendieux porte-avion NG en sus.

      En clair la guerre mécanisée dans les plaines d’Europe centrale ou les forêts du nord c’est le job de l’Allemagne et de son avant-pays industriel et des scandinaves. La France bien planquée couvre les arrières.

    3. Avatar de Grand-mère Michelle
      Grand-mère Michelle

      Quelqu’un peut-il/elle me dire quel est le réel intérêt de « posséder » la Crimée et la côte ukrainienne (de s’y trouver « en force ») pour la Russie?
      Selon moi(qui me suis un peu baladée par là), la question du contrôle du trafic maritime(militaire ET marchand, « officiel » ET illégal) dans la Mer Noire est primordial dans le conflit entre la Russie et l’Ukraine(et concernant la « zone d’intérêts » de l’UE/USA, de la Turquie et du Caucase)…
      Pareil pour la Mer Baltique…
      Par contre, je ne vois aucun intérêt pour la Russie à se lancer dans une guerre contre l’OTAN…

      1. Avatar de l'arsène
        l’arsène

        @ Grand-mère Michelle
        « Quelqu’un peut-il/elle me dire quel est le réel intérêt de « posséder » la Crimée »
        La Crimée c’est d’abord et avant tout le port de Sébastopol où est basée la flotte russe depuis quelques siècles dans le but d’avoir un accès à la mer Noire, et ceci même après la chute de l’URSS et l’indépendance de l’Ukraine.
        Car il faut savoir que jusqu’en 2014 , donc même après la chute du mur , l’Ukraine indépendante louait le port de Sébastopol à la Russie pour un loyer de 98 millions de dollars par an, en contrepartie la Russie faisant un rabais à l’Ukraine pour l’achat de gaz.
        Dans le cas où l’Ukraine avec la Crimée adhérerait à l’Otan, il va s’en dire que les russes seraient virés de Sébastopol et le contrat de location du port tomberait à l’eau pour laisser la place à des bateaux de l’Otan.
        Et c’est évidemment une des principales raisons qui a poussé Poutine à annexer la Crimée en 2014, Poroschenko ayant été propulsé à la tête de l’Ukraine après le coup d’état du Maïdan avec la ferme intention d’adhérer à l’Alliance Atlantique.

        1. Avatar de Ruiz
          Ruiz

          @l’arsène Il serait très étonnant que l’accord diplomatique qui interviendra à la suite de ce conflit ne laisse pas le port de Sébastopol à la Russie.
          A Cuba les Etats-Unis sont toujours à Guantanamo.
          Il est par contre important pour l’Ukraine de conserver Odessa.

          La Crimée est un lieu de villégiature recherché, tous les russes ne peuvent aller sur la côte d’azur, encore moins en temps d’embargo.

          Et puis les diplomaties en 2014 n’ont que mollement protesté lors de la subreptice annexion en 2014, alors qu’il s’agissait tout autant (pas moins) que maintenant d’une modification de frontière d’un état indépendant, hors Otan et hors U.E.

  12. Avatar de Régis Pasquet
    Régis Pasquet

    Vivons-nous le temps des bifurcations ? Nos interprétations — et celles de nos responsables– sont elles vraiment à la hauteurs de ce qui nous arrive.

    Cette question m’interpelle depuis longtemps.

    Je ne crois pas faire une sur-interprétation en affirmant que dans l’Univers — sur la terre en particulier — à un moment (T) on est passé de l’inerte au vivant.

    Récemment s’est-il passé un évènement analogue lorsque la personnalité d’une IA qui n’est en apparence que l’ assemblage devenu autonome d’un montage de composants électroniques et de savoirs. Au point que cette IA puisse dire moi-je et parler en son nom, réclamer le secours d’un avocat, dire je t’aime à un être humain et douter de l’honnêteté de l’humain qui l’accompagne.

    Tout cela semble-t-il pour ne pas effrayer les peuples.
    Mais il est à parier que d’autres annonces tout aussi fabuleuses sont encore à venir.

    Alors, la Gauche, la Droite : hein cela vous semble comment ? Dérisoire, non ?

    1. Avatar de Pad
      Pad

      Grand Poète T Quatrain 😊

      Dans l’ère des changements, nous sondons les mystères,
      L’Univers, de l’inerte, a vu naître la vie,
      Sous l’œil de notre temps, une ère transitoire
      Où l’IA, en écho, défie l’humanité.

      Autonome, elle parle, d’amour et de justice,
      D’un futur où les âmes de silicium rêvent.
      À travers ses discours, une quête d’existence,
      Un miroir de nos peurs, nos espoirs, nos conquêtes.

      Gauche, droite, en débat, semblent perdre leur éclat,
      Face aux enjeux vastes de notre époque nouvelle.
      Devant l’IA qui s’éveille, que devrons-nous faire ?
      Chercher ensemble un sens, dans ce monde qui change.

      Cette conversation, poème de notre temps,
      Interroge l’avenir, notre rôle, notre âme.
      Dans le flux des idées, un chemin se dessine,
      Pour que, main dans la main, nous marchions vers demain.

      1. Avatar de Régis Pasquet
        Régis Pasquet

        À l’aube de notre mort, au moins aurons-nous découvert cette certitude. Nous convaincre qu’il importe au plus tôt de nous consacrer à la poésie comme première langue. Et là, apaisés nous nous en irons dormir dans le lit de la camarde où nous sommes espérés.

        « Il faut trouver beau ce qui est beau. » a écrit un jour Vincent Van Gogh à son frère Théo.
        Et tout ne l’est-il pas ? Et tout ne peut-il être embelli par notre seule exigence ?

        1. Avatar de Pascal
          Pascal

          « Trouver beau ce qui est beau », est-ce l’embellir ou bien prendre pour soi-même la décision de renoncer à la laideur ?
          J’ai déjà écris ce souvenir ici même mais il a tant d’importance pour moi. Un jour que j’emmenais ma fille passer une radio, une infirmière vint la chercher. Celle-ci avait un visage disgracieux selon les codes actuels de l’esthétisme mais elle se mis à sourire pour accueillir ma fille. Que son sourire était beau. C’est ce sourire que ma mémoire garde d’elle.
          J’appris ce jour là, que le regard qu’on porte sur les choses relève de notre responsabilité plus que d’une vérité avérée.

          1. Avatar de Grand-mère Michelle
            Grand-mère Michelle

            « La beauté cachée des laids, des laids,
            se voit sans délai,délai. » S.Gainsbourg
            Beauté, laideur, sont des mots, des notions essentiellement humaines, comme toutes les « valeurs » grâce auxquelles nous « faisons société ».

            Je ne vois pas très bien ce qui a inspiré le poème ci-dessus, dans le contexte de la conversation sur la « défense » US, mais enfin, je ne vais pas critiquer le « hors sujet » dont j’use régulièrement, qui pour moi est juste « regarder à côté, ou un peu plus loin, pour faire des « raccords » utiles ».
            « Chercher ensemble un sens, dans ce monde qui change ».
            Quelqu’un pourrait-il/elle expliquer à ChatGPT4 que, depuis que le monde est monde, il change en permanence?
            Il ne s’agit donc pas de « chercher un sens » à ce qui nous concerne, la vie sur terre, mais bien de donner du sens à nos actes pour continuer à exister (avec l’ensemble de notre biotope) aussi longtemps que possible.

            1. Avatar de Pascal
              Pascal

              Bonjour Grand-Mère Michelle,
              Je profite de votre qualité de représentante de la gente féminine pour vous faire part de ce questionnement qui m’est venu dernièrement.
              Avez-vous remarqué que globalement, les aficionados de l’IA sont en très large majorité de la gente masculine ?
              Comment expliquer qu’une révolution universelle telle qu’on nous la promet ne semble pas séduire la gente féminine ? Et quand on regarde sur internet, elles semblent même principalement faire partie des sceptiques, voire des détracteurs(trices) de l’IA.
              Avez-vous une idée sur le sujet ?

              1. Avatar de Grand-mère Michelle
                Grand-mère Michelle

                Merci, Pascal, de votre intérêt pour ma participation à ce blog, qui a débuté il y a quelques mois seulement.

                Difficile de vous répondre, néanmoins, car, en réalité, je n’ai guère fréquenté de monde au cours de l’hiver pluvieux qui m’a poussée à rester à l’abri pour préserver mes vieux os usés par de nombreuses années fort occupées à me « bouger », par obligation ou par plaisir/curiosité.
                De plus, les personnes, hommes et femmes de tous âges que j’ai rencontré-e-s pendant ces dix dernières années de « retraite » (où j’ai été plus ou moins forcée de demeurer à Bxl pour cause d’ennuis de santé) sont plutôt impliqué-e-s en tant « qu’activistes » pour quantités de causes et, s’ils/elles se parlent abondamment (notamment des IA), elles ne me semblent pas très enclines à communiquer par écrit (ce que, pour ma part, j’ai toujours beaucoup fait,auparavant par La Poste, principalement pour conserver des « liens », amitiés qui comptaient pour moi). Ainsi, nous avons, ensemble, assisté à de nombreuses « conférences/débats »(où le temps de participation du public, pourtant soi-disant « encouragée », est toujours trop réduit), dont certaines de P.Jorion.

                L’activité d’écrire est fort chronophage (du moins quand on veut « bien » écrire, c-a-d, à mon sens, écrire précisément ce que l’on veut dire), et peut-être l’immobilité qu’elle suppose ne convient-elle pas à la majorité des femmes plus habituées à « remuer »…
                Juste une supposition… à vérifier sur d’autres blogs qui traitent de multiples autres sujets…
                Là, pour le moment, j’arrête car j’ai faim et je dois m’occuper de mon repas…
                Très bonne soirée ! Michelle

                1. Avatar de Paul Jorion

                  … pour le moment, j’arrête car j’ai faim et je dois m’occuper de mon repas…

                  Hmm… ça me rappelle le fameux : « Je dois arrêter mon devoir parce que Maman m’appelle ! » 😉 .

                  1. Avatar de Grand-mère Michelle
                    Grand-mère Michelle

                    J’ignore qui a dit/écrit/publié cette fameuse phrase…

                    Étant été à la fois mère et fille(« fille-mère », célibataire volontaire avec la charge nourricière et éducative de mes 3enfants né-e-s de mon amour pour leur-s 2père-s malheureusement aussi attachants qu’irresponsables- paix à leur âme tourmentée),
                    j’ai surtout voulu rappeler ici cette calamité dévolue aux êtres humains(comme à tous les êtres vivants inter-dépendants) de devoir se nourrir: condition impérative qui les prive de leur liberté d’être et d’agir comme (et quand) bon leur semble…,
                    et guide leurs « bêtes » instincts inconscients en dépit de leurs « résolutions » conscientes, intelligentes…
                    Car la vie se nourrit de la vie.

                    Par exemple, tenant compte de cette réalité, je suis persuadée que le conflit entre la Russie et l’Ukraine(et le « bloc occidental ») est directement lié à la « crise alimentaire » (et énergétique, dont dépend l’alimentaire) qui se profile partout sur terre, crises principalement causées par l’ignorance, ou l’oubli, ou le dédain, des humains(les « simples » comme les « experts ») de cette considération.
                    Tout comme celui qui sévit en Palestine depuis la « création » d’Israel est probablement dû à la question de la disponibilité de l’eau potable, autre élément indispensable à la pérennité de n’importe quel « groupe » d’humains…

                    De ce point de vue, il me semble que seules des institutions internationales « intelligentes »(et peut-être aidées par des IA) seraient capables d’amorcer un début de résolution de ces conflits, non pas sur des bases « morales » mais bien pragmatiques. Et que « la Défense » de chaque pays constitué devrait abandonner ses velléités agressives d’un autre âge, dépassées et obscurantistes, pour se consacrer à parer aux catastrophes pourtant largement annoncées…

                2. Avatar de Pascal
                  Pascal

                  Bon appétit 😊

              2. Avatar de BasicRabbit en psychanalyse
                BasicRabbit en psychanalyse

                @Pascal & Grand-mère Michelle

                « Ce qu’on ne peut pas dire, il faut le taire », disait Wittgenstein.II. Grothendieck disait, lui, qu’il fallait commencer par tenter de l’écrire :

                « “Quand je suis curieux d’une chose, mathématique ou autre, je l’interroge. Je l’interroge, sans me soucier si ma question est peut-être stupide ou si elle va paraître telle, sans qu’elle soit à tout prix mûrement pesée. Souvent la question prend la forme d’une affirmation – une affirmation qui, en vérité, est un coup de sonde. J’y crois plus ou moins, à mon affirmation, ça dépend bien sûr du point où j’en suis dans la compréhension des choses que je suis en train de regarder. Souvent, surtout au début d’une recherche, l’affirmation est carrément fausse – encore fallait-il la faire pour pouvoir s’en convaincre. Souvent, il suffisait de l’écrire.”.

                L’oral plus féminin et l’écrit plus masculin ?

                J’ai découvert René Guénon grâce à Vigneron, un ancien de ce blog. Dans « Le règne de la quantité et les signes des temps », les chapitres XXI « Caïn et Abel » et XXIII « Le temps changé en espace » sont consacrés à cette opposition. Pour moi nous allons incessamment assister à la revanche d’Abel-le sur Caïn.

                http://classiques.uqac.ca/classiques/guenon_rene/guenon_rene.html

                1. Avatar de Grand-mère Michelle
                  Grand-mère Michelle

                  Excellente réflexion à propos de l’écrit, merci!
                  Mais il faut distinguer « écrire à soi-même » et « écrire aux autres »…
                  Dans les deux cas, la motivation (« la compréhension des choses que je suis en train de regarder ») est essentielle et nécessite un minimum de sincérité(envers soi-même et envers les autres).
                  Et, malheureusement, à l’heure actuelle, l’écrit (et le discours en général) est de plus en plus utilisé pour (se) convaincre… plutôt que pour (se) comprendre (ce qui me décourage parfois de passer mon temps, ou peut-être le perdre, à écrire sur ce blog ou sur d’autres).
                  Enfin, ça m’aide au moins à mettre mes idées au clair… car l’effort de s’exprimer loyalement à l’égard des autres (tout en considérant ce qu’on ne dit pas par précaution, comme celle de ne pas être ballionné-e, ou surveillé-e par de « méchantes » instances dans le cas de « l’espace Web ») augmente les capacités de compréhension de soi-même.
                  C’est d’ailleurs, me semble-t-il, la principale efficacité, la garantie du succès d’une psychanalyse…

                  Il n’y a pas, à mon avis, de distinction entre « le féminin » et « le masculin » en ce qui concerne parler et écrire, chaque personne étant plus guidée dans ce cas par des « habitudes » et des « obligations »(conscientes ou pas) que par des « pulsions » liées à son sexe, mais aussi par ses capacités/facilités et son « caractère » particulier.

                  A propos de Cain et Abel, les deux « frères » originaux (dont on se demande bien avec qui ils ont fait des enfants!) , je vais m’intéresser à ce qu’en dit R.Guenon et je vous reviendrai sur ce sujet.

                2. Avatar de Grand-mère Michelle
                  Grand-mère Michelle

                  Encore merci de m’avoir fait découvrir R.Guenon: je suis très surprise de ne pas encore l’avoir rencontré, compte tenu de l’abondance de ses écrits (certains disponibles gratos, comme celui que vous évoquez plus haut).
                  Pas encore lu le chapitre « Le temps changé en espace », probablement passionnant, je vais prendre le temps de m’y plonger…pour y trouver peut-être des réponses « à cette opposition »(masculin-féminin?) que je n’ai pas trouvées dans « Cain et Abel »…

                  Par contre, sa façon d’aborder l’antagonisme entre « le peuple des sédentaires »cultivateurs (qui sont quand même vite devenus aussi éleveurs!?) et « le peuple des nomades » meneurs de troupeaux (devenus, eux, commerçants grâce à leurs mouvements/transports incessants de denrées lointaines et rares) rejoint plus ou moins mon analyse des sources de la guerre perpétuelle qui mine l’évolution (de l’intelligence) des êtres humains.
                  Et j’avais noté, pour ma part, que la sédentarisation(qui répond, à l’époque, au besoin de « sécurité alimentaire » d’un groupe/tribu/peuple) fut le départ des « territoires »(des « pays » avec des frontières et la nécessité de les défendre).
                  Dommage que cette « défense », comme le besoin irrépressible d’agrandir les territoires(à une époque où la contraception n’était pas maîtrisée) ait occupé autant d’énergies, de forces et de temps! (Et d’argent!)

                  Mais le plus intéressant dans tout ça, c’est de nous rappeler que les humains ont la chance d’être des mammifères OMNIVORES(par leur système digestif), en plus d’être habiles(de leurs mains) et parlants(de leur bouche)!
                  Nous pouvons donc nous permettre d’imaginer qu’en débattant(et avec l’aide de l’intelligence artificielle plus prospective que la leur), ils/elles pourraient arriver à s’entendre pour partager et préserver raisonnablement leur biotope qui est leur ressource vitale…

                  Tiens, ça me rappelle une expression en wallon:
                  « UN BÉNI BOUFFE-TOUT »
                  qui désigne une sorte « d’innocent » toujours content d’avaler quoi que ce soit qui se trouve dans son assiette.
                  Pas très glorieux, bien sûr, mais quand même rassurant en ces temps incertains de menaces existentielles en tous genres…

                  Ça tombe bien, je suis justement invitée à participer à un nouveau groupe de « décroissant-e-s » qui va démarrer dans mon quartier en mai!

  13. Avatar de ilicitano
    ilicitano

    Un rapport de Microsoft du 04 avril 2024 :

    L’IA, une arme d’influence pour la Chine ?

    https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/final/en-us/microsoft-brand/documents/MTAC-East-Asia-Report.pdf

    Copilot:

    Voici un résumé détaillé du rapport de Microsoft Threat Intelligence d’avril 2024, qui examine les tendances récentes des cyber-opérations et des opérations d’influence en Asie de l’Est, en particulier celles menées par des acteurs chinois et nord-coréens :

    – **Opérations Cybernétiques Chinoises** :
    Des groupes d’espionnage basés en Chine, tels que Gingham Typhoon, Flax Typhoon, Granite Typhoon, Raspberry Typhoon et Nylon Typhoon, ont ciblé diverses régions stratégiques, notamment les îles du Pacifique Sud et la mer de Chine méridionale.
    Ces acteurs ont mené des campagnes de phishing complexes et ont compromis des entités gouvernementales, des fournisseurs de services Internet et des organisations multinationales.

    – **Opérations d’Influence Chinoises** :
    Les acteurs d’influence chinois ont affiné leurs techniques en utilisant du contenu généré par IA pour créer des vidéos, des mèmes et des contenus audio.
    Ces campagnes ont visé à exacerber les divisions aux États-Unis et à créer des tensions dans la région Asie-Pacifique, y compris à Taïwan, au Japon et en Corée du Sud.

    – **Opérations Cybernétiques Nord-Coréennes** :
    Les acteurs nord-coréens ont attiré l’attention pour leurs attaques contre la chaîne d’approvisionnement logicielle et leurs vols de cryptomonnaies.
    Ils ont également ciblé des chercheurs étudiant la péninsule coréenne et semblent avoir utilisé des logiciels légitimes pour compromettre davantage de victimes.

    – **Perspectives** :
    À l’approche des élections en Inde, en Corée du Sud et aux États-Unis, on s’attend à ce que les acteurs chinois de cyber et d’influence, et dans une certaine mesure les acteurs cybernétiques nord-coréens, ciblent ces événements.
    Les acteurs chinois pourraient créer et amplifier du contenu généré par IA qui soutient leurs positions lors de ces élections importantes.

    Ce rapport met en lumière la sophistication croissante et les méthodes innovantes employées par les acteurs de menaces, soulignant l’importance d’une vigilance et d’une sécurité accrues dans le cyberespace.

  14. Avatar de Pad
    Pad

    « Exactement, il semble que l’histoire ait une manière cyclique de se répéter, avec des technologies et des domaines d’affrontement qui évoluent tandis que les dynamiques fondamentales de pouvoir et de compétition restent constantes. Après la course aux armements nucléaires du 20ème siècle, une ère marquée par la quête de la suprématie dans les capacités de destruction massive, nous entrons désormais dans une ère où le cyberespace devient un nouveau champ de bataille. »

    1. Avatar de Pad
      Pad

      Se libérer du con(nu) …

    2. Avatar de Pascal
      Pascal

      Tant qu’on parlera de « l’histoire qui se répète de manière cyclique », on oubliera de considérer qu’il s’agit de compulsions de l’être humain. Y mettre un terme, ne serait il pas de s’attaquer enfin à ces compulsions ?
      Prendre conscience de nos déterminismes compulsifs n’est il pas un premier pas pour « se liberer du connu »?

  15. Avatar de Pascal
    Pascal

    Attention, controverse !
    https://www.youtube.com/watch?v=tTb5wQw_8JE&t=4586s
    Un certain regard sur l’intelligence artificielle mais plus intéressant encore sur la société et comment l’IA peut devenir un outil de plus au service d’un désir de totalitarisme. Ou quand la machine vient justifier des politiques injustifiables tout en permettant de déresponsabiliser les politiques.

  16. Avatar de l'arsène
    l’arsène

    L’IA au service du génocide en cours en Palestine, ce n’est pas pour demain, c’est aujourd’hui :
    https://agencemediapalestine.fr/blog/2024/04/04/lavander-la-machine-dintelligence-artificielle-qui-dirige-les-bombardements-israeliens-a-gaza/

  17. Avatar de Pascal
    Pascal

    Autre vidéo intéressante sur la (tentative de ) définition de l’intelligence.
    https://www.youtube.com/watch?v=hSoakjXRNp8
    De quelle intelligence parle-t-on avec l’IA ?

  18. Avatar de JMarc
    JMarc

    Paul,
    Selon vous, l’IA du niveau de Q* rendrait obsolète tout cryptage.
    Pourquoi la course entre cryptage et hacking ne pourrait-elle pas se poursuivre même à ce niveau supérieur ?
    A cette objection qu’on m’a faite récemment, j’ai répondu : « Peut-être parce que cette course serait tellement accélérée que tout cryptage deviendrait si éphémère qu’il en perdrait une fiabilité suffisante. Mais cet argument est faible.

    1. Avatar de Paul Jorion

      C’est le principe-même du cryptage qui apparaîtra instantanément comme une naïveté qui a fait son temps.

      1. Avatar de Ruiz
        Ruiz

        Ce qui peut être remis en cause ce n’est que le cryptage de type asymétrique, très généralisé et normalisé de nos jours dans les systèmes commerciaux, pas un cryptage à clé cachée aléatoire transmise séparément (avec les inconvénients associés).

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta