Le PDG d'Anthropic s'entretient avec la Maison Blanche au sujet d'un modèle d'IA présentant des risques pour la sécurité nationale

Le PDG d'Anthropic, Dario Amodei, a tenu vendredi des discussions « constructives » avec la chef de cabinet de la Maison Blanche, Susie Wiles, une étape importante vers la résolution d'un conflit concernant un modèle d'IA doté de capacités de cybersécurité sans précédent. La réunion répond à une anxiété généralisée au sein du gouvernement concernant Mythos, une IA à usage général d'Anthropic capable de trouver et d'exécuter des exploits pour des milliers de vulnérabilités logicielles inconnues, constituant à la fois un risque pour la sécurité nationale et un outil de défense indispensable.

« Nous travaillons en étroite collaboration avec les fournisseurs de modèles, d'autres partenaires industriels et la communauté du renseignement pour garantir que les garde-fous et les mesures de protection appropriés sont en place », a écrit Gregory Barbaccia, responsable de l'information au Bureau de la gestion et du budget, dans un courriel adressé aux agences fédérales et obtenu par POLITICO.

Annoncé le 7 avril, Mythos est la première IA à réaliser une simulation d'attaque de réseau d'entreprise en 32 étapes du début à la fin, réussissant à développer des exploits fonctionnels dès sa première tentative dans plus de 83 % des cas. Anthropic a restreint la diffusion publique du modèle, le fournissant à la place à environ 40 organisations sélectionnées, dont Google, Amazon Web Services et JPMorgan Chase, via son programme Project Glasswing afin de trouver et de corriger les vulnérabilités critiques.

Les discussions mettent en lumière un paradoxe pour l'administration Trump, qui a désigné Anthropic comme un risque pour la chaîne d'approvisionnement de la sécurité nationale en février pour avoir refusé de supprimer les garde-fous de sécurité pour un usage militaire. Aujourd'hui, ce même gouvernement a besoin de la technologie de l'entreprise, le département du Trésor, la CISA et la communauté du renseignement cherchant tous à accéder à Mythos pour se défendre contre les failles mêmes qu'il peut exposer.

Le différend s'est intensifié après que le secrétaire à la Défense, Pete Hegseth, a exigé qu'Anthropic accorde au Pentagone un accès illimité à ses modèles pour toutes les fins licites, y compris les systèmes d'armes autonomes. Le refus d'Amodei pour des raisons de sécurité a conduit à l'inscription de l'entreprise sur la liste noire des contrats gouvernementaux. Anthropic a déposé deux plaintes fédérales en réponse, et bien qu'une cour d'appel ait maintenu l'interdiction du Pentagone en attendant le litige, l'entreprise reste libre de travailler avec d'autres agences fédérales.

Un outil trop précieux pour être ignoré

Les capacités de Mythos en ont fait un sujet de discussion urgent à Washington. L'AI Security Institute du Royaume-Uni a estimé qu'il était « nettement plus performant en matière de cyberoffensive que n'importe quel modèle précédemment évalué ». Le PDG de JPMorgan Chase, Jamie Dimon, a noté qu'il « révèle beaucoup plus de vulnérabilités ». Sa puissance a forcé la main du gouvernement, transformant une posture de confrontation en une posture de négociation.

Le Bureau du directeur national de la cybersécurité mène la réponse de l'administration, et le Bureau de la gestion et du budget explore des pistes pour que les agences fédérales utilisent une version « modifiée » du modèle. Cela fait suite à des rapports indiquant que plusieurs agences, dont le département du Trésor et la CISA, testent déjà le modèle ou cherchent à y accéder pour évaluer son impact sur le secteur financier et les infrastructures critiques.

Pression mondiale et levier géopolitique

L'impasse a des implications mondiales. Le gouverneur de la Banque d'Angleterre a qualifié Mythos de risque systémique pour la cybersécurité, et Anthropic donne déjà accès à certaines banques britanniques alors qu'elle quadruple ses effectifs à Londres pour atteindre 800 employés. Cela crée une dynamique où le Royaume-Uni, un allié clé, pourrait déployer un outil de sécurité essentiel développé aux États-Unis avant le gouvernement américain lui-même, accentuant la pression sur la Maison Blanche pour trouver une issue.

La situation donne à Anthropic un levier important. L'entreprise, qui a vu son chiffre d'affaires annualisé atteindre 30 milliards de dollars et a suscité l'intérêt des investisseurs pour une valorisation de 800 milliards de dollars, ne dépend pas des contrats du Pentagone pour sa survie. Un accord verrait probablement le retrait de la désignation de risque pour la chaîne d'approvisionnement en échange d'un accès à Mythos à des fins défensives, tout en maintenant des restrictions sur son utilisation dans les armes autonomes ou la surveillance. Pour les investisseurs d'Anthropic, dont Google et Amazon, et les concurrents comme OpenAI, une résolution signalerait une réduction des risques réglementaires pour le développement d'IA de pointe aux États-Unis.

Cet article est à titre informatif uniquement et ne constitue pas un conseil en investissement.