Warren enquête sur le Pentagone après le dépôt du dossier du 17 mars sur le « risque inacceptable »
La sénatrice Elizabeth Warren a lancé le 23 mars une enquête sur la décision du Département de la Défense (DOD) de désigner le développeur d'IA Anthropic comme présentant un « risque pour la chaîne d'approvisionnement », une mesure qu'elle a suggérée « semble être une mesure de représailles ». Cette action intensifie la pression politique sur le Pentagone, qui est déjà confronté à un procès de la part de la société d'IA concernant ce différend. Warren demande également des informations sur un accord parallèle du Pentagone avec xAI d'Elon Musk, qui a été finalisé alors même que la relation avec Anthropic se détériorait en raison de ses garde-fous de sécurité IA plus stricts.
La lettre de la sénatrice fait suite à un dépôt de dossier contentieux du 17 mars où le Pentagone a officiellement qualifié Anthropic de « risque inacceptable » pour la sécurité nationale. Le gouvernement a fait valoir que les « lignes rouges » éthiques d'Anthropic — en particulier son refus de permettre l'utilisation illimitée d'armes autonomes et de la surveillance de masse — créaient la possibilité que la société puisse désactiver ou modifier ses modèles lors d'opérations militaires. Cette désignation, sans précédent pour une entreprise technologique américaine, interdit de fait à Anthropic les contrats de sécurité nationale clés et donne aux agences une période de transition de 180 jours pour migrer vers d'autres systèmes d'IA.
Les dossiers judiciaires d'Anthropic montrent que le Pentagone a déclaré que l'accord était « très proche »
Dans sa bataille juridique pour annuler la mise à l'index, les récents dossiers judiciaires d'Anthropic contestent directement le récit du Pentagone. La société a soumis une déclaration sous serment de sa responsable des politiques, Sarah Heck, qui comprenait un courriel du 4 mars d'un sous-secrétaire du Pentagone au PDG d'Anthropic, Dario Amodei. Dans cet e-mail, le fonctionnaire a déclaré que les deux parties étaient « très proches » sur les principaux désaccords politiques, une déclaration qui contraste fortement avec la description ultérieure de l'entreprise par le gouvernement comme un partenaire indigne de confiance.
Anthropic soutient en outre que la crainte fondamentale du Pentagone est techniquement infondée. Thiyagu Ramasamy, responsable du secteur public de l'entreprise, a déclaré dans un affidavit qu'une fois ses modèles d'IA Claude déployés dans des systèmes gouvernementaux sécurisés et « isolés (air-gapped) », Anthropic n'a aucune capacité technique d'interférer avec eux. Cela réfute l'affirmation selon laquelle l'entreprise pourrait déployer un « interrupteur d'arrêt » en temps de guerre. L'affaire, qui repose sur l'utilisation par le Pentagone d'une loi généralement réservée aux adversaires étrangers comme Huawei, a créé un schisme dans la Silicon Valley. Alors que des concurrents comme Anduril se sont rangés du côté du Pentagone, de grandes entreprises technologiques, dont Microsoft, ont déposé des mémoires en soutien à Anthropic, avertissant que l'action du gouvernement pourrait avoir un effet dissuasif sur l'innovation américaine.