AnthropicのCEOがホワイトハウスと会談、国家安全保障上のリスクを伴うAIモデルを巡り

Anthropicのダリオ・アモデイCEOは金曜日、ホワイトハウスのスージー・ワイルズ首席補佐官と「建設的」な会談を行った。これは、前例のないサイバーセキュリティ能力を持つAIモデルを巡る紛争の解決に向けた大きな一歩である。この会談は、何千もの未知のソフトウェア脆弱性を発見し攻撃を実行できる、Anthropicの汎用AI「Mythos（ミトス）」に対する政府全体の懸念に対処するものだ。このモデルは国家安全保障上のリスクであると同時に、不可欠な防御ツールでもある。

「適切なガードレールと安全策が講じられるよう、モデル提供者やその他の業界パートナー、インテリジェンス・コミュニティと緊密に連携している」と、管理予算局（OMB）のグレゴリー・バルバッチャ最高情報責任者は、POLITICOが入手した連邦機関宛てのメールに記している。

4月7日に発表されたMythosは、32段階の企業ネットワーク攻撃シミュレーションを最初から最後まで完了した初のAIであり、83%以上のケースで最初の試行で動作するエクスプロイト（脆弱性利用プログラム）の開発に成功した。Anthropicはこのモデルの一般公開を制限しており、代わりに「プロジェクト・グラスウィング（Project Glasswing）」プログラムを通じて、グーグル、アマゾン・ウェブ・サービス（AWS）、JPモルガン・チェイスを含む約40の審査済み組織に提供し、重大な脆弱性の発見と修正に役立てている。

この協議は、トランプ政権にとってのパラドックスを浮き彫りにしている。同政権は今年2月、軍事利用のための安全ガードレールの撤廃を拒否したとして、Anthropicを国家安全保障上のサプライチェーン・リスクに指定した。しかし現在、その同じ政府が同社の技術を必要としており、財務省、サイバーセキュリティ・インフラセキュリティ庁（CISA）、およびインテリジェンス・コミュニティはすべて、Mythosが露呈させ得る欠陥から防御するために、同モデルへのアクセスを求めている。

この紛争は、ピート・ヘグセス国防長官が、自律型武器システムを含むあらゆる合法的な目的のために、ペンタゴンにモデルへの無制限のアクセスを認めるようAnthropicに要求したことで激化した。アモデイCEOが安全上の理由でこれを拒否したため、同社は政府契約のブラックリストに掲載された。Anthropicはこれに対抗して2つの連邦訴訟を提起しており、控訴裁判所は訴訟係属中、ペンタゴンの禁止措置を維持したが、同社は他の連邦機関との協力は自由なままである。

無視するにはあまりに価値の高いツール

Mythosの能力は、ワシントン全体で緊急の議論の的となっている。英国のAI安全研究所は、同モデルが「以前に評価されたどのモデルよりもサイバー攻撃能力が大幅に高い」ことを発見した。JPモルガン・チェイスのジェイミー・ダイモンCEOは、このモデルが「はるかに多くの脆弱性を明らかにする」と指摘した。その強力なパワーは政府に対応を迫り、対立的な姿勢を交渉へと転換させた。

国家サイバー局長官室が行政の対応を主導しており、管理予算局は連邦機関がモデルの「修正版」を使用できる経路を模索している。これは、財務省やCISAを含む複数の機関がすでにモデルをテストしているか、金融部門や重要インフラへの影響を評価するためにアクセスを求めているという報告を受けたものである。

世界的な圧力と地政学的レバレッジ

この膠着状態は世界的な影響を及ぼしている。イングランド銀行総裁はMythosをシステム的なサイバーセキュリティ・リスクと呼び、Anthropicはロンドン事務所のスタッフを800人に4倍増させる中で、すでに一部の英国銀行にアクセスを提供している。これは、主要な同盟国である英国が、米国政府よりも先に米国で開発された重要なセキュリティ・ツールを導入する可能性があるというダイナミクスを生み出し、ホワイトハウスに解決策を見出すよう圧力をかけている。

この状況はAnthropicに大きなレバレッジを与えている。年換算売上高が300億ドルに達し、8000億ドルの評価額で投資家の関心を集めている同社は、生き残るためにペンタゴンとの契約に依存していない。合意に至れば、自律型武器や監視への利用に関する制限を維持しつつ、防御目的でのMythosへのアクセスを提供する代わりに、サプライチェーン・リスクの指定が撤回される可能性が高い。グーグルやアマゾンを含むAnthropicの投資家や、OpenAIのような競合他社にとって、解決は米国における最先端AI開発の規制環境の「リスク低減」を意味することになる。

この記事は情報提供のみを目的としており、投資アドバイスを構成するものではありません。