Anthropic、自己改善の節目目前でAI開発の世界的一時停止を要請

Claudeチャットボットを手掛ける評価額9650億ドルのAIスタートアップAnthropicは木曜日、世界の主要な人工知能研究所に対し、フロンティアモデルの開発に関する協調的な世界的一時停止を検討するよう求めるブログ記事を公開した。同社は、AIシステムが人間の介入なしに自らの後継モデルを設計・構築する能力である「再帰的自己改善」に近づいており、その閾値は2年以内、あるいはそれよりも早く到来する可能性があると警告した。

「このテクノロジーの進展を効果的に遅らせ、その計り知れない影響に対処するための時間を確保できるのであれば、それはおそらく良いことだと考えます」と、Anthropicの内部研究部門責任者Marina Favaro氏と政策責任者Jack Clark氏は、「AIが自らを構築する時」と題された記事で述べた。

この警告には、Anthropicがこれまで公に開示したことのない内部データが添えられていた。2026年5月時点で、Anthropicのプロダクションコードベースにマージされたコードの80%以上が、同社のAIモデルであるClaudeによって作成されていた。平均的なエンジニアは現在、2024年と比較して1日あたり8倍のコードをマージしている。3月に実施された130名の研究スタッフを対象とした調査では、中央値の従業員は、同社の最新モデルMythos Previewを使用することで、AIツールを一切使用しない場合と比較して約4倍の生産性向上が見込まれると推定した。

開発鈍化の呼びかけは、Anthropicにとって気まずい時期に行われた。同社は先頃、シリーズHで650億ドルの資金調達を完了し、評価額は約9650億ドルに達し、OpenAIを上回る世界で最も価値のあるAIスタートアップとなった。また、新規株式公開（IPO）の書類を極秘に提出している。同社によれば、年換算売上高は2025年末の900億ドルから、2026年6月には推定5000億ドルに急増している。

再帰的自己改善の閾値

Anthropicが中心的に懸念するのは、再帰的自己改善として知られる概念、すなわちAIシステムが人間の指示なしに自律的に後継モデルを設計、コーディング、トレーニングできるようになる時点である。同社はその進化の過程を示した。初期のClaudeモデル（2021-2023年）は人間がすべてのコードを記述する必要があったが、2023-2025年にはチャットボットがコード片を支援するようになり、2025-2026年にはコーディングエージェントがファイル全体を自律的に記述および修正するようになった。現在では、自律エージェントがコードを実行し、他のエージェントにタスクを委任できる。最終段階である、Claudeが将来の自身のバージョンを構築・改善する「閉ループ」はまだ到来していないが、Clark氏は「2年以内、あるいはそれよりも早く実現する可能性がある」と述べている。

データは能力の加速を示している。Claudeが自律的に完了できるタスクの所要時間は、これまでの7ヶ月ごとから4ヶ月ごとに倍増している。2024年3月のClaude Opus 3は、人間の作業で約4分を要するタスクを処理できたが、1年後のClaude Opus 4.6は12時間のタスクを処理できた。Anthropicの最新モデルMythos Previewは、研究機関METRによれば、少なくとも16時間連続で作業を継続でき、「新しいタスクを導入せずにMETRが測定できる上限に達している」という。

実世界のソフトウェアエンジニアリングベンチマークであるSWE-benchでは、モデルのスコアは2年で一桁台からほぼ飽和状態にまで上昇した。公開された研究結果をモデルが再現できるかをテストするCORE-Benchでは、成功率は2024年の約20%から15ヶ月以内にベンチマークを飽和させるまでに上昇した。

規制獲得工作との批判

Anthropicの安全第一の姿勢は、競合他社や業界関係者から懐疑的な見方を招いている。OpenAIのCEOであるSam Altman氏は、同社の姿勢を「恐怖に基づくマーケティング」と非難し、先月次のように述べている。「『私たちは爆弾を製造しました。まもなくあなたの頭上に落とそうとしています。そのための爆風シェルターを1億ドルで販売します』と言うのは、明らかに素晴らしいマーケティングです」

David Sacks氏（ベンチャーキャピタリストであり、ドナルド・トランプ米大統領の非公式顧問）は、Anthropicが「規制獲得工作アジェンダ」を推進していると非難している。つまり、実存的リスクに関する警告を利用して、低コストのオープンソースモデルを制限し、Anthropicの独自技術への需要を高めるような厳格な規制を推進しているというのだ。

ペンシルベニア大学ウォートン校の教授Ethan Mollick氏は、X（旧Twitter）への投稿で、このブログ記事には「幾分の自己満足、いくらかのマーケティング、そしてAnthropicがAIの近い将来に何が起こる可能性が高いと考えているかに関する非常に誠実な信念が多く含まれている」と述べた。

Anthropicは、世界的な一時停止に内在する検証の課題を認めている。「トレーニング実行は弾道ミサイルサイロよりもはるかに隠蔽が容易である」と著者らは書き、この取り組みを冷戦時代の軍備管理条約に例えた。「意味のある減速または一時停止を実現するには、複数の国で、フロンティアまたはその付近に位置する十分なリソースを持つ複数の研究所が、同じ条件下での停止に合意する必要がある」

同社は、Anthropic Instituteがパートナーと協力して、信頼性の高い検証システムがどのようなものになるかを研究し、政策立案者や研究者との幅広い議論を計画していると述べた。そのようなシステムが構築できるのであれば、他のフロンティア研究所が検証可能な形で同様の措置を講じることを条件に、Anthropicは自社の開発を遅らせたり停止したりする用意があるとしている。

投資家にとっての意味

Anthropicによる協調的一時停止の呼びかけは、資本が殺到している時期に、AIセクター全体に規制の不確実性をもたらす。同社自身のデータ（エンジニアのアウトプット8倍、生産性4倍の向上を示す）は同時に、AIが測定可能な経済的リターンをもたらすという投資テーゼを強化するものでもある。逆説的ではあるが、AnthropicはAI加速の恩恵を受ける立場でありながら、その停止を求める最も声高な存在でもある。

OpenAIも近くIPOを目指すとみられ、両社の合計時価総額は約2兆ドルに上る。この議論から生まれる規制の枠組みは、どのビジネスモデル（プロプライエタリー対オープンソース、安全第一対迅速性第一）が最終的に勝利するかを決定づける可能性がある。現時点では、市場は協調的な世界的一時停止のリスクを織り込んでいない。その理由の一端は、執行メカニズムが未定義であり、不正を行うインセンティブが極めて大きいことにある。

本記事は情報提供のみを目的としており、投資助言を構成するものではありません。