国連事務総長、殺人ロボット禁止を呼びかけ—米上院3法案が国防総省のAI利用規制を目指す

国連のアントニオ・グテーレス事務総長は月曜日、人間の制御なしに標的を選定する機械は「道徳的に許し難い」と述べ、殺人人型自律兵器の国際法による禁止を求めた。この呼びかけは、自律型兵器におけるAI利用を巡るAnthropicと米国防総省の法的紛争が5カ月目に入り、民主党系米上院の3法案が軍事AIへの制限を成文化しようとしている中で行われた。

「機械が自ら標的を選定し攻撃を行い、命を奪う——人間の制御や判断を介さずに。それは道徳的に許し難い」とグテーレス氏はジュネーブでのAIガバナンスに関する演説で述べた。「それを正しく呼ぼう。殺人ロボットと。」国連事務総長は各国政府に対し、「惨劇を待ってから行動するのではなく」今すぐ対策を講じるよう促し、「一部の決断は常に人間の手に委ねられるべきであり、とりわけ人間の命を奪う決断はそうだ」と付け加えた。

この演説は、2月にAnthropicが自社のClaude AIモデルの「あらゆる合法的な使用」——自律型兵器や国内の大規模監視を含む——を認めるよう求める国防総省の要求を拒否したことで勃発した紛争を再び浮き彫りにした。国防総省はAnthropicを国家安全保障上のサプライチェーンリスクに指定——米国企業に対する初の指定——し、トランプ大統領は連邦政府機関に対しAnthropicの技術使用停止を命じた。現在2つの連邦裁判所で別々の訴訟が審理されており、カリフォルニア州の判事は3月、国防総省の懲罰的措置が「法律に反し恣意的かつ独断的である可能性が高い」と判断し、暫定的に差し止めている。

この紛争が露呈したガバナンスの空白は立法府の注目を集めている。民主党系上院議員3名は今年、軍事AIを標的とした法案を提出している。アダム・シフ議員のHALO法案は、自律型兵器システムを含むあらゆる武力行使において、人間の指揮官が最終的な権限を保持することを義務付ける。エリッサ・スロットキン議員のAIガードレール法案は、AIが核兵器の発射を承認することを禁止し、自律システムが人間の許可なしに lethal攻撃を実行することを禁じる。キルステン・ギリブランド議員の安全かつ説明可能な軍事AI法案は、核兵器の配備、国内監視、完全自律型システムにおけるAIの利用を制限する。これらの法案は共和党が支配する議会では進展していない。

教皇の並行する呼びかけ

教皇レオ14世は今春の回勅において、AI制御兵器の禁止を訴え、AIシステムが「反人間的なビジョンを正常化する」危険性があると警告した。AI駆動型兵器は、高度なAIを保有する側にとって戦争の政治的コストを引き下げ、「戦争をより『実行可能』で人間の制御が及ばないものにする」リスクがあると述べた。教皇の介入とグテーレス氏の演説は、拘束力のある規制を求める国際的な圧力の高まりを反映しているが、正式な条約プロセスは進行していない。

市場のステーク

この紛争は防衛関連企業とAI企業に直接的な影響を及ぼす。2025年7月に締結されたAnthropicの2億ドル（約300億円）の国防総省契約は、フロンティアAIモデルを機密軍事ネットワークに統合する初の契約だった。トランプ大統領の禁止命令から数時間後、OpenAIが国防総省へのモデル供給を引き継いだが、この急ごしらえの取引はOpenAIのロボティクス責任者ケイトリン・カリノウスキーの辞任を招き、彼女は政策上のガードレールが「十分に定義されていない」と述べた。国防総省は6カ月の段階的廃止期間中、イラン紛争における作戦目標設定にClaudeを引き続き使用していると報じられているが、国防総省は公式に確認していない。

国連事務総長が兵器技術に関して同様の呼びかけを行った前回——2018年の完全自律型兵器禁止の推進——では、拘束力のある国際合意は得られなかった。今回の取り組みも同様の逆風に直面している。米国、ロシア、中国はいずれも国連の協議において殺人人型自律兵器への拘束力のある規制に反対している。しかし、Anthropic紛争は議論を抽象的原則から具体的な契約条件へと移行させ、上院の3法案は、AIが生死の決断をどこまで下せるかを定義する、これまでで最も本格的な米国の立法努力を示している。

本記事は情報提供のみを目的としており、投資助言を構成するものではない。