聯合國秘書長呼籲禁止殺人機器人，三項法案劍指五角大廈AI使用

聯合國秘書長安東尼奧·古特雷斯週一呼籲國際法應禁止致命自主武器，並宣稱由機器在無人為控制下選擇目標是「道德上令人厭惡的」。此一提議正值Anthropic與五角大廈就AI用於自主武器的法律糾紛進入第五個月，以及美國參議院三項民主黨法案尋求規範軍事AI之際。

「機器自行選擇並攻擊目標、奪走生命——沒有人類的控制與判斷。這在道德上是令人厭惡的，」古特雷斯在日內瓦一場關於AI治理的演說中表示。「我們就直說吧：這就是殺人機器人。」這位聯合國秘書長敦促各國政府不要「等到悲劇發生才行動」，並補充道：「有些決定必須永遠由人類來做——沒有任何決定比奪走人類生命更需如此。」

這番言論重新引發了今年二月爆發的一場爭議：當時Anthropic拒絕了五角大廈要求其Claude AI模型可用於「任何合法用途」（包括自主武器與國內大規模監控）的要求。五角大廈將Anthropic認定為國家安全的供應鏈風險——這是首次有美國公司被貼上此一標籤——隨後川普總統下令聯邦機構停止使用Anthropic的技術。目前兩家聯邦法院正在審理相關訴訟；加州一名法官在三月認定該認定「可能既違法又武斷且反覆無常」，因而暫時阻止了五角大廈的懲罰措施。

這場爭議所暴露出的治理真空，已引起立法機關的關注。三名民主黨參議員今年已提出針對軍事AI的法案：參議員亞當·希夫提出的《HALO法案》要求人類指揮官必須保留對涉及自主武器系統的任何武力使用的最終權力；參議員艾莉莎·斯洛特金提出的《AI護欄法案》將禁止AI授權發射核武器，並禁止自主系統在未經人類授權的情況下執行致命打擊；參議員克爾斯滕·吉利布蘭德提出的《安全且負責任的軍事AI法案》則限制AI在核武器部署、國內監控及完全自主系統中的使用。這些法案在共和黨控制的國會中尚未取得進展。

教宗的平行呼籲

教宗利奧十四世在今年春天的教宗通諭中，亦主張應禁止AI控制的武器，並警告AI系統可能「將一種反人類的觀點正常化」。他表示，AI驅動的武器可能降低擁有先進AI國家的戰爭政治成本，使「戰爭變得更加『可行』，也更不受人類控制」。教宗的介入與古特雷斯的演說，反映出國際社會對具有約束力的限制措施施加了日益增大的壓力，儘管目前尚未啟動任何正式的條約進程。

市場影響

這場爭議對國防承包商與AI公司具有直接影響。Anthropic於2025年7月簽署的2億美元五角大廈合約，是首度將前沿AI模型整合至機密軍事網絡的合約。在川普發布禁令數小時後，OpenAI便介入向五角大廈提供其模型，但這筆倉促達成的交易導致OpenAI機器人負責人凱特琳·卡利諾夫斯基辭職，她表示政策護欄「未充分界定」。根據五角大廈尚未正式確認的報導，在為期六個月的逐步淘汰期間，五角大廈仍持續在伊朗衝突中使用Claude進行作戰目標鎖定。

聯合國秘書長上一次對武器技術發出類似呼籲——2018年推動禁止完全自主武器——最終並未促成任何具有約束力的國際協議。當前的推動同樣面臨阻力：美國、俄羅斯與中國在聯合國會談中都反對針對致命自主武器實施具有約束力的限制。但Anthropic的爭議已將辯論從抽象原則轉向具體合約條款，而參議院的三項法案則代表美國迄今為止最嚴肅的立法努力，試圖界定AI在哪些領域可以——以及不可以——做出生死攸關的決定。

本文僅供參考，不構成投資建議。