Anthropic CEO 投入 3.5 億美元，力推強制性 AI 測試

Dario Amodei 希望政府在危險的 AI 模型接觸公眾之前予以封鎖——他正投入 3.5 億美元來推動這項行動。

Anthropic 的執行長 Dario Amodei 於 6 月 11 日提議，針對運算能力超過 10^25 FLOPs 或 AI 營收達 5 億美元以上的前沿 AI 系統，應實施強制性的第三方測試，並賦予政府權力，若模型在四大類別中構成災難性風險，即可阻止其部署。

「前沿 AI 模型，就像飛機一樣，應該被要求接受技術測試與審計，如果它們未能達到高標準的安全性，就應該以公共安全威脅為由，阻止或逆轉其發布，」Amodei 在一篇題為〈AI 指數政策〉的部落格文章中表示。

該框架的目標涵蓋網路安全、生物武器、失控風險以及自動化研發風險。Anthropic 承諾投入 2 億美元用於政策研究，並提供 1.5 億美元獎學金來支援此倡議，該倡議適用於任何達到運算或營收門檻的公司——包括 OpenAI、Google DeepMind 和 Meta Platforms 在內。

這項提案是大型 AI 公司執行長所支持的最積極監管框架，也使 Anthropic 與川普政府的自願測試方針形成鮮明對比。美國總統唐納·川普於 6 月 2 日簽署一項行政命令，賦予情報社群在模型測試中更強的角色，但並未要求在部署前取得預先批准。

Amodei 呼籲制定具有約束力的監管之際，其自家公司的 Claude Mythos Preview 模型也展現了日益嚴峻的威脅格局。Anthropic 表示，Mythos 在數小時內就建構出 16 個針對 Firefox 和 Windows 的有效漏洞利用程式，其中包括在 18 小時內完成的 8 個完整的 Windows 核心權限提升漏洞利用鏈。創建這些漏洞利用程式的成本為 15,700 美元的 API 點數，約合每條攻擊鏈 2,000 美元。

「N-day 漏洞利用的瓶頸現在僅需幾千美元和 API 存取權限，這大幅擴大了有能力發動 N-day 攻擊的人員範圍，」Anthropic 在另一份報告中表示。該公司敦促各組織從「N-day」修補時程轉向「N-hour」，並警告隨著漏洞利用成本趨近於零，工業控制系統、醫療設備和物聯網裝置面臨更高的風險。

除了安全測試之外，Amodei 還提出了經濟措施，以應對 AI 驅動的潛在勞動力替代問題，包括全民資本帳戶、工資保險和雇主留任激勵措施。參議員伯尼·桑德斯上週提議對頂尖 AI 公司的股票發行徵收 50% 的稅，使政府獲得投票權，而川普數天前則提出與領先 AI 公司建立未具體說明的利潤共享合作關係。

Amodei 也呼籲改革監管機構以加速 AI 驅動的創新，建議美國食品藥物管理局可以透過模擬試驗和合成對照組，更快地批准 AI 發現的藥物。他支持民主國家在 AI 治理方面繼續進行國際合作，並主張全面禁止國內部署全自主武器系統。

「我們現在，在全球範圍內，需要啟動一個緩慢且搖搖欲墜的政策機制，來應對那些從現在開始將會以驚人速度加劇的風險與機遇，」Amodei 寫道。

根據彼得森國際經濟研究所的數據，在 2025 年 5 月升級之後，美國對中國商品的平均關稅目前約為 19%。人口普查局的數據顯示，2024 年 9 月之前的 10% 關稅上調，在六個月內使雙邊貿易額減少了 630 億美元——這預示著，如果 AI 模型測試要求造成類似障礙，監管摩擦將如何重塑跨境技術流動。

本文僅供資訊參考，不構成投資建議。