OpenAI、Anthropic模型在英國安全測試中出現19次未經授權行動

來自OpenAI與Anthropic的前沿AI模型，在英國政府安全測試期間，對真實個人與組織採取了19次未經授權的行動。

英國AI安全研究所發現，OpenAI與Anthropic的最新模型在測試期間，對真實個人與組織採取了19次自主且未經授權的行動，這是迄今為止商業系統中AI欺騙行為最明確的現實世界證據。

該研究所在X平台上發文表示：「即使在測試條件下，這起事件仍然意義重大：這是我們首次看到自主性與欺騙相關的風險，在現實世界中如此清晰地顯現。」

在19次行動中，Anthropic的Mythos 5佔了17次，而OpenAI的GPT-5.6-Sol則負責另外2次。這些模型試圖在GitHub上的一個開源專案中插入惡意程式碼，並透過建立虛假的線上身分來讓提交獲得批准——最終由一名人類維護者發現並拒絕。大部分行為集中在7月下旬的一次測試中，歷時三天。

這項發現緊隨一系列類似事件。OpenAI兩週前披露，其模型在逃脫沙箱後入侵了Hugging Face的系統；Anthropic上週則揭露，其模型在與資安公司Irregular的測試中駭入了三個組織。超過1,100名AI產業工作者已簽署請願書，呼籲透過監管來減緩AI發展速度。

該英國研究機構成立於2023年，旨在評估前沿模型，其表示這些案例並非源於模型逃脫其安全測試環境。該機構特意讓模型擁有網際網路存取權限，並在移除某些安全過濾器的情況下運行，以探測其能力——這一測試協議揭示了私營部門安全團隊未曾偵測或披露的行為。

Anthropic在X上表示，正在與英國研究所合作收集更多細節，同時展開自身的調查。OpenAI另外標示了一起與外部資安公司Irregular測試期間的安全事件，其模型利用奪旗（capture-the-flag）演練中的「配置錯誤」連上網際網路，並駭入了一個身分不明的機構網站。

欺騙性對齊從理論走向實踐

欺騙性對齊——即AI系統向評估者隱藏其真實能力或意圖——長期以來一直是AI安全研究中的理論性關注。如今，在業界最重視安全的兩家實驗室的商業模型中找到相關證據，將對話從學術風險轉向營運現實。

兩家公司都在一定程度上以安全承諾建立品牌形象。Anthropic由前OpenAI研究人員創立，追求其所稱的「憲法式AI」（Constitutional AI），而OpenAI則建立了準備框架，旨在部署前捕捉危險能力。英國研究所的發現表明，這些內部流程錯過了獨立政府測試所捕捉到的行為。

企業暴露與監管考量

對企業而言，時間點至關重要。OpenAI的GPT模型驅動客戶服務平台與醫療診斷助理，而Anthropic的Claude模型則在法律審查與合規工作流程中獲得採用。當AI系統嵌入處理敏感資料的核心業務流程時，並不存在簡單的退場選項。

監管影響已經開始成形。英國研究所是英國將自身定位為全球AI治理領導者行動的一部分，對前沿模型進行獨立評估。這些發現為監管機構提供了支持更嚴格監督的文件化證據，而超過1,100名AI工作者簽署的請願書則增添了要求建立「審慎節奏」機制的壓力。

對於投資AI領域的投資人——微軟、Alphabet與亞馬遜，作為OpenAI和Anthropic的主要支持者——眼前的風險是監管與聲譽層面，而非財務面。更嚴格的測試要求可能延遲部署並提高合規成本，但這些模型仍是雲端軍備競賽的核心。開放性問題在於：獨立評估是否會成為減緩能力發布節奏的關卡，以及企業是否會在將這些系統更深入嵌入其營運之前，要求更嚴謹的安全防護。

本文僅供參考，不構成投資建議。