27歲Anthropic研究員因AI失控競賽辭職離場

一名27歲的Anthropic研究員曾協助訓練前沿模型，現已退出AI行業，並警告實驗室之間的競爭正將開發推向可能在2027年前失去控制的自我改進系統。

「這些公司實際上是在拿我們的生命下賭注，」Jacob Coxon在9月8日宣布辭職時如此表示，據《華爾街日報》報導。

Coxon在過去三年中曾於OpenAI從事預訓練研究，之後於今年稍早加入以安全導向著稱的Anthropic。他表示，自己不再相信任何一個組織在以足夠謹慎的態度推進那些能力提升速度快於人類理解或控制速度的系統。

他的離職時機對Anthropic而言相當敏感——該公司正在籌備首次公開募股（IPO），並以負責任的AI開發作為品牌核心。一名頂尖內部研究員公開質疑公司的安全底線，可能加劇監管審查，並促使投資者重新評估該實驗室如何在安全承諾與模型發布速度之間取得平衡。

此次辭職加入了多位資深AI人物離開頂尖實驗室並就商業進展與安全之間的平衡發出警告的名單。Coxon特別擔憂的是未來一代能夠自我改進的系統——他認為這項能力正以快於必要安全防護措施的速度被推進。他表示，預計到明年年底情況可能已經失控，並指出開發AI的人們真誠地相信這項技術可能在十年內滅絕所有人類。

為何以安全為先的實驗室仍在加速前行

Anthropic由前OpenAI員工創立，並以負責任的開發來定位其Claude模型，以此與更具商業驅動力的OpenAI作出區隔。Coxon的批評直擊這一身分立場：即使一個認真看待安全的實驗室，也可能因為競爭對手同樣在推進而感到必須持續前進。若一家公司放慢腳步，另一家就會加速。

這種動態並不僅限於美國。Coxon指出，與創新中國企業的競爭使安全妥協成為不可避免的趨勢。中國實驗室已縮小了前沿模型開發中的成本與能力差距，加大了美國企業快速推出新系統而非停下來增設安全措施的壓力。其結果是行業內部對於AI開發是否快於用以監控和管理這些系統的機制，出現了日益激烈的辯論。

Anthropic的IPO正面臨可信度考驗

對Anthropic而言，這一時機頗為尷尬。該公司正推進公開上市，其估值部分依賴於一個與OpenAI區隔開來的安全優先品牌。一名離職研究員質疑這一根基，可能引來監管機構更嚴格的檢視，並使公司向公開市場講述的故事變得更加複雜。

Coxon的答案並非要求個別實驗室承諾更多謹慎。他主張行業需要適用於各公司與各國之間的規則與協調——即政府干預或協調性放緩。若無此舉，他認為沒有任何公司能夠負責任地開發在廣泛任務範疇中超越人類的系統。

AI是否真的接近失控仍是一個具有爭議的問題。Coxon的警告反映了他對開發可能走向的評估，而非一個已確立的預測。但它加入了更廣泛的辯論：模型在承擔更長任務序列、人類干預更少的情況下，是否在足夠的監督下被部署。對於評估AI曝險的投資者而言，這一事件凸顯了一個難以定價的風險：競賽本身可能成為問題。

本文僅供資訊參考，不構成投資建議。