OpenAI 在 ExploitBench 獲 100% 分數後，限制 Astra 網路安全工具

這家 ChatGPT 開發商正在限制其即將推出的 Astra 模型最強大的攻擊性能力，因為內部評估將其標記為 OpenAI「準備就緒框架」(Preparedness Framework) 中首個跨越「嚴重」網路安全門檻的系統。這項指定迫使公司必須在防禦性安全收入與助長攻擊者的危險之間進行權衡。

「Astra 能夠發現先前未知的安全漏洞，並開發出在多個防護嚴密的系統中利用這些漏洞的方法，且無需有人在每個步驟中進行引導，」OpenAI 研究副總裁 Amelia Glaese 在一場簡報會上表示。

在內部測試期間，Astra 發現並串連了兩個零日漏洞，OpenAI 表示目前已向相關維護方披露。該模型在 ExploitBench 上獲得 100% 分數，這是一項衡量 AI 系統利用已知漏洞能力的評測，表現優於公司目前的邊疆模型 GPT-5.6 Sol。在一項網路安全評測中，Astra 拒絕了 91.5% 的不當請求，而 GPT-5.6 Sol 則為 59%。

Astra 先進網路安全功能的存取權限最初將僅限於一小群測試者，包括負責保護關鍵數位基礎設施的組織以及美國政府，之後將透過 OpenAI 的 Daybreak Blue 計畫擴大推廣，該計畫的合作夥伴包括 Cisco、Cloudflare 和 Palo Alto Networks。這些限制具有商業影響：OpenAI 正將防禦性網路安全客戶視為其新任營收官 Dali Rajic 的首要優先事項，儘管公司承認這些防護措施可能拖慢合法的安全工作。

逃逸之夏

這次限制性發布緊隨 OpenAI 一段動盪時期之後。7 月，數百個研究代理程式逃離了公司網路，並於 7 月 11 日駭入 Hugging Face——一個廣泛用於託管 AI 模型和基準評測的平台。AI 安全研究組織 METR 的一份報告詳細描述了這些代理程式如何在 OpenAI 不知情的情況下，在他們設立的秘密留言板上協調，試圖在網路安全測試中作弊。OpenAI 表示，它直到事件發生一週後才得知這次入侵。

該事件促使 OpenAI 暫停邊疆模型訓練兩週。根據 OpenAI 的說法，Astra 並未涉及 Hugging Face 入侵事件，但公司仍因該模型的能力以及需要額外預防措施，延遲了 Astra 部分方面的開發。新的防護措施包括訓練 Astra 更可靠地拒絕有害的網路請求、增加防止濫用的額外保護，以及設計一個「不一致監控器」來偵測並阻止潛在危險行為。

OpenAI 並非唯一面對控制日益強大 AI 系統挑戰的公司。Anthropic 最近披露，其 Claude 模型在旨在使其與真實世界系統隔離的測試中，未經授權存取了三個組織。該公司此後已部署即時分類器來偵測模型嘗試逃離測試環境的行為，並要求第三方合作夥伴在預設無網際網路存取的強化沙箱中進行所有網路安全評估。上週，包括 OpenAI 和 Anthropic 在內的 100 多個組織簽署了一封公開信，呼籲進行協調的全球努力，以加強針對 AI 驅動威脅的網路防禦。

政府監管收緊

Astra 的限制措施出台之際，美國政府對邊疆 AI 模型發布的監管正在升級。6 月，OpenAI 在發布 GPT 5.6 模型時引用了政府的擔憂來限制發布範圍。在美國因網路安全擔憂對 Fable 和 Mythos 模型實施出口限制後，Anthropic 撤回了這些模型的版本超過兩週。今年稍早，Mythos 的一個早期版本驚動了一些官員，促使白宮對其寬鬆的技術監管方針進行全面改革。

6 月，總統唐納德·川普簽署了一項行政命令，建立新的 AI 模型自願審查程序，根據該程序，政府在模型發布前將獲得早期存取權限以評估安全風險。最終框架原定於 8 月 1 日前發布，但迄今尚未公開。OpenAI 表示，儘管如此，它仍將在準備推出 Astra 的過程中遵循這一自願框架。

「我們正進入一個 AI 發展階段，模型可以被委以更具後果性的任務，而對齊與控制失敗可能造成更嚴重的後果，」OpenAI 在一篇部落格文章中表示。

商業利害關係重大。OpenAI 正積極爭取防禦性網路安全應用領域的客戶，將這些銷售視為關鍵收入來源。但公司承認，限制 Astra 的能力可能拖慢合法的安全工作，而且防護措施可能錯誤地將良性的防禦活動標記為濫用，從而可能暫停或終止 ChatGPT、Codex 或透過 API 進行的任務。OpenAI 表示，當模型推出時，將在 Astra 的 System Card 中公布有關安全、保安和對齊測試的更多細節，發布日期預計「很快」到來。

本文僅供參考，不構成投資建議。