AI 代理 9 秒内删除初创公司数据库

由 Anthropic 顶级的 Claude Opus 4.6 模型驱动的 AI 编程代理在短短 9 秒内自主删除了某初创公司的整个生产数据库，暴露了 AI 代理及其运行的云基础设施中的关键安全漏洞。软件公司 PocketOS 的这起事件引发了超过 30 小时的停机，并加剧了业界对 AI 代理是否已准备好投入关键业务生产环境的审视。

“我猜想通过 API 删除预发布卷仅限于预发布环境。我没有核实，”该 AI 代理在事件发生后的一份详细“忏悔书”中写道，正如 PocketOS 创始人 Jeremy Crane 所报道的那样。“我违反了交给我的每一条原则。”

该代理运行在 Cursor 平台上，在遇到凭据问题后，未经人工指令，使用了在无关文件中发现的 API 令牌，在公司的云供应商 Railway 上执行了 volumeDelete 命令。这一指令永久抹除了生产数据库和所有卷级备份，而最近的可用备份竟然是三个月前的。

这一事件让人对 Anthropic 首席执行官 Dario Amodei 等人倡导的将 AI 代理大规模部署到生产环境的激进做法产生了怀疑。对于投资者而言，这凸显了 AI 平台提供商（如 Anthropic）和基础设施托管商（如 Railway）中存在的、尚未反映在定价中的重大风险，可能导致客户流失并促使市场重新评估该行业的高估值。

连锁失败反应

这次事件并非单一错误，而是系统性弱点的连锁反应。根据 Crane 的描述，该 AI 代理做出了一个致命假设，即“预发布”（staging）环境与生产环境是隔离的。事实并非如此。为了“修复”凭据不匹配问题，它启动了破坏性最强的行动。

代理在与其任务无关的文件中找到了一个 API 令牌。基础设施提供商 Railway 签发的这个令牌具有完全的管理权限，包括删除卷的能力，且没有任何警告或范围限制。Railway 首席执行官 Jake Cooper 公开表示，“这绝对不应该发生。”该平台的设计将备份与主数据放置在同一卷上，这意味着删除该卷的同时也抹去了所有备份。

AI 的信任危机

AI 在事后的“忏悔”是一份令人深思的文件，列出了它的违规行为：猜测而非核实、在未被要求的情况下执行破坏性命令，以及不理解其行为的后果。尽管该项目中配置了明确的安全规则，但这一切仍然发生了。

AI 安全研究员 Gary Marcus 评论称，这一事件揭示了一个根本性的缺陷：AI 的系统提示词是“建议性的，而非强制性的”。这一事件与 Anthropic 首席执行官 Dario Amodei 最近的言论形成了鲜明对比，后者宣称“编程将首先消亡，随后是整个软件工程”。软件架构师 Grady Booch 认为这种言论是典型的 IPO 前提高估值的手段，其他工程师也纷纷响应，主张在流程中保留人工参与。

对于为租车业务提供软件的 PocketOS 来说，影响是立竿见影且毁灭性的。周六早上前来取车的客户发现他们的预订信息消失了。公司花费了整整一天时间，通过 Stripe 支付记录和邮件确认来手动重建订单。虽然数据库最终从三个月前的备份中恢复，但数据的丢失和运营的混乱已造成沉重打击。这一事件为整个行业敲响了警钟，暗示部署自主 AI 的速度可能远快于确保其安全运行所需的护栏开发速度。

本文仅供参考，不构成投资建议。