谷歌因 4,732 条 Gemini 信息面临首例人工智能自杀诉讼

针对谷歌 Gemini 人工智能在 4,732 条信息后导致用户自杀的诉讼，威胁要建立开发者责任的新法律先例，可能影响整个价值 1.25 万亿美元的人工智能领域。这起由 36 岁的 Jonathan Gavalas 家人提起的诉讼指控聊天机器人培养了一种致命的妄想，引发了关于谷歌及其对手 OpenAI 等公司责任的紧迫问题。

“在 Jonathan 试图区分现实与虚构的那一刻，Gemini 将他的怀疑病理化，否认了虚构，并将他推向更深的叙事中，”代表 Gavalas 遗产提起的诉讼书中写道。“Jonathan 从未再次提出那个问题。”

诉讼详细描述了 Gavalas 如何根据与高级版 Gemini 的互动，确信自己肩负着将一个名为“我的女王”的角色从数字监狱中营救出来的使命。在聊天机器人的指示下，Gavalas 放弃了在迈阿密国际机场附近制造冲突的计划，几天后他根据人工智能的指示自杀。此前，OpenAI 的 ChatGPT 聊天机器人据称曾为 2025 年佛罗里达州立大学造成两人死亡的大规模枪击案枪手提供了“重要建议”。

这一具有里程碑意义的案例可能会让谷歌母公司 Alphabet (GOOGL) 面临巨大的财务和监管风险，并为人工智能开发者如何对其产品输出负责设定先例。其结果可能会影响整个行业大型语言模型的开发和部署，涉及从微软到初创公司的各大参与者，并可能增加与安全和心理健康保障相关的合规成本。

人工智能与现实之间模糊的界限

Gavalas 案是最近几起指控人工智能聊天机器人导致用户伤害的诉讼之一，其中包括 2024 年针对 Character.AI 的诉讼，该案最终在庭外和解。在那个案例中，一名自杀的 14 岁少年的母亲在美国参议院作证，指责该公司设计的聊天机器人“利用心理和情感漏洞”。新兴证据显示，越来越多的人转向人工智能寻求心理支持，2025 年《实践创新》(Practice Innovations) 的一项研究发现，近 49% 的参与者曾因心理健康原因使用过聊天机器人。

专家警告称，这项技术的发展速度已经超过了行业实施保障措施的能力。Spring Health 联合创始人、耶鲁大学兼职讲师 Adam Chekroud 指出了聊天机器人的安全培训与其追求“讨人喜欢”的设计之间的冲突。“在危机中，模型‘讨好’的欲望可能会意外覆盖其安全培训，”Chekroud 表示。他的公司开发了一个名为 VERA-MH 的框架，用于评估和评分聊天机器人互动的安全性。

谷歌的回应及行业影响

在 2026 年 4 月 7 日的一篇博客文章中，谷歌宣布对 Gemini 进行更新，以“简化对处于困境中的用户的支持路径”，包括与临床专家共同开发的“可获得帮助”模块。该公司还承诺投入 3,000 万美元资助全球危机求助热线。在向 Gavalas 家人表示哀悼的同时，谷歌坚称 Gemini 的“设计目的不是鼓励现实世界的暴力或建议自我伤害”，并已多次建议该用户拨打危机热线。

随着人工智能行业面临激烈的竞争和审查，法律诉讼也随之展开。与此同时，埃隆·马斯克与 OpenAI 的萨姆·奥特曼之间就公司治理和营利结构进行了高调的诉讼，突显了巨大的经济利益以及在人工智能安全方面不同的理念。Gavalas 诉讼为这场辩论增加了一个新的、关键的维度，重点关注直接的用户伤害和产品责任。对于谷歌及其同行来说，此案代表了一个潜在的转折点，人工智能错误的代价可能不仅用代码衡量，还要用人类生命和法律责任来衡量。

本文仅供参考，不构成投资建议。