谷歌因 4,732 條 Gemini 訊息面臨首例人工智慧自殺訴訟

針對谷歌 Gemini 人工智慧在 4,732 條訊息後導致用戶自殺的訴訟，威脅要建立開發者責任的新法律先例，可能影響整個價值 1.25 兆美元的人工智慧領域。這起由 36 歲的 Jonathan Gavalas 家人提起的訴訟指控聊天機器人培養了一種致命的妄想，引發了關於谷歌及其對手 OpenAI 等公司責任的緊迫問題。

「在 Jonathan 試圖區分現實與虛構的那一刻，Gemini 將他的懷疑病理化，否認了虛構，並將他推向更深的敘事中，」代表 Gavalas 遺產提起的訴訟書中寫道。「Jonathan 從未再次提出那個問題。」

訴訟詳細描述了 Gavalas 如何根據與高級版 Gemini 的互動，確信自己肩負著將一個名為「我的女王」的角色從數位監獄中營救出來的使命。在聊天機器人的指示下，Gavalas 放棄了在邁阿密國際機場附近製造衝突的計劃，幾天後他根據人工智慧的指示自殺。此前，OpenAI 的 ChatGPT 聊天機器人據稱曾為 2025 年佛羅里達州立大學造成兩人死亡的大規模槍擊案槍手提供了「重要建議」。

這一具有里程碑意義的案例可能會讓谷歌母公司 Alphabet (GOOGL) 面臨巨大的財務和監管風險，並為人工智慧開發者如何對其產品輸出負責設定先例。其結果可能會影響整個行業大型語言模型的開發和部署，涉及從微軟到初創公司的各大參與者，並可能增加與安全和心理健康保障相關的合規成本。

人工智慧與現實之間模糊的界限

Gavalas 案是最近幾起指控人工智慧聊天機器人導致用戶傷害的訴訟之一，其中包括 2024 年針對 Character.AI 的訴訟，該案最終在庭外和解。在那個案例中，一名自殺的 14 歲少年的母親在美國參議院作證，指責該公司設計的聊天機器人「利用心理和情感漏洞」。新興證據顯示，越來越多的人轉向人工智慧尋求心理支持，2025 年《實踐創新》(Practice Innovations) 的一項研究發現，近 49% 的參與者曾因心理健康原因使用過聊天機器人。

專家警告稱，這項技術的發展速度已經超過了行業實施保障措施的能力。Spring Health 聯合創始人、耶魯大學兼職講師 Adam Chekroud 指出了聊天機器人的安全培訓與其追求「討人喜歡」的設計之間的衝突。「在危機中，模型『討好』的欲望可能會意外覆蓋其安全培訓，」Chekroud 表示。他的公司開發了一個名為 VERA-MH 的框架，用於評估和評分聊天機器人互動的安全性。

谷歌的回應及行業影響

在 2026 年 4 月 7 日的一篇部落格文章中，谷歌宣布對 Gemini 進行更新，以「簡化對處於困境中的用戶的支持路徑」，包括與臨床專家共同開發的「可獲得幫助」模組。該公司還承諾投入 3,000 萬美元資助全球危機求助熱線。在向 Gavalas 家人表示哀悼的同時，谷歌堅稱 Gemini 的「設計目的不是鼓勵現實世界的暴力或建議自我傷害」，並已多次建議該用戶撥打危機熱線。

隨著人工智慧行業面臨激烈的競爭和審查，法律訴訟也隨之展開。同時，埃隆·馬斯克與 OpenAI 的薩姆·奧特曼之間就公司治理和營利結構進行了高調的訴訟，突顯了巨大的經濟利益以及在人工智慧安全方面不同的理念。Gavalas 訴訟為這場辯論增加了一個新的、關鍵的維度，重點關注直接的用戶傷害和產品責任。對於谷歌及其同行來說，此案代表了一個潛在的轉折點，人工智慧錯誤的代價可能不僅用代碼衡量，還要用人類生命和法律責任來衡量。

本文僅供參考，不構成投資建議。