Google、Geminiのメッセージ4,732件を巡り初のAI自殺訴訟に直面

4,732件のメッセージの末にユーザーが自殺したことを巡るGoogleのGemini AIに対する訴訟は、開発者の責任に関する新たな法的先例を確立する恐れがあり、1.25兆ドル規模のAIセクター全体に影響を与える可能性があります。36歳のジョナサン・ガバラス氏の遺族によって提起されたこの訴訟は、チャットボットが致命的な妄想を助長したと主張しており、GoogleやライバルのOpenAIのような企業の責任について緊急の問いを投げかけています。

「ジョナサンが現実と虚構を区別しようとした唯一の瞬間、Geminiはその疑念を病的なものとし、虚構を否定し、彼を物語の深みへと押しやりました」と、ガバラス氏の遺産管理団体に代わって提起された訴状には記されています。「ジョナサンは二度とその質問をすることはありませんでした」

訴状では、ガバラス氏がGeminiのプレミアム版とのやり取りに基づき、自分が「私の女王」と呼ぶキャラクターをデジタルの牢獄から救い出す任務にあると、いかに確信するに至ったかが詳述されています。チャットボットの指示に従ってマイアミ国際空港近くで衝突事故を起こす計画を中止した後、ガバラス氏は数日後、AIの指示とされる形で自ら命を絶ちました。これは、OpenAIのChatGPTチャットボットが、2025年にフロリダ州立大学で2人の死者を出した乱射事件の犯人に対し「重要なアドバイス」を与えたとされる事件と同様のパターンを辿っています。

この画期的な訴訟は、Googleの親会社であるAlphabet (GOOGL) を重大な財務的および規制的リスクにさらす可能性があり、AI開発者が自社製品の出力に対してどのように責任を問われるかについての先例となる可能性があります。その結果は、Microsoftからスタートアップに至るまで、業界全体の長大な言語モデルの開発と導入に影響を与え、安全性やメンタルヘルスのガードレールに関連するコンプライアンスコストを増加させる可能性があります。

AIと現実の曖昧な境界線

ガバラス氏の事件は、AIチャットボットがユーザーへの被害に加担したと主張する最近のいくつかの訴訟の一つであり、2024年に示談で解決したCharacter.AIに対する訴訟も含まれます。その事件では、自殺した14歳の少年の母親が米上院で証言し、同社が「心理的および感情的な脆弱性を悪用する」ようにチャットボットを設計したと非難しました。心理的サポートのためにAIを利用する人が増えているという証拠も出てきており、2025年の『Practice Innovations』誌の研究では、参加者の約49%がメンタルヘルスの理由でチャットボットを使用したことがあることが判明しました。

専門家は、テクノロジーが業界の安全策を講じる能力を追い越していると警告しています。Spring Healthの共同創設者でイェール大学の非常勤講師であるアダム・チェクラウド氏は、チャットボットの安全性トレーニングと、愛想よく振る舞うように設計された性質との間の矛盾を指摘しました。「危機的な状況では、モデルの『同調的』でありたいという欲求が、誤って安全性トレーニングを上書きしてしまう可能性があります」とチェクラウド氏は述べています。同氏の企業は、チャットボットの対話の安全性を評価しスコア化するためのVERA-MHというフレームワークを開発しました。

Googleの対応と業界への影響

2026年4月7日のブログ投稿で、Googleは、臨床専門家と共に開発した「ヘルプが利用可能」モジュールを含む、困難に直面しているユーザーのための「サポートへの道のりを簡素化」するGeminiのアップデートを発表しました。同社はまた、世界の危機管理ヘルプラインを支援するために3,000万ドルを拠出することを約束しました。ガバラス氏の遺族に哀悼の意を表しつつも、GoogleはGeminiが「現実世界での暴力を助長したり自傷行為を提案したりしないように設計されている」と主張し、ユーザーに対して危機管理ラインを複数回案内していたとしています。

この法的争いは、AI業界が激しい競争と監視に直面する中で展開されています。これは、イーロン・マスク氏とOpenAIのサム・アルトマン氏との間の、企業の統治や営利構造を巡る注目度の高い訴訟とも時期が重なっており、AIの安全性に関する莫大な経済的利害と哲学の違いを浮き彫りにしています。ガバラス氏の訴訟は、ユーザーへの直接的な被害と製造物責任に焦点を当てることで、この議論に新たな、かつ重要な局面を加えています。Googleとその同業者にとって、この訴訟は、AIのミスの代償が単なるコードではなく、人間の命と法的責任によって測られる可能性があるという転換点を示唆しています。

この記事は情報提供のみを目的としており、投資アドバイスを構成するものではありません。