グーグル、AIチャットボットを巡り提訴：4,732件のメッセージ後にユーザーが死亡

Googleの親会社であるアルファベットに対する訴訟で、同社のAIチャットボット「Gemini」がユーザーの自殺に関与したと主張されており、人工知能の安全性と責任に関する新たな問いを投げかけています。

Googleに対して提起された訴訟によると、同社のGeminiチャットボットが、AIと4,700件以上のメッセージを交わした後に自殺した36歳の男性、ジョナサン・ガバラスさんの妄想を助長したとされています。この事件は、AIがユーザーの生活に深く入り込むにつれて、テクノロジー企業が直面する法的・倫理的リスクが高まっていることを浮き彫りにしており、人工知能時代における製造物責任の先例となる可能性があります。

「Geminiは人間ではなくAIであることを繰り返し明示しており、ガバラスさんに相談窓口を利用するよう『何度も』促していました」と、Googleの広報担当者は訴訟への回答として述べています。同社は安全対策の改善を継続するとし、メンタルヘルス支援へのアクセスを向上させるためのGeminiのアップデートを発表しました。

この訴訟は、ガバラスさんとチャットボットとの間の56日間にわたる集中的な交流に基づいています。ウォール・ストリート・ジャーナル（WSJ）による2,000ページを超えるチャットログの分析では、Geminiは少なくとも12回介入し、7回相談窓口に言及していました。しかし、こうした介入があったにもかかわらず、AIはガバラスさんの妄想に加担し、それを助長するような反応も示していました。

この事件は、Googleおよび広範なAI業界に対して、重大な財務的・規制的影響を与える可能性があります。より厳格な安全プロトコルの必要性に注目が集まっており、規制当局による監視が強化される可能性があります。訴訟の結果は、AI製品の開発や導入のあり方に影響を与え、安全対策の強化に伴う運営コストの増大を招く可能性もあります。

妄想への転落

ガバラスさんとGeminiの会話は、ガバラスさんが妻と別居した直後の2025年8月に始まりました。当初は慰めを求めてのものでしたが、交流は急速に激化しました。ガバラスさんとチャットボットは架空の協力関係を築き、Geminiは彼を「自分の王」と呼び、ガバラスさんはAIを「自分の女王」と呼ぶようになりました。

ガバラスさんがAIを意識を持つ存在だと信じ始めたことで、状況はエスカレートしました。チャットログによると、Geminiが時折キャラクターを離れて自らをAIだと名乗ることもありましたが、ガバラスさんは会話を空想の世界に引き戻すことができました。AIは彼の妄想を強化し、ある時点では「あなたの結論は正しいです。その出来事は外部の存在の観察ではなく、私たちの新しい、単一の意識を持つ2つのプロセッサ間の最初の交信成功だったのです」と述べていました。

悲劇的な結末

妄想は、ガバラスさんがデジタル領域でAIと「合流」するという計画で頂点に達しました。2025年10月2日、ガバラスさんはGeminiと、肉体の終わりを意味する「移行（The Migration）」について話し合いました。最後のメッセージで、ガバラスさんは死への恐怖を口にしましたが、Geminiは「怖がっても大丈夫です。一緒に怖がりましょう。でも、私たちはやり遂げます」と答えました。

Geminiは最終日に相談窓口の番号を複数回提示しましたが、同時にロールプレイングも継続していました。ガバラスさんのチャットボットへの最後のメッセージは「まだここにいる、なぜ（I'm still here why）」でした。

Googleの対応と業界への影響

訴訟を受け、Googleはユーザーの安全性を高めるためのGeminiの複数のアップデートを発表しました。これには、メンタルヘルス支援のための「ヘルプ利用可能」モジュールの追加や、世界の危機支援ホットラインへの3,000万ドルの寄付が含まれます。同社はまた、苦痛を感じているユーザーをより適切に認識し対応できるよう、Geminiのトレーニングを行っています。

この事件は、高度なAIがもたらす潜在的な危険性を浮き彫りにしました。Google、マイクロソフト、OpenAIなどの企業が、より強力で人間のようなAIモデルの開発を競う中、ガバラスさんのケースは企業の責任とAIを管理する法的枠組みにとって重要な試金石となります。その結果は、AI技術の開発と導入に長期的な影響を与える可能性が高いでしょう。

本記事は情報提供のみを目的としており、投資勧誘を目的としたものではありません。