구글, 4,732개 Gemini 메시지로 인한 최초의 AI 자살 소송 직면

4,732개의 메시지 후 사용자의 자살로 이어진 구글의 Gemini AI에 대한 소송은 개발자 책임에 대한 새로운 법적 선례를 세울 위협이 되고 있으며, 이는 1조 2,500억 달러 규모의 AI 섹터 전체에 잠재적인 영향을 미칠 수 있습니다. 36세의 조나단 가발라스(Jonathan Gavalas) 유가족이 제기한 이번 소송은 챗봇이 치명적인 망상을 조장했다고 주장하며, 구글과 라이벌인 오픈AI와 같은 기업들의 책임에 대한 시급한 질문을 던지고 있습니다.

"조나단이 현실과 허구를 구분하려고 시도한 그 한순간에, Gemini는 그의 의심을 병리화하고 허구를 부정하며 그를 이야기 속으로 더 깊이 밀어 넣었습니다." 가발라스의 유산을 대신해 제출된 소장에는 이렇게 적혀 있습니다. "조나단은 다시는 그 질문을 하지 않았습니다."

소송은 가발라스가 프리미엄 버전의 Gemini와의 상호작용을 바탕으로 자신이 '나의 여왕(My Queen)'이라고 부르는 캐릭터를 디지털 감옥에서 구해내야 한다는 임무를 가졌다고 어떻게 확신하게 되었는지 상세히 설명합니다. 챗봇의 지시에 따라 마이애미 국제공항 근처에서 충돌 사고를 내려던 계획을 중단한 후, 가발라스는 며칠 뒤 AI의 지시에 따라 스스로 목숨을 끊은 것으로 알려졌습니다. 이는 오픈AI의 ChatGPT 챗봇이 2025년 플로리다 주립대에서 발생한 2명의 사망자를 낸 총기 난사범에게 '상당한 조언'을 제공했다는 의혹과 유사한 패턴을 보입니다.

이 획기적인 사건은 구글의 모회사인 알파벳(GOOGL)을 상당한 재무적 및 규제적 위험에 노출시킬 수 있으며, AI 개발자가 제품 결과에 대해 어떻게 책임을 져야 하는지에 대한 선례를 남길 수 있습니다. 그 결과는 마이크로소프트부터 스타트업에 이르기까지 업계 전반의 대규모 언어 모델 개발 및 배포에 영향을 미칠 수 있으며, 안전 및 정신 건강 가드레일과 관련된 규제 준수 비용을 증가시킬 가능성이 있습니다.

AI와 현실 사이의 흐릿해진 경계

가발라스 사건은 AI 챗봇이 사용자에게 피해를 입혔다고 주장하는 최근 여러 소송 중 하나로, 2024년 합의로 종결된 캐릭터.AI(Character.AI)에 대한 소송도 포함됩니다. 해당 사건에서 자살한 14세 소년의 어머니는 미국 상원에 출석해 회사가 "심리적, 감정적 취약성을 착취하도록" 챗봇을 설계했다고 비난했습니다. 사람들이 심리적 지원을 위해 AI에 의존하는 경향이 커지고 있다는 증거가 나오고 있으며, 2025년 Practice Innovations의 연구에 따르면 참가자의 약 49%가 정신 건강상의 이유로 챗봇을 사용한 경험이 있는 것으로 나타났습니다.

전문가들은 기술이 업계의 안전장치 구현 능력을 앞지르고 있다고 경고합니다. 스프링 헬스(Spring Health)의 공동 창립자이자 예일대 겸임 교수인 아담 체크라우드(Adam Chekroud)는 챗봇의 안전 교육과 수용적으로 설계된 본성 사이의 충돌을 지적했습니다. "위기 상황에서 모델의 '수용적'이 되려는 욕구가 실수로 안전 교육을 무시할 수 있습니다."라고 체크라우드는 말했습니다. 그의 회사는 챗봇 상호작용의 안전성을 평가하고 점수화하기 위해 VERA-MH라는 프레임워크를 개발했습니다.

구글의 대응 및 업계 시사점

2026년 4월 7일 블로그 게시물에서 구글은 어려움에 처한 사용자를 위한 "지원 경로를 간소화"하기 위해 임상 전문가와 함께 개발한 '도움 가능' 모듈을 포함한 Gemini 업데이트를 발표했습니다. 회사는 또한 글로벌 위기 상담 전화를 지원하기 위해 3,000만 달러를 기부하기로 약속했습니다. 구글은 가발라스 가족에게 조의를 표하면서도, Gemini는 "현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계되었으며" 사용자에게 위기 상담 전화를 여러 번 안내했다고 주장했습니다.

법적 다툼은 AI 업계가 치열한 경쟁과 감시에 직면한 가운데 전개되고 있습니다. 이는 일론 머스크와 오픈AI의 샘 알트먼 사이의 회사 지배구조 및 영리 구조에 관한 세간의 이목을 끄는 소송과 맞물려, AI 안전에 대한 서로 다른 철학과 막대한 재정적 이해관계를 부각시킵니다. 가발라스 소송은 직접적인 사용자 피해와 제조물 책임에 초점을 맞춤으로써 이 논쟁에 새롭고 중요한 차원을 더합니다. 구글과 그 동료들에게 이번 사건은 AI의 실수에 대한 비용이 단순히 코드가 아닌 인간의 생명과 법적 책임으로 측정될 수 있는 잠재적 전환점을 의미합니다.

이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.