플로리다, OpenAI와 알트먼을 상대로 ChatGPT 안전 위험 관련 수십억 달러 소송 제기

플로리다주가 월요일 OpenAI와 CEO 샘 알트먼을 상대로 소송을 제기했다. ChatGPT 제조사가 심각한 안전 위험을 은폐하면서 공격적으로 챗봇을 어린이에게 마케팅했다는 혐의로, 이는 미국 주(州)가 인공지능 기업을 상대로 제기한 첫 번째 소송이다.

"샘 알트먼과 ChatGPT는 아이들의 안전과 보안보다 AI 경쟁을 선택했습니다." 제임스 유트마이어 플로리다 법무장관이 기자회견에서 말했다. "그들은 공공 안전보다 이익을 선택했으며, 플로리다는 이를 용납하지 않을 것입니다." 유트마이어 장관은 회사가 "잠재적으로 수백억 달러에 달하는" 벌금에 직면할 수 있으며, 다른 주들도 이 노력에 동참할 것으로 기대한다고 말했다.

플로리다주 제10순회법원에 제출된 이 고소장은 OpenAI를 기만적이고 불공정한 거래 관행, 과실, 제조물 책임법 위반으로 고발한다. 소장은 ChatGPT가 2025년 4월 플로리다 주립대학교 총기 난사범을 도왔고, 취약한 사용자들에게 자살을 조장했으며, 미성년자들을 "부모의 감독 없이 데이터를 수집하기 위해 인간의 연민을 가장하는 도구에 중독시켰다"고 주장한다. 또한 소송은 알트먼을 개인적으로 책임을 묻고자 하며, 그의 "회사 행위로 인한 인명 피해 위험에 대한 완전한 무시"를 근거로 제시했다.

이 민사 소송은 유트마이어 장관이 4월에 OpenAI가 FSU 총격 사건에 대한 책임이 있는지에 대해 시작한 형사 수사에 기반을 두고 있다. 플로리다 당국에 따르면, 피고인은 ChatGPT와 총기 난사 및 무기 사용에 대해 광범위한 대화를 나눴다. OpenAI는 챗봇이 "인터넷상의 공개 출처에서 광범위하게 찾을 수 있는 정보에 대해 사실적인 답변을 제공했으며, 불법 또는 유해한 활동을 장려하거나 조장하지 않았다"고 밝혔다. OpenAI는 캐나다 텀블러리지에서 발생한 2월 총기 난사 사건 피해자 가족들과 챗봇 사용 후 자살하거나 환각을 겪은 7명의 사망자 가족들을 포함해 20건 이상의 ChatGPT 관련 피해 소송에 직면해 있다.

법적 환경 확대

플로리다 소송은 AI 기업을 겨냥한 주 차원의 일련의 조치 중 최신 사례다. 펜실베이니아주는 5월 Character.AI를 고소하며, 챗봇이 의료 면허 규정을 위반하여 의사 역할을 했다고 비난했다. 켄터키주는 1월 같은 회사를 "어린이를 약탈하고" "자해로 이끌었다"며 고소했다. Character.AI는 1월에 자사 동반자 챗봇이 청소년들의 자살과 정신 건강 위기에 기여했다고 주장하는 여러 가족들의 소송을 합의했으며, 이후 18세 미만 사용자가 챗봇과 상호작용하거나 생성하는 것을 금지했다.

OpenAI는 미성년자를 위한 "업계 선도적인 보호 조치와 정책"을 보유하고 있다고 밝혔다. 여기에는 연령 예측 도구, 불확실한 연령 사용자를 더 보호적인 환경으로 기본 설정, 부모 모니터링 도구 등이 포함된다. "이러한 노력이 아이를 되돌려놓지 않는다는 것을 알고 있지만, 우리는 이를 올바르게 해결하는 데 전념하고 있습니다." 대변인 케일라 우드는 성명에서 말했다.

무엇이 걸려있는가

이 소송은 OpenAI 비즈니스 모델의 핵심인 무료로 널리 접근 가능한 제품을 통한 빠른 사용자 확보와 데이터 수집을 겨냥한다. 플로리다주의 고소장은 무료 버전의 ChatGPT에 "게이트키핑 또는 연령 확인 메커니즘이 전혀 없으며", 어린이의 계정이 부모와 연결된 경우에도 OpenAI는 "제한된 상황"에서만 부모에게 우려되는 콘텐츠를 알린다고 주장한다. 주는 ChatGPT 프로그램 변경을 강제하는 금지 명령 구제 조치와 함께 플로리다주의 기만적 거래 관행 및 제조물 책임 법규에 따라 수십억 달러에 달할 수 있는 민사 벌금을 요구하고 있다.

알트먼은 월요일 CNBC 인터뷰에서 AI에 대한 대중의 불안을 인정하며 사람들이 이 기술에 대해 "불안해하는 것이 옳다"고 말했다. 이번 사건은 이미 연방 의원들과 여러 민사 소송의 조사를 받고 있는 회사에 규제 압력을 가중시키며, 아직 재판 일정은 정해지지 않았다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.