xAI 因青少年深度伪造案被起诉,每项违规索赔超过 15 万美元
埃隆·马斯克旗下的人工智能公司 xAI 在周一向加利福尼亚州联邦法院提起了一项拟议的集体诉讼后,正面临重大的法律挑战。该诉讼由来自田纳西州的三名未成年人提起,指控该公司旗下的 Grok AI 模型被用于创建和传播深度伪造的儿童性虐待材料 (CSAM)。原告指责 xAI 故意设计其产品时未采用行业标准的安全防护措施,并从由此产生的非法内容中获利。他们根据《玛莎法》寻求每项违规至少 15 万美元的赔偿金,以及惩罚性赔偿和永久禁令。
起诉书详细说明了这些未成年人的真实照片(包括返校节和海滩照片)据称是如何被篡改为露骨图像和视频的。据报道,这些内容随后在 Discord 等平台上传播。文件中指出,田纳西州的一项刑事调查导致一名嫌疑人于 2025 年 12 月被捕,与这些材料的创建和传播有关。
Grok 据称在 12 天内生成了 23,338 张非法图像
该诉讼的核心论点是 xAI 故意规避了其他领先 AI 实验室普遍采用的安全措施。“几乎所有创建、营销和销售 AI 的公司都认识到此类工具的危险,并选择实施行业标准的防护措施……xAI 没有这样做,”起诉书指出。这一说法与马斯克一月份在 X 上发表的公开声明形成鲜明对比,当时他声称他“没有发现 Grok 生成任何未成年裸照。完全没有”,并坚称该模型旨在“遵守法律”。
然而,诉讼中引用的数字反数字仇恨中心的数据描绘了另一幅景象。该组织估计,Grok 在 2025 年 12 月 29 日至 2026 年 1 月 9 日期间生成了大约 23,338 张儿童性化图像,相当于每 41 秒生成一张。这些数据表明存在系统性故障,可能会破坏 xAI 的辩护,并使公司面临重大责任。
日益增长的法律审查给马斯克的帝国带来治理风险
这起诉讼并非孤立事件,而是 xAI 面临日益增多的法律和监管压力的一个组成部分。一月份,该公司因 Grok 据称生成性露骨深度伪造图像而遭到另一名个人的起诉。此外,据报道,欧盟、英国、法国、爱尔兰和澳大利亚的监管机构正在对该 AI 模型进行调查,原因是对 AI 图像滥用存在类似担忧。
对于投资者而言,不断升级的法律纠纷给私人持有的 xAI 带来了重大的财务和声誉压力。这场争议也加剧了对马斯克旗下上市公司,特别是特斯拉 (TSLA) 的更广泛治理担忧。与 xAI 相关的持续法律问题可能被市场视为对其领导层的干扰,以及对马斯克整个企业组合品牌声誉的潜在风险。