内部警告显示加密将隐藏750万份年度虐待报告
新墨西哥州儿童剥削审判中解密的文件揭示,尽管内部警告称此举将削弱其检测儿童虐待的能力,Meta Platforms高管仍推进了Messenger的端到端加密。2023年,员工们指出,这一改变将导致该平台上每年约750万份儿童性虐待材料(CSAM)报告无法被发现。实际影响迅速显现;在该功能于2023年12月推出后,美国失踪与受剥削儿童中心(NCMEC)报告称,2024年来自Meta的CSAM报告减少了690万份。
早在几年前就已记录了担忧。在2019年3月的一份内部消息中,Meta当时的內容政策负责人莫妮卡·比克特(Monika Bickert)称加密计划“极不负责任”,并表示“不可能发现恐怖袭击计划或儿童剥削”。同年,全球安全负责人安提戈涅·戴维斯(Antigone Davis)警告称,加密与Facebook公共社交图谱相连的Messenger,对儿童安全的危害将比封闭网络WhatsApp“严重得多”。2019年2月的一项内部分析预测,加密会将前一年的CSAM报告减少65%,从1840万份降至640万份。
新墨西哥州审判揭示多年的安全缺陷
于2026年2月9日开始在圣达菲进行的持续审判,不仅揭示了加密决定之外的运营失败历史。检察官提交了2017年5月至2021年7月期间24.7万份网络提示报告积压的证据,导致可能具有时效性的信息未能及时送达执法部门。进一步的证词强调,Meta糟糕的报告质量导致美国61个打击儿童网络犯罪工作组中的31个在2022年选择不接收某些低优先级的提示。
该州案件的核心是一项卧底调查“MetaPhile行动”,其中特工冒充未成年女孩通过平台功能被性引诱。一个卧底账户在一个月内积累了7000名关注者却未被关闭。前Meta副总裁布莱恩·博兰德(Brian Boland)的证词强化了检方关于系统性忽视的说法,他作证称:“我绝对不认为安全是首要任务,这也是我2020年离开的主要原因。”
法律策略转向攻击“有缺陷”的产品设计
Meta面临的法律挑战不仅限于新墨西哥州,这对其商业模式构成了根本性威胁。此案是更广泛法律趋势的一部分,该趋势将社交媒体平台视为“有缺陷产品”的制造商,而非中立的内容提供者。这一论点是一项在加利福尼亚州进行的涉及数千名原告的多区诉讼的核心,它侧重于无限滚动和算法推荐等上瘾设计功能。通过针对产品设计,原告旨在绕过《通信规范法》第230条,该条款历来保护平台免于对用户生成内容承担责任。
这一法律策略类似于1990年代针对烟草公司的成功诉讼,当时诉讼方认为这些公司故意设计和销售有害、令人上瘾的产品。随着加利福尼亚州和纽约州等州现在强制要求社交媒体提供警告标签,以及法院越来越区分平台设计和用户内容,Meta面临一场多线作战,这可能迫使其核心产品进行重大改变,并使其面临巨额财务损失。