內部警告顯示加密將隱藏750萬份年度虐待報告
新墨西哥州兒童剝削審判中解密的文件揭示,儘管內部警告稱此舉將削弱其檢測兒童虐待的能力,Meta Platforms高管仍推進了Messenger的端到端加密。2023年,員工們指出,這一改變將導致該平臺上每年約750萬份兒童性虐待材料(CSAM)報告無法被發現。實際影響迅速顯現;在該功能於2023年12月推出後,美國失蹤與受剝削兒童中心(NCMEC)報告稱,2024年來自Meta的CSAM報告減少了690萬份。
早在幾年前就已記錄了擔憂。在2019年3月的一份內部消息中,Meta當時的內容政策負責人莫妮卡·比克特(Monika Bickert)稱加密計劃“極不負責任”,並表示“不可能發現恐怖襲擊計劃或兒童剝削”。同年,全球安全負責人安提戈涅·戴維斯(Antigone Davis)警告稱,加密與Facebook公共社交圖譜相連的Messenger,對兒童安全的危害將比封閉網路WhatsApp“嚴重得多”。2019年2月的一項內部分析預測,加密會將前一年的CSAM報告減少65%,從1840萬份降至640萬份。
新墨西哥州審判揭示多年的安全缺陷
於2026年2月9日開始在聖達菲進行的持續審判,不僅揭示了加密決定之外的運營失敗歷史。檢察官提交了2017年5月至2021年7月期間24.7萬份網路提示報告積壓的證據,導致可能具有時效性的資訊未能及時送達執法部門。進一步的證詞強調,Meta糟糕的報告品質導致美國61個打擊兒童網路犯罪工作組中的31個在2022年選擇不接收某些低優先級的提示。
該州案件的核心是一項臥底調查“MetaPhile行動”,其中特工冒充未成年女孩透過平臺功能被性引誘。一個臥底帳戶在一個月內累積了7000名追蹤者卻未被關閉。前Meta副總裁布萊恩·博蘭德(Brian Boland)的證詞強化了檢方關於系統性忽視的說法,他作證稱:“我絕對不認為安全是首要任務,這也是我2020年離開的主要原因。”
法律策略轉向攻擊“有缺陷”的產品設計
Meta面臨的法律挑戰不僅限於新墨西哥州,這對其商業模式構成了根本性威脅。此案是更廣泛法律趨勢的一部分,該趨勢將社交媒體平台視為“有缺陷產品”的製造商,而非中立的內容提供者。這一論點是一項在加利福尼亞州進行的涉及數千名原告的多區訴訟的核心,它側重於無限滾動和算法推薦等上癮設計功能。透過針對產品設計,原告旨在繞過《通信規範法》第230條,該條款歷來保護平臺免於對使用者生成內容承擔責任。
這一法律策略類似於1990年代針對煙草公司的成功訴訟,當時訴訟方認為這些公司故意設計和銷售有害、令人上癮的產品。隨著加利福尼亞州和紐約州等州現在強制要求社交媒體提供警告標籤,以及法院越來越區分平台設計和使用者內容,Meta面臨一場多線作戰,這可能迫使其核心產品進行重大改變,並使其面臨巨額財務損失。