내부 경고, 암호화가 750만 건의 연간 학대 보고서를 숨길 것이라고 지적
뉴멕시코주 아동 착취 재판에서 기밀 해제된 문건에 따르면, 메타 플랫폼스 경영진은 메신저에 종단 간 암호화를 추진했으며, 내부에서는 이 조치가 아동 학대 탐지 능력을 크게 저해할 것이라는 경고가 있었습니다. 2023년 직원들은 이러한 변경으로 플랫폼에서 연간 약 750만 건의 아동 성착취물(CSAM) 보고서가 발견되지 않을 것이라고 지적했습니다. 실제 영향은 빠르게 나타났습니다. 2023년 12월 기능 출시 이후, 실종 및 착취 아동을 위한 국립 센터(NCMEC)는 2024년 메타로부터의 CSAM 보고서가 690만 건 감소했다고 보고했습니다.
이러한 우려는 몇 년 전부터 기록되었습니다. 2019년 3월 내부 메시지에서 당시 메타의 콘텐츠 정책 책임자 모니카 비커트(Monika Bickert)는 암호화 계획을 "매우 무책임하다"고 지적하며, "테러 공격 계획이나 아동 착취를 찾을 방법이 없다"고 말했습니다. 같은 해, 글로벌 안전 책임자 안티곤 데이비스(Antigone Davis)는 페이스북의 공개 소셜 그래프와 연결된 메신저를 암호화하는 것이 폐쇄형 네트워크인 왓츠앱보다 아동 안전에 "훨씬, 훨씬 더 나쁠 것"이라고 경고했습니다. 2019년 2월의 내부 분석은 암호화가 전년도 CSAM 보고서를 1,840만 건에서 640만 건으로 65% 감소시킬 것으로 예측했습니다.
뉴멕시코주 재판, 수년간의 안전 결함 폭로
2026년 2월 9일에 시작된 산타페에서의 현재 진행 중인 재판은 암호화 결정 외에도 운영상의 실패 이력을 드러냈습니다. 검찰은 2017년 5월부터 2021년 7월 사이에 24만 7천 건의 사이버 팁 보고서가 적체되어, 잠재적으로 시급한 정보가 법 집행 기관에 제때 전달되지 않았다는 증거를 제시했습니다. 추가 증언에서는 메타의 보고서 품질이 낮아 미국 내 61개 아동 대상 인터넷 범죄 태스크포스 중 31개가 2022년에 특정 우선순위가 낮은 팁을 받지 않기로 결정했다고 강조했습니다.
주정부 사건의 핵심은 "오퍼레이션 메타필(Operation MetaPhile)"이라는 잠복 수사로, 요원들이 미성년 소녀를 가장하여 플랫폼 기능을 통해 성적으로 유인당한 경우였습니다. 한 잠복 계정은 한 달 만에 7,000명의 팔로워를 모았지만 폐쇄되지 않았습니다. 전 메타 부사장 브라이언 볼랜드(Brian Boland)는 검찰의 체계적인 방치 주장을 강화하는 증언을 했습니다. 그는 "안전이 우선순위라고는 전혀 생각하지 않았고, 그것이 2020년에 제가 회사를 떠난 주된 이유입니다"라고 증언했습니다.
법적 전략, '결함 있는' 제품 디자인 공격으로 전환
메타가 뉴멕시코주 외에도 직면한 법적 도전은 그 사업 모델에 근본적인 위협이 됩니다. 이 사건은 소셜 미디어 플랫폼을 중립적인 콘텐츠 호스트가 아니라 "결함 있는 제품" 제조업체로 보는 광범위한 법적 추세의 일부입니다. 수천 명의 원고가 참여하는 캘리포니아주 다중 지구 소송의 핵심인 이 주장은 무한 스크롤 및 알고리즘 추천과 같은 중독성 있는 디자인 기능에 초점을 맞춥니다. 제품 디자인을 목표로 함으로써 원고는 역사적으로 플랫폼을 사용자 생성 콘텐츠에 대한 책임으로부터 보호해 온 통신 품위법 제230조를 우회하려 합니다.
이 법적 전략은 1990년대 담배 회사들을 상대로 한 성공적인 소송과 유사합니다. 당시 소송은 회사들이 유해하고 중독성 있는 제품을 의도적으로 설계하고 마케팅했다고 주장했습니다. 캘리포니아와 뉴욕과 같은 주들이 이제 소셜 미디어에 경고 라벨을 의무화하고, 법원이 플랫폼 디자인과 사용자 콘텐츠를 점점 더 구분함에 따라, 메타는 핵심 제품에 상당한 변화를 강요하고 막대한 재정적 손해에 노출될 수 있는 다각적인 전투에 직면해 있습니다.