Cảnh báo nội bộ cho thấy mã hóa sẽ che giấu 7,5 triệu báo cáo lạm dụng hàng năm
Các tài liệu được công bố từ phiên tòa về lạm dụng trẻ em ở New Mexico tiết lộ rằng các giám đốc điều hành của Meta Platforms đã thúc đẩy mã hóa đầu cuối trên Messenger mặc dù có cảnh báo nội bộ rằng động thái này sẽ làm suy yếu khả năng phát hiện lạm dụng trẻ em của họ. Vào năm 2023, các nhân viên đã chỉ ra rằng thay đổi này sẽ khiến ước tính 7,5 triệu báo cáo tài liệu lạm dụng tình dục trẻ em (CSAM) hàng năm trên nền tảng không thể bị phát hiện. Tác động thực tế đã nhanh chóng xuất hiện; sau khi tính năng này được triển khai vào tháng 12 năm 2023, Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC) đã báo cáo số lượng báo cáo CSAM từ Meta giảm 6,9 triệu vào năm 2024.
Những lo ngại đã được ghi nhận từ nhiều năm trước. Trong một tin nhắn nội bộ tháng 3 năm 2019, Monika Bickert, khi đó là trưởng bộ phận chính sách nội dung của Meta, đã gọi kế hoạch mã hóa là "vô trách nhiệm" và nói rằng "không có cách nào để tìm ra kế hoạch tấn công khủng bố hoặc lạm dụng trẻ em". Cùng năm đó, Antigone Davis, Trưởng bộ phận An toàn Toàn cầu, đã cảnh báo rằng việc mã hóa Messenger, vốn được kết nối với biểu đồ xã hội công khai của Facebook, sẽ "tồi tệ hơn rất nhiều" đối với an toàn trẻ em so với WhatsApp mạng đóng. Một phân tích nội bộ từ tháng 2 năm 2019 đã dự đoán rằng mã hóa sẽ làm giảm 65% báo cáo CSAM trong năm trước, từ 18,4 triệu xuống còn 6,4 triệu.
Phiên tòa New Mexico phơi bày nhiều năm thiếu sót về an toàn
Phiên tòa đang diễn ra ở Santa Fe, bắt đầu vào ngày 9 tháng 2 năm 2026, đã làm sáng tỏ lịch sử các thất bại trong hoạt động ngoài quyết định mã hóa. Các công tố viên đã trình bằng chứng về sự tồn đọng của 247.000 báo cáo mẹo về tội phạm mạng từ tháng 5 năm 2017 đến tháng 7 năm 2021, làm chậm trễ việc cung cấp thông tin có thể nhạy cảm về thời gian cho cơ quan thực thi pháp luật. Lời khai tiếp tục nhấn mạnh việc chất lượng báo cáo kém từ Meta đã khiến 31 trong số 61 lực lượng đặc nhiệm Tội phạm Internet Chống Trẻ em của quốc gia từ chối nhận một số mẹo ưu tiên thấp vào năm 2022.
Vụ án của tiểu bang tập trung vào một cuộc điều tra bí mật, "Chiến dịch MetaPhile", nơi các đặc vụ đóng giả làm các cô gái vị thành niên bị dụ dỗ tình dục thông qua các tính năng của nền tảng. Một tài khoản bí mật đã tích lũy 7.000 người theo dõi trong một tháng mà không bị đóng cửa. Lời kể của cựu phó chủ tịch Meta Brian Boland đã củng cố câu chuyện của bên công tố về sự bỏ bê có hệ thống, ông làm chứng rằng: "Tôi tuyệt đối không tin rằng an toàn là ưu tiên hàng đầu, đó là lý do chính khiến tôi rời đi" vào năm 2020.
Chiến lược pháp lý chuyển sang tấn công thiết kế sản phẩm 'lỗi'
Những thách thức pháp lý mà Meta phải đối mặt không chỉ ở New Mexico, mà còn đại diện cho một mối đe dọa cơ bản đối với mô hình kinh doanh của họ. Vụ án này là một phần của xu hướng pháp lý rộng lớn hơn coi các nền tảng mạng xã hội không phải là nhà cung cấp nội dung trung lập mà là nhà sản xuất "sản phẩm lỗi". Lập luận này, trọng tâm của một vụ kiện đa quận ở California liên quan đến hàng nghìn nguyên đơn, tập trung vào các tính năng thiết kế gây nghiện như cuộn vô hạn và đề xuất thuật toán. Bằng cách nhắm vào thiết kế của sản phẩm, các nguyên đơn nhằm mục đích bỏ qua Điều 230 của Đạo luật Chuẩn mực Truyền thông, vốn đã bảo vệ các nền tảng khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo ra trong lịch sử.
Chiến lược pháp lý này tương tự như vụ kiện thành công chống lại các công ty thuốc lá vào những năm 1990, trong đó lập luận rằng các công ty đã cố tình thiết kế và tiếp thị một sản phẩm độc hại, gây nghiện. Với việc các bang như California và New York hiện đang bắt buộc phải dán nhãn cảnh báo cho mạng xã hội, và các tòa án ngày càng phân biệt giữa thiết kế nền tảng và nội dung người dùng, Meta đối mặt với một trận chiến đa mặt có thể buộc họ phải thay đổi đáng kể các sản phẩm cốt lõi của mình và khiến họ phải chịu những thiệt hại tài chính đáng kể.