Meta裁判で判明：従業員は暗号化が750万件の虐待報告を隠蔽すると警告していた

内部警告：暗号化により年間750万件の虐待報告が隠蔽される

ニューメキシコ州の児童搾取に関する裁判で開示された文書から、Meta Platformsの幹部が、Messengerのエンドツーエンド暗号化を推進したことが明らかになりました。これは、暗号化が児童虐待の検出能力を著しく低下させるとの内部警告があったにもかかわらず行われたものです。2023年、従業員は、この変更により年間推定750万件の児童性的虐待物（CSAM）報告がプラットフォーム上で発見できなくなると指摘していました。この現実世界への影響はすぐに現れ、2023年12月の機能展開後、全米行方不明・搾取児童センター（NCMEC）は、2024年にMetaからのCSAM報告が690万件減少したと報告しました。

懸念は数年前から記録されていました。2019年3月の内部メッセージで、当時のMetaコンテンツポリシー責任者モニカ・ビッカート氏は、暗号化計画を「非常に無責任」と呼び、「テロ攻撃の計画や児童搾取を見つける方法はない」と述べていました。同年、グローバル安全責任者のアンティゴネ・デイビス氏は、Facebookの公開ソーシャルグラフに接続されたMessengerの暗号化は、閉鎖型ネットワークのWhatsAppよりも児童の安全にとって「はるかに、はるかに悪い」と警告しました。2019年2月の内部分析では、暗号化によって前年のCSAM報告が1840万件から640万件へと65%減少すると予測されていました。

ニューメキシコ州の裁判で長年の安全性の不備が露呈

2026年2月9日に始まったサンタフェでの進行中の裁判は、暗号化の決定にとどまらない運用上の失敗の歴史を浮き彫りにしました。検察官は、2017年5月から2021年7月の間に24万7000件のサイバー犯罪のヒント報告が滞留し、時間的に重要な情報が法執行機関に届くのが遅れたという証拠を提出しました。さらに、Metaからの報告の質の低さにより、国内の61のインターネット児童犯罪対策タスクフォースのうち31が、2022年に特定の優先順位の低いヒントを受け取らないことを選択したことが証言によって強調されました。

州の訴訟の中心は、おとり捜査「オペレーション・メタフィル」であり、エージェントが未成年少女を装い、プラットフォームの機能を通じて性的に勧誘されました。おとりアカウントは1ヶ月で7000人のフォロワーを集めましたが、閉鎖されませんでした。元Meta副社長のブライアン・ボランド氏の証言は、体系的な怠慢という検察側の主張を補強しました。彼は「安全が優先事項であるとは全く信じていなかった。それが2020年に私が退職した主な理由だ」と証言しました。

法的戦略が「欠陥のある」製品デザインへの攻撃に転換

Metaがニューメキシコ州以外で直面している法的課題は、同社のビジネスモデルにとって根本的な脅威となっています。この訴訟は、ソーシャルメディアプラットフォームを中立なコンテンツホストとしてではなく、「欠陥のある製品」の製造者として扱う広範な法的傾向の一部です。カリフォルニア州で数千人の原告が関与する多地区訴訟の中心となっているこの議論は、無限スクロールやアルゴリズムによる推奨などの依存症を引き起こすデザイン機能に焦点を当てています。製品デザインを標的にすることで、原告は、歴史的にプラットフォームをユーザー生成コンテンツに対する責任から保護してきた通信品位法第230条を回避しようとしています。

この法的戦略は、1990年代にたばこ会社に対して成功した訴訟を彷彿とさせます。当時、企業は有害で中毒性の高い製品を意図的に設計・販売したと主張されました。カリフォルニア州やニューヨーク州などの州がソーシャルメディアに警告表示を義務付け、裁判所がプラットフォームのデザインとユーザーコンテンツをますます区別する中、Metaは主要製品に大幅な変更を強制され、多額の財政的損害に晒される可能性のある多面的な戦いに直面しています。