メタ、子供の安全を巡って裁判にかけられる：次世代のユーザーを本当に守れるのか？

Metaは、子供の安全に関する慣行を巡って、裁判で企業が利益のインセンティブとエンゲージメントを子供の保護よりも優先したという新たな告発が浮上し、責任を問われています。
ニューメキシコ州での画期的な裁判は今週5週目を終え、州の司法長官が3月5日に事件を休止しました。Metaが弁護を行い、陪審員が審議を開始する前に、さらに1週間、手続きが続く見込みです。
この事件の中心となるのは、司法長官の事務所が調査中に取得した社内文書で、FacebookやInstagramでの搾取に関する緊急の問題を指摘するMeta幹部間のメールが含まれています。
「データによると、Instagramは人間の密売のための主要な双方向マーケットプレイスになっていた」と、2019年にInstagramの責任者であるアダム・モッセリ氏に送られたメールの一節に書かれており、法廷で読み上げられました。
検察側は、Metaがプラットフォーム上の子供たちへの危害の検出と報告能力における遅延と欠陥を示す証拠を提示したと主張しています。これには、子供の性的搾取物の（子供の性的搾取の照片とビデオ）の配布や、子供の誘拐が含まれます。
ニューメキシコ州での裁判と、ロサンゼルスでの同時進行の裁判所での手続きの両方で、FacebookとInstagramの機能も、子供のメンタルヘルスへの影響について精査されています。原告は、これらのソーシャルネットワークが意図的に中毒性があり、自傷行為、自殺念慮、ボディディズムーフィアを助長するコンテンツを増幅させると主張しています。
弁護側は、司法長官の告発を「扇情的で、無関係で、気をそらす議論」であり、プラットフォームを安全にするためにあらゆる努力を払い、引き続き十代の若者向けの新しい保護機能を投資していると強く否定しています。陪審員はまた、モッセリ氏やMetaのCEOであるマーク・ザッカーバーグ氏を含む会社幹部から、会社の安全記録を擁護する証言も聞きました。彼らはまた、FacebookとInstagramの世界中で数十億人のユーザーがいるため、それらで発生するすべての犯罪や危害を防止することは不可能であると主張しました。
「Facebookを安全に保つために最善を尽くしていますが、それを保証することはできません」とモッセリ氏は述べました。彼は裁判の早い段階で法廷で再生されたビデオの証言の後、防衛のためにサンタフェに飛来しました。「安全性は私たちにとって非常に重要です。」
この訴訟は、ガーディアンが2023年に発表した2年間の調査に続いて起こりました。この調査では、Metaがプラットフォームを使用して子供を誘拐するのを阻止するのに苦労していることが明らかになりました。この調査は、訴訟の提出書類で何度も言及されています。
この2つの事件は、Metaにとって実存的な疑問を提起しています。次世代のユーザーを保護できますか？同社がソーシャルネットワークを生き延びさせ、成長させたいのであれば、新しい若いユーザーを採用する必要があります。Metaは、ソーシャルネットワークは他のどの代替手段よりも安全な環境を提供すると主張しています。ニューメキシコ州の司法長官は、テック企業がすでにそのサイトやアプリにある十代の若者を十分にサポートしていないと主張しており、ロサンゼルスでの裁判の原告も、Metaが製品を若い人々に中毒性のあるものとして設計していると主張しています。サンタフェでの裁判で発言した子供の安全を擁護する活動家は、Messengerの暗号化とMetaの子供虐待に関する報告の膨大なバックログが、子供の搾取の調査を妨げていると述べました。
事件の文書は、Metaが若い人々にプラットフォームにどれだけ望んでいるかを示しています。ある社内メールには、「マークは2017年の同社の最優先事項は十代の若者であると決定した」と書かれており、ザッカーバーグ氏を指しています。CEOは、アカウントを作成するためのカットオフである13歳未満のユーザーをターゲットにしているという告発を否定しましたが、年齢制限の施行は困難であると述べました。
Metaは、世界中の国々がオーストラリアの16歳未満のソーシャルメディアの禁止に追随している中、米国内での二重の判決に直面して、世界的な規制の監視にさらされています。世界で4番目に人口の多い国はすでに独自の年齢ゲートを導入しており、米国の3番目に大きな州も同様です。ニューメキシコ州とロサンゼルスでの裁判が、子供の性的虐待の誘拐とMetaに対する意図的な中毒に対する責任を認める判決で終わった場合、より多くの立法者が同社を必要なユーザーから切り離すようになる可能性があります。
Operation MetaPhile
ニューメキシコ州の事件の主な柱の1つは、司法長官の事務所による「Operation MetaPhile」と呼ばれる調査です。13歳未満の少女を装った覆面捜査官は、FacebookとInstagramの設計機能を通じて未成年者を検索した後、性的接触を求めて3人の容疑者から連絡を受けました。2人がギャラップ、ニューメキシコ州のモーテルで「少女」と会う計画を立てました。
捜査官は、性的活動に関する会話を開始しませんでした。州の裁判所提出書類によると、彼らのアカウントの1つは1日に数百の友達リクエストを受け、1か月以内に7,000人のフォロワーを獲得しました。この活動にもかかわらず、Metaはアカウントを停止せず、代わりにアカウントを収益化する方法とフォロワーを増やす方法に関する情報を提供しました。
検察側はまた、Instagramのアルゴリズムがペドフィリアを結び付けたり、子供の性的虐待物の販売業者を見つけるのに役立つという告発も提示しました。モッセリ氏はこれを「不公平」と呼んでいます。
「特に悪質な人物は、私たちのシステムを回避するために本当に積極的に働き、互いを見つけようとします」とモッセリ氏は述べました。
元幹部が元雇用主に対して証言しました。
「安全が優先事項ではないと私は絶対に信じていませんでした。それが私が会社を去った主な理由です」と、11年間会社で働き、2020年に去ったMetaの元バイスプレジデントのパートナーシップであるブライアン・ボランド氏は述べました。
暗号化されたMessengerが犯罪の証拠へのアクセスをブロック
ニューメキシコ州の裁判所は、MetaがFacebook Messengerを暗号化した決定により、捕食者が未成年者を誘拐し、子供の虐待画像を交換するために使用してきたツールとして、これらの犯罪の重要な証拠へのアクセスが遮断されていることを知らされました。
2023年12月、MetaはFacebook Messengerのエンドツーエンド暗号化を導入しました。エンドツーエンド暗号化は、送信者と意図された受信者のみがメッセージを表示できるように、受信時に復号化される読めないコードにメッセージを変換します。メッセージの内容はMetaのサーバーに保存されず、法執行機関によって表示できません。
Metaによって部分的に資金提供されている国立行方不明および搾取された子供センター（NCMEC）は、この動きを「子供の保護に対する壊滅的な打撃」と呼び、裁判所は、会社が暗号化を実装することから会社を説得しようと何度も会議を開いたと聞きました。
米国の本社を置くソーシャルメディア企業は、連邦法により、プラットフォーム上で児童性的虐待物（CSAM）、児童性的虐待の誘拐の明らかな違反、および未成年者の強要と誘拐の兆候をNCMECに報告する必要があります。NCMECは、クリーニングハウスとして機能し、米国および国際的な関連法執行機関にこれらの「サイバーチップ」レポートを転送します。
Messengerの暗号化により、「発生しているコンテンツやインタラクションへの可視性が奪われます。それは虐待が起こらなくなるという意味ではありません」と、搾取された子供部門のNCMECのエグゼクティブディレクターであるフォロン・マクナリティ氏は証言しました。
Metaは以前、Messengerの暗号化を、ユーザーがMessengerを使用中に経験する不適切なインタラクションや虐待を報告できるツールがあるため、安全であると擁護しました。プライバシー擁護者は、暗号化を法執行機関による監視に対する最も強力な保護として称賛しています。
「私たちは、高度なテクノロジーを使用して、プラットフォーム上の児童搾取コンテンツを積極的に特定しています。そして、2025年7月から9月にかけて、FacebookとInstagramから1000万点以上の児童搾取コンテンツを報告される前に積極的に発見しました」とMetaのスポークスパーソンは述べました。「また、私たちにコンテンツに関わる子供がいるかどうかをお知らせできる、アプリ内レポートツールも提供しています。」
彼女の証言の中で、マクナリティ氏は、子供が虐待やプラットフォーム上での脅威を報告しないというNCMECの研究に基づき、子供が虐待を報告することに依存することは、Messengerが暗号化された今、虐待をスキャンする代わりには十分ではないと強調しました。
モッセリ氏は、Instagramの自己報告メカニズムは、Meta自身の主張とは異なり、プラットフォーム上での虐待を技術的にスキャンすることと比較してあまり効果的ではないと述べました。彼は、Instagramのダイレクトメッセンジャーを暗号化する計画が放棄されたことも述べました。Instagramのメッセージを暗号化すると、プラットフォーム上で子供たちを安全に保つのがさらに難しくなると判断されたこともわかりました。
彼は次のように述べています。「テクノロジーを使用する方が、ユーザーからの報告よりも、悪質なコンテンツを見つけるのに効果的だとわかっています。」
報告のバックログとエラーが子供の安全に影響
陪審は、2017年5月から2021年7月までの間、Metaは潜在的な危害と虐待に関するサイバーチップレポートの報告のバックログを247,000件抱えており、NCMECに送信される前に数週間から数か月経っていました。子供の虐待に関する情報は時間的に重要であるため、これらのバックログにより、犯罪を防止したり、加害者を特定したりする機会が失われた可能性があります。
提出された証拠によると、他の数千件のサイバーチップレポートは、低優先度として不適切に分類されていました。同社は、遅延と誤分類の原因に関するNCMECには洞察を提供しませんでした。NCMECは、この重大な誤分類を子供の安全に影響を与える深刻な欠陥と見なしました。マクナリティ氏が証言しました。
法執行機関は、Metaのレポートの詳細の不足に不満を抱いており、その結果、さらなる措置を講じ、それらを調査することができませんでした。以前、ガーディアンに語った法執行官は、Metaがサイバーチップ報告システムに役に立たない「ゴミ」のヒントを大量に送信していると述べ、別の担当者は同様の点を裁判所での証言で述べました。他の大規模プラットフォームは、実行可能な情報を提供するのに優れた仕事をしていました。マクナリティ氏が証言しました。
2022年、国の61のインターネット犯罪者に対する子供（ICAC）タスクフォースの31が、Metaからの低優先度のサイバーチップレポートの一部を受信することをオプトアウトしました。これは、情報が実行可能であるほど品質が高くないと見なされたためです。
Metaのサイバーチップの品質の問題は「何年も続いており」、NCMECはそれが「より早く解決されることを期待していました」とマクナリティ氏は述べました。
「私たちの画像照合システムは、既知の児童搾取のコピーを大規模に見つけ、手動で行うには不可能な規模です。私たちは、コミュニティからの報告と、私たちの専門の子供の安全チームによる調査を通じて、新しい児童搾取コンテンツを検出するために取り組んでいます」とMetaのスポークスパーソンは述べました。「また、NCMECと法執行機関を支援し、レポートの優先順位付けを支援し、NCMECのケース管理ツールの構築を支援し、サイバーチップに緊急性を示すラベルを付けるなど、NCMECを継続的にサポートしています。」
ガーディアンは以前、AIによって生成されたチップがソーシャルメディア会社従業員によってレビューされていない場合、第四修正の保護のため、法執行機関が保証なしで開くことができないため、調査を遅らせる可能性があると報告しました。そのような事件に関与している弁護士は、この追加の手順が潜在的な犯罪の調査を遅らせる可能性があると述べています。
裁判では、2022年にMetaのNCMECへの1400万件以上のレポートが、人間によるレビューを受けていないことが明らかになりました。これは、NCMECまたは法執行機関が保証なしで開くことができないことを意味します。この未レビューのレポートの蔓延と、それによって法執行機関に与えられた影響は、Metaに何度も伝えられていました。
十代の若者、中毒、フィルター、自傷行為コンテンツがメンタルヘルスに影響
裁判で再生されたビデオの証言の中で、ザッカーバーグ氏は、子供を含む一部のユーザーがMetaのプラットフォームに中毒性があることを認めています。これは、ロサンゼルスで現在進行中の別の裁判の主題でもあります。
Instagramの社内文書は、13歳以上のポリシーにもかかわらず、Metaがその十代のユーザーとその問題についてどれだけ知っていたかを示しています。ロサンゼルスでの裁判で提出された2018年のInstagramのプレゼンテーションには、「十代の若者を獲得するには、10代の若者を若いうちに獲得しなければならない」と書かれています。別のプレゼンテーションでは、米国の10〜12歳の子供の約30％が写真共有アプリを使用していると推定されています。別のプレゼンテーションでは、10歳の子供がInstagramアプリに費やす時間を増やす目標が文書化されており、別のプレゼンテーションでは、11歳の子供が他の年齢層と比較してアプリにログインする頻度が文書化されています。
ニューメキシコ州での裁判では、Instagramで有害なコンテンツを大量に閲覧した結果、2017年に自殺した娘モリーの父親であるイアン・ラッセル氏が、州のために証言しました。
ラッセル氏は次のように述べています。「有害なコンテンツの逃れられない流れ、そのコンテンツが若い脳、若い人、14歳の若者に与える累積的な影響は、モリーを明るく、希望に満ちた若い人から、自分は負担であり問題であり、自分にとって最善のことが自分の命を終えることであると信じさせるものに変えました。」
裁判で提出された証拠には、ユーザーの容姿を変えることができるInstagramの拡張現実フィルターに関する社内コミュニケーションが含まれており、唇や目を大きくすることができます。元Metaの従業員がザッカーバーグ氏に宛てたメールは、これらの機能をユーザーが使用すると、自己イメージやメンタルヘルスの問題のリスクが高まると警告しました。
「2人の十代の娘の親として、そのうちの1人がボディディスモーフィアのために2回入院しているため、ソーシャルメディアを通じて彼女と彼女の仲間が経験するプレッシャーは、ボディイメージに関して非常に激しいと言えます」と元従業員は書きました。
2019年10月に拡張現実機能の一時的な禁止が課され、2020年中頃にザッカーバーグ氏によって解除されました。
「人々が自分自身を表現する能力を制限することは、常に親権的なものであり、そうすることに有害性があるというデータが何も見られず、そうしないことが有害であるというデータも見られず、十代の若者がこのタイプの表現を求めているという需要があるという事実を考慮すると、特にそうです」とCEOは、彼の決定について述べています。
「Metaは、美容整形、肌の色を変える、または極端な減量を促進するものを禁止しています」とMetaのスポークスパーソンは述べました。
裁判で提出された別の社内文書は、Metaが子供の性的化する可能性のある会社、WalmartやMatch Groupなどの会社からの広告を子供のコンテンツの横に掲載したと主張しています。
ザッカーバーグ氏は、裁判で、Metaが13歳未満のユーザーをターゲットにしているという告発を否定しましたが、アカウントを作成するための年齢制限は施行が困難であると述べました。