メタ、子供の安全を巡って裁判：次世代のユーザーを本当に守れるか？

Metaは、子供の安全に関する慣行について、裁判で企業が利益のインセンティブとエンゲージメントを子供の保護よりも優先したという新たな告発が浮上し、責任を問われています。
ニューメキシコ州での画期的な裁判は今週5週目を終え、州の司法長官が3月5日に事件を休廷しました。Metaが弁護を行い、陪審員が評議を開始する前に、さらに1週間、手続きが続く予定です。
この事件の中心となるのは、司法長官の事務所が調査中に取得した社内文書で、FacebookやInstagramでの搾取に関する緊急の問題を指摘するMeta幹部間のメールが含まれています。
「データによると、Instagramは人間の密売のための主要な二面的なマーケットプレイスになっていた」と、2019年にInstagramの責任者であるアダム・モッセリ氏に送られたメールの一節に書かれており、法廷で読み上げられました。
検察側は、Metaがプラットフォーム上の子供たちへの危害（児童性的虐待物の配布、児童人身売買など）の検出と報告における遅延や不備を実証する証拠を提示したと主張しています。
ニューメキシコ州での裁判と、ロサンゼルスでの同時進行の裁判所手続きの両方で、FacebookとInstagramの機能は、子供たちのメンタルヘルスへの影響についても精査されています。原告は、これらのソーシャルネットワークが意図的に中毒性があり、自傷行為、自殺念慮、ボディディズムーフィアを助長するコンテンツを増幅させると主張しています。
弁護側は、司法長官の告発を「扇情的で、無関係で、気をそらす議論」であり、プラットフォームの安全を確保するためにあらゆる努力を払い、引き続き十代の若者向けの新しい保護機能を投資していると強く否定しています。陪審員は、モッセリ氏やMetaのCEOであるマーク・ザッカーバーグ氏を含む企業の幹部からも証言を聞いています。彼らはまた、FacebookとInstagramの世界中で数十億人のユーザーがいるため、それらで発生するすべての犯罪や危害を防止することは不可能だと主張しています。
「Facebookを安全に保つために最善を尽くしていますが、それを保証することはできません」とモッセリ氏は、裁判の早い段階で法廷でビデオ証言が上映された後、証人としてサンタフェに飛来し、こう述べました。「安全は私たちにとって非常に重要です。」
この訴訟は、ガーディアンが2023年に発表した2年間の調査に続き起こされました。この調査では、Metaがプラットフォームを使用して子供を人身売買するのを阻止するのに苦労していることが明らかになりました。この調査は、訴訟の提出書類の中で何度も言及されています。
この2つの訴訟は、Metaにとって実存的な疑問を提起しています。次世代のユーザーを保護できるのでしょうか？同社がソーシャルネットワークを生き延びさせ、成長させたいのであれば、新しい若いユーザーを採用する必要があります。Metaは、ソーシャルネットワークは他の代替手段よりも安全な環境を提供すると主張しています。ニューメキシコ州の司法長官は、テック企業がすでにそのサイトやアプリにある十代の若者を十分にサポートしていないと主張しています。ロサンゼルスでの裁判の原告も、Metaが製品を若い人々のために中毒性のあるものとして設計していると主張しています。サンタフェでの裁判で発言した子供の安全を擁護する活動家は、Messengerの暗号化とMetaの児童虐待報告の膨大なバックログが、児童搾取の調査を妨げていると述べています。
事件の文書は、Metaがどれだけ若い人たちをプラットフォームに望んでいるかを示しています。ある社内メールには、「マークは2017年の同社の最優先事項は十代の若者であると決めた」と書かれており、ザッカーバーグ氏を指しています。CEOは、アカウントを作成するためのカットオフである13歳未満のユーザーをターゲットにしているという告発を否定しましたが、年齢制限の施行は困難であると述べています。
Metaは、世界中の国々がオーストラリアの16歳未満のソーシャルメディア禁止に追随する中、米国内での二重の判決に直面して、世界的な規制の監視にさらされています。世界で4番目に人口の多い国はすでに独自の年齢ゲートを導入しており、米国の3番目に大きな州も同様です。ニューメキシコ州とロサンゼルスでの裁判が、児童性的虐待の人身売買とMetaに対する意図的な中毒性の責任を認める判決に終わった場合、より多くの立法府が同社を必要なユーザーから切り離すことを検討する可能性があります。
Operation MetaPhile
ニューメキシコ州の事件の主な柱の1つは、司法長官の事務所による「Operation MetaPhile」と呼ばれる調査です。13歳未満の少女を装った覆面捜査官は、FacebookとInstagramの設計機能を通じて未成年者を検索した後、3人の容疑者から性的な目的で誘拐されるという連絡を受けました。2人は、ニューメキシコ州のギャラップにあるモーテルで「少女」と会う計画を立てました。
捜査官は、会話を一切開始していません。州の裁判所提出書類によると、彼らのアカウントの1つは1日あたり数百のフレンドリクエストを受け、1か月で7,000人のフォロワーを獲得しました。にもかかわらず、Metaはこのアカウントを停止せず、代わりにアカウントを収益化し、フォロワーを増やす方法に関する情報を提供しました。
州はまた、Instagramのアルゴリズムがペドフィリアを結び付けたり、児童性的虐待物の販売者を助けたりしているという告発も提示しました。モッセリ氏はこれを「不公平」と呼んでいます。
「特に悪質な人物は、私たちのシステムを回避するために本当に積極的に働き、互いを見つけようと私たちのプラットフォーム上で努力していると思います」とモッセリ氏は述べています。
元幹部が元雇用主に対して証言しました。
「安全が優先事項ではないと私は絶対に信じていませんでした。それが私が会社を去った主な理由です」と、11年間同社で働き、2020年に退職したMetaの元バイスプレジデントのパートナーシップ担当のブライアン・ボランド氏は述べています。
暗号化されたMessengerが犯罪の証拠へのアクセスを遮断
ニューメキシコ州の裁判所では、MetaがFacebook Messengerを暗号化した決定により、捕食者が未成年者を誘拐し、児童虐待画像を交換するために使用してきたツールとして、これらの犯罪の重要な証拠へのアクセスが遮断されたことが明らかになりました。
2023年12月、MetaはFacebook Messengerのメッセージングプラットフォームにエンドツーエンドの暗号化を導入しました。暗号化により、送信者と意図された受信者のみがメッセージを表示できるようになり、受信時に復号化される読めないコードに変換されます。メッセージの内容はMetaのサーバーに保存されず、法執行機関によって表示できません。
Metaが部分的に資金を提供しているNational Center of Missing & Exploited Children (NCMEC)は、この動きを「児童保護に対する壊滅的な打撃」と呼び、裁判所では、同センターの代表者がMetaに暗号化を実装するのを思いとどまらせるために何度かMetaと会合したことが明らかになりました。
米国の本社を置くソーシャルメディア企業は、連邦法により、プラットフォーム上で児童性的虐待物（CSAM）、児童性的虐待の人身売買の明らかな違反、および未成年者の強要と誘拐の兆候を、NCMECに報告する必要があります。NCMECは、クリアリングハウスとして機能し、これらの「サイバーチップ」レポートを米国および国際的な関連法執行機関に転送します。
Messengerの暗号化により、「コンテンツまたはインタラクションがどのように行われているかについての可視性が奪われます。それは虐待が起こらなくなったという意味ではありません」とNCMECの搾取された子供部門の執行ディレクターであるフォロン・マクナリティ氏は証言しました。
Metaは、2024年にMessengerの暗号化が実装された後、NCMECに690万件のレポートが少なくなったと報告しました。これは前年と比較して減少です。
Metaは以前、Messengerの暗号化を、ユーザーがMessengerを使用中に経験する不適切なインタラクションや虐待を報告できるツールがあるため、安全であると擁護しています。プライバシーの擁護者は、暗号化を法執行機関による監視に対する最も強力な保護として称賛しています。
「私たちは、高度なテクノロジーを使用して、プラットフォーム上の児童搾取コンテンツを積極的に特定しています。そして、2025年7月から9月にかけて、FacebookとInstagramから1000万点以上の児童搾取コンテンツを報告される前に積極的に発見しました」とMetaのスポークスパーソンは述べています。「また、コンテンツに子供が関与している可能性があることを私たちに知らせるためのアプリ内レポートツールを提供しています。」
彼女の証言の中で、マクナリティ氏は、Messengerが暗号化されたため、子供たちが虐待や脅迫を報告しないというNCMECの研究の結果、Messengerが暗号化された後、子供たちが虐待や脅迫を報告しないことが多かったと強調しました。
モッセリ氏は、Instagramの自己報告メカニズムは、Meta自身の主張とは異なり、プラットフォーム上の虐待を検出するための同社のテクノロジーのスキャンほど効果的ではないと述べています。彼は、暗号化されたInstagramダイレクトメッセンジャーの計画が放棄されたことも語りました。また、Instagramのメッセージを暗号化すると、プラットフォーム上の子供たちを安全に保つのがさらに難しくなると判断されたこともわかりました。
彼は次のように述べています。「テクノロジーを使用する方が、ユーザーからの報告よりも、悪質なコンテンツを見つけるのに効果的だとわかっています。」
報告の遅延とエラーが子供の安全に影響
陪審は、2017年5月から2021年7月までの間、Metaは潜在的な危害と虐待に関するサイバーチップレポートの報告の遅延247,000件があり、NCMECに送信される際に数週間から数か月遅れていたことを知りました。子供の虐待に関する情報は時間的に重要であるため、これらの遅延により、犯罪を防止したり、加害者を特定したりする機会が失われた可能性があります。
提出された証拠によると、他の数千件のサイバーチップレポートは、優先度が低いと不適切に分類されていました。同社は、遅延と誤分類の原因に関する洞察をNCMECに提供していません。NCMECは、この重大な誤分類を子供の安全に影響を与える深刻な欠陥と見なしました。マクナリティ氏は証言しました。
法執行機関は、Metaのレポートの詳細の不足に不満を抱いており、その結果、さらなる措置を講じることができず、それらを調査することができなかったことを陪審は知りました。以前、ガーディアンは、Metaがサイバーチップの報告システムに役に立たない「ゴミ」のヒントを大量に送信していると報告しています。ある捜査官は法廷で同じ点を指摘しました。他の大規模プラットフォームは、より実行可能な情報を提供することにおいてより優れた仕事をしていました。マクナリティ氏は証言しました。
2022年、国の61のインターネット犯罪者に対する子供（ICAC）タスクフォースの31が、Metaからの低優先度のサイバーチップレポートの一部を受け取ることを中止しました。これは、情報が実行可能であるほど品質が高くないと見なされたためです。陪審は知らされました。
Metaのサイバーチップの品質の問題は「何年も続いている」と、NCMECはそれを「より早く解決されることを期待していました」と述べました。
「私たちの画像照合システムは、既知の児童搾取のコピーを大規模に見つけ、手動で行うには不可能な規模です。私たちは、コミュニティからのレポートと、私たちの専門の子供の安全チームによる調査を通じて、新しい児童搾取コンテンツを検出するために取り組んでいます」とMetaのスポークスパーソンは述べています。「また、NCMECと法執行機関を支援し、レポートの優先順位付けを支援し、NCMECのケース管理ツールの構築を支援し、サイバーチップに緊急性を示すラベルを付けることで取り組んでいます。」
ガーディアンは以前にも、AIによって生成されたヒントがソーシャルメディア会社によってレビューされていない場合、第四修正の保護のために法執行機関が保証なしで開くことができないと報告しています。そのような事件に関与している弁護士は、この追加の手順が潜在的な犯罪の調査を遅らせる可能性があると述べています。
裁判で、2022年にMetaのNCMECへの1400万件以上のレポートが、人間のレビューを受けていないことが明らかになりました。これは、NCMECまたは法執行機関が保証なしで開くことができないことを意味します。この未レビューのレポートの蔓延と、それによって法執行機関に与えられた影響は、何度かMetaに伝えられました。マクナリティ氏は証言しました。
十代の若者、中毒、フィルター、自傷行為コンテンツがメンタルヘルスに影響
裁判で上映されたビデオの証言の中で、ザッカーバーグ氏は、子供を含む一部のユーザーがMetaのプラットフォームに中毒性があることを認めています。これは、ロサンゼルスで現在進行中の別の裁判の主題でもあります。
Instagramの社内コミュニケーションは、13歳以上のポリシーにもかかわらず、若いユーザーとその問題についてMetaがどれだけ知っていたかを示しています。ロサンゼルスでの裁判で提出された2018年のInstagramのプレゼンテーションには、「十代の若者で大きな成功を収めたいのであれば、彼らを10代の若者として取り込む必要があります」と書かれています。別のプレゼンテーションでは、米国の10〜12歳の子供の約30％が写真共有アプリを使用していると推定されています。別のプレゼンテーションでは、10歳の子供がInstagramアプリに費やす時間を増やし、別のプレゼンテーションでは、11歳の子供が年上の人々と比較してアプリにログインする頻度を文書化しています。
ニューメキシコ州での裁判では、自殺によって亡くなった娘モリーの父親であるイアン・ラッセル氏が、プラットフォーム上の有害なコンテンツを大量に閲覧した後に、州のために証言しました。
ラッセル氏は次のように述べています。「有害なコンテンツの逃れられない流れ、若い脳、若い人、14歳の若者に与える累積的な影響は、モリーを明るく希望に満ちた若い人から、自分自身が負担であり問題であり、自分自身を終わらせることが最善であると信じさせるものに変えました。」
裁判で提出された証拠には、ユーザーの容姿を変えることができるInstagramの拡張現実フィルターに関する社内コミュニケーションが含まれていました。唇や目を大きくするなどの機能です。元Metaの従業員がザッカーバーグ氏に宛てたメールは、これらの機能をこれらの機能を使用する若者が自己イメージやメンタルヘルスの問題に対してより大きなリスクにさらされる可能性があると警告しました。
「2人の十代の娘の親として、そのうちの1人はボディディスモーフィアのために2回入院しています。ソーシャルメディアを通じた彼女と彼女の友人たちへのプレッシャーは、ボディイメージに関して非常に激しいと思います」と元従業員は書きました。
2019年10月に一時的に拡張現実機能が禁止され、2020年中頃にザッカーバーグ氏によって解除されたことがわかりました。
「人々が自分自身を表現する能力を制限することは、常に親権的なものであり、それを行うことが有益ではないというデータが見つからない場合、またはそれを行わないことが有害ではない場合、また、そのような表現に対する需要がある場合に限られると思います」とCEOは、この決定について述べています。
「Metaは、美容整形、肌の色を変える、または極端な減量を促進するものを禁止しています」とMetaのスポークスパーソンは述べています。
裁判で提出された別の社内文書は、Metaが子供を性的に描写するコンテンツの横に広告を掲載した可能性があることを示唆しています。