Meta 在审判中面临儿童安全问题：它真的能保护下一代用户吗？

Meta 因其儿童安全措施而面临一场清算，一场审判揭露了新的指控，称该公司优先考虑利润动机和参与度，而不是保护儿童。
新墨西哥州的具有里程碑意义的审判已经完成了第五周，新墨西哥州总检察长于 3 月 5 日结束了案件。 预计 Meta 提出辩护之前，陪审团将开始审议，审判将持续一周。
案件的核心是总检察长办公室在证据开示期间获得的公司内部文件，包括 Meta 领导层之间通过电子邮件标记 Facebook 和 Instagram 上剥削问题的紧急问题的电子邮件。
“数据表明，Instagram 已经成为人类贩运的主要双边市场，” 一封 2019 年发送给 Instagram 负责人 Adam Mosseri 的电子邮件在法庭上被读出，“来自 Meta 产品团队的一名成员写道。
检察官提交了他们认为证明 Meta 在检测和报告其平台上的儿童伤害方面存在延误和缺陷的证据，包括儿童性虐待材料的传播——儿童性剥削的照片和视频——以及儿童贩运。
在新墨西哥州的审判和洛杉矶的并发法院诉讼中，Facebook 和 Instagram 的功能也受到了审查，原因是它们对儿童心理健康的潜在影响。 原告声称，这些社交网络故意成瘾，并放大了促进自残、自杀意念和身体畸形的材料。
辩方坚决驳回了总检察长的指控，称其为“耸人听闻、不相关和分散注意力的论点”，并表示它在使其平台安全方面做出了巨大努力，并继续投资于青少年保护的新功能。 陪审团还听取了公司高管的证词，包括 Mosseri 和 Meta 首席执行官 Mark Zuckerberg，他们为公司的安全记录辩护。 他们还辩称，在全球范围内有数十亿用户使用 Facebook 和 Instagram，因此防止所有在其平台上发生的犯罪和伤害是不可能的。
“我们尽最大努力使 Facebook 保持安全，但我们不能保证，” Mosseri 说，他飞往圣达菲为辩方作证，此前他的视频证词在审判早期播放。“安全对我们来说非常重要。”
此诉讼是在《卫报》于 2023 年发表的一项为期两年的调查之后发起的，该调查揭示了 Meta 在阻止人们利用其平台进行儿童贩运方面存在困难。 该调查在诉讼文件中多次被引用。
这两个案件对 Meta 提出了一个存在主义问题：它能否保护下一代用户？ 如果该公司希望其社交网络生存和发展，它需要招募新的、年轻的用户。 Meta 认为，其社交网络比任何其他替代方案都提供更安全的环境。 新墨西哥州总检察长认为，这家科技公司没有充分为在其网站和应用程序上已经存在的青少年提供服务，正如洛杉矶诉讼中的原告所指控的那样，Meta 设计其产品使其对年轻人具有成瘾性。 在圣达菲的审判中发言的儿童安全倡导者表示，Messenger 的加密以及 Meta 关于儿童虐待报告的大量积压阻碍了其对儿童剥削的调查。
这些案件的文件表明，Meta 希望有多少年轻人使用其平台。 一封内部电子邮件写道：“Mark 已决定，公司 2017 年的首要任务是青少年。” Zuckerberg 在证人席上否认该公司针对 13 岁以下的用户，这是创建帐户的截止年龄，但他表示年龄限制很难执行。
Meta 面临着全球监管的审查，因为它正面临美国的两项判决。 世界各地的国家正在效仿澳大利亚对 16 岁以下人群的社交媒体禁令。 世界第四大人口国家已经承诺建立自己的年龄门槛，美国第三大州也一样。 如果新墨西哥州和洛杉矶的审判以对 Meta 存在儿童性虐待贩运和故意成瘾的责任认定告终，可能会促使更多的立法者切断该公司与它需要的用户之间的联系。
Operation MetaPhile
新墨西哥州案件的主要支柱之一是总检察长办公室进行的一项名为“Operation MetaPhile”的调查。 伪装成 13 岁以下女孩的卧底特工被三名嫌疑人联系，他们据称在 Facebook 和 Instagram 上通过搜索未成年人来寻找他们，以索取性。 其中两人计划在圣达菲的 Gallup 汽车旅馆与“女孩”见面。
根据州法院的文件，特工没有发起任何关于性活动的对话。 他们的其中一个帐户每天收到数百个好友请求，一个月内获得了 7,000 名粉丝，一名调查员说。 尽管有这些活动，Meta 并未关闭该帐户，而是向其发送了有关如何变现帐户和扩大其影响力的信息，调查人员说。
该州还提出了指控，即 Instagram 的算法将恋童癖联系起来或帮助他们找到儿童性虐待材料的卖家，Mosseri 将其称为“不公平的”。
“我认为我们看到这些特别恶劣的参与者真的会努力绕过我们的系统，通过伪装事物来做到这一点，” Mosseri 说。“他们会尝试在我们的平台上互相寻找。”
前公司高管作证反对他们的前雇主。
“我绝对不认为安全是优先事项，这是我离开的主要原因，” Meta 前副总裁 Brian Boland 说，他在加入公司 11 年后于 2020 年离开。
加密的 Messenger 阻止了犯罪证据的访问
新墨西哥州法院听取了 Meta 决定加密 Facebook Messenger，恋童癖利用 Messenger 作为引诱未成年人和交换儿童虐待图像的工具，从而阻止了这些犯罪的关键证据。
2023 年 12 月，Meta 为 Facebook Messenger 引入了端到端加密，这是一个直接消息平台。 加密确保只有发件人和预定收件人才能查看消息，方法是将它们转换为无法读取的代码，该代码在接收时进行解密。 Meta 的服务器上不存储消息内容，并且执法部门无法查看它。
全国失踪和被剥削儿童中心 (NCMEC)，部分由 Meta 资助，称这一举动对儿童保护来说是“毁灭性的打击”，其代表曾多次与 Meta 会面，试图劝阻该公司实施加密，法院听取了。
总部位于美国的社交媒体公司根据联邦法律要求向 NCMEC 报告其平台上的任何儿童性虐待材料 (CSAM)、儿童性虐待贩运的明显违反行为以及对未成年人的胁迫和引诱迹象。 NCMEC 作为信息中心，将这些“网络提示”报告转发给美国和国际各地的相关执法机构。
Messenger 的加密意味着“取回正在发生的内容或交互的可见性。 这并不意味着虐待行为停止了，”NCMEC 剥削儿童部门执行主任 Fallon McNulty 证词。
McNulty 说，Meta 在 Messenger 加密实施后，向 NCMEC 提交的报告比前一年减少了 690 万份。
Meta 之前辩称，加密是一种安全的措施，因为用户可以报告在使用 Messenger 时遇到的任何不当互动或虐待。 隐私倡导者称，加密是对执法部门的监视提供最强的保护。
“我们使用先进的技术来主动识别我们平台上存在的儿童剥削内容——在 2025 年 7 月至 9 月期间，我们主动在 Facebook 和 Instagram 上移除了超过 1000 万件儿童剥削内容，其中 98% 以上是在报告之前主动发现的，” Meta 发言人说。“我们还提供应用内报告工具，其中有专门的选项，以便我们了解内容是否涉及儿童。”
在她的证词中，McNulty 强调，让儿童报告虐待并不能取代扫描消息和图像，因为 Messenger 已加密。 根据 NCMEC 的研究，大多数儿童选择不报告平台上对他们造成的任何虐待或威胁。
Mosseri 说，Instagram 上的自举报机制与 Meta 声称的 Messenger 上的虐待技术扫描相比，效果并不好。 他谈到了已经放弃的加密 Instagram 直接消息的计划。 此外，确定加密 Instagram 消息也会使在平台上保护儿童变得更加困难，他说。
他说：“我们发现，使用技术似乎比用户报告更能有效地发现不良内容。”
报告积压和错误影响儿童安全
陪审团听取了 Meta 在 2017 年 5 月至 2021 年 7 月期间，有 247,000 个潜在危害和虐待的网络提示报告积压，这些报告在发送给 NCMEC 之前已经过去了数周或数月。 由于有关儿童虐待的信息通常对时间敏感，这些积压可能意味着错过了预防犯罪或识别肇事者的机会。
根据证据中提出的文件，还有数千个其他网络提示报告被错误地归类为低优先级。 该公司没有向 NCMEC 提供有关延误和错误分类原因的见解。 NCMEC 认为这种大范围的错误分类是一种影响儿童安全的“严重失败”，McNulty 证词。
陪审团听取了执法部门对 Meta 报告中缺乏细节感到沮丧，这使得官员无法采取进一步行动并进行调查。 以前告诉《卫报》的调查潜在儿童虐待的执法人员表示，Meta 已经向网络提示报告系统 flooded 了“垃圾”提示，这些提示对执法部门毫无用处，一名警官在证人席上也提出了同样的观点。 其他大型平台在提供其报告中的可操作信息方面做得更好，McNulty 在她的证词中说。
在 2022 年，61 个互联网犯罪对儿童 (ICAC) 任务力中的 31 个选择退出接收 Meta 的一些低优先级网络提示报告，因为他们认为这些信息质量太差，无法采取行动，陪审团听取了。
Meta 的网络提示质量问题“已经持续了数年”，NCMEC 预计它“会很快得到解决”，McNulty 说。
“我们的图像匹配系统以一种人工无法做到的规模发现已知的儿童剥削副本，我们努力通过技术、我们社区的报告以及我们专业的儿童安全团队的调查来检测新的儿童剥削内容，” Meta 发言人说。“我们还继续支持 NCMEC 和执法部门，优先处理报告，包括帮助构建 NCMEC 的案例管理工具以及标记网络提示，以便他们知道哪些是紧急的。”
《卫报》之前报道过，未经社交媒体公司员工审查的人工智能生成的提示通常无法在执法部门采取进一步行动之前打开，因为存在第四修正案保护。 参与此类案件的律师表示，这一额外的步骤也会减慢调查速度。
在审判中，披露了 2022 年 Meta 向 NCMEC 提交的 1400 多万份报告中，没有经过人工审查，这意味着 NCMEC 或执法部门无法在没有搜查令的情况下打开这些报告。 McNulty 证词表示，这种未经审查的报告的普遍性以及由此对执法部门造成的影响已多次告知 Meta。
青少年、成瘾、滤镜和自残内容影响心理健康
在法庭上播放的视频证词中，Zuckerberg 承认，包括儿童在内的部分用户发现 Meta 的平台具有成瘾性，这也是洛杉矶举行的另一项诉讼的主题。
Instagram 的内部文件清楚地表明，该公司了解其 10 岁用户的许多问题，尽管其 13 岁以上政策，根据原告律师的说法。 洛杉矶诉讼中发现的 2018 年 Instagram 演示文稿写道：“如果我们想在青少年中取得巨大成功，我们必须将他们作为青少年引入。” 另一份 2015 年的文件估计，美国约 30% 的 10-12 岁儿童使用照片分享应用程序。 另一份文件详细说明了增加 10 岁儿童在 Instagram 应用程序上花费时间的任务，另一份文件记录了 11 岁儿童与年长人群相比，在应用程序上的登录频率。
在新墨西哥州的审判中，女儿莫莉于 2017 年自杀，此前她在 Instagram 上查看了大量有害内容，为州作证的 Ian Russell 说：
“这种无法避免的有害内容流，这种内容对正在发育的大脑、年轻人的大脑、14 岁青少年的累积影响，将莫莉从那个明亮、充满希望的年轻人变成了认为自己是负担和问题的年轻人，并且对自己最好的做法是结束生命。”
在审判中提出的证据包括 Instagram 上的增强现实滤镜，允许用户改变自己的外貌，例如放大嘴唇或眼睛。 一封来自 Meta 前员工写给 Zuckerberg 的电子邮件警告说，使用这些功能的青少年面临更大的自形象和心理健康问题。
前员工写道：“作为两个青少年女孩的父母，其中一个女儿因身体畸形住院了两次，我可以告诉你，社交媒体对他们和他们的同龄人对身体形象的压力是巨大的。”
陪审团听取了 Meta 在 2019 年 10 月暂时禁止这些增强现实功能，然后在 2020 年年中取消禁令。
首席执行官解释说，他决定允许使用这些功能的原因是：“对我来说，限制人们以这些方式呈现自己的能力始终具有家长式的，尤其是在没有看到这样做有帮助或不这样做有害的数据时，而且显然对这种表达方式存在需求。”
一家公司发言人说：“Meta 禁止直接推广美容手术、皮肤颜色变化或极端减肥的公司广告。”
法庭上提出的其他内部文件指控说，Zuckerberg 批准了允许人工智能聊天机器人陪伴青少年互动，尽管安全人员警告说这些机器人可能会参与性对话。 检察官还指控 Meta 在儿童可能生成的内容旁边放置了来自 Walmart 和 Match Group 等公司的广告，从而可能生成儿童性化内容。