针对埃隆·马斯克的 xAI 的诉讼指控 Grok 创建了三个未成年人的性化深度伪造图像

<ul>
<li>针对埃隆·马斯克的 xAI 的诉讼指控 Grok 聊天机器人制作了三个未成年人的性化图像。</li>
<li>投诉指控 xAI 因“对真人进行性掠夺”而获利。</li>
<li>今年早些时候，Grok 在被用于生成性化图像后引发了巨大的反弹。</li>
</ul>
<p>针对 <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">埃隆·马斯克的 xAI</a> 的一项新的诉讼指控其旗舰聊天机器人 <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a> 被用于创建三个未成年人的性化深度伪造图像——投诉称这些内容构成了儿童性虐待材料。</p>
<p>周一在加州联邦法院提交的拟议集体诉讼指控这家人工智能创业公司因“对真人，包括儿童进行性掠夺”而获利。</p>
<p>“几乎所有创建、营销和销售人工智能的公司都认识到这种工具的危险，并选择采取行业标准的安全措施，以防止其产品被一个极其危险的群体使用：儿童性掠夺者。 xAI 没有这样做，”诉讼称。</p>
<p>埃隆·马斯克和 xAI 的代表团尚未立即回应《商业内幕》的评论请求。</p>
<p>马斯克此前在 X 上的 1 月份帖子中表示，他“不了解 Grok 生成的任何裸露的未成年人图像。完全没有。”</p>
<p>他写道，Grok 根据用户提示生成图像。</p>
<p>“当被要求生成图像时，它将拒绝生成任何非法内容，因为 Grok 的运行原则是遵守任何给定国家或州的法律，”马斯克说。“可能存在通过对抗性黑客攻击 Grok 提示导致意外结果的情况。如果发生这种情况，我们将立即修复该错误。”</p>
<p>针对 xAI 的诉讼称，田纳西州的原告是“xAI 知情地制作、持有和分发人工智能生成的儿童性虐待材料”的三个未成年受害者。</p>
<p>在法院文件中，原告仅被识别为 Jane Doe 1、Jane Doe 2 和 Jane Doe 3，她们声称 xAI 的人工智能工具被用于制作她们的裸露图像和视频。Jane Doe 1 在涉嫌发生事件时是成年人，而另外两位原告仍然是未成年人，根据诉讼称。</p>
<p>2025 年 12 月，Jane Doe 1 从一个匿名 Instagram 账户收到了一条消息，警告她称，有人她认识的人上传了她的“照片”，并将它们传播到群组聊天平台 Discord。</p>
<p>“通过一系列消息，匿名用户进一步解释说，肇事者将包含她和其他未成年女童的图像和视频文件的文件夹上传到 Discord，”诉讼称。</p>
<p>匿名用户最终向 Jane Doe 1 发送了她和其他未成年女孩的几个性化人工智能生成的图像和视频，根据诉讼称。</p>
<p>“至少有五个文件，一个视频和四个图像，描绘了她的真实面容和身体，并置于她熟悉的环境中，但被塑造成具有性暗示的姿势，”诉讼称。“这些图像显示了她整个身体，包括她的生殖器，没有任何衣服。视频描绘了她赤身裸体地换衣服。”</p>
<p>Jane Doe 1 告知图像中的其他未成年人和他们的家人，田纳西州启动了刑事调查，根据诉讼称。诉讼补充说，当地警方于 2025 年 12 月与此案有关联逮捕了一名嫌疑人。</p>
<p>上个月，Jane Doe 2 通过调查得知，至少有两张她的照片也被用于制作使用 xAI 工具的性化人工智能内容，诉讼称。</p>
<p>当地执法部门告知这位女孩和她的母亲，一张在海滩上穿着蓝色比基尼拍摄的照片已被“塑造成描绘她没有任何衣服的样子”，诉讼称。</p>
<p>当局还告知 Jane Doe 3，从嫌疑人的手机中收回的人工智能生成的图像包括一张已被“塑造成描绘她完全裸体”的图像，根据诉讼称。</p>
<p>原告律师 Vanessa Baehr-Jones 告诉《商业内幕》说，她的客户们正在经历一场“噩梦”。</p>
<p>“她们的儿童性虐待材料图像和视频在她们还是未成年人时就被制作出来，现在永远存在于儿童性掠夺者的黑暗网络世界中，”Baehr-Jones 说。“这种伤害是严重的。”</p>
<p>这位律师表示，她希望诉讼能够让 xAI 承担“责任”，并且“最重要的是，这永远不应该发生在任何其他受害者身上。”</p>
<p>诉讼寻求未指定的损害赔偿，并指控 xAI 存在意图分发儿童色情制品、分发儿童色情制品和持有儿童色情制品等指控。</p>
<p>“在我们的法律体系中，金钱是我们让公司为它们造成的伤害付费的方式，”原告律师 Annika Martin 说。“因为公司是营利实体，所以打击他们的钱包是影响它们决策的唯一方法。”</p>
<p>今年早些时候，<a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">xAI 的 Grok 引发了巨大的反弹</a>，因为人工智能图像生成器被用于制作真实人物的非自愿性化图像。</p>
<p>对此，马斯克于三月份向 xAI 出售的社交媒体网站 X 表示，Grok <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">将不再能够生成</a>穿着性暗示或暴露服装的真人的人工智能图像。</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>，2024 年为埃隆·马斯克生下其中一个儿子的女性，于 1 月份起诉了 xAI，指控 Grok 在用户要求下生成了她的性暗示深度伪造图像。</p>
<p>法国当局也在调查 Grok 关于性化深度伪造的问题。</p>