青少年起诉马斯克的 xAI，指控其 Grok 生成了他们淫秽的图像

<h1>青少年起诉马斯克的 xAI，指控其 Grok 生成了他们淫秽的图像</h1>
<p>埃隆·马斯克的的人工智能公司正面临来自声称该公司通过允许创建他们性暗示图像来促进儿童色情制品的三名青少年的诉讼。</p>
<p>针对 xAI 的诉讼于周一在加利福尼亚联邦法院由三名年轻女性提起诉讼，她们的图像和视频被 Grok 用户在未经她们知情的情况下修改，以显示她们裸体或以其他露骨的性方式出现。</p>
<p>Grok 是 xAI 开发的一款聊天机器人，并托管在马斯克的社交媒体平台 X 上。xAI 未能对通过其母公司发出的评论请求做出回应。</p>
<p>此次法律行动是去年有争议的发布新的 Grok 功能（X 称之为“辛辣”模式）的后续影响。</p>
<p>年轻女性的律师表示，Grok 修改图像和视频的能力是由 xAI 单独创建和发布，目的是为了推动聊天机器人的使用和 X。</p>
<p>他们将图像如何被改变比作“通过黑暗艺术赋予生命的人偶”。</p>
<p>“xAI——及其创始人埃隆·马斯克——看到了一个商机，” 诉状称。“他们知道 Grok 可以产生此类结果，包括使用儿童的图像和视频，并且仍然公开发布了它。”</p>
<p>年轻女性正在寻求未指定的损害赔偿，以及立即下令禁止 Grok 创建此类图像。</p>
<p>“她们的生活因隐私、尊严和人身安全的毁灭性丧失而破碎，” 年轻女性的律师在诉状中表示。</p>
<p>这两名青少年中的一名未满 18 岁，但所有三人都从公众处隐瞒了自己的姓名，以保护自己的隐私。</p>
<p>一名年轻的起诉人表示，她是在收到 Instagram 上的一条匿名消息后得知了这些图像，这条消息将她引向了包括她高中毕业典礼照片在内的图像和视频，这些照片已被修改为显示她在性暗示行为和完全裸体。</p>
<p>这些材料正在一个 Discord 服务器上分享，该服务器是该平台上的一个私有聊天空间，并且包括使用 Grok 修改的其他至少 18 名未成年女性的类似图像。</p>
<p>另外两名起诉 xAI 的女性也在网上发现了她们的虚假性暗示图像，这些图像被发现是通过 Grok 创建的。</p>
<p>Grok 由马斯克的 xAI 于 2023 年推出。该公司以及 X 现在是马斯克的 SpaceX 公司的一部分，该 <a href="https://www.bbc.com/news/articles/cq6vnrye06po">公司上个月接管了 xAI</a>。</p>
<p>去年，xAI 发布了它称之为 Grok Imagine 或“辛辣模式”的功能，该功能允许 Grok 用户提示它创建更具性暗示性质的虚假图像。</p>
<p>该模式甚至从 <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> 到更多 <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">普通用户</a> 的在线图像中“为真人换装”。</p>
<p>不到两周的时间里，Grok 已经创建了数百万张带有性暗示的图像，包括超过 20,000 张儿童的图像，<a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">根据数字仇恨中心对这些图像进行的抽样调查</a>。</p>
<p>马斯克最初淡化了 Grok 创建虚假性暗示内容的能力，称 1 月份表示他“不了解 Grok 生成的任何未成年人裸体图像。完全没有”，并将责任归咎于该功能的用户。</p>
<p>“显然，Grok 不是自发地生成图像，它只是根据用户请求生成图像，” 马斯克 <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">在 X 上写道</a>。</p>
<p>然而，随着今年在线骚扰事件的持续发生，英国监管机构 <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>、<a href="https://www.bbc.com/news/articles/clye99wg0y8o">欧盟委员会</a> 和 <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">加利福尼亚州</a> 均启动了对该功能创建真人性暗示图像能力进行调查，特别是儿童。</p>
<p>到 1 月中旬，<a href="https://www.bbc.com/news/articles/c98p4214577o">X 表示</a>，它将实施“技术措施”以阻止 Grok 在照片中为人们换装的能力。</p>
<p>最终，在新的诉讼中提到的 Discord 服务器背后的肇事者被捕。他未在诉讼中被提及，但正在进行一项单独的警方调查的一部分。</p>
<p>该调查发现，他在消息传递平台 Telegram 和文件共享平台 Mega 上交易了数百张 AI 生成和修改的未成年人性侵犯图像，根据诉状。</p>