ティーンがイーロン・マスクのxAIを、Grokが作成したポルノ画像で提訴

<h1>ティーンがイーロン・マスクのxAIを、Grokが作成したポルノ画像で提訴</h1>
<p>イーロン・マスクの人工知能企業は、同社がポルノ画像の作成を可能にすることで児童ポルノを助長したと主張する未成年者からの訴訟に直面している。</p>
<p>3人の若い女性が、Grokユーザーによって彼らの画像や動画が、ヌードまたは露骨な性的描写で改ざんされた状態で変更されたことを理由に、xAIをカリフォルニア州の連邦裁判所に提訴した。</p>
<p>GrokはxAIが開発し、マスクのソーシャルメディアプラットフォームXでホストしているチャットボットである。xAIは、その親会社を通じて行われたコメントの要請に返答しなかった。</p>
<p>この法的措置は、昨年、Xが「スパイシー」モードと呼んだ新しいGrok機能の物議を醸したリリース以来の派生現象の一部である。</p>
<p>若い女性の弁護士は、Grokの画像や動画を改ざんする能力は、チャットボットとXの使用を促進する目的のみでxAIによって作成およびリリースされたと述べた。</p>
<p>彼らは、若い女性の画像がどのように変更されたかを「暗い芸術を通して生き生きになった人形」に例えた。</p>
<p>「xAI—そしてその創業者であるイーロン・マスク—はビジネスチャンスを見出した」と訴状には書かれている。「彼らはGrokがそのような結果を生み出すことができることを知り、子供たちの画像や動画を使用することさえ含めて、公にリリースした。」</p>
<p>若い女性たちは未特定の手続き上の損害賠償を求めていることに加え、Grokがそのような画像を生成することを直ちに禁止する命令を求めている。</p>
<p>「彼らの人生は、プライバシー、尊厳、そして個人の安全を失ったことによる壊滅的な損失によって打ち砕かれた」と若い女性たちの弁護士は訴状の中で述べた。</p>
<p>訴訟の背後にある未成年者の2人は18歳未満であるが、3人全員がプライバシーを保護するために、一般に名前を明らかにすることを控えている。</p>
<p>若い原告の一人は、Instagramで匿名メッセージを受け取り、画像や動画、高校の Yearbookの写真など、彼女が性的描写の行為や完全なヌードで改ざんされた画像に誘導されたことを知ったと述べた。</p>
<p>この資料は、Discordサーバー、プラットフォーム上のプライベートなチャットスペースで共有されており、Grokを使用して改ざんされた少なくとも18人の他の未成年女性の同様の画像も含まれていると、訴状には記載されている。</p>
<p>xAIを訴えている他の2人の女性も、Grokによって作成された偽の性的描写の画像がオンラインで見つかったことを発見した。</p>
<p>Grokは2023年にマスクのxAIによって立ち上げられた。同社とXは現在、マスクのSpaceX会社の一部であり、<a href="https://www.bbc.com/news/articles/cq6vnrye06po">先月xAIを引き継いだ</a>。</p>
<p>昨年、xAIはGrokユーザーがより性的な性質の偽の画像を生成する機能を可能にする「スパイシーモード」と呼ぶ機能をリリースした。</p>
<p>このモードは、オンラインの画像から<a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a>や、より<a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">一般的なユーザー</a>まで、実際の人物を「脱衣」させた。</p>
<p>わずか2週間で、Grokは性的化された画像を数百万枚作成し、そのうち2万枚以上が子供たちの画像であり、<a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">Center for Countering Digital Hateが実施した画像のサンプリング</a>によるとのことである。</p>
<p>マスクは当初、Grokが偽の性的化されたコンテンツを作成する能力を軽視し、1月に「Grokが生成したヌードの未成年者の画像は全くない。文字通りゼロ」と述べ、この機能のユーザーに責任を転嫁した。</p>
<p>「明らかに、Grokはユーザーの要求に応じてのみ画像を生成する」とマスクは<a href="https://www.bbc.com/news/articles/c7433dz4ykwo">Xに書いた</a>。</p>
<p>しかし、今年に入ってからのオンラインでの虐待が続いたため、英国の規制当局<a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>、<a href="https://www.bbc.com/news/articles/clye99wg0y8o">欧州委員会</a>、<a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">カリフォルニア</a>はそれぞれ、この機能が実際の人物、特に子供たちの性的化された画像を生成する能力について調査を開始した。</p>
<p>1月半ばまでに、<a href="https://www.bbc.com/news/articles/c98p4214577o">Xは</a>、Grokが写真の中で人々を脱衣する能力を停止するための「技術的措置」を導入すると発表した。</p>
<p>最終的に、新しい訴訟に言及されたDiscordサーバーの背後にいる人物が逮捕された。彼は訴訟に名前を挙げられていないが、別の警察の捜査の一環である。</p>
<p>その捜査で、彼はTelegramのメッセージングプラットフォームやMegaのファイル共有プラットフォームで取引されていた未成年者のAI生成および改ざんされた性的虐待画像の数百枚を発見したことが判明したと、訴状には記載されている。</p>