일론 머스크의 xAI에 대한 소송은 Grok이 3명의 미성년자를 성적 대상화한 딥페이크를 제작했다고 주장합니다.

<ul>
<li>엘론 머스크의 xAI에 대한 소송은 Grok 챗봇이 세 명의 미성년자의 성적 대상화 이미지를 생성했다고 주장합니다.</li>
<li>소송은 xAI가 "실제 사람들의 성적 약탈"로 이익을 얻었다고 비난합니다.</li>
<li>Grok은 올해 초 성적 대상화 이미지를 생성하는 데 사용된 후 대규모 반발을 불러일으켰습니다.</li>
</ul>
<p>새로운 소송은 <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">엘론 머스크의 xAI</a>에 제기되었으며, 그의 주요 챗봇인 <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>이 세 명의 미성년자의 성적 대상화 딥페이크 이미지를 생성하는 데 사용되었으며, 소송에서 아동 성 학대 자료에 해당한다고 주장하는 콘텐츠를 생성했다고 주장합니다.</p>
<p>월요일 캘리포니아 연방 법원에 제출된 제안된 집단 소송은 AI 스타트업이 "실제 사람, 특히 어린이의 성적 약탈"로 이익을 얻었다고 비난합니다.</p>
<p>소송은 "AI를 생성, 마케팅 및 판매하는 거의 모든 회사는 그러한 도구의 위험성을 인식하고 제품을 극도로 위험한 그룹, 즉 아동 성 학대범이 사용하지 못하도록 방지하는 업계 표준 안전 장치를 시행하기로 결정했습니다. xAI는 그렇지 않았습니다."라고 말합니다.</p>
<p>머스크와 xAI의 대변인은 즉시 Business Insider의 논평 요청에 응답하지 않았습니다.</p>
<p>머스크는 1월에 X에 게시한 글에서 "Grok이 생성한 나체 미성년자 이미지에 대해서는 전혀 알지 못합니다. 완전히 제로입니다."라고 이전에 말했습니다.</p>
<p>그는 Grok은 사용자 프롬프트에 따라 이미지를 생성한다고 썼습니다.</p>
<p>“이미지 생성을 요청받으면 특정 국가 또는 주의 법률을 준수하는 것을 Grok의 운영 원칙으로 삼기 때문에 불법적인 것은 생성하지 않습니다.”라고 머스크는 말했습니다. "어려운 해킹으로 인해 Grok 프롬프트가 예상치 못한 결과를 초래할 수 있는 경우가 있을 수 있습니다. 그런 일이 발생하면 즉시 버그를 수정합니다."</p>
<p>xAI에 대한 소송은 테네시 원고가 "xAI의 알고 있는 AI 생성 아동 성 학대 자료의 생산, 소유 및 배포의 세 명의 미성년 피해자 중 한 명"이라고 주장합니다.</p>
<p>법원 서류에 Jane Doe 1, Jane Doe 2, Jane Doe 3으로만 식별된 원고들은 xAI의 AI 도구가 그들과 다른 미성년자들의 누드 이미지와 비디오를 만드는 데 사용되었다고 주장합니다. Jane Doe 1은 최근 성인이 되었으며, 다른 두 원고는 소송에 따르면 아직 미성년자입니다.</p>
<p>2025년 12월, Jane Doe 1은 자신이 알고 있는 사람에 의해 생성되었으며 그룹 채팅 플랫폼 Discord에 퍼진 "사진"이 그녀의 사진이라는 경고 메시지를 익명의 Instagram 계정으로부터 받았습니다.</p>
<p>“일련의 메시지를 통해 익명의 사용자는 가해자가 이미지와 비디오 파일 폴더를 Discord에 업로드했다고 설명했습니다.”라고 소송은 말합니다.</p>
<p>익명의 사용자는 결국 Jane Doe 1에게 그녀와 다른 미성년 소녀의 성적 대상화 AI 생성 이미지와 비디오를 여러 개 보냈다고 소송은 말합니다.</p>
<p>“이러한 파일 중 적어도 다섯 개, 비디오 하나와 이미지 네 개는 그녀가 익숙한 환경에서 그녀의 실제 얼굴과 몸을 보여주었지만 성적으로 노골적인 자세로 변형되었습니다.”라고 소송은 말합니다. "이미지에는 옷이 없는 그녀의 전신이 나타났습니다. 비디오에는 그녀가 완전히 알몸이 될 때까지 옷을 벗는 모습이 담겨 있었습니다."</p>
<p>Jane Doe 1은 이미지에 등장한 다른 미성년자와 그들의 가족에게 알렸고, 테네시에서 형사 조사가 개시되었다고 소송은 덧붙였습니다. 또한 지역 경찰이 2025년 12월에 이 사건과 관련하여 용의자를 체포했다고 덧붙였습니다.</p>
<p>지난달 Jane Doe 2는 조사 과정에서 그녀의 이미지가 적어도 두 개 xAI의 도구를 사용하여 성적으로 노골적인 AI 생성 콘텐츠를 생성하는 데 사용된 것을 알게 되었다고 소송은 말합니다.</p>
<p>지역 법 집행관은 소녀와 그녀의 어머니에게 파란색 비키니를 입고 해변에서 찍은 한 장의 사진이 "옷이 없는 모습으로 변형되었다"고 알려주었다고 소송은 말합니다.</p>
<p>당국은 또한 용의자의 휴대폰에서 회수된 AI 생성 이미지 중 하나가 "완전히 알몸으로 변형된 모습으로" 그녀를 묘사하는 것이 포함되어 있다고 Jane Doe 3에게 알렸다고 소송은 말합니다.</p>
<p>원고의 변호사 Vanessa Baehr-Jones는 Business Insider에 그녀의 고객들이 "악몽"을 겪었다고 말했습니다.</p>
<p>“그녀의 CSAM 이미지와 비디오는 미성년자였을 때 그녀를 묘사하며 이제 영원히 인터넷의 어두운 웹 세계의 아동 성 학대범들에게 있습니다.”라고 Baehr-Jones는 말했습니다. "그 피해는 심각합니다."</p>
<p>변호사는 이 소송이 xAI에 "책임"을 물을 수 있기를 바라며 "가장 중요한 것은 다른 어떤 피해자에게도 이런 일이 발생하지 않아야 합니다."라고 말했습니다.</p>
<p>소송은 미상의 손해 배상을 청구하고 xAI가 아동 포르노 제작, 아동 포르노 배포 및 아동 포르노 소유를 포함한 기타 주장을 제기합니다.</p>
<p>“우리 법률 시스템에서 돈은 기업이 초래한 피해에 대해 대가를 치르게 하는 방법입니다.”라고 원고의 변호사 Annika Martin은 말했습니다. "기업은 이익 추구 주체이므로 그들의 의사 결정을 영향을 미치는 유일한 방법은 그들의 지갑을 때리는 것입니다."</p>
<p>올해 초, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">xAI의 Grok은 AI 이미지 생성기가 실제 사람의 비동의적 성적 대상화 이미지를 생성하는 데 사용된 후 대규모 반발을 불러일으켰습니다.</a></p>
<p>이에 대해 머스크가 xAI에 판매한 소셜 미디어 사이트인 X는 Grok이 <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">실제 사람의 성적 대상화 또는 노출 의복의 AI 이미지를 생성할 수 없도록</a> 할 것이라고 밝혔습니다.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>는 2024년에 엘론 머스크의 아들을 한 명 낳은 사람이 1월에 Grok이 사용자의 요청에 따라 그녀의 성적으로 노골적인 딥페이크를 생성했다고 주장하며 xAI를 상대로 소송을 제기했습니다.</p>
<p>프랑스 당국도 성적 대상화 딥페이크에 대해 Grok를 조사하고 있습니다.</p>