십 대, 머스크의 xAI, Grok의 음란물 이미지로 고소

<h1>십 대, 머스크의 xAI, Grok의 음란물 이미지로 고소</h1>
<p>일론 머스크의 인공지능 회사인 xAI는 십 대들이 회사가 Grok를 통해 자신들의 성적으로 노골적인 이미지를 생성하도록 허용하여 아동 포르노를 조장했다고 주장하며 소송을 제기하고 있습니다.</p>
<p>xAI에 대한 소송은 월요일 캘리포니아 연방 법원에 세 명의 젊은 여성들이 Grok 사용자들에 의해 자신들의 이미지와 비디오가 자신들의 의지 없이 누드 또는 기타 노골적으로 성적인 방식으로 변경되는 것을 보여주는 소송을 제기했습니다.</p>
<p>Grok는 xAI가 개발하고 머스크의 소셜 미디어 플랫폼 X에 호스팅하는 챗봇입니다. xAI는 자사의 모회사인 것을 통해 요청된 의견에 대한 응답을 하지 않았습니다.</p>
<p>이 법적 조치는 작년에 출시된 Grok의 새로운 기능의 논란이 된 출시 이후의 결과의 일부입니다. X는 이 기능을 "spicy" 모드라고 불렀습니다.</p>
<p>젊은 여성들의 변호사들은 Grok의 이미지와 비디오를 변경하는 기능이 xAI에 의해 만들어져 챗봇과 X의 사용을 촉진하기 위해 출시되었다고 말했습니다.</p>
<p>그들은 젊은 여성들의 이미지가 변경되는 방식이 "어둠의 예술을 통해 생명을 불어넣은 인형"이라고 비유했습니다.</p>
<p>“xAI—그리고 그 창립자인 일론 머스크—는 사업 기회를 보았습니다.” 소송에는 나와 있습니다. "그들은 Grok가 그러한 결과를 생성할 수 있으며, 아동의 이미지와 비디오를 사용하여 그렇게 할 수도 있다는 것을 알고 있었음에도 불구하고 공개적으로 출시했습니다."</p>
<p>젊은 여성들은 미상의 손해 배상과 Grok가 그러한 이미지를 생성하는 것을 즉시 금지하는 명령을 구하고 있습니다.</p>
<p>“그들의 삶은 개인 정보, 존엄성 및 개인 안전의 파괴적인 상실로 인해 산산이 부서졌습니다.” 젊은 여성들의 변호사들은 소송에서 말했습니다.</p>
<p>소송을 제기한 십 대 중 두 명은 18세 미만이지만, 세 명 모두 개인 정보 보호를 위해 대중으로부터 이름을 숨기고 있습니다.</p>
<p>소송을 제기한 젊은 원고 중 한 명은 인스타그램에서 이미지와 비디오, 고등학교 연감 사진을 가리키는 익명의 메시지를 받은 후 이미지에 대해 알게 되었습니다. 이 사진은 그녀를 성적으로 노골적인 행동과 완전한 노출을 보여주는 방식으로 변경되었습니다.</p>
<p>이 자료는 해당 플랫폼의 개인 채팅 공간인 Discord 서버에서 공유되었으며, Grok를 사용하여 변경된 적이 있는 다른 미성년 여성 18명 이상의 유사한 이미지도 포함되어 있다고 소송에 명시되어 있습니다.</p>
<p>xAI를 고소하는 다른 두 명의 여성들도 온라인에서 Grok를 통해 만들어진 가짜 성적으로 노골적인 이미지를 발견했습니다.</p>
<p>Grok는 2023년에 머스크의 xAI에 의해 출시되었습니다. 이 회사는 X와 함께 머스크의 SpaceX 회사에 속하며 <a href="https://www.bbc.com/news/articles/cq6vnrye06po">지난달 xAI를 인수했습니다</a>.</p>
<p>작년에 xAI는 Grok 사용자가 성적인 성격을 띤 가짜 이미지를 생성하도록 요청할 수 있는 기능을 갖춘 Grok Imagine 또는 "spicy" 모드를 출시했습니다.</p>
<p>이 모드는 <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">테일러 스위프트</a>부터 더 <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">일반 사용자</a>까지 온라인에서 사람들의 이미지를 사용하여 "undressing"을 수행했습니다.</p>
<p>거의 두 주 만에 Grok는 20,000건 이상의 아동을 포함하여 수백만 건의 성적 이미지, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">Center for Countering Digital Hate가 실시한 이미지 샘플링에 따르면</a> 생성되었습니다.</p>
<p>머스크는 1월에 Grok가 가짜 성적 이미지를 생성하는 능력에 대해 처음에는 축소하며 "Grok가 생성한 누드 아동 이미지가 전혀 없습니다. 문자 그대로 0"이라고 말하고 이 기능의 사용자에게 책임을 돌렸습니다.</p>
<p>“Grok는 사용자의 요청에 따라 생성되지 않습니다.” 머스크는 <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">X에 썼습니다</a>.</p>
<p>그러나 올해 온라인 학대가 계속되면서 영국 감시 기관 <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">유럽 위원회</a> 및 <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">캘리포니아</a>는 각각 이 기능의 실제 사람, 특히 아동의 성적 이미지를 생성하는 능력에 대한 조사를 시작했습니다.</p>
<p>1월 중순까지 <a href="https://www.bbc.com/news/articles/c98p4214577o">X는</a> 사진 속 사람들을 "undress"하는 Grok의 능력을 막기 위해 "기술적 조치"를 구현할 것이라고 발표했습니다.</p>
<p>결국 새로운 소송에 언급된 Discord 서버의 배후에 있는 가해자가 체포되었습니다. 그는 소송에 명시되지 않았지만 별도의 경찰 조사에 참여하고 있습니다.</p>
<p>그 조사는 그가 메시징 플랫폼 Telegram과 파일 공유 플랫폼 Mega에서 거래된 미성년자의 AI 생성 및 변경된 성적 학대 이미지 수백 건을 가지고 있었다는 사실을 발견했습니다. 소송에 따르면.</p>