Teens sue Musk's xAI over Grok's pornographic images of them

<h1>Młodzież pozwała xAI Muska w związku z pornograficznymi obrazami nastolatków wygenerowanymi przez Grok</h1>
<p>Firma zajmująca się sztuczną inteligencją Elona Muska stoi w obliczu pozwu ze strony nastolatków, którzy twierdzą, że firma umożliwiła pornografię dziecięcą, pozwalając na tworzenie wyraźnie seksualnych obrazów przedstawiających ich.</p>
<p>Pozew przeciwko xAI został wniesiony w poniedziałek do federalnego sądu w Kalifornii przez trzy młode kobiety, których obrazy i filmy zostały zmienione przez użytkownika Grok, aby przedstawiały je nago lub w inny sposób w sposób wyraźnie seksualny.</p>
<p>Grok to chatbot opracowany przez xAI i hostowany na platformie mediów społecznościowych Muska X. xAI nie odpowiedziała na prośbę o komentarz złożoną za pośrednictwem jej spółki macierzystej.</p>
<p>Działanie prawne jest częścią konsekwencji po kontrowersyjnej premierze nowych funkcji Grok z zeszłego roku, którą X nazwało „trybem pikantnym”.</p>
<p>Prawnicy młodych kobiet powiedzieli, że zdolność Grok do zmieniania obrazów i filmów została stworzona i udostępniona przez xAI wyłącznie w celu zwiększenia użycia chatbota i X.</p>
<p>Porównali sposób, w jaki zmieniano obrazy młodych kobiet do „lalki, ożywionej przez mroczne sztuki”.</p>
<p>„xAI—i jej założyciel Elon Musk— dostrzegli szansę biznesową”, mówi pozew. „Wiedzieli, że Grok może generować takie wyniki, w tym wykorzystując obrazy i filmy dzieci, i mimo to publicznie go udostępnili.”</p>
<p>Młode kobiety domagają się nieokreślonego odszkodowania, a także natychmiastowego nakazu zakazującego Grokowi tworzenia takich obrazów.</p>
<p>„Ich życie zostało zniszczone przez druzgoczące straty prywatności, godności i bezpieczeństwa osobistego”, powiedzieli prawnicy młodych kobiet w swoim pozwie.</p>
<p>Dwie z nastolatek, które wnieśli pozew, są poniżej 18 roku życia, ale wszystkie trzy powstrzymują swoje nazwiska od publiczności w celu ochrony swojej prywatności.</p>
<p>Jedna z młodych powództw powiedziała, że dowiedziała się o obrazach po otrzymaniu anonimowej wiadomości na Instagramie, która skierowała ją do obrazów i filmów, w tym jej zdjęcia z rocznika szkolnego, które zostały zmienione, aby przedstawiały ją w wyraźnie seksualnych działaniach i w pełnej nagości.</p>
<p>Materiały były udostępniane na serwerze Discord, prywatnej przestrzeni czatowej na tej platformie, i zawierały podobne obrazy, które również zostały zmienione za pomocą Grok co najmniej 18 innych kobiet, które były nieletnimi, zgodnie z pozwem.</p>
<p>Dwie pozostałe kobiety, które pozwały xAI, również znalazły fałszywe, wyraźnie seksualne obrazy przedstawiające je online, które okazało się, że zostały stworzone za pomocą Grok.</p>
<p>Grok został uruchomiony w 2023 roku przez xAI Muska. Firma, wraz z X, jest teraz częścią firmy SpaceX Muska, która <a href="https://www.bbc.com/news/articles/cq6vnrye06po">przejęła xAI w zeszłym miesiącu</a>.</p>
<p>W zeszłym roku xAI wydało to, co nazwało Grok Imagine lub „trybem pikantnym”, z funkcjami, które pozwalały użytkownikom Grok na polecenie mu tworzenia fałszywych obrazów o bardziej seksualnym charakterze.</p>
<p>Tryb ten nawet przeprowadzał „rozbieranie” prawdziwych osób, wykorzystując ich obrazy online, od <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> po bardziej <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">zwykłych użytkowników</a>.</p>
<p>W mniej niż dwa tygodnie Grok stworzył miliony seksualizowanych obrazów, w tym ponad 20 000 dzieci, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">zgodnie z próbką</a> obrazów przeprowadzonym przez Center for Countering Digital Hate.</p>
<p>Musk początkowo bagatelizował zdolność Grok do tworzenia fałszywych, seksualizowanych treści, mówiąc w styczniu, że „nie wie o żadnych nagich obrazach nieletnich wygenerowanych przez Grok. Dosłownie zero” i obarczając winą użytkowników tej funkcji.</p>
<p>„Oczywiście, Grok nie generuje spontanicznie obrazów, robi to tylko na podstawie żądań użytkowników”, <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">napisał Musk na X</a>.</p>
<p>W związku z tym, jak trwało online nadużywanie, watchdog <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Komisja Europejska</a> i <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Kalifornia</a> uruchomiły każde własne śledztwa w sprawie zdolności funkcji do tworzenia seksualizowanych obrazów prawdziwych osób, zwłaszcza dzieci.</p>
<p>Do połowy stycznia <a href="https://www.bbc.com/news/articles/c98p4214577o">X powiedział</a>, że wdroży „środki technologiczne”, aby powstrzymać zdolność Grok do rozbierania ludzi na zdjęciach.</p>
<p>Ostatecznie osoba odpowiedzialna za serwer Discord wspomniany w nowym pozwie została aresztowana. Nie została wymieniona w pozwie, ale jest częścią oddzielnego śledztwa policyjnego.</p>
<p>Śledztwo wykazało, że posiadał setki wygenerowanych i zmienionych przez sztuczną inteligencję obrazów wykorzystujących seksualnie nieletnich, które były przedmiotem handlu na platformie komunikacyjnej Telegram i na platformie udostępniania plików Mega, zgodnie z pozwem.</p>