Tenåringer saksøker Musks xAI over Groks pornografiske bilder av dem

<h1>Tenåringer saksøker Musks xAI over Groks pornografiske bilder av dem</h1>
<p>Elon Musks kunstig intelligensselskap står overfor en søksmål fra tenåringer som sier at selskapet muliggjorde barnepornografi ved å tillate opprettelse av seksuelt eksplisitte bilder av dem.</p>
<p>Søksmålet mot xAI ble sendt inn mandag i en føderal domstol i California av tre unge kvinner hvis bilder og videoer ble endret av en Grok-bruker uten deres kunnskap for å vise dem nakne eller på annen måte åpenbart seksuelle måter.</p>
<p>Grok er en chatbot utviklet av xAI og vert på Musks sosiale medieplattform X. xAI svarte ikke på en forespørsel om kommentar fremsatt via selskapets morselskap.</p>
<p>Den juridiske handlingen er en del av etterspillet etter i fjorårets kontroversielle utgivelse av nye Grok-funksjoner som X kalte "spicy" modus.</p>
<p>Advokater for de unge kvinnene sa at Groks evne til å endre bilder og video hadde blitt opprettet og utgitt av xAI utelukkende for å øke bruken av chatbotten og X.</p>
<p>De sammenlignet måten bildene av de unge kvinnene ble endret med "en dokke levendegjort gjennom mørk kunst".</p>
<p>»xAI—og dets grunnlegger Elon Musk— så en forretningsmulighet», sier klagen. «De visste at Grok kunne produsere slike resultater, inkludert ved å bruke bildene og videoene av barn, og offentliggjorde det uansett.»</p>
<p>De unge kvinnene krever ikke-spesifiserte erstatninger, samt en umiddelbar ordre som forbyr Grok fra å opprette slike bilder.</p>
<p>»Livene deres er blitt knust av det ødeleggende tapet av personvern, verdighet og personlig sikkerhet», sa advokater for de unge kvinnene i sin klage.</p>
<p>To av tenåringene bak søksmålet er under 18 år, men alle tre tilbakeholder navnene sine fra offentligheten for å beskytte sitt privatliv.</p>
<p>En av de unge saksøkerne sa at hun fant ut om bildene etter at hun mottok en anonym melding på Instagram som pekte henne mot bilder og videoer, inkludert hennes videregående skoleårbokbilde, som hadde blitt endret for å vise henne i seksuelt eksplisitte handlinger og full nakenskjult.</p>
<p>Materialet ble delt på en Discord-server, et privat chatrom på den plattformen, og inkluderte lignende bilder som også hadde blitt endret ved hjelp av Grok av minst 18 andre kvinner som var mindreårige, ifølge klagen.</p>
<p>De to andre kvinnene som saksøker xAI, fant også falske seksuelt eksplisitte bilder av dem på nettet, som ble funnet å være opprettet via Grok.</p>
<p>Grok ble lansert i 2023 av Musks xAI. Selskapet, sammen med X, er nå en del av Musks SpaceX-selskap, som <a href="https://www.bbc.com/news/articles/cq6vnrye06po">overtok xAI forrige måned</a>.</p>
<p>I fjor slapp xAI det de kalte Grok Imagine eller "spicy mode", med funksjoner som tillot Grok-brukere å be den om å opprette falske bilder som var mer seksuelle i naturen.</p>
<p>Modusen utførte til og med "avklærningen" av ekte personer ved hjelp av bildene deres på nettet, fra <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> til mer <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">vanlige brukere</a>.</p>
<p>På under to uker hadde Grok opprettet millioner av seksualiserte bilder, inkludert mer enn 20 000 av barn, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">ifølge en utprøving</a> av bildene utført av Center for Countering Digital Hate.</p>
<p>Musk bagatelliserte i utgangspunktet Groks evne til å opprette falske seksualiserte innhold, og sa i januar at han "ikke var klar over noen nakne mindreårige bilder generert av Grok. Bokstavelig talt null," og la skylden på brukerne av funksjonen.</p>
<p>»Selvfølgelig genererer ikke Grok bilder spontant, det gjør det bare i henhold til brukerforespørsler», <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">skrev Musk på X</a>.</p>
<p>Ettersom slik nettbasert misbruk fortsatte i år, lanserte imidlertid Storbritannias tilsynsmyndighet <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Europakommisjonen</a> og <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">California</a> hver undersøkelser av funksjonens evne til å opprette seksualiserte bilder av ekte personer, spesielt barn.</p>
<p>Innen midten av januar <a href="https://www.bbc.com/news/articles/c98p4214577o">sa X</a> at den ville implementere "teknologiske tiltak" for å stoppe Groks evne til å avkle folk på bilder.</p>
<p>Til slutt ble personen bak Discord-serveren nevnt i den nye søksmålet arrestert. Han ble ikke navngitt i søksmålet, men er en del av en separat politietterforskning.</p>
<p>Den etterforskningen oppdaget at han hadde hundrevis av AI-genererte og endrede bilder av seksuell misbruk av mindreårige, som ble handlet på meldingsplattformen Telegram og på fildelingsplattformen Mega, ifølge søksmålet.</p>