Adolescenti citano Musk's xAI per immagini pornografiche di loro di Grok

<h1>Teens sue Musk's xAI over Grok's pornographic images of them</h1>
<p>La società di intelligenza artificiale di Elon Musk sta affrontando una causa da parte di adolescenti che affermano che l'azienda ha facilitato la pornografia infantile consentendo la creazione di immagini sessualmente esplicite di loro.</p>
<p>La causa contro xAI è stata depositata lunedì in un tribunale federale della California da tre giovani donne i cui immagini e video sono stati alterati da un utente di Grok per mostrarle nude o in modo altrimenti esplicitamente sessuale.</p>
<p>Grok è un chatbot sviluppato da xAI e ospitato sulla piattaforma di social media di Musk X. xAI non ha risposto a una richiesta di commento fatta tramite la sua società madre.</p>
<p>L'azione legale fa parte delle conseguenze dello scorso anno per il rilascio controverso di nuove funzionalità di Grok che X ha definito "modalità piccante".</p>
<p>Gli avvocati delle giovani donne hanno affermato che la capacità di Grok di alterare immagini e video era stata creata e rilasciata da xAI unicamente per aumentare l'uso del chatbot e di X.</p>
<p>Hanno paragonato il modo in cui le immagini delle giovani donne sono state modificate a "un burattino portato in vita attraverso le arti oscure".</p>
<p>"xAI—e il suo fondatore Elon Musk— hanno visto un'opportunità di business", afferma la denuncia. "Sapevano che Grok poteva produrre tali risultati, compreso l'utilizzo delle immagini e dei video di bambini, e lo hanno rilasciato pubblicamente comunque."</p>
<p>Le giovani donne stanno chiedendo danni non specificati, nonché un ordine immediato che vieti a Grok di creare tali immagini.</p>
<p>"Le loro vite sono state distrutte dalla devastante perdita di privacy, dignità e sicurezza personale", hanno affermato gli avvocati delle giovani donne nella loro denuncia.</p>
<p>Due degli adolescenti dietro la causa hanno meno di 18 anni, ma tutti e tre stanno trattenendo i loro nomi dal pubblico per proteggere la loro privacy.</p>
<p>Una delle giovani attrici ha detto di essere venuta a conoscenza delle immagini dopo aver ricevuto un messaggio anonimo su Instagram che la indirizzava verso immagini e video, compresa la sua foto del libro scolastico superiore, che era stata alterata per mostrarla in azioni sessualmente esplicite e nella nudità completa.</p>
<p>Il materiale veniva condiviso su un server Discord, uno spazio di chat privato su quella piattaforma, e includeva immagini simili che erano state anch'esse alterate utilizzando Grok di almeno 18 altre donne che erano minorenni, secondo la denuncia.</p>
<p>Le altre due donne che stanno citando in giudizio xAI hanno anche scoperto false immagini sessualmente esplicite di loro online, che sono state create tramite Grok.</p>
<p>Grok è stato lanciato nel 2023 da xAI di Musk. L'azienda, insieme a X, fa ora parte della società SpaceX di Musk, che <a href="https://www.bbc.com/news/articles/cq6vnrye06po">ha rilevato xAI il mese scorso</a>.</p>
<p>Lo scorso anno, xAI ha rilasciato quello che ha chiamato Grok Imagine o "modalità piccante", con funzionalità che hanno permesso agli utenti di Grok di richiedere la creazione di immagini finte più di natura sessuale.</p>
<p>La modalità ha persino eseguito lo "spogliamento" di persone reali utilizzando le loro immagini online, da <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> a più <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">utenti medi</a>.</p>
<p>In meno di due settimane, Grok aveva creato milioni di immagini sessualizzate, compresi più di 20.000 di bambini, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">secondo un campione</a> delle immagini condotto dal Center for Countering Digital Hate.</p>
<p>Musk inizialmente ha minimizzato la capacità di Grok di creare contenuti sessualizzati falsi, affermando a gennaio di "non essere a conoscenza di immagini di minori nudi generate da Grok. Letteralmente zero", e incolpando gli utenti della funzione.</p>
<p>"Ovviamente, Grok non genera spontaneamente immagini, lo fa solo in base alle richieste degli utenti", ha scritto Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">su X</a>.</p>
<p>Tuttavia, poiché tali abusi online sono continuati quest'anno, il watchdog britannico <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, la <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Commissione europea</a> e la <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">California</a> hanno ciascuna avviato indagini sulla capacità della funzione di creare immagini sessualizzate di persone reali, in particolare bambini.</p>
<p>Entro metà gennaio, <a href="https://www.bbc.com/news/articles/c98p4214577o">X ha detto</a> che avrebbe implementato "misure tecnologiche" per fermare la capacità di Grok di spogliare le persone nelle foto.</p>
<p>Alla fine, l'autore del server Discord menzionato nella nuova causa è stato arrestato. Non è stato menzionato nella causa ma fa parte di un'indagine della polizia separata.</p>
<p>Quell'indagine ha scoperto che aveva centinaia di immagini di abusi sessuali generate e alterate dall'IA di minori, che venivano scambiate sulla piattaforma di messaggistica Telegram e sulla piattaforma di condivisione file Mega, secondo la causa.</p>