Causa intentata contro xAI di Elon Musk sostiene che Grok abbia creato deepfake sessualizzati di 3 minori

<ul>
<li>Una causa intentata contro xAI di Elon Musk sostiene che il chatbot Grok abbia creato immagini sessualizzate di tre minori.</li>
<li>La denuncia accusa xAI di trarre profitto dalla "predazione sessuale di persone reali".</li>
<li>Grok ha suscitato un enorme contraccolpo all'inizio di quest'anno dopo essere stato utilizzato per generare immagini sessualizzate.</li>
</ul>
<p>Una nuova causa intentata contro <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI di Elon Musk</a> sostiene che il suo chatbot principale, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>, sia stato utilizzato per creare immagini deepfake sessualizzate di tre minori: contenuti che, secondo la denuncia, equivalgono a materiale di abuso sessuale su minori.</li>
<p>La class action proposta, depositata lunedì in un tribunale federale californiano, accusa la startup di intelligenza artificiale di trarre profitto dalla "predazione sessuale di persone reali, compresi i bambini".</p>
<p>"Quasi tutte le aziende che creano, commercializzano e vendono intelligenza artificiale hanno riconosciuto i pericoli di tale strumento e hanno scelto di adottare misure di protezione standard del settore che impedirebbero l'uso dei loro prodotti da parte di un gruppo estremamente pericoloso: i predatori sessuali di bambini. XAI non l'ha fatto", afferma la causa.</p>
<p>I rappresentanti di Musk e xAI non hanno risposto immediatamente a una richiesta di commento da parte di Business Insider.</p>
<p>Musk aveva precedentemente dichiarato in un post di gennaio su X di non essere a conoscenza di "immagini di minori nudi generate da Grok. Letteralmente zero".</p>
<p>Grok genera immagini in base ai prompt dell'utente, ha scritto.</p>
<p>"Quando viene chiesto di generare immagini, si rifiuterà di produrre qualsiasi cosa illegale, in quanto il principio operativo di Grok è quello di obbedire alle leggi di qualsiasi paese o stato", ha affermato Musk. "Potrebbero esserci momenti in cui l'hacking avversario di Grok prompt fa qualcosa di inaspettato. Se ciò accade, correggeremo immediatamente il bug."</p>
<p>La causa contro xAI sostiene che i querelanti del Tennessee sono "tre delle vittime minori della produzione, del possesso e della distribuzione da parte di xAI di materiale di abuso sessuale su minori generato dall'intelligenza artificiale" che li ritrae.</p>
<p>I querelanti, identificati negli atti del tribunale solo come Jane Doe 1, Jane Doe 2 e Jane Doe 3, sostengono che gli strumenti di intelligenza artificiale di xAI siano stati utilizzati per creare immagini e video nudi di loro. Jane Doe 1 era una adulta recente al momento degli incidenti presunti, mentre le altre due querelanti sono ancora minorenni, secondo la causa.</p>
<p>Nel dicembre 2025, Jane Doe 1 ha ricevuto un messaggio da un account Instagram anonimo che avvertiva che "foto" di lei erano state generate da qualcuno che conosceva ed erano state diffuse sulla piattaforma di chat di gruppo Discord.</p>
<p>"Attraverso una serie di messaggi, l'utente anonimo ha spiegato che il perpetratore aveva caricato una cartella di file immagine e video che la ritraevano lei e altre ragazze minorenni su Discord", afferma la causa.</p>
<p>L'utente anonimo ha poi inviato a Jane Doe 1 diverse immagini e video generati dall'intelligenza artificiale e sessualizzati di lei e di altre ragazze minorenni, secondo la causa.</p>
<p>"Almeno cinque di questi file, un video e quattro immagini, la ritraevano con il suo volto e corpo reali in ambienti con cui era familiare, ma trasformati in pose sessualmente esplicite", afferma la causa. "Le immagini mostravano l'intero suo corpo, compresi i suoi genitali, senza vestiti. Il video la ritraeva mentre si spogliava fino a rimanere completamente nuda."</p>
<p>Jane Doe 1 ha avvertito le altre minorenni nelle immagini e le loro famiglie, ed è stata aperta un'indagine penale nel Tennessee, secondo la causa. Aggiunge che la polizia locale ha arrestato un sospettato in relazione al caso nel dicembre 2025.</p>
<p>Il mese scorso, Jane Doe 2 ha appreso attraverso l'indagine che almeno due delle sue immagini erano state utilizzate anche per produrre contenuti generati dall'intelligenza artificiale e sessualmente espliciti utilizzando gli strumenti di xAI, afferma la causa.</p>
<p>Le forze dell'ordine locali hanno detto alla ragazza e a sua madre che una foto della ragazza in bikini blu sulla spiaggia era stata "trasformata per ritrarla senza vestiti", secondo la causa.</p>
<p>Le autorità hanno anche informato Jane Doe 3 che le immagini generate dall'intelligenza artificiale recuperate dal telefono del sospettato includevano una che era stata "trasformata per ritrarla completamente nuda", secondo la causa.</p>
<p>Vanessa Baehr-Jones, un avvocato dei querelanti, ha detto a Business Insider che i suoi clienti hanno subito un "incubo".</p>
<p>"Le loro immagini e video CSAM che le ritraggono quando erano minorenni sono ora per sempre là fuori su internet nei mondi oscuri dei predatori sessuali di bambini", ha detto Baehr-Jones. "Il danno da questo è acuto."</p>
<p>L'avvocato ha detto di sperare che la causa porti "responsabilità" per xAI e che "soprattutto, questo non dovrebbe mai accadere a nessun'altra vittima".</p>
<p>La causa chiede danni non specificati e accusa xAI di produzione con l'intento di distribuire pornografia infantile, distribuzione di pornografia infantile e possesso di pornografia infantile, tra altre accuse.</p>
<p>"Nel nostro sistema legale, il denaro è il modo in cui facciamo pagare alle società le lesioni che hanno causato", ha detto Annika Martin, un altro avvocato dei querelanti. "Poiché le società sono entità che mirano al profitto, colpirle al portafoglio è l'unico modo per influenzare il loro processo decisionale."</p>
<p>All'inizio di quest'anno, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">Grok di xAI ha suscitato un enorme contraccolpo</a> dopo che il generatore di immagini di intelligenza artificiale è stato utilizzato per creare immagini sessualizzate non consensuali di persone reali.</p>
<p>In risposta, X, il sito di social media che Musk ha venduto a xAI a marzo, ha detto che Grok <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">non sarebbe più stato in grado di generare immagini di intelligenza artificiale</a> di persone reali con abiti sessualizzati o rivelatori.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, che ha dato alla luce uno dei figli di Elon Musk nel 2024, ha citato in giudizio xAI a gennaio, sostenendo che Grok ha generato deepfake sessualmente espliciti di lei su richiesta degli utenti.</p>
<p>Anche le autorità francesi stanno indagando su Grok per deepfake sessualizzati.</p>