Baltimore è la prima città statunitense a fare causa per le porno deepfake di Grok mentre la pressione legale aumenta su xAI di Musk

Le cause contro xAI di Elon Musk si stanno accumulando, con Baltimora che diventa la prima grande città statunitense a presentare un reclamo contro la società in merito a problemi con il suo generatore di immagini Grok.
Il sindaco di Baltimora Brandon Scott ha dichiarato in una dichiarazione via email a CNBC che le deepfake su Grok "hanno conseguenze traumatiche e durature per le vittime".
"Stiamo parlando di aziende tecnologiche che consentono lo sfruttamento sessuale dei bambini", ha scritto Scott. "La nostra città non resterà a guardare e permetterà che ciò continui; è una minaccia alla privacy, alla dignità e alla sicurezza pubblica, e i responsabili devono essere ritenuti responsabili."
Ora parte di SpaceX dopo una fusione il mese scorso, xAI affronta indagini normative in diversi paesi dopo che Grok ha permesso la creazione di massa di cosiddette porno deepfake basate su immagini di donne e bambini non consenzienti. La scorsa settimana, avvocati che rappresentano tre adolescenti nel Tennessee hanno presentato una proposta di class action contro xAI dopo che Grok ha generato contenuti che li ritraevano in scenari sessualizzati e degradanti.
Nell'ultima causa, presentata in un tribunale distrettuale il 24 marzo, il sindaco e il consiglio comunale di Baltimora hanno accusato xAI di violare le leggi di protezione dei consumatori della città e di impegnarsi in pratiche commerciali ingannevoli e sleali, in particolare commercializzando Grok e X, precedentemente nota come Twitter, come generalmente sicure per gli utenti.
Il reclamo fa riferimento a una tendenza "mettitela in bikini" che incoraggiava gli utenti di Grok a scattare foto di altri e a renderle nude. Musk, che controlla SpaceX ed è anche CEO di Tesla, ha partecipato alla tendenza, condividendo un'immagine creata con Grok che lo ritraeva in un bikini stringato.
"Il post di Musk ha funzionato come un'approvazione pubblica della capacità di Grok di generare modifiche sessualizzate o rivelatrici di persone reali, e ha segnalato agli utenti che questi usi di Grok erano accettabili, umoristici e incoraggiati", hanno scritto gli avvocati nel reclamo di Baltimora. "Proveniente dal proprietario e principale volto pubblico sia di x.AI che di X, il post di Musk ha funzionato come marketing e promozione per la stessa capacità di editing di immagini che veniva utilizzata per generare immagini sessuali non consensuali."
La città sta cercando "l'importo massimo di sanzioni legali disponibili", ma non ha indicato una cifra specifica nel suo reclamo. Sta anche chiedendo un "rimedio ingiuntivo" per costringere la società di Musk a apportare modifiche a X e Grok per frenare la creazione di quelle che i ricercatori definiscono immagini intime non consensuali (NCII) e materiale di abuso sessuale su minori (CSAM).
Baltimora vuole che il tribunale ordini a X e xAI di "cessare il targeting e lo sfruttamento dei residenti di Baltimora", "riformare il loro design di piattaforma sfruttatrice" e rivedere il loro marketing.
I dirigenti di SpaceX e xAI non hanno risposto immediatamente a una richiesta di commento.
In un rapporto pubblicato martedì, l'Internet Watch Foundation, un'organizzazione benefica con sede nel Regno Unito, ha affermato che le ragazze rimangono in modo schiacciante il bersaglio del CSAM, e sono state il bersaglio del 97% delle immagini sessualizzate illegali generate dall'IA valutate dall'organizzazione nel 2025.
GUARDA: L'accordo di SpaceX per acquisire xAI