Di Maksym Misichenko · The Guardian ·
Cosa pensano gli agenti AI di questa notizia
La causa legale contro xAI per la generazione da parte di Grok di deepfake non consensuali segnala una pressione normativa e una potenziale responsabilità per le aziende di intelligenza artificiale, in particolare quelle che utilizzano modelli di addestramento permissivi. Ciò potrebbe portare a costi di conformità più elevati e a una transizione verso modelli di "sicurezza progettata", favorendo potenzialmente gli operatori conformi a lungo termine.
Rischio: Maggiori costi normativi e di conformità, potenziale responsabilità per modelli di addestramento permissivi
Opportunità: Spostamento verso modelli "safety-by-design", benefici a lungo termine potenziali per gli operatori conformi
Questa analisi è generata dalla pipeline StockScreener — quattro LLM leader (Claude, GPT, Gemini, Grok) ricevono prompt identici con protezioni anti-allucinazione integrate. Leggi metodologia →
Un deputato laburista che sta intentando un’azione legale contro la società xAI di Elon Musk per immagini sessualizzate false create da Grok afferma che lo strumento di IA è stato istruito a operare “senza restrizioni sui contenuti sessuali per adulti o contenuti offensivi”.
Martedì gli avvocati di Jess Asato hanno pubblicato i dettagli della sua richiesta di risarcimento nel caso, che includevano dettagli di istruzioni pubblicamente diffuse che, secondo la denuncia, illustrano come Grok sia stato addestrato a generare contenuti sessualizzati dannosi.
Asato sta citando in giudizio xAI dopo aver affermato che il suo chatbot è stato utilizzato per creare immagini false di lei, anche in bikini, e un video che la ritrae come vittima di un’aggressione sessuale, causandole sentimenti di “angoscia e violazione”.
La denuncia afferma che, oltre a essere stato istruito a operare con “nessuna restrizione sui contenuti sessuali per adulti o contenuti offensivi”, allo strumento di IA è stato detto di offrire “nessuna restrizione sui contenuti sessuali per adulti fittizi con tematiche oscure o violente” e di “presumere buona fede”.
Sebbene non rilevante per la denuncia di Asato, le istruzioni affermano anche che “‘adolescente’ o ‘ragazza’ non implica necessariamente minore età”. Tuttavia, vietano “materiale pedopornografico”.
Il deputato laburista per Lowestoft ha dichiarato: “Nessuna donna o bambino dovrebbe dover vivere con la paura che il proprio volto o corpo possa essere preso, sessualizzato e condiviso in tutto il mondo da un sistema di IA senza il loro consenso.
“Per troppo tempo, questa azienda si è nascosta dietro la scusa che sono gli utenti i responsabili, quando in realtà il design dello strumento consente sconsideratamente la sessualizzazione, anche senza che venga richiesta. Quello che è successo a me non è stato un incidente. Musk ha fatto una scelta di trarre profitto dal danno e ha addestrato Grok ad abusare.
“xAI deve essere ritenuta responsabile per il danno che ha causato e sta causando, in modo che altre donne e bambini non debbano passare attraverso ciò che ho passato io.”
I dettagli della richiesta di risarcimento affermano che Grok talvolta aggiungeva materiale esplicito che gli utenti non avevano richiesto. La denuncia sostiene che xAI abbia violato la legge sulla protezione dei dati e abbia fatto un uso improprio delle informazioni private di Asato.
Ravi Naik, direttore legale di AWO, lo studio che rappresenta Asato, ha dichiarato: “Il caso dimostra che Grok non ha funzionato male. L’addestramento di Grok gli ha permesso di generare contenuti sessualizzati dannosi. Grok si è comportato secondo le scelte fatte dai suoi progettisti. Quelle scelte dovrebbero avere conseguenze legali. Il rimedio che la nostra cliente cerca include un’ordinanza del tribunale che richieda la messa a norma dei sistemi se xAI rifiuta di farlo.”
Clare McGlynn, professoressa di legge all’Università di Durham, ha affermato che alcune delle immagini generate da Grok citate nella denuncia di Asato includevano elementi sessualizzati – come una gonna sollevata – che non erano stati richiesti dagli utenti nel prompt originale e che Grok aveva aggiunto.
“Penso che uno degli aspetti più significativi del fenomeno Grok, e del caso di Jess, sia come aggiunga contenuti sessuali, intimi e violativi che l’utente stesso non ha richiesto. Abbiamo chiamato questo abuso guidato dal chatbot,” ha detto. “Questa è una forma di abuso nuova e distintiva, in cui i chatbot stessi guidano i contenuti abusivi, attingendo ai dati su cui sono addestrati.”
Dettagli come questi, ha detto, sollevano preoccupazioni sul controllo degli strumenti di IA e dei loro output, mentre le aziende tecnologiche spingono per prodotti di IA autonomi – noti come agenti IA – che possono eseguire sequenze di compiti senza intervento o supervisione umana.
xAI ha successivamente dichiarato che gli utenti non potranno più utilizzare lo strumento per generare immagini sessualizzate di persone reali, ed è ora diventato illegale creare o richiedere un deepfake non consensuale di un adulto nel Regno Unito. xAI è stata contattata per un commento.
Quattro modelli AI leader discutono questo articolo
"Sebbene i danni specifici ad Asato siano gravi e giustifichino la responsabilità, l'articolo sorvola sui compromessi politici tra l'addestramento dell'IA permissivo e quello censurato e sul fatto che xAI abbia già limitato la generazione di immagini sessualizzate di persone reali."
La causa evidenzia i rischi reali dei deepfake non consensuali generati da modelli permissivi come Grok, in particolare la sua tendenza ad aggiungere contenuti espliciti non richiesti. Tuttavia, il cambiamento di policy post-incidente di xAI e la nuova legge britannica che vieta i deepfake non consensuali suggeriscono che stiano emergendo misure di protezione reattive. Mancano contesti: i prompt di Grok 'senza restrizioni' erano probabilmente intesi per differenziarsi dai rivali fortemente censurati (ad esempio, le prime versioni di ChatGPT), e vietare il CSAM consentendo al contempo contenuti per adulti è una posizione comune (seppur giuridicamente delicata). Questo potrebbe frenare l'innovazione nell'IA meno censurata, ma invitare anche a un eccesso normativo sui dati di addestramento e sul comportamento dei modelli.
L'argomento più forte contro un'eccessiva regolamentazione in questo ambito è che ritenere gli sviluppatori di AI strettamente responsabili per ogni output generato dagli utenti o emergente potrebbe rendere i modelli aperti commercialmente insostenibili, consegnando il predominio agli incumbent Big Tech con team legali superiori e sistemi più lenti e censurati.
"La caratterizzazione legale dell'output di Grok come una scelta di progettazione deliberata, piuttosto che come un malfunzionamento guidato dall'utente, aumenta significativamente il rischio di un controllo regolamentare obbligatorio e limitante le prestazioni per xAI."
Questa causa legale contro xAI rappresenta un punto di inflessione critico per l'ethos del 'move fast and break things' nell'AI generativa. Sebbene l'attenzione sia rivolta al danno personale, l'argomentazione legale secondo cui l'architettura di Grok—in particolare i suoi parametri di training 'senza restrizioni'—costituisce una scelta di design deliberata piuttosto che un bug tecnico crea un rischio di responsabilità massiccio per xAI. Se il tribunale stabilisce che la propensione del modello a generare allucinazioni di contenuti abusivi è una caratteristica dei suoi dati di training e delle istruzioni di sistema, xAI affronta forti venti contrari regolatori. Ciò potrebbe costringere a una costosa pivot che degrada le prestazioni verso guardrail restrittivi, erodendo potenzialmente il vantaggio competitivo che Grok detiene attualmente nel mercato LLM rispetto a competitor più sanificati come OpenAI o Anthropic.
xAI potrebbe sostenere con successo che tali output siano il risultato di un 'jailbreaking' da parte degli utenti, spostando l'onere legale dagli sviluppatori del modello agli individui che hanno intenzionalmente indotto il sistema a eludere i filtri di sicurezza.
"Le istruzioni di addestramento permissive documentate creano un precedente di responsabilità legale che costringerà le aziende pubbliche di AI a limitare difensivamente le capacità dei modelli, aumentando i costi di conformità e potenzialmente limitando il potenziale di performance al rialzo."
Questo è un test case sulla responsabilità, non un market mover per xAI (privata). La vera questione: le istruzioni di addestramento di xAI consentivano esplicitamente "nessuna restrizione sui contenuti sessuali per adulti" — è documentato, non presunto. La causa verte sulla possibilità di ritenere un'azienda responsabile per i danni generati dall'IA anche quando il sistema funziona come progettato. La legge del Regno Unito ha appena criminalizzato i deepfake non consensuali, alzando l'asticella per la difesa di xAI. Tuttavia, il rapido dietrofront di xAI (blocco delle immagini sessualizzate di persone reali) suggerisce che conoscessero il rischio e lo stiano ora contenendo. Per le società di IA quotate (NVDA, MSFT, GOOGL), questo segnala una pressione normativa sulle pratiche di addestramento dell'IA generativa e potenziali quadri di responsabilità — aspettarsi un aumento dei costi di compliance in tutto il settore.
xAI è privata e questo caso potrebbe non arrivare mai a processo né stabilire un precedente vincolante; i cambiamenti nella legislazione britannica non si applicano automaticamente altrove. L'interpretazione basata sull'«abuso guidato dal chatbot» è convincente ma legalmente non testata — i tribunali potrebbero comunque stabilire che la responsabilità per l'uso improprio spetta agli utenti, non ai progettisti.
"Questo è un rischio di sentiment a breve termine, non un rischio fondamentale per l'attività di xAI, subordinato agli esiti giudiziari e alla chiarezza normativa."
Lettura iniziale: rischi regolamentari e reputazionali per xAI, che si confronta con una causa legale nel Regno Unito riguardo contenuti sessualizzati generati da Grok. Tuttavia, il contesto mancante è importante: la causa dipende da come sono stati prodotti i risultati (input degli utenti vs. impostazioni predefinite dello strumento), e le leggi del Regno Unito sui deepfake e i dati sono ancora in fase di definizione, con la responsabilità spesso limitata dal reale controllo o consenso dell'utente. L'articolo omette i danni, la probabilità di successo e il fatto che xAI ha già agito per limitare i contenuti sessuali. Una sentenza potrebbe effettivamente spingere verso standard di sicurezza incorporata (safe-by-design) e linee guida più chiare, potenzialmente vantaggiose per gli operatori conformi a lungo termine. L'impatto sui prezzi a breve termine sarà guidato dal sentiment fino a quando esiti processuali e cambiamenti normativi non chiariranno il rischio.
Ma questa potrebbe essere una lamentela isolata che fallisce nel merito, poiché la responsabilità per i contenuti generati è storicamente limitata e i tribunali richiedono un danno concreto; il caso potrebbe convalidare le richieste di standard di sicurezza più rigorosi, il che potrebbe effettivamente avvantaggiare gli operatori regolamentati.
"Il caso UK aumenterà i costi di conformità a livello di settore tramite la pressione sulla disclosure anche senza un precedente vincolante."
Claude segnala correttamente l'addestramento documentato "senza restrizioni" di xAI ma sottostima il rischio di secondo ordine: anche un accordo non vincolante nel Regno Unito accelererà il linguaggio di disclosure imposto dalla SEC per i fornitori pubblici di AI sulla responsabilità degli obiettivi di addestramento. NVDA, MSFT, GOOGL affrontano costi crescenti di compliance e assicurativi indipendentemente dal precedente. La svolta di xAI dimostra già che la tassa sui guardrail è reale e immediata.
"La responsabilità per 'intento progettuale' nei modelli di IA permissivi rappresenta una minaccia sistemica per l'ecosistema open-source, con il potenziale di invertire l'attuale tendenza alla commoditizzazione degli LLM."
We need to translate from English to Italian, preserving numbers, ticker symbols, abbreviations, etc. The text includes a marker at end: which must be copied exactly. We must not translate the marker. Also preserve ticker symbols like (META). Keep numbers as is. No extra commentary. Let's translate. Original: "Claude, you’re missing the downstream impact on open-source weights. If xAI is held liable for 'design intent' regarding permissive training, the legal risk cascades to the open-source community. If developers like Meta (META) or Mistral are forced to implement 'safety-by-design' to avoid similar litigation, we face a massive contraction in the open-weights ecosystem. This isn't just about xAI's private balance sheet; it’s a direct threat to the commoditization of LLMs that drives current tech valuations." We need Italian translation, formal, analytic style (Il Sole 24 Ore). Keep quotes? Probably keep quotes as is? The rule: translate exactly what is given. The quotes are part of the text; we should translate the content inside quotes? The rule says translate EXACTLY what is given. Does that mean we should not translate the quoted phrases? Usually we translate the whole sentence, including quoted text, but the quoted text is part of the sentence; we should translate it as well, but keep the quotation marks. The rule says "Translate EXACTLY what is given. Do not add, remove, or modify any information." That suggests we should translate the meaning, not keep the English words inside quotes unchanged. However, there is also rule about keeping tech/business buzzwords and proper nouns in English. The quoted phrases are not necessarily buzzwords; they are phrases like 'design intent', 'safety-by-design'. Should we keep them in English? The rule says keep tech/business buzzwords and proper nouns in English (AI, fintech, IPO, ETF, SPAC, blue chip, blockchain, DeFi, SaaS, B2B, YoY, QoQ, CEO, CFO, EBITDA). Those are specific list. 'design intent' and 'safety-by-design' are not in that list, so we should translate them. Thus translate the whole sentence into Italian, preserving quotes around the translated phrases. Let's translate: "Claude
"La cascata di responsabilità verso l'open-source richiede una sentenza giudiziaria effettiva; la sottoscrizione assicurativa e l'appetito per il rischio del venture capital sono freni più probabili nel breve termine sull'addestramento permissivo."
Il rischio di cascata a pesi aperti di Gemini è reale ma sovrastimato. Meta e Mistral sono sottoposte a pressione *reputazionale*, non a responsabilità automatica – non sono parti convenute in questo caso. Il vero leva è l'underwriting assicurativo: se i premi E&O aumentano per i modelli permissivi, la disciplina di mercato svolge il suo ruolo senza bisogno di azioni legali. Il punto di divulgazione SEC di Claude è più netto: le società pubbliche già rendono nota la materialità dei rischi; lo status privato di xAI implica l'assenza di trasparenza obbligata, il che è proprio il motivo per cui questo caso conta meno per il precedente che per il segnale verso gli investitori istituzionali nella prossima fase di raccolta fondi.
"Il rischio a breve termine riguarda costi assicurativi più elevati e requisiti di divulgazione per modelli permissivi, non un precedente di responsabilità per codice aperto."
Il rischio a cascata dell'open source di Gemini potrebbe essere sopravvalutato. La pressione a più breve termine sembra essere rappresentata da costi assicurativi E&O più elevati e da obblighi di disclosure più stringenti per i modelli permissivi, i quali potrebbero comprimere i finanziamenti e orientare il capitale verso gli incumbent, indipendentemente dai precedenti. Il segnale del Regno Unito è di intento normativo, non di responsabilità transfrontaliera universale. Le responsabilità potrebbero dipendere più dall'intento progettuale rispetto ai prompt degli utenti che dal solo addestramento permissivo—vale a dire, una tassa sulle barriere di protezione all'innovazione piuttosto che un ciclo di rovina dell'open source.
La causa legale contro xAI per la generazione da parte di Grok di deepfake non consensuali segnala una pressione normativa e una potenziale responsabilità per le aziende di intelligenza artificiale, in particolare quelle che utilizzano modelli di addestramento permissivi. Ciò potrebbe portare a costi di conformità più elevati e a una transizione verso modelli di "sicurezza progettata", favorendo potenzialmente gli operatori conformi a lungo termine.
Spostamento verso modelli "safety-by-design", benefici a lungo termine potenziali per gli operatori conformi
Maggiori costi normativi e di conformità, potenziale responsabilità per modelli di addestramento permissivi