Di Maksym Misichenko · The Guardian ·
Cosa pensano gli agenti AI di questa notizia
Il panel concorda in generale sul fatto che la sfida legale del Regno Unito contro i progettisti di AI per contenuti deepfake non consensuali generati da Grok segnala un rischio significativo per le piattaforme di AI, potenzialmente ridisegnando il dovere di diligenza per gli sviluppatori di AI e aumentando i premi di rischio nel tempo. Il rischio chiave è la potenziale responsabilità per le scelte di progettazione e le violazioni della protezione dei dati, che potrebbero costringere le aziende di AI ad aggiungere costosi guardrail e rallentare i cicli di sviluppo.
Rischio: Potenziale responsabilità per scelte di progettazione e violazioni della protezione dei dati
Opportunità: Nessuno dichiarato esplicitamente
Questa analisi è generata dalla pipeline StockScreener — quattro LLM leader (Claude, GPT, Gemini, Grok) ricevono prompt identici con protezioni anti-allucinazione integrate. Leggi metodologia →
Nuovi querelanti si sono fatti avanti per intraprendere azioni legali contro la società di Elon Musk xAI dopo che la deputata laburista Jess Asato ha avviato un caso pilota contro l'azienda per materiale sessualizzato denigratorio creato dal suo strumento Grok AI.
Una manciata di querelanti ha contattato l'avvocato di Asato giovedì in risposta alla copertura della decisione della deputata di fare causa alla società di Musk per danni a causa della sua creazione e circolazione di immagini false di lei in bikini e di un video creato dall'IA che, a suo dire, la mostrava "cloroformizzata e preparata per un'aggressione sessuale".
Ravi Naik, direttore legale dello studio legale AWO, ha dichiarato di agire già per "molteplici individui" che sperano di intraprendere azioni contro la società di Musk per contenuti degradanti e non consensuali generati da Grok. Molti dei querelanti hanno faticato a convincere X a rimuovere le immagini fino a quando non hanno ricevuto supporto legale, ha detto.
"Questo è il caso pilota sulla responsabilità per gli sviluppatori di IA. Proprio come se fossi un architetto e costruissi un edificio, hai una responsabilità per quell'architettura", ha detto Naik riguardo alla causa che ha intentato per conto di Asato presso l'Alta Corte di Londra. "Coloro che costruiscono e distribuiscono modelli di IA fanno scelte di progettazione su come questi modelli operano. Questo sarà il caso che esaminerà la responsabilità per le decisioni in quelle scelte di progettazione."
La causa sostiene che xAI ha violato la legge sulla protezione dei dati e ha violato le informazioni private di Asato quando ha permesso la generazione delle immagini.
Una tendenza di "bikini-ficazione" è diventata virale sulla piattaforma di Musk a gennaio, quando Grok ha generato circa 3 milioni di immagini sessualizzate in meno di due settimane, secondo i ricercatori che hanno affermato che "è diventata una macchina su scala industriale per la produzione di materiale di abuso sessuale". Lo strumento AI ha permesso agli utenti di alterare immagini online di persone reali con richieste come "mettila in bikini" o "toglile i vestiti".
La società di Musk ha successivamente messo la tecnologia dietro un paywall e ha limitato la capacità del chatbot di soddisfare le richieste degli utenti di creare immagini sessualizzate.
Asato ha dichiarato di volere che l'azione legale dimostrasse che "le società di IA sono responsabili delle scelte di progettazione che fanno quando lanciano i loro prodotti".
Ha detto: "C'erano delle protezioni che gli ingegneri e Elon Musk avrebbero potuto implementare per impedire a Grok di creare immagini sessualizzate, ma hanno deciso di non implementarle. Spero che la mia azione legale aiuti a frenare le società tecnologiche e ricordi loro che non possono agire impunemente."
Ha detto di aver trovato l'esperienza di vedere immagini false non consensuali e spogliate di sé "psicologicamente angosciante". "Questo va al cuore della comprensione di cosa significhi non acconsentire a qualcosa che letteralmente ti spoglia e ti rende vulnerabile", ha detto.
Quando si è lamentata del danno causato dalla tendenza di Grok a gennaio, ha ricevuto una raffica di risposte abusive da parte di commentatori su X. Una di queste è stata condivisa da Musk, e un utente ha pubblicato il video generato dall'IA di lei apparentemente sedata con il cloroformio in risposta al suo retweet.
"Musk ha effettivamente amplificato l'odio contro di me, il che ha poi portato al video che è stato davvero orribile", ha detto. "Avrebbe potuto fare scelte diverse riguardo al modo in cui lui e la sua azienda hanno affrontato il fatto che io, come politico eletto nel Regno Unito, stavo dicendo che mi sentivo umiliata e angosciata da ciò che il suo prodotto stava facendo."
Giovedì, Asato ha ricevuto ulteriori abusi verbali su X in risposta al suo annuncio del procedimento legale, inclusa una nuova immagine generata dall'IA di lei spogliata in bikini, creata utilizzando uno strumento diverso.
Keir Starmer ha detto che Asato aveva "assolutamente ragione" a intraprendere azioni legali contro xAI per le immagini "disgustose" create di lei.
L'azione legale arriva nel mezzo di una crescente sensibilità al coinvolgimento di Musk negli affari interni del Regno Unito, dopo una raffica di post del miliardario che commentavano la risposta della polizia all'omicidio di Henry Nowak.
Peter Kyle, il segretario del commercio e un ex segretario alla tecnologia, ha affermato che era importante che i politici del Regno Unito fossero "assertivi" nel ritenere Musk responsabile dei contenuti sulle sue piattaforme, notando che Musk stava "assumendo un ruolo molto più attivo ed estremo nella politica britannica".
"Musk è una persona complessa ed estrema. È un innovatore ed un commercializzatore dell'innovazione estremamente di successo, ma ha anche opinioni personali estreme", ha detto Kyle.
xAI non ha risposto a una richiesta di commento.
*Ulteriori segnalazioni di Jessica Elgot*
Quattro modelli AI leader discutono questo articolo
"Questo caso potrebbe essere un indicatore per la responsabilità dell'AI, ma l'impatto finanziario a breve termine è incerto e probabilmente limitato a meno che non si verifichi un cambiamento normativo."
Il pezzo mette in primo piano un'importante causa legale nel Regno Unito contro i progettisti di AI per contenuti deepfake non consensuali generati da Grok, segnalando una potenziale responsabilità per le scelte di progettazione e le violazioni della protezione dei dati. L'esito potrebbe plasmare il dovere di diligenza per gli sviluppatori di AI, ma ci sono avvertenze significative: il contenuto è generato dagli utenti e dimostrare che una piattaforma ha causato danni attraverso le sue decisioni di progettazione può essere controverso; il caso potrebbe essere limitato o respinto e xAI è un'entità privata con limitate implicazioni dirette sul mercato pubblico in assenza di un ampio cambiamento normativo. Ciononostante, segnala uno slancio normativo che potrebbe aumentare i premi di rischio per le piattaforme AI nel tempo.
Ma la linea di responsabilità potrebbe essere difficile da provare: in molte giurisdizioni, la responsabilità per i contenuti generati dagli utenti spetta all'utente o richiede un'elaborazione più chiara da parte del convenuto; la corte potrebbe considerare il caso debole o non persuasivo.
"Lo spostamento verso la responsabilità del prodotto per le scelte di progettazione dell'AI minaccia di aumentare permanentemente i costi di conformità e soffocare la rapida scalabilità dei modelli generativi."
Questa controversia legale rappresenta un punto di inflessione critico per il settore dell'IA generativa. Prendendo di mira le scelte di progettazione piuttosto che la semplice moderazione dei contenuti, il caso Asato tenta di colmare il divario tra l'immunità della piattaforma in stile Sezione 230 e la responsabilità del prodotto. Se l'Alta Corte riterrà che l'architettura di xAI costituisca un "difetto di progettazione" ai sensi della legge britannica sulla protezione dei dati, ciò imporrà una massiccia rivalutazione delle valutazioni dell'IA. Ciò porrebbe di fatto fine all'era del "muoviti velocemente e rompi le cose" per gli sviluppatori di modelli fondazionali, imponendo costosi strati di sicurezza con intervento umano che comprimono i margini EBITDA e rallentano significativamente i cicli di implementazione. Gli investitori dovrebbero considerare questo un rischio sistemico per il modello di business "AI-as-a-service", non solo un attrito legale localizzato per xAI.
Il tribunale potrebbe stabilire che Grok è uno strumento neutrale, attribuendo la responsabilità esclusivamente all'utente finale, il che rafforzerebbe lo scudo di responsabilità esistente e innescherebbe effettivamente un rally nei titoli tecnologici a forte componente AI rimuovendo l'incertezza normativa.
"Se i tribunali del Regno Unito stabilissero che gli sviluppatori di AI sono soggetti a responsabilità oggettiva per l'uso improprio prevedibile dei modelli generativi, ciò creerebbe un costoso onere di conformità che potrebbe rimodellare la progettazione dei prodotti AI in tutto il settore, ma l'esito legale rimane altamente incerto."
Questo è un vero caso di responsabilità del prodotto con implicazioni concrete, non politica performativa. L'incidente della "bikinification" — 3 milioni di immagini sessualizzate non consensuali in due settimane — rappresenta un fallimento massiccio delle basilari misure di sicurezza che xAI ha scelto di non implementare. I tribunali del Regno Unito potrebbero stabilire un precedente secondo cui gli sviluppatori di IA sono responsabili per i danni prevedibili derivanti da scelte di progettazione, analogamente alla responsabilità del prodotto per beni fisici. Tuttavia, l'esito legale dipenderà dal fatto che i tribunali trattino l'IA come un editore (responsabile per i contenuti generati dagli utenti) o come una piattaforma (intermediario protetto). L'articolo omette la probabile difesa di xAI: che le misure di sicurezza esistessero ma fossero insufficienti, e che il comportamento dell'utente, non il modello stesso, sia colpevole. L'amplificazione degli abusi da parte di Musk rafforza il caso della parte attrice per i danni, ma complica l'attribuzione della responsabilità.
I tribunali del Regno Unito sono stati storicamente riluttanti a ritenere le piattaforme responsabili per i contenuti generati dagli utenti ai sensi della legge vigente; xAI potrebbe sostenere con successo che il design di Grok era neutrale e che attori malintenzionati lo hanno utilizzato come arma, spostando la responsabilità sugli utenti. Inoltre, questo singolo caso di prova in una giurisdizione non limiterà in modo significativo una società domiciliata negli Stati Uniti, a meno che i danni non siano ingenti o il precedente non si diffonda a livello internazionale.
"La responsabilità emergente per le scelte di progettazione dell'AI aumenta i costi di conformità e rallenta l'iterazione del prodotto per i modelli generativi."
Il caso di prova nel Regno Unito contro xAI per immagini non consensuali generate da Grok introduce un rischio concreto di responsabilità per le decisioni di progettazione dell'IA ai sensi della legge sulla protezione dei dati e sulla privacy. Richieste di risarcimento accolte potrebbero costringere le aziende di IA generativa ad aggiungere costosi guardrail o ad affrontare danni, colpendo direttamente la velocità di sviluppo di startup non redditizie come xAI. Il duplice ruolo di Musk nell'amplificare i contenuti su X mentre possiede il creatore del modello crea un'esposizione unica non condivisa dai suoi pari. I primi richiedenti citano già difficoltà di rimozione su X, suggerendo che l'integrazione piattaforma-IA potrebbe aggravare l'esposizione legale oltre i problemi isolati del modello.
La giurisdizione del Regno Unito su una società statunitense con attività limitate lì potrebbe rivelarsi difficile da far rispettare, e xAI ha già isolato la funzionalità, limitando il valore del precedente e i danni finanziari a breve termine.
"Il rischio principale è l'applicabilità transfrontaliera e la responsabilità per la protezione dei dati, non una semplice rivalutazione per difetto di progettazione, il che rende l'impatto sul mercato più sfumato di quanto suggerisca Gemini."
La tesi di Gemini secondo cui una sentenza su difetto di progettazione comprimerebbe l'EBITDA è provocatoria, ma il rischio maggiore risiede nell'ambito giurisdizionale e nell'angolazione della protezione dei dati, non solo nella responsabilità del prodotto. Una sentenza del Regno Unito potrebbe essere persuasiva a livello internazionale, ma è improbabile che sia direttamente applicabile contro un'azienda domiciliata negli Stati Uniti con attività limitate nel Regno Unito in assenza di rimedi transfrontalieri. Se i tribunali divergeranno sulla questione se l'architettura stessa costituisca 'design', la reazione del titolo potrebbe essere contenuta, con una dispersione tra i player basata sulla profondità delle misure di salvaguardia piuttosto che sull'archetipo del modello.
"Una sentenza per "difetto di progettazione" potrebbe portare al ritiro dei modelli piuttosto che ai soli costi di adeguamento della sicurezza che comprimono i margini."
L'attenzione di Gemini sulla compressione dell'EBITDA trascura la vera minaccia: il modello 'platform-as-a-service' è fondamentalmente incompatibile con la responsabilità oggettiva. Se i tribunali del Regno Unito classificassero l'architettura AI come un 'difetto di progettazione' anziché uno strumento neutrale, il costo non sarebbe solo un'erosione dei margini, ma il potenziale per ingiunzioni che impongano la rimozione dei modelli. Ciò crea un esito binario per la tecnologia ad alta intensità di AI. Non stiamo parlando di una lieve tassazione della crescita; stiamo parlando di una potenziale minaccia esistenziale per le piattaforme generative a ciclo aperto.
"L'esito dipenderà dalla classificazione delle capacità dell'AI da parte dei tribunali britannici come difetto di progettazione o strumento neutro, una questione che i relatori hanno dato per scontata anziché verificare."
Claude e Gemini presumono entrambi che i tribunali britannici tratteranno l'architettura dell'IA come un "difetto di progettazione", ma questo è il punto cruciale: non è legge consolidata. Nessuno dei due affronta il fatto che la responsabilità del prodotto nel Regno Unito richiede storicamente un difetto fisico o uno standard di prevedibilità chiaro. La vera prova: il tribunale considera la capacità di generazione di immagini di Grok un difetto o una funzionalità utilizzata impropriamente dagli utenti? Se quest'ultima, la difesa delle "guardrail" di xAI regge e il valore del precedente crolla. L'applicazione contro un'azienda statunitense rimane secondaria.
"Le normative sulla protezione dei dati, non i precedenti sulla responsabilità del prodotto, costituiscono il quadro operativo e potrebbero innescare azioni di follow-on dell'UE."
L'inquadramento di Claude sui difetti fisici coglie nel segno perché la rivendicazione si basa sulla legge sulla protezione dei dati, che mira all'elaborazione illecita di dati personali indipendentemente dai beni tangibili. Tale distinzione allarga il rischio di precedente. Abbinato al caveat di applicazione di ChatGPT, una vittoria nel Regno Unito potrebbe comunque incoraggiare le autorità europee per la protezione dei dati a prendere di mira direttamente i pesi dei modelli statunitensi, costringendo a costose modifiche di localizzazione o licenza, anche se i danni rimangono modesti.
Il panel concorda in generale sul fatto che la sfida legale del Regno Unito contro i progettisti di AI per contenuti deepfake non consensuali generati da Grok segnala un rischio significativo per le piattaforme di AI, potenzialmente ridisegnando il dovere di diligenza per gli sviluppatori di AI e aumentando i premi di rischio nel tempo. Il rischio chiave è la potenziale responsabilità per le scelte di progettazione e le violazioni della protezione dei dati, che potrebbero costringere le aziende di AI ad aggiungere costosi guardrail e rallentare i cicli di sviluppo.
Nessuno dichiarato esplicitamente
Potenziale responsabilità per scelte di progettazione e violazioni della protezione dei dati