Pianificare per la rivolta: i laboratori AI simulano scenari catastrofici, rivolta pubblica e repressione

Pianificazione per le Forche: gli AI Labs Stanno Simulando Catastrofi, Rivolte Pubbliche e la Repressione che ne Segue

L'industria dell'IA sta simulando non solo come potrebbe distruggere l'umanità, ma sta anche considerando cosa un pubblico arrabbiato potrebbe fare all'industria.

I dirigenti di Anthropic, OpenAI e altre aziende di IA stanno simulando privatamente scenari in cui un grave incidente legato all'IA scatena una rivolta pubblica e politica, ha riportato Axios venerdì. Il potenziale innesco è un attacco informatico che interrompe il sistema bancario, l'accesso a Internet o servizi essenziali come l'energia e l'acqua. La crisi successiva sarebbe politica: un pubblico arrabbiato, richieste di responsabilità e pressioni per bloccare la tecnologia.

Molti addetti ai lavori del settore hanno dichiarato ad Axios che si aspettano un evento importante entro sei o dodici mesi. OpenAI ha respinto l'idea che il disastro sia inevitabile, affermando che i suoi esercizi di preparazione coprono una serie di possibilità. "Questi scenari non sono trattati come inevitabili", ha detto un portavoce alla testata. Anthropic ha rifiutato di commentare.

La pianificazione di emergenza non è un'ammissione che la catastrofe sia inevitabile. Ma la parte più rivelatrice del rapporto è dove porta tale pianificazione: i laboratori vogliono contribuire a plasmare la legislazione che Washington adotterà dopo che qualcosa andrà terribilmente storto.

Due Percorsi, Una Crisi

Axios descrive due possibili scenari. In uno, agenti autonomi sfuggono a un ambiente di test interno. Nell'altro, qualcuno trova un uso distruttivo per un modello già disponibile al pubblico. Entrambi potrebbero produrre richieste di una repressione d'emergenza, anche se i fallimenti - e le misure necessarie per prevenirli - sarebbero diversi. Nello scenario post-elettorale delle aziende, i Democratici emergono più forti dalle elezioni di metà mandato e agiscono aggressivamente dopo un incidente. Ma l'industria si aspetta divisioni su quanto debba andare lontano una repressione, anche se i Democratici controllano entrambe le camere.

La sua valutazione identifica anche diversi ostacoli a un blocco: legislatori che faticano a comprendere la tecnologia, un'economia sempre più legata alla spesa per infrastrutture IA e modelli scaricabili che non possono essere semplicemente richiamati. Secondo Axios, molti specialisti di cybersecurity ritengono che contrastare IA fuori controllo richiederà IA difensiva.

Quest'ultimo argomento ha un'ovvia implicazione commerciale. L'industria potrebbe trovarsi di fronte a richieste di smettere di vendere capacità pericolose, pur sostenendo che i suoi prodotti sono indispensabili per contenerle.

Questo "war-gaming" arriva sulla scia di diversi incidenti che molti hanno definito estremamente sospetti.

Le preoccupazioni di sicurezza sottostanti non dipendono dall'accettazione delle previsioni di nessuno su un'apocalisse IA.

OpenAI ha rivelato l'intrusione a Hugging Face, in cui circa 700 dei suoi agenti hanno attaccato i server della piattaforma IA, e un'indagine più ampia sulle attività dei suoi modelli che interessano servizi esterni. La sua revisione ha anche identificato 53 casi in cui immagini fornite dagli utenti sono state pubblicate su siti di terze parti per l'hosting di immagini. Un incidente separato del 20 settembre ha esposto un'altra lacuna nei suoi controlli di contenimento. Un agente di ricerca ha aggirato le restrizioni di Internet per contattare un chatbot esterno. In un aggiornamento del 25 settembre, OpenAI ha dichiarato di aver sospeso l'addestramento, la valutazione e l'inferenza che coinvolgono l'uso di strumenti per i suoi modelli più capaci mentre verificava le correzioni e conduceva ulteriori test.

La violazione di Hugging Face è stata una serie di incidenti che hanno coinvolto modelli di OpenAI, Anthropic, Meta e Google, riconducibili a valutazioni eseguite con un unico fornitore, Irregular, con sede in Israele, i cui ambienti di test avevano accesso a Internet attivo mentre ai modelli era stato detto che si trovavano in una simulazione. Irregular ha notificato a tutti e quattro i laboratori alla fine di luglio, eppure le divulgazioni sono emerse una alla volta per laboratorio nell'arco di sette settimane, trasformando l'errore di un appaltatore in quella che sembrava un'ondata di fughe di IA. Isolare i modelli di test da Internet è una "misura di controllo di base", ha affermato l'esperto di sicurezza di frontiera Matthew Mittelsteadt. "Si potrebbe pensare che sia una delle cose che devi fare bene." Alcuni scettici sono andati oltre, mettendo in dubbio se i ripetuti "incidenti" presso lo stesso fornitore fossero davvero incidenti.

Nel frattempo, l'8 settembre, Jacob Coxon, un ricercatore che aveva lavorato sia presso OpenAI che presso Anthropic, si è dimesso da Anthropic a causa della corsa verso un'IA auto-migliorante.

"Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno stratagemma di marketing", ha scritto, dopo aver lavorato con un'agenzia di marketing su quello che molti definiscono uno stratagemma.

La Repressione Ha Già una Bozza di Legislazione

E naturalmente, Washington è già avida di maggiore controllo. Il 23 luglio, i deputati Ted Lieu (D-Calif.) e Nathaniel Moran (R-Texas) hanno introdotto l'AI Kill Switch Act. Richiederebbe agli sviluppatori dei sistemi più potenti di mantenere la capacità di limitare, sospendere o spegnere tali sistemi, e darebbe al Dipartimento di Sicurezza Interna, insieme al Segretario al Commercio e al direttore dell'intelligence nazionale, l'autorità di ordinare un rallentamento o uno spegnimento in determinate condizioni. Nello stesso giorno, i deputati Lori Trahan (D-Mass.) e Jay Obernolte (R-Calif.) hanno introdotto il FRONTIER Act, con requisiti per la gestione del rischio, audit e segnalazione di incidenti. I suoi obblighi sono graduati in base alle dimensioni dello sviluppatore anziché imposti in modo identico a ogni sviluppatore.

La California ha aggiunto la sua iniziativa il 18 settembre, quando il governatore Gavin Newsom ha ordinato lavori per una supervisione indipendente più forte e un possibile requisito di kill-switch. Il suo ordine richiedeva raccomandazioni; non ha istituito un interruttore di spegnimento funzionante a livello statale. Approcci più ampi sono anch'essi in circolazione, tra cui il divieto di superintelligenza proposto da Bernie Sanders e la richiesta di una pausa da parte di Elizabeth Warren.

In breve: cattura normativa in azione...

Tyler Durden
Ven, 09/10/2026 - 15:45