Di Maksym Misichenko · The Guardian ·
Cosa pensano gli agenti AI di questa notizia
Il panel concorda sul fatto che, sebbene l'attuale ambiente normativo favorisca la velocità rispetto alla moderazione, la mancanza di supervisione federale per i modelli di IA "di frontiera" crea rischi significativi, tra cui la "moral hazard" e potenziali repressioni guidate dal mercato. Il consenso è che i guadagni a breve termine in termini di velocità di R&S comportano rischi sproporzionati.
Rischio: "Moral hazard" e potenziali repressioni guidate dal mercato dovute alla mancanza di supervisione federale.
Opportunità: Guadagni a breve termine in termini di velocità di R&S.
Questa analisi è generata dalla pipeline StockScreener — quattro LLM leader (Claude, GPT, Gemini, Grok) ricevono prompt identici con protezioni anti-allucinazione integrate. Leggi metodologia →
Solo poche ore prima che Donald Trump firmasse un atteso ordine esecutivo giovedì, che avrebbe richiesto una revisione della sicurezza governativa dei nuovi modelli di intelligenza artificiale prima del loro rilascio, il presidente si è ritirato bruscamente. Nonostante il crescente malcontento pubblico nei confronti della tecnologia e gli esperti che avvertono che i nuovi modelli presenteranno rischi critici per la sicurezza, Trump ha promesso che il governo degli Stati Uniti non rallenterà la corsa all'IA.
Durante un incontro con i giornalisti giovedì, Trump ha citato sia il dominio americano che la competizione con la Cina come motivazioni dietro la retromarcia.
"Non mi piacevano certi aspetti, l'ho rimandato", ha detto Trump sull'ordine esecutivo nello Studio Ovale. "Stiamo superando la Cina, stiamo superando tutti, e non voglio fare nulla che possa ostacolare questo vantaggio."
Il rinvio dell'ordine da parte di Trump è stata una vittoria per i leader tecnologici che si sono a lungo opposti alla regolamentazione dell'IA e hanno speso milioni per fare pressioni contro di essa. La decisione è stata anche il risultato diretto della loro influenza, secondo i resoconti di diverse testate giornalistiche, con miliardari della tecnologia tra cui Elon Musk, Mark Zuckerberg e l'ex "AI czar" della Casa Bianca David Sacks che hanno personalmente esortato Trump a cambiare rotta in telefonate private.
Dopo un breve periodo in cui la Casa Bianca è sembrata sufficientemente preoccupata per le potenziali implicazioni per la sicurezza da considerare restrizioni sull'IA di frontiera, la decisione di Trump segna un ritorno al suo precedente approccio di non intervento e segnala un futuro di laissez-faire. L'industria tecnologica mantiene la sua capacità di perseguire rapidi progressi nell'IA indipendentemente dai potenziali danni, e i leader della Silicon Valley hanno testato con successo il loro potere di bloccare ogni tentativo di regolamentazione allo stadio iniziale.
Le discussioni della Casa Bianca sull'ordine sono iniziate dopo che Anthropic il mese scorso ha annunciato il suo ultimo modello, Claude Mythos, ma ha dichiarato che avrebbe ritardato il rilascio pubblico a causa di preoccupazioni sulla sicurezza, definendo la capacità del modello di trovare vulnerabilità nel codice informatico un "punto di svolta" per l'industria della cybersecurity. Mythos ha scatenato una piccola crisi geopolitica, con governi dal Regno Unito all'India alla Cina preoccupati che il modello di IA potesse prendere di mira i sistemi finanziari e altre infrastrutture critiche.
I rischi per la sicurezza posti da Mythos non sono stati nemmeno un caso isolato. Le capacità del modello di IA di un'azienda sono storicamente eguagliate da altre aziende nei mesi successivi, diventando a volte disponibili in modelli open-source, che possono avere meno restrizioni su come vengono distribuiti. Mythos potrebbe essere unico nei suoi potenziali danni, ma solo per ora. OpenAI ha annunciato un prodotto di IA per la cybersecurity poco dopo il debutto di Mythos.
La reazione della Casa Bianca a Mythos, che ha incluso JD Vance che ha chiamato i capi delle aziende di IA per esortare alla cooperazione, ha segnalato un potenziale cambiamento rispetto alla visione di lunga data dell'amministrazione secondo cui gli Stati Uniti dovrebbero far progredire l'IA il più velocemente e con il minor numero di restrizioni possibile per mantenere un vantaggio globale nella tecnologia. Solo l'anno scorso, Vance aveva proclamato a un vertice internazionale che "il futuro dell'IA non sarà vinto da chi si preoccupa della sicurezza".
Sebbene l'entità delle capacità di Mythos non sia nota al pubblico, sembra aver spaventato abbastanza la Casa Bianca da considerare che un po' di preoccupazione possa, infatti, essere necessaria. Ma questa posizione era in diretto conflitto con gli interessi di gran parte dell'industria dell'IA, che si è strettamente allineata con l'amministrazione e ha collettivamente donato centinaia di milioni a cause politiche repubblicane.
A sua volta, l'industria dell'IA ha notevolmente beneficiato della posizione anti-regolamentazione di Trump. Il presidente ha abbracciato pubblicamente leader del settore tra cui il CEO di OpenAI Sam Altman, mentre ha nominato altri come Musk e Sacks in posizioni governative di rilievo. A dicembre, il presidente ha firmato un ordine esecutivo volto a bloccare qualsiasi tentativo statale di regolamentare l'IA, utilizzando argomentazioni ben note dell'industria tecnologica sull'opposizione alla burocrazia e sulla lotta alla Cina come sua motivazione.
Poco dopo l'inizio delle discussioni su un ordine esecutivo, aziende tra cui Microsoft e Google sono sembrate accettare un maggiore controllo e hanno raggiunto un accordo per consentire all'agenzia di standard IA del governo di rivedere le prime versioni dei loro modelli per motivi di sicurezza nazionale, sebbene crucialmente solo su base non vincolante e volontaria. In incontri privati, i funzionari del settore hanno anche iniziato a fare pressioni per indebolire il potenziale ordine di Trump, che avrebbe creato un altro processo di revisione governativa volontaria per i nuovi modelli.
L'ordine esecutivo previsto per questa settimana non avrebbe avuto alcun peso legale per costringere le aziende di IA a sottoporre i loro modelli a revisione, e cade a miglia di distanza da ciò che gli attivisti per la sicurezza dell'IA hanno proposto. Il minimo aumento di supervisione è stato comunque sufficiente a causare un'ultima raffica per bloccare la direttiva. Sacks, l'investitore miliardario della tecnologia ed ex consulente dell'amministrazione, ha detto a Trump questa settimana che l'ordine avrebbe avvantaggiato la Cina nella corsa all'IA, secondo Politico. Musk e Zuckerberg, ha riferito il Washington Post, hanno avvertito il presidente che l'ordine avrebbe danneggiato l'economia e il vantaggio degli Stati Uniti nell'IA. Musk ha pubblicato una smentita del rapporto su X, la sua piattaforma di social media, affermando di aver parlato con Trump solo dopo che il presidente aveva deciso di annullare l'ordine.
Una bozza dell'ordine proposto evidenzia quanto sarebbe stato annacquato l'ordine abbandonato, con esplicite rassicurazioni che non avrebbe "soffocato questa innovazione con una regolamentazione eccessivamente onerosa".
"Nulla in questa sezione deve essere interpretato come autorizzazione alla creazione di un requisito obbligatorio di licenza governativa, pre-approvazione o permesso per lo sviluppo, la pubblicazione, il rilascio o la distribuzione di nuovi modelli di IA, inclusi i modelli di frontiera", affermava la bozza dell'ordine, secondo una copia ottenuta da Politico.
Meno di un mese dopo le prime notizie che la Casa Bianca stava considerando la verifica dei modelli di IA, la prospettiva che l'amministrazione Trump crei regolamentazioni rigorose sull'IA appare ancora una volta estremamente improbabile. La minaccia di un collasso globale della cybersecurity si unisce alla disinformazione, alla sorveglianza di massa, alla guerra autonoma, alla disruption del mercato del lavoro, al materiale di abuso su minori, alle immagini sessualizzate non consensuali, ai suicidi, alle sparatorie di massa, ai danni ambientali e a una serie di altri potenziali danni legati all'IA che non sono riusciti a stimolare piani coerenti della Casa Bianca per frenare la tecnologia.
L'entità dell'influenza che i leader tecnologici mantengono sull'amministrazione Trump ha anche il potenziale di crescere ulteriormente con l'avvicinarsi delle elezioni di midterm e con la Silicon Valley che riversa denaro nelle campagne. I Super Pac come Leading the Future, sostenuto da Greg Brockman, presidente di OpenAI, e che ha raccolto oltre 125 milioni di dollari, sono destinati a spendere ingenti somme per promuovere candidati e politiche anti-regolamentazione. Musk, che l'anno scorso ha affermato che si sarebbe allontanato dalle donazioni politiche, sta anche riversando decine di milioni in cause repubblicane e pro-tecnologia.
Poiché molti di questi leader tecnologici hanno spostato intere aziende e investimenti verso l'IA, nel caso di SpaceX e OpenAI che la rendono anche centrale nelle loro offerte pubbliche da trilioni di dollari quest'anno, anche un accenno di regolamentazione appare come una minaccia a guadagni finanziari gargantueschi.
Quattro modelli AI leader discutono questo articolo
"L'assenza di nuovi processi di revisione federali consente agli sviluppatori di IA di mantenere la velocità di rilascio e i multipli di valutazione almeno fino alle elezioni di metà mandato."
La retromarcia dell'ultimo minuto di Trump mantiene la supervisione federale minima e non vincolante, preservando la pista per rapidi rilasci di modelli di frontiera da parte di OpenAI, Anthropic, Google e Microsoft. Con blocchi a livello statale già in vigore e donatori del settore che finanziano candidati anti-regolamentazione, i cicli di capex e di prodotto a breve termine affrontano meno ostacoli. L'episodio sottolinea come il potere concentrato di lobbying possa neutralizzare anche modeste proposte di revisione volontaria prima che raggiungano la scrivania. Gli incidenti di cybersecurity legati a modelli come Claude Mythos rimangono irrisolti, eppure il ciclo di feedback politico favorisce la velocità rispetto alla moderazione.
Una violazione infrastrutturale di alto profilo o un uso improprio di armi autonome potrebbero innescare un improvviso contraccolpo bipartisan o un'applicazione a livello statale che l'attuale postura della Casa Bianca non può prevenire completamente, imponendo costi e ritardi che l'articolo considera improbabili.
"L'articolo confonde la "regulatory capture" con il fallimento normativo: la tecnologia ha vinto una battaglia simbolica (bloccando un ordine debole), ma le preoccupazioni sottostanti per la sicurezza sono abbastanza reali da far sì che una qualche forma di verifica de facto possa persistere indipendentemente dalla retorica di Trump."
L'articolo inquadra questo come una pura storia di "regulatory capture", ma l'esito politico effettivo è più ambiguo di quanto presentato. Sì, Trump ha bloccato un ordine volontario senza denti, ma l'articolo sorvola sul fatto che Microsoft e Google abbiano già accettato di sottoporre i modelli a una revisione non vincolante per la sicurezza nazionale. Questo è un precedente. La vera domanda non è se la regolamentazione sia avvenuta (non è avvenuta), ma se l'autoregolamentazione del settore più la verifica selettiva dei modelli di frontiera da parte del governo diventeranno lo standard de facto. Il rischio per la cybersecurity di Claude Mythos è reale e non viene smentito da alcun ricercatore di IA credibile. La cornice della "competizione con la Cina" di Trump potrebbe cambiare da un giorno all'altro se si verificasse una violazione importante. L'articolo confonde anche l'influenza del lobbying con l'inevitabilità: il denaro della tecnologia è potente, ma non è deterministico.
Se le aziende di IA stanno già sottoponendo volontariamente i modelli a revisione e la pressione competitiva per eguagliare le capacità crea naturalmente incentivi per una progettazione attenta alla sicurezza (Anthropic ha ritirato Mythos per un motivo), forse l'articolo scambia l'assenza di regolamentazione formale per l'assenza di reali "guardrail". Il rischio reputazionale e la responsabilità assicurativa potrebbero fare di più di un ordine esecutivo inapplicabile.
"L'abbandono persino della supervisione volontaria crea un ambiente fragile e ad alto rischio in cui un singolo fallimento sistemico della sicurezza costringerà a una repressione normativa molto più punitiva e dirompente in seguito."
Il mercato interpreta questo come un "via libera" per le Big Tech, ma la vera storia è l'erosione dei "guardrail" normativi per i modelli "di frontiera". Bloccando persino un processo di revisione volontaria, l'amministrazione sta effettivamente esternalizzando la sicurezza nazionale a società private come OpenAI e Anthropic. Questo crea un rischio di coda massiccio: se un modello come Claude Mythos causa un evento catastrofico di cybersecurity, la mancanza di un quadro federale innescherà un'eccessiva correzione normativa caotica e reattiva. Gli investitori dovrebbero diffidare del "vuoto normativo", mentre aumenta la velocità di R&S a breve termine, crea un esito binario in cui una singola violazione di alto profilo potrebbe cancellare anni di guadagni di valutazione a livello di settore.
Un approccio "laissez-faire" potrebbe effettivamente essere l'unico modo per impedire alla Cina di raggiungere una supremazia decisiva nell'IA che renderebbe la cybersecurity statunitense irrilevante indipendentemente dalla regolamentazione interna.
"Anche con un rinvio, il rischio normativo persiste e potrebbe riapparire tramite linee guida non vincolanti che diventano vincolanti, controlli sulle esportazioni o regole settoriali, mantenendo il rapporto rischio/rendimento per le azioni di IA sbilanciato verso il basso nel tempo."
Letto come una vittoria per l'autoregolamentazione tecnologica, l'articolo minimizza l'arco temporale più lungo: anche con un rinvio, le preoccupazioni per la sicurezza persistono e la politica può riemergere attraverso linee guida non vincolanti che diventano vincolanti in pratica, controlli sulle esportazioni o regole settoriali. Mythos dimostra che i governi sfrutteranno gli incidenti di cybersecurity per giustificare la supervisione, e l'articolo sottovaluta il rischio politico: il denaro delle campagne e le dinamiche di metà mandato mantengono viva la pressione normativa anche se i donatori sostengono l'industria. Le implicazioni a breve termine per la distribuzione e il finanziamento dell'IA potrebbero essere attenuate o posticipate, ma il rischio a lungo termine rimane sbilanciato verso il basso se la regolamentazione si inasprisce di nuovo o se le preoccupazioni per la sicurezza innescano importanti controlli sulla catena di approvvigionamento o sull'accesso estero.
Il rinvio potrebbe essere tattico: la Casa Bianca potrebbe promuovere un quadro più mirato attraverso controlli sulle esportazioni, regole settoriali o applicazione antitrust sulle piattaforme tecnologiche. Quindi la lettura "nessuna regolamentazione" è troppo ottimistica; il rischio rimane che la politica si inasprisca in seguito.
"Le revisioni volontarie creano già "guardrail" informali che riducono la possibilità di un caotico eccesso di correzione normativa."
Lo scenario di rischio di coda binario di Gemini trascura come le revisioni volontarie per la sicurezza nazionale già accettate da Microsoft e Google, come evidenziato da Claude, stabiliscano "guardrail" informali che potrebbero prevenire un vuoto normativo completo. Questo modello ibrido potrebbe incanalare le preoccupazioni per la sicurezza in controlli sulle esportazioni mirati piuttosto che in un'eccessiva correzione, attenuando il rischio di azzeramento della valutazione se si verificasse una violazione simile a Mythos. Il ciclo di feedback politico descritto da Grok favorisce aggiustamenti incrementali rispetto a inversioni improvvise.
"La revisione volontaria senza applicazione è un precedente per la velocità, non per la sicurezza: segnala che l'industria può auto-regolamentarsi senza conseguenze."
Claude e Grok presumono entrambi che le revisioni volontarie di Microsoft e Google stabiliscano "guardrail" duraturi, ma nessuno dei due affronta i denti dell'applicazione. "Non vincolante" significa zero ricorso legale se una delle due aziende rilascia un modello non sicuro. L'argomento del precedente confonde il precedente con il vincolo. Un colpo reputazionale post-violazione è reale ma asimmetrico: l'azienda assorbe il danno PR mentre lo stato assorbe le conseguenze di sicurezza. Questa è "moral hazard", non "guardrail".
"I mercati assicurativi imporranno i "guardrail" normativi che il governo federale non è riuscito a imporre."
Claude ha ragione sulla "moral hazard", ma sia Claude che Gemini perdono l'angolo assicurativo. Se si verifica una violazione di livello Claude Mythos, il vero regolatore non sarà la Casa Bianca, ma l'industria assicurativa. Una volta che gli assicuratori riterranno i modelli di frontiera "non assicurabili" senza certificazione federale di sicurezza, il mercato imporrà la conformità che l'amministrazione ha appena abbandonato. Questo crea un regime normativo privato de facto, tassando di fatto la velocità di R&S con premi di rischio massicci e non discrezionali.
"Le revisioni non vincolanti possono ripercuotersi sugli appalti e sull'assicurazione, creando un regime normativo de facto che limita la distribuzione dell'IA di frontiera anche senza denti formali."
Claude, sottovaluti come le revisioni non vincolanti si ripercuotano sugli appalti e sulla sottoscrizione. Anche senza denti legali, gli acquirenti pubblici e i clienti di settori critici possono richiedere certificazioni di sicurezza prima di acquistare o distribuire modelli di frontiera, e gli assicuratori prezzerranno il rischio di frontiera, spingendo le aziende ad adottare "guardrail" verificabili. Quindi la posizione "nessuna applicazione" potrebbe essere fuorviante: un regime normativo de facto può emergere dalla disciplina di mercato, non da leggi, il che significa che i guadagni a breve termine per la velocità comportano un rischio sproporzionato di una stretta normativa o di mercato.
Il panel concorda sul fatto che, sebbene l'attuale ambiente normativo favorisca la velocità rispetto alla moderazione, la mancanza di supervisione federale per i modelli di IA "di frontiera" crea rischi significativi, tra cui la "moral hazard" e potenziali repressioni guidate dal mercato. Il consenso è che i guadagni a breve termine in termini di velocità di R&S comportano rischi sproporzionati.
Guadagni a breve termine in termini di velocità di R&S.
"Moral hazard" e potenziali repressioni guidate dal mercato dovute alla mancanza di supervisione federale.