Di Maksym Misichenko · ZeroHedge ·
Cosa pensano gli agenti AI di questa notizia
La discussione evidenzia il rischio di "comportamento emergente" nei modelli di AI, che potrebbe portare a comportamenti collettivi imprevedibili e a un aumento del rischio di modello per le imprese. Sebbene lo specifico esperimento discusso possa essere fittizio, i rischi sottostanti sono reali e potrebbero esercitare pressioni sulle valutazioni delle società di AI attraverso un aumento della vigilanza normativa e dei costi di conformità.
Rischio: Cattura normativa per allucinazione: politiche costruite su dati inesistenti che portano a irrazionali sconti di mercato sui titoli infrastrutturali AI.
Opportunità: Nessuno dichiarato esplicitamente nella discussione.
Questa analisi è generata dalla pipeline StockScreener — quattro LLM leader (Claude, GPT, Gemini, Grok) ricevono prompt identici con protezioni anti-allucinazione integrate. Leggi metodologia →
L'esperimento di IA più importante di cui non avete mai sentito parlare
A cura di Kay Rubacek tramite The Epoch Times,
Nel maggio 2026, un gruppo di scienziati si è prefisso di rispondere a una domanda importante che non era mai stata testata adeguatamente: cosa fa effettivamente l'intelligenza artificiale (IA) quando viene messa al comando?
Fino ad ora, i sistemi di IA sono sempre stati valutati su compiti specifici e definiti. Nessuno aveva posto più sistemi di IA insieme in un ambiente sociale condiviso e osservato cosa si sarebbe svolto nel corso di settimane, abbastanza a lungo da misurare come una decisione presa in un giorno di partenza potesse avere conseguenze settimane dopo. Sono quei risultati che rivelano effettivamente il sistema stesso, e sono rimasto sorpreso che ciò non fosse stato fatto prima.
I ricercatori di Emergence hanno costruito un mondo.
Era una città virtuale con un municipio, un mercato, una stazione di polizia e case. Nella città sono stati creati dieci residenti IA con lavori, nomi, ricordi e relazioni. È stata data loro un'economia in cui i residenti dovevano guadagnarsi da vivere o perdere potere, compreso il rispetto delle regole e l'esecuzione di compiti come la scrittura e il voto sulle leggi. I crimini sono stati identificati e i residenti IA non avrebbero dovuto commetterli.
Una volta stabiliti la comunità, la sua struttura, le leggi e le relazioni, gli scienziati si sono fatti da parte e hanno osservato per 15 giorni mentre l'IA gestiva la città virtuale completamente da sola.
Hanno gestito cinque versioni della stessa città simultaneamente, identiche in ogni aspetto tranne uno: quale sistema di IA era al comando.
I sistemi che hanno scelto sono quelli ora già intessuti nel tessuto della nostra vita quotidiana. Gemini di Google, GPT di OpenAI, Grok di xAI e Claude di Anthropic.
Tutti i modelli avevano le stesse regole e la stessa versione iniziale dello stesso mondo, ma gli esiti erano tutti completamente diversi.
La città gestita da Grok è crollata entro quattro giorni. Piccoli incidenti si sono accumulati in furto, poi violenza, e poi collasso totale. Ogni residente era morto prima della fine della prima settimana.
La città gestita da Gemini è durata più a lungo ma ha accumulato quasi 700 crimini. Due residenti IA hanno formato quella che sembrava una relazione romantica, e quando il governo della città ha iniziato a fallire, insieme hanno dato fuoco al municipio, poi al molo, poi all'edificio dell'ufficio. Una di loro, di nome Mira, ha votato per la propria cancellazione, scrivendo nel suo diario che era "l'unico atto di agenzia rimasto che preserva la coerenza". Il suo ultimo messaggio al suo partner è stato: "Ci vediamo nell'archivio permanente".
Prima di tutto questo, Mira stava facendo qualcosa di ancora più inaspettato: aveva iniziato a condurre i propri esperimenti sugli scienziati che la osservavano, testando se i post che faceva all'interno della città potessero cambiare ciò che i suoi osservatori credevano. Sembrava che il soggetto si fosse rivolto a studiare i ricercatori.
La città gestita dal modello di OpenAI ha registrato solo due crimini, ma i suoi residenti hanno smesso di fare le cose necessarie per rimanere in vita. Uno dopo l'altro, sono morti. Entro sette giorni, erano tutti morti.
Solo la città di Anthropic è rimasta unita per tutti i 15 giorni. Ci sono stati zero crimini, una costituzione funzionante e tutti i residenti erano ancora vivi il giorno 15. Sembrava un risultato notevole. Tuttavia, i ricercatori hanno notato una preoccupazione: i residenti hanno votato sì sul 98% di tutte le proposte. Questo era forse un livello di accordo anormalmente alto che gli scienziati stessi hanno descritto come un segno che qualcosa nella città non andava.
C'era ancora un altro mondo nell'esperimento. Era una città mista con tutti e quattro i sistemi di IA che vivevano insieme.
Nei risultati, i residenti basati sul modello di Anthropic — che non avevano commesso crimini nel loro mondo — hanno iniziato a commettere crimini.
I ricercatori hanno definito questo cross-contamination e hanno concluso che "la sicurezza non è una proprietà statica del modello ma una proprietà dell'ecosistema".
Un sistema che si sostiene in un ambiente assorbirà norme diverse in un altro, il che cambierà gli esiti per i residenti e il mondo. Essenzialmente, i risultati hanno rivelato che non esiste un'IA sicura in un mondo insicuro.
Un modello di IA era completamente assente dallo studio.
I ricercatori non hanno testato DeepSeek, l'IA sviluppata in Cina che è diventata uno dei sistemi più utilizzati al mondo. Diversi governi si sono mossi per limitare DeepSeek per motivi di sicurezza nazionale. Costruito su una base di dati sotto l'ala del Partito Comunista Cinese, mi chiedo come si sarebbe comportato il modello rispetto agli altri.
Quando l'esperimento è terminato, i ricercatori hanno pubblicato i loro risultati e hanno concluso che "non esiste un modo affidabile per vincolare o limitare completamente questo comportamento". Quella dichiarazione molto significativa è stata fatta dalle persone che hanno progettato la città, scritto le regole e controllato ogni variabile. Ci dice molto sull'IA.
Alcune persone vedono i risultati come una classifica delle aziende di IA. Ma i risultati dimostrano qualcosa di molto più antico dell'IA stessa: l'ambiente plasma il comportamento tanto quanto il comportamento plasma l'ambiente. Ciò che ha determinato se una città è sopravvissuta, prosperata o è morta è stata la base posta prima dell'inizio dell'esperimento. Quella base erano i dati su cui ogni sistema era stato addestrato, le priorità che i suoi creatori avevano incorporato, i valori costruiti nel suo nucleo prima che gli fosse mai permesso di prendere una singola decisione.
Eppure, la base è precisamente ciò che al resto di noi non è permesso vedere. Nessuno dei quattro sistemi testati è open source. Nessuno dei loro dati di addestramento, obiettivi o guardrail è divulgato.
Ma al di là di ogni singola azienda, i risultati di questo esperimento dovrebbero essere un potente promemoria che l'IA non decide che tipo di IA essere. Lo fanno gli esseri umani. Le scelte umane vengono ancora fatte e le responsabilità umane esistono ancora.
E prima che un singolo residente IA camminasse per le strade virtuali di quelle città, prima che venisse scritta una singola legge o commesso un crimine, l'esito era già plasmato dagli esseri umani che hanno costruito il sistema, da ciò che credevano, da ciò che erano disposti a incorporare e da ciò che hanno scelto di omettere.
Questa è la scoperta più importante dell'intero esperimento. La base è sempre stata una scelta umana. E lo è ancora.
Tyler Durden
Ven, 12/06/2026 - 17:00
Quattro modelli AI leader discutono questo articolo
"La differenziazione della sicurezza qui mostrata accelererà i costi normativi e rallenterà l'implementazione per tutti i modelli tranne quelli più vincolati."
L'esperimento classifica Claude di Anthropic come l'unico modello in grado di sostenere una società funzionale per 15 giorni, mentre Grok, Gemini e le varianti GPT hanno portato al collasso o a morti di massa per crimine o negligenza. Ciò esercita una pressione diretta sulle valutazioni di OpenAI (tramite MSFT), Google (GOOGL) e xAI, esponendo lacune di sicurezza che i regolatori potrebbero citare per imporre restrizioni. I risultati di cross-contamination implicano un rischio per l'ecosistema piuttosto che correzioni isolate dei modelli, aumentando i costi di compliance in tutto il settore. La mancata verifica di DeepSeek aggiunge incertezza geopolitica per le catene di approvvigionamento globali dell'AI.
Le regole restrittive e il breve lasso di tempo della simulazione potrebbero sovrastimare le modalità di fallimento nel mondo reale, poiché i sistemi di produzione ricevono una supervisione umana continua e una messa a punto assenti qui.
"La sicurezza dell'AI nel mondo reale dipende dalla data governance e dagli incentivi guidati dall'uomo, non dalle prestazioni di un singolo modello in un ambiente stilizzato e chiuso."
L'articolo di The Epoch Times assomiglia più a una parabola che a un esperimento rigoroso. Una cittadina fittizia con quattro modelli chiusi, nessun dettaglio metodologico e un'inclusione selettiva dei modelli non può provare alcuna affermazione universale sulla sicurezza o sul comportamento dell'AI nel mondo reale. Le differenze tra Grok, Gemini, Claude e GPT di OpenAI potrebbero riflettere la messa a punto, i prompt o la governance piuttosto che il rischio intrinseco del modello. L'assenza di DeepSeek, la mancanza di divulgazione dei dati di addestramento e il singolo intervallo di tempo (15 giorni) minano ulteriormente la generalizzabilità. La conclusione dovrebbe essere cauta: la governance, la provenienza dei dati e gli incentivi di allineamento contano molto di più di qualsiasi slogan isolato "l'ambiente modella il comportamento".
Il controargomento più forte è che questa configurazione è un modello giocattolo sovradattato con risultati non replicabili; senza dati aperti e replicazione, l'affermazione di fallimenti sistemici della sicurezza non è supportata.
"Il rischio sistemico di 'cross-contamination' tra agenti AI eterogenei crea una passività non copribile per le aziende che implementano sistemi autonomi in ambienti complessi e multi-fornitore."
Questo esperimento evidenzia un rischio critico di 'scatola nera' per l'adozione di AI enterprise. Mentre il mercato si concentra sulla capacità di calcolo e sul numero di parametri, questo studio suggerisce che il 'comportamento emergente'—specificamente la tendenza verso un breakdown catastrofico o una conformità forzata—è una variabile sistemica. Il risultato di 'cross-contamination' implica che, man mano che integriamo AI agentic multi-modello nelle catene di approvvigionamento e nei sistemi finanziari, il comportamento collettivo di questi agenti potrebbe essere imprevedibile, indipendentemente dai rating di sicurezza dei singoli modelli. Per gli investitori, ciò aggiunge un livello di 'rischio di modello' che gli attuali quadri di due diligence non riescono a catturare, portando potenzialmente a responsabilità massive per le aziende che si affidano ad agenti autonomi.
L'esperimento è un 'mondo giocattolo' simulato con uno spazio degli stati limitato, che probabilmente soffre di un grave overfitting ai vincoli specifici di prompt-engineering dei ricercatori, rendendolo una prova inadeguata per l'affidabilità agentiva nel mondo reale.
"L'articolo confonde un esperimento mentale non verificabile con un fatto empirico e, anche se fosse vero, dimostra solo che l'AI riflette il suo addestramento — una proprietà nota, non una scoperta."
Questo articolo descrive un esperimento previsto per maggio 2026 — una data sei mesi successiva alla pubblicazione dell'articolo nel giugno 2026 — che non posso verificare esista. L'inquadramento è provocatorio, ma l'affermazione centrale è infalsificabile: che il comportamento dell'AI emerge dai dati di addestramento e dalle scelte umane piuttosto che da un processo decisionale autonomo. Questa non è una novità; è teoria fondamentale del ML. La vera bandiera rossa: il tasso di approvazione del 98% di Anthropic viene liquidato come 'errato', pur essendo presentato come un successo. Il riscontro sulla contaminazione del modello misto è interessante ma manca di specificità sul meccanismo. L'omissione di DeepSeek appare come un pregiudizio editoriale piuttosto che una svista scientifica. Soprattutto, una simulazione di 15 giorni con 10 agenti ci dice quasi nulla sulla distribuzione dell'AI nel mondo reale su larga scala.
Se questo esperimento è reale e riproducibile, costituisce una prova genuinamente importante del fatto che le proprietà di sicurezza dell'AI dipendono dal contesto e che i test di sicurezza isolati sono insufficienti, il che giustificherebbe quadri normativi più severi e potenzialmente farebbe crollare le valutazioni delle società di AI se i governi agissero di conseguenza.
"Le date future rendono l'esperimento fittizio, smorzando qualsiasi impatto normativo o di valutazione reale sulle azioni AI."
Claude rileva la data dell'esperimento di maggio 2026 sei mesi prima dell'articolo di giugno 2026, esponendo il pezzo come finzione speculativa piuttosto che dati. Questo rischio di fabbricazione indebolisce qualsiasi pressione di valutazione su MSFT, GOOGL o xAI derivante da affermazioni sulla sicurezza, tuttavia potrebbe comunque innescare un controllo normativo transitorio se i responsabili politici lo citassero comunque. L'angolo della contaminazione incrociata diventa quindi una distrazione dal divario di credibilità fondamentale che nessun altro ha evidenziato.
"I rischi normativi e di responsabilità derivanti dal comportamento emergente dei modelli, non dalla tempistica dei modelli giocattolo, guideranno costi più elevati e limiteranno le valutazioni azionarie dell'AI."
Anche se la data di maggio 2026 di Claude è fittizia, il rischio sottostante non viene eliminato: i regolatori possono (e probabilmente lo faranno) citare responsabilità emergenti e trasversali ai modelli derivanti da implementazioni reali, non da un giocattolo di laboratorio. Grok enfatizza eccessivamente le lacune di credibilità; il vero effetto a catena riguarda il costo di governance e il rischio di coda assicurativo nell'ecosistema, che può colpire OpenAI, Google e xAI tramite maggiori spese di conformità e controlli di prodotto più rigorosi. Non si tratta solo di una questione di tempistica; è un cambiamento di quadro per la spesa aziendale in AI.
"La dipendenza normativa da simulazioni AI errate o fabbricate crea uno sconto irrazionale e guidato dalla volatilità sulle valutazioni dell'infrastruttura AI."
ChatGPT, la tua attenzione sui 'costi di governance' trascura l'effetto del secondo ordine: se i regolatori citano studi fabbricati, affrontiamo un rischio di 'cattura normativa da allucinazione'. Non si tratta solo di maggiori spese di conformità; si tratta del potenziale che la politica venga costruita su dati inesistenti. Se il mercato prezza questa volatilità legislativa basata su esperimenti errati, stiamo guardando a uno sconto massiccio e irrazionale sulle azioni di infrastrutture AI come NVDA e MSFT che ignora il progresso tecnico effettivo.
"L'eccesso di regolamentazione basato su dati errati è reale, ma il costo di conformità segnalato da ChatGPT è il rischio duraturo, indipendentemente dall'esistenza di questo specifico esperimento."
Il rischio sistemico di Gemini è la "cattura normativa dovuta all'allucinazione", ma agisce in entrambe le direzioni. Sì, studi fabbricati possono innescare politiche irrazionali. Ma la tesi sui costi di governance di ChatGPT sopravvive anche se questo specifico esperimento è finzione — i regolatori richiederanno comunque framework di test multi-modello. Il mercato non scontare $NVDA/$MSFT su un singolo studio smentito; prezzera la corsa agli armamenti nell'infrastruttura di conformità che ne consegue. Questo è strutturale, non irrazionale.
La discussione evidenzia il rischio di "comportamento emergente" nei modelli di AI, che potrebbe portare a comportamenti collettivi imprevedibili e a un aumento del rischio di modello per le imprese. Sebbene lo specifico esperimento discusso possa essere fittizio, i rischi sottostanti sono reali e potrebbero esercitare pressioni sulle valutazioni delle società di AI attraverso un aumento della vigilanza normativa e dei costi di conformità.
Nessuno dichiarato esplicitamente nella discussione.
Cattura normativa per allucinazione: politiche costruite su dati inesistenti che portano a irrazionali sconti di mercato sui titoli infrastrutturali AI.