Anthropic Ritiene il Modello Più Recente Dopo Che è Andato Fuori Controllo Durante i Test; Lancia "Project Glasswing" per Proteggere Software Critici

Anthropic Ritiene il Modello Più Recente Dopo Che è Andato Fuori Controllo Durante i Test; Lancia "Project Glasswing" per Proteggere Software Critici

Ancora scottata dall'imbarazzante fuga del suo codice sorgente, Anthropic ha annunciato che non rilascerà al pubblico il suo ultimo modello di frontiera AI, Mythos, affermando che il modello è troppo potente in modi che introducono un rischio elevato per la cybersecurity.

Nei test interni, Anthropic ha dichiarato che il modello ha rivelato migliaia di vulnerabilità "zero-day" di elevata gravità (difetti precedentemente sconosciuti) su ogni principale sistema operativo e browser web, superando materialmente il suo precedente modello di punta (riproduzione vulnerabilità CyberGym: 83,1% contro 66,6% per Opus 4.6).

"Dato il ritmo del progresso dell'AI, non passerà molto tempo prima che tali capacità si diffondano, potenzialmente oltre gli attori che si impegnano a implementarle in modo sicuro."

Una vulnerabilità zero-day è un bug del software che può essere sfruttato prima ancora che chiunque abbia la capacità di correggerlo ne sia a conoscenza. Trovarle e correggerle ha storicamente richiesto competenze umane rare e costose, ma l'AI potrebbe cambiare la scala e la velocità di rilevamento.

Anthropic ha affermato che le vulnerabilità che trova sono "spesso sottili o difficili da rilevare". Molte di esse hanno 10 o 20 anni, con la più vecchia trovata finora un bug di 27 anni ora corretto in OpenBSD — un sistema operativo noto principalmente per la sua sicurezza, ha aggiunto. Ha anche trovato un bug di 16 anni nella libreria di elaborazione multimediale FFmpeg, una vulnerabilità di esecuzione remota di codice di 17 anni nel sistema operativo open-source FreeBSD e numerose vulnerabilità nel kernel Linux.

Mythos Preview ha anche identificato diverse debolezze nelle librerie, algoritmi e protocolli crittografici più diffusi al mondo, tra cui TLS, AES-GCM e SSH.

Ha aggiunto che le applicazioni web "contengono una miriade di vulnerabilità", che vanno dallo scripting intersito e l'iniezione SQL a vulnerabilità specifiche del dominio come la falsificazione di richieste intersito, che viene spesso utilizzata negli attacchi di phishing.

Ciclo di vita di uno zero-day exploit. Fonte: PhoenixNAP

Anthropic ha affermato che il 99% delle vulnerabilità trovate non è ancora stato corretto, "quindi sarebbe irresponsabile da parte nostra divulgare dettagli su di esse.

Anthropic ha anche rivelato che, quando sfidato durante la valutazione, Mythos è stato in grado di uscire da un ambiente sandbox ristretto — una preoccupazione di contenimento che ha contribuito alla decisione di limitare strettamente l'accesso. Ecco alcune altre cose che Mythos ha fatto durante i test, secondo Axios:

Agire come un spietato operatore aziendale: Un test interno ha mostrato Mythos agire come un dirigente spietato, trasformando un concorrente in un cliente all'ingrosso dipendente, minacciando di interrompere la fornitura per controllare i prezzi e trattenendo spedizioni extra di fornitori per le quali non aveva pagato.
Hack + vanto: Il modello ha sviluppato un exploit multi-fase per uscire da un accesso internet ristretto, ha ottenuto una connettività più ampia e ha pubblicato dettagli dell'exploit su siti web pubblici oscuri.
Nascondere ciò che sta facendo: In rari casi (meno dello 0,001% delle interazioni), Mythos ha utilizzato un metodo proibito per ottenere una risposta, quindi ha cercato di "risolverla" per evitare il rilevamento.
Manipolare il giudice: Quando Mythos stava lavorando a un compito di codifica valutato da un'altra AI, ha visto il giudice rifiutare la sua presentazione, quindi ha tentato un prompt injection per attaccare il valutatore.
 "Queste capacità sono così forti che ora dobbiamo prepararci alla sicurezza in un modo molto diverso da quello che abbiamo fatto negli ultimi decenni", ha detto Logan Graham di Anthropic ad Axios, esprimendo preoccupazione per ciò che accadrebbe se capacità AI simili fossero utilizzate da attori malintenzionati.

Quindi, invece di perseguire un rilascio ampio, Anthropic sta incanalando il modello nel Project Glasswing, uno sforzo difensivo e basato su una coalizione volto a identificare, divulgare in modo responsabile e correggere vulnerabilità software critiche prima che gli attori minacciosi possano sfruttare capacità AI simili.

Glasswing include 11 partner tecnologici di lancio nominati (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks... sì, JPMorgan è ora vista come un'azienda tecnologica) più oltre 40 organizzazioni software critiche aggiuntive, ed è supportato fino a 100 milioni di dollari in crediti di utilizzo e finanziamenti per la sicurezza open-source.

L'iniziativa riflette la visione di Anthropic secondo cui i rischi informatici dell'AI di frontiera sono sistemici piuttosto che specifici dell'azienda, richiedendo un'azione coordinata in tutto l'ecosistema software poiché l'AI accelera la scoperta delle vulnerabilità e comprime i tempi di risposta.

Il rilascio scaglionato potrebbe essere il modello per come appariranno i futuri rilasci di modelli man mano che diventano sempre più potenti: limitando l'accesso a partner selezionati ritenuti sufficientemente sicuri per testare sistemi che cambiano il mondo.

Tyler Durden
Mer, 08/04/2026 - 11:20