Cos'è Mythos AI e perché potrebbe rappresentare una minaccia per la cybersecurity globale?

Anthropic ha escluso il rilascio del suo ultimo modello di intelligenza artificiale, Mythos, al pubblico a causa della minaccia che rappresenta per la cybersecurity globale.

Tuttavia, la startup tecnologica statunitense dietro il chatbot Claude ha confermato mercoledì che stava indagando su una segnalazione secondo cui un gruppo di persone aveva ottenuto un accesso non autorizzato a Mythos. Il presunto incidente ha sollevato preoccupazioni sul ritmo dello sviluppo e sulla capacità delle aziende tecnologiche di tenere i loro prodotti più rischiosi fuori dal dominio pubblico. Qui esaminiamo Mythos e il suo potenziale impatto.

Cos'è Mythos? Mythos è un modello di intelligenza artificiale – la tecnologia sottostante che alimenta strumenti come i chatbot – che, secondo Anthropic, rappresenta una seria minaccia potenziale per la cybersecurity di qualsiasi organizzazione. Anthropic ha annunciato l'esistenza di Mythos il 7 aprile, ma ha dichiarato che non sarebbe stato rilasciato pubblicamente a causa della sua capacità di identificare falle sconosciute nei sistemi IT. Tali falle potrebbero, in teoria, essere sfruttate dagli hacker.

Anthropic ha affermato che Mythos potrebbe identificare e sfruttare falle "zero-day" in ogni importante sistema operativo IT e browser web – se un utente glielo chiedesse. Gli zero-day sono così chiamati perché le organizzazioni e gli sviluppatori ne sono completamente ignari e non hanno avuto il tempo di correggerli prima che un aggressore colpisca.

Anthropic ha descritto la situazione come un "momento cruciale per la cybersecurity". Alcune delle falle non notate erano presenti da decenni, ha affermato l'azienda di San Francisco.

La startup ha permesso a società tecnologiche e banche, tra cui Apple e Goldman Sachs, di accedere al modello e valutare i rischi che potrebbe comportare per le loro attività e i loro clienti.

Anthropic ha annunciato il Project Glasswing l'8 aprile per consentire alle aziende di testare Mythos sulla cybersecurity. Fotografia: Samuel Boivin/NurPhoto/Shutterstock Perché è motivo di preoccupazione? Mythos rappresenta una prova tangibile, secondo l'AI Security Institute (AISI) del Regno Unito, delle capacità dirompenti dell'intelligenza artificiale avanzata. Fin dall'arrivo di ChatGPT di OpenAI nel 2022, gli esperti hanno avvertito che l'IA potrebbe causare seri danni nel mondo reale.

C'è anche un punto più ampio: Mythos è un'indicazione del ritmo del progresso nell'IA. I modelli avanzati tendono ad essere replicati rapidamente da altre aziende, inclusi gli sviluppatori di modelli open-source liberamente disponibili per gli utenti. In una lettera congiunta ai leader aziendali il mese scorso, il segretario alla tecnologia del Regno Unito, Liz Kendall, e il ministro della sicurezza, Dan Jarvis, hanno affermato che le aziende dovevano "pianificare di conseguenza" per un "rapido aumento" delle capacità dell'IA nel prossimo anno. L'IA può, ovviamente, essere utilizzata anche per difendersi dagli attacchi informatici.

Un'altra preoccupazione è che Mythos possa cadere nelle mani sbagliate nonostante sia stato ritirato dal rilascio pubblico. Questa paura si è concretizzata questa settimana con Anthropic che ha confermato che una "manciata" di utenti in un forum online privato aveva ottenuto l'accesso al modello.

Tuttavia, c'è anche una domanda sull'importanza delle migliaia di vulnerabilità che Mythos ha segnalato. Possono causare danni seri? Inoltre, evidenziare una falla IT non è la stessa cosa che sfruttarla.

Mythos è stato valutato da esperti? L'AISI, che è il principale organismo mondiale per la sicurezza dell'IA, ha esaminato Mythos e afferma che si tratta di un "passo avanti" rispetto ai modelli precedenti in termini di minaccia alla cybersecurity. Tra i segnali d'allarme ci sono la capacità di condurre attacchi multistadio e l'identificazione di falle IT senza guida umana.

Ha anche raggiunto un primato agli occhi dell'AISI: il completamento con successo di una simulazione di attacco informatico in 32 fasi in un test creato dall'istituto. Può attaccare sistemi IT deboli e di piccole dimensioni, ha affermato l'AISI, sebbene non sia stato in grado di esprimere un verdetto sui sistemi ben difesi. L'istituto ha concluso la sua valutazione con un'osservazione che viene spesso ripetuta altrove: i sistemi di IA possono solo migliorare da qui in avanti.

Richard Horne, amministratore delegato del National Cyber Security Centre del Regno Unito, ha dichiarato questa settimana alla conferenza CyberUK a Glasgow che l'emergere di Mythos aiuterà a incoraggiare le aziende a sostituire "tecnologie obsolete". "Aumenta solo l'urgenza", ha aggiunto.

Tuttavia, altri esperti hanno affermato che Mythos è più un'evoluzione che una rivoluzione. Aisle, un'azienda che si occupa di cybersecurity basata sull'IA, ha analizzato le principali affermazioni di Anthropic: che aveva trovato migliaia di vulnerabilità zero-day in grandi sistemi operativi e browser, inclusa una in FreeBSD, un parente di UNIX. Ha scoperto che altri modelli, molto più economici, erano in grado di trovare questi problemi. Ciò non significava che le capacità di Mythos non fossero significative, hanno detto, ma che c'era più sfumatura di quanto implicasse il tono urgente di Anthropic.

C'è anche cautela da parte degli esperti sul fatto che la maggior parte delle violazioni provenga ancora da rischi ben consolidati come l'autenticazione debole e vulnerabilità già note che non sono state corrette.
Alcuni esperti suggeriscono che ci sia un elemento di esagerazione nelle affermazioni di Anthropic su Mythos e su come una startup valutata circa 800 miliardi di dollari (592 miliardi di sterline) le abbia presentate. Mythos è indubbiamente un modello capace. Tuttavia, l'annuncio drammatico di Anthropic gli ha dato un notevole spazio mediatico e ha posto il suo prodotto al centro di una discussione più ampia a livello di settore su come l'IA potrebbe contribuire al rischio informatico.

Come sono coinvolte le aziende tecnologiche e le banche? Circa 40 aziende, tra cui Google, JP Morgan e Goldman, hanno avuto accesso anticipato a Mythos attraverso un'iniziativa chiamata Project Glasswing, che mira a dare alle aziende la possibilità di testare il modello di intelligenza artificiale come parte delle loro difese informatiche. Anthropic afferma che condivideranno ciò che imparano "in modo che l'intero settore possa beneficiare".

Tuttavia, i partner di lancio non hanno fornito dettagli su ciò che ritengono sia in grado di fare Mythos e su quale minaccia possa rappresentare.

Ciò non ha impedito a banche e regolatori di speculare sul suo potenziale impatto. E per una buona ragione: se gli avvertimenti di Anthropic sono corretti, Mythos nelle mani sbagliate potrebbe causare il caos nelle banche e potenzialmente mettere a rischio l'intero sistema finanziario.

La modellazione del governo britannico su uno scenario peggiore di attacco hacker a una banca, prodotta ancora prima della creazione di Mythos, suggeriva che i pagamenti diretti potessero fallire, lasciando affitti, mutui e stipendi non pagati, mentre l'online banking e i prelievi dagli sportelli automatici potrebbero essere bloccati. I pendolari potrebbero rimanere bloccati poiché autobus e stazioni di servizio rifiutavano i pagamenti. Ciò potrebbe provocare panico, portando a una corsa agli sportelli presso istituti concorrenti, poiché i clienti prelevavano denaro dai loro conti nel timore che l'interruzione potesse diffondersi.

La preoccupazione per le potenziali minacce di Mythos ha spinto il segretario al Tesoro degli Stati Uniti, Scott Bessent, a convocare una riunione con i dirigenti delle grandi banche americane, tra cui Goldman e Citi, a Washington all'inizio di questo mese.

I regolatori del Regno Unito hanno aggiunto Mythos all'ordine del giorno delle riunioni del Cross Market Operational Resilience Group questa settimana. Ciò lo inserisce in discussioni di alto livello tra banchieri senior e funzionari del Tesoro, della Banca d'Inghilterra, della Financial Conduct Authority e del National Cyber Security Centre.