Il CEO di Anthropic avverte di un 'momento di pericolo' informatico mentre l'AI espone migliaia di vulnerabilità

Il CEO di Anthropic, Dario Amodei, ha avvertito martedì che l'intelligenza artificiale ha creato una stretta finestra temporale per le aziende tecnologiche, i governi e le banche del mondo per correggere decine di migliaia di vulnerabilità software scoperte dall'ultimo modello della sua azienda.

Quel modello di AI, Mythos, è stato presentato in anteprima il mese scorso insieme alla rivelazione che aveva scoperto vulnerabilità decennali in software cruciali.

Poiché i modelli di AI dell'avversario geopolitico Cina sono "forse sei-12 mesi" indietro rispetto al prodotto Anthropic, c'è "all'incirca questo lasso di tempo" per risolvere questi problemi, ha detto Amodei.

I commenti sono arrivati durante un evento Anthropic in cui Amodei ha condiviso il palco con il CEO di JPMorgan Chase, Jamie Dimon, e ha svelato una nuova suite di agenti destinati ad automatizzare il lavoro finanziario.

"Il pericolo è semplicemente un enorme aumento della quantità di vulnerabilità, della quantità di violazioni, del danno finanziario causato dal ransomware a scuole, ospedali, per non parlare delle banche", ha detto Amodei.

Anthropic ha limitato Mythos a poche aziende partner a causa delle preoccupazioni su ciò che criminali o nazioni avversarie potrebbero farne. Gli ultimi aggiornamenti del modello dell'azienda hanno avuto ripercussioni sui mercati, ma Mythos ha destato la maggiore preoccupazione sia da parte delle aziende che dei politici.

La scala dei potenziali exploit informatici è aumentata con ogni generazione di Claude, ha detto Amodei. Un precedente modello Anthropic aveva scoperto circa 20 vulnerabilità nel browser Firefox. Mythos ne ha scoperte quasi 300, e il conteggio totale su tutto il software ora si aggira sulle decine di migliaia, ha detto.

La maggior parte delle vulnerabilità scoperte da Mythos non sono state divulgate pubblicamente perché rimangono non corrette, e "i cattivi le sfrutteranno" se verranno identificate, ha detto Amodei.

## 'Un mondo migliore'

Nonostante l'allarme, sia Amodei che Dimon hanno anche espresso un ottimismo condizionato.

"Questo è un momento di pericolo in cui, se rispondiamo correttamente, e penso che abbiamo iniziato a fare i primi passi, allora possiamo avere un mondo migliore dall'altra parte", ha detto Amodei. "Ci sono solo tanti bug da trovare."

Dimon ha anche affermato che, sebbene le paure informatiche fossero giustificate, i rischi di cybersecurity creati dall'AI sono un "periodo transitorio".

Sulla questione della regolamentazione, Amodei ha affermato che la supervisione dell'AI dovrebbe assomigliare a ciò che si fa nell'industria automobilistica, trovando un equilibrio tra la sicurezza dei consumatori e il permettere all'industria di competere.

"Non puoi semplicemente avviare una casa automobilistica senza chiederti 'Ci sono i freni su questa cosa?'", ha detto. "Dobbiamo trovare un processo che permetta all'industria di operare in modo rapido, sia equo, ma metta dei paletti sulle cose più serie."

L'evento dell'azienda, e la sua ambientazione con Dimon, il portavoce più noto del settore finanziario, sembravano dimostrare il vantaggio di Anthropic su OpenAI nel mercato dell'AI aziendale, mentre entrambe le aziende si dirigono verso potenziali IPO.

Anthropic ha annunciato martedì un'espansione della sua piattaforma di servizi finanziari, inclusi 10 nuovi agenti AI per il settore bancario d'investimento e il lavoro di back-office, oltre all'integrazione nei vari programmi Office di Microsoft. L'azienda ha anche affermato che il suo ultimo modello ampiamente disponibile — Claude Opus 4.7 — guida i benchmark per le attività di analisi finanziaria.