Anthropic indaga rapporto di accesso non autorizzato a Mythos AI

Lo sviluppatore di IA Anthropic ha confermato di indagare su un rapporto secondo cui utenti non autorizzati hanno ottenuto accesso al suo modello Mythos, che ha avvertito pone rischi per la sicurezza informatica.

La startup statunitense ha rilasciato la dichiarazione dopo che Bloomberg ha riferito mercoledì che un piccolo gruppo di persone aveva ottenuto l'accesso al modello, che non è stato rilasciato al pubblico a causa della sua capacità di abilitare attacchi informatici.

“Stiamo indagando su un rapporto che afferma un accesso non autorizzato a Claude Mythos Preview tramite uno dei nostri ambienti di terze parti”, ha detto Anthropic.

Bloomberg ha affermato che un “gruppo di poche persone” di utenti in un forum online privato aveva ottenuto l'accesso a Mythos lo stesso giorno in cui Anthropic ha dichiarato che stava essere rilasciato a un piccolo numero di aziende tra cui Apple e Goldman Sachs per scopi di test.

È stato riferito che gli utenti non identificati avevano ottenuto Mythos tramite un accesso che uno di loro aveva come lavoratore di un appaltatore terzo di Anthropic e implementando metodi utilizzati da ricercatori di sicurezza informatica.

Il gruppo non ha eseguito prompt di sicurezza sul modello e si interessa più a “giocare” con la tecnologia che a causare problemi, secondo Bloomberg, che ha corroborato le affermazioni tramite screenshot e una dimostrazione dal vivo del modello.

Nonostante ciò, le notizie di una potenziale violazione allarmeranno le autorità che hanno sollevato preoccupazioni sul potenziale di Mythos di seminare il caos e solleveranno domande su come la tecnologia potenzialmente dannosa possa essere tenuta lontana dalle mani sbagliate.

Kanishka Narayan, il ministro dell'IA del Regno Unito, ha detto che le aziende del Regno Unito “dovrebbero preoccuparsi” della capacità del modello di individuare falle nei sistemi IT – che gli hacker potrebbero quindi agire su.

Il modello è stato sottoposto a controllo dall'autorità di sicurezza per la tecnologia più importante del Regno Unito, l'AI Security Institute (AISI), che ha avvertito la scorsa settimana che Mythos era un "salto avanti" rispetto ai modelli precedenti in termini di minaccia informatica che poneva.

L'AISI ha affermato che Mythos potrebbe condurre attacchi che richiedono più azioni e scoprire debolezze nei sistemi IT senza intervento umano. Ha affermato che queste attività richiederebbero normalmente ai professionisti umani giorni per essere completate.

Mythos è stato il primo modello di IA a completare con successo una simulazione di 32 passaggi di un attacco informatico creato dall'AISI, risolvendo la sfida in tre dei suoi 10 tentativi.