Hva er Mythos AI og hvorfor kan det være en trussel mot global cybersikkerhet?

Anthropic har avvist å frigjøre sin nyeste AI-modell, Mythos, til offentligheten på grunn av trusselen den utgjør mot global cybersikkerhet.

Imidlertid bekreftet den amerikanske tech-startupselskapet bak Claude chatbot onsdag at de undersøkte en rapport om at en gruppe mennesker hadde fått uautorisert tilgang til Mythos. Den påståtte hendelsen har reist bekymringer om tempoet i utviklingen og evnen til tech-selskaper til å holde sine mest risikable produkter utenfor offentligheten. Her ser vi nærmere på Mythos og dens potensielle innvirkning.

Hva er Mythos? Mythos er en AI-modell – den underliggende teknologien som driver verktøy som chatbots – som, ifølge Anthropic, representerer en alvorlig potensiell trussel mot cybersikkerheten til enhver organisasjon. Anthropic kunngjorde eksistensen av Mythos 7. april, men sa at den ikke ville bli frigitt offentlig på grunn av dens evne til å identifisere ukjente feil i IT-systemer. Disse feilene kan teoretisk sett utnyttes av hackere.

Anthropic sa at Mythos kunne identifisere og utnytte «zero-day»-feil i hvert viktig IT-operativsystem og nettleser – hvis en bruker ba den om det. Zero days er såkalte fordi organisasjoner og utviklere er fullstendig uvitende om dem og har ingen tid til å lappe dem før en angriper slår til.

Anthropic beskrev det som et «vendepunkt for cybersikkerhet». Noen av de uoppdagede feilene har eksistert i tiår, sa det sanfrancisko-baserte selskapet.

Startupselskapet har gitt tech-selskaper og banker, inkludert Apple og Goldman Sachs, tilgang til modellen og vurdere hvilke risikoer den kan utgjøre for deres virksomheter og kunder.

Anthropic kunngjorde Project Glasswing 8. april for å la bedrifter teste Mythos på cybersikkerhet. Bilde: Samuel Boivin/NurPhoto/ShutterstockHvorfor er det en bekymring? Mythos representerer konkrete bevis, ifølge Storbritannias AI Security Institute (AISI), på de forstyrrende evnene til avansert AI. Siden ankomsten av OpenAI’s ChatGPT i 2022 har eksperter advart om at AI kan forårsake alvorlig skade i den virkelige verden.

Det er også et bredere poeng: at Mythos er en indikasjon på tempoet i fremgangen innen AI. Avanserte modeller har en tendens til å bli replikert raskt av andre selskaper, inkludert utviklere av open-source-modeller som er fritt tilgjengelige for brukere. I et felles brev til forretningsledere forrige måned sa Storbritannias teknologi- og sikkerhetsminister, Liz Kendall og Dan Jarvis, at bedrifter måtte «planlegge deretter» for AI-evner til å «raskt øke» i løpet av det kommende året. AI kan selvfølgelig brukes til å forsvare seg mot cyberangrep.

En annen bekymring er at Mythos kan havne i feil hender til tross for at den er tilbakeholdt fra offentlig utgivelse. Den frykten ble til virkelighet denne uken da Anthropic bekreftet at en «håndfull» brukere i et privat online forum hadde fått tilgang til modellen.

Det er imidlertid også et spørsmål om viktigheten av de tusenvis av sårbarheter som Mythos har flagget. Kan de forårsake alvorlig skade? I tillegg er det å fremheve en IT-feil ikke det samme som å utnytte den.

Har Mythos blitt vurdert av eksperter? AISI, som er verdens ledende AI-sikkerhetsorgan, har sett på Mythos og sier at den er et «skritt opp» fra tidligere modeller når det gjelder trusselen mot cybersikkerhet. Blant de røde flaggene er en evne til å utføre angrep som involverer flere trinn og identifisere IT-feil uten menneskelig veiledning.

Den oppnådde også en førsteplass i AISI’s øyne: vellykket fullføre en 32-trinns simulering av et cyberangrep i en test opprettet av instituttet. Den kan angripe svake, små IT-systemer, sa AISI, selv om den ikke kunne gi en vurdering av godt forsvarte systemer. Instituttet avsluttet sin vurdering med en observasjon som ofte blir uttalt andre steder: AI-systemer kan bare bli bedre herfra.

Richard Horne, administrerende direktør for Storbritannias National Cyber Security Centre, sa på CyberUK-konferansen i Glasgow denne uken at fremveksten av Mythos vil bidra til å oppmuntre selskaper til å erstatte «utdatert teknologi». «Det bare øker hastverket», la han til.

Imidlertid har andre eksperter sagt at Mythos er mer en evolusjon enn en revolusjon. Aisle, et selskap som jobber med AI-cybersikkerhet, analyserte Anthropic’s hovedpåstander: at den hadde funnet tusenvis av zero-day-sårbarheter på tvers av store operativsystemer og nettlesere, inkludert en i FreeBSD, en fetter til UNIX. Den fant at andre, langt billigere modeller også var i stand til å finne disse problemene. Dette betyr ikke at Mythos’s evner ikke er betydelige, sa de, men at det var mer nyanser enn Anthropic’s presserende tone antydet.

Det er også forsiktighet fra eksperter om at de fleste brudd fortsatt kommer fra veletablerte risikoer som svak autentisering og allerede kjente sårbarheter som ikke er blitt lappet.
Noen eksperter antyder at det er et element av hype rundt Anthropic’s påstander om Mythos og hvordan et startup-selskap som er estimert å være verdt rundt 800 milliarder dollar (£592 milliarder) har presentert dem. Mythos er utvilsomt en kapabel modell. Imidlertid har Anthropic’s dramatiske kunngjøring gitt den mye sendetid og sentrert produktet sitt i en bredere, feltmessig diskusjon om hvordan AI kan bidra til cyberrisiko.

Hvordan er tech-selskaper og banker involvert? Omtrent 40 selskaper, inkludert Google, JP Morgan og Goldman Sachs, har fått tidlig tilgang til Mythos gjennom et initiativ kalt Project Glasswing, som er ment å gi bedrifter en sjanse til å teste AI-modellen som en del av sine cyberforsvar. Anthropic sier at de vil dele det de lærer «slik at hele bransjen kan ha nytte av det».

Imidlertid har lanseringpartnerne gitt ingen detaljer om hva de tror Mythos er i stand til, og hvor stor en trussel den kan utgjøre.

Det har imidlertid ikke stoppet banker og regulatorer fra å spekulere i dens potensielle innvirkning. Og det er god grunn til: hvis Anthropic’s advarsler er korrekte, kan det å få Mythos i feil hender skape kaos i banker og potensielt sette det bredere finanssystemet i fare.

Storbritannias regjeringens modellering av et worst-case scenario bankhack, produsert selv før Mythos’s skapelse, antydet at direkte debiter kan feile, og etterlate leie, boliglån og lønn ubetalt, mens nettbank og uttak fra minibanker kan bli blokkert. Pendlere kan bli stående i limbo ettersom busser og bensinstasjoner avviser betalinger. Det kan utløse panikk, noe som fører til et løp på rivaliserende långivere, ettersom kunder trekker penger fra sine kontoer midt i frykten for at forstyrrelsen kan spre seg.

Bekymring over Mythos’s potensielle trusler fikk USAs finansminister, Scott Bessent, til å innkalle til et møte med ledere fra store amerikanske banker, inkludert Goldman og Citi, i Washington tidligere denne måneden.

Storbritannias regulatorer har lagt Mythos til dagsordenen på Cross Market Operational Resilience Group-møtene denne uken. Dette plasserer den i høynivådiskusjoner mellom seniorbankfolk samt tjenestemenn fra Treasury, Bank of England, Financial Conduct Authority og National Cyber Security Centre.