Hva er Claude Mythos og hvilke risikoer utgjør den?

I løpet av de siste ukene har AI-verdenen vært i kok etter påstander fremsatt av det ledende selskapet Anthropic angående sin nye modell, Claude Mythos.

Selskapet sier at de har funnet at verktøyet kan prestere bedre enn mennesker i noen hacking- og cybersikkerhetsoppgaver, noe som har utløst diskusjoner blant regulatorer, lovgivere og finansinstitusjoner om farene det kan utgjøre for digitale tjenester.

Flere teknologigiganter har fått tilgang til Mythos via et initiativ kalt Project Glasswing, som er utformet for å styrke motstandskraften mot Mythos selv.

Men andre påpeker at det er i Anthropics interesse å antyde at verktøyet har aldri før sette muligheter, noe som – som alltid med AI – gjør jobben med å skille mellom begrunnede påstander og hype vanskelig.

Hva er Claude Mythos?

Mythos er en av Anthropics nyeste modeller utviklet som en del av deres bredere AI-system kalt Claude. Den omfatter selskapets AI-assistent og familie av modeller, og rivaliserer OpenAI's ChatGPT og Google's Gemini.

Det ble avslørt av Anthropic i begynnelsen av april som "Mythos Preview".

Forskere som tester hvordan AI-modeller håndterer bestemte forespørsler eller oppgaver, kjent som "red-teams", sa i en rapport at Mythos var "slående kapabel til datasikkerhetsoppgaver".

De fant ut at verktøyet kunne finne slumrende feil som ligger i kode fra flere tiår og enkelt utnytte dem.

I stedet for å gjøre det bredt tilgjengelig for Claude-brukere, ga Anthropic 12 teknologiselskaper tilgang via Project Glasswing, som de beskrev som "en innsats for å sikre verdens mest kritiske programvare".

Dette inkluderer skytetjenestegiganten Amazon Web Services, enhetsprodusenter Apple, Microsoft og Google, og chip-produsentene Nvidia og Broadcom.

Crowdstrike, hvis feilaktige programvareoppdatering forårsaket en stor global driftsstans i juli 2024, er også blant prosjektets partnere, med Anthropic som sier at de også har gitt tilgang til Mythos til over 40 organisasjoner som er ansvarlige for kritisk programvare.

I en video som ble utgitt sammen med lanseringen av Project Glasswing, sa Anthropic-sjef Dario Amodei at de hadde tilbudt å samarbeide med USAs regjeringsansatte for å "hjelpe med å forsvare seg mot risikoen ved disse modellene".

Hvorfor er det bekymringer?

Anthropic sier at under tester fant de at modellen var svært dyktig til cybersikkerhet og hackingoppgaver, og overgikk mennesker.

"Mythos Preview har allerede funnet tusenvis av alvorlige sårbarheter, inkludert noen i hvert stort operativsystem og nettleser," hevdet Anthropic 7. april.

"Gitt tempoet i AI-fremgang, vil det ikke lenge før slike evner sprer seg, potensielt utover aktører som er forpliktet til å distribuere dem på en sikker måte."

Det sa at den kunne finne - uten mye tilsyn - kritiske feil som trenger umiddelbar handling i gamle systemer, inkludert en sårbarhet som hadde vært til stede i et system i 27 år, og foreslå måter å utnytte dem på.

Noen finansministre, sentralbanksjefer og finansfolk har siden uttrykt alvorlige bekymringer om det, og frykter at modellen kan undergrave sikkerheten til finanssystemer.

Kanadas finansminister François-Philippe Champagne fortalte BBC at Mythos har blitt diskutert på et International Monetary Fund (IMF)-møte i Washington DC denne uken.

"Det er absolutt alvorlig nok til å kreve oppmerksomheten til alle finansministre," sa han, og beskrev teknologien som en "ukjent ukjent".

Bank of England-sjef Andrew Bailey fortalte BBC "vi må nå se veldig nøye hva denne siste AI-utviklingen kan bety for risikoen for cyberkriminalitet."

Samtidig har EU sagt at de også er i diskusjoner med Anthropic om sine bekymringer rundt Mythos.

Hva har kybereksperter sagt om det?

Ciaran Martin, tidligere leder for Storbritannias National Cyber Security Centre, fortalte BBC tidligere denne uken at påstanden om at Mythos kunne avdekke kritiske sårbarheter mye raskere enn andre AI-modeller, "virkelig har rystet folk".

"Det andre er at selv med eksisterende svakheter som vi vet om, men organisasjoner kanskje ikke har rettet mot, eller ikke er godt beskyttet mot, er det bare en veldig god hacker," sa han.

Mange uavhengige cybersikkerhetsanalytikere og eksperter har ennå ikke hatt mulighet til å teste det selv, og noen er skeptiske til Mythos' ytelse.

Storbritannias AI Safety Institute konkluderte nylig med at selv om det er en veldig kraftig modell, ville dens største trussel være mot dårlig beskyttede, sårbare systemer.

"Vi kan ikke med sikkerhet si om Mythos Preview ville vært i stand til å angripe godt beskyttede systemer," sa forskerne deres.

Så der det er god cybersikkerhet, ville denne modellen, i teorien, forhåpentligvis bli stoppet.

Bør vi være bekymret for det?

Frykter knyttet til AI er ingenting nytt.

Nye modeller og verktøy kommer ut hele tiden, og blir ofte ledsaget av løfter om å revolusjonere livene våre, til det bedre eller verre.

Å kapitalisere på denne blandingen av frykt og spenning rundt AI og dens fremtidige innvirkning har også blitt et kjennetegn ved sektoren og dens markedsføringsstrategier de siste årene.

I tilfellet Mythos vet vi fortsatt ikke nok om det til å vite om disse håpene eller fryktene er berettiget, eller mer et speilbilde av hype rundt bransjen.

I begge tilfeller, ifølge NSCS, er det viktigste vi kan gjøre nå å ikke få panikk og i stedet fokusere på behovet for å få grunnleggende cybersikkerhet riktig.

Tross alt trenger ikke de fleste hackere super AI-verktøy for å bryte seg inn i systemer når mye enklere angrep ofte er tilstrekkelige.

"For noen er dette en apokalyptisk hendelse, for andre virker det å være mye hype," sa Martin til BBC.

Men han sa at enten det var dette verktøyet eller påfølgende verktøy laget av Anthropic eller dets rivaler, i tillegg til risikoen var det en mulighet til å bygge en tryggere online verden.

"På mellomlang sikt er det en mulighet til å bruke disse verktøyene til å fikse mange av de underliggende sårbarhetene i internett," sa han.

Meld deg på vårt Tech Decoded-nyhetsbrev for å følge verdens beste teknologihistorier og trender. Utenfor Storbritannia? Meld deg på her.