Finansministre og toppledere i bankene reiser alvorlige bekymringer om Mythos AI-modell

Finansministre, sentralbankdirektører og finansfolk har uttrykt alvorlige bekymringer om en kraftig ny kunstig intelligens (AI)-modell som kan undergrave sikkerheten til finanssystemer.

Utviklingen av Claude Mythos-modellen av Anthropic har ført til krise møter, etter at den fant sårbarheter i hvert stort operativsystem og nettleser.

Eksperter har advart om at modellen potensielt har en enestående evne til å identifisere og utnytte cybersikkerhetssvakheter.

Den kanadiske finansministeren Phillipe Francois Champagne fortalte BBC at Mythos har blitt diskutert grundig av hans kolleger på det viktige International Monetary Fund (IMF)-møtet i Washington DC denne uken.

"Sikkert er det alvorlig nok til å kreve oppmerksomheten til alle finansministre... Forskjellen med Hormuzstredet er at vi vet hvor det er og vi vet hvor stort det er. Problemet vi står overfor med Anthropic er at det er en ukjent, ukjent.

Det krever mye oppmerksomhet slik at vi har sikkerhetsmekanismer, og vi har prosesser på plass for å sikre at vi sikrer motstandsdyktigheten til vårt finanssystem".

Toppledere i bankene skal få tilgang til modellen på forhånd for å teste sine systemer.

Administrerende direktør i Barclays CS Venkatakrishnan fortalte BBC: "det er alvorlig nok til at folk må bekymre seg. Vi må forstå det bedre, og vi må forstå sårbarhetene som blir eksponert, og fikse dem raskt".

Han la til at "dette er slik den nye verden kommer til å bli" med henvisning til et mye mer sammenkoblet finanssystem, med både muligheter og sårbarheter.

Mens utvikler Anthropic har sagt at modellen allerede har eksponert flere sikkerhetssårbarheter i noen kritiske operativsystemer, finanssystemer og nettlesere, blir myndigheter og banker tilbudt tilgang i forkant av den offentlige utgivelsen for å bidra til å beskytte sine egne systemer.

Bank of England-guvernør Andrew Bailey fortalte også BBC at utviklingen måtte tas veldig alvorlig: "vi må nå se veldig nøye hva denne siste AI-utviklingen kan bety for risikoen for cyberkriminalitet.

Det er en utvikling av AI, av modellering, som gjør det lettere å oppdage eksisterende sårbarheter i, omtrent, kjerne IT-systemer, og deretter åpenbart kan cyberkriminelle som de onde aktørene søke å utnytte dem."

US Treasury bekreftet at de hadde tatt opp saken med sine store banker og oppfordret dem til å teste sine systemer, før noen offentlig utgivelse av Mythos av Anthropic.

Kilder i finansbransjen indikerte at et annet fremtredende amerikansk AI-selskap snart kan lansere en tilsvarende kraftig modell, men uten de samme sikkerhetsmekanismene.