Finansledere advarer over Mythos ettersom Storbritannias banker forbereder seg på å bruke kraftig Anthropic AI-verktøy

Britisk banker vil få tilgang i løpet av neste uke til et kraftig AI-verktøy som ble ansett som for farlig til å slippes til offentligheten, mens en rekke høytstående finanspersoner advarte om dets innvirkning.

Anthropic, som så langt har begrenset utgivelsen av den nye modellen til en liten håndfull hovedsakelig amerikanske selskaper, inkludert Amazon, Apple og Microsoft, sier at den vil utvide dette til britiske finansinstitusjoner i løpet av de kommende dagene.

«Det er veldig snart, i løpet av neste uke,» sa Pip White, Anthropics leder for Storbritannia, Irland og Nord-Europa, i et intervju med Bloomberg TV. «Som du ville forvente, har engasjementet jeg har hatt fra britiske CEOer den siste uken vært betydelig.»

Anthropic, som er selskapet bak Claude-familien av AI-verktøy, har sagt at deres nyeste modell, Mythos, utgjør en enestående risiko på grunn av dens evne til å avsløre feil i IT-systemer.

«AI-modeller har nådd et nivå av kodeevne der de kan overgå alle bortsett fra de dyktigste menneskene når det gjelder å finne og utnytte programvarefeil,» sa Anthropic i et blogginnlegg tidligere denne måneden. «Konsekvensene – for økonomier, offentlig sikkerhet og nasjonal sikkerhet – kan bli alvorlige.»

Finansministre, ledere og reguleringsmyndigheter har diskutert de potensielle truslene mens de samlet seg i Washington denne uken for IMF og Verdensbankens vårkonferanser, samtidig som de håndterte bekymringer over de globale konsekvensene som strømmer over fra den USA-israelske krigen med Iran.

Den kanadiske finansministeren, François-Philippe Champagne, fortalte BBC: «Det er absolutt alvorlig nok til å kreve oppmerksomheten til alle finansministre ... Forskjellen med Hormuz-stredet er at vi vet hvor det er, og vi vet hvor stort det er.

«Problemet vi står overfor med Anthropic er at det er en ukjent ukjent. Det krever mye oppmerksomhet slik at vi har sikkerhetsmekanismer, og vi har prosesser på plass for å sikre at vi sikrer motstandskraften til vårt finansielle system.»

Andrew Bailey, guvernøren i Bank of England som også leder Financial Stability Board av globale reguleringsmyndigheter, sa: «Det er en veldig alvorlig utfordring for oss alle. Det minner oss på hvor raskt AI-verdenen beveger seg.»

Han sa imidlertid at reguleringsmyndighetene måtte vurdere om, og hvor hardt, de skulle slå ned på teknologien, ettersom regjeringer søker å høste AI-ens økonomiske fordeler. «Hva er det optimale tidspunktet for å utforme spillereglene?» spurte Bailey. «Hvis du går for tidlig a) risikerer du å bomme på målet og b) risikerer du å forvrenge utviklingen, og hvis du går for sent kan ting komme ut av kontroll.»

Presidenten i European Central Bank, Christine Lagarde, sa: «Utviklingen vi har sett med Anthropic og Mythos er et godt eksempel på et ansvarlig selskap som plutselig tenker: 'Åh, det kan være virkelig bra' – men hvis det havner i feil hender, kan det være virkelig dårlig.

«Alle er ivrige etter å ha et rammeverk å operere innenfor,» sa Lagarde til Bloomberg TV. Men hun la til: «Jeg tror ikke det finnes et styringsrammeverk som faktisk holder øye med disse tingene. Vi må jobbe med det.»