Liderzy finansowi ostrzegają przed Mythos, gdy brytyjskie banki przygotowują się do wykorzystania potężnego narzędzia Anthropic AI

Brytyjskie banki otrzymają dostęp w ciągu następnego tygodnia do potężnego narzędzia AI, które uznano za zbyt niebezpieczne, aby udostępnić opinii publicznej, w związku z ostrzeżeniami szeregu wyższych rangą działaczy finansowych dotyczącymi jego wpływu.

Anthropic, która do tej pory ograniczała udostępnianie nowego modelu do niewielkiej grupy głównie amerykańskich firm, w tym Amazon, Apple i Microsoft, poinformowała, że w najbliższych dniach rozszerzy to na brytyjskie instytucje finansowe.

„To nastąpi w bardzo bliskiej przyszłości, w ciągu następnego tygodnia” – powiedział Pip White, szef Anthropic ds. Wielkiej Brytanii, Irlandii i północnej Europy, w wywiadzie dla Bloomberga TV. „Jak można się spodziewać, zaangażowanie, jakie miałem od brytyjskich dyrektorów generalnych w ciągu ostatniego tygodnia, było znaczące”.

Anthropic, firma stojąca za rodziną narzędzi AI Claude, poinformowała, że jej najnowszy model, Mythos, stwarza bezprecedensowe ryzyko ze względu na jego zdolność do ujawniania luk w systemach IT.

„Modele AI osiągnęły poziom możliwości kodowania, w którym mogą przewyższać wszystkich oprócz najbardziej wykwalifikowanych ludzi w zakresie znajdowania i wykorzystywania luk w oprogramowaniu” – stwierdziło Anthropic we wpisie na blogu na początku tego miesiąca. „Konsekwencje – dla gospodarek, bezpieczeństwa publicznego i bezpieczeństwa narodowego – mogą być poważne”.

Ministrowie finansów, dyrektorzy generalni i regulatorzy omawiali potencjalne zagrożenia podczas spotkań w Waszyngtonie w tym tygodniu na posiedzeniach Międzynarodowego Funduszu Walutowego i Banku Światowego, jednocześnie zajmując się obawami dotyczącymi globalnych konsekwencji przelewających się z wojny izraelsko-palestyńskiej z Iranem.

Kanadyjski minister finansów François-Philippe Champagne powiedział BBC: „Z pewnością jest to na tyle poważne, aby zwróciło uwagę wszystkich ministrów finansów... Różnica z cieśniną Ormuz jest taka, że wiemy, gdzie ona jest i wiemy, jak duża.

„Problem, z którym się borykamy z Anthropic, to nieznany nieznany. Wymaga to dużej uwagi, abyśmy mieli zabezpieczenia i procesy, które zapewnią odporność naszego systemu finansowego”.

Andrew Bailey, gubernator Banku Anglii, który również przewodniczy Globalnej Radzie Regulatorów ds. Stabilności Finansowej, powiedział: „To bardzo poważne wyzwanie dla nas wszystkich. Przypomina nam, jak szybko rozwija się świat AI”.

Jednak stwierdził, że regulatorzy muszą rozważyć, czy i jak mocno powinni ograniczyć tę technologię, ponieważ rządy dążą do osiągnięcia korzyści gospodarczych z AI. „Jaki jest optymalny moment na sformułowanie zasad gry?” – zapytał Bailey. „Jeśli zrobisz to zbyt wcześnie, a) ryzykujesz pominięciem celu i b) ryzykujesz zniekształceniem ewolucji, a jeśli zrobisz to zbyt późno, sytuacja może wymknąć się spod kontroli”.

Prezydent Europejskiego Banku Centralnego Christine Lagarde powiedziała: „Rozwój, który widzieliśmy z Anthropic i Mythos, jest dobrym przykładem odpowiedzialnej firmy, która nagle myśli: „Och, to mogłoby być naprawdę dobre” – ale jeśli wpadnie w niepowołane ręce, może być naprawdę złe.

„Wszyscy są zainteresowani posiadaniem ram, w których mogą działać” – powiedziała Lagarde dla Bloomberga TV. Ale dodała: „Nie sądzę, aby istniał system zarządzania, który miałby dbać o te rzeczy. Musimy nad tym popracować”.