Finanzführer warnen vor Mythos, während sich britische Banken darauf vorbereiten, ein leistungsstarkes Anthropic AI-Tool zu verwenden

Britische Banken erhalten in der nächsten Woche Zugang zu einem leistungsstarken KI-Tool, das als zu gefährlich befunden wurde, um es der Öffentlichkeit zugänglich zu machen, während eine Reihe hochrangiger Finanzexperten über seine Auswirkungen warnten.

Anthropic, das die Veröffentlichung des neuen Modells bisher auf eine kleine Gruppe hauptsächlich US-amerikanischer Unternehmen, darunter Amazon, Apple und Microsoft, beschränkt hat, gab bekannt, dass dies in den kommenden Tagen auf britische Finanzinstitute ausgeweitet wird.

„Das ist sehr kurzfristig, in der nächsten Woche“, sagte Pip White, Leiter von Anthropic für Großbritannien, Irland und Nordeuropa, in einem Bloomberg TV-Interview. „Wie Sie erwarten würden, war das Engagement, das ich in der letzten Woche von britischen CEOs hatte, erheblich.“

Anthropic, das das Unternehmen hinter der Familie der KI-Tools Claude ist, hat erklärt, dass sein neuestes Modell, Mythos, ein beispielloses Risiko birgt, da es in der Lage ist, Schwachstellen in IT-Systemen aufzudecken.

„KI-Modelle haben ein Codierungsniveau erreicht, bei dem sie alle menschlichen Fähigkeiten übertreffen, mit Ausnahme der erfahrensten, um Software-Schwachstellen zu finden und auszunutzen“, sagte Anthropic in einem Blogbeitrag Anfang dieses Monats. „Die Folgen – für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit – könnten schwerwiegend sein.“

Finanzminister, Führungskräfte und Regulierungsbehörden haben die potenziellen Bedrohungen diskutiert, während sie diese Woche in Washington zu den Frühjahrstreffen des IWF und der Weltbank zusammenkamen, während sie auch die globalen Auswirkungen im Zusammenhang mit dem Krieg zwischen den USA und Israel mit dem Iran berücksichtigten.

Der kanadische Finanzminister François-Philippe Champagne sagte dem BBC: „Es ist sicherlich ernst genug, um die Aufmerksamkeit aller Finanzminister zu erfordern … Der Unterschied zum Hormus-Strait ist, dass wir wissen, wo er sich befindet, und wir wissen, wie groß er ist.

„Das Problem, vor dem wir mit Anthropic stehen, ist ein unbekanntes Unbekanntes. Es erfordert viel Aufmerksamkeit, damit wir Schutzmaßnahmen haben und Prozesse einrichten, um die Widerstandsfähigkeit unseres Finanzsystems zu gewährleisten.“

Andrew Bailey, der Gouverneur der Bank of England und auch den Financial Stability Board der globalen Regulierungsbehörden leitet, sagte: „Es ist eine sehr ernste Herausforderung für uns alle. Es erinnert uns daran, wie schnell sich die KI-Welt bewegt.“

Er sagte jedoch, dass die Regulierungsbehörden darüber nachdenken müssten, ob und wie stark die Technologie unterdrückt werden sollte, da Regierungen versuchen, die wirtschaftlichen Vorteile der KI zu nutzen. „Was ist der optimale Zeitpunkt, um die Regeln festzulegen?", fragte Bailey. „Wenn Sie zu früh vorgehen, riskieren Sie a) das Ziel zu verfehlen und b) die Entwicklung zu verzerren, und wenn Sie zu spät vorgehen, können die Dinge außer Kontrolle geraten.“

Der Präsident der Europäischen Zentralbank, Christine Lagarde, sagte: „Die Entwicklung, die wir mit Anthropic und Mythos gesehen haben, ist ein gutes Beispiel für ein verantwortungsbewusstes Unternehmen, das plötzlich denkt: ‚Ah, das könnte wirklich gut sein‘ – aber wenn es in die falschen Hände gerät, könnte es wirklich schlecht sein.

„Jeder ist bestrebt, einen Rahmen zu haben, innerhalb dessen er arbeiten kann“, sagte Lagarde gegenüber Bloomberg TV. Aber sie fügte hinzu: „Ich glaube nicht, dass es einen Governance-Rahmen gibt, der diese Dinge tatsächlich im Auge behält. Wir müssen daran arbeiten.“