Was ist Mythos AI und warum könnte es eine Bedrohung für die globale Cybersicherheit darstellen?

Anthropic hat die Veröffentlichung seines neuesten KI-Modells Mythos aus Angst vor einer Bedrohung für die globale Cybersicherheit für die Öffentlichkeit ausgeschlossen.

Das US-amerikanische Tech-Startup hinter dem Chatbot Claude bestätigte am Mittwoch jedoch, dass es einen Bericht untersuche, wonach eine Gruppe von Personen unbefugten Zugriff auf Mythos erlangt habe. Der mutmaßliche Vorfall hat Bedenken hinsichtlich des Tempos der Entwicklung und der Fähigkeit von Technologieunternehmen geweckt, ihre risikoreichsten Produkte aus der Öffentlichkeit herauszuhalten. Hier untersuchen wir Mythos und seine potenziellen Auswirkungen.

Was ist Mythos? Mythos ist ein KI-Modell – die zugrundeliegende Technologie, die Tools wie Chatbots antreibt –, das laut Anthropic eine ernsthafte potenzielle Bedrohung für die Cybersicherheit jeder Organisation darstellt. Anthropic kündigte die Existenz von Mythos am 7. April an, sagte aber, dass es aufgrund seiner Fähigkeit, unbekannte Schwachstellen in IT-Systemen zu identifizieren, nicht öffentlich veröffentlicht werde. Diese Schwachstellen könnten theoretisch von Hackern ausgenutzt werden.

Anthropic sagte, Mythos könne „Zero-Day“-Schwachstellen in jedem wichtigen IT-Betriebssystem und Webbrowser identifizieren und ausnutzen – wenn ein Benutzer es dazu auffordere. Zero Days werden so genannt, weil Organisationen und Entwickler sie überhaupt nicht kennen und keine Zeit hatten, sie zu patchen, bevor ein Angreifer zuschlägt.

Anthropic bezeichnete es als „Wendepunkt für die Cybersicherheit“. Einige der unbemerkten Schwachstellen seien seit Jahrzehnten vorhanden, sagte das Unternehmen aus San Francisco.

Das Startup hat Technologieunternehmen und Banken, darunter Apple und Goldman Sachs, den Zugriff auf das Modell gestattet, um die Risiken zu bewerten, die es für ihre Unternehmen und Kunden darstellen könnte.

Anthropic kündigte am 8. April Project Glasswing an, um Unternehmen zu ermöglichen, Mythos auf Cybersicherheit zu testen. Foto: Samuel Boivin/NurPhoto/ShutterstockWarum ist es Anlass zur Sorge? Mythos stellt laut dem britischen AI Security Institute (AISI) einen greifbaren Beweis für die disruptiven Fähigkeiten fortgeschrittener KI dar. Seit der Einführung von ChatGPT von OpenAI im Jahr 2022 warnen Experten, dass KI ernsthaften Schaden in der realen Welt verursachen könnte.

Es gibt auch einen breiteren Punkt: Mythos ist ein Indikator für den Fortschritt in der KI. Fortschrittliche Modelle werden tendenziell schnell von anderen Unternehmen repliziert, darunter auch von Entwicklern von Open-Source-Modellen, die für Benutzer frei verfügbar sind. In einem gemeinsamen Brief an Wirtschaftsführer sagten der britische Technologieminister Liz Kendall und der Sicherheitsminister Dan Jarvis letzten Monat, dass Unternehmen sich auf eine „rasche Zunahme“ der KI-Fähigkeiten im nächsten Jahr „entsprechend vorbereiten“ müssten. KI kann natürlich auch zur Abwehr von Cyberangriffen eingesetzt werden.

Eine weitere Sorge ist, dass Mythos trotz der Zurückhaltung bei der öffentlichen Veröffentlichung in die falschen Hände geraten könnte. Diese Befürchtung wurde diese Woche Wirklichkeit, als Anthropic bestätigte, dass eine „Handvoll“ Benutzer in einem privaten Online-Forum Zugang zu dem Modell erhalten hatten.

Es stellt sich jedoch auch die Frage nach der Bedeutung der Tausenden von Schwachstellen, die Mythos identifiziert hat. Können sie ernsthaften Schaden anrichten? Außerdem ist die Hervorhebung einer IT-Schwachstelle nicht dasselbe wie deren Ausnutzung.

Wurde Mythos von Experten bewertet? Das AISI, die weltweit führende KI-Sicherheitsbehörde, hat sich Mythos angesehen und sagt, es sei ein „Schritt nach vorne“ gegenüber früheren Modellen in Bezug auf die Bedrohung der Cybersicherheit. Zu den Warnsignalen gehören die Fähigkeit, Angriffe mit mehreren Schritten durchzuführen und IT-Schwachstellen ohne menschliche Anleitung zu identifizieren.

Es erreichte auch eine Premiere in den Augen des AISI: die erfolgreiche Durchführung einer 32-stufigen Simulation eines Cyberangriffs in einem vom Institut erstellten Test. Es kann schwache, kleine IT-Systeme angreifen, sagte das AISI, obwohl es kein Urteil über gut verteidigte Systeme abgeben konnte. Das Institut schloss seine Bewertung mit einer Beobachtung ab, die oft anderswo geäußert wird: KI-Systeme können nur besser werden.

Richard Horne, CEO des britischen National Cyber Security Centre, sagte diese Woche auf der CyberUK-Konferenz in Glasgow, dass das Aufkommen von Mythos Unternehmen dazu ermutigen werde, „obsolete Tech“ zu ersetzen. „Es treibt einfach die Dringlichkeit voran“, fügte er hinzu.

Andere Experten sagten jedoch, Mythos sei eher eine Evolution als eine Revolution. Aisle, ein Unternehmen, das sich mit KI-Cybersicherheit beschäftigt, analysierte die Hauptaussagen von Anthropic: dass es Tausende von Zero-Day-Schwachstellen in großen Betriebssystemen und Browsern gefunden habe, darunter eine in FreeBSD, einem Verwandten von UNIX. Es stellte fest, dass auch andere, weitaus billigere Modelle in der Lage waren, diese Probleme zu finden. Das bedeute nicht, dass die Fähigkeiten von Mythos nicht signifikant seien, sagten sie, aber dass es mehr Nuancen gebe, als Anthropic's dringender Tonfall implizierte.

Es gibt auch Vorsicht von Experten, dass die meisten Sicherheitsverletzungen immer noch von etablierten Risiken wie schwacher Authentifizierung und bereits bekannten Schwachstellen herrühren, die nicht gepatcht wurden.
Einige Experten vermuten, dass es ein Element des Hypes um die Behauptungen von Anthropic über Mythos gibt und wie ein Startup im Wert von rund 800 Milliarden US-Dollar (592 Milliarden Pfund) diese präsentiert hat. Mythos ist zweifellos ein fähiges Modell. Die dramatische Ankündigung von Anthropic hat ihm jedoch erhebliche Sendezeit verschafft und sein Produkt in eine breitere, branchenweite Diskussion darüber eingebettet, wie KI zu Cyberrisiken beitragen könnte.

Wie sind Technologieunternehmen und Banken beteiligt? Etwa 40 Unternehmen, darunter Google, JP Morgan und Goldman, erhielten über eine Initiative namens Project Glasswing frühen Zugang zu Mythos, die Unternehmen die Möglichkeit geben soll, das KI-Modell als Teil ihrer Cyberabwehr zu testen. Anthropic sagt, sie werden teilen, was sie lernen, „damit die gesamte Branche profitieren kann“.

Die Launch-Partner haben jedoch keine Details darüber gegeben, was sie von Mythos halten und welche Bedrohung es darstellen könnte.

Das hat Banken und Regulierungsbehörden nicht davon abgehalten, über seine potenziellen Auswirkungen zu spekulieren. Und das aus gutem Grund: Wenn die Warnungen von Anthropic zutreffen, könnte Mythos in die falschen Hände geraten und Banken verwüsten und potenziell das breitere Finanzsystem gefährden.

Modellierungen der britischen Regierung für einen Bank-Hack im schlimmsten Fall, die noch vor der Entstehung von Mythos erstellt wurden, deuteten darauf hin, dass Lastschriften fehlschlagen könnten, was Mieten, Hypotheken und Löhne unbezahlt ließe, während Online-Banking und Bargeldabhebungen am Geldautomaten blockiert werden könnten. Pendler könnten im Stich gelassen werden, da Busse und Tankstellen Zahlungen ablehnten. Dies könnte Panik auslösen und zu einem Run auf rivalisierende Kreditgeber führen, da Kunden angesichts der Befürchtung, dass sich die Störung ausbreiten könnte, Geld von ihren Konten abheben.

Die Besorgnis über die potenziellen Bedrohungen durch Mythos veranlasste die US-Finanzministerin Scott Bessent, sich diesen Monat zu einem Treffen mit Chefs großer amerikanischer Banken, darunter Goldman und Citi, in Washington zu treffen.

Britische Regulierungsbehörden haben Mythos auf die Tagesordnung der Cross Market Operational Resilience Group Meetings in dieser Woche gesetzt. Dies führt zu hochrangigen Diskussionen zwischen leitenden Bankern sowie Beamten des Finanzministeriums, der Bank of England, der Financial Conduct Authority und des National Cyber Security Centre.