Was ist Claude Mythos und welche Risiken birgt es?

In den letzten Wochen hat die KI-Welt gebebt, nachdem die führende Firma Anthropic Behauptungen über ihr neues Modell, Claude Mythos, aufgestellt hat.

Das Unternehmen gibt an, dass das Werkzeug bei einigen Hacking- und Cybersicherheitsaufgaben besser abschneiden kann als Menschen, was zu Diskussionen bei Regulierungsbehörden, Gesetzgebern und Finanzinstituten über die Gefahren geführt hat, die es für digitale Dienste darstellen könnte.

Mehrere Tech-Giganten erhielten über eine Initiative namens Project Glasswing Zugang zu Mythos, die darauf abzielt, die Widerstandsfähigkeit gegen Mythos selbst zu stärken.

Andere weisen jedoch darauf hin, dass es im Interesse von Anthropic liegt, zu behaupten, sein Werkzeug verfüge über noch nie dagewesene Fähigkeiten, was bedeutet – wie immer bei KI –, dass die Unterscheidung zwischen berechtigten Behauptungen und Hype schwierig sein kann.

Was ist Claude Mythos?

Mythos ist eines der neuesten Modelle von Anthropic, das als Teil seines breiteren KI-Systems namens Claude entwickelt wurde. Es umfasst den KI-Assistenten und die Modellfamilie des Unternehmens und konkurriert mit ChatGPT von OpenAI und Gemini von Google.

Es wurde von Anthropic Anfang April als "Mythos Preview" vorgestellt.

Forscher, die testen, wie KI-Modelle bestimmte Anfragen oder Aufgaben handhaben, bekannt als "Red-Teams", sagten in einem Bericht, Mythos sei "auffallend fähig bei Computersicherheitsaufgaben".

Sie fanden heraus, dass das Werkzeug ruhende Fehler in jahrzehntealtem Code aufspüren und diese leicht ausnutzen konnte.

Anstatt es Claude-Nutzern weitgehend zugänglich zu machen, gab Anthropic 12 Technologieunternehmen über Project Glasswing Zugang, das als "eine Anstrengung zur Sicherung der weltweit kritischsten Software" beschrieben wurde.

Dazu gehören der Cloud-Computing-Gigant Amazon Web Services, die Gerätehersteller Apple, Microsoft und Google sowie die Chiphersteller Nvidia und Broadcom.

Crowdstrike, dessen fehlerhaftes Software-Update im Juli 2024 zu einem größeren globalen Ausfall führte, gehört ebenfalls zu den Partnern des Projekts, und Anthropic gibt an, dass mehr als 40 Organisationen, die für kritische Software verantwortlich sind, ebenfalls Zugang zu Mythos erhalten haben.

In einem Video, das zusammen mit der Einführung von Project Glasswing veröffentlicht wurde, sagte Anthropic-Chef Dario Amodei, er habe US-Regierungsbeamten angeboten, mit ihnen zusammenzuarbeiten, um "gegen das Risiko dieser Modelle zu verteidigen".

Warum gibt es Bedenken?

Anthropic gibt an, dass das Modell während Tests hochqualifiziert in Cybersicherheits- und Hacking-Aufgaben war und Menschen übertraf.

"Mythos Preview hat bereits Tausende von hochgradigen Schwachstellen gefunden, darunter einige in jedem wichtigen Betriebssystem und Webbrowser", behauptete Anthropic am 7. April.

"Angesichts des Fortschritts der KI wird es nicht lange dauern, bis sich solche Fähigkeiten verbreiten, möglicherweise über Akteure hinaus, die sich für deren sichere Bereitstellung einsetzen."

Es wurde gesagt, dass es ohne viel Aufsicht kritische Fehler in alten Systemen finden könnte, die sofortige Maßnahmen erfordern, darunter eine Schwachstelle, die seit 27 Jahren in einem System vorhanden war, und Wege zu deren Ausnutzung vorschlagen könnte.

Einige Finanzminister, Zentralbanker und Finanziers haben seitdem ernste Bedenken geäußert und befürchten, dass das Modell die Sicherheit von Finanzsystemen untergraben könnte.

Der kanadische Finanzminister François-Philippe Champagne sagte der BBC, Mythos sei bei einem Treffen des Internationalen Währungsfonds (IWF) in Washington DC diese Woche besprochen worden.

"Sicherlich ist es ernst genug, um die Aufmerksamkeit aller Finanzminister zu verdienen", sagte er und bezeichnete die Technologie als "unbekannte Unbekannte".

Der Chef der Bank of England, Andrew Bailey, sagte der BBC: "Wir müssen jetzt sehr genau prüfen, was diese neueste KI-Entwicklung für das Risiko von Cyberkriminalität bedeuten könnte."

Unterdessen hat die EU erklärt, dass sie auch mit Anthropic über ihre Bedenken hinsichtlich Mythos im Gespräch ist.

Was haben Cyberexperten dazu gesagt?

Ciaran Martin, ehemaliger Leiter des britischen National Cyber Security Centre, sagte der BBC Anfang dieser Woche, dass die Behauptung, Mythos könne kritische Schwachstellen viel schneller aufdecken als andere KI-Modelle, "die Leute wirklich erschüttert" habe.

"Das Zweite ist, dass es selbst bei bestehenden Schwächen, von denen wir wissen, die Organisationen aber möglicherweise nicht behoben haben oder gegen die sie nicht gut geschützt sind, einfach ein wirklich guter Hacker ist", sagte er.

Viele unabhängige Cybersicherheitsanalysten und -experten konnten es noch nicht selbst testen und bleiben hinsichtlich der Leistung von Mythos skeptisch.

Das britische AI Safety Institute kam kürzlich zu dem Schluss, dass das größte Risiko, obwohl es sich um ein sehr leistungsfähiges Modell handelt, gegen schlecht geschützte, anfällige Systeme bestehen würde.

"Wir können nicht mit Sicherheit sagen, ob Mythos Preview gut geschützte Systeme angreifen könnte", sagten seine Forscher.

Wo also gute Cybersicherheit herrscht, würde dieses Modell theoretisch hoffentlich gestoppt werden.

Sollten wir uns Sorgen machen?

Ängste im Zusammenhang mit KI sind nichts Neues.

Neue Modelle und Werkzeuge kommen ständig heraus und werden oft von Versprechungen begleitet, unser Leben zu revolutionieren, zum Besseren oder Schlechteren.

Die Ausnutzung dieser Mischung aus Angst und Aufregung über KI und ihre zukünftigen Auswirkungen ist in den letzten Jahren auch zu einem Markenzeichen des Sektors und seiner Marketingstrategien geworden.

Im Fall von Mythos wissen wir noch nicht genug, um zu wissen, ob diese Hoffnungen oder Ängste gerechtfertigt sind oder mehr eine Reflexion des Hypes um die Branche darstellen.

In jedem Fall ist laut NSCS das Wichtigste, was wir jetzt tun können, nicht in Panik zu geraten und uns stattdessen darauf zu konzentrieren, die grundlegende Cybersicherheit richtig zu machen.

Schließlich brauchen die meisten Hacker keine Super-KI-Werkzeuge, um Systeme zu durchbrechen, wenn viel einfachere Angriffe oft ausreichen.

"Für einige ist dies ein apokalyptisches Ereignis, für andere scheint es viel Hype zu sein", sagte Martin der BBC.

Er sagte jedoch, ob es sich um dieses Werkzeug oder nachfolgende Werkzeuge von Anthropic oder seinen Konkurrenten handele, biete neben dem Risiko auch die Möglichkeit, eine sicherere Online-Welt aufzubauen.

"Mittelfristig gibt es die Möglichkeit, diese Werkzeuge zu nutzen, um viele der zugrunde liegenden Schwachstellen im Internet zu beheben", sagte er.

Melden Sie sich für unseren Tech Decoded Newsletter an, um die Top-Tech-Geschichten und -Trends der Welt zu verfolgen. Außerhalb des Vereinigten Königreichs? Melden Sie sich hier an.