The Guardian view on Anthropic’s Claude Mythos: wenn KI jeden Fehler findet, wer kontrolliert das Internet? | Leitartikel

Anthropic kündigte diesen Monat sein neuestes KI-Modell, Claude Mythos, an, sagte aber, es werde nicht öffentlich veröffentlicht, da es Computer in Tatorte verwandle. Das Unternehmen behauptete, es könne bisher unbekannte "Zero-Day"-Schwachstellen finden, diese ausnutzen und im Prinzip diese Schwächen verknüpfen, um wichtige Betriebssysteme und Webbrowser zu übernehmen. Mythos tat dies autonom, schrieb Code und erlangte Berechtigungen. Die Auswirkungen sind erheblich. Es ist, als ob ein Einbrecher jedes Gebäude anvisieren, hineingelangen, jede Tür aufschließen und jeden Safe leeren könnte.

Das Silicon-Valley-Unternehmen hat bisher 40 Organisationen unter Project Glasswing als Partner genannt, um bei der Abwehr zu helfen – und sie gebeten, Schwachstellen zu "patchen", bevor Hacker die Chance haben, sie auszunutzen. Alle sind amerikanisch und sitzen im Herzen des von den USA geführten digitalen Systems. Anthropic teilte Mythos außerhalb der USA nur mit Großbritannien und erlaubte dem AI Security Institute, Grenzmodelle zu testen. Nach dem genauen Hinsehen warnten britische Minister: KI wird Cyberangriffe bald viel einfacher und schneller machen, und die meisten Unternehmen sind nicht darauf vorbereitet. Europäische Banken werden es wahrscheinlich als nächstes testen.

Das mag nicht zu früh sein. Diese Woche tauchten Berichte über unbefugten Zugriff auf – was die Frage aufwirft, ob irgendeinem privaten Unternehmen eine solche Fähigkeit anvertraut werden kann. Mythos schafft nicht unbedingt eine neue Art von Cyberbedrohung. Es verwandelt eine latente Schwäche in ein systemisches Risiko. Hacking war traditionell schwierig und zeitaufwendig und erforderte Fähigkeiten, die nur wenige Menschen besitzen. Aber KI-Tools verbreiten sich schnell und rücken Systemeinbrüche in die Reichweite vieler – nicht nur von Experten.

Ein Wilderer kann auch zum Wildhüter werden. Mozilla testete Mythos auf seinem Firefox-Browser: Es fand 10-mal mehr Fehler als zuvor – und behob sie. Entscheidend ist, dass keiner davon von einem Menschen nicht entdeckt werden konnte. Was sich ändert, ist, dass KI "Cyber-Schwachstellen" schnell, billig und in großem Umfang entdeckt.

Die Akzeptanz von Anthropic durch die US-Regierung markiert eine Wende. Im Februar stufte das Pentagon das Unternehmen als "Sicherheitsrisiko" ein und schnitt es von lukrativen Geschäften ab, nachdem es sich geweigert hatte, seine Technologie für Massenüberwachung oder autonome Waffen einzusetzen. Stattdessen erhielt OpenAI den Vertrag. Anthropic hat sich mit seinem Claude-Chatbot lange als ethische Alternative unter seinen Wettbewerbern positioniert – obwohl sein Image letztes Jahr durch eine Vergleichszahlung von 1,5 Milliarden US-Dollar wegen Piraterie beschädigt wurde.

Mythos ist mächtig, aber Anthropic's PR hat die Erzählung genauso geprägt wie die Technologie. Es stellt sich auch die Frage, wie fortschrittlich Mythos wirklich ist. Forscher haben gezeigt, dass kleinere, billigere Modelle, die in großem Umfang eingesetzt werden, ähnliche Leistungen erbringen können. Was wie ein Durchbruch erscheint, kann eine breitere Verschiebung im gesamten Feld widerspiegeln. Das Weiße Haus glaubt, dass Anthropic einen strategischen Wert hat – und lädt es wieder in den Kreis ein und signalisiert damit eine Verschiebung von der Behandlung von KI-Firmen als Auftragnehmer zu Partnern. Das wirft eine tiefere Sorge auf: ob die Kontrolle privater Firmen über kritische Infrastrukturrisiken klug ist – insbesondere wenn weniger verantwortungsbewusste Akteure technischen Einfluss gewinnen.

Offensichtlich wird, wer auch immer – Staat oder Firma – die leistungsfähigsten KI-Modelle entwickelt, geopolitische Vorteile gegenüber Freunden und Feinden gleichermaßen erzielen. Ohne einen Rahmen für internationale Koordination in der Cybersicherheit besteht jedoch die Gefahr, dass es nicht ein sicheres Internet gibt, sondern eine Reihe konkurrierender – die jeweils ihr eigenes System "patchen" und keiner dem anderen vollständig vertrauen. Es wäre kein globales Gemeingut mehr. Stattdessen würde das Web in Sicherheitsallianzen zerstückelt, enger bewacht, während etwas Größeres leise verschwindet.

-
**Haben Sie eine Meinung zu den in diesem Artikel aufgeworfenen Themen? Wenn Sie eine Antwort von bis zu 300 Wörtern per E-Mail einreichen möchten, um eine Veröffentlichung in unserer Leserbriefspalte in Betracht zu ziehen, klicken Sie bitte hier.**