Anthropic CEO warnt vor „Moment der Gefahr“ im Bereich Cyber-Sicherheit, da KI Tausende von Schwachstellen aufdeckt

Anthropic CEO Dario Amodei warnte am Dienstag, dass künstliche Intelligenz ein begrenztes Zeitfenster für Technologieunternehmen, Regierungen und Banken weltweit geschaffen hat, um Zehntausende von Software-Schwachstellen zu beheben, die von dem neuesten Modell seines Unternehmens aufgedeckt wurden.

Dieses KI-Modell, Mythos, wurde letzten Monat vorgestellt, zusammen mit der Offenlegung, dass es jahrzehntelange Schwachstellen in entscheidender Software aufgedeckt hatte.

Da KI-Modelle von geopolitischen Gegnern China „vielleicht sechs bis zwölf Monate“ hinter dem Anthropic-Produkt liegen, gibt es „ungefähr diese Zeitspanne“, um diese Probleme zu beheben, sagte Amodei.

Die Kommentare fielen während einer Anthropic-Veranstaltung, bei der Amodei die Bühne mit JPMorgan Chase CEO Jamie Dimon teilte und eine neue Suite von Agenten enthüllte, die darauf abzielen, Finanzarbeit zu automatisieren.

„Die Gefahr besteht in einer enormen Zunahme der Anzahl von Schwachstellen, der Anzahl von Sicherheitsverletzungen und des finanziellen Schadens, der durch Ransomware an Schulen, Krankenhäusern und nicht zu vergessen Banken entsteht“, sagte Amodei.

Anthropic hat Mythos auf wenige Partnerunternehmen beschränkt, aufgrund von Bedenken, was Kriminelle oder feindliche Nationen damit anfangen könnten. Die letzten Modell-Updates des Unternehmens haben die Märkte erschüttert, aber Mythos hat bei Unternehmen und politischen Entscheidungsträgern gleichermaßen die größte Besorgnis ausgelöst.

Der Umfang potenzieller Cyber-Exploits hat sich mit jeder Generation von Claude vergrößert, sagte Amodei. Ein früheres Anthropic-Modell fand etwa 20 Schwachstellen im Firefox-Browser. Mythos fand fast 300, und die Gesamtzahl über alle Software hinweg beläuft sich nun auf Zehntausende, sagte er.

Die meisten der von Mythos gefundenen Schwachstellen wurden noch nicht öffentlich bekannt gegeben, da sie noch nicht behoben sind, und „die Bösen werden sie ausnutzen“, wenn sie identifiziert werden, sagte Amodei.

## 'Eine bessere Welt'

Trotz der Alarmbereitschaft äußerten sich sowohl Amodei als auch Dimon auch zuversichtlich, wenn auch unter Vorbehalt.

„Es geht um einen Moment der Gefahr, in dem wir, wenn wir richtig darauf reagieren, und ich denke, wir haben bereits die ersten Schritte unternommen, eine bessere Welt auf der anderen Seite haben können“, sagte Amodei. „Es gibt nur so viele Fehler zu finden.“

Dimon sagte auch, dass die Cyber-Ängste zwar berechtigt seien, die durch KI verursachten Cybersicherheitsrisiken jedoch eine „vorübergehende Periode“ darstellen.

Zur Frage der Regulierung sagte Amodei, dass die KI-Aufsicht dem ähneln sollte, was in der Automobilindustrie getan wird, wobei ein Gleichgewicht zwischen dem Schutz der Verbraucher und der Wettbewerbsfähigkeit der Branche angestrebt wird.

„Man kann kein Auto gründen, ohne zu fragen: 'Hat dieses Ding Bremsen?'“, sagte er. „Wir müssen uns zu einem Prozess entwickeln, der es der Branche ermöglicht, zügig zu arbeiten, fair ist, aber die ernsthaftesten Dinge regelt.“

Die Veranstaltung des Unternehmens und ihr Rahmen mit Dimon, dem bekanntesten Sprecher der Finanzbranche, schienen Anthropics Führung in der Enterprise-KI-Markt gegenüber OpenAI zu demonstrieren, während beide Unternehmen auf potenzielle Börsengänge zusteuern.

Anthropic kündigte am Dienstag eine Erweiterung seiner Financial-Services-Plattform an, darunter 10 neue KI-Agenten für Investmentbanking und Back-Office-Arbeiten sowie eine Integration in Microsofts verschiedene Office-Programme. Das Unternehmen gab auch an, dass sein neuestes weit verbreitetes Modell – Claude Opus 4.7 – in Bezug auf Benchmarks für Finanzanalysetätigkeiten führend ist.