KI-gestützte Hacking-Angriffe haben explosionsartig zugenommen und stellen eine Bedrohung in industriellem Maßstab dar, so Google

In nur drei Monaten hat KI-gestütztes Hacking sich laut einem Bericht von Google von einem aufkommenden Problem zu einer Bedrohung in industriellem Maßstab entwickelt.

Die Erkenntnisse der Threat-Intelligence-Gruppe von Google tragen zu einer sich intensivierenden, globalen Diskussion darüber bei, wie die neuesten KI-Modelle äußerst geschickt im Programmieren sind – und zu äußerst leistungsstarken Werkzeugen für die Ausnutzung von Schwachstellen in einer Vielzahl von Softwaresystemen werden.

Es wird festgestellt, dass kriminelle Gruppen sowie staatlich gelenkte Akteure aus China, Nordkorea und Russland scheinbar kommerzielle Modelle – einschließlich Gemini, Claude und Tools von OpenAI – breit einsetzen, um Angriffe zu verfeinern und zu verstärken.

„Es gibt eine Fehlvorstellung, dass das KI-Schwachstellenrennen unmittelbar bevorsteht. Die Realität ist, dass es bereits begonnen hat“, sagte John Hultquist, der leitende Analyst der Gruppe.

„Bedrohungsakteure nutzen KI, um die Geschwindigkeit, den Umfang und die Raffinesse ihrer Angriffe zu steigern. Sie ermöglicht es ihnen, ihre Operationen zu testen, gegen Ziele zu persistieren, bessere Malware zu entwickeln und viele andere Verbesserungen vorzunehmen.“

Im vergangenen Monat lehnt die KI-Firma Anthropic die Veröffentlichung eines ihrer neuesten Modelle, Mythos, ab, nachdem sie behauptet hatte, dass es über äußerst leistungsstarke Fähigkeiten verfügt und eine Bedrohung für Regierungen, Finanzinstitute und die Welt im Allgemeinen darstellt, wenn es in die falschen Hände gerät.

Konkret gab Anthropic an, dass Mythos Null-Day-Schwachstellen in „jedem wichtigen Betriebssystem und jedem wichtigen Webbrowser“ gefunden habe – der Begriff für einen Fehler in einem Produkt, der seinen Entwicklern bisher unbekannt war.

Das Unternehmen erklärte, dass diese Entdeckungen „koordinierte defensive Maßnahmen in der gesamten Branche“ erfordern.

Der Bericht von Google ergab jedoch, dass eine kriminelle Gruppe kürzlich kurz davor stand, eine Null-Day-Schwachstelle zu nutzen, um eine Kampagne zur „Massenausnutzung“ durchzuführen – und dass diese Gruppe scheinbar ein großes Sprachmodell (LLM) verwendete, das nicht Mythos war.

Der Bericht ergab auch, dass Gruppen mit OpenClaw „experimentieren“, einem KI-Tool, das im Februar viral ging, weil es seinen Nutzern die Möglichkeit bot, große Teile ihres Lebens einem KI-Agenten zu übergeben, der keine Schutzmaßnahmen hat und eine ungünstige Tendenz zum Massenlöschen von E-Mail-Postfächern aufweist.

Steven Murdoch, ein Professor für Sicherheitstechnik am University College London, sagte, dass KI-Tools der defensiven Seite in der Cybersicherheit helfen könnten – ebenso wie den Hackern.

„Deshalb mache ich mir keine Sorgen. Im Allgemeinen haben wir eine Phase erreicht, in der die alte Art, Fehler zu finden, vorbei ist, und es wird nun LLM-gestützt sein. Es wird eine Weile dauern, bis die Konsequenzen davon abgewogen sind“, sagte er.

Wenn KI jedoch ehrgeizigen Hackern hilft, ihre Produktivitätsziele zu erreichen, bestehen Zweifel, ob sie die breitere Wirtschaft stärkt.

Das Ada Lovelace Institute (ALI), ein unabhängiges KI-Forschungsinstitut, hat vor Annahmen über einen mehrstelligen Milliarden-Pfund-Produktivitätsgewinn des öffentlichen Sektors durch KI gewarnt. Die britische Regierung schätzt einen Gewinn von 45 Milliarden Pfund an Einsparungen und Produktivitätsvorteilen durch Investitionen des öffentlichen Sektors in digitale Tools und KI.

In einem am Montag veröffentlichten Bericht sagte das ALI, dass die meisten Studien über KI-bedingte Produktivitätssteigerungen sich auf Zeiteinsparungen oder Kostensenkungen bezogen, aber nicht auf Ergebnisse wie bessere Dienstleistungen oder verbesserte Arbeitsbedingungen.

Andere problematische Aspekte einer solchen Forschung sind: ob Prognosen von KI-bedingter Effizienz in einem Arbeitsplatz tatsächlich in der realen Welt erfolgreich sind; Schlagzeilenzahlen, die unterschiedliche Ergebnisse bei der Verwendung von KI in verschiedenen Aufgaben verdecken; und das Versäumnis, die Auswirkungen auf die Beschäftigung und Leistungserbringung im öffentlichen Sektor zu berücksichtigen.

„Die Produktivitätsschätzungen, die wichtige Entscheidungen der Regierung über KI beeinflussen, beruhen manchmal auf ungetesteten Annahmen und stützen sich auf Methoden, deren Einschränkungen von denen, die die Zahlen in der Wildnis verwenden, nicht immer verstanden werden“, heißt es in dem Bericht des ALI.

Die Empfehlungen des Berichts umfassen: zukünftige Studien sollten die Unsicherheit über die Auswirkungen der Technologie widerspiegeln; Regierungsstellen sollten die Auswirkungen von KI-Programmen „von Anfang an“ messen; und langfristige Studien unterstützen, die Produktivitätsgewinne über Jahre und nicht über Wochen messen.