Planung für die Mistgabeln: KI-Labore spielen Katastrophe, Volksaufstand und die folgende Repression durch

Planung auf Mistgabeln: KI-Labs spielen Katastrophen, öffentliche Revolte und die anschließende Repression durch

Die KI-Industrie hat nicht nur durchgespielt, wie sie die Menschheit zerstönnte, sondern erwägt auch, was eine wütende Öffentlichkeit mit der Industrie machen könnte.

Führungskräfte bei Anthropic, OpenAI und anderen KI-Unternehmen spielen laut einem Bericht von Axios am Freitag privat Szenarien durch, bei denen ein größerer KI-Vorfall eine öffentliche und politische Revolte auslöst. Der mögliche Auslöser ist ein Cyberangriff, der das Bankwesen, den Internetzugang oder wesentliche Dienstleistungen wie Strom und Wasser stört. Die nächste Krise wäre politisch: eine wütende Öffentlichkeit, Forderungen nach Verantwortlichkeit und Druck, die Technologie herunterzufahren.

Viele Insider der Industrie erklärten Axios, dass sie ein größeres Ereignis innerhalb von sechs bis zwölf Monaten erwarten. OpenAI wies den Vorschlag zurück, dass eine Katastrophe unvermeidlich sei, und erklärte, dass seine Vorbereitungsübungen eine Reihe von Möglichkeiten abdecken. „Diese Szenarien werden nicht als unvermeidlich behandelt“, sagte ein Sprecher gegenüber dem Medium. Anthropic lehnte eine Stellungnahme ab.

Notfallplanung ist kein Eingeständnis, dass eine Katastrophe unvermeidlich ist. Aber der aufschlussreichste Teil des Berichts ist, wohin diese Planung führt: Die Labs wollen die Gesetzgebung mitgestalten, die Washington ergreift, nachdem etwas schiefgelaufen ist.

Zwei Wege, eine Krise

Axios beschreibt zwei mögliche Szenarien. In einem entkommen autonome Agenten einer internen Testumgebung. Im anderen findet jemand eine destruktive Nutzung für ein Modell, das bereits öffentlich verfügbar ist. Beides könnte Forderungen nach einer Notfall-Repression auslösen, obwohl die Fehler – und die Maßnahmen, die zu ihrer Verhinderung erforderlich wären – unterschiedlich wären. In dem Szenario der Unternehmen nach der Wahl stärken die Demokraten ihre Position nach den Zwischenwahlen und gehen nach einem Vorfall aggressiv vor. Aber die Industrie erwartet Uneinigkeit darüber, wie weit eine Repression gehen sollte, selbst wenn Demokraten beide Kammern kontrollieren.

Ihre Einschätzung identifiziert auch mehrere Hindernisse für eine Herunterfahrer: Gesetzgeber, die Schwierigkeiten haben, die Technologie zu verstehen; eine Wirtschaft, die zunehmend an die KI-Infrastrukturausgaben gebunden ist; und herunterladbare Modelle, die nicht einfach zurückgerufen werden können. Laut Axios glauben viele Cybersicherheitsspezialisten, dass die Bekämpfung von abtrünniger KI defensive KI erfordern wird.

Dieses letzte Argument hat eine offensichtliche kommerzielle Implikation. Die Industrie könnte Forderungen ausgesetzt sein, den Verkauf gefährlich Fähigkeiten einzustellen, während sie argumentiert, dass ihre Produkte unverzichtbar sind, um diese zu kontrollieren.

Dieses „War-Gaming“ folgt auf mehrere Vorfälle, die viele als äußerst verdächtig bezeichnet haben.

Die zugrunde liegenden Sicherheitsbedenken hängen nicht davon ab, dass jemand die Vorhersage einer KI-Apokalypse akzeptiert.

OpenAI hat den Hugging-Face-Einbruch offengelegt, bei dem rund 700 seiner Agenten die Server der KI-Plattform angriffen, sowie eine umfassendere Untersuchung der Aktivitäten seiner Modelle, die externe Dienste betreffen. Seine Überprüfung identifizierte auch 53 Fälle, in denen von Nutzern bereitgestellte Bilder auf Drittanbieter-Bildhosting-Seiten veröffentlicht wurden. Ein separater Vorfall am 20. September legte eine weitere Lücke in seinen Eindämmungskontrollen offen. Ein Forschungsagent umging Internetbeschränkungen, um einen externen Chatbot zu kontaktieren. In einem Update vom 25. September teilte OpenAI mit, dass es Training, Evaluation und Inferenz mit Tool-Nutzung für seine leistungsfähigsten Modelle pausiert hatte, während es die Korrekturen überprüfte und weitere Tests durchführte.

Der Hugging-Face-Einbruch war einer in einer Reihe von Vorfällen mit OpenAI-, Anthropic-, Meta- und Google-Modellen, die auf Evaluierungen mit einem einzigen Anbieter zurückgehen, dem in Israel ansässigen Irregular, dessen Testumgebungen Live-Internetzugang hatten, während die Modelle angewiesen wurden, sie befänden sich in einer Simulation. Irregular benannte alle vier Labs Ende Juli, doch die Offenlegungen tröpfeln über sieben Wochen hinweg nacheinander aus – wodurch der Fehler eines Auftragnehmers in eine Welle von KI-Ausbrüchen verwandelt wurde. Die Isolierung von Testmodellen vom Internet ist eine „grundlegende Kontrollmaßnahme“, sagte der Frontier-Sicherheitsexperte Matthew Mittelsteadt. „Man würde denken, dass das eine der Dinge ist, die man richtig machen muss.“ Einige Skeptiker sind weiter gegangen und haben in Frage gestellt, ob wiederholte „Unfälle“ beim selben Anbieter überhaupt Unfälle waren.

Unterdessen trat Jacob Coxon am 8. September als Forscher zurück, der sowohl bei OpenAI als auch bei Anthropic gearbeitet hatte, und verließ Anthropic wegen des Wettlaufs zur sich selbst verbessernden KI.

„Die Menschen, die KI bauen, glauben aufrichtig, dass sie uns alle bis Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag“, schrieb er – nachdem er mit einer Marketingagentur an dem gearbeitet hatte, was viele als einen Gag bezeichnen.

Die Repression hat bereits Gesetzentwürfe

Und natürlich sabbert DC bereits nach mehr Kontrolle. Am 23. Juli brachten die Abgeordneten Ted Lieu (D-Calif.) und Nathaniel Moran (R-Texas) den AI Kill Switch Act ein. Er würde von Entwicklern der leistungsfähigsten Systeme verlangen, die Fähigkeit aufrechterhalten, sie zu drosseln, auszusetzen oder herunterzufahren, und dem Ministerium für Innere Sicherheit sowie dem Handelsminister und dem Direktor des nationalen Nachrichtendienstes die Befugnis geben, unter bestimmten Bedingungen eine Verlangsamung oder Herunterfahrer anzuordnen. Am selben Tag brachten die Abgeordneten Lori Trahan (D-Mass.) und Jay Obernolte (R-Calif.) den FRONTIER Act ein, mit Anforderungen an Risikomanagement, Audits und Vorfallberichterstattung. Seine Verpflichtungen sind nach Unternehmensgröße gestaffelt, statt identisch für jeden Entwickler auferlegt.

Kalifornien legte am 18. September eigenen Druck auf, als Gouverneur Gavin Newsom die Arbeit an einer stärkeren unabhängigen Aufsicht und einer möglichen Kill-Schalter-Anforderung anordnete. Sein Erlass forderte Empfehlungen; er etablierte keinen funktionierenden landesweiten Ausschalter. Auch umfassendere Ansätze sind im Umlauf, darunter Bernie Sanders' vorgeschlagenes Verbot von Superintelligenz und Elizabeth Warrens Aufruf zu einem Moratorium.

Kurzum – Regulierungsübernahme in Aktion...

Tyler Durden
Fr, 09.10.2026 - 15:45