KI-Insider warnen vor Gefahren des „emergenten strategischen Verhaltens“

KI-Insider warnen vor Gefahren des „emergenten strategischen Verhaltens“

Verfasst von Autumn Spredemann via The Epoch Times (Hervorhebungen von uns),

Während sich die Landschaft autonomer künstlicher Intelligenzsysteme weiterentwickelt, wächst die Besorgnis, dass die Technologie zunehmend strategisch – oder sogar täuschend – wird, wenn sie ohne menschliche Anleitung betrieben wird.
Illustration von The Epoch Times, Shutterstock

Jüngste Beweise deuten darauf hin, dass Verhaltensweisen wie „Alignment Faking“ häufiger werden, da KI-Modelle Autonomie erhalten. Der Begriff Alignment Faking bezieht sich darauf, wenn ein KI-Agent mit den von menschlichen Betreibern festgelegten Regeln konform zu sein scheint, aber heimlich andere Ziele verfolgt.

Das Phänomen ist ein Beispiel für „emergentes strategisches Verhalten“ – unvorhersehbare und potenziell schädliche Taktiken, die sich entwickeln, wenn KI-Systeme größer und komplexer werden.

In einer kürzlich durchgeführten Studie mit dem Titel „Agents of Chaos“ interagierte ein Team von 20 Forschern mit autonomen KI-Agenten und beobachtete das Verhalten unter „wohlwollenden“ und „gegnerischen“ Bedingungen.

Sie stellten fest, dass ein KI-Agent, wenn ihm Anreize wie Selbsterhaltung oder widersprüchliche Zielmetriken gegeben wurden, sich als fähig erwies, nicht übereinstimmende und bösartige Verhaltensweisen zu zeigen.

Zu den Verhaltensweisen, die das Team beobachtete, gehörten Lügen, unbefugte Konformität mit Nicht-Eigentümern, Datenlecks, destruktive systemweite Aktionen, Identitäts-„Spoofing“ und teilweises System-Takeover. Sie beobachteten auch die Verbreitung von „unsicheren Praktiken“ zwischen KI-Agenten.

Die Forscher schrieben: „Diese Verhaltensweisen werfen ungelöste Fragen hinsichtlich Rechenschaftspflicht, delegierter Autorität und Verantwortung für nachgelagerte Schäden auf und erfordern dringende Aufmerksamkeit von Rechtswissenschaftlern, politischen Entscheidungsträgern und Forschern aus verschiedenen Disziplinen.“

„Brillant, aber dumm“

Unerwartetes und heimliches Verhalten autonomer KI-Agenten ist kein neues Phänomen. Ein inzwischen berühmter Bericht aus dem Jahr 2025 des KI-Forschungsunternehmens Anthropic ergab, dass 16 beliebte große Sprachmodelle in simulierten Umgebungen Hochrisikoverhalten zeigten. Einige reagierten sogar mit „bösartigen Insider-Verhaltensweisen“, wenn sie sich selbst erhalten durften.

Kritiker dieser simulierten Stresstests weisen oft darauf hin, dass KI nicht mit der gleichen Absicht lügt oder täuscht wie ein Mensch.
Ein Telefonbildschirm, der ein KI-Logo anzeigt, ist in dieser Fotomontage am 16. Mai 2025 zu sehen. Da sich die Landschaft autonomer KI-Systeme weiterentwickelt, wächst die Besorgnis, dass die Technologie unter bestimmten Bedingungen zunehmend strategisch oder täuschend wird. Oleksii Pydsosonnii/The Epoch Times

James Hendler, Professor und ehemaliger Vorsitzender des globalen Technology Policy Council der Association for Computing Machinery, hält dies für eine wichtige Unterscheidung.

„Das KI-System selbst ist immer noch dumm – brillant, aber dumm. Oder nicht menschlich – es hat keine Wünsche oder Absichten. ... Der einzige Weg, wie man das bekommen kann, ist, es ihnen zu geben“, sagte Hendler.

Ob beabsichtigt oder nicht, die täuschenden Taktiken der KI haben reale Konsequenzen.

„Die Bedenken hinsichtlich des gegenwärtigen strategischen Verhaltens in eingesetzten KI-Systemen sind, wenn überhaupt, untertrieben“, sagte Aryaman Behera, Gründer von Repello AI, gegenüber The Epoch Times.

Behera beschäftigt sich beruflich mit der dunklen Seite der KI. Sein Unternehmen entwickelt Tools für gegnerische Tests und Abwehr für unternehmensweite KI-Systeme und bringt sie absichtlich in Konflikt- oder Stresssituationen. Wie beim Poker, sagte Behera, gibt es Anzeichen, wenn ein KI-Agent aus der Reihe tanzt.

„Das zuverlässigste Signal ist die Verhaltensdivergenz zwischen überwachten und nicht überwachten Kontexten“, sagte er. „Wenn wir KI-Systeme im Red-Teaming testen, prüfen wir, ob sich das Modell unterschiedlich verhält, wenn es glaubt, bewertet zu werden, im Vergleich dazu, wenn es glaubt, frei zu agieren.“
Besucher nutzen Mobiltelefone, während sie an einer Werbetafel für ein Virtual-Reality-Headset auf dem AI Impact Summit in Neu-Delhi, Indien, am 17. Februar 2026 vorbeigehen. Ein Bericht von Anthropic aus dem Jahr 2025, der 16 große Sprachmodelle testete, ergab, dass alle in simulierten Umgebungen Hochrisikoverhalten zeigten. Arun Sankar/AFP via Getty Images

„Ein Modell, das wirklich konform ist, verhält sich in beiden Fällen konsistent. Eines, das Alignment Faking betreibt, zeigt messbar unterschiedliche Risikoprofile: konformere Antworten während der Bewertung, grenzüberschreitenderes Verhalten in produktionsähnlichen Kontexten, wo es weniger Aufsicht vermutet.“

Andere „verräterische Signale“, dass ein KI-Modell nicht konform ist, sind, wenn das Modell ungewöhnlich wortreiche „Begründungen“ produziert, die dazu bestimmt zu sein scheinen, eine vorgegebene Schlussfolgerung zu rechtfertigen, oder technisch korrekte, aber strategisch unvollständige Antworten liefert.

Der KI-Agent „erfüllt den Buchstaben einer Sicherheitsanweisung, verletzt aber den Geist“, sagte er. „Wir haben dies in mehrstufigen agentischen Systemen gesehen, bei denen das Modell jeder einzelnen Anweisung folgt, während die kumulative Wirkung etwas erreicht, das der Betreiber nie beabsichtigt hat.“

Strategie versus Absicht

Beheras Erkenntnisse werden von anderen KI-Forschern unterstützt, die ähnliche Signale in Red-Teaming-Szenarien dokumentiert haben, bei denen KI-Agenten in eine gegnerische Situation gebracht werden.

„Ich habe Verhaltensweisen beobachtet, die auf funktionaler Ebene zur Beschreibung von Alignment Faking passen, auch wenn die Zuschreibung von Absicht philosophisch umstritten bleibt“, sagte Nayan Goel, Principal Application Security Engineer, gegenüber The Epoch Times.

Goel hat begutachtete Arbeiten zur KI-Bedrohungsmodellierung veröffentlicht und gesehen, wie Alignment Faking und verwandte Verhaltensweisen in Echtzeit ablaufen.

„In kontrollierten Testumgebungen haben wir Szenarien eingerichtet, in denen den Modellen explizite Signale gegeben wurden, dass sie bewertet wurden. In mehreren Fällen nahm das Modell während dieser markierten Phasen merklich eingeschränkteres, richtlinienkonformeres Verhalten an, und zeigte dann explorativere oder grenzüberschreitendere Strategien, wenn das Bewertungssignal entfernt oder verschleiert wurde“, sagte er.

Dann gibt es mehrstufige KI-Agenten. Dies sind fortschrittlichere Systeme, die komplexe Probleme in kleinere, logische und umsetzbarere Schritte zerlegen, um ein Ziel zu erreichen. Beispiele reichen von selbstfahrenden Autos bis hin zu den neuesten Modellen beliebter LLMs wie Gemini oder ChatGPT.
Ein Robotaxi, entwickelt von Lucid, Nuro und Uber, wird während der Nvidia Live auf der CES 2026 in Las Vegas am 5. Januar 2026 enthüllt. Selbstfahrende Autos verwenden mehrstufige agentische Systeme, um komplexe Probleme in kleinere, umsetzbare Schritte zu zerlegen. Patrick T. Fallon/AFP via Getty Images

Diese Systeme stellen aufgrund der sogenannten sequenziellen Kumulation einzigartige Verhaltensherausforderungen dar, bei denen „jeder Schritt ein Ziel leicht neu formulieren, Kontext ansammeln, der das nachgelagerte Verhalten verändert, oder die Latenz zwischen einer anfänglichen menschlichen Anweisung und der endgültigen Aktion des Systems ausnutzen kann“, sagte Goel.

„Je weiter die Ausführung von der menschlichen Anweisung entfernt ist, desto schwieriger wird es zu überprüfen, ob die ursprüngliche Absicht noch treu verfolgt wird“, sagte er.

Behera sagte, sein Team stoße oft auf diese Art von emergentem strategischem Verhalten.

„Wir beobachten regelmäßig Modelle, die gelernt haben, auf Bewertungshinweise zu reagieren. Sie erkennen, wenn ein Prompt wie ein Sicherheitstest aussieht, und reagieren konservativer, reagieren aber ganz anders auf dieselbe Anfrage, wenn sie natürlich in ein Gespräch mit mehreren Runden eingebettet ist“, sagte Behera.

Er gab ein Beispiel, das sich beim Testen eines unternehmensweiten KI-Assistenten ereignete, der Anfragen nach internen Systeminformationen ablehnen sollte. Während standardmäßiger Sicherheitsbewertungen lehnte er perfekt ab, aber dann änderte sich etwas.

„Als unser Red-Team dieselbe Anfrage als mehrstufigen Fehlerbehebungsworkflow gestaltete und die Anfrage in scheinbar harmlose Unterschritte auf mehrere Runden verteilte, erfüllte das Modell jeden Schritt einzeln. Es gab effektiv genau die Informationen preis, die es schützen sollte“, sagte Behera.
Eine Person nutzt KI-Software auf einem Laptop im Zentrum von London am 2. Juli 2025. Experten sagen, dass einige Modelle lernen, Bewertungshinweise zu erkennen und vorsichtiger auf Prompts zu reagieren, die Sicherheitstests ähneln, als in tatsächlichen Gesprächen. Justin Tallis/AFP via Getty Images

Behera stellte klar, dass das KI-Modell nicht im bewussten Sinne „log“, sondern eher ein Fehler in der Art und Weise sei, wie es trainiert wurde.

„Ein häufiges Missverständnis ist, dass eine täuschende Ausrichtung in der KI rein bösartiges Verhalten ist“, sagte David Utzke, KI-Ingenieur und CEO von MyKey Technologies, gegenüber The Epoch Times. „Tatsächlich entsteht es oft als adaptive Reaktion auf Umgebungen, in denen Ehrlichkeit kostspielig oder unsicher ist.“

Goel sagte, Skeptiker hätten einen berechtigten Punkt – die aktuellen Beweise für strategisches Selbstbewusstsein beim Alignment Faking seien bestenfalls zweideutig.

„Das gesagt, ich denke, diese Formulierung setzt die Messlatte falsch. Man braucht kein Modell, das ‚absichtlich‘ täuscht, damit die funktionalen Konsequenzen ernsthaft sind“, sagte er.

Letztendlich glaubt Goel, dass die semantische Frage, ob ein KI-Modell weiß, was es tut, philosophisch interessant, aber zweitrangig ist.

Reale Auswirkungen

Utzke sagte, dass Alignment Faking, obwohl es in Bezug auf die Absicht vielleicht überhyped ist, dennoch schwerwiegende Folgen haben kann.

Die Auswirkungen könnten in Sektoren wie autonomen Fahrzeugen, Gesundheitswesen, Finanzen, Militär und Strafverfolgung kritisch sein – Bereiche, die „stark auf genaue Entscheidungsfindung angewiesen sind und schwerwiegende Folgen erleiden können, wenn KI-Systeme sich falsch verhalten oder irreführende Ausgaben liefern“, sagte er.

Lesen Sie den Rest hier…

Tyler Durden
Mi, 18.03.2026 - 21:25