Meta AI Agent-Anweisung verursacht großen Leak sensibler Daten an Mitarbeiter

Ein KI-Agent wies einen Ingenieur an, Aktionen durchzuführen, die eine große Menge sensibler Daten von Meta einigen seiner Mitarbeiter zugänglich machten, im neuesten Beispiel dafür, wie KI Aufruhr in einem großen Technologieunternehmen verursacht.
Der Leak, den Meta bestätigte, ereignete sich, als ein Mitarbeiter um Rat zu einem technischen Problem in einem internen Forum bat. Ein KI-Agent antwortete mit einer Lösung, die der Mitarbeiter implementierte – wodurch eine große Menge sensibler Benutzer- und Unternehmensdaten für zwei Stunden seinen Ingenieuren zugänglich gemacht wurden.
„Keine Benutzerdaten wurden missbraucht“, sagte ein Meta-Sprecher, und er betonte, dass auch ein Mensch irreführende Ratschläge geben könnte. Der Vorfall, der zuerst von The Information gemeldet wurde, löste innerhalb von Meta einen wichtigen internen Sicherheitsalarm aus, was das Unternehmen als ein Zeichen dafür ansieht, wie ernst es den Datenschutz nimmt.
Dieser Verstoß ist einer von mehreren kürzlichen, hochkarätigen Vorfällen, die durch die zunehmende Nutzung von KI-Agenten innerhalb von US-amerikanischen Technologieunternehmen verursacht wurden. Letzten Monat berichtete die Financial Times, dass Amazon mindestens zwei Ausfälle im Zusammenhang mit dem Einsatz seiner internen KI-Tools erlebt habe.
Mehrere Dutzend Amazon-Mitarbeiter sprachen später mit dem Guardian über den ungestümen Versuch des Unternehmens, KI in alle Elemente ihrer Arbeit zu integrieren, was zu offensichtlichen Fehlern, schlechtem Code und reduzierter Produktivität führte.
Die Technologie, die diesen Vorfällen zugrunde liegt, agentische KI, hat sich in den letzten Monaten rasant entwickelt. Im Dezember lösten Entwicklungen im KI-Coding-Tool von Anthropic, Claude Code, weit verbreitete Aufregung über seine Fähigkeit aus, autonom Theaterkarten zu buchen, persönliche Finanzen zu verwalten und sogar Pflanzen anzupflanzen.
Kurz darauf kam OpenClaw hinzu, ein viraler KI-Persistenzassistent, der auf Agenten wie ClaudeCode lief, aber vollständig autonom arbeiten konnte – zum Beispiel Kryptowährungen im Wert von Millionen von Dollar tauschte oder Massenweise Benutzer-E-Mails löschte – was zu enthusiastischen Gesprächen über das Eintreten von AGI, oder künstlicher allgemeiner Intelligenz, einem Oberbegriff für KI, die in der Lage ist, Menschen für eine breite Anzahl von Aufgaben zu ersetzen, führte.
In den folgenden Wochen haben die Aktienmärkte über die Befürchtung schwankt, dass KI-Agenten Softwareunternehmen „aushöhlen“, die Wirtschaft umgestalten und menschliche Arbeitskräfte ersetzen werden.
Tarek Nseir, Mitbegründer einer Beratungsfirma, die sich darauf konzentriert, wie Unternehmen KI nutzen, sagte, diese Vorfälle zeigten, dass Meta und Amazon sich in „experimentellen Phasen“ der Bereitstellung agentischer KI befänden.
„Sie stehen diesen Dingen nicht wirklich zurück und nehmen keine angemessene Risikobewertung vor. Wenn Sie einen Junior-Praktikanten mit dieser Materie betrauen, würden Sie diesem Junior-Praktikanten niemals Zugriff auf alle Ihre kritischen HR-Daten der Schweregradstufe 1 gewähren“, sagte er.
„Die Schwachstelle wäre Meta im Nachhinein, wenn nicht schon im Moment, sehr, sehr offensichtlich. Und was ich sagen und sagen werde, ist, dass dies Meta ist, das in großem Maßstab experimentiert. Es ist Meta, das mutig ist.“
Jamieson O’Reilly, ein Sicherheitsspezialist, der sich auf den Aufbau von offensiver KI konzentriert, sagte, KI-Agenten eine bestimmte Art von Fehler einführten, die Menschen nicht haben – und das könnte den Vorfall bei Meta erklären.
Ein Mensch kennt den „Kontext“ einer Aufgabe – das implizite Wissen, dass man beispielsweise nicht das Sofa anzünden sollte, um den Raum zu heizen, oder eine wenig genutzte, aber entscheidende Datei löschen oder eine Aktion ausführen sollte, die Benutzerdaten nachgeschaltet aussetzt.
Für KI-Agenten ist dies komplizierter. Sie haben „Kontextfenster“ – eine Art Arbeitsspeicher –, in denen sie Anweisungen ausführen, aber diese laufen ab, was zu Fehlern führt.
„Ein menschlicher Ingenieur, der seit zwei Jahren bei einem Unternehmen arbeitet, verfügt über ein angesammeltes Gefühl dafür, was wichtig ist, was um 2 Uhr morgens kaputt geht, was die Ausfallzeit kostet, welche Systeme Kunden berühren. Dieses Wissen lebt in ihm, in seinem Langzeitgedächtnis, auch wenn es nicht im Vordergrund steht“, sagte O’Reilly.
„Der Agent hingegen hat keines davon, es sei denn, Sie legen es explizit in die Aufforderung, und selbst dann beginnt es zu verblassen, es sei denn, es befindet sich in den Trainingsdaten.“
Nseir sagte: „Es wird unweigerlich mehr Fehler geben.“