Sen. Warren befragt das DOD wegen Anthropic-Blacklist, die „Vergeltung zu sein scheint“

Sen. Elizabeth Warren, D-Mass., sagte, die Entscheidung des Verteidigungsministeriums, das Startup für künstliche Intelligenz Anthropic als Risiko für die Lieferkette einzustufen, „scheint Vergeltung zu sein“.
In einem formellen Schreiben an den US-Verteidigungsminister Pete Hegseth am Montag stellte Warren fest, dass die Abteilung „ihren Vertrag mit Anthropic hätte kündigen oder ihre Technologie weiterhin in nicht klassifizierten Systemen nutzen können“.
„Ich bin besonders besorgt darüber, dass das DOD versucht, amerikanische Unternehmen unter Druck zu setzen, dem Ministerium die Werkzeuge zur Überwachung amerikanischer Bürger zur Verfügung zu stellen und vollautonome Waffen ohne angemessene Schutzmaßnahmen einzusetzen“, schrieb Warren.
US-Senatoren suchen nach weiteren Antworten auf die Verträge des Verteidigungsministeriums mit Technologieunternehmen, während der Krieg im Iran andauert und der Konflikt in die vierte Woche geht.
In den Tagen vor dem Krieg gerieten das DOD und Anthropic aneinander, als die Abteilung ungehinderten Zugang zu ihren Modellen für alle „rechtmäßigen Zwecke“ suchte, während Anthropic die Zusicherung wollte, dass ihre Modelle nicht für vollautonome Waffen oder die heimische „Massenüberwachung“ verwendet würden.
Am 27. Februar postete Hegseth, dass er das DOD anweise, das Etikett „Risiko für die Lieferkette“ auf das Unternehmen anzuwenden. Die offizielle Mitteilung kam eine Woche später, als die Abteilung weiterhin Anthropic's Claude-Modell im Iran einsetzte.
Anthropic reichte eine Klage gegen die Trump-Administration ein, nachdem das Unternehmen auf die schwarze Liste gesetzt und als Bedrohung für die nationale Sicherheit der USA eingestuft wurde. Eine vorläufige Anhörung für die Klage ist für Dienstag vor dem US-Bezirksgericht für den nördlichen Bezirk Kaliforniens angesetzt.
Stunden nachdem Anthropic auf die schwarze Liste gesetzt wurde, trat OpenAI auf den Plan und kündigte eine Vereinbarung mit dem DOD an.
Das Unternehmen sagte, es sei zuversichtlich, dass das DOD seine KI-Systeme aufgrund des „Sicherheitsstapels“ von OpenAI, bestehender Gesetze und der Vertragsbedingungen, die nicht vollständig offengelegt wurden, nicht für Massenüberwachung oder vollautonome Waffen verwenden würde.
Weder Altman noch das Verteidigungsministerium konnten jedoch die Bedenken von Gesetzgebern, der Öffentlichkeit und einigen Mitarbeitern der Unternehmen zerstreuen.
Warren sucht auch Antworten vom CEO von OpenAI, Sam Altman.
In einem Schreiben vom Montag bat Warren Altman um Informationen über die Bedingungen seiner DOD-Vereinbarung.
„Ich bin besorgt, dass die Bedingungen dieser Vereinbarung der Trump-Administration erlauben könnten, die Technologie von OpenAI zur Massenüberwachung von Amerikanern zu nutzen und tödliche autonome Waffen zu bauen, die Zivilisten mit wenig bis gar keiner menschlichen Aufsicht schädigen könnten“, heißt es in dem Schreiben.
Letzte Woche traf sich Altman mit einer Handvoll Gesetzgebern in Washington, D.C., wo Sen. Mark Kelly, D-Ariz., „ernste Fragen“ zu dem Ansatz des Unternehmens im Kriegswesen und seinem DOD-Vertrag aufwarf.
„Letztendlich ist es unmöglich, etwaige Schutzmaßnahmen und Verbote zu bewerten, die in der Vereinbarung von OpenAI mit dem DoD bestehen könnten, ohne den vollständigen Vertrag einzusehen, den weder das DoD noch OpenAI zur Verfügung gestellt haben“, schrieb Warren.
Sie fügte hinzu, dass das, was öffentlich gemacht wurde, erhebliche Bedenken hinsichtlich der Nutzung von KI durch das DOD aufwirft.
Trotz der Forderungen nach Antworten haben die Demokraten im Senat nur begrenzte Möglichkeiten, Maßnahmen zu erzwingen, da die Republikaner das Weiße Haus und beide Häuser des Kongresses kontrollieren.