„Zu mächtig für die Öffentlichkeit“: Einblicke in Anthropic's Bestreben, den KI-PR-Krieg zu gewinnen

Diese Woche gab das KI-Unternehmen Anthropic bekannt, ein KI-Modell entwickelt zu haben, das so leistungsfähig sei, dass es es aus überwältigender Verantwortung heraus nicht der Öffentlichkeit zugänglich machen werde.

Die US-Finanzministerin Scott Bessent lud die Leiter der großen Banken zu einem Gespräch über das Modell Mythos ein. Der Reform UK-Abgeordnete Danny Kruger schrieb einen Brief an die Regierung und drängte sie, „sich mit dem KI-Unternehmen Anthropic auseinanderzusetzen, dessen neues Spitzenmodell Claude Mythos katastrophale Cybersicherheitsrisiken für das Vereinigte Königreich darstellen könnte“. X ging viral.

Andere waren skeptischer, darunter der bekannte KI-Kritiker Gary Marcus, der sagte: „Dario [Amodei] hat weitaus mehr technisches Know-how als Sam [Altman], scheint aber dieselbe Schule des Hypes und der Übertreibung besucht zu haben“, und bezog sich dabei auf die CEOs von Anthropic und dessen Konkurrenten OpenAI.

Es ist unklar, ob Anthropic den Maschinen-Gott erschaffen hat. Deutlicher ist, dass das Startup aus San Francisco, das weithin als das „verantwortungsbewusste“ KI-Unternehmen gilt, brillant im Marketing ist.

In den letzten Monaten hat Anthropic ein 10.000 Wörter langes Porträt im New Yorker, zwei Artikel im Wall Street Journal und das Cover der Zeitschrift Time erhalten, auf dem Amodeis Gesicht im Stil eines Filmplakats über dem Pentagon und dem US-Verteidigungsminister Pete Hegseth prangte.

Amodei und Anthropic's Mitbegründer Jack Clark traten im Februar in zwei separaten Podcasts der New York Times auf und diskutierten Fragen wie die, ob ihre Maschine Bewusstsein besitze und ob sie bald „die Wirtschaft durchpflügen“ könnte. Der „leitende Philosoph“ des Unternehmens sprach mit dem WSJ darüber, ob Claude – ein kommerzielles Produkt, das zum Handel mit Kryptowährungen und zur Bezeichnung von Raketenzielen verwendet wird – ein „Selbstgefühl“ habe.

Dies alles geschah inmitten eines Streits zwischen Anthropic und dem US-Verteidigungsministerium, bei dem Anthropic, obwohl es das KI-Tool entwickelt hat, das das Pentagon zum Angriff auf den Iran einsetzte, weitaus besser dasteht als OpenAI, das dem US-Militär anbot, dasselbe zu tun, aber mit – vielleicht – weniger Sicherheitsvorkehrungen.

Seine Medienleiterin Danielle Ghiglieri hat die Erfolge auf LinkedIn verbucht. „Ich bin unendlich stolz, bei Anthropic zu arbeiten“, sagte sie über das Time-Cover des Unternehmens und markierte die beteiligten Journalisten in einem Beitrag über den „Wettlauf“, die Geschichte zu Ende zu bringen.

Die Beobachtung eines CBS 60 Minutes-Segments mit Amodei „war einer dieser Momente, in denen man sich kneifen muss“, sagte sie. „Was es bedeutsam machte, war nicht nur die Plattform. Es war zu sehen, wie die Geschichte, die wir erzählen wollten, tatsächlich durchkam.“

Über das New Yorker Porträt des Journalisten Gideon Lewis-Kraus schrieb sie: „Ich würde lügen, wenn ich sagen würde, dass ich vor unserem ersten persönlichen Treffen nicht nervös war … mit jemandem von Gideons Kaliber zusammenzuarbeiten bedeutet, dazu gedrängt zu werden, Ideen zu artikulieren, die man noch formt, und sich mit diesem Unbehagen wohlzufühlen.“

(„Ich wette, das sagen sie alle über dich“, sagte mein Redakteur.)

Andere Tech-PR-Experten haben Notiz genommen.

„Sie haben im Moment eindeutig einen Lauf, aber Unternehmen, die Technologien entwickeln, die die Welt verändern werden, verdienen die gleiche Prüfung“, sagte einer. „Sie haben letzte Woche versehentlich ihren eigenen Quellcode geleakt, und diese Woche beanspruchen sie die Verantwortung für Cyberbedrohungen mit einem neuen leistungsstarken Modell, das nur sie kontrollieren. Jedes andere große Technologieunternehmen würde verspottet werden.“

Anthropic hat Anfang April versehentlich einen Teil des internen Quellcodes von Claude veröffentlicht. „Es waren keine sensiblen Kundendaten oder Anmeldeinformationen beteiligt oder offengelegt“, hieß es.

Was bedeutet das alles über Anthropic's zweifellos leistungsstarkes Mythos?

Die Fähigkeiten des Modells seien nicht „substantiiert“, sagte Dr. Heidy Khlaaf, Chief AI Scientist am AI Now Institute. „Die Veröffentlichung eines Marketingbeitrags mit bewusst vager Sprache, die Beweise verschleiert … wirft die Frage auf, ob sie versuchen, weitere Investitionen ohne Prüfung zu erhalten.“

„Mythos ist eine reale Entwicklung und Anthropic hat richtig daran getan, sie ernst zu nehmen“, sagte Jameison O’Reilly, ein Experte für offensive Cybersicherheit. Aber, so sagte er, einige von Anthropic's Behauptungen, wie die, dass sie Tausende von „Zero-Day-Schwachstellen“ in wichtigen Betriebssystemen gefunden hätten, seien für reale Cybersicherheitsüberlegungen nicht so bedeutsam.

Eine Zero-Day-Schwachstelle ist ein Fehler in Software oder Hardware, der den Entwicklern unbekannt ist.

„Wir haben über 10 Jahre damit verbracht, autorisierten Zugang zu Hunderten von Organisationen zu erhalten – Banken, Regierungen, kritische Infrastrukturen, globale Unternehmen“, sagte O’Reilly. „In diesen 10 Jahren, bei Hunderten von Einsätzen, war die Anzahl der Male, in denen wir eine Zero-Day-Schwachstelle benötigten, um unser Ziel zu erreichen, verschwindend gering.“

Andere Gründe könnten zu Anthropic's Entscheidung beigetragen haben, Mythos nicht zu veröffentlichen.

Das Unternehmen verfügt über begrenzte Ressourcen und scheint Schwierigkeiten zu haben, genügend Rechenkapazität anzubieten, um allen seinen Abonnenten die Nutzung seiner Modelle zu ermöglichen. Es hat Nutzungsobergrenzen für das äußerst beliebte Claude eingeführt. Kürzlich hieß es, dass Benutzer zusätzliche Kapazitäten zusätzlich zu ihren Abonnements kaufen müssten, um Tools von Drittanbietern wie OpenClaw auszuführen. Zu diesem Zeitpunkt verfügt es möglicherweise einfach nicht über die Infrastruktur, um die Veröffentlichung einer gehypten neuen Kreation zu unterstützen.

Wie OpenAI befindet sich Anthropic in einem Wettlauf, um Milliarden von Dollar zu beschaffen und einen Markt zu erobern – noch schlecht definiert – von Menschen, die sich auf seine Chatbots als Freunde, romantische Partner oder tief personalisierte Assistenten verlassen könnten, und von Unternehmen, die sie zur Ersetzung menschlicher Mitarbeiter nutzen könnten.

Aber die Unterschiede in diesen Produkten sind marginal und impressionistisch, meist bedingt durch schwer quantifizierbare Attribute wie „Selbstgefühl“ und „Seele“ – oder vielmehr, was dafür bei einem KI-Agenten gilt. Der Kampf ist um Herzen und Köpfe.

„Mythos ist eine strategische Ankündigung, um zu zeigen, dass sie geschäftsbereit sind“, sagte Khlaaf und sagte, dass Anthropic's Veröffentlichungsbeschränkung unabhängige Experten daran hindere, die Behauptungen des Unternehmens zu bewerten.

Sie schlug vor, dass wir vielleicht „genau das gleiche Köder-und-Wechsel-Spiel sehen, das von OpenAI verwendet wurde, bei dem Sicherheit ein PR-Werkzeug ist, um das Vertrauen der Öffentlichkeit zu gewinnen, bevor Gewinne priorisiert werden“ und: „Anthropic's PR hat es geschafft, diesen Wechsel besser zu verschleiern als seine Konkurrenten.“