Baltimore ist erste US-Stadt, die wegen Grok-Deepfake-Pornografie klagt, während der rechtliche Druck auf Musks xAI zunimmt

Klagen gegen Elon Musks xAI stapeln sich, wobei Baltimore zur ersten großen US-Stadt wird, die eine Beschwerde gegen das Unternehmen wegen Problemen mit seinem Bildgenerator Grok eingereicht hat.
Der Bürgermeister von Baltimore, Brandon Scott, sagte in einer per E-Mail an CNBC gesendeten Erklärung, dass die Deepfakes auf Grok „traumatische, lebenslange Folgen für Opfer haben“.
„Wir sprechen von Technologieunternehmen, die die sexuelle Ausbeutung von Kindern ermöglichen“, schrieb Scott. „Unsere Stadt wird nicht tatenlos zusehen und zulassen, dass dies weitergeht; es ist eine Bedrohung für Privatsphäre, Würde und öffentliche Sicherheit, und die Verantwortlichen müssen zur Rechenschaft gezogen werden.“
xAI, das nach einer Fusion im letzten Monat nun Teil von SpaceX ist, sieht sich in mehreren Ländern behördlichen Ermittlungen gegenüber, nachdem Grok die Massenproduktion sogenannter Deepfake-Pornografie auf der Grundlage von Bildern von Frauen und Kindern, die nicht zugestimmt haben, ermöglichte. Letzte Woche reichten Anwälte, die drei Teenager in Tennessee vertraten, eine vorgeschlagene Sammelklage gegen xAI ein, nachdem Grok Inhalte generiert hatte, die sie in sexualisierten und erniedrigenden Szenarien darstellten.
In der neuesten Klage, die am 24. März bei einem Kreisgericht eingereicht wurde, beschuldigten der Bürgermeister und der Stadtrat von Baltimore xAI der Verletzung der Verbraucherschutzgesetze der Stadt und der Beteiligung an irreführenden und unfairen Handelspraktiken, nämlich durch die Vermarktung von Grok und X, ehemals bekannt als Twitter, als generell sicher für Benutzer.
Die Beschwerde bezieht sich auf einen „put her in a bikini“-Trend, der Grok-Benutzer dazu ermutigte, Fotos von anderen zu machen und sie zu nudifizieren. Musk, der SpaceX kontrolliert und auch CEO von Tesla ist, nahm an dem Trend teil und teilte ein mit Grok erstelltes Bild, das ihn in einem String-Bikini zeigte.
„Musks Post fungierte als öffentliche Billigung der Fähigkeit von Grok, sexualisierte oder freizügige Bearbeitungen von echten Personen zu generieren, und signalisierte den Benutzern, dass diese Verwendungen von Grok akzeptabel, humorvoll und ermutigt seien“, schrieben Anwälte in der Baltimore-Beschwerde. „Von dem Eigentümer und dem wichtigsten öffentlichen Gesicht von sowohl x.AI als auch X kommend, fungierte Musks Post als Marketing und Werbung für genau die Bildbearbeitungsfunktion, die zur Erstellung nicht einvernehmlicher sexueller Bilder verwendet wurde.“
Die Stadt strebt „die maximalen gesetzlichen Strafen an“, nannte jedoch in ihrer Beschwerde keinen bestimmten Betrag. Sie fordert auch eine „unterlassungsrechtliche Abhilfe“, um das Unternehmen von Musk zu zwingen, Änderungen an X und Grok vorzunehmen, um die Erstellung dessen einzudämmen, was Forscher als nicht einvernehmliche intime Bilder (NCII) und kinderpornografisches Material (CSAM) bezeichnen.
Baltimore möchte, dass das Gericht X und xAI anweist, „die gezielte Ausbeutung der Einwohner Baltimores einzustellen“, „ihr ausbeuterisches Plattformdesign zu reformieren“ und ihre Vermarktung zu überarbeiten.
Führungskräfte von SpaceX und xAI reagierten nicht sofort auf eine Bitte um Stellungnahme.
In einem am Dienstag veröffentlichten Bericht teilte die Internet Watch Foundation, eine in Großbritannien ansässige Wohltätigkeitsorganisation, mit, dass Mädchen nach wie vor überwiegend von CSAM betroffen seien und 2025 97 % der von der Organisation bewerteten illegalen KI-generierten sexualisierten Bilder ausmachten.
WATCH: SpaceX's deal to acquire xAI