Klage gegen Elon Musks xAI behauptet, Grok habe sexualisierte Deepfakes von 3 Minderjährigen erstellt

<ul>
<li>Eine Klage gegen Elon Musks xAI behauptet, dass der Grok-Chatbot sexualisierte Bilder von drei Minderjährigen erstellt hat.</li>
<li>Die Klage wirft xAI vor, von der "sexuellen Ausbeutung echter Personen" zu profitieren.</li>
<li>Grok löste Anfang dieses Jahres massive Empörung aus, nachdem es zur Generierung sexualisierter Bilder verwendet wurde.</li>
</ul>
<p>Eine neue Klage gegen <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">Elon Musk's xAI</a> behauptet, dass sein Flaggschiff-Chatbot, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>, verwendet wurde, um sexualisierte Deepfake-Bilder von drei Minderjährigen zu erstellen – Inhalte, die laut der Klage als Kinderpornografie gelten.</p>
<p>Die als Sammelklage eingereichte Klage wurde am Montag vor einem Bundesgericht in Kalifornien eingereicht und wirft das KI-Startup vor, von der "sexuellen Ausbeutung echter Personen, einschließlich Kindern" zu profitieren.</p>
<p>"Nahezu alle Unternehmen, die KI erstellen, vermarkten und verkaufen, erkannten die Gefahren eines solchen Werkzeugs und beschlossen, branchenübliche Schutzmaßnahmen zu ergreifen, die die Verwendung ihrer Produkte durch eine äußerst gefährliche Gruppe verhindern würden: Kindersex-Prädatoren. XAI hat dies nicht getan", heißt es in der Klage.</p>
<p>Vertreter von Musk und xAI haben zunächst nicht auf eine Anfrage nach einem Kommentar von Business Insider reagiert.</p>
<p>Musk sagte zuvor in einem Beitrag auf X im Januar, dass er "keine nackten Minderjährigenbilder kennt, die von Grok generiert wurden. Null."</p>
<p>Grok generiert Bilder basierend auf Benutzereingaben, schrieb er.</p>
<p>"Wenn es aufgefordert wird, Bilder zu generieren, wird es sich weigern, etwas Illegales zu produzieren, da das Betriebsprinzip von Grok darin besteht, den Gesetzen eines bestimmten Landes oder Staates zu gehorchen", sagte Musk. "Es kann vorkommen, dass ein adversarielles Hacken von Grok-Eingabeaufforderungen etwas Unerwartetes bewirkt. Wenn dies geschieht, beheben wir den Fehler sofort."</p>
<p>Die Klage gegen xAI besagt, dass die Kläger aus Tennessee "drei der minderjährigen Opfer der Kenntnisproduktion, des Besitzes und der Verbreitung von KI-generierter Kinderpornografie durch xAI" sind, die sie darstellen.</p>
<p>Die Kläger, die in den Gerichtsunterlagen nur als Jane Doe 1, Jane Doe 2 und Jane Doe 3 bezeichnet werden, behaupten, dass die KI-Tools von xAI verwendet wurden, um nackte Bilder und Videos von ihnen zu erstellen. Jane Doe 1 war zum Zeitpunkt der mutmaßlichen Vorfälle volljährig, während die beiden anderen Kläger noch Minderjährige sind, heißt es in der Klage.</p>
<p>Im Dezember 2025 erhielt Jane Doe 1 eine Nachricht von einem anonymen Instagram-Konto, in der sie gewarnt wurde, dass "Bilder" von ihr von jemandem erstellt wurden, den sie kannte, und über die Gruppen-Chat-Plattform Discord verbreitet wurden.</p>
<p>"Durch eine Reihe von Nachrichten erklärte der anonyme Benutzer, dass der Täter eine Ordner mit Bild- und Videodateien, die sie und andere minderjährige Mädchen zeigten, auf Discord hochgeladen hatte", heißt es in der Klage.</p>
<p>Der anonyme Benutzer schickte Jane Doe 1 schließlich mehrere sexualisierte, KI-generierte Bilder und Videos von ihr und anderen Mädchen, heißt es in der Klage.</p>
<p>"Mindestens fünf dieser Dateien, ein Video und vier Bilder, zeigten ihr tatsächliches Gesicht und ihren Körper in Umgebungen, mit denen sie vertraut war, aber in sexuell explizite Posen umgewandelt wurden", heißt es in der Klage. "Die Bilder zeigten ihren gesamten Körper, einschließlich ihrer Genitalien, ohne Kleidung. Das Video zeigte sie, wie sie sich auszieht, bis sie völlig nackt war."</p>
<p>Jane Doe 1 informierte die anderen Minderjährigen in den Bildern und ihre Familien, und in Tennessee wurde eine Strafuntersuchung eingeleitet, heißt es in der Klage. Es wurde hinzugefügt, dass die örtliche Polizei im Dezember 2025 einen Verdächtigen im Zusammenhang mit dem Fall festnahm.</p>
<p>Letzten Monat erfuhr Jane Doe 2 durch die Ermittlungen, dass mindestens zwei ihrer Bilder ebenfalls verwendet wurden, um sexualisierte KI-generierte Inhalte zu erstellen, heißt es in der Klage.</p>
<p>Die Strafverfolgungsbehörden teilten dem Mädchen und ihrer Mutter mit, dass ein Bild von dem Mädchen am Strand in einem blauen Bikini "umgewandelt wurde, um sie ohne Kleidung darzustellen", heißt es in der Klage.</p>
<p>Die Behörden teilten Jane Doe 3 auch mit, dass die KI-generierten Bilder, die vom Telefon des Verdächtigen geborgen wurden, eines enthielten, das "umgewandelt wurde, um sie vollständig nackt darzustellen", heißt es in der Klage.</p>
<p>Vanessa Baehr-Jones, eine Anwältin der Kläger, sagte Business Insider, dass ihre Mandanten einen "Albtraum" erlebt hätten.</p>
<p>"Ihre CSAM-Bilder und -Videos, die sie zeigten, als sie Minderjährige waren, sind jetzt für immer im Internet in diesen dunklen Welten von Kindersex-Prädatoren vorhanden", sagte Baehr-Jones. "Der Schaden davon ist akut."</p>
<p>Die Anwältin sagte, sie hoffe, dass die Klage xAI zur Rechenschaft zieht und dass "am wichtigsten ist, dass dies keinem anderen Opfer jemals widerfährt."</p>
<p>Die Klage fordert nicht näher bezeichnete Schadensersatzansprüche und wirft xAI die Produktion mit der Absicht vor, Kinderpornografie zu verbreiten, die Verbreitung von Kinderpornografie und den Besitz von Kinderpornografie, unter anderem.</p>
<p>"In unserem Rechtssystem ist Geld der Weg, wie wir es Unternehmen zumuten, für die Schäden aufzukommen, die sie verursacht haben", sagte Annika Martin, eine weitere Anwältin der Kläger. "Da es sich bei Unternehmen um gewinnorientierte Unternehmen handelt, ist es der einzige Weg, ihre Entscheidungsfindung zu beeinflussen, sie in die Tasche zu greifen."</p>
<p>Früher in diesem Jahr löste <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">xAI's Grok massive Empörung</a> aus, nachdem der KI-Bildgenerator verwendet wurde, um nicht einvernehmliche, sexualisierte Bilder von echten Personen zu erstellen.</p>
<p>Als Reaktion darauf sagte X, die Social-Media-Seite, die Musk im März an xAI verkaufte, dass Grok <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">nicht mehr in der Lage sein wird, KI-Bilder</a> von echten Personen in sexualisierter oder enthüllender Kleidung zu generieren.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, die im Jahr 2024 eines von Elon Musks Söhnen gebar, reichte im Januar eine Klage gegen xAI ein und behauptete, Grok habe auf Anfrage der Benutzer sexualisierte Deepfakes von ihr generiert.</p>
<p>Auch die französischen Behörden untersuchen Grok wegen sexualisierter Deepfakes.</p>