Teenager verklagen Musks xAI wegen pornografischer Bilder von ihnen, die von Grok erstellt wurden.

<h1>Jugendliche verklagen Musks xAI wegen pornografischer Bilder von ihnen</h1>
<p>Das künstliche Intelligenz-Unternehmen von Elon Musk sieht sich von Jugendlichen vor Gericht gestellt, die behaupten, das Unternehmen habe Kinderpornografie ermöglicht, indem es die Erstellung von sexuell expliziten Bildern von ihnen zuließ.</p>
<p>Die Klage gegen xAI wurde am Montag vor einem Bundesgericht in Kalifornien von drei jungen Frauen eingereicht, deren Bilder und Videos von einem Grok-Nutzer ohne ihr Wissen verändert wurden, um sie nackt oder auf andere Weise eindeutig sexuell darzustellen.</p>
<p>Grok ist ein Chatbot, der von xAI entwickelt und auf Musks Social-Media-Plattform X gehostet wird. xAI hat nicht auf eine Anfrage nach einem Kommentar reagiert, die über sein Mutterunternehmen gestellt wurde.</p>
<p>Das Rechtsverfahren ist Teil der Folgen der umstrittenen Veröffentlichung neuer Grok-Funktionen im vergangenen Jahr, die X als "spicy" Mode bezeichnete.</p>
<p>Die Anwälte der jungen Frauen sagten, Groks Fähigkeit, Bilder und Videos zu verändern, sei von xAI erstellt und freigegeben worden, um die Nutzung des Chatbots und von X voranzutreiben.</p>
<p>Sie verglich die Art und Weise, wie die Bilder der jungen Frauen verändert wurden, mit "einer Puppe, die durch die dunklen Künste zum Leben erweckt wurde".</p>
<p>„xAI—und sein Gründer Elon Musk— sahen eine Geschäftsmöglichkeit“, heißt es in der Klage. „Sie wussten, dass Grok solche Ergebnisse produzieren kann, auch unter Verwendung der Bilder und Videos von Kindern, und veröffentlichten es trotzdem.“</p>
<p>Die jungen Frauen fordern unbestimmten Schadenersatz sowie eine sofortige Anordnung, die Grok daran hindert, solche Bilder zu erstellen.</p>
<p>„Ihr Leben wurde durch den verheerenden Verlust von Privatsphäre, Würde und persönlicher Sicherheit zerstört“, sagten die Anwälte der jungen Frauen in ihrer Klage.</p>
<p>Zwei der Jugendlichen, die die Klage eingereicht haben, sind unter 18 Jahre alt, aber alle drei geben ihre Namen zum Schutz ihrer Privatsphäre nicht öffentlich bekannt.</p>
<p>Eine der jungen Klägerinnen erfuhr von den Bildern, nachdem sie eine anonyme Nachricht auf Instagram erhalten hatte, die sie auf Bilder und Videos, einschließlich ihres Highschool-Jahrbuchfotos, verwies, das verändert worden war, um sie in sexuell expliziten Handlungen und voller Nacktheit darzustellen.</p>
<p>Das Material wurde auf einem Discord-Server, einem privaten Chatraum auf dieser Plattform, geteilt und enthielt ähnliche Bilder, die ebenfalls mit Grok von mindestens 18 anderen Frauen verändert worden waren, die Minderjährige waren, so die Klage.</p>
<p>Die anderen beiden Frauen, die xAI verklagen, fanden ebenfalls gefälschte, sexuell explizite Bilder von sich online, die durch Grok erstellt worden waren.</p>
<p>Grok wurde 2023 von Musks xAI auf den Markt gebracht. Das Unternehmen gehört zusammen mit X nun zu Musks SpaceX-Unternehmen, <a href="https://www.bbc.com/news/articles/cq6vnrye06po">das xAI letzten Monat übernahm</a>.</p>
<p>Im vergangenen Jahr veröffentlichte xAI, was es als Grok Imagine oder "spicy mode" bezeichnete, mit Funktionen, die es Grok-Nutzern ermöglichten, es zu bitten, gefälschte Bilder zu erstellen, die sexueller Natur waren.</p>
<p>Der Modus führte sogar das "ausziehen" von echten Personen mithilfe ihrer Bilder online durch, von <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> bis hin zu mehr <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">durchschnittlichen Nutzern</a>.</p>
<p>In weniger als zwei Wochen hatte Grok Millionen von sexualisierten Bildern erstellt, darunter mehr als 20.000 von Kindern, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">laut einer Stichprobe</a> der Bilder, die vom Center for Countering Digital Hate durchgeführt wurde.</p>
<p>Musk bagatelte zunächst Groks Fähigkeit, gefälschte, sexualisierte Inhalte zu erstellen, und sagte im Januar, er sei "nicht über das Wissen von nackten, minderjährigen Bildern informiert, die von Grok generiert wurden. Null.“, und schob die Schuld den Nutzern der Funktion zu.</p>
<p>„Offensichtlich generiert Grok keine Bilder spontan, sondern nur auf Anfrage der Nutzer“, <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">schrieb Musk auf X</a>.</p>
<p>Da solche Online-Missbräuche jedoch auch dieses Jahr anhielten, starteten die britische Aufsichtsbehörde <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, die <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Europäische Kommission</a> und <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Kalifornien</a> jeweils Untersuchungen zu der Fähigkeit der Funktion, sexualisierte Bilder von realen Personen, insbesondere Kindern, zu erstellen.</p>
<p>Bis Mitte Januar sagte <a href="https://www.bbc.com/news/articles/c98p4214577o">X</a>, dass es "technologische Maßnahmen" ergreifen werde, um Groks Fähigkeit zu stoppen, Personen auf Fotos auszuziehen.</p>
<p>Schließlich wurde der Verantwortliche für den in der neuen Klage erwähnten Discord-Server festgenommen. Er wurde in der Klage nicht namentlich genannt, gehört aber zu einer separaten Polizeiliche Untersuchung.</p>
<p>Diese Untersuchung ergab, dass er Hunderte von KI-generierten und veränderten Bildern sexuellen Missbrauchs von Minderjährigen besaß, die auf der Messaging-Plattform Telegram und auf der File-Sharing-Plattform Mega gehandelt wurden, so die Klage.</p>