Des adolescentes poursuivent Musk's xAI au sujet d'images pornographiques de Grok

<h1>Des adolescentes poursuivent Musk's xAI au sujet d'images pornographiques de Grok</h1>
<p>La société d'intelligence artificielle d'Elon Musk est confrontée à une poursuite intentée par des adolescentes qui affirment que l'entreprise a facilité la pornographie infantile en autorisant la création d'images sexuellement explicites d'elles.</p>
<p>La poursuite contre xAI a été déposée lundi devant un tribunal fédéral californien par trois jeunes femmes dont les images et les vidéos ont été modifiées par un utilisateur de Grok pour les montrer nues ou de manière autrement ouvertement sexuelle.</p>
<p>Grok est un chatbot développé par xAI et hébergé sur la plateforme de médias sociaux de Musk, X. xAI n'a pas répondu à une demande de commentaires faite par le biais de sa société mère.</p>
<p>L'action en justice fait partie des retombées de la sortie controversée de l'année dernière de nouvelles fonctionnalités de Grok que X a qualifiées de "mode épicée".</p>
<p>Les avocats des jeunes femmes ont déclaré que la capacité de Grok à modifier des images et des vidéos avait été créée et publiée par xAI uniquement pour stimuler l'utilisation du chatbot et de X.</p>
<p>Ils ont comparé la manière dont les images des jeunes femmes ont été modifiées à "un marionnette donnée vie par les arts sombres".</p>
<p>« xAI—et son fondateur, Elon Musk— ont vu une opportunité commerciale », indique la plainte. « Ils savaient que Grok pouvait produire de tels résultats, y compris en utilisant les images et les vidéos d'enfants, et l'ont publiquement publié de toute façon. »</p>
<p>Les jeunes femmes demandent des dommages-intérêts non précisés, ainsi qu'une ordonnance immédiate interdisant à Grok de créer de telles images.</p>
<p>« Leurs vies ont été brisées par la perte dévastatrice de la vie privée, de la dignité et de la sécurité personnelle », ont déclaré les avocats des jeunes femmes dans leur plainte.</p>
<p>Deux des adolescentes derrière la poursuite sont mineures, mais les trois s'abstiennent de divulguer leurs noms au public afin de protéger leur vie privée.</p>
<p>L'une des jeunes plaignantes a déclaré qu'elle avait découvert les images après avoir reçu un message anonyme sur Instagram l'orientant vers des images et des vidéos, y compris sa photo de l'annuaire de son lycée, qui avait été modifiée pour la montrer en train de faire des actions sexuellement explicites et en pleine nudité.</p>
<p>Le matériel était partagé sur un serveur Discord, un espace de discussion privé sur cette plateforme, et comprenait des images similaires qui avaient également été modifiées à l'aide de Grok d'au moins 18 autres femmes qui étaient mineures, selon la plainte.</p>
<p>Les deux autres femmes qui poursuivent xAI ont également découvert de fausses images sexuellement explicites d'elles en ligne, qui ont été créées via Grok.</p>
<p>Grok a été lancé en 2023 par xAI de Musk. La société, ainsi que X, fait désormais partie de la société SpaceX de Musk, qui <a href="https://www.bbc.com/news/articles/cq6vnrye06po">a repris xAI le mois dernier</a>.</p>
<p>L'année dernière, xAI a publié ce qu'elle a appelé Grok Imagine ou "mode épicée", avec des fonctionnalités qui permettaient aux utilisateurs de Grok de lui demander de créer de fausses images de nature plus sexuelle.</p>
<p>Le mode effectuait même le "dépouillement" de personnes réelles en utilisant leurs images en ligne, de <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> à des <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">utilisateurs plus ordinaires</a>.</p>
<p>En moins de deux semaines, Grok avait créé des millions d'images sexualisées, y compris plus de 20 000 d'enfants, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">selon un échantillon</a> des images mené par le Center for Countering Digital Hate.</p>
<p>Musk a initialement minimisé la capacité de Grok à créer du contenu sexuellement explicite faux, affirmant en janvier qu'il "n'était pas au courant de la génération d'images nues d'enfants par Grok. Zéro littéralement", et imputant la faute aux utilisateurs de la fonctionnalité.</p>
<p>« Évidemment, Grok ne génère pas spontanément des images, il le fait uniquement selon les demandes des utilisateurs », a écrit Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">sur X</a>.</p>
<p>Cependant, à mesure que les abus en ligne continuaient cette année, le watchdog britannique <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, la <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Commission européenne</a> et la <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Californie</a> ont chacune lancé des enquêtes sur la capacité de la fonctionnalité à créer des images sexualisées de personnes réelles, en particulier des enfants.</p>
<p>D'ici mi-janvier, <a href="https://www.bbc.com/news/articles/c98p4214577o">X a déclaré</a> qu'elle mettrait en œuvre des "mesures technologiques" pour empêcher Grok de dépouiller les gens sur les photos.</p>
<p>Finalement, le responsable du serveur Discord mentionné dans la nouvelle poursuite a été arrêté. Il n'a pas été nommé dans la poursuite mais fait l'objet d'une enquête policière distincte.</p>
<p>Cette enquête a révélé qu'il avait des centaines d'images d'abus sexuels générées et modifiées par l'IA, qui étaient échangées sur la plateforme de messagerie Telegram et sur la plateforme de partage de fichiers Mega, selon la poursuite.</p>