Adolescentes processam a xAI de Musk por imagens pornográficas deles do Grok

<h1>Adolescentes processam xAI de Musk por imagens pornográficas delas</h1>
<p>A empresa de inteligência artificial de Elon Musk está enfrentando um processo de adolescentes que dizem que a empresa facilitou a pornografia infantil, permitindo a criação de imagens sexualmente explícitas delas.</p>
<p>O processo contra a xAI foi protocolado na segunda-feira em um tribunal federal da Califórnia por três jovens mulheres cujas imagens e vídeos foram alterados por um usuário do Grok sem o conhecimento delas para mostrá-las nua ou de outras formas sexualmente explícitas.</p>
<p>Grok é um chatbot desenvolvido pela xAI e hospedado na plataforma de mídia social X de Musk. A xAI não respondeu a um pedido de comentários feito por meio de sua empresa controladora.</p>
<p>A ação legal faz parte das consequências da controversa divulgação do ano passado de novos recursos do Grok que a X chamou de "modo apimentado".</p>
<p>Os advogados das jovens mulheres disseram que a capacidade do Grok de alterar imagens e vídeos havia sido criada e lançada pela xAI unicamente para impulsionar o uso do chatbot e da X.</p>
<p>Eles compararam a forma como as imagens das jovens mulheres foram alteradas a "um boneco de pano trazido à vida pelas artes sombrias".</p>
<p>“A xAI—e seu fundador, Elon Musk— viram uma oportunidade de negócios”, diz a denúncia. “Eles sabiam que o Grok poderia produzir tais resultados, incluindo usando as imagens e vídeos de crianças, e o lançaram publicamente de qualquer maneira.”</p>
<p>As jovens mulheres estão buscando indenizações não especificadas, bem como uma ordem imediata proibindo o Grok de criar tais imagens.</p>
<p>“Suas vidas foram destruídas pela devastadora perda de privacidade, dignidade e segurança pessoal”, disseram os advogados das jovens mulheres em sua denúncia.</p>
<p>Duas das adolescentes por trás do processo têm menos de 18 anos, mas as três estão retendo seus nomes do público para proteger sua privacidade.</p>
<p>Uma das jovens autoras disse que descobriu as imagens depois de receber uma mensagem anônima no Instagram apontando para imagens e vídeos, incluindo sua foto do anuário do ensino médio, que havia sido alterada para mostrá-la em ações sexualmente explícitas e nua.</p>
<p>O material estava sendo compartilhado em um servidor Discord, um espaço de bate-papo privado naquela plataforma, e incluía imagens semelhantes que também haviam sido alteradas usando Grok de pelo menos 18 outras mulheres que eram menores de idade, de acordo com a denúncia.</p>
<p>As outras duas mulheres que estão processando a xAI também descobriram imagens sexualmente explícitas falsas delas online, que foram criadas via Grok.</p>
<p>O Grok foi lançado em 2023 pela xAI de Musk. A empresa, junto com a X, agora faz parte da empresa SpaceX de Musk, que <a href="https://www.bbc.com/news/articles/cq6vnrye06po">assumiu a xAI no mês passado</a>.</p>
<p>No ano passado, a xAI lançou o que chamou de Grok Imagine ou "modo apimentado", com recursos que permitiam aos usuários do Grok solicitar a criação de imagens falsas que eram mais sexualmente explícitas.</p>
<p>O modo até mesmo realizou o "despir" de pessoas reais usando suas imagens online, de <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> a mais <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">usuários comuns</a>.</p>
<p>Em menos de duas semanas, o Grok havia criado milhões de imagens sexualizadas, incluindo mais de 20.000 de crianças, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">de acordo com uma amostra</a> das imagens conduzida pelo Center for Countering Digital Hate.</p>
<p>Musk inicialmente minimizou a capacidade do Grok de criar conteúdo sexualizado falso, dizendo em janeiro que "não tinha conhecimento de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero", e culpando os usuários do recurso.</p>
<p>“Obviamente, o Grok não gera espontaneamente imagens, ele o faz apenas de acordo com os pedidos dos usuários”, escreveu Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">no X</a>.</p>
<p>À medida que tal abuso online continuou este ano, no entanto, o órgão de supervisão do Reino Unido <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, a <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Comissão Europeia</a> e <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Califórnia</a> cada um lançaram investigações sobre a capacidade do recurso de criar imagens sexualizadas de pessoas reais, particularmente crianças.</p>
<p>No meio de janeiro, <a href="https://www.bbc.com/news/articles/c98p4214577o">a X disse</a> que implementaria "medidas tecnológicas" para interromper a capacidade do Grok de despir pessoas em fotos.</p>
<p>Eventualmente, o autor por trás do servidor Discord mencionado no novo processo foi preso. Ele não foi nomeado no processo, mas faz parte de uma investigação policial separada.</p>
<p>Essa investigação descobriu que ele tinha centenas de imagens de abuso sexual geradas e alteradas por IA de menores, que estavam sendo comercializadas na plataforma de mensagens Telegram e na plataforma de compartilhamento de arquivos Mega, de acordo com o processo.</p>