Processo contra Elon Musk's xAI alega que Grok criou deepfakes sexualizados de 3 menores

<ul>
<li>Um processo contra xAI de Elon Musk alega que o chatbot Grok criou imagens sexualizadas de três menores.</li>
<li>A denúncia acusa a xAI de lucrar com a "predação sexual de pessoas reais."</li>
<li>Grok gerou uma enorme reação negativa no início deste ano depois de ser usado para gerar imagens sexualizadas.</li>
</ul>
<p>Um novo processo contra <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI de Elon Musk</a> alega que seu chatbot principal, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>, foi usado para criar imagens de deepfake sexualizadas de três menores — conteúdo que a denúncia diz que equivale a material de abuso sexual infantil.</p>
<p>A ação classificada, apresentada segunda-feira em um tribunal federal da Califórnia, acusa a startup de IA de lucrar com a "predação sexual de pessoas reais, incluindo crianças."</p>
<p>"Quase todas as empresas que criam, comercializam e vendem IA reconheceram os perigos de uma ferramenta como essa e escolheram implementar salvaguardas padrão do setor que impediriam o uso de seus produtos por um grupo extremamente perigoso: predadores sexuais de crianças. A XAI não fez isso", diz a denúncia.</p>
<p>Representantes de Musk e xAI não responderam imediatamente a um pedido de comentários da Business Insider.</p>
<p>Musk disse anteriormente em uma postagem de janeiro no X que não estava "ciente de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero."</p>
<p>O Grok gera imagens com base em prompts do usuário, escreveu ele.</p>
<p>"Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, pois o princípio operacional do Grok é obedecer às leis de qualquer país ou estado", disse Musk. "Pode haver momentos em que a invasão adversária do Grok em prompts faça algo inesperado. Se isso acontecer, corrigiremos o bug imediatamente."</p>
<p>A denúncia contra a xAI diz que os réus do Tennessee são "três das vítimas menores da produção, posse e distribuição conhecidas da xAI de material de abuso sexual infantil gerado por IA" que os retrata.</p>
<p>Os réus, identificados nos documentos do tribunal apenas como Jane Doe 1, Jane Doe 2 e Jane Doe 3, alegam que as ferramentas de IA da xAI foram usadas para fazer imagens e vídeos nus deles. Jane Doe 1 era menor na época dos incidentes alegados, enquanto as outras duas autoras ainda são menores, de acordo com a denúncia.</p>
<p>Em dezembro de 2025, Jane Doe 1 recebeu uma mensagem de uma conta anônima do Instagram alertando-a de que "fotos" dela haviam sido geradas por alguém que ela conhecia e espalhadas pela plataforma de bate-papo em grupo Discord.</p>
<p>"Por meio de uma série de mensagens, o usuário anônimo explicou que o perpetrador havia carregado uma pasta de arquivos de imagem e vídeo retratando-a e outras menores no Discord", diz a denúncia.</p>
<p>O usuário anônimo acabou enviando para Jane Doe 1 várias imagens e vídeos gerados por IA sexualizados dela e de outras meninas menores, de acordo com a denúncia.</p>
<p>"Pelo menos cinco desses arquivos, um vídeo e quatro imagens, retratavam seu rosto e corpo reais em cenários com os quais ela estava familiarizada, mas transformados em poses sexualmente explícitas", diz a denúncia. "As imagens mostravam todo o seu corpo, incluindo seus genitais, sem roupas. O vídeo a retratava se desvestindo até ficar totalmente nua."</p>
<p>Jane Doe 1 alertou as outras menores nas imagens e suas famílias, e uma investigação criminal foi aberta em Tennessee, de acordo com a denúncia. Ela acrescentou que a polícia local prendeu um suspeito em conexão com o caso em dezembro de 2025.</p>
<p>No mês passado, Jane Doe 2 soube pela investigação que pelo menos duas de suas imagens também haviam sido usadas para produzir conteúdo gerado por IA sexualmente explícito usando as ferramentas da xAI, diz a denúncia.</p>
<p>As autoridades locais disseram à garota e sua mãe que uma imagem dela tirada na praia usando um biquíni azul havia sido "transformada para retratá-la sem roupas", diz a denúncia.</p>
<p>As autoridades também informaram a Jane Doe 3 que as imagens geradas por IA recuperadas do telefone do suspeito incluíam uma que havia sido "transformada para retratá-la totalmente nua", de acordo com a denúncia.</p>
<p>Vanessa Baehr-Jones, advogada das autoras, disse à Business Insider que seus clientes sofreram um "pesadelo."</p>
<p>"Suas imagens e vídeos de CSAM retratando-as quando eram menores agora estão para sempre na internet em mundos obscuros de predadores sexuais de crianças", disse Baehr-Jones. "O dano disso é agudo."</p>
<p>A advogada disse que espera que o processo traga "responsabilidade" para a xAI e que "o mais importante, isso nunca mais aconteça com nenhuma outra vítima."</p>
<p>A denúncia busca danos não especificados e acusa a xAI de produção com a intenção de distribuir pornografia infantil, distribuição de pornografia infantil e posse de pornografia infantil, entre outras acusações.</p>
<p>"Em nosso sistema legal, dinheiro é a maneira como fazemos com que as empresas paguem pelos danos que causaram", disse Annika Martin, outra advogada das autoras. "Como as empresas são entidades que buscam lucro, atingi-las no bolso é a única maneira de influenciar sua tomada de decisão."</p>
<p>No início deste ano, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">o Grok da xAI gerou uma enorme reação negativa</a> depois que o gerador de imagens de IA foi usado para fazer imagens sexualizadas não consensuais de pessoas reais.</p>
<p>Em resposta, o X, o site de mídia social que Musk vendeu para a xAI em março, disse que o Grok <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">não seria mais capaz de gerar imagens de IA</a> de pessoas reais em roupas sexualizadas ou reveladoras.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, que deu à luz um dos filhos de Elon Musk em 2024, processou a xAI em janeiro, alegando que o Grok gerou deepfakes sexualmente explícitos dela mediante solicitação de usuários.</p>
<p>As autoridades francesas também estão investigando o Grok por deepfakes sexualizados.</p>