Baltimore é a primeira cidade dos EUA a processar por pornografia deepfake do Grok, à medida que a pressão legal aumenta sobre a xAI de Musk

Processos contra a xAI de Elon Musk estão se acumulando, com Baltimore se tornando a primeira grande cidade dos EUA a apresentar uma reclamação contra a empresa em relação a problemas com seu gerador de imagens Grok.
O prefeito de Baltimore, Brandon Scott, disse em um comunicado por e-mail à CNBC que os deepfakes no Grok "têm consequências traumáticas e para toda a vida para as vítimas".
"Estamos falando de empresas de tecnologia permitindo a exploração sexual de crianças", escreveu Scott. "Nossa cidade não ficará parada e permitirá que isso continue; é uma ameaça à privacidade, dignidade e segurança pública, e os responsáveis devem ser responsabilizados."
Agora parte da SpaceX após uma fusão no mês passado, a xAI enfrenta investigações regulatórias em vários países depois que o Grok permitiu a criação em massa de pornografia deepfake baseada em imagens de mulheres e crianças não consentidas. Na semana passada, advogados representando três adolescentes no Tennessee entraram com uma ação coletiva proposta contra a xAI depois que o Grok gerou conteúdo retratando-as em cenários sexualizados e degradantes.
Na ação mais recente, registrada em um tribunal distrital em 24 de março, o prefeito e o conselho municipal de Baltimore acusaram a xAI de violar as leis de proteção ao consumidor da cidade e de se envolver em práticas comerciais enganosas e injustas, nomeadamente ao comercializar o Grok e o X, anteriormente conhecido como Twitter, como geralmente seguros para os usuários.
A reclamação refere-se a uma tendência de "coloque-a de biquíni" que incentivou os usuários do Grok a tirar fotos de outras pessoas e a torná-las nuas. Musk, que controla a SpaceX e também é CEO da Tesla, participou da tendência, compartilhando uma imagem criada com o Grok retratando-o em um biquíni minúsculo.
"A postagem de Musk funcionou como um endosso público da capacidade do Grok de gerar edições sexualizadas ou reveladoras de pessoas reais, e sinalizou aos usuários que esses usos do Grok eram aceitáveis, engraçados e encorajados", escreveram advogados na reclamação de Baltimore. "Vindo do proprietário e principal rosto público da x.AI e do X, a postagem de Musk funcionou como marketing e promoção para a própria capacidade de edição de imagem que estava sendo usada para gerar imagens sexuais não consensuais."
A cidade está buscando "o valor máximo de penalidades estatutárias disponíveis", mas não listou um valor específico em sua reclamação. Ela também está solicitando "medidas cautelares" para forçar a empresa de Musk a fazer alterações no X e no Grok para conter a criação do que os pesquisadores chamam de imagens íntimas não consensuais (NCII) e material de abuso sexual infantil (CSAM).
Baltimore quer que o tribunal ordene ao X e à xAI que "cessem o direcionamento e a exploração dos residentes de Baltimore", "reformem seu design de plataforma exploratório" e revisem seu marketing.
Executivos da SpaceX e da xAI não responderam imediatamente a um pedido de comentário.
Em um relatório publicado na terça-feira, a Internet Watch Foundation, uma instituição de caridade sediada no Reino Unido, disse que as meninas continuam sendo esmagadoramente alvo de CSAM, e foram os alvos de 97% das imagens sexualizadas ilegais geradas por IA avaliadas pela organização em 2025.
ASSISTA: Acordo da SpaceX para adquirir xAI