Demanda contra xAI de Elon Musk alega que Grok creó deepfakes sexualizados de 3 menores

<ul>
<li>Una demanda contra xAI de Elon Musk alega que el chatbot Grok generó imágenes sexualizadas de tres menores.</li>
<li>La demanda acusa a xAI de lucrar con la "predación sexual de personas reales".</li>
<li>Grok generó una gran indignación a principios de este año después de que se utilizara para generar imágenes sexualizadas.</li>
</ul>
<p>Una nueva demanda contra <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI de Elon Musk</a> alega que su chatbot estrella, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>, fue utilizado para crear imágenes deepfake sexualizadas de tres menores, contenido que, según la demanda, equivale a material de abuso sexual infantil.</li>
<p>La demanda colectiva propuesta, presentada el lunes en un tribunal federal de California, acusa a la startup de IA de lucrar con la "predación sexual de personas reales, incluidos niños".</p>
<p>“Casi todas las empresas que crean, comercializan y venden IA reconocieron los peligros de una herramienta como esta y eligieron promulgar medidas de protección estándar de la industria que evitarían el uso de sus productos por parte de un grupo extremadamente peligroso: depredadores sexuales de niños. XAI no lo hizo”, dice la demanda.</p>
<p>Los representantes de Musk y xAI no respondieron de inmediato a una solicitud de comentarios por parte de Business Insider.</p>
<p>Musk dijo previamente en una publicación de enero en X que no estaba "al tanto de ninguna imagen de menores desnudos generados por Grok. Literalmente cero".</p>
<p>Grok genera imágenes basadas en indicaciones del usuario, escribió.</p>
<p>“Cuando se le pide que genere imágenes, se negará a producir cualquier cosa ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado determinado”, dijo Musk. “Puede haber momentos en que la piratería informática adversaria de Grok prompts haga algo inesperado. Si eso sucede, corregiremos el error de inmediato”.</p>
<p>La demanda contra xAI dice que los demandantes de Tennessee son “tres de las víctimas menores de la producción, posesión y distribución de material de abuso sexual infantil generado por IA por parte de xAI” que los representa.</p>
<p>Los demandantes, identificados en los documentos judiciales solo como Jane Doe 1, Jane Doe 2 y Jane Doe 3, alegan que las herramientas de IA de xAI se utilizaron para crear imágenes y videos desnudos de ellos. Jane Doe 1, una adulta reciente, era menor de edad en el momento de los incidentes presuntos, mientras que las otras dos demandantes aún son menores, según la demanda.</p>
<p>En diciembre de 2025, Jane Doe 1 recibió un mensaje de una cuenta anónima de Instagram advirtiéndole que “fotos” suyas habían sido generadas por alguien que ella conocía y difundidas en la plataforma de chat grupal Discord.</p>
<p>“A través de una serie de mensajes, el usuario anónimo explicó que el perpetrador había subido una carpeta de archivos de imágenes y videos que la representaban a ella y a otras menores a Discord”, dice la demanda.</p>
<p>El usuario anónimo finalmente envió a Jane Doe 1 varias imágenes y videos de IA generados sexualmente de ella y otras chicas menores, según la demanda.</p>
<p>“Al menos cinco de estos archivos, un video y cuatro imágenes, representaban su rostro y cuerpo reales en entornos con los que estaba familiarizada, pero transformados en poses sexualmente explícitas”, dice la demanda. “Las imágenes mostraban todo su cuerpo, incluidos sus genitales, sin ropa. El video la mostraba desvistiéndose hasta quedar completamente desnuda”.</p>
<p>Jane Doe 1 alertó a las otras menores en las imágenes y a sus familias, y se abrió una investigación penal en Tennessee, según la demanda. Agregó que la policía local arrestó a un sospechoso en relación con el caso en diciembre de 2025.</p>
<p>El mes pasado, Jane Doe 2 se enteró a través de la investigación de que al menos dos de sus imágenes también habían sido utilizadas para producir contenido de IA generado sexualmente utilizando las herramientas de xAI, según la demanda.</p>
<p>Las autoridades locales le dijeron a la niña y a su madre que una imagen tomada de la niña en la playa con un bikini azul había sido “transformada para representarla sin ropa”, según la demanda.</p>
<p>Las autoridades también informaron a Jane Doe 3 que las imágenes de IA generadas recuperadas del teléfono del sospechoso incluían una que había sido “transformada para representarla completamente desnuda”, según la demanda.</p>
<p>Vanessa Baehr-Jones, una abogada de los demandantes, le dijo a Business Insider que sus clientes han soportado una “pesadilla”.</p>
<p>“Sus imágenes y videos de CSAM que las representan cuando eran menores ahora están para siempre en Internet en estos mundos oscuros de depredadores sexuales de niños”, dijo Baehr-Jones. “El daño de eso es agudo”.</p>
<p>La abogada dijo que espera que la demanda traiga “responsabilidad” a xAI y que “lo más importante es que esto nunca le suceda a ninguna otra víctima”.</p>
<p>La demanda busca daños no especificados y acusa a xAI de producción con la intención de distribuir pornografía infantil, distribución de pornografía infantil y posesión de pornografía infantil, entre otras acusaciones.</p>
<p>“En nuestro sistema legal, el dinero es la forma en que hacemos que las corporaciones paguen por los daños que han causado”, dijo Annika Martin, otra abogada de los demandantes. “Dado que las corporaciones son entidades que buscan obtener ganancias, golpearlas en el bolsillo es la única forma de influir en su toma de decisiones”.</p>
<p>A principios de este año, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">Grok de xAI generó una gran indignación</a> después de que el generador de imágenes de IA se utilizara para crear imágenes sexualizadas no consensuadas de personas reales.</p>
<p>En respuesta, X, el sitio de redes sociales que Musk le vendió a xAI en marzo, dijo que <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">Grok ya no podrá generar imágenes de IA</a> de personas reales con ropa sexualizada o reveladora.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, que dio a luz a uno de los hijos de Elon Musk en 2024, demandó a xAI en enero, alegando que Grok generó deepfakes sexualmente explícitos de ella a petición de los usuarios.</p>
<p>Las autoridades francesas también están investigando a Grok por deepfakes sexualizados.</p>