Adolescentes demandan a xAI de Musk por imágenes pornográficas de ellos

<h1>Adolescentes demandan a xAI de Musk por imágenes pornográficas de ellos</h1>
<p>La compañía de inteligencia artificial de Elon Musk se enfrenta a una demanda de adolescentes que afirman que la compañía facilitó la pornografía infantil al permitir la creación de imágenes sexualmente explícitas de ellos.</p>
<p>La demanda contra xAI fue presentada el lunes en un tribunal federal de California por tres jóvenes mujeres cuyas imágenes y videos fueron alterados por un usuario de Grok para mostrarlas desnudas o de otras maneras explícitamente sexuales.</p>
<p>Grok es un chatbot desarrollado por xAI y alojado en la plataforma de redes sociales X de Musk. xAI no respondió a una solicitud de comentarios realizada a través de su empresa matriz.</p>
<p>La acción legal es parte de las consecuencias desde el lanzamiento controvertido del año pasado de nuevas funciones de Grok que X llamó "modo picante".</p>
<p>Los abogados de las jóvenes dijeron que la capacidad de Grok para alterar imágenes y videos había sido creada y lanzada por xAI únicamente para impulsar el uso del chatbot y X.</p>
<p>Lo compararon con la forma en que se cambiaron las imágenes de las jóvenes a "un muñeco de trapo cobrado a la vida a través de las artes oscuras".</p>
<p>“xAI—y su fundador, Elon Musk— vieron una oportunidad de negocio”, dice la demanda. “Sabían que Grok podía producir tales resultados, incluido mediante el uso de las imágenes y videos de niños, y lo publicaron de todos modos”.</p>
<p>Las jóvenes están solicitando daños no especificados, así como una orden inmediata que prohíba a Grok crear tales imágenes.</p>
<p>“Sus vidas han sido destrozadas por la devastadora pérdida de privacidad, dignidad y seguridad personal”, dijeron los abogados de las jóvenes en su demanda.</p>
<p>Dos de los adolescentes detrás de la demanda tienen menos de 18 años, pero los tres están absteniéndose de revelar sus nombres al público para proteger su privacidad.</p>
<p>Una de las jóvenes demandantes dijo que se enteró de las imágenes después de recibir un mensaje anónimo en Instagram que la dirigía a imágenes y videos, incluido su foto del anuario de la escuela secundaria, que había sido alterada para mostrarla en acciones sexualmente explícitas y desnuda por completo.</p>
<p>El material se estaba compartiendo en un servidor de Discord, un espacio de chat privado en esa plataforma, e incluía imágenes similares que también habían sido alteradas utilizando Grok de al menos 18 otras mujeres que eran menores de edad, según la demanda.</p>
<p>Las otras dos mujeres que están demandando a xAI también encontraron imágenes sexualmente explícitas falsas de ellas en línea, que se descubrió que habían sido creadas a través de Grok.</p>
<p>Grok fue lanzado en 2023 por xAI de Musk. La compañía, junto con X, ahora forma parte de la compañía SpaceX de Musk, que <a href="https://www.bbc.com/news/articles/cq6vnrye06po">se hizo cargo de xAI el mes pasado</a>.</p>
<p>El año pasado, xAI lanzó lo que llamó Grok Imagine o "modo picante", con funciones que permitían a los usuarios de Grok solicitarle que creara imágenes falsas que fueran más de naturaleza sexual.</p>
<p>El modo incluso llevó a cabo el "desvestido" de personas reales utilizando sus imágenes en línea, desde <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> hasta más <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">usuarios promedio</a>.</p>
<p>En menos de dos semanas, Grok había creado millones de imágenes sexualizadas, incluidas más de 20,000 de niños, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">según un muestreo</a> de las imágenes realizado por el Center for Countering Digital Hate.</p>
<p>Musk inicialmente restó importancia a la capacidad de Grok para crear contenido sexualizado falso, diciendo en enero que "no estaba al tanto de ninguna imagen de menores desnudos generados por Grok. Literalmente cero", y culpando a los usuarios de la función.</p>
<p>“Obviamente, Grok no genera imágenes espontáneamente, lo hace solo según las solicitudes de los usuarios”, escribió Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">en X</a>.</p>
<p>Sin embargo, a medida que continuaba el abuso en línea este año, el organismo de control del Reino Unido <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, la <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Comisión Europea</a> y <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">California</a> cada una lanzaron investigaciones sobre la capacidad de la función para crear imágenes sexualizadas de personas reales, particularmente niños.</p>
<p>A mediados de enero, <a href="https://www.bbc.com/news/articles/c98p4214577o">X dijo</a> que implementaría "medidas tecnológicas" para detener la capacidad de Grok de desvestir a las personas en fotos.</p>
<p>Eventualmente, el perpetrador detrás del servidor de Discord mencionado en la nueva demanda fue arrestado. No fue nombrado en la demanda pero forma parte de una investigación policial separada.</p>
<p>Esa investigación descubrió que tenía cientos de imágenes de abuso sexual generadas y alteradas con IA de menores, que se intercambiaban en la plataforma de mensajería Telegram y en la plataforma de intercambio de archivos Mega, según la demanda.</p>