Anuncio de aplicación de edición de IA que decía que podía 'eliminar cualquier cosa' prohibido

<h1>Anuncio de aplicación de edición de IA que decía que podía 'eliminar cualquier cosa' prohibido</h1>
<p>Un anuncio de una herramienta de edición de vídeo e imagen que insinuaba que los espectadores podían eliminar digitalmente la ropa de una mujer ha sido prohibido por el regulador de publicidad del Reino Unido.</p>
<p>El anuncio de YouTube para PixVideo - AI Video Maker, visto en enero, mostraba una imagen de "antes" y "después" de una mujer joven, con un garabato rojo superpuesto en su abdomen en la primera, y partes de su piel desnuda expuestas en la segunda.</p>
<p>El texto en la parte inferior de la imagen decía: "Borra cualquier cosa" seguido de un emoji de ojos de corazón.</p>
<p>Ocho personas se quejaron a la Advertising Standards Authority (ASA) de que el anuncio sexualizaba y objetivaba a las mujeres, y era irresponsable, ofensivo y dañino.</p>
<p>No está claro si la imagen del anuncio es de una persona real o si es generada por IA, y la ASA dijo a la BBC que hacer tal evaluación no había sido parte de su investigación.</p>
<p>El regulador dijo que PixVideo no permitía a sus usuarios eliminar ropa de imágenes digitales para crear contenido sexualmente explícito, pero que los espectadores podrían tener la impresión de que sí lo hacía.</p>
<p>"Debido a que el anuncio implicaba que los espectadores podían usar una aplicación para quitarle la ropa a una mujer, consideramos que aprobaba la alteración digital y la exposición de los cuerpos de las mujeres sin su consentimiento", dijo la agencia en un comunicado.</p>
<p>Agregó que el anuncio era "irresponsable, incluía un estereotipo de género dañino y era probable que causara una grave ofensa".</p>
<p>Saeta Tech, propietaria de PixVideo, dijo que entendía por qué el anuncio era probable que causara ofensa, pero culpó a su presentación y mensajería, en lugar del uso previsto de su producto.</p>
<p>Dijo que prohibía la creación de contenido desnudo o sexualmente explícito y que tenía herramientas automatizadas de detección y bloqueo para evitar que se generaran tales imágenes.</p>
<p>La compañía ha acordado no volver a mostrar el anuncio y ha pausado toda la publicidad mientras lleva a cabo una revisión interna.</p>
<p>El problema de las aplicaciones que "desvisten" a mujeres y niñas sin su consentimiento llegó a los titulares en enero, cuando el chatbot Grok de Elon Musk se utilizó para inundar X con imágenes sexualizadas.</p>
<p>Después de una reacción mundial, Musk <a href="https://www.bbc.co.uk/news/articles/ce8gz8g2qnlo">bloqueó posteriormente a Grok</a> de generar tales imágenes en jurisdicciones donde es ilegal, pero X todavía enfrenta <a href="https://www.bbc.co.uk/news/articles/clye99wg0y8o">investigaciones</a> y <a href="https://www.bbc.co.uk/news/articles/cgk2lzmm22eo">demandas</a> en todo el mundo.</p>
<p>El gobierno del Reino Unido anunció en diciembre que haría ilegal crear y suministrar herramientas de IA que permitieran a los usuarios editar imágenes para eliminar aparentemente la ropa de alguien.</p>
<p>Los nuevos delitos se basarán en las reglas existentes sobre deepfakes sexualmente explícitos y abuso de imágenes íntimas.</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">Regístrese en nuestro boletín Tech Decoded</a> para seguir las principales historias y tendencias tecnológicas del mundo. <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">¿Fuera del Reino Unido? Regístrese aquí</a>.</p>