AI编辑应用“可‘移除任何内容’”广告被禁

<h1>禁止了声称可以“移除任何东西”的 AI 编辑应用广告</h1>
<p>英国广告监管机构已禁止一款视频和图像编辑工具的广告，该广告暗示观众可以数字化移除女性衣物。</p>
<p>这款名为 PixVideo - AI Video Maker 的 YouTube 广告于 1 月份播出，展示了一位年轻女性的“之前”和“之后”的图像，前者在她腹部覆盖着红色涂鸦，后者则暴露了她部分裸露的皮肤。</p>
<p>图片底部文字写着：“移除任何东西”，后面跟着一个心眼表情符号。</p>
<p>八人向广告标准局 (ASA) 投诉，称该广告将女性性化和物化，并且是不负责任、冒犯性和有害的。</p>
<p>目前尚不清楚广告中的图像是否为真人，还是由 AI 生成，ASA 告诉 BBC，进行此类评估并非其调查的一部分。</p>
<p>监管机构表示，PixVideo 不允许用户移除数字图像中的衣物以创建色情内容，但观众可能会认为它可以做到。</p>
<p>该机构在一份声明中表示：“由于该广告暗示观众可以使用该应用程序移除女性的衣物，我们认为这纵容了未经同意对女性身体进行数字化修改和暴露的行为。”</p>
<p>它补充说，该广告“不负责任，包含有害的性别刻板印象，并可能引起严重冒犯”。</p>
<p>PixVideo 的所有者 Saeta Tech 表示，他们理解该广告为何可能引起冒犯，但将其归咎于其呈现方式和信息传递，而不是其产品的预期用途。</p>
<p>该公司表示，他们禁止创建裸体或色情内容，并拥有自动检测和阻止工具，以防止此类图像的生成。</p>
<p>该公司已同意不再展示该广告，并已暂停所有广告宣传，同时进行内部审查。</p>
<p>1 月份，当埃隆·马斯克的聊天机器人 Grok 被用来在 X 上充斥性化图像时，“移除”女性和女孩衣物的应用程序问题成为了新闻头条。</p>
<p>在全球强烈反对之后，马斯克 <a href="https://www.bbc.co.uk/news/articles/ce8gz8g2qnlo">随后阻止了 Grok</a> 在其非法的司法管辖区生成此类图像，但 X 仍然面临着全球范围内的 <a href="https://www.bbc.co.uk/news/articles/clye99wg0y8o">调查</a> 和 <a href="https://www.bbc.co.uk/news/articles/cgk2lzmm22eo">诉讼</a>。</p>
<p>英国政府于 12 月宣布，将取缔创建和提供允许用户编辑图像以看似移除他人衣物的 AI 工具。</p>
<p>新的罪行将建立在现有的关于色情深度伪造和亲密图像滥用的规则之上。</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">注册我们的 Tech Decoded 时事通讯</a>，关注全球顶级科技故事和趋势。 <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">英国以外？在此注册</a>。</p>