AI 편집 앱 광고, '무엇이든 제거 가능' 문구로 인해 금지

<h1>'무엇이든 제거할 수 있다'고 말한 AI 편집 앱 광고 금지</h1>
<p>영국 광고 규제 당국이 여성의 옷을 디지털 방식으로 제거할 수 있다고 암시한 비디오 및 이미지 편집 도구 광고를 금지했습니다.</p>
<p>지난 1월에 게시된 PixVideo - AI Video Maker의 유튜브 광고에는 젊은 여성의 "이전"과 "이후" 이미지가 표시되었으며, 이전 이미지에는 복부에 붉은 낙서가 겹쳐져 있고 이후 이미지에는 맨살이 노출되었습니다.</p>
<p>사진 하단에는 "무엇이든 지우기"라는 문구와 함께 하트 눈 이모티콘이 표시되었습니다.</p>
<p>8명이 광고가 여성을 성적으로 대상화하고 비인간적으로 만들었으며 무책임하고 불쾌하며 해롭다고 광고 표준 당국(ASA)에 불만을 제기했습니다.</p>
<p>광고에 나온 이미지가 실제 사람인지 아니면 AI 생성인지 여부는 명확하지 않으며, ASA는 BBC에 그러한 평가를 내리는 것이 조사에 포함되지 않았다고 밝혔습니다.</p>
<p>규제 당국은 PixVideo가 사용자가 성적으로 노골적인 콘텐츠를 만들기 위해 디지털 이미지에서 옷을 제거하는 것을 허용하지 않지만, 시청자는 그렇게 할 수 있다는 인상을 받았을 수 있다고 말했습니다.</p>
<p>이 기관은 성명에서 "광고가 시청자가 앱을 사용하여 여성의 옷을 제거할 수 있다고 암시했기 때문에 우리는 동의 없이 여성의 몸을 디지털 방식으로 변경하고 노출하는 것을 용인했다고 간주합니다."라고 말했습니다.</p>
<p>이어 이 광고는 "무책임하고 해로운 성 고정관념을 포함했으며 심각한 불쾌감을 유발할 가능성이 높다"고 덧붙였습니다.</p>
<p>PixVideo를 소유한 Saeta Tech는 광고가 불쾌감을 유발할 수 있는 이유를 이해하지만, 제품의 의도된 사용보다는 광고의 표현과 메시지에 책임이 있다고 말했습니다.</p>
<p>나체 또는 성적으로 노골적인 콘텐츠 생성을 금지하고 있으며 그러한 이미지가 생성되는 것을 방지하기 위해 자동 감지 및 차단 도구를 갖추고 있다고 밝혔습니다.</p>
<p>이 회사는 해당 광고를 다시 게재하지 않기로 합의했으며 내부 검토를 진행하는 동안 모든 광고를 중단했습니다.</p>
<p>여성과 소녀들의 동의 없이 여성을 "탈의"시키는 앱 문제는 지난 1월 일론 머스크의 챗봇 Grok이 성적으로 대상화된 이미지를 유포하는 데 사용되면서 헤드라인을 장식했습니다.</p>
<p>전 세계적인 반발 이후 머스크는 Grok이 불법인 지역에서 그러한 이미지를 생성하는 것을 차단했지만, X는 여전히 전 세계적으로 조사를 받고 소송에 직면해 있습니다.</p>
<p>영국 정부는 작년 12월 사용자가 옷을 제거하는 것처럼 보이도록 이미지를 편집할 수 있는 AI 도구를 생성하고 공급하는 것을 불법으로 만들 것이라고 발표했습니다.</p>
<p>새로운 범죄는 성적으로 노골적인 딥페이크 및 사적인 이미지 학대에 관한 기존 규칙을 기반으로 합니다.</p>
<p>세계 최고의 기술 뉴스 및 트렌드를 따라가려면 <a href="https://www.bbc.co.uk/news/newsletters/zxh6cxs">Tech Decoded 뉴스레터에 가입하세요</a>. 영국 외 지역에 계신가요? <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">여기에서 가입하세요</a>.</p>