Iklan aplikasi pengeditan AI yang mengatakan dapat 'menghapus apa saja' dilarang

<h1>Iklan aplikasi pengeditan AI yang mengatakan dapat 'menghapus apa saja' dilarang</h1>
<p>Sebuah iklan untuk alat pengeditan video dan gambar yang menyiratkan pemirsa dapat secara digital menghapus pakaian seorang wanita telah dilarang oleh regulator periklanan Inggris.</p>
<p>Iklan YouTube untuk PixVideo - AI Video Maker, yang dilihat pada bulan Januari, menampilkan gambar "sebelum" dan "sesudah" seorang wanita muda, dengan coretan merah melapisi bagian tengahnya pada gambar sebelumnya, dan bagian dari kulit telanjangnya terbuka pada gambar sesudahnya.</p>
<p>Teks di bagian bawah gambar menyatakan: "Hapus apa saja" diikuti dengan emoji mata hati.</p>
<p>Delapan orang mengadu kepada Advertising Standards Authority (ASA) bahwa iklan tersebut men-seksualisasi dan mengobjektifikasi wanita, serta tidak bertanggung jawab, menyinggung, dan berbahaya.</p>
<p>Tidak jelas apakah gambar dalam iklan tersebut adalah orang sungguhan atau dihasilkan oleh AI, dengan ASA memberi tahu BBC bahwa membuat penilaian semacam itu bukanlah bagian dari penyelidikannya.</p>
<p>Regulator mengatakan bahwa PixVideo tidak mengizinkan penggunanya untuk menghapus pakaian dari gambar digital untuk membuat konten eksplisit secara seksual, tetapi pemirsa mungkin mendapat kesan bahwa itu memang demikian.</p>
<p>"Karena iklan tersebut menyiratkan bahwa pemirsa dapat menggunakan aplikasi untuk menghapus pakaian seorang wanita, kami menganggapnya mentolerir pengubahan digital dan penyingkapan tubuh wanita tanpa persetujuan mereka," kata badan tersebut dalam sebuah pernyataan.</p>
<p>Ditambahkan bahwa iklan tersebut "tidak bertanggung jawab, termasuk stereotip gender yang berbahaya dan kemungkinan besar menyebabkan pelanggaran serius".</p>
<p>Saeta Tech, pemilik PixVideo, mengatakan mereka memahami mengapa iklan tersebut kemungkinan besar menyinggung, tetapi menyalahkan presentasi dan pesannya, daripada penggunaan produk mereka yang dimaksudkan.</p>
<p>Mereka mengatakan bahwa mereka melarang pembuatan konten telanjang atau eksplisit secara seksual dan memiliki alat deteksi dan pemblokiran otomatis untuk mencegah citra semacam itu dihasilkan.</p>
<p>Perusahaan telah setuju untuk tidak menampilkan iklan tersebut lagi dan telah menghentikan semua iklan sambil melakukan tinjauan internal.</p>
<p>Masalah aplikasi yang "menelanjangi" wanita dan anak perempuan tanpa persetujuan mereka menjadi berita utama pada bulan Januari, ketika chatbot Grok milik Elon Musk digunakan untuk membanjiri X dengan gambar-gambar yang diseksualisasi.</p>
<p>Setelah reaksi global, Musk <a href="https://www.bbc.co.uk/news/articles/ce8gz8g2qnlo">kemudian memblokir Grok</a> dari menghasilkan gambar semacam itu di yurisdiksi di mana hal itu ilegal, tetapi X masih menghadapi <a href="https://www.bbc.co.uk/news/articles/clye99wg0y8o">penyelidikan</a> dan <a href="https://www.bbc.co.uk/news/articles/cgk2lzmm22eo">gugatan hukum</a> di seluruh dunia.</p>
<p>Pemerintah Inggris mengumumkan pada bulan Desember bahwa mereka akan membuat ilegal untuk membuat dan memasok alat AI yang memungkinkan pengguna mengedit gambar untuk tampaknya menghapus pakaian seseorang.</p>
<p>Pelanggaran baru ini akan dibangun di atas aturan yang ada seputar deepfake eksplisit secara seksual dan pelecehan gambar intim.</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">Daftar untuk buletin Tech Decoded kami</a> untuk mengikuti berita dan tren teknologi terkemuka di dunia. <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">Di luar Inggris? Daftar di sini</a>.</p>