Remaja menuntut xAI milik Musk atas gambar-gambar pornografi mereka

<h1>Remaja menuntut xAI milik Musk atas gambar-gambar pornografi mereka</h1>
<p>Perusahaan kecerdasan buatan milik Elon Musk menghadapi gugatan dari remaja yang mengatakan bahwa perusahaan tersebut memfasilitasi pornografi anak dengan mengizinkan pembuatan gambar-gambar eksplisit secara seksual dari mereka.</p>
<p>Gugatan terhadap xAI diajukan pada hari Senin di pengadilan federal California oleh tiga wanita muda yang gambar dan video mereka diubah oleh pengguna Grok tanpa sepengetahuan mereka untuk menunjukkan mereka telanjang atau dengan cara yang secara eksplisit seksual lainnya.</p>
<p>Grok adalah chatbot yang dikembangkan oleh xAI dan dihosting di platform media sosial Musk X. xAI tidak menanggapi permintaan komentar yang dibuat melalui perusahaan induknya.</p>
<p>Tindakan hukum ini merupakan bagian dari dampak sejak rilis fitur-fitur baru Grok yang kontroversial tahun lalu yang disebut "mode pedas" oleh X.</p>
<p>Pengacara untuk para wanita muda itu mengatakan bahwa kemampuan Grok untuk mengubah gambar dan video telah dibuat dan dirilis oleh xAI semata-mata untuk mendorong penggunaan chatbot dan X.</p>
<p>Mereka membandingkan cara gambar para wanita muda itu diubah dengan "boneka kain yang dihidupkan melalui seni gelap".</p>
<p>"xAI—dan pendirinya Elon Musk— melihat peluang bisnis," kata gugatan itu. "Mereka tahu Grok dapat menghasilkan hasil seperti itu, termasuk dengan menggunakan gambar dan video anak-anak, dan secara publik merilisnya tetap saja."</p>
<p>Para wanita muda itu mencari ganti rugi yang tidak ditentukan, serta perintah segera untuk melarang Grok membuat gambar-gambar seperti itu.</p>
<p>"Kehidupan mereka hancur karena hilangnya privasi, martabat, dan keselamatan pribadi yang menghancurkan," kata pengacara untuk para wanita muda itu dalam gugatan mereka.</p>
<p>Dua dari remaja di balik gugatan tersebut berusia di bawah 18 tahun, tetapi ketiga orang tersebut menahan nama mereka dari publik untuk melindungi privasi mereka.</p>
<p>Salah satu penggugat muda mengatakan dia mengetahui tentang gambar-gambar tersebut setelah dia menerima pesan anonim di Instagram yang menunjuknya ke gambar dan video, termasuk foto buku tahunan sekolah menengah atasnya, yang telah diubah untuk menunjukkannya dalam tindakan eksplisit secara seksual dan ketelanjangan penuh.</p>
<p>Materi tersebut dibagikan di server Discord, ruang obrolan pribadi di platform tersebut, dan termasuk gambar serupa yang juga telah diubah menggunakan Grok dari setidaknya 18 wanita lain yang masih di bawah umur, menurut gugatan tersebut.</p>
<p>Dua wanita lainnya yang menggugat xAI juga menemukan gambar-gambar eksplisit palsu mereka secara online, yang ditemukan telah dibuat melalui Grok.</p>
<p>Grok diluncurkan pada tahun 2023 oleh xAI milik Musk. Perusahaan tersebut, bersama dengan X, sekarang menjadi bagian dari perusahaan SpaceX milik Musk, yang <a href="https://www.bbc.com/news/articles/cq6vnrye06po">mengambil alih xAI bulan lalu</a>.</p>
<p>Tahun lalu, xAI merilis apa yang disebut Grok Imagine atau "mode pedas", dengan fitur-fitur yang memungkinkan pengguna Grok untuk meminta untuk membuat gambar palsu yang lebih bersifat seksual.</p>
<p>Mode tersebut bahkan melakukan "melepaskan pakaian" orang-orang sungguhan menggunakan gambar mereka secara online, dari <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> hingga lebih <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">pengguna rata-rata</a>.</p>
<p>Dalam waktu kurang dari dua minggu, Grok telah membuat jutaan gambar yang diseksualisasikan, termasuk lebih dari 20.000 anak-anak, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">menurut sampel</a> gambar yang dilakukan oleh Center for Countering Digital Hate.</p>
<p>Musk awalnya meremehkan kemampuan Grok untuk membuat konten seksual palsu, mengatakan pada bulan Januari bahwa dia "tidak menyadari adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar nol," dan menyalahkan pengguna fitur tersebut.</p>
<p>"Jelas, Grok tidak secara spontan menghasilkan gambar, ia melakukannya hanya sesuai permintaan pengguna," tulis Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">di X</a>.</p>
<p>Namun, karena penyalahgunaan online terus berlanjut tahun ini, badan pengawas UK <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Komisi Eropa</a> dan <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">California</a> masing-masing meluncurkan penyelidikan terhadap kemampuan fitur tersebut untuk membuat gambar-gambar yang diseksualisasikan dari orang sungguhan, terutama anak-anak.</p>
<p>Pada pertengahan Januari, <a href="https://www.bbc.com/news/articles/c98p4214577o">X mengatakan</a> bahwa akan menerapkan "tindakan teknologi" untuk menghentikan kemampuan Grok untuk melepaskan pakaian orang dalam foto.</p>
<p>Pada akhirnya, pelaku di balik server Discord yang disebutkan dalam gugatan baru tersebut ditangkap. Dia tidak disebutkan namanya dalam gugatan tersebut tetapi merupakan bagian dari penyelidikan polisi terpisah.</p>
<p>Penyelidikan tersebut menemukan bahwa dia memiliki ratusan gambar pelecehan seksual yang dihasilkan dan diubah oleh AI dari anak di bawah umur, yang diperdagangkan di platform perpesanan Telegram dan di platform berbagi file Mega, menurut gugatan tersebut.</p>