Tuntutan hukum terhadap xAI milik Elon Musk menuduh Grok membuat deepfake seksualisasi dari 3 anak di bawah umur

<ul>
<li>Tuntutan hukum terhadap xAI milik Elon Musk menuduh chatbot Grok membuat gambar-gambar seksualisasi dari tiga anak di bawah umur.</li>
<li>Pengaduan tersebut menuduh xAI mendapatkan keuntungan dari "predasi seksual terhadap orang sungguhan."</li>
<li>Grok memicu kemarahan yang besar di awal tahun ini setelah digunakan untuk menghasilkan gambar-gambar seksualisasi.</li>
</ul>
<p>Tuntutan hukum baru terhadap <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI milik Elon Musk</a> menuduh bahwa chatbot andalannya, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>, digunakan untuk membuat gambar deepfake seksualisasi dari tiga anak di bawah umur — konten yang menurut pengaduan tersebut termasuk bahan pelecehan seksual anak.</p>
<p>Tuntutan class action yang diajukan pada hari Senin di pengadilan federal California, menuduh startup AI tersebut mendapatkan keuntungan dari "predasi seksual terhadap orang sungguhan, termasuk anak-anak."</p>
<p>"Hampir semua perusahaan yang menciptakan, memasarkan, dan menjual AI menyadari bahaya dari alat seperti itu dan memilih untuk menerapkan perlindungan standar industri yang akan mencegah penggunaan produk mereka oleh satu kelompok yang sangat berbahaya: predator seks anak. XAI tidak," kata tuntutan hukum tersebut.</p>
<p>Perwakilan Musk dan xAI belum segera menanggapi permintaan komentar dari Business Insider.</p>
<p>Musk sebelumnya mengatakan dalam postingan di X pada bulan Januari bahwa dia "tidak menyadari adanya gambar-gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar nol."</p>
<p>Grok menghasilkan gambar berdasarkan perintah pengguna, tulisnya.</p>
<p>"Ketika diminta untuk menghasilkan gambar, ia akan menolak untuk menghasilkan apa pun yang ilegal, sebagai prinsip pengoperasian untuk Grok adalah untuk mematuhi hukum negara atau wilayah tertentu," kata Musk. "Mungkin ada saat-saat ketika peretasan adversarial Grok yang memicu melakukan sesuatu yang tidak terduga. Jika itu terjadi, kami akan memperbaiki bug tersebut segera."</p>
<p>Tuntutan hukum terhadap xAI mengatakan bahwa penggugat dari Tennessee adalah "tiga dari korban anak-anak dari produksi, kepemilikan, dan distribusi xAI dari bahan pelecehan seksual anak yang dihasilkan AI" yang menggambarkan mereka.</p>
<p>Para penggugat, yang diidentifikasi dalam dokumen pengadilan hanya sebagai Jane Doe 1, Jane Doe 2, dan Jane Doe 3, menuduh bahwa alat AI xAI digunakan untuk membuat gambar dan video telanjang mereka. Jane Doe 1, seorang dewasa muda, adalah anak di bawah umur pada saat kejadian yang diduga, sementara dua penggugat lainnya masih anak di bawah umur, menurut tuntutan hukum tersebut.</p>
<p>Pada bulan Desember 2025, Jane Doe 1 menerima pesan dari akun Instagram anonim yang memperingatkannya bahwa "gambar" dirinya telah dihasilkan oleh seseorang yang dia kenal dan disebarkan di platform grup-chat Discord.</p>
<p>"Melalui serangkaian pesan, pengguna anonim tersebut menjelaskan bahwa pelaku telah mengunggah folder file gambar dan video yang menggambarkan dirinya dan perempuan di bawah umur lainnya ke Discord," kata tuntutan hukum tersebut.</p>
<p>Pengguna anonim tersebut akhirnya mengirim Jane Doe 1 beberapa gambar dan video AI yang dihasilkan secara seksual dari dirinya dan gadis-gadis di bawah umur lainnya, menurut tuntutan hukum tersebut.</p>
<p>"Setidaknya lima dari file-file ini, satu video dan empat gambar, menggambarkan wajah dan tubuhnya yang sebenarnya dalam pengaturan yang dia kenal, tetapi diubah menjadi pose-pose eksplisit secara seksual," kata tuntutan hukum tersebut. "Gambar-gambar tersebut menunjukkan seluruh tubuhnya, termasuk alat kelaminnya, tanpa pakaian. Video tersebut menggambarkan dirinya melepas pakaian hingga benar-benar telanjang."</p>
<p>Jane Doe 1 memberi tahu anak-anak di bawah umur lainnya dalam gambar dan keluarga mereka, dan penyelidikan kriminal dibuka di Tennessee, menurut tuntutan hukum tersebut. Itu menambahkan bahwa polisi setempat menangkap seorang tersangka terkait kasus tersebut pada bulan Desember 2025.</p>
<p>Bulan lalu, Jane Doe 2 mengetahui melalui penyelidikan bahwa setidaknya dua gambarnya juga telah digunakan untuk menghasilkan konten AI eksplisit secara seksual menggunakan alat xAI, kata tuntutan hukum tersebut.</p>
<p>Penegak hukum setempat memberi tahu gadis itu dan ibunya bahwa satu gambar yang diambil dari gadis itu di pantai dengan bikini biru telah "diubah untuk digambarkan tanpa pakaian," kata tuntutan hukum tersebut.</p>
<p>Pihak berwenang juga memberi tahu Jane Doe 3 bahwa gambar-gambar AI yang dihasilkan yang diambil dari ponsel tersangka termasuk satu yang telah "diubah untuk digambarkan sepenuhnya telanjang," menurut tuntutan hukum tersebut.</p>
<p>Vanessa Baehr-Jones, seorang pengacara untuk para penggugat, memberi tahu Business Insider bahwa kliennya telah mengalami "mimpi buruk."</p>
<p>"Gambar dan video CSAM mereka yang menggambarkan mereka ketika mereka masih anak-anak sekarang selamanya ada di internet di dunia gelap predator seks anak," kata Baehr-Jones. "Kerugian dari itu sangat akut."</p>
<p>Pengacara itu mengatakan bahwa dia berharap tuntutan hukum tersebut akan membawa "pertanggungjawaban" untuk xAI dan bahwa "yang paling penting, ini tidak boleh terjadi pada korban lain."</p>
<p>Tuntutan hukum tersebut mencari ganti rugi yang tidak ditentukan dan menuduh xAI melakukan produksi dengan maksud untuk mendistribusikan pornografi anak, pendistribusian pornografi anak, dan kepemilikan pornografi anak, di antara klaim lainnya.</p>
<p>"Dalam sistem hukum kita, uang adalah cara kita membuat perusahaan membayar kerugian yang telah mereka sebabkan," kata Annika Martin, pengacara lain untuk para penggugat. "Karena perusahaan adalah entitas yang mencari keuntungan, memukul mereka di dompet adalah satu-satunya cara untuk memengaruhi pengambilan keputusan mereka."</p>
<p>Awal tahun ini, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">Grok milik xAI memicu kemarahan yang besar</a> setelah generator gambar AI digunakan untuk membuat gambar-gambar seksualisasi orang sungguhan yang tidak disetujui.</p>
<p>Sebagai tanggapan, X, situs media sosial yang dijual Musk ke xAI pada bulan Maret, mengatakan Grok <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">tidak lagi dapat menghasilkan gambar AI</a> dari orang sungguhan dalam pakaian seksualisasi atau terbuka.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, yang melahirkan salah satu putra Elon Musk pada tahun 2024, menuntut xAI pada bulan Januari, menuduh bahwa Grok menghasilkan deepfake seksual dari dirinya atas permintaan pengguna.</p>
<p>Pihak berwenang Prancis juga menyelidiki Grok atas deepfake seksualisasi.</p>