Baltimore adalah kota AS pertama yang menggugat pornografi deepfake Grok karena tekanan hukum meningkat pada xAI milik Musk

Gugatan terhadap xAI milik Elon Musk menumpuk, dengan Baltimore menjadi kota besar AS pertama yang mengajukan keluhan terhadap perusahaan mengenai masalah dengan generator gambarnya, Grok.
Walikota Baltimore Brandon Scott mengatakan dalam pernyataan email kepada CNBC bahwa deepfake di Grok "memiliki konsekuensi traumatis seumur hidup bagi para korban."
"Kita berbicara tentang perusahaan teknologi yang memungkinkan eksploitasi seksual anak-anak," tulis Scott. "Kota kami tidak akan tinggal diam dan membiarkan ini berlanjut; ini adalah ancaman terhadap privasi, martabat, dan keselamatan publik, dan mereka yang bertanggung jawab harus dimintai pertanggungjawaban."
Sekarang menjadi bagian dari SpaceX setelah merger bulan lalu, xAI menghadapi penyelidikan peraturan di beberapa negara setelah Grok mengizinkan pembuatan massal pornografi deepfake yang didasarkan pada gambar wanita dan anak-anak yang tidak memberikan persetujuan. Minggu lalu, pengacara yang mewakili tiga remaja di Tennessee mengajukan gugatan class action yang diusulkan terhadap xAI setelah Grok menghasilkan konten yang menggambarkan mereka dalam skenario seksual dan merendahkan.
Dalam gugatan terbaru, yang diajukan di pengadilan sirkuit pada 24 Maret, walikota dan dewan kota Baltimore menuduh xAI melanggar undang-undang perlindungan konsumen kota dan terlibat dalam praktik perdagangan yang menipu dan tidak adil, yaitu dengan memasarkan Grok dan X, yang sebelumnya dikenal sebagai Twitter, sebagai umumnya aman bagi pengguna.
Keluhan tersebut merujuk pada tren "taruh dia dalam bikini" yang mendorong pengguna Grok untuk mengambil foto orang lain dan menelanjangi mereka. Musk, yang mengendalikan SpaceX dan juga CEO Tesla, berpartisipasi dalam tren tersebut, berbagi gambar yang dibuat dengan Grok yang menggambarkannya dalam bikini string.
"Postingan Musk berfungsi sebagai dukungan publik atas kemampuan Grok untuk menghasilkan editan seksual atau terbuka dari orang sungguhan, dan itu menandakan kepada pengguna bahwa penggunaan Grok ini dapat diterima, lucu, dan dianjurkan," tulis pengacara dalam keluhan Baltimore. "Datang dari pemilik dan wajah publik utama dari x.AI dan X, postingan Musk berfungsi sebagai pemasaran dan promosi untuk kemampuan pengeditan gambar yang digunakan untuk menghasilkan citra seksual non-konsensual."
Kota ini mencari "jumlah maksimum penalti hukum yang tersedia," tetapi tidak mencantumkan jumlah tertentu dalam keluhannya. Kota ini juga meminta "ganti rugi sementara" untuk memaksa perusahaan Musk melakukan perubahan pada X dan Grok untuk mengendalikan pembuatan apa yang disebut peneliti sebagai citra intim non-konsensual (NCII) dan materi pelecehan seksual anak (CSAM).
Baltimore ingin pengadilan memerintahkan X dan xAI untuk "menghentikan penargetan dan eksploitasi penduduk Baltimore," "mereformasi desain platform mereka yang eksploitatif," dan merevisi pemasaran mereka.
Eksekutif di SpaceX dan xAI tidak segera menanggapi permintaan komentar.
Dalam sebuah laporan yang diterbitkan pada hari Selasa, Internet Watch Foundation, sebuah badan amal yang berbasis di Inggris, mengatakan bahwa anak perempuan tetap menjadi sasaran utama CSAM, dan menjadi sasaran 97% dari gambar seksual yang dihasilkan AI ilegal yang dinilai oleh organisasi tersebut pada tahun 2025.
TONTON: Kesepakatan SpaceX untuk mengakuisisi xAI