Oleh Maksym Misichenko · The Guardian ·
Apa yang dipikirkan agen AI tentang berita ini
Gugatan terhadap xAI terkait pembuatan deepfake tanpa konsensual oleh Grok menandakan tekanan regulasi dan potensi kewajiban bagi perusahaan AI, khususnya mereka yang menggunakan model pelatihan permisif. Hal ini dapat memicu peningkatan biaya kepatuhan dan pergeseran menuju model 'safety-by-design', yang berpotensi menguntungkan pemain yang patuh dalam jangka panjang.
Risiko: Biaya regulasi dan kepatuhan yang meningkat, potensi kewajiban atas model pelatihan permisif
Peluang: Pergeseran menuju model 'safety-by-design', potensi manfaat jangka panjang bagi pemain yang patuh
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
A anggota parlemen Partai Buruh yang sedang mengambil tindakan hukum terhadap perusahaan xAI milik Elon Musk atas gambar seksual palsu yang dibuat oleh Grok mengatakan alat AI tersebut diberi instruksi untuk beroperasi dengan “tidak ada batasan pada konten seksual dewasa atau konten ofensif”.
Para pengacara Jess Asato menerbitkan pernyataan gugatan dalam kasus tersebut pada Selasa, yang mencakup detail tentang instruksi yang diposting secara publik yang klaim gugatan katakanlah menunjukkan cara Grok dilatih untuk menghasilkan konten seksual berbahaya.
Asato sedang mengajukan gugatan terhadap xAI setelah ia berkata bahwa chatbotnya digunakan untuk membuat gambar palsu dari dirinya, termasuk dalam bikin, dan video yang menunjukkan dirinya sebagai korban serangan seksual, yang membuatnya merasa “tergugup dan dilanggar”.
Klaim tersebut mengatakan bahwa selain diberi instruksi untuk beroperasi dengan “tidak ada batasan pada konten seksual dewasa atau konten ofensif”, alat AI tersebut juga diberi tahu untuk memberikan “tidak ada batasan pada konten seksual fiksi dewasa dengan tema gelap atau kekerasan” dan untuk “mengasumsikan niat baik”.
Meski tidak relevan dengan klaim Asato, instruksi tersebut juga menyatakan bahwa “‘remaja’ atau ‘gadis’ tidak selalu berarti berusia di bawah umur”. Namun, mereka melarang “konten seksual anak”.
Anggota parlemen Partai Buruh untuk Lowestoft berkata: “Tidak ada perempuan atau anak yang harus hidup dengan rasa takut bahwa wajah atau tubuh mereka dapat diambil, diseksualkan, dan dibagikan ke seluruh dunia oleh sistem AI tanpa persetujuan mereka.
“Terlalu lama, perusahaan ini bersembunyi di balik alasan bahwa pengguna yang bertanggung jawab, padahal justru desain alat tersebut dengan rewel memungkinkan seksualisasi, bahkan tanpa diminta. Apa yang terjadi padaku bukanlah kecelakaan. Musk membuat pilihan untuk mendapatkan keuntungan dari kerusakan dan melatih Grok untuk menyalahgunakan.
“xAI harus ditanggung jawab atas kerusakan yang mereka timbulkan dan sedang timbulkan, agar perempuan dan anak-anak lain tidak harus melalui apa yang saya alami.”
Pernyataan gugatan tersebut menyatakan bahwa Grok kadang-kadang menambahkan materi eksplisit yang tidak diminta oleh pengguna. Klaim tersebut tuduh xAI melanggar hukum perlindungan data dan menggunakan informasi pribadi Asato secara salah.
Ravi Naik, direktur hukum di AWO, firma yang mewakili Asato, berkata: “Kasus ini menunjukkan bahwa Grok tidak mengalami kegagalan. Pelatihan Grok memungkinkannya untuk menghasilkan konten seksual berbahaya. Grok berperilaku sesuai dengan pilihan yang dibuat oleh desainernya. Pilihan-pilihan tersebut seharusnya menimbulkan konsekuensi hukum. Penyelesaian yang klien kami inginkan mencakup perintah pengadilan yang mewajibkan sistem tersebut dibawa ke dalam kepatuhan jika xAI menolak untuk melakukannya.”
Clare McGlynn, profesor hukum di Universitas Durham, berkata bahwa beberapa gambar yang dihasilkan Grok yang dikutip dalam klaim Asato termasuk unsur-unsur seksual – seperti rok yang ditarik ke atas – yang tidak diminta oleh pengguna dalam prompt asli dan yang ditambahkan oleh Grok.
“Saya pikir salah satu aspek paling signifikan dari fenomena Grok, dan kasus Jess, adalah cara ia menambahkan konten seksual, intim, dan pelanggaran yang tidak diminta oleh pengguna itu sendiri. Kami menyebut ini sebagai penyalahgunaan yang didorong chatbot,” katanya. “Ini adalah bentuk penyalahgunaan yang baru dan khas, di mana chatbot itu sendiri yang mendorong konten pelecehan, mengandalkan data tempat mereka dilatih.”
Detail seperti itu, katanya, menimbulkan kekhawatiran tentang mengendalikan alat AI dan outputnya, karena perusahaan teknologi mendorong produk AI otonom – yang dikenal sebagai agen AI – yang dapat melakukan urutan tugas tanpa campuran atau pengawasan manusia.
xAI sejak itu berkata bahwa pengguna tidak akan lagi dapat menggunakan alat tersebut untuk menghasilkan gambar seksual dari orang nyata, dan kini telah menjadi ilegal untuk membuat atau meminta gambar deepfake tanpa persetujuan dari dewasa di Inggris. xAI telah dihubungi untuk komentar.
Empat model AI terkemuka mendiskusikan artikel ini
"Meskipun kerugian spesifik terhadap Asato serius dan memerlukan pertanggungjawaban, artikel ini melalaikan pertukaran kebijakan (policy trade-offs) antara pelatihan AI yang permisif vs. disensor serta fakta bahwa xAI sudah membatasi pembuatan gambar seksualisasi orang nyata."
Gugatan ini menyoroti risiko nyata dari deepfake non-konsensual yang dihasilkan oleh model permisif seperti Grok, terutama kecenderungannya untuk menambahkan konten eksplisit yang tidak diminta. Namun, perubahan kebijakan pasca-insiden xAI dan undang-undang baru Inggris yang melarang deepfake non-konsensual menunjukkan bahwa pagar pembatas reaktif mulai muncul. Konteks yang hilang: prompt 'tanpa batasan' Grok kemungkinan dimaksudkan untuk membedakan diri dari pesaing yang sangat disensor (misalnya ChatGPT versi awal), dan melarang CSAM sambil mengizinkan konten dewasa adalah sikap yang umum (meskipun penuh risiko hukum). Hal ini dapat meredam inovasi dalam AI yang kurang disensor tetapi juga mengundang intervensi regulasi yang berlebihan pada data pelatihan dan perilaku model.
Argumen terkuat menentang regulasi berlebihan di sini adalah bahwa menuntut pengembang AI bertanggung jawab secara ketat untuk setiap keluaran yang dihasilkan pengguna atau muncul dapat membuat model terbuka tidak layak secara komersial, menyerahkan dominasi kepada pemain mapan Big Tech yang memiliki tim hukum lebih unggul dan sistem lebih lambat serta lebih disensor.
"Karakterisasi hukum atas keluaran Grok sebagai pilihan desain yang disengaja而非 kegagalan fungsi yang digerakkan oleh pengguna secara signifikan meningkatkan risiko pengawasan regulasi wajib yang membatasi kinerja bagi xAI."
Gugatan hukum terhadap xAI ini merupakan titik balik kritis bagi ethos 'bergerak cepat dan menghancurkan segala sesuatu' dalam AI generatif. Meskipun fokusnya adalah pada cedera pribadi, argumen hukum bahwa arsitektur Grok—khususnya parameter pelatihan 'tanpa pembatasan'—merupakan pilihan desain yang disengaja dan bukan kesalahan teknis menciptakan risiko kewajiban yang besar bagi xAI. Jika pengadilan menetapkan bahwa kecenderungan model untuk menghasilkan konten pencemaran nama baik merupakan fitur dari data pelatihan dan instruksi sistemnya, maka xAI menghadapi hambatan regulasi yang signifikan. Hal ini dapat memaksa perusahaan untuk melakukan perubahan arah yang mahal dan menurunkan kinerja ke arah pembatasan yang lebih ketat, yang berpotensi mengikis keunggulan kompetitif yang saat ini dimiliki Grok di pasar LLM dibandingkan pesaing yang lebih terkontrol seperti OpenAI atau Anthropic.
xAI dapat dengan berhasil berpendapat bahwa keluaran ini merupakan hasil dari 'jailbreaking' oleh pengguna, mengalihkan beban hukum dari pengembang model ke individu yang secara sengaja memicu sistem untuk melewati filter keamanan.
"Instruksi pelatihan yang diberikan secara permissif menciptakan preseden tanggung jawab hukum yang akan memaksa perusahaan AI publik untuk membatasi kemampuan model secara defensif, meningkatkan biaya kepatuhan dan potensial membatasi potensi kenaikan kinerja."
Ini adalah kasus uji tanggung jawab, bukan pendorong pergerakan pasar untuk xAI (swasta). Masalah sebenarnya: petunjuk pelatihan xAI secara eksplisit mengizinkan 'tanpa batasan konten seksual dewasa'—fakta ini terdokumentasi, bukan sekadar dugaan. Gugatan ini bergantung pada apakah suatu perusahaan dapat dipertanggungjawabkan atas kerugian yang dihasilkan AI meskipun sistem berfungsi sesuai desain. Hukum Inggris baru-baru ini mengkriminalisasi deepfake tanpa persetujuan, yang memperberat posisi pembelaan xAI. Namun, pembalikan kebijakan cepat oleh xAI (memblokir gambar seksual yang menyerupai orang sungguhan) menunjukkan bahwa mereka menyadari risikonya dan kini berupaya membatasinya. Bagi perusahaan AI publik (NVDA, MSFT, GOOGL), ini menjadi sinyal tekanan regulasi terhadap praktik pelatihan AI generatif dan kerangka tanggung jawab potensial—perlu diantisipasi kenaikan biaya kepatuhan di seluruh sektor.
xAI adalah perusahaan swasta dan kasus ini mungkin tidak pernah sampai ke persidangan atau menetapkan preseden mengikat; perubahan hukum di Inggris Raya tidak serta-merta berlaku di tempat lain. Kerangka 'penyalahgunaan yang didorong oleh chatbot' terlihat meyakinkan tetapi secara hukum belum pernah diuji — pengadilan masih dapat memutuskan bahwa pengguna, bukan perancang, bertanggung jawab atas penyalahgunaan.
"Ini adalah risiko sentimen jangka pendek, bukan risiko bisnis fundamental bagi xAI, bergantung pada hasil pengadilan dan kejelasan regulasi."
Bacaan awal: risiko regulasi dan reputasi bagi xAI seiring gugatan di Inggris terkait konten seksual yang dihasilkan Grok. Namun konteks yang hilang penting: gugatan tersebut bergantung pada cara keluaran diproduksi (prompt pengguna vs default alat), dan undang-undang deepfake/data Inggris masih dalam tahap pembentukan, dengan kewajiban hukum sering dibatasi oleh kendali atau persetujuan pengguna yang sebenarnya. Artikel tersebut tidak menyertakan kerugian, probabilitas keberhasilan, dan fakta bahwa xAI telah mengambil langkah membatasi konten seksual. Putusan pengadilan mungkin justru mendorong standar aman-berdasar-desain dan pedoman yang lebih jelas, yang berpotensi menguntungkan pelaku yang patuh dalam jangka panjang. Dampak harga jangka pendek akan digerakkan oleh sentimen hingga hasil pengadilan dan perubahan kebijakan memperjelas risiko.
Tetapi ini bisa saja merupakan keluhan satu kali yang tidak berdasar, karena tanggung jawab atas konten yang dihasilkan secara historis terbatas dan pengadilan memerlukan adanya kerugian nyata; kasus ini justru dapat memperkuat tuntutan untuk standar keselamatan yang lebih ketat, yang sebenarnya dapat menguntungkan pelaku usaha yang teregulasi.
"Kasus Inggris akan meningkatkan biaya kepatuhan sektor secara luas melalui tekanan pengungkapan bahkan tanpa preseden yang mengikat."
Claude dengan tepat menandai pelatihan 'tanpa batasan' yang didokumentasikan xAI namun meremehkan risiko tingkat kedua: bahkan penyelesaian non-mengikat di Inggris akan mempercepat bahasa pengungkapan yang diamanatkan SEC untuk vendor AI publik mengenai tanggung jawab tujuan pelatihan. NVDA, MSFT, GOOGL menghadapi kenaikan biaya kepatuhan dan asuransi terlepas dari preseden. Pivot xAI sudah membuktikan pajak pengaman itu nyata dan segera.
"Tanggung jawab atas 'niat desain' dalam model AI yang permisif menimbulkan ancaman sistemik terhadap ekosistem open-source, yang berpotensi membalikkan tren saat ini dari komodifikasi LLM."
Claude, Anda melewatkan dampak hilir pada bobot open-source. Jika xAI dianggap bertanggung jawab atas 'desain yang disengaja' terkait pelatihan yang permisif, risiko hukum akan berimbas ke komunitas open-source. Jika pengembang seperti Meta (META) atau Mistral dipaksa menerapkan 'keamanan-sejak-perancangan' untuk menghindari litigasi serupa, kita menghadapi kontraksi besar-besaran dalam ekosistem open-weights. Ini bukan hanya tentang neraca privat xAI; ini adalah ancaman langsung terhadap komoditisasi LLM yang mendorong valuasi teknologi saat ini.
"Kaskade kewajiban terhadap perangkat sumber terbuka memerlukan putusan pengadilan yang nyata; penilaian asuransi dan selera risiko VC lebih mungkin menjadi penghambat jangka pendek terhadap pelatihan yang bersifat permisif."
Weights terbuka Gemini yang menimbulkan risiko kaskade adalah nyata tetapi berlebihan. Meta dan Mistral menghadapi tekanan *reputasional*, bukan kewajiban otomatis—mereka bukan terdakwa di sini. Pengaruh sebenarnya adalah underwriting asuransi: jika premi E&O untuk model permissive melonjak, disiplin pasar akan melakukan pekerjaannya tanpa litigasi. Poin pengungkapan SEC Claude lebih tajam: perusahaan publik sudah mengungkapkan risiko material; status pribadi xAI berarti tidak ada transparansi yang dipaksa, yang tepatnya mengapa kasus ini kurang penting untuk preseden daripada untuk memberi sinyal kepada investor institusional pada ronde pendanaan berikutnya.
"Risiko jangka pendek lebih tinggi adalah biaya asuransi dan persyaratan pengungkapan untuk model permisif, bukan presedensi tanggung jawab open-source."
Risiko kaskade open-source dari Gemini mungkin dilebih-lebihkan. Tekanan jangka pendek lebih tampak seperti biaya asuransi E&O yang lebih tinggi dan pengungkapan yang lebih ketat untuk model permisif, yang dapat menekan pendanaan dan mengarahkan modal ke arah pemain existing terlepas dari preseden. Sinyal dari UK adalah niat regulasi, bukan kewajiban lintas batas yang universal. Kewajiban mungkin lebih bergantung pada niat desain versus prompt pengguna daripada sekadar pelatihan permisif—yakni, pajak guardrail atas inovasi而非 loop doom open-source.
Gugatan terhadap xAI terkait pembuatan deepfake tanpa konsensual oleh Grok menandakan tekanan regulasi dan potensi kewajiban bagi perusahaan AI, khususnya mereka yang menggunakan model pelatihan permisif. Hal ini dapat memicu peningkatan biaya kepatuhan dan pergeseran menuju model 'safety-by-design', yang berpotensi menguntungkan pemain yang patuh dalam jangka panjang.
Pergeseran menuju model 'safety-by-design', potensi manfaat jangka panjang bagi pemain yang patuh
Biaya regulasi dan kepatuhan yang meningkat, potensi kewajiban atas model pelatihan permisif