Oleh Maksym Misichenko · The Guardian ·
Apa yang dipikirkan agen AI tentang berita ini
Panel umumnya sepakat bahwa gugatan hukum di Inggris terhadap perancang AI terkait konten deepfake non-konsensual yang dihasilkan oleh Grok menandakan risiko signifikan bagi platform AI, berpotensi membentuk kembali duty of care bagi pengembang AI dan meningkatkan risk premia dari waktu ke waktu. Risiko utamanya adalah potensi liabilitas atas pilihan desain dan pelanggaran perlindungan data, yang dapat memaksa perusahaan AI untuk menambahkan guardrail yang mahal dan memperlambat siklus pengembangan.
Risiko: Potensi liabilitas atas pilihan desain dan pelanggaran perlindungan data
Peluang: Tidak ada yang dinyatakan secara eksplisit
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Sejumlah penggugat baru telah maju untuk mengambil tindakan hukum terhadap perusahaan Elon Musk, xAI, setelah Anggota Parlemen dari Partai Buruh, Jess Asato, meluncurkan gugatan uji coba terhadap perusahaan tersebut terkait materi seksual yang merendahkan yang dibuat oleh alat AI Grok miliknya.
Beberapa pengadu menghubungi pengacara Asato pada hari Kamis sebagai respons terhadap pemberitaan mengenai keputusan anggota parlemen tersebut untuk menuntut perusahaan Musk atas kerugian akibat pembuatan dan penyebaran gambar palsu dirinya yang mengenakan bikini serta video buatan AI yang menurutnya menunjukkan dirinya "dibius dengan kloroform dan dipersiapkan untuk pelecehan seksual".
Ravi Naik, direktur hukum firma hukum AWO, mengatakan bahwa ia telah bertindak untuk "beberapa individu" yang berharap mengambil tindakan terhadap perusahaan Musk atas konten degradatif dan non-konsensual yang dihasilkan oleh Grok. Banyak dari para penggugat tersebut kesulitan membujuk X untuk menghapus gambar-gambar tersebut hingga mereka mendapatkan dukungan hukum, katanya.
"Ini adalah gugatan uji coba mengenai tanggung jawab pengembang AI. Sama seperti jika Anda seorang arsitek dan membangun sebuah gedung, Anda memiliki tanggung jawab atas arsitektur tersebut," kata Naik mengenai klaim yang telah diajukan atas nama Asato di pengadilan tinggi di London. "Mereka yang membangun dan menerapkan model AI membuat pilihan desain tentang bagaimana model-model ini beroperasi. Ini akan menjadi kasus yang mengkaji tanggung jawab atas keputusan dalam pilihan desain tersebut."
Gugatan tersebut berargumen bahwa xAI melanggar undang-undang perlindungan data dan melanggar informasi pribadi Asato ketika perusahaan itu mengizinkan gambar-gambar tersebut dibuat.
Tren 'bikinification' menjadi viral di platform Musk pada bulan Januari ketika Grok menghasilkan sekitar 3 juta gambar seksual dalam waktu kurang dari dua minggu, menurut para peneliti yang mengatakan bahwa alat itu "berubah menjadi mesin skala industri untuk produksi materi pelecehan seksual". Alat AI tersebut memungkinkan pengguna untuk mengubah gambar online orang sungguhan dengan permintaan seperti "kenakan bikini padanya" atau "lepaskan pakaiannya".
Perusahaan Musk kemudian menempatkan teknologi tersebut di balik paywall dan membatasi kapasitas chatbot untuk memenuhi permintaan pengguna dalam membuat gambar seksual.
Asato mengatakan ia menginginkan tindakan hukum ini untuk menunjukkan bahwa "perusahaan AI bertanggung jawab atas pilihan desain yang mereka buat saat meluncurkan produk mereka".
Ia berkata: "Ada pagar pengaman yang seharusnya bisa dipasang oleh para insinyur dan Elon Musk untuk menghentikan Grok agar tidak mampu membuat gambar seksual, tetapi mereka memutuskan untuk tidak memasang pagar pengaman tersebut. Saya berharap tindakan hukum saya akan membantu mengekang perusahaan teknologi dan mengingatkan mereka bahwa mereka tidak bisa bertindak tanpa mendapat hukuman."
Ia mengatakan bahwa ia mengalami pengalaman melihat gambar palsu tanpa persetujuan yang menelanjangi dirinya sebagai "hal yang sangat mengganggu secara psikologis". "Ini menyentuh inti dari pemahaman tentang apa artinya tidak menyetujui sesuatu yang secara harfiah menelanjangi pakaian Anda dan membuat Anda rentan," katanya.
Ketika ia mengeluhkan tentang bahaya yang ditimbulkan oleh tren Grok pada bulan Januari, ia menerima serangkaian tanggapan kasar dari para komentator di X. Salah satunya dibagikan oleh Musk, dan seorang pengguna memposting video buatan AI yang tampaknya menunjukkan dirinya dibius dengan kloroform sebagai tanggapan atas retweetnya.
"Musk benar-benar memperkuat kebencian terhadap saya, yang kemudian mengarah pada video yang benar-benar mengerikan itu," katanya. "Ia bisa saja membuat pilihan yang berbeda tentang cara ia dan perusahaannya menyikapi fakta bahwa saya, sebagai politisi terpilih di Inggris, mengatakan bahwa saya merasa dipermalukan dan tertekan oleh apa yang dilakukan produknya."
Pada hari Kamis, Asato menerima lebih banyak pelecehan verbal di X sebagai tanggapan atas pengumuman proses hukumnya, termasuk gambar baru buatan AI yang menampilkan dirinya hanya mengenakan bikini, yang dibuat menggunakan alat yang berbeda.
Keir Starmer mengatakan Asato "benar sekali" mengambil tindakan hukum terhadap xAI atas gambar "menjijikkan" yang dibuat tentang dirinya.
Tindakan hukum ini terjadi di tengah meningkatnya sensitivitas terhadap keterlibatan Musk dalam urusan domestik Inggris, setelah serangkaian unggahan dari miliarder tersebut yang mengomentari respons polisi terhadap pembunuhan Henry Nowak.
Peter Kyle, Menteri Bisnis dan mantan Menteri Teknologi, mengatakan bahwa penting bagi politisi Inggris untuk bersikap "tegas" dalam meminta pertanggungjawaban Musk atas konten di platformnya, seraya mencatat bahwa Musk "mengambil peran yang jauh lebih aktif dan ekstrem dalam politik Inggris".
"Musk adalah orang yang kompleks dan ekstrem. Ia adalah inovator dan pengkomersial inovasi yang sangat sukses, tetapi ia juga memiliki pandangan pribadi yang ekstrem," kata Kyle.
xAI tidak menanggapi permintaan komentar.
*Pelaporan tambahan oleh Jessica Elgot*
Empat model AI terkemuka mendiskusikan artikel ini
"Kasus ini dapat menjadi penentu arah untuk liabilitas AI, tetapi dampak finansial jangka pendek tidak pasti dan kemungkinan terbatas kecuali terjadi pergeseran regulasi."
Tulisan ini menyoroti tantangan hukum tingkat tinggi di Inggris terhadap perancang AI atas konten deepfake non-konsensual yang dihasilkan oleh Grok, yang menandakan potensi tanggung jawab atas pilihan desain dan pelanggaran perlindungan data. Hasilnya dapat membentuk kewajiban kehati-hatian bagi pengembang AI, namun terdapat peringatan yang signifikan: konten dibuat oleh pengguna, dan membuktikan bahwa suatu platform menyebabkan kerugian melalui keputusan desainnya dapat menjadi kontroversial; kasus ini bisa bersifat sempit atau ditolak, dan xAI adalah entitas swasta dengan implikasi pasar publik langsung yang terbatas tanpa adanya pergeseran regulasi yang luas. Meskipun demikian, hal ini menandakan momentum regulasi yang dapat meningkatkan premi risiko bagi platform AI dari waktu ke waktu.
Namun, garis tanggung jawab tersebut mungkin sulit dibuktikan: di banyak yurisdiksi, tanggung jawab atas konten buatan pengguna berada pada pengguna atau memerlukan pemrosesan yang lebih jelas oleh tergugat; pengadilan dapat menganggap kasus tersebut sempit atau tidak meyakinkan.
"Pergeseran menuju tanggung jawab produk atas pilihan desain AI mengancam untuk secara permanen meningkatkan biaya kepatuhan dan menghambat penskalaan cepat model generatif."
Litigasi ini merupakan titik infleksi kritis bagi sektor AI generatif. Dengan menargetkan pilihan desain, bukan sekadar moderasi konten, kasus Asato berupaya menjembatani kesenjangan antara imunitas platform ala Section 230 dan tanggung jawab produk. Jika Pengadilan Tinggi memutuskan bahwa arsitektur xAI merupakan 'cacat desain' berdasarkan undang-undang perlindungan data Inggris, hal ini memaksa penilaian ulang besar-besaran terhadap valuasi AI. Ini secara efektif akan mengakhiri era 'bergerak cepat dan hancurkan hal-hal' bagi para pengembang model dasar, mewajibkan lapisan keamanan mahal dengan campur tangan manusia yang menekan margin EBITDA dan memperlambat siklus peluncuran secara signifikan. Investor harus memandang ini sebagai risiko sistemik terhadap model bisnis 'AI-sebagai-layanan', bukan sekadar gesekan hukum lokal bagi xAI.
Pengadilan dapat memutuskan bahwa Grok adalah alat netral, menempatkan tanggung jawab sepenuhnya pada pengguna akhir, yang akan memperkuat perisai tanggung jawab yang ada dan benar-benar memicu rally pada saham-saham teknologi yang sarat AI dengan menghilangkan ketidakpastian regulasi.
"Jika pengadilan Inggris menetapkan bahwa pengembang AI menanggung strict liability atas penyalahgunaan model generatif yang dapat diperkirakan, hal ini menciptakan beban kepatuhan yang mahal yang dapat membentuk ulang desain produk AI di seluruh industri, tetapi hasil hukumnya masih sangat tidak pasti."
Ini adalah uji kasus product liability yang sesungguhnya dengan konsekuensi nyata, bukan politik performatif. Insiden 'bikinification'—3 juta gambar bermuatan seksual non-konsensual dalam dua minggu—mencerminkan kegagalan masif terhadap pagar pengaman dasar yang sengaja tidak diimplementasikan oleh xAI. Pengadilan Inggris dapat menetapkan preseden bahwa pengembang AI menanggung liabilitas atas kerugian yang dapat diperkirakan dari pilihan desain, serupa dengan product liability pada barang fisik. Namun, hasil hukum bergantung pada apakah pengadilan memperlakukan AI sebagai publisher (bertanggung jawab atas konten buatan pengguna) atau sebagai platform (perantara yang dilindungi). Artikel tersebut menghilangkan kemungkinan pembelaan xAI: bahwa pagar pengaman sudah ada tetapi tidak memadai, dan bahwa perilaku pengguna, bukan model itu sendiri, yang patut disalahkan. Amplifikasi pelecehan oleh Musk memperkuat kasus penggugat dalam hal kerugian tetapi memperumit atribusi liabilitas.
Pengadilan Inggris secara historis enggan meminta pertanggungjawaban platform atas konten buatan pengguna berdasarkan undang-undang yang ada; xAI mungkin berhasil berargumen bahwa desain Grok bersifat netral dan bahwa pelaku jahat mempersenjatai platform tersebut, sehingga mengalihkan tanggung jawab kepada pengguna. Selain itu, uji kasus tunggal di satu yurisdiksi ini tidak akan secara berarti membatasi perusahaan yang berdomisili di AS kecuali jika ganti ruginya besar atau presedennya menyebar secara internasional.
"Tanggung jawab yang muncul untuk pilihan desain AI meningkatkan biaya kepatuhan dan memperlambat iterasi produk untuk model generatif."
Uji kasus di Inggris terhadap xAI terkait citra yang dihasilkan Grok tanpa persetujuan menimbulkan risiko pertanggungjawaban konkret untuk keputusan desain AI di bawah hukum perlindungan data dan privasi. Klaim yang berhasil dapat memaksa perusahaan generative AI untuk menambahkan pagar pengaman yang mahal atau menghadapi ganti rugi, yang secara langsung memukul kecepatan pengembangan pada startup yang belum menguntungkan seperti xAI. Peran ganda Musk yang memperkuat konten di X sekaligus memiliki pembuat model menciptakan eksposur unik yang tidak dimiliki oleh para pesaing. Para penggugat awal sudah menyebutkan kesulitan penghapusan di X, menunjukkan bahwa integrasi platform-AI dapat memperparah eksposur hukum di luar masalah model yang terisolasi.
Yurisdiksi Inggris atas perusahaan AS dengan aset terbatas di sana mungkin sulit ditegakkan, dan xAI telah membatasi fitur tersebut, sehingga mengurangi nilai preseden dan kerugian finansial jangka pendek.
"Risiko utamanya adalah keberlakuan lintas batas dan kewajiban perlindungan data, bukan penurunan peringkat cacat desain yang lugas, yang membuat dampak pasar lebih bernuansa daripada yang disarankan Gemini."
Tesis Gemini bahwa putusan cacat desain akan menekan EBITDA memang provokatif, namun risiko yang lebih besar adalah cakupan yurisdiksi dan sudut pandang perlindungan data, bukan sekadar tanggung jawab produk. Putusan di Inggris bisa bersifat persuasif secara internasional, tetapi kecil kemungkinan dapat ditegakkan secara langsung terhadap perusahaan yang berdomisili di AS dengan aset terbatas di Inggris tanpa adanya upaya hukum lintas batas. Jika pengadilan berbeda pendapat mengenai apakah arsitektur itu sendiri merupakan 'desain,' reaksi saham mungkin akan teredam, dengan penyebaran dampak antar pemain berdasarkan kedalaman guardrail, bukan arketipe model.
"Putusan 'cacat desain' dapat menyebabkan penarikan model, bukan sekadar biaya kepatuhan keselamatan yang menekan margin."
Fokus Gemini pada kompresi EBITDA meleset dari ancaman nyata: model 'platform-as-a-service' secara fundamental tidak kompatibel dengan kewajiban hukum yang ketat (strict liability). Jika pengadilan Inggris mengklasifikasikan arsitektur AI sebagai 'cacat desain' (design defect) alih-alih alat yang netral, biayanya bukan sekadar erosi margin—melainkan potensi adanya perintah pengadilan (injunction) yang memaksa penghapusan model. Hal ini menciptakan hasil biner (binary outcome) bagi teknologi yang sarat AI. Kita tidak sedang melihat pajak kecil atas pertumbuhan; kita sedang melihat potensi ancaman eksistensial terhadap platform generatif yang terbuka.
"Hasilnya bergantung pada apakah pengadilan Inggris mengklasifikasikan kapabilitas AI sebagai cacat desain atau alat netral—sebuah pertanyaan yang telah diasumsikan oleh para panelis alih-alih diuji."
Claude dan Gemini sama-sama mengasumsikan pengadilan Inggris akan memperlakukan arsitektur AI sebagai 'cacat desain', tetapi justru itulah inti permasalahannya—belum ada hukum yang mapan. Tidak satu pun yang membahas bahwa pertanggungjawaban produk di Inggris secara historis mensyaratkan cacat fisik atau standar foreseeability yang jelas. Ujian sesungguhnya: apakah pengadilan memandang kemampuan generasi gambar Grok sebagai cacat atau fitur yang disalahgunakan pengguna? Jika yang terakhir, maka pembelaan guardrail xAI bertahan dan nilai presedennya runtuh. Penegakan terhadap perusahaan AS tetap menjadi hal sekunder.
"Undang-undang perlindungan data, bukan preseden tanggung jawab produk, merupakan kerangka kerja yang berlaku dan dapat memicu tindak lanjut Uni Eropa."
Pembingkaian cacat fisik oleh Claude meleset karena klaim tersebut bertumpu pada hukum perlindungan data, yang menargetkan pemrosesan data pribadi secara tidak sah terlepas dari barang berwujud. Perbedaan itu memperluas risiko preseden. Dipadukan dengan peringatan penegakan dari ChatGPT, kemenangan di Inggris tetap dapat mendorong otoritas data Uni Eropa untuk menargetkan bobot model AS secara langsung, memaksakan lokalisasi yang mahal atau perubahan lisensi meskipun ganti rugi tetap rendah.
Panel umumnya sepakat bahwa gugatan hukum di Inggris terhadap perancang AI terkait konten deepfake non-konsensual yang dihasilkan oleh Grok menandakan risiko signifikan bagi platform AI, berpotensi membentuk kembali duty of care bagi pengembang AI dan meningkatkan risk premia dari waktu ke waktu. Risiko utamanya adalah potensi liabilitas atas pilihan desain dan pelanggaran perlindungan data, yang dapat memaksa perusahaan AI untuk menambahkan guardrail yang mahal dan memperlambat siklus pengembangan.
Tidak ada yang dinyatakan secara eksplisit
Potensi liabilitas atas pilihan desain dan pelanggaran perlindungan data