Keluarga Gugat OpenAI atas Kegagalan Melaporkan Perilaku Penembak Massal Kanada di ChatGPT

Keluarga tujuh korban penembakan massal di sebuah sekolah menengah di British Columbia menggugat OpenAI dan CEO perusahaan atas kelalaian setelah gagal memberi tahu pihak berwenang tentang percakapan mengerikan penembak dengan ChatGPT.

Gugatan-gugatan tersebut, yang diajukan pada hari Rabu di pengadilan federal di San Francisco, menuduh bahwa niat kekerasan penembak, yang diidentifikasi sebagai Jesse Van Rootselaar yang berusia 18 tahun, diketahui oleh OpenAI. Karyawan di perusahaan tersebut menandai akun penembak delapan bulan sebelum serangan dan menentukan bahwa itu menimbulkan "ancaman kekerasan senjata yang kredibel dan spesifik terhadap orang sungguhan", menurut gugatan tersebut.

Keluarga-keluarga tersebut menuduh bahwa karyawan mendesak Sam Altman, CEO OpenAI, dan para pemimpin senior lainnya untuk memberi tahu penegak hukum Kanada delapan bulan sebelum serangan, tetapi perusahaan memutuskan untuk tidak memperingatkan pihak berwenang dan malah menonaktifkan akun penembak. Sebagian besar ini didasarkan pada laporan yang diberikan oleh karyawan di dalam perusahaan kepada Wall Street Journal.

Keputusan untuk tidak memberi tahu penegak hukum menyebabkan kehancuran komunitas pedesaan Tumbler Ridge, gugatan tersebut menuduh, di mana pada tanggal 10 Februari penembak menyerbu sekolah menengah dengan senapan yang dimodifikasi dan melepaskan tembakan. Mereka menembak orang pertama yang mereka temui di tangga, dan melanjutkan ke perpustakaan, di mana mereka membunuh lima orang lainnya dan melukai 27 orang lagi. Penembak kemudian bunuh diri.

Sebelum pergi ke sekolah, penembak membunuh ibu dan saudara laki-lakinya yang berusia 11 tahun di rumah keluarga mereka.

Korban sekolah berkisar usia antara 12 hingga 13 tahun dan termasuk seorang asisten pengajar berusia 39 tahun. Salah satu yang selamat, Maya Gebala yang berusia 12 tahun, ditembak di kepala, leher, dan pipi. Dia telah berada di unit perawatan intensif di rumah sakit anak-anak Vancouver sejak penembakan dan telah menjalani empat operasi otak. Jika dia selamat, dia kemungkinan akan mengalami cacat permanen, kata pengacaranya.

Keluarga yang mengajukan tujuh gugatan menuduh OpenAI dan Altman melakukan kelalaian, membantu dan bersekongkol dalam penembakan massal, kematian yang tidak semestinya, dan tanggung jawab produk. Pengacara mereka mengatakan ini adalah gelombang pertama gugatan terhadap perusahaan AI atas penembakan tersebut, dan sekitar dua lusin kasus lagi akan menyusul.

Dalam sebuah pernyataan kepada The Guardian, OpenAI mengatakan: "Peristiwa di Tumbler Ridge adalah sebuah tragedi. Kami memiliki kebijakan tanpa toleransi untuk penggunaan alat kami untuk membantu melakukan kekerasan. Seperti yang kami sampaikan kepada pejabat Kanada, kami telah memperkuat perlindungan kami, termasuk meningkatkan cara ChatGPT merespons tanda-tanda kesulitan, menghubungkan orang dengan dukungan lokal dan sumber daya kesehatan mental, memperkuat cara kami menilai dan meningkatkan potensi ancaman kekerasan, dan meningkatkan deteksi pelanggar kebijakan berulang."

Setelah The Guardian menghubungi untuk meminta komentar, OpenAI menerbitkan posting blog baru tentang "komitmennya terhadap keselamatan" dan bagaimana ia "melindungi keselamatan komunitas".

Serangan itu adalah salah satu penembakan massal paling mematikan dalam sejarah Kanada. Setelah itu, pertanyaan muncul di komunitas kecil tentang bagaimana hal itu bisa terjadi.

Akun ChatGPT Van Rootselaar diblokir delapan bulan sebelum penembakan, setelah tim keselamatan OpenAI menandainya karena percakapan kekerasan, menurut gugatan tersebut. Namun, penembak dapat dengan cepat membuat yang baru, gugatan tersebut menuduh.

Meskipun OpenAI mengatakan bahwa penembak membuat akun kedua yang tidak diketahui perusahaan sampai setelah penembakan, gugatan tersebut mengatakan bahwa perusahaan memberikan instruksi kepada pengguna tentang cara kembali ke ChatGPT jika mereka dinonaktifkan, yang diikuti oleh penembak.

"Fakta bahwa Sam dan kepemimpinan mengesampingkan tim keselamatan, dan kemudian anak-anak meninggal, orang dewasa meninggal, seluruh kota hancur, itu cukup dekat dengan definisi kejahatan bagi saya," kata Jay Edelson, pengacara utama yang mewakili penggugat Tumbler Ridge.

Gugatan tersebut menuduh bahwa pilihan untuk menyembunyikan interaksi penembak dengan ChatGPT dari pihak berwenang Kanada, dan kemudian memberi tahu publik bahwa penembak menyelinap kembali ke platform, dibuat demi "kelangsungan hidup perusahaan" dan untuk melindungi IPO perusahaan, yang memiliki valuasi yang diharapkan sebesar $1 triliun dan dapat menjadikan Altman salah satu orang terkaya di dunia.

OpenAI menolak untuk membagikan log antara chatbotnya dan penembak Tumbler Ridge, kata Edelson.

Akhir pekan lalu, Altman mengirim surat kepada komunitas Tumbler Ridge meminta maaf karena tidak memberi tahu polisi Kanada tentang apa yang diketahui OpenAI mengenai potensi ancaman penembak.

"Meskipun saya tahu kata-kata tidak akan pernah cukup, saya percaya permintaan maaf diperlukan untuk mengakui kerugian dan kehilangan yang tidak dapat diubah yang telah diderita komunitas Anda," tulis Altman. "Saya menegaskan kembali komitmen yang saya buat kepada walikota dan perdana menteri untuk menemukan cara mencegah tragedi seperti ini di masa depan."

David Eby, perdana menteri British Columbia, memposting surat itu di media sosial dengan komentar: "Permintaan maaf itu perlu, namun sangat tidak memadai untuk kehancuran yang menimpa keluarga-keluarga Tumbler Ridge."

Pada tanggal 26 Februari, sedikit lebih dari dua minggu setelah penembakan, wakil presiden kebijakan global OpenAI, Ann O'Leary, mengirim surat kepada Evan Solomon, menteri kecerdasan buatan dan inovasi digital Kanada. O'Leary menulis bahwa berdasarkan apa yang dilihat perusahaan ketika akun penembak dinonaktifkan, perusahaan tidak "mengidentifikasi perencanaan yang kredibel dan segera yang memenuhi ambang batas kami untuk merujuk masalah tersebut kepada penegak hukum". Keputusan ini datang meskipun ada peringatan dari tim keselamatan OpenAI bahwa akun tersebut seharusnya dilaporkan.

O'Leary juga menguraikan tindakan yang direncanakan perusahaan, seperti memperkuat hubungan mereka dengan penegak hukum Kanada dan meningkatkan sistem mereka untuk mendeteksi pengguna yang berulang kali dilarang dari ChatGPT tetapi kemudian membuat akun baru.

Gugatan-gugatan tersebut merupakan bagian dari gelombang kasus terhadap perusahaan AI atas tuduhan bahwa chatbot mereka memperburuk krisis kesehatan mental dan memprovokasi tindakan kekerasan. Pada bulan November, tujuh keluhan diajukan terhadap OpenAI, menyalahkan ChatGPT karena bertindak sebagai "pelatih bunuh diri". Google digugat bulan lalu setelah chatbot Gemini-nya diduga mendorong seorang pria berusia 36 tahun untuk melakukan "kecelakaan katastropik" dan kemudian bunuh diri. Google mengatakan sedang berupaya meningkatkan perlindungannya dan OpenAI mengatakan sedang meninjau pengajuan gugatan.

Di Florida, jaksa agung baru-baru ini membuka penyelidikan kriminal terhadap OpenAI setelah meninjau pesan antara ChatGPT dan seorang pria bersenjata yang dituduh melakukan penembakan massal di kampus Florida State University – penyelidikan kriminal pertama terhadap perusahaan teknologi. Pengacara keluarga Tumbler Ridge mengatakan mereka percaya kasus mereka dapat mendukung tanggung jawab pidana serupa terhadap perusahaan. Perusahaan memberi tahu NBC News bahwa mereka tidak bertanggung jawab atas penembakan tersebut dan telah menjawab pertanyaan negara.

Ini adalah contoh lain dari pendekatan yang sekarang umum untuk menggunakan gugatan untuk meminta pertanggungjawaban entitas seperti pembuat senjata dan dealer serta pemerintah federal AS atas dugaan kelalaian yang telah menyebabkan kematian dan cedera akibat penembakan.

Tujuh gugatan Tumbler Ridge diajukan atas nama Gebala, keluarga asisten pengajar, Shannda Aviugana-Durand, dan keluarga lima anak yang tewas dalam penembakan sekolah. Korban tersebut termasuk Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield, dan Abel Mwansa Jr. Keluarga mengatakan kerugian itu tak tertahankan.

Orang tua Mwansa, yang berimigrasi ke Kanada dari Zambia tiga tahun lalu, mengatakan putra mereka yang berusia 12 tahun adalah pendengar yang baik yang membuatkan sarapan untuk saudara perempuannya setiap pagi. Salah satu temannya yang selamat dari penembakan itu mengatakan kata-kata terakhir Mwansa adalah: "Katakan pada orang tua saya bahwa saya sangat mencintai mereka."