OpenAI menghadapi penyelidikan pidana atas peran ChatGPT dalam penembakan

OpenAI menghadapi penyelidikan pidana di AS atas apakah teknologinya ChatGPT berperan dalam pembunuhan dua orang selama penembakan massal di Florida State University tahun lalu.

Jaksa Agung Florida James Uthmeier mengatakan pada hari Selasa bahwa kantornya telah menyelidiki penggunaan chatbot kecerdasan buatan (AI) oleh seorang pria yang diduga menembak beberapa orang di kampus di Tallahassee.

"Tinjauan kami telah mengungkapkan bahwa penyelidikan pidana diperlukan," kata Uthmeier. "ChatGPT memberikan nasihat penting kepada penembak ini sebelum dia melakukan kejahatan keji tersebut."

Seorang juru bicara OpenAI mengatakan: "ChatGPT tidak bertanggung jawab atas kejahatan mengerikan ini."

Ini tampaknya merupakan pertama kalinya OpenAI berada di bawah penyelidikan pidana atas penggunaan ChatGPT oleh seseorang yang diduga kemudian melakukan kejahatan.

Juru bicara OpenAI mengatakan perusahaan telah bekerja sama dengan pihak berwenang dan perusahaan tersebut "secara proaktif membagikan" informasi tentang "akun ChatGPT yang diyakini terkait dengan tersangka".

OpenAI didirikan bersama oleh Sam Altman. Dia dan perusahaan dengan cepat bergabung dengan nama-nama paling terkenal di industri teknologi setelah peluncuran ChatGPT pada tahun 2022 yang sekarang menjadi salah satu alat AI yang paling banyak digunakan di dunia.

Mengenai bagaimana tersangka, mahasiswa FSU berusia 20 tahun Phoenix Ikner, yang kini dipenjara menunggu persidangan, berinteraksi dengan ChatGPT, juru bicara OpenAI mengatakan chatbot tersebut "tidak mendorong atau mempromosikan aktivitas ilegal atau berbahaya".

"Dalam kasus ini, ChatGPT memberikan tanggapan faktual terhadap pertanyaan dengan informasi yang dapat ditemukan secara luas di sumber publik di internet."

Namun, Uthmeier mengatakan ChatGPT "menyarankan penembak tentang jenis senjata yang harus digunakan" dan tentang jenis amunisi.

Dia mengatakan ChatGPT juga menyarankan penembak tentang "jam berapa… dan di mana di kampus penembak dapat bertemu dengan populasi yang lebih tinggi".

"Jaksa saya telah melihat ini, dan mereka memberi tahu saya bahwa jika itu adalah orang di ujung lain layar itu, kami akan menuntut mereka atas pembunuhan," kata Uthmeier.

Dia menambahkan bahwa, menurut hukum Florida, siapa pun yang "membantu, menyuruh, atau menasihati seseorang" dalam upaya melakukan atau melakukan kejahatan dianggap sebagai "pelaku utama" dalam kejahatan tersebut.

Meskipun ChatGPT tidak dianggap sebagai orang, Uthmeier mengatakan kantornya perlu menentukan "kesalahan pidana" bagi perusahaan di balik bot tersebut, OpenAI.

Perusahaan tersebut sudah menghadapi gugatan atas insiden lain di mana chatbotnya mungkin menjadi faktor.

Awal tahun ini, seorang pria berusia 18 tahun menembak dan membunuh sembilan orang dan melukai dua lusin lainnya di British Columbia.

OpenAI mengatakan setelah insiden tersebut, perusahaan telah mengidentifikasi dan memblokir akun penembak berdasarkan penggunaannya, tetapi tidak merujuk masalah tersebut ke polisi. Perusahaan mengatakan bermaksud untuk memperkuat langkah-langkah keamanannya.

Orang tua seorang gadis muda yang terluka dalam serangan itu mengajukan gugatan terhadap perusahaan tersebut.

Tahun lalu, koalisi 42 jaksa agung negara bagian mengirim surat kepada 13 perusahaan teknologi dengan chatbot AI, termasuk OpenAI, Google, Meta, dan Anthropic.

Surat tersebut menguraikan kekhawatiran mereka atas peningkatan penggunaan AI oleh orang-orang "yang mungkin tidak menyadari bahaya yang dapat mereka temui" dan menyerukan "pengujian keamanan yang kuat, prosedur penarikan, dan peringatan yang jelas kepada konsumen".

Surat itu juga mengutip semakin banyaknya "tragedi di seluruh negeri," termasuk pembunuhan dan bunuh diri yang tampaknya melibatkan beberapa penggunaan AI.