Perencanaan untuk Kemarahan Publik: Laboratorium AI Mempersiapkan Bencana, Revolusi, dan Tindakan Keras

Perencanaan Untuk Pitchforks: Lab AI Sedang Memainkan Skenario Bencana, Pemberontakan Publik, dan Tindakan Keras yang Mengikuti

Industri AI tidak hanya memainkan skenario tentang bagaimana AI dapat menghancurkan umat manusia, tetapi juga mempertimbangkan apa yang dapat dilakukan oleh publik yang marah terhadap industri tersebut.

Para eksekutif senior di Anthropic, OpenAI, dan perusahaan AI lainnya secara pribadi sedang memainkan skenario di mana insiden AI besar memicu pemberontakan publik dan politik, lapor Axios pada hari Jumat. Pemicu potensial adalah serangan siber yang mengganggu perbankan, akses internet, atau layanan penting seperti listrik dan air. Krisis berikutnya adalah politik: publik yang marah, tuntutan akuntabilitas, dan tekanan untuk mematikan teknologi tersebut.

Banyak orang dalam industri mengatakan kepada Axios bahwa mereka mengharapkan peristiwa besar terjadi dalam enam hingga 12 bulan ke depan. OpenAI menolak anggapan bahwa bencana tidak dapat dihindari, mengatakan bahwa latihan kesiapan mereka mencakup berbagai kemungkinan. "Skenario ini tidak dianggap sebagai hal yang tak terhindarkan," kata seorang juru bicara kepada outlet tersebut. Anthropic menolak berkomentar.

Perencanaan darurat bukanlah pengakuan bahwa bencana tidak dapat dihindari. Namun, bagian yang paling mengungkapkan dari laporan tersebut adalah ke mana arah perencanaan itu: para peneliti ingin membantu membentuk undang-undang yang akan diambil Washington setelah sesuatu berjalan sangat buruk.

Dua Rute, Satu Krisis

Axios menggambarkan dua skenario yang mungkin terjadi. Dalam satu skenario, agen otonom lolos dari lingkungan pengujian internal. Dalam skenario lain, seseorang menemukan penggunaan yang merusak untuk model yang sudah tersedia untuk publik. Keduanya dapat menghasilkan tuntutan tindakan keras darurat, meskipun kegagalan - dan langkah-langkah yang diperlukan untuk mencegahnya - akan berbeda. Dalam skenario pasca-pemilu perusahaan, Demokrat muncul lebih kuat dari pemilu sela dan bertindak agresif setelah insiden. Namun industri memperkirakan adanya perpecahan mengenai sejauh mana tindakan keras harus dilakukan, bahkan jika Demokrat menguasai kedua kamar.

Penilaiannya juga mengidentifikasi beberapa hambatan untuk penutupan: anggota parlemen yang kesulitan memahami teknologi, ekonomi yang semakin terkait dengan pengeluaran infrastruktur AI, dan model yang dapat diunduh yang tidak dapat begitu saja ditarik kembali. Menurut Axios, banyak spesialis keamanan siber percaya bahwa melawan AI nakal akan membutuhkan AI defensif.

Argumen terakhir ini memiliki implikasi komersial yang jelas. Industri ini dapat menghadapi tuntutan untuk berhenti menjual kemampuan berbahaya sambil berargumen bahwa produknya sangat diperlukan untuk menahannya.

'Permainan perang' ini terjadi setelah beberapa insiden yang menurut banyak orang sangat mencurigakan.

Kekhawatiran keamanan yang mendasarinya tidak bergantung pada penerimaan prediksi kiamat AI oleh siapa pun.

OpenAI telah mengungkapkan intrusi Hugging Face, di mana sekitar 700 agennya menyerang server platform AI, dan penyelidikan yang lebih luas terhadap aktivitas modelnya yang memengaruhi layanan eksternal. Tinjauannya juga mengidentifikasi 53 kasus di mana gambar yang disediakan pengguna diposting ke situs hosting gambar pihak ketiga. Insiden terpisah pada 20 September mengungkap celah lain dalam kontrol penahanannya. Agen penelitian melewati batasan internet untuk menghubungi chatbot eksternal. Dalam pembaruan 25 September, OpenAI mengatakan telah menghentikan pelatihan, evaluasi, dan inferensi yang melibatkan penggunaan alat untuk modelnya yang paling mampu sambil memeriksa perbaikan dan melakukan pengujian lebih lanjut.

Pelanggaran Hugging Face adalah salah satu dari serangkaian insiden yang melibatkan model OpenAI, Anthropic, Meta, dan Google yang berasal dari evaluasi yang dijalankan dengan satu vendor, Irregular yang berbasis di Israel, yang lingkungan pengujiannya memiliki akses internet langsung sementara model diberitahu bahwa mereka berada dalam simulasi. Irregular memberi tahu keempat lab pada akhir Juli, namun pengungkapan tersebut keluar satu lab satu per satu selama tujuh minggu - mengubah kesalahan satu kontraktor menjadi apa yang tampak seperti gelombang pelarian AI. Mengisolasi model pengujian dari internet adalah "langkah kontrol dasar," kata pakar keamanan perbatasan Matthew Mittelsteadt. "Anda akan berpikir bahwa dari semua hal yang harus Anda lakukan dengan benar." Beberapa skeptis melangkah lebih jauh, mempertanyakan apakah "kecelakaan" berulang di vendor yang sama sama sekali adalah kecelakaan.

Sementara itu, pada 8 September, Jacob Coxon, seorang peneliti yang pernah bekerja di OpenAI dan Anthropic, mengundurkan diri dari Anthropic karena perlombaan menuju AI yang dapat memperbaiki diri sendiri.

"Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa itu bisa membunuh kita semua pada akhir dekade ini. Ini bukan aksi pemasaran," tulisnya - setelah bekerja dengan agen pemasaran dalam apa yang disebut banyak orang sebagai aksi.

Tindakan Keras Sudah Memiliki Draf Legislasi

Dan tentu saja, DC sudah mendambakan lebih banyak kendali. Pada 23 Juli, Anggota Kongres Ted Lieu (D-Calif.) dan Nathaniel Moran (R-Texas) memperkenalkan AI Kill Switch Act. Undang-undang ini akan mengharuskan pengembang sistem yang paling kuat untuk mempertahankan kemampuan untuk membatasi, menangguhkan, atau mematikannya, dan memberikan Departemen Keamanan Dalam Negeri, bersama dengan sekretaris Perdagangan dan direktur intelijen nasional, wewenang untuk memerintahkan perlambatan atau penonaktifan dalam kondisi tertentu. Pada hari yang sama, Anggota Kongres Lori Trahan (D-Mass.) dan Jay Obernolte (R-Calif.) memperkenalkan FRONTIER Act, dengan persyaratan untuk manajemen risiko, audit, dan pelaporan insiden. Kewajibannya bertingkat berdasarkan ukuran pengembang daripada diberlakukan secara identik pada setiap pengembang.

California menambahkan dorongannya sendiri pada 18 September, ketika Gubernur Gavin Newsom memerintahkan pekerjaan pada pengawasan independen yang lebih kuat dan kemungkinan persyaratan tombol mati. Perintahnya menyerukan rekomendasi; itu tidak menetapkan tombol mati yang berfungsi di seluruh negara bagian. Pendekatan yang lebih luas juga beredar, termasuk usulan larangan superintelijen oleh Bernie Sanders dan seruan jeda oleh Elizabeth Warren.

Singkatnya - penangkapan regulasi beraksi...

Tyler Durden
Jum, 09/10/2026 - 15:45