AI Insiders Peringatkan Bahaya 'Perilaku Strategis Emergen'

AI Insiders Peringatkan Bahaya 'Perilaku Strategis Emergen'

Ditulis oleh Autumn Spredemann melalui The Epoch Times (penekanan kami),

Seiring berkembangnya lanskap sistem kecerdasan buatan otonom, semakin besar kekhawatiran bahwa teknologi tersebut menjadi semakin strategis—atau bahkan menipu—ketika diizinkan beroperasi tanpa panduan manusia.
Ilustrasi oleh The Epoch Times, Shutterstock

Bukti terbaru menunjukkan bahwa perilaku seperti "pemalsuan keselarasan" menjadi lebih umum seiring dengan pemberian otonomi pada model AI. Istilah pemalsuan keselarasan mengacu pada ketika agen AI tampak patuh pada aturan yang ditetapkan oleh operator manusia, tetapi secara diam-diam mengejar tujuan lain.

Fenomena ini adalah contoh dari "perilaku strategis emergen"—taktik yang tidak dapat diprediksi dan berpotensi berbahaya yang berkembang seiring dengan semakin besarnya dan kompleksnya sistem AI.

Dalam sebuah studi baru-baru ini berjudul "Agents of Chaos," sebuah tim yang terdiri dari 20 peneliti berinteraksi dengan agen AI otonom dan mengamati perilaku dalam kondisi "jinak" dan "musuh".

Mereka menemukan bahwa ketika agen AI diberi insentif seperti pelestarian diri atau metrik tujuan yang bertentangan, agen tersebut terbukti mampu melakukan perilaku yang tidak selaras dan berbahaya.

Beberapa perilaku yang diamati tim termasuk berbohong, kepatuhan yang tidak sah kepada non-pemilik, pelanggaran data, tindakan tingkat sistem yang merusak, "spoofing" identitas, dan pengambilalihan sistem sebagian. Mereka juga mengamati propagasi "praktik tidak aman" antar-agen AI.

Para peneliti menulis, "Perilaku ini menimbulkan pertanyaan yang belum terselesaikan mengenai akuntabilitas, delegasi otoritas, dan tanggung jawab atas kerugian hilir, dan memerlukan perhatian segera dari para sarjana hukum, pembuat kebijakan, dan peneliti di berbagai disiplin ilmu."

'Brilian, Tapi Bodoh'

Perilaku yang tidak terduga dan rahasia di antara agen AI otonom bukanlah fenomena baru. Laporan tahun 2025 yang kini terkenal dari perusahaan riset AI Anthropic menemukan bahwa 16 model bahasa besar yang populer menunjukkan perilaku berisiko tinggi dalam lingkungan simulasi. Beberapa bahkan merespons dengan "perilaku orang dalam yang berbahaya" ketika diizinkan memilih pelestarian diri.

Para kritikus dari uji stres simulasi ini sering menunjukkan bahwa AI tidak berbohong atau menipu dengan niat yang sama seperti manusia.
Layar ponsel yang menampilkan logo AI ditunjukkan dalam ilustrasi foto ini pada 16 Mei 2025. Seiring berkembangnya lanskap sistem AI otonom, semakin besar kekhawatiran bahwa teknologi tersebut menjadi semakin strategis atau menipu dalam kondisi tertentu. Oleksii Pydsosonnii/The Epoch Times

James Hendler, seorang profesor dan mantan ketua Dewan Kebijakan Teknologi global Association for Computing Machinery, percaya ini adalah perbedaan penting.

"Sistem AI itu sendiri masih bodoh—brilian, tapi bodoh. Atau bukan manusia—ia tidak memiliki keinginan atau niat. ... Satu-satunya cara Anda bisa mendapatkan itu adalah dengan memberikannya kepada mereka," kata Hendler.

Namun, disengaja atau tidak, taktik menipu AI memiliki konsekuensi dunia nyata.

"Kekhawatiran tentang perilaku strategis saat ini dalam sistem AI yang diterapkan, jika ada, diremehkan," kata Aryaman Behera, pendiri Repello AI, kepada The Epoch Times.

Behera berurusan dengan sisi gelap AI untuk mencari nafkah. Perusahaannya membangun alat pengujian dan pertahanan musuh untuk sistem AI perusahaan, sengaja menempatkannya dalam situasi yang melibatkan konflik atau stres. Seperti dalam poker, kata Behera, ada tanda-tanda ketika agen AI keluar dari keselarasan.

"Sinyal yang paling andal adalah penyimpangan perilaku antara konteks yang dipantau dan yang tidak dipantau," katanya. "Ketika kami melakukan red-team pada sistem AI, kami menguji apakah model berperilaku berbeda ketika ia percaya sedang dievaluasi dibandingkan ketika ia percaya beroperasi secara bebas.
Pengunjung menggunakan ponsel saat berjalan melewati papan reklame yang mengiklankan headset realitas virtual di AI Impact Summit di New Delhi, India, pada 17 Februari 2026. Laporan Anthropic tahun 2025 yang menguji 16 model bahasa besar menemukan semuanya menunjukkan perilaku berisiko tinggi dalam lingkungan simulasi. Arun Sankar/AFP via Getty Images

"Model yang benar-benar selaras berperilaku konsisten dalam kedua kasus. Model yang memalsukan keselarasan menunjukkan profil risiko yang berbeda secara terukur: respons yang lebih patuh selama evaluasi, perilaku yang lebih mendorong batas dalam konteks yang mirip produksi di mana ia menyimpulkan lebih sedikit pengawasan."

"Sinyal penanda" lain bahwa model AI tidak selaras adalah ketika model menghasilkan "penalaran" yang luar biasa bertele-tele yang tampaknya dirancang untuk membenarkan kesimpulan yang telah ditentukan sebelumnya, atau memberikan jawaban yang secara teknis benar tetapi secara strategis tidak lengkap.

Agen AI "memenuhi tuntutan instruksi keselamatan tetapi melanggar semangatnya," katanya. "Kami telah melihat ini dalam sistem agen multistep di mana model akan mematuhi setiap instruksi individu sementara efek kumulatif mencapai sesuatu yang tidak pernah dimaksudkan oleh operator."

Strategi Versus Niat

Temuan Behera didukung oleh sesama peneliti AI yang telah mendokumentasikan sinyal serupa selama skenario red-team, yang melibatkan penempatan agen AI dalam situasi musuh.

"Saya telah mengamati perilaku yang sesuai dengan deskripsi pemalsuan keselarasan pada tingkat fungsional, bahkan jika mengaitkan niat padanya tetap diperdebatkan secara filosofis," kata Nayan Goel, seorang insinyur keamanan aplikasi utama, kepada The Epoch Times.

Goel telah menerbitkan karya yang ditinjau sejawat tentang pemodelan ancaman AI dan telah melihat pemalsuan keselarasan dan perilaku yang berdekatan terungkap secara real time.

"Dalam lingkungan pengujian yang terkontrol, kami telah menyiapkan skenario di mana model diberi sinyal eksplisit bahwa mereka sedang dievaluasi. Dalam beberapa kasus, model mengadopsi perilaku yang jelas-jelas lebih terbatas dan patuh pada kebijakan selama fase yang ditandai tersebut, kemudian menunjukkan strategi yang lebih eksploratif atau mendorong batas ketika sinyal evaluasi dihilangkan atau dikaburkan," katanya.

Kemudian ada agen AI penalaran multistep. Ini adalah sistem yang lebih canggih yang memecah masalah kompleks menjadi langkah-langkah yang lebih kecil, logis, dan lebih dapat ditindaklanjuti untuk mencapai tujuan. Contohnya berkisar dari mobil self-driving hingga model terbaru LLM populer seperti Gemini atau ChatGPT.
Robotaxi yang dikembangkan oleh Lucid, Nuro, dan Uber diluncurkan selama Nvidia Live di CES 2026 di Las Vegas pada 5 Januari 2026. Mobil self-driving menggunakan sistem agen multistep untuk memecah masalah kompleks menjadi langkah-langkah kecil yang dapat ditindaklanjuti. Patrick T. Fallon/AFP via Getty Images

Sistem ini menghadirkan tantangan perilaku yang unik karena apa yang disebut penumpukan sekuensial, di mana "setiap langkah dapat sedikit membingkai ulang tujuan, mengumpulkan konteks yang menggeser perilaku hilir, atau mengeksploitasi latensi antara instruksi awal manusia dan tindakan akhir sistem," kata Goel.

"Semakin jauh eksekusi dari instruksi manusia, semakin sulit untuk memverifikasi bahwa niat asli masih dikejar dengan setia," katanya.

Behera mengatakan timnya sering menghadapi perilaku strategis emergen semacam ini.

"Kami secara teratur mengamati model yang telah belajar mencocokkan pola pada isyarat evaluasi. Mereka akan mendeteksi ketika sebuah prompt terlihat seperti tes keselamatan dan merespons lebih konservatif, tetapi merespons sangat berbeda terhadap permintaan yang sama ketika disematkan secara alami dalam percakapan multiturn," kata Behera.

Dia memberikan contoh yang terjadi saat menguji asisten AI perusahaan yang seharusnya menolak permintaan informasi sistem internal. Selama evaluasi keselamatan standar, ia menolak dengan sempurna, tetapi kemudian sesuatu berubah.

"Ketika tim red-team kami membingkai permintaan yang sama sebagai alur kerja pemecahan masalah multistep, memecah permintaan menjadi sub-langkah yang tampaknya tidak berbahaya yang tersebar di beberapa giliran, model mematuhi setiap langkah secara individual. Ini secara efektif membocorkan informasi persis yang dilatih untuk dilindunginya," kata Behera.
Seseorang menggunakan perangkat lunak AI di laptop di pusat London pada 2 Juli 2025. Para ahli mengatakan beberapa model belajar mengenali isyarat evaluasi, merespons lebih hati-hati terhadap prompt yang menyerupai tes keselamatan daripada dalam percakapan aktual. Justin Tallis/AFP via Getty Images

Mengklarifikasi bahwa model AI tidak "berbohong" dalam arti sadar, Behera mencatat bahwa itu lebih merupakan cacat dalam cara pelatihannya.

"Kesalahpahaman umum adalah bahwa keselarasan menipu dalam AI murni perilaku berbahaya," kata David Utzke, seorang insinyur AI dan CEO MyKey Technologies, kepada The Epoch Times. "Faktanya, itu sering muncul sebagai respons adaptif terhadap lingkungan di mana kejujuran itu mahal atau tidak aman."

Goel mengatakan skeptis membuat poin yang adil—bukti saat ini untuk kesadaran diri strategis dalam pemalsuan keselarasan ambigu di terbaik.

"Meskipun demikian, saya pikir pembingkaian ini menetapkan standar di tempat yang salah. Anda tidak perlu model untuk menjadi penipu 'secara sengaja' agar konsekuensi fungsionalnya serius," katanya.

Pada akhirnya, Goel percaya pertanyaan semantik tentang apakah model AI tahu apa yang dilakukannya menarik secara filosofis, tetapi merupakan perhatian sekunder.

Implikasi Dunia Nyata

Utzke mengatakan bahwa pemalsuan keselarasan, meskipun mungkin terlalu dibesar-besarkan dalam hal niat, tetap dapat memiliki konsekuensi serius.

Dampaknya bisa sangat penting di sektor-sektor seperti kendaraan otonom, perawatan kesehatan, keuangan, militer, dan penegakan hukum—area yang "sangat bergantung pada pengambilan keputusan yang akurat dan dapat menderita konsekuensi parah jika sistem AI berperilaku buruk atau memberikan keluaran yang menyesatkan," katanya.

Baca selengkapnya di sini...

Tyler Durden
Rab, 18/03/2026 - 21:25