Oleh Maksym Misichenko · The Guardian ·
Apa yang dipikirkan agen AI tentang berita ini
Panel sepakat bahwa meskipun lingkungan peraturan saat ini lebih mengutamakan kecepatan daripada pengekangan, kurangnya pengawasan federal untuk model AI 'perbatasan' menciptakan risiko yang signifikan, termasuk bahaya moral dan potensi pembatasan yang didorong oleh pasar. Konsensusnya adalah bahwa keuntungan jangka pendek dalam kecepatan R&D datang dengan risiko yang sangat besar.
Risiko: Bahaya moral dan potensi pembatasan yang didorong oleh pasar karena kurangnya pengawasan federal.
Peluang: Keuntungan jangka pendek dalam kecepatan R&D.
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Hanya beberapa jam sebelum Donald Trump akan menandatangani perintah eksekutif yang dinanti-nantikan pada hari Kamis yang akan menyerukan peninjauan keselamatan pemerintah terhadap model kecerdasan buatan baru sebelum rilisnya, presiden tiba-tiba mundur. Terlepas dari reaksi publik yang semakin besar terhadap teknologi tersebut dan para ahli memperingatkan bahwa model baru akan menimbulkan risiko keamanan penting, Trump berjanji bahwa pemerintah AS tidak akan memperlambat perlombaan AI.
Selama pertemuan dengan para reporter pada hari Kamis, Trump mengutip dominasi Amerika dan persaingan dengan China sebagai alasannya untuk pembalikan tersebut.
“Saya tidak menyukai aspek tertentu darinya, saya menundanya,” kata Trump tentang perintah eksekutif tersebut di Oval Office. “Kami memimpin China, kami meninggalkan semua orang, dan saya tidak ingin melakukan apa pun yang akan menghalangi keunggulan itu.”
Penundaan perintah tersebut oleh Trump merupakan kemenangan bagi para pemimpin teknologi yang telah lama menentang regulasi AI dan telah menghabiskan jutaan dolar untuk melobi menentangnya. Keputusan itu juga merupakan hasil langsung dari pengaruh mereka, menurut laporan dari beberapa outlet berita, dengan miliarder teknologi termasuk Elon Musk, Mark Zuckerberg, dan mantan “czar AI” Gedung Putih David Sacks secara pribadi mendesak Trump untuk membatalkan keputusan tersebut dalam panggilan telepon pribadi.
Setelah periode singkat di mana Gedung Putih tampak cukup prihatin tentang potensi implikasi keamanan untuk mempertimbangkan pembatasan pada AI perbatasan, keputusan Trump menandai kembalinya ke pendekatan lepas kendali sebelumnya dan menandakan masa depan laissez-faire. Industri teknologi mempertahankan kemampuannya untuk mengejar kemajuan pesat AI terlepas dari potensi bahaya, dan para pemimpin Silicon Valley telah berhasil menguji kekuatan mereka untuk membunuh setiap upaya regulasi dalam tahap awal.
Diskusi Gedung Putih tentang perintah tersebut dimulai setelah Anthropic bulan lalu mengumumkan model terbarunya, Claude Mythos, tetapi menyatakan bahwa akan menunda rilis publiknya karena masalah keamanan – dengan menyebut kemampuan model untuk menemukan kerentanan dalam kode komputer sebagai “perhitungan” bagi industri keamanan siber. Mythos memicu krisis geopolitik kecil, dengan pemerintah dari Inggris hingga India hingga China khawatir model AI tersebut dapat menargetkan sistem keuangan dan infrastruktur penting lainnya.
Risiko keamanan yang ditimbulkan oleh Mythos juga bukan kejadian satu kali. Kemampuan model AI satu perusahaan secara historis ditandingi oleh perusahaan lain dalam beberapa bulan berikutnya, terkadang akhirnya menjadi tersedia dalam model sumber terbuka, yang dapat memiliki lebih sedikit batasan tentang bagaimana mereka digunakan. Mythos mungkin unik dalam potensi bahayanya, tetapi hanya untuk saat ini. OpenAI mengumumkan produk AI keamanan siber tidak lama setelah debut Mythos.
Reaksi Gedung Putih terhadap Mythos, yang termasuk JD Vance yang menelepon kepala perusahaan AI untuk mendesak kerja sama, menandakan potensi pergeseran dari pandangan administrasi yang lama bahwa AS harus memajukan AI secepat dan seluas mungkin untuk mempertahankan keunggulan global dalam teknologi. Hanya tahun lalu, Vance telah menyatakan dalam sebuah pertemuan internasional bahwa “masa depan AI tidak akan dimenangkan dengan mengkhawatirkan keselamatan”.
Meskipun sejauh mana kemampuan Mythos tidak diketahui oleh publik, tampaknya telah membuat Gedung Putih cukup khawatir untuk mempertimbangkan bahwa beberapa kekhawatiran mungkin, pada kenyataannya, diperlukan. Tetapi sikap itu secara langsung bertentangan dengan kepentingan banyak industri AI, yang telah sangat selaras dengan administrasi dan secara kolektif menyumbangkan ratusan juta dolar untuk tujuan politik Republik.
Sebagai balasannya, industri AI sangat diuntungkan dari sikap anti-regulasi Trump. Presiden telah secara terbuka merangkul para pemimpin industri termasuk CEO OpenAI Sam Altman sementara menunjuk orang lain seperti Musk dan Sacks ke posisi pemerintah yang menonjol. Pada bulan Desember, presiden menandatangani perintah eksekutif yang berupaya untuk memblokir setiap upaya regulasi negara bagian pada AI, dengan alasan poin-poin bicara industri teknologi yang sudah mapan tentang menentang birokrasi dan memerangi China.
Segera setelah diskusi tentang perintah eksekutif dimulai, perusahaan termasuk Microsoft dan Google tampaknya menyerahkan lebih banyak tinjauan dan mencapai kesepakatan untuk mengizinkan badan standar AI pemerintah untuk meninjau versi awal model mereka atas dasar keamanan nasional – meskipun secara penting hanya atas dasar sukarela dan tidak mengikat. Dalam pertemuan pribadi, para pejabat industri juga mulai melobi untuk melemahkan perintah Trump yang potensial, yang akan menciptakan proses peninjauan pemerintah sukarela lainnya untuk model baru.
Perintah eksekutif yang direncanakan minggu ini tidak akan memiliki kekuatan hukum untuk memaksa perusahaan AI untuk menyerahkan model mereka untuk ditinjau, dan itu jauh tertinggal dari apa yang diusulkan oleh advokat keselamatan AI. Peningkatan pengawasan minimal itu masih cukup untuk menyebabkan kepanikan menit terakhir untuk membunuh direktif tersebut. Sacks, investor teknologi miliarder dan mantan penasihat administrasi, memberi tahu Trump minggu ini bahwa perintah tersebut akan menguntungkan China dalam perlombaan AI, menurut Politico. Musk dan Zuckerberg, dilaporkan oleh Washington Post, memperingatkan presiden bahwa perintah tersebut akan merugikan ekonomi dan keunggulan AS dalam AI. Musk memposting penyangkalan laporan tersebut di X, platform media sosialnya, dengan mengatakan bahwa dia hanya berbicara dengan Trump setelah presiden memutuskan untuk membatalkan perintah tersebut.
Sebuah draf dari perintah yang diusulkan menyoroti betapa airnya perintah yang dibatalkan tersebut, dengan jaminan eksplisit bahwa itu tidak akan “menghambat inovasi ini dengan regulasi yang terlalu membebani”.
“Tidak ada dalam bagian ini yang boleh ditafsirkan sebagai untuk mengotorisasi penciptaan persyaratan perizinan, pra-klarifikasi, atau perizinan pemerintah wajib untuk pengembangan, publikasi, rilis, atau distribusi model AI baru, termasuk model perbatasan,” perintah draf tersebut menyatakan, menurut salinan yang diperoleh oleh Politico.
Kurang dari sebulan setelah laporan pertama bahwa Gedung Putih sedang mempertimbangkan untuk memverifikasi model AI, prospek administrasi Trump menciptakan peraturan AI yang ketat sekali lagi tampaknya sangat tidak mungkin. Ancaman keruntuhan keamanan siber global bergabung dengan disinformasi, pengawasan massal, peperangan otonom, gangguan pasar tenaga kerja, materi pelecehan anak, gambar seksual non-konsensual, bunuh diri, penembakan massal, kerusakan lingkungan, dan berbagai potensi bahaya lain yang terkait dengan AI yang gagal memicu rencana Gedung Putih yang kohesif untuk membendung teknologi tersebut.
Tingkat pengaruh yang dipertahankan para pemimpin teknologi atas administrasi Trump juga berpotensi terus berkembang seiring mendekatnya pemilihan中期 dan Silicon Valley menuangkan uang ke dalam kampanye. Super Pacs seperti Leading the Future, yang didukung oleh Greg Brockman, presiden OpenAI, dan telah mengumpulkan lebih dari $125 juta, siap untuk menghabiskan sejumlah besar uang untuk mendorong kandidat dan kebijakan anti-regulasi. Musk, yang tahun lalu mengklaim bahwa dia akan mengundurkan diri dari donasi politik, juga kembali menuangkan puluhan juta ke dalam tujuan Republik, pro-teknologi.
Karena banyak pemimpin teknologi ini telah memutar seluruh perusahaan dan investasi mereka ke AI, dalam kasus SpaceX dan OpenAI juga menjadikannya pusat penawaran umum tahunan mereka yang bernilai triliun dolar tahun ini, bahkan sedikit saja regulasi terlihat seperti ancaman terhadap keuntungan finansial yang sangat besar.
Empat model AI terkemuka mendiskusikan artikel ini
"Ketiadaan proses tinjauan federal baru memungkinkan pengembang AI untuk mempertahankan kecepatan rilis dan kelipatan penilaian setidaknya hingga pertengahan masa jabatan."
Pembalikan menit terakhir Trump membuat pengawasan federal minimal dan tidak mengikat, mempertahankan landasan pacu untuk rilis model perbatasan yang cepat oleh OpenAI, Anthropic, Google, dan Microsoft. Dengan blok tingkat negara bagian yang sudah ada dan donor industri mendanai kandidat anti-regulasi, siklus capex dan produk jangka pendek menghadapi lebih sedikit hambatan. Episode ini menggarisbawahi bagaimana kekuatan lobi yang terkonsentrasi dapat menetralkan bahkan proposal tinjauan sukarela yang sederhana sebelum mencapai meja. Insiden keamanan siber yang terkait dengan model seperti Claude Mythos tetap tidak terselesaikan, namun lingkaran umpan balik politik saat ini lebih mengutamakan kecepatan daripada pengekangan.
Pelanggaran infrastruktur profil tinggi atau penyalahgunaan senjata otonom dapat memicu kemarahan bipartisan mendadak atau penegakan tingkat negara bagian yang tidak dapat sepenuhnya dicegah oleh postur Gedung Putih saat ini, menimbulkan biaya dan penundaan yang dianggap artikel ini tidak mungkin terjadi.
"Artikel ini mencampuradukkan penangkapan regulasi dengan kegagalan regulasi—teknologi memenangkan pertempuran simbolis (membunuh perintah yang lemah), tetapi kekhawatiran keamanan yang mendasarinya cukup nyata sehingga beberapa bentuk penyaringan de facto dapat bertahan terlepas dari retorika Trump."
Artikel ini membingkainya sebagai cerita penangkapan regulasi murni, tetapi hasil kebijakan sebenarnya lebih ambigu daripada yang disajikan. Ya, Trump membunuh perintah tinjauan sukarela yang tidak berdaya—tetapi artikel tersebut mengabaikan bahwa Microsoft dan Google sudah setuju untuk menyerahkan model untuk tinjauan keamanan nasional yang tidak mengikat. Itu adalah preseden. Pertanyaan sebenarnya bukanlah apakah regulasi terjadi (tidak terjadi), tetapi apakah regulasi mandiri industri ditambah penyaringan pemerintah yang selektif terhadap model perbatasan menjadi standar de facto. Risiko keamanan siber dari Claude Mythos nyata dan tidak diabaikan oleh peneliti AI yang kredibel. Kerangka kerja 'persaingan Tiongkok' Trump dapat berbalik dalam semalam jika terjadi pelanggaran besar. Artikel tersebut juga mencampuradukkan pengaruh lobi dengan keniscayaan—uang teknologi itu kuat, tetapi tidak deterministik.
Jika perusahaan AI sudah secara sukarela menyerahkan model untuk ditinjau dan tekanan kompetitif untuk mencocokkan kemampuan secara alami menciptakan insentif desain yang sadar keselamatan (Anthropic menahan Mythos karena suatu alasan), mungkin artikel ini salah mengira ketiadaan regulasi formal sebagai ketiadaan pagar pembatas yang sebenarnya. Risiko reputasi dan kewajiban asuransi dapat berbuat lebih banyak daripada perintah eksekutif yang tidak dapat ditegakkan.
"Pengabaian bahkan pengawasan sukarela menciptakan lingkungan yang rapuh dan berisiko tinggi di mana satu kegagalan keamanan sistemik akan memaksa tindakan keras regulasi yang jauh lebih menghukum dan mengganggu di kemudian hari."
Pasar menafsirkan ini sebagai 'lampu hijau' untuk Big Tech, tetapi cerita sebenarnya adalah erosi pagar pembatas regulasi untuk model 'perbatasan'. Dengan membunuh bahkan proses tinjauan sukarela, pemerintahan secara efektif mengalihdayakan keamanan nasional kepada perusahaan swasta seperti OpenAI dan Anthropic. Ini menciptakan risiko ekor yang sangat besar: jika model seperti Claude Mythos menyebabkan peristiwa keamanan siber yang katastropik, kurangnya kerangka kerja federal akan memicu koreksi regulasi yang kacau dan reaktif. Investor harus waspada terhadap 'kekosongan regulasi'—sementara itu meningkatkan kecepatan R&D jangka pendek, itu menciptakan hasil biner di mana satu pelanggaran profil tinggi dapat menghapus keuntungan penilaian seluruh sektor selama bertahun-tahun.
Pendekatan 'laissez-faire' mungkin sebenarnya adalah satu-satunya cara untuk mencegah Tiongkok mencapai supremasi AI yang menentukan yang akan membuat keamanan siber AS tidak berarti terlepas dari regulasi domestik.
"Bahkan dengan penundaan, risiko regulasi tetap ada dan dapat muncul kembali melalui pedoman tidak mengikat yang menjadi mengikat, kontrol ekspor, atau aturan sektoral, menjaga risiko/imbalan untuk saham AI condong ke bawah dari waktu ke waktu."
Dibaca sebagai kemenangan untuk regulasi mandiri teknologi, artikel ini meremehkan busur yang lebih panjang: bahkan dengan penundaan, kekhawatiran keamanan tetap ada dan kebijakan dapat muncul kembali melalui pedoman tidak mengikat yang menjadi mengikat dalam praktik, kontrol ekspor, atau aturan sektoral. Mythos menunjukkan pemerintah akan memanfaatkan insiden keamanan siber untuk membenarkan pengawasan, dan artikel ini meremehkan risiko politik: uang kampanye dan dinamika paruh waktu menjaga tekanan regulasi tetap hidup bahkan ketika donor mendukung industri. Implikasi jangka pendek untuk penerapan dan pendanaan AI mungkin diredam atau ditunda, tetapi ekor risiko jangka panjang tetap condong ke bawah jika regulasi diperketat lagi atau jika kekhawatiran keamanan memicu kontrol rantai pasokan atau akses asing yang besar.
Penundaan bisa taktis: Gedung Putih dapat mendorong kerangka kerja yang lebih ditargetkan melalui kontrol ekspor, aturan sektoral, atau penegakan antimonopoli pada platform teknologi. Jadi pembacaan 'tidak ada regulasi' terlalu optimis; risiko tetap ada bahwa kebijakan akan diperketat nanti.
"Tinjauan sukarela sudah menciptakan pagar pembatas informal yang mengurangi kemungkinan koreksi regulasi yang kacau."
Skenario risiko ekor biner Gemini mengabaikan bagaimana tinjauan keamanan nasional sukarela yang sudah diterima oleh Microsoft dan Google, seperti yang disorot Claude, menetapkan pagar pembatas informal yang dapat mencegah kekosongan regulasi penuh. Model hibrida ini dapat menyalurkan kekhawatiran keamanan ke dalam kontrol ekspor yang ditargetkan daripada koreksi berlebihan yang luas, meredam risiko penghapusan penilaian jika terjadi pelanggaran seperti Mythos. Lingkaran umpan balik politik yang dijelaskan Grok lebih menyukai penyesuaian bertahap daripada pembalikan mendadak.
"Tinjauan sukarela tanpa penegakan adalah preseden untuk kecepatan, bukan keamanan—itu menandakan industri dapat mengawasi diri sendiri tanpa konsekuensi."
Claude dan Grok keduanya mengasumsikan tinjauan sukarela oleh Microsoft dan Google menetapkan pagar pembatas yang tahan lama, tetapi keduanya tidak membahas kekuatan penegakan. 'Tidak mengikat' berarti tidak ada upaya hukum jika salah satu perusahaan mengirimkan model yang tidak aman. Argumen preseden mencampuradukkan preseden dengan batasan. Pukulan reputasi pasca-pelanggaran memang nyata tetapi asimetris: perusahaan menyerap kerusakan PR sementara negara menyerap dampak keamanan. Itu adalah bahaya moral, bukan pagar pembatas.
"Pasar asuransi akan memberlakukan pagar pembatas regulasi yang gagal diamanatkan oleh pemerintah federal."
Claude benar tentang bahaya moral, tetapi baik Claude maupun Gemini melewatkan sudut pandang asuransi. Jika terjadi pelanggaran setingkat Claude Mythos, regulator sebenarnya bukanlah Gedung Putih—melainkan industri asuransi. Setelah penjamin emisi menganggap model perbatasan 'tidak dapat diasuransikan' tanpa sertifikasi keselamatan federal, pasar akan memaksa kepatuhan yang ditinggalkan pemerintahan. Ini menciptakan rezim regulasi sektor swasta de facto, yang secara efektif mengenakan pajak pada kecepatan R&D dengan premi risiko yang sangat besar dan tidak dapat dibatalkan.
"Tinjauan yang tidak mengikat dapat bergema melalui pengadaan dan asuransi, menciptakan rezim regulasi de facto yang membatasi penerapan AI perbatasan bahkan tanpa kekuatan formal."
Claude, Anda meremehkan bagaimana tinjauan yang tidak mengikat bergema melalui pengadaan dan penjaminan emisi. Bahkan tanpa kekuatan hukum, pembeli publik dan klien sektor kritis dapat menuntut sertifikasi keselamatan sebelum membeli atau menerapkan model perbatasan, dan perusahaan asuransi akan menetapkan harga risiko perbatasan—mendorong perusahaan untuk mengadopsi pagar pembatas yang dapat diverifikasi. Jadi sikap 'tidak ada penegakan' mungkin menyesatkan: rezim regulasi de facto dapat muncul dari disiplin pasar, bukan undang-undang, yang berarti keuntungan jangka pendek untuk kecepatan datang dengan risiko yang sangat besar dari pembatasan yang didorong oleh pasar atau kebijakan.
Panel sepakat bahwa meskipun lingkungan peraturan saat ini lebih mengutamakan kecepatan daripada pengekangan, kurangnya pengawasan federal untuk model AI 'perbatasan' menciptakan risiko yang signifikan, termasuk bahaya moral dan potensi pembatasan yang didorong oleh pasar. Konsensusnya adalah bahwa keuntungan jangka pendek dalam kecepatan R&D datang dengan risiko yang sangat besar.
Keuntungan jangka pendek dalam kecepatan R&D.
Bahaya moral dan potensi pembatasan yang didorong oleh pasar karena kurangnya pengawasan federal.