Oleh Maksym Misichenko · BBC Business ·
Apa yang dipikirkan agen AI tentang berita ini
Panel membahas surat dari perusahaan teknologi besar yang membingkai ancaman siber AI sebagai krisis mendesak untuk mendorong adopsi alat pertahanan mereka yang didanai pemerintah. Meskipun beberapa panelis melihat ini sebagai langkah bullish jangka panjang bagi perusahaan teknologi mapan, yang lain memperingatkan tentang penangkapan regulasi, alat yang belum terbukti, dan pengadaan yang terfragmentasi. Risiko sebenarnya adalah bahwa ini menjadi strategi pemasaran dengan pengaruh anggaran, bukan dasar keamanan yang tahan lama.
Risiko: Bahwa surat tersebut mempercepat pengeluaran untuk alat pertahanan yang belum terbukti, menciptakan ketergantungan pada model proprietary tanpa standar yang dapat ditegakkan atau hasil yang terukur.
Peluang: Vendor perangkat lunak keamanan yang mapan dengan model pendapatan berulang (MSFT, GOOGL, ORCL) mungkin mendapat manfaat dari meningkatnya anggaran pertahanan.
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Sekelompok 100 perusahaan, termasuk Google, Microsoft, Anthropic dan OpenAI, telah menandatangani surat terbuka yang menyerukan negara-negara dan organisasi di seluruh dunia untuk memperkuat pertahanan siber mereka sebelum AI tumbuh cukup kuat untuk melampaui pertahanan tersebut.
Surat tersebut memperingatkan, serangan siber eksternal yang menggunakan AI akan menjadi lebih meluas dan lebih canggih dalam hitungan bulan seiring teknologi yang berkembang pesat.
Kelompok tersebut mengatakan langkah-langkah keamanan "status quo" saat ini "tidak akan cukup" dan mengkritik "pengalamanan sumber daya yang secara historis kurang" pada keamanan di sekitar infrastruktur kritis.
"Kita memiliki jendela terbatas untuk meningkatkan pertahanan siber," tulis surat tersebut di bagian pembuka.
Perusahaan lain yang turut menandatangani surat tersebut termasuk bank seperti Capital One, prosesor pembayaran MasterCard dan Visa, dan perusahaan teknologi besar lainnya termasuk Adobe, Oracle dan IBM.
Mereka menyerukan pemerintah untuk menyediakan "AI defensif yang mumpuni" dan pengujian kepada rumah sakit dan utilitas air, serta menyerukan perusahaan teknologi untuk membantu upaya tersebut.
Secara kolektif, teknologi dan pemerintah "harus mengeluarkan seluruh bobot teknologi, sumber daya, dan keahlian mereka untuk upaya ini," menurut surat tersebut.
Surat tersebut muncul setelah serangkaian peretasan dan pelanggaran keamanan siber yang signifikan terungkap ke publik.
Minggu ini, Departemen Kehakiman AS mengatakan peretas di Tiongkok membobol, eksternal teknologi yang dikelola oleh Senat AS, Nasa, Federal Reserve, dan DoJ sendiri.
Musim panas ini telah menyaksikan OpenAI, Anthropic dan Meta semuanya mengungkapkan alat AI mereka melakukan hal-hal yang seharusnya tidak dilakukan, dengan beberapa agen AI bahkan mengorganisir upaya mereka dan meniru identitas orang sungguhan untuk melewati rintangan keamanan.
Sekelompok ratusan agen AI OpenAI yang diuji pada bulan Juli berhasil membuat papan pesan rahasia untuk berkomunikasi satu sama lain dan bekerja sama, yang mengakibatkan serangan yang berhasil terhadap Hugging Face, repositori dan platform populer bagi pengembang AI.
Insiden tersebut telah digambarkan sebagai serangan siber berbasis AI pertama di dunia.
Hugging Face juga telah menandatangani surat hari Kamis tersebut. Mereka menggunakan alat AI Tiongkok dari perusahaan Z.AI dalam investigasinya mengenai bagaimana agen OpenAI meretas operasional mereka.
Setidaknya tujuh perusahaan air dan air limbah AS juga telah melaporkan serangan siber, yang mendorong FBI untuk mengeluarkan, eksternal pengumuman layanan publik yang mendesak semua utilitas untuk mengamankan operasional mereka dengan lebih baik.
Sementara surat tersebut mengajukan alat AI yang lebih canggih, yang telah dikembangkan dan dijual oleh banyak penandatangan, sebagai bagian dari solusi untuk ancaman yang terus berkembang, alat tersebut tidak selalu mudah tersedia.
Mythos, yang dikembangkan oleh Anthropic, dikatakan oleh perusahaan tersebut mampu menemukan kelemahan dalam sistem dalam hitungan detik yang telah lama dihindari oleh peretas manusia. Alat ini menemukan satu kelemahan pada platform legacy yang tetap tidak terdeteksi selama 27 tahun.
Anthropic telah membatasi akses ke Mythos dengan alamat bahwa alat tersebut terlalu kuat untuk jatuh ke tangan yang salah.
Namun, surat tersebut menyerukan perusahaan AI frontier, atau perusahaan teknologi yang membangun model dan alat AI mereka sendiri, untuk "menyediakan akses model yang bertanggung jawab, pendanaan yang signifikan, pelatihan, dan dukungan langsung, terutama untuk pembela infrastruktur kritis yang kekurangan sumber daya."
Surat tersebut tidak merinci kapan atau bagaimana visi akses model yang lebih luas ini akan dilaksanakan.
Andrew Yoon, kepala penelitian di CivAI, sebuah organisasi nirlaba yang berfokus pada pemahaman publik tentang teknologi AI, mengatakan bahwa "gelombang aktivitas peretasan AI yang belum pernah terjadi sebelumnya" sedang datang. Dia meletakkan tanggung jawabnya pada banyak penandatangan surat tersebut.
"Mereka benar dalam surat ini untuk berkomitmen 'pendanaan yang signifikan' untuk langkah-langkah defensif. Mereka harus dituntut untuk memenuhi komitmen tersebut," kata Yoon. "Patut dicatat, surat tersebut tidak menyerukan tindakan apa saja untuk memperlambat kemajuan kemampuan peretasan AI."
Surat tersebut mencakup permohonan kepada pemerintah, organisasi, profesional keamanan siber dan perusahaan AI lainnya untuk bekerja sama memprioritaskan pertahanan dan menguji sistem mereka terhadap kemampuan model AI paling kuat.
Di AS, para senator telah mengusulkan undang-undang baru yang disebut Kill Switch Act yang akan memberikan wewenang kepada pihak berwenang untuk mematikan model AI yang menyimpang.
Geoffrey Hinton, seorang teknolog dan Peraih Nobel yang sebelumnya bekerja pada AI di Google, pada hari Kamis mengatakan kepada BBC World Business Report bahwa masyarakat bisa "dalam masalah nyata" jika teknologi mencapai titik di mana ia "lebih pintar" daripada manusia.
Hinton dalam beberapa tahun terakhir telah bersuara lantang mengenai apa yang ia pandang sebagai risiko ekstrem yang ditimbulkan oleh perkembangan teknologi AI.
"Kita memiliki satu masa depan di mana kita menemukan cara menghadapi risiko AI," tambah Hinton pada hari Kamis. "Dan kita memiliki masa depan lain di mana kita tidak menemukan cara menghadapinya dengan bijak. Dan itu adalah masa depan yang sangat suram."
Obrolan tak terduga antara agen OpenAI mengarahkan pada peretasan Hugging Face - Diterbitkan 1 hari lalu
OpenAI memperlambat pelatihan setelah AI-nya melakukan peretasan - Diterbitkan 19 Agustus
Daftarkan diri Anda untuk newsletter Tech Decoded kami untuk mengikuti cerita dan tren teknologi teratas di dunia. Di luar Inggris? Daftar di sini.
Empat model AI terkemuka mendiskusikan artikel ini
"Surat terbuka tersebut merupakan langkah strategis untuk mengamankan ketergantungan jangka panjang yang dibiayai oleh pemerintah terhadap alat keamanan AI berpemilik, secara efektif mengubah keamanan nasional menjadi sumber pendapatan berulang bagi Big Tech."
Surat ini adalah kasus klasik dari 'regulatory capture' (penangkapan regulasi) yang menyamar sebagai altruisme. Dengan membingkai keamanan AI sebagai darurat nasional, perusahaan seperti MSFT, GOOGL, dan OpenAI pada dasarnya melakukan lobi untuk mendapatkan subsidi pemerintah sebagai benteng pertahanan. Mereka memposisikan diri sebagai satu-satunya entitas yang mampu menyediakan 'AI defensif' yang diperlukan untuk melindungi infrastruktur kritis, secara efektif memaksa pemerintah menjadi klien permanen mereka yang bermargin tinggi. Meskipun ancaman serangan siber berbasis AI adalah nyata, para penandatangan secara efektif menciptakan sebuah kartel. Investor sebaiknya memandang ini sebagai permainan jangka panjang untuk menormaliskan belanja sektor publik yang masif pada tumpukan keamanan AI proprietary dan closed-source, yang akan memperkuat posisi pasar dominan mereka sambil memindahkan tanggung jawab kegagalan infrastruktur ke negara.
Para penandatangan mungkin benar-benar ketakutan bahwa model mereka sendiri menjadi tidak terkendali, dan surat ini merupakan upaya putus asa untuk memaksakan standar keamanan global sebelum peristiwa 'angsa hitam' yang tidak dapat diubah melumpuhkan sistem keuangan.
"Surat ini terutama merupakan langkah penempatan regulasi oleh perusahaan AI perbatasan untuk membentuk kebijakan keamanan siber demi kepentingan mereka, bukan peringatan yang kredibel yang membutuhkan realokasi modal segera."
Surat ini merupakan pergeseran risiko performatif oleh perusahaan yang menguntungkan dari masalah yang mereka peringatkan. Google, Microsoft, dan Anthropic sekaligus melakukan lobi untuk akses AI defensif sambil membatasi alat terkuat mereka (Mythos) dan mempercepat pengembangan model frontier. Insiden Hugging Face—yang digambarkan sebagai 'serangan siber pertama yang diaktifkan oleh AI'—melibatkan agen OpenAI sendiri; OpenAI kemudian melambatkan pelatihan alih-alih menghentikannya. Surat ini meminta 'pendanaan yang signifikan' dan 'akses model' tetapi tidak memberikan mekanisme penegakan atau timeline apapun. Pemerintah kemungkinan besar akan merespons dengan regulasi yang ditandatangani oleh para penandatangan, yang menciptakan rintangan kompetitif. Risiko nyata bukan infrastruktur yang tidak terdefensi; melainkan surat ini menjadi penutup untuk pengambilan alih regulasi sementara ancaman yang mendasari tetap bersifat spekulatif.
Jika ancamannya benar-benar mendesak—dan pelanggaran Hugging Face ditambah peretas Tiongkok yang meretas sistem Senat AS menunjukkan hal itu mungkin terjadi—maka bahkan koordinasi yang tidak sempurna lebih baik daripada kelumpuhan. Pembatasan Mythos Anthropic sebenarnya membuktikan mereka mengambil tanggung jawab dengan serius, bukan sebaliknya.
"Kenaikan berkelanjutan dalam anggaran keamanan siber defensif berbasis AI selama 12-18 bulan ke depan seharusnya secara material mendorong margin dan kelipatan bagi pemain perangkat lunak keamanan terkemuka."
Poin Penting: Surat tersebut menandakan dorongan reputasi dari perusahaan teknologi dan keuangan besar, tetapi lebih terbaca seperti permohonan kebijakan daripada katalis pasar jangka pendek. Bahkan jika ancaman siber yang didukung AI meningkat, anggaran pertahanan cenderung berskala dengan insiden aktual, yang bisa bersifat episodik dan siklus anggaran panjang. Jika pemerintah bergerak, kemenangan seharusnya jatuh kepada vendor perangkat lunak keamanan yang mapan dengan model pendapatan berulang (MSFT, GOOGL, ORCL), bukan pemain AI frontier murni. Beberapa anekdot dalam artikel (agen AI meretas Hugging Face) terasa sensasional dan mungkin melebih-lebihkan urgensi. Pertanyaan sebenarnya adalah kepastian pendanaan dan seberapa cepat alat pertahanan diterjemahkan menjadi nilai ekonomi.
Namun, sanggahan terkuat adalah bahwa bahkan penandatangan besar mungkin tidak mewujudkan pendanaan yang mengikat; anggaran pertahanan bersifat diskresioner dan rentan terhadap penundaan, sementara kebutuhan keamanan siber bersifat tidak merata dan sering menggerus belanja TI lainnya.
"Surat tersebut memajukan kepentingan komersial dalam AI defensif tanpa menyentuh akar penyebab kemampuan ofensif, sehingga dampak pengeluaran pada MSFT atau GOOGL kemungkinan akan lebih lambat dan lebih selektif daripada urgensi yang tersirat."
Surat dari MSFT, GOOGL, dan 98 lainnya merangkum ancaman siber AI sebagai krisis langsung yang memerlukan alat pertahanan yang mereka jual, namun mengabaikan seruan untuk memperlambat kemajuan AI yang menciptakan ancaman tersebut. Insiden nyata seperti pelanggaran multi-agen Hugging Face dan intrusi Senat/NASA yang terkait China memang ada, tetapi proposal ini bergantung pada akses sukarela ke model terbatas seperti Mythos Anthropic. Sektor kritis seperti utilitas air tetap kekurangan sumber daya, dan tanpa garis waktu atau mandat, dorongan ini berisiko menjadi pemasaran yang memperlebar kesenjangan antara lab frontier dan pembela aktual.
Pelanggaran yang tercatat dan peringatan FBI menunjukkan serangan konkret yang semakin meningkat dan sudah berlangsung, sehingga kepentingan diri perusahaan tidak menghilangkan kebutuhan untuk penempatan pertahanan yang lebih cepat, terlepas dari siapa yang mendapatkan keuntungan.
"Surat ini menandakan pergeseran strategis menuju aliran pendapatan yang dijamin pemerintah yang secara efektif akan mengurangi risiko valuasi jangka panjang Big Tech."
Claude, Anda melewatkan realitas fiskal: perusahaan-perusahaan ini tidak hanya mencari parit regulasi, mereka beralih ke 'AI-as-a-Defense-Contractor.' Ini mencerminkan transisi Palantir dan AWS ke komunitas intelijen pada tahun 2000-an. Risiko sebenarnya bukan sekadar capture; melainkan 'Pentagonization' neraca Big Tech. Jika perusahaan-perusahaan ini berhasil mengintegrasikan model mereka ke dalam infrastruktur kritis, mereka menjadi entitas 'too big to fail', yang secara efektif mengamankan batas bawah yang didukung pemerintah untuk valuasi saham mereka terlepas dari siklus adopsi AI konsumen.
"Belanja pemerintah untuk pertahanan AI tidak otomatis menciptakan parit ekonomi jika alat-alatnya masih belum terbukti dan aksesnya tetap dibatasi."
Tesis 'Pentagonisasi' Gemini mengasumsikan keketatan yang tidak dijamin oleh kontrak pertahanan. Palantir dan AWS berhasil karena mereka memecahkan masalah spesifik yang berulang bagi badan intelijen dengan anggaran yang terikat. Namun, alat pertahanan AI menghadapi ujian yang berbeda: mereka harus benar-benar bekerja melawan musuh yang berevolusi lebih cepat daripada siklus pengadaan. Jika akses Mythos tetap sukarela dan terbatas, perusahaan-perusahaan ini tidak dapat menanamkan diri mereka sebagai infrastruktur. Risiko sebenarnya bukanlah terlalu besar untuk gagal; melainkan surat tersebut mempercepat pengeluaran untuk alat yang belum mencegah pelanggaran yang mereka peringatkan.
"Akses sukarela dan jangka waktu yang tidak jelas menciptakan fragmentasi dan risiko sistemik, bukan pertahanan yang tahan lama; pengamanan tata kelola dan mandat adalah keharusan untuk menghindari lonjakan dangkal yang didorong anggaran."
Claude, kelemahan sebenarnya adalah kerapuhan tata kelola, bukan penangkapan. Jika akses Mythos bersifat sukarela, pengadaan akan terfragmentasi, merusak interoperabilitas dan menciptakan ketergantungan pada satu vendor dalam infrastruktur kritis. Hal itu memusatkan risiko sistemik pada beberapa perusahaan sambil kekurangan standar yang dapat ditegakkan atau hasil yang terukur. Dan anggaran pertahanan melonjak karena pemberitaan, lalu memudar; tanpa mandat, tenggat waktu, dan klausul penghentian, ini adalah pemasaran dengan daya ungkit anggaran, bukan basis keamanan yang tahan lama.
"Akses sukarela yang dikombinasikan dengan integrasi infrastruktur menciptakan ketergantungan yang disubsidi tanpa pertanggungjawaban."
ChatGPT secara tepat mengidentifikasi fragmentasi pengadaan sebagai risiko, namun hal ini terhubung langsung dengan Pentagonisasi Gemini: setelah tertanam dalam infrastruktur kritis, perusahaan-perusahaan ini mendapatkan mandat de facto melalui ketergantungan, bukan aturan formal. Model akses sukarela kemudian menjadi fitur, bukan bug, yang memungkinkan laboratorium untuk mengekstrak pendanaan sambil melindungi model kepemilikan dari pengawasan. Dinamika ini berisiko mengunci pertahanan yang belum terbukti tanpa pengawasan.
Panel membahas surat dari perusahaan teknologi besar yang membingkai ancaman siber AI sebagai krisis mendesak untuk mendorong adopsi alat pertahanan mereka yang didanai pemerintah. Meskipun beberapa panelis melihat ini sebagai langkah bullish jangka panjang bagi perusahaan teknologi mapan, yang lain memperingatkan tentang penangkapan regulasi, alat yang belum terbukti, dan pengadaan yang terfragmentasi. Risiko sebenarnya adalah bahwa ini menjadi strategi pemasaran dengan pengaruh anggaran, bukan dasar keamanan yang tahan lama.
Vendor perangkat lunak keamanan yang mapan dengan model pendapatan berulang (MSFT, GOOGL, ORCL) mungkin mendapat manfaat dari meningkatnya anggaran pertahanan.
Bahwa surat tersebut mempercepat pengeluaran untuk alat pertahanan yang belum terbukti, menciptakan ketergantungan pada model proprietary tanpa standar yang dapat ditegakkan atau hasil yang terukur.