Pandangan The Guardian tentang Mitos Claude Anthropic: ketika AI menemukan setiap kelemahan, siapa yang mengendalikan internet? | Editorial

Anthropic mengumumkan model AI terbarunya, Claude Mythos, bulan ini tetapi mengatakan tidak akan dirilis untuk umum, karena mengubah komputer menjadi TKP. Perusahaan mengklaim bahwa ia dapat menemukan kelemahan "zero-day" yang sebelumnya tidak diketahui, mengeksploitasinya dan, pada prinsipnya, menghubungkan kelemahan ini untuk mengambil alih sistem operasi dan browser web utama. Mythos melakukannya secara otonom, menulis kode dan mendapatkan hak istimewa. Implikasinya signifikan. Ini seperti pencuri yang dapat menargetkan gedung mana pun, masuk, membuka setiap pintu, dan mengosongkan setiap brankas.

Perusahaan Silicon Valley sejauh ini telah menamai 40 organisasi sebagai mitra di bawah Project Glasswing untuk membantu memasang pertahanan – meminta mereka untuk “menambal” kerentanan sebelum peretas mendapat kesempatan untuk mengeksploitasinya. Semuanya adalah orang Amerika, duduk di jantung sistem digital yang dipimpin AS. Anthropic membagikan Mythos hanya dengan Inggris di luar AS, memungkinkan AI Security Institute untuk menguji model-model terdepan. Setelah melihatnya dari dekat, menteri Inggris memperingatkan: AI akan membuat serangan siber jauh lebih mudah dan cepat, dan sebagian besar bisnis tidak siap. Bank-bank di Eropa kemungkinan akan mengujinya selanjutnya.

Ini mungkin bukan saat yang terlalu dini. Laporan akses tidak sah muncul minggu ini – menimbulkan pertanyaan apakah ada perusahaan swasta yang dapat dipercaya dengan kemampuan seperti ini. Mythos tidak serta-merta menciptakan jenis ancaman siber baru. Ini mengubah kelemahan laten menjadi risiko sistemik. Peretasan secara tradisional sulit dan memakan waktu, membutuhkan keterampilan yang hanya dimiliki sedikit orang. Tetapi alat AI menyebar dengan cepat, membuat pelanggaran sistem dapat dijangkau oleh banyak orang – tidak hanya para ahli.

Seorang pemburu liar juga bisa diubah menjadi penjaga hutan. Mozilla menguji Mythos pada browser Firefox-nya: ia menemukan 10 kali lebih banyak kelemahan daripada sebelumnya – dan memperbaikinya. Yang terpenting, tidak ada yang tidak dapat ditemukan oleh manusia. Yang berubah adalah AI menemukan "kerentanan siber" dengan cepat, murah, dan dalam skala besar.

Penerimaan pemerintah AS terhadap Anthropic menandai pergeseran. Pada bulan Februari, Pentagon menganggap perusahaan itu sebagai "risiko keamanan" dan memutusnya dari kesepakatan yang menguntungkan setelah menolak untuk mengizinkan teknologinya digunakan untuk pengawasan massal atau senjata otonom. OpenAI malah mendapatkan kontraknya. Anthropic, dengan chatbot Claude-nya, telah lama memposisikan dirinya sebagai alternatif etis di antara para pesaingnya – meskipun citranya rusak oleh penyelesaian pembajakan senilai $1,5 miliar tahun lalu.

Mythos kuat, tetapi humas Anthropic telah membentuk narasi sebanyak teknologinya. Ada juga pertanyaan tentang seberapa canggih Mythos sebenarnya. Para peneliti telah menunjukkan bahwa model yang lebih kecil dan lebih murah yang diterapkan dalam skala besar dapat melakukan hal serupa. Apa yang tampak sebagai terobosan mungkin mencerminkan pergeseran yang lebih luas di seluruh bidang. Gedung Putih berpikir bahwa Anthropic memiliki nilai strategis – mengundangnya kembali ke dalam kelompok dan menandakan pergeseran dari memperlakukan perusahaan AI sebagai kontraktor menjadi mitra. Hal itu menimbulkan kekhawatiran yang lebih dalam: apakah kendali perusahaan swasta atas risiko infrastruktur kritis bijaksana – terutama jika aktor yang kurang bertanggung jawab mendapatkan keunggulan teknis.

Jelas, siapa pun – negara atau perusahaan – yang menciptakan model AI paling kuat akan mendapatkan keuntungan geopolitik atas teman dan musuh. Tanpa kerangka kerja untuk koordinasi internasional atas keamanan siber, bagaimanapun, ada risiko bukan satu internet yang aman, tetapi sejumlah internet yang bersaing – masing-masing "menambal" sistemnya sendiri dan sama sekali tidak mempercayai yang lain. Itu tidak akan lagi menjadi ruang publik global. Sebaliknya, web akan dipotong menjadi aliansi keamanan, dijaga lebih ketat, bahkan ketika sesuatu yang lebih luas diam-diam menghilang.

-
**Apakah Anda punya pendapat tentang isu-isu yang diangkat dalam artikel ini? Jika Anda ingin mengirimkan tanggapan hingga 300 kata melalui email untuk dipertimbangkan untuk publikasi di bagian surat kami, silakan klik di sini.**