CEO Anthropic Peringatkan 'Momen Berbahaya' Siber Saat AI Ungkap Ribuan Kerentanan

CEO Anthropic Dario Amodei memperingatkan pada hari Selasa bahwa kecerdasan buatan telah menciptakan jendela sempit bagi perusahaan teknologi, pemerintah, dan bank di dunia untuk memperbaiki puluhan ribu kerentanan perangkat lunak yang ditemukan oleh model terbaru perusahaannya.

Model AI tersebut, Mythos, telah dipratinjau bulan lalu bersama dengan pengungkapan bahwa model tersebut telah menemukan kerentanan berusia puluhan tahun dalam perangkat lunak penting.

Karena model AI dari negara musuh geopolitik Tiongkok "mungkin tertinggal enam hingga 12 bulan" dari produk Anthropic, ada "kira-kira sebanyak waktu itu" untuk memperbaiki masalah ini, kata Amodei.

Komentar tersebut disampaikan selama acara Anthropic di mana Amodei berbagi panggung dengan CEO JPMorgan Chase Jamie Dimon dan meluncurkan rangkaian agen baru yang ditujukan untuk mengotomatiskan pekerjaan keuangan.

"Bahayanya adalah peningkatan besar dalam jumlah kerentanan, dalam jumlah pelanggaran, dalam kerusakan finansial yang disebabkan oleh ransomware pada sekolah, rumah sakit, belum lagi bank," kata Amodei.

Anthropic telah membatasi Mythos untuk beberapa perusahaan mitra karena kekhawatiran tentang apa yang dapat dilakukan oleh penjahat atau negara musuh dengannya. Beberapa pembaruan model perusahaan terakhir telah bergema di pasar, tetapi Mythos telah menimbulkan kekhawatiran terbesar dari perusahaan dan pembuat kebijakan.

Skala potensi eksploitasi siber telah membengkak dengan setiap generasi Claude, kata Amodei. Model Anthropic sebelumnya menemukan sekitar 20 kerentanan di browser Firefox. Mythos menemukan hampir 300, dan jumlah total di semua perangkat lunak sekarang mencapai puluhan ribu, katanya.

Sebagian besar kerentanan yang ditemukan oleh Mythos belum diungkapkan secara publik karena masih belum diperbaiki, dan "orang jahat akan mengeksploitasinya" jika teridentifikasi, kata Amodei.

## 'Dunia yang Lebih Baik'

Meskipun ada peringatan, baik Amodei maupun Dimon juga menyampaikan nada optimisme bersyarat.

"Ini adalah momen berbahaya di mana jika kita menanggapinya dengan benar, dan saya pikir kita telah mengambil langkah pertama, maka kita bisa memiliki dunia yang lebih baik di sisi lain," kata Amodei. "Hanya ada begitu banyak bug untuk ditemukan."

Dimon juga mengatakan bahwa meskipun ketakutan siber dibenarkan, risiko keamanan siber yang diciptakan oleh AI adalah "periode transisi."

Mengenai regulasi, Amodei mengatakan bahwa pengawasan AI harus menyerupai apa yang dilakukan di industri otomotif, menyeimbangkan keselamatan konsumen dan memungkinkan industri untuk bersaing.

"Anda tidak bisa begitu saja memulai perusahaan mobil tanpa 'Apakah ada rem di benda ini?'" katanya. "Kita perlu mencari cara untuk mendapatkan proses yang memungkinkan industri beroperasi dengan cepat, adil, tetapi memberikan pagar pembatas pada hal-hal yang paling serius."

Acara perusahaan, dan lokasinya bersama Dimon, juru bicara industri keuangan yang paling terkenal, tampaknya menunjukkan keunggulan Anthropic atas OpenAI di pasar AI perusahaan saat kedua perusahaan menuju potensi IPO.

Anthropic mengumumkan pada hari Selasa perluasan platform layanan keuangannya, termasuk 10 agen AI baru untuk perbankan investasi dan pekerjaan back-office, serta integrasi di berbagai program Office Microsoft. Perusahaan juga mengatakan model terbarunya yang tersedia secara luas — Claude Opus 4.7 — memimpin tolok ukur untuk tugas analisis keuangan.