Peretasan yang didukung AI telah meledak menjadi ancaman skala industri, kata Google

Hanya dalam tiga bulan, peretasan yang didukung AI telah beralih dari masalah yang baru muncul menjadi ancaman skala industri, menurut sebuah laporan dari Google.

Temuan dari grup intelijen ancaman Google menambah diskusi global yang semakin intensif tentang bagaimana model AI terbaru sangat mahir dalam pengkodean – dan menjadi alat yang sangat kuat untuk mengeksploitasi kerentanan dalam berbagai sistem perangkat lunak.

Ditemukan bahwa kelompok kriminal, serta aktor yang terkait dengan negara dari Tiongkok, Korea Utara, dan Rusia, tampaknya secara luas menggunakan model komersial – termasuk Gemini, Claude, dan alat dari OpenAI – untuk menyempurnakan dan meningkatkan serangan.

“Ada kesalahpahaman bahwa perlombaan kerentanan AI sudah dekat. Kenyataannya adalah itu sudah dimulai,” kata John Hultquist, analis utama grup tersebut.

“Aktor ancaman menggunakan AI untuk meningkatkan kecepatan, skala, dan kecanggihan serangan mereka. Ini memungkinkan mereka untuk menguji operasi mereka, bertahan terhadap target, membangun malware yang lebih baik, dan melakukan banyak peningkatan lainnya.”

Bulan lalu, perusahaan AI Anthropic menolak untuk merilis salah satu model terbarunya, Mythos, setelah menyatakan bahwa model tersebut memiliki kemampuan yang sangat kuat dan menimbulkan ancaman bagi pemerintah, lembaga keuangan, dan dunia pada umumnya jika jatuh ke tangan yang salah.

Secara khusus, Anthropic mengatakan Mythos telah menemukan kerentanan zero-day di “setiap sistem operasi utama dan setiap browser web utama” – istilah untuk cacat dalam produk yang sebelumnya tidak diketahui oleh pengembangnya.

Perusahaan mengatakan penemuan ini memerlukan “tindakan pertahanan terkoordinasi yang substansial di seluruh industri”.

Namun, laporan Google menemukan bahwa sebuah kelompok kriminal baru-baru ini berada di ambang memanfaatkan kerentanan zero-day untuk melakukan kampanye “eksploitasi massal” – dan bahwa kelompok ini tampaknya menggunakan model bahasa besar AI (LLM) yang bukan Mythos.

Laporan itu juga menemukan bahwa kelompok-kelompok tersebut “bereksperimen” dengan OpenClaw, sebuah alat AI yang menjadi viral pada bulan Februari karena menawarkan penggunanya kemampuan untuk menyerahkan sebagian besar hidup mereka kepada agen AI tanpa batasan dan kecenderungan yang tidak menguntungkan untuk menghapus kotak masuk email secara massal.

Steven Murdoch, seorang profesor teknik keamanan di University College London, mengatakan alat AI dapat membantu sisi pertahanan dalam keamanan siber – serta para peretas.

“Itulah mengapa saya tidak panik. Secara umum kita telah mencapai tahap di mana cara lama menemukan bug telah hilang, dan sekarang semuanya akan dibantu oleh LLM. Perlu waktu sebentar sebelum konsekuensi dari hal ini terselesaikan,” katanya.

Namun, jika AI membantu peretas ambisius untuk mencapai tujuan produktivitas mereka, keraguan tetap ada apakah AI tersebut meningkatkan perekonomian secara luas.

The Ada Lovelace Institute (ALI), sebuah badan penelitian AI independen, telah memperingatkan terhadap asumsi peningkatan produktivitas sektor publik senilai miliaran pound dari AI. Pemerintah Inggris memperkirakan keuntungan £45 miliar dalam penghematan dan manfaat produktivitas dari investasi sektor publik dalam alat digital dan AI.

Dalam sebuah laporan yang diterbitkan pada hari Senin, ALI mengatakan sebagian besar studi tentang peningkatan produktivitas terkait AI merujuk pada penghematan waktu atau pengurangan biaya, tetapi tidak melihat hasil seperti layanan yang lebih baik atau kesejahteraan pekerja yang lebih baik.

Aspek lain yang bermasalah dari penelitian semacam itu meliputi: apakah proyeksi efisiensi terkait AI di tempat kerja benar-benar berhasil di dunia nyata; angka utama yang mengaburkan hasil yang bervariasi untuk penggunaan AI dalam tugas yang berbeda; dan kegagalan untuk memperhitungkan dampak pada pekerjaan sektor publik dan pengiriman layanan.

“Perkiraan produktivitas yang membentuk keputusan besar pemerintah tentang AI terkadang didasarkan pada asumsi yang belum teruji dan bergantung pada metodologi yang keterbatasannya tidak selalu dihargai oleh mereka yang menggunakan angka di lapangan,” kata laporan ALI.

“Hasilnya adalah kesenjangan antara keyakinan dengan mana klaim produktivitas disajikan dan kekuatan bukti di baliknya.”

Rekomendasi laporan tersebut meliputi: mendorong studi di masa depan untuk mencerminkan ketidakpastian atas dampak teknologi; memastikan departemen pemerintah mengukur dampak program AI “sejak awal”; dan mendukung studi jangka panjang yang mengukur peningkatan produktivitas selama bertahun-tahun daripada berminggu-minggu.