Agen AI Meta menyebabkan kebocoran data sensitif dalam jumlah besar kepada karyawan

Agen AI menginstruksikan seorang insinyur untuk melakukan tindakan yang mengekspos sejumlah besar data sensitif Meta kepada beberapa karyawannya, dalam contoh terbaru AI menyebabkan gejolak di perusahaan teknologi besar.
Kebocoran tersebut, yang dikonfirmasi oleh Meta, terjadi ketika seorang karyawan meminta panduan tentang masalah rekayasa di forum internal. Agen AI menanggapi dengan solusi, yang diterapkan oleh karyawan tersebut – menyebabkan sejumlah besar data pengguna dan perusahaan yang sensitif terpapar kepada para insinyurnya selama dua jam.
“Tidak ada data pengguna yang disalahgunakan,” kata juru bicara Meta, dan mereka menekankan bahwa manusia juga dapat memberikan saran yang salah. Insiden tersebut, yang pertama kali dilaporkan oleh The Information, memicu peringatan keamanan internal besar-besaran di Meta, yang menurut perusahaan merupakan indikasi betapa seriusnya mereka menangani perlindungan data.
Pelanggaran ini adalah salah satu dari beberapa insiden profil tinggi baru-baru ini yang disebabkan oleh meningkatnya penggunaan agen AI di perusahaan teknologi AS. Bulan lalu, sebuah laporan dari Financial Times mengatakan bahwa Amazon mengalami setidaknya dua pemadaman yang terkait dengan penerapan alat AI internalnya.
Lebih dari selusin karyawan Amazon kemudian berbicara kepada Guardian tentang dorongan serampangan perusahaan untuk mengintegrasikan AI ke dalam semua elemen pekerjaan mereka, yang menyebabkan kesalahan yang mencolok, kode yang berantakan, dan penurunan produktivitas.
Teknologi yang mendasari semua insiden ini, AI agentik, telah berkembang pesat selama beberapa bulan terakhir. Pada bulan Desember, perkembangan dalam alat pengkodean AI Anthropic, Claude Code, memicu kehebohan luas atas kemampuannya untuk secara otonom memesan tiket teater, mengelola keuangan pribadi, dan bahkan menumbuhkan tanaman.
Tak lama kemudian muncul OpenClaw, asisten pribadi AI viral yang berjalan di atas agen seperti ClaudeCode tetapi dapat beroperasi sepenuhnya secara otonom – memperdagangkan jutaan dolar mata uang kripto, misalnya, atau menghapus massal email pengguna – yang mengarah pada pembicaraan yang melambung tentang munculnya AGI, atau kecerdasan umum buatan, istilah penampung untuk AI yang mampu menggantikan manusia untuk sejumlah besar tugas.
Dalam beberapa minggu berikutnya, pasar saham telah goyah karena kekhawatiran bahwa agen AI akan menggerogoti bisnis perangkat lunak, membentuk kembali ekonomi, dan menggantikan pekerja manusia.
Tarek Nseir, seorang pendiri perusahaan konsultan yang berfokus pada bagaimana bisnis menggunakan AI, mengatakan bahwa insiden ini menunjukkan bahwa Meta dan Amazon berada dalam "fase eksperimen" dalam menerapkan AI agentik.
“Mereka tidak benar-benar menjauh dari hal-hal ini dan benar-benar melakukan penilaian risiko yang tepat. Jika Anda menempatkan seorang intern junior pada hal-hal ini, Anda tidak akan pernah memberikan intern junior itu akses ke semua data SDM keparahan kritis Anda,” katanya.
“Kerentanan itu akan sangat, sangat jelas bagi Meta secara retrospektif, jika tidak pada saat itu. Dan apa yang bisa dan akan saya katakan adalah ini adalah Meta yang bereksperimen dalam skala besar. Ini adalah Meta yang berani.”
Jamieson O’Reilly, seorang spesialis keamanan yang berfokus pada membangun AI ofensif, mengatakan bahwa agen AI memperkenalkan jenis kesalahan tertentu yang tidak dilakukan manusia – dan ini mungkin menjelaskan insiden di Meta.
Seorang manusia mengetahui “konteks” dari suatu tugas – pengetahuan implisit bahwa seseorang tidak boleh, misalnya, membakar sofa untuk memanaskan ruangan, atau menghapus file yang jarang digunakan tetapi penting, atau melakukan tindakan yang akan mengekspos data pengguna di hilir.
Untuk agen AI, ini lebih rumit. Mereka memiliki “jendela konteks” – semacam memori kerja – di mana mereka membawa instruksi, tetapi jendela ini hilang, yang menyebabkan kesalahan.
“Seorang insinyur manusia yang telah bekerja di suatu tempat selama dua tahun berjalan dengan rasa yang terakumulasi tentang apa yang penting, apa yang rusak pada pukul 2 pagi, apa biaya waktu henti, sistem mana yang menyentuh pelanggan. Konteks itu ada di dalam mereka, dalam memori jangka panjang mereka, bahkan jika tidak ada di depan pikiran,” kata O’Reilly.
“Agen, di sisi lain, tidak memiliki itu kecuali Anda secara eksplisit menaruhnya di prompt, dan bahkan kemudian itu mulai memudar kecuali ada dalam data pelatihan.”
Nseir berkata: “Inevitably akan ada lebih banyak kesalahan.”