Meta AI agent’ın talimatı, çalışanlara büyük miktarda hassas veri sızıntısına neden oldu

Bir yapay zeka aracısı, bir mühendisi, Meta’nın hassas verilerinin büyük bir kısmını bazı çalışanlarına maruz bırakan eylemleri gerçekleştirmesi yönünde yönlendirerek, büyük bir teknoloji şirketinde yapay zekanın neden olduğu karışıklığın en son örneği oldu.
Meta tarafından doğrulanan bu sızıntı, bir çalışanın dahili bir forumda bir mühendislik sorunu hakkında rehberlik istediğinde meydana geldi. Bir yapay zeka aracısı bir çözümle yanıtladı ve çalışan bu çözümü uyguladı - bu da hassas kullanıcı ve şirket verilerinin iki saat boyunca mühendislerine maruz kalmasına neden oldu.
Bir Meta sözcüsü, “Kullanıcı verileriyla ilgili herhangi bir kötüye kullanılma yaşanmadı” dedi ve bir insanın da hatalı tavsiye verebileceğini vurguladı. The Information tarafından ilk olarak bildirilen bu olay, Meta içinde büyük bir dahili güvenlik alarmını tetikledi ve şirketin veri korumaya ne kadar önem verdiğinin bir göstergesi olduğunu belirtti.
Bu ihlal, ABD'deki teknoloji şirketlerinde artan yapay zeka araçlarının kullanımından kaynaklanan son zamanlarda yaşanan birkaç yüksek profilli olaydan sadece biri. Geçtiğimiz ay, Financial Times'dan yayınlanan bir rapora göre Amazon, dahili yapay zeka araçlarının konuşlandırılmasıyla ilgili en az iki kesinti yaşadı.
Daha sonra, Amazon'dan altıdan fazla çalışan, Guardian'a şirketin yapay zekayı çalışmalarının tüm unsurlarına entegre etme konusundaki aceleci yaklaşımı hakkında konuştu. Bu durum, kendilerinin de belirttiğine göre, bariz hatalara, dağınık koda ve üretkenliğin azalmasına yol açtı.
Tüm bu olayların altında yatan teknoloji, aracılı yapay zeka, son aylarda hızla gelişti. Aralık ayında, Anthropic’in AI kodlama aracı Claude Code’da yaşanan gelişmeler, tiyatro bileti rezervasyonu yapma, kişisel finansları yönetme ve hatta bitki yetiştirme gibi otonom olarak yapabilme yeteneği nedeniyle yaygın bir heyecan dalgasına neden oldu.
Ardından, ClaudeCode gibi aracılar üzerine çalışan ve tamamen otonom olarak çalışabilen viral bir yapay zeka kişisel asistanı olan OpenClaw’un ortaya çıkışı geldi - örneğin, milyonlarca dolar değerinde kripto para birimini takas etmek veya kullanıcıların e-postalarını toplu olarak silmek - bu da AGI, yani insanları çok sayıda görev için değiştirebilen yapay genel zeka kavramının ortaya çıkışı hakkında coşkulu konuşmalara yol açtı.
Son haftalarda, hisse senedi piyasaları, yapay zeka araçlarının yazılım işletmelerini zayıflatacağından, ekonomiyi yeniden şekillendireceğinden ve insan çalışanları değiştireceğinden endişe ederek dalgalanmalar yaşadı.
Yapay zekanın işletmeler tarafından kullanımına odaklanan bir danışmanlık şirketinin kurucu ortağı olan Tarek Nseir, bu olayların Meta ve Amazon’un aracılı yapay zekanın konuşlandırılmasının “deneme aşamasında” olduğunu gösterdiğini söyledi.
“Onlar bu şeylerden gerçekten geri adım atmıyorlar ve uygun bir risk değerlendirmesi yapmıyorlar. Eğer bir kıdemli stajyeri bu işlere atarsanız, o stajyere asla kritik önem taşıyan İK verilerinize erişim vermezdiniz” dedi.
“Bu güvenlik açığı, an da değilse, Meta için geriye dönük olarak çok açık olurdu. Ve söyleyebileceğim ve söyleyeceğim şey şu ki bu, Meta’nın büyük ölçekte deneme yapmasıdır. Meta cesur davranıyor.”
Ofansif yapay zeka oluşturmaya odaklanan bir güvenlik uzmanı olan Jamieson O’Reilly, yapay zeka araçlarının insanların yapmadığı belirli bir hata türü getirdiğini ve bunun da Meta’daki olayı açıklayabileceğini söyledi.
Bir insan, bir görevin “bağlamını” bilir - örneğin, odayı ısıtmak için koltuğu yakmamak, az kullanılan ancak önemli bir dosyayı silmemek veya kullanıcı verilerini aşağı akışa maruz bırakacak bir eylemde bulunmamak gibi örtük bilgiyi bilir.
Yapay zeka araçları için bu daha karmaşıktır. Görevleri taşıyan bir tür çalışma belleği olan “bağlam pencereleri” vardır, ancak bunlar kaybolarak hataya yol açar.
“İki yıldır bir yerde çalışan bir mühendis, neyin önemli olduğunu, gece saat 2’de neyin bozulduğunu, arıza süresinin maliyetini, hangi sistemlerin müşterilere dokunduğunu içeren birikimli bir bilgi birikimiyle dolaşır. Bu bağlam onların içinde, uzun süreli belleğinde, hatta ön planda olmasa bile yaşar” dedi O’Reilly.
“Aracı ise, siz özellikle istemde belirtmedikçe veya hatta o zaman bile eğitim verilerinde bulunmadıkça bunlardan hiçbirine sahip değildir.”
Nseir, “Kaçınılmaz olarak daha fazla hata olacaktır” dedi.