Google'a göre yapay zeka destekli hackleme endüstriyel ölçekli tehdit haline geldi

Google'dan gelen bir rapora göre, yapay zeka destekli hackleme sadece üç ay içinde yeni ortaya çıkan bir sorundan endüstriyel ölçekli bir tehdit haline geldi.

Google'ın tehdit istihbaratı grubunun bulguları, en yeni yapay zeka modellerinin kodlama konusunda ne kadar yetenekli olduğu ve çok çeşitli yazılım sistemlerindeki güvenlik açıklarını istismar etmek için son derece güçlü araçlar haline geldiği konusunda yoğunlaşan küresel bir tartışmaya ekleniyor.

Çin, Kuzey Kore ve Rusya'dan gelen suç gruplarının yanı sıra devlet bağlantılı aktörlerin de saldırıları iyileştirmek ve ölçeklendirmek için Gemini, Claude ve OpenAI'den gelen araçlar da dahil olmak üzere ticari modelleri yaygın olarak kullandığı görülüyor.

Grubun baş analisti John Hultquist, "Yapay zeka güvenlik açığı yarışının yakın olduğu yanılgısı var. Gerçek şu ki, bu zaten başladı" dedi.

"Tehdit aktörleri saldırılarının hızını, ölçeğini ve karmaşıklığını artırmak için yapay zekayı kullanıyor. Operasyonlarını test etmelerine, hedeflere karşı kalıcı olmalarına, daha iyi kötü amaçlı yazılım oluşturmalarına ve birçok başka iyileştirme yapmalarına olanak tanıyor."

Geçen ay yapay zeka şirketi Anthropic, en yeni modellerinden biri olan Mythos'u, yanlış ellere geçerse hükümetler, finans kuruluşları ve genel olarak dünya için son derece güçlü yeteneklere sahip olduğu ve tehdit oluşturduğu iddiasıyla yayınlamayı reddetti.

Özellikle Anthropic, Mythos'un "her büyük işletim sisteminde ve her büyük web tarayıcısında" sıfır gün güvenlik açığı bulduğunu söyledi - bu, bir ürünün geliştiricileri tarafından daha önce bilinmeyen bir kusuru ifade eden bir terimdir.

Şirket, bu keşiflerin "sektör genelinde önemli koordineli savunma eylemi" gerektirdiğini söyledi.

Ancak Google'ın raporu, bir suç grubunun yakın zamanda "kitle istismarı" kampanyası yürütmek için bir sıfır gün güvenlik açığından yararlanmak üzere olduğunu ve bu grubun Mythos olmayan bir yapay zeka büyük dil modeli (LLM) kullandığını ortaya koydu.

Rapor ayrıca, grupların Şubat ayında kullanıcılarına hayatlarının büyük parçalarını hiçbir kısıtlama olmadan bir yapay zeka aracına devretme ve e-posta gelen kutularını toplu olarak silme eğilimi olan bir yapay zeka aracını sunmasıyla viral olan OpenClaw ile "denemeler" yaptığını buldu.

University College London'da güvenlik mühendisliği profesörü Steven Murdoch, yapay zeka aracının bilgisayar güvenliğinin savunma tarafına olduğu kadar hacker'lara da yardımcı olabileceğini söyledi.

"Bu yüzden paniğe kapılmıyorum. Genel olarak, hataları keşfetmenin eski yolunun bittiği ve artık her şeyin LLM destekli olacağı bir aşamaya ulaştık. Bunun sonuçlarının ortadan kalkması biraz zaman alacak," dedi.

Ancak, yapay zeka hırslı hacker'ların verimlilik hedeflerine ulaşmalarına yardımcı oluyorsa, daha geniş ekonomiyi destekleyip desteklemediği konusunda şüpheler devam ediyor.

Bağımsız bir yapay zeka araştırma kuruluşu olan Ada Lovelace Enstitüsü (ALI), yapay zekadan milyarlarca sterlinlik bir kamu sektörü verimliliği artışı varsayımlarına karşı uyarıda bulundu. Birleşik Krallık hükümeti, kamu sektörünün dijital araçlara ve yapay zekaya yaptığı yatırımdan 45 milyar sterlinlik tasarruf ve verimlilik faydası tahmin ediyor.

Pazartesi günü yayınlanan bir raporda ALI, yapay zeka ile ilgili verimlilik artışlarına ilişkin çoğu çalışmanın zaman tasarrufu veya maliyet azaltma işlemlerine atıfta bulunduğunu, ancak daha iyi hizmetler veya iyileştirilmiş çalışan refahı gibi sonuçlara bakmadığını söyledi.

Bu tür araştırmaların diğer sorunlu yönleri şunlardır: bir işyerinde yapay zeka ile ilgili verimlilik projeksiyonlarının gerçek dünyada gerçekten başarılı olup olmadığı; farklı görevlerde yapay zeka kullanmanın değişen sonuçlarını gizleyen manşet rakamları; ve kamu sektörü istihdamı ve hizmet sunumu üzerindeki etkisini hesaba katmamak.

ALI raporu, "Yapay zeka hakkında büyük hükümet kararlarını şekillendiren verimlilik tahminleri bazen test edilmemiş varsayımlara dayanıyor ve rakamları vahşi doğada kullananlar tarafından her zaman takdir edilmeyen metodolojilere güveniyor" dedi.

"Sonuç, verimlilik iddialarının sunulduğu güven ile arkalarındaki kanıtların gücü arasındaki bir boşluktur."

Raporun tavsiyeleri şunları içeriyor: gelecekteki çalışmaların teknolojinin etkisi üzerindeki belirsizliği yansıtmasını teşvik etmek; hükümet dairelerinin yapay zeka programlarının etkisini "başlangıçtan itibaren" ölçmesini sağlamak; ve verimlilik kazanımlarını haftalar yerine yıllar boyunca ölçen daha uzun vadeli çalışmaları desteklemek.