Claude Mythos nedir ve ne gibi riskler taşıyor?

Son haftalarda, önde gelen firmalardan Anthropic'in yeni modeli Claude Mythos hakkındaki iddiaları, yapay zeka dünyasında büyük yankı uyandırdı.

Şirket, aracın bazı hackleme ve siber güvenlik görevlerinde insanları geride bırakabileceğini belirtti ve bu durum, düzenleyiciler, yasama organları ve finans kuruluşları arasında dijital hizmetler için oluşturabileceği tehlikeler hakkında tartışmalara yol açtı.

Bazı teknoloji devlerine, Mythos'un kendisine karşı dayanıklılığı güçlendirmek üzere tasarlanmış Project Glasswing adlı bir girişim aracılığıyla Mythos'a erişim izni verildi.

Ancak diğerleri, aracının eşi benzeri görülmemiş yeteneklere sahip olduğunu öne sürmenin Anthropic'in çıkarına olduğunu belirtiyor, bu da yapay zeka ile ilgili her zaman olduğu gibi, haklı iddialar ile abartı arasındaki ayrımı yapmanın zor olabileceği anlamına geliyor.

Claude Mythos nedir?

Mythos, Anthropic'in daha geniş yapay zeka sistemi Claude'un bir parçası olarak geliştirdiği en son modellerinden biridir. Şirketin yapay zeka asistanını ve model ailesini kapsayan bu sistem, OpenAI'nin ChatGPT'sine ve Google'ın Gemini'sine rakip oluyor.

Anthropic tarafından Nisan ayı başlarında "Mythos Preview" olarak duyuruldu.

Yapay zeka modellerinin belirli istekleri veya görevleri nasıl ele aldığını test eden araştırmacılar, "red-team" olarak bilinenler, bir raporda Mythos'un "bilgisayar güvenliği görevlerinde dikkat çekici derecede yetenekli" olduğunu söylediler.

Aracın, onlarca yıllık kodlarda gizlenmiş pasif hataları bulabileceğini ve bunları kolayca istismar edebileceğini keşfettiler.

Bu nedenle, Mythos'u Claude kullanıcılarına yaygın olarak sunmak yerine, Anthropic, "dünyanın en kritik yazılımlarını güvence altına alma çabası" olarak tanımladığı Project Glasswing aracılığıyla 12 teknoloji şirketine erişim sağladı.

Bunlar arasında bulut bilişim devi Amazon Web Services, cihaz üreticileri Apple, Microsoft ve Google ile çip üreticileri Nvidia ve Broadcom bulunuyor.

Temmuz 2024'te küresel çapta büyük bir kesintiye neden olan hatalı bir yazılım güncellemesiyle tanınan Crowdstrike da projenin ortakları arasında yer alıyor ve Anthropic, Mythos'a kritik yazılımlardan sorumlu 40'tan fazla kuruluşa da erişim sağladığını belirtti.

Project Glasswing'in lansmanıyla birlikte yayınlanan bir videoda, Anthropic patronu Dario Amodei, "bu modellerin riskine karşı savunmaya yardımcı olmak" için ABD'li yetkililerle çalışmayı teklif ettiklerini söyledi.

Neden endişeler var?

Anthropic, testler sırasında modelin siber güvenlik ve hackleme görevlerinde insanları geride bırakarak çok yetenekli olduğunu bulduğunu söylüyor.

Anthropic, 7 Nisan'da yaptığı açıklamada, "Mythos Preview, her büyük işletim sistemi ve web tarayıcısındaki bazıları dahil olmak üzere binlerce yüksek önem dereceli güvenlik açığı buldu." dedi.

"Yapay zeka ilerlemesinin hızına bakıldığında, bu tür yeteneklerin, muhtemelen onları güvenli bir şekilde dağıtmaya kararlı olmayan aktörlerin ötesine yayılması uzun sürmeyecektir."

Çok fazla denetim olmadan, eski sistemlerde acil eylem gerektiren kritik hataları bulabileceğini, bunlardan biri de 27 yıldır bir sistemde mevcut olan bir güvenlik açığı olduğunu ve bunları istismar etmenin yollarını önerebileceğini belirtti.

Bazı finans bakanları, merkez bankacıları ve finansörler o zamandan beri, modelin finansal sistemlerin güvenliğini baltalayabileceğinden korkarak ciddi endişelerini dile getirdiler.

Kanada Maliye Bakanı François-Philippe Champagne, BBC'ye Mythos'un bu hafta Washington DC'de yapılan Uluslararası Para Fonu (IMF) toplantısında görüşüldüğünü söyledi.

"Kesinlikle tüm maliye bakanlarının dikkatini çekecek kadar ciddi," dedi ve teknolojiyi "bilinmeyen bir bilinmeyen" olarak nitelendirdi.

İngiltere Merkez Bankası Başkanı Andrew Bailey, BBC'ye "bu son yapay zeka gelişmesinin siber suç riski için ne anlama gelebileceğine çok dikkatli bakmamız gerekiyor" dedi.

Bu arada AB, Mythos ile ilgili endişeleri konusunda Anthropic ile görüşmelerde bulunduğunu da belirtti.

Siber uzmanlar ne dedi?

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin eski başkanı Ciaran Martin, bu hafta başlarında BBC'ye Mythos'un kritik güvenlik açıklarını diğer yapay zeka modellerinden çok daha hızlı ortaya çıkarabileceği iddiasının "insanları gerçekten sarstığını" söyledi.

"İkinci şey ise, bildiğimiz ancak kuruluşların henüz yamamış olabileceği, iyi savunulamamış olabileceği mevcut zayıflıklar olsa bile, gerçekten iyi bir hacker olması," dedi.

Birçok bağımsız siber güvenlik analisti ve uzmanı henüz kendileri test edemedi ve bazıları Mythos'un performansı konusunda şüpheci kalıyor.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü yakın zamanda, çok güçlü bir model olsa da, en büyük tehdidinin kötü savunulan, savunmasız sistemlere karşı olacağı sonucuna vardı.

Araştırmacıları, "Mythos Preview'in iyi savunulan sistemlere saldırıp saldıramayacağını kesin olarak söyleyemeyiz" dedi.

Yani iyi siber güvenlik olduğunda, bu modelin teorik olarak durdurulması umulur.

Endişelenmeli miyiz?

Yapay zeka ile ilgili korkular yeni değil.

Her zaman yeni modeller ve araçlar çıkıyor ve genellikle hayatlarımızı daha iyi veya daha kötü yönde devrimleştireceğine dair vaatlerle birlikte geliyorlar.

Yapay zekaya ve gelecekteki etkilerine ilişkin bu korku ve heyecan karışıklığından yararlanmak da son yıllarda sektörün ve pazarlama stratejilerinin bir özelliği haline geldi.

Mythos örneğinde, bu umutların veya korkuların haklı olup olmadığını veya daha çok sektördeki abartının bir yansıması olup olmadığını bilmek için henüz yeterli bilgiye sahip değiliz.

Her iki durumda da, NSCS'ye göre şu anda yapabileceğimiz en önemli şey panik yapmamak ve bunun yerine temel siber güvenliği doğru yapma ihtiyacına odaklanmaktır.

Sonuçta, çoğu hacker, çok daha basit saldırılar yeterli olduğunda sistemlere sızmak için süper yapay zeka araçlarına ihtiyaç duymaz.

Martin BBC'ye verdiği demeçte, "Bazıları için bu kıyametle ilgili bir olay, diğerleri için ise bolca abartı gibi görünüyor" dedi.

Ancak, ister bu araç olsun ister Anthropic veya rakipleri tarafından yapılan sonraki araçlar olsun, riskin yanı sıra daha güvenli bir çevrimiçi dünya inşa etme fırsatı da olduğunu söyledi.

"Orta vadede, internetteki temel güvenlik açıklarının çoğunu düzeltmek için bu araçları kullanma fırsatı var," dedi.

Dünyanın önde gelen teknoloji hikayelerini ve trendlerini takip etmek için Tech Decoded bültenimize kaydolun. Birleşik Krallık dışında mı? Buradan kaydolun.