The Guardian'ın Anthropic'in Claude Mythos yorumu: Yapay zeka her kusuru bulduğunda, interneti kim kontrol edecek? | Başyazı

Anthropic bu ay en son yapay zeka modeli Claude Mythos'u duyurdu ancak bilgisayarları suç mahalline dönüştürdüğü için halka açıklanmayacağını söyledi. Şirket, daha önce bilinmeyen "sıfır gün" kusurlarını bulabileceğini, bunları istismar edebileceğini ve prensipte, büyük işletim sistemlerini ve web tarayıcılarını ele geçirmek için bu zayıflıkları birbirine bağlayabileceğini iddia etti. Mythos bunu otonom olarak, kod yazarak ve ayrıcalıklar elde ederek yaptı. Etkileri önemlidir. Bu, herhangi bir binayı hedefleyebilen, içeri girebilen, her kapıyı açabilen ve her kasayı boşaltabilen bir hırsız gibi.

Silikon Vadisi şirketi, şimdiye kadar hackerların istismar etme şansı bulmadan önce zayıflıkları "yama" yapmalarına yardımcı olmak için Project Glasswing kapsamında 40 kuruluşu ortak olarak adlandırdı. Hepsi Amerikalı, ABD liderliğindeki dijital sistemin kalbinde yer alıyor. Anthropic, Mythos'u ABD dışındaki tek ülke olarak İngiltere ile paylaştı ve AI Güvenlik Enstitüsü'nün sınır modellerini test etmesine izin verdi. Yakından gördükten sonra İngiliz bakanlar uyardı: Yapay zeka siber saldırıları çok daha kolay ve hızlı hale getirmek üzere ve çoğu işletme hazır değil. Avrupa'daki bankaların bir sonraki test etmesi muhtemel.

Bu belki de zamanından önce değil. Bu hafta yetkisiz erişim raporları ortaya çıktı - bu da herhangi bir özel şirkete bu tür bir yetenekle güvenilip güvenilemeyeceği sorusunu gündeme getiriyor. Mythos mutlaka yeni bir siber tehdit türü yaratmıyor. Gizli bir zayıflığı sistemik bir riske dönüştürüyor. Geleneksel olarak hackleme zordu ve zaman alıcıydı, az kişinin sahip olduğu beceriler gerektiriyordu. Ancak yapay zeka araçları hızla yayılıyor ve sistem ihlallerini sadece uzmanların değil, birçok kişinin erişimine sunuyor.

Bir avcı da bir bekçi olabilir. Mozilla, Mythos'u Firefox tarayıcısında test etti: daha öncekinden 10 kat daha fazla kusur buldu - ve bunları düzeltti. Önemlisi, hiçbiri bir insanın tespit edemeyeceği türden değildi. Değişen şey, yapay zekanın "siber güvenlik açıklarını" hızlı, ucuz ve ölçeklenebilir bir şekilde keşfetmesidir.

ABD hükümetinin Anthropic'i benimsemesi bir değişimi işaret ediyor. Şubat ayında Pentagon, şirketi "güvenlik riski" olarak değerlendirdi ve kitle gözetimi veya otonom silahlar için teknolojisinin kullanılmasına izin vermeyi reddettikten sonra onu karlı anlaşmalardan kesti. Bunun yerine OpenAI sözleşmeyi aldı. Anthropic, Claude sohbet robotuyla, rakipleri arasında uzun süredir etik alternatif olarak kendini tanıtıyor - ancak geçen yıl 1,5 milyar dolarlık bir korsanlık anlaşmasıyla imajı zedelenmişti.

Mythos güçlü, ancak Anthropic'in halkla ilişkileri, teknolojisi kadar anlatıyı da şekillendirdi. Mythos'un gerçekte ne kadar gelişmiş olduğu sorusu da var. Araştırmacılar, ölçekte dağıtılan daha küçük, daha ucuz modellerin benzer başarılar gösterebildiğini gösterdiler. Bir atılım gibi görünen şey, alandaki daha geniş bir değişimi yansıtabilir. Beyaz Saray, Anthropic'in stratejik değere sahip olduğunu düşünüyor - onu tekrar topluluğa dahil ediyor ve yapay zeka firmalarını yükleniciler olarak değil ortaklar olarak görme eğiliminde bir değişim sinyali veriyor. Bu daha derin bir endişeyi gündeme getiriyor: özel firmaların kritik altyapı riskini kontrol etmesinin akıllıca olup olmadığı - özellikle de daha az sorumlu aktörler teknik kaldıraç elde ederse.

Açıkçası, kim - devlet veya firma - en güçlü yapay zeka modellerini yaratırsa, dostlar ve düşmanlar üzerinde jeopolitik avantajlar elde edecektir. Ancak siber güvenlik konusunda uluslararası koordinasyon için bir çerçeve olmadan, güvenli bir internet yerine, her biri kendi sistemini "yama" yapan ve diğerlerine tam olarak güvenmeyen, rekabet eden bir dizi internet riski olacaktır. Artık küresel bir ortak alan olmayacaktı. Bunun yerine, web güvenlik ittifaklarına bölünecek, daha sıkı korunacak, hatta daha geniş bir şey sessizce kaybolurken.

-
**Bu makalede ele alınan konular hakkında bir fikriniz var mı? Yayınlanmak üzere mektuplar bölümümüze gönderilmek üzere e-posta ile en fazla 300 kelimelik bir yanıt göndermek isterseniz, lütfen buraya tıklayın.**