'Halka açık olamayacak kadar güçlü': Anthropic'in yapay zeka tanıtım savaşı galibiyeti

Bu hafta yapay zeka şirketi Anthropic, o kadar güçlü bir yapay zeka modeli yarattığını söyledi ki, ezici bir sorumluluk duygusuyla onu halka serbest bırakmayacaktı.

ABD Hazine Bakanı Scott Bessent, model Mythos hakkında konuşmak üzere büyük bankaların başkanlarını çağırdı. Reform UK Milletvekili Danny Kruger, hükümete "yeni sınır modeli Claude Mythos'un Birleşik Krallık için feci siber güvenlik riskleri oluşturabileceği yapay zeka firması Anthropic ile etkileşim kurması" çağrısında bulunan bir mektup yazdı. X çalkalandı.

Diğerleri, önde gelen yapay zeka eleştirmeni Gary Marcus da dahil olmak üzere daha şüpheciydi ve "Dario [Amodei], Sam [Altman]'dan çok daha fazla teknik yeteneğe sahip, ancak Anthropic ve rakibi OpenAI'nin CEO'larına atıfta bulunarak aynı abartı ve şişirme okulundan mezun olmuş gibi görünüyor" dedi.

Anthropic'in tanrı makinesini inşa edip etmediği belirsiz. Daha belirgin olan, "sorumlu" yapay zeka şirketi olarak görülen San Francisco startup'ının pazarlamada harika olduğudur.

Geçtiğimiz aylarda Anthropic, New Yorker'da 10.000 kelimelik bir profil, Wall Street Journal'da iki yazı ve Time dergisinin kapağında Amodei'nin yüzünün Pentagon ve ABD savunma bakanı Pete Hegseth'in üzerinde film afişi tarzında yer almasıyla öne çıktı.

Amodei ve Anthropic'in kurucu ortağı Jack Clark, Şubat ayında iki ayrı New York Times podcast'inde yer alarak, makinelerinin bilinçli olup olmadığı ve yakında "ekonomiyi altüst edip edemeyeceği" gibi soruları tartıştılar. Şirketin "daimi filozofu", kripto para ticareti yapmak ve füze hedeflerini belirlemek için kullanılan ticari bir ürün olan Claude'un bir "benlik duygusu" olup olmadığı konusunda WSJ ile konuştu.

Tüm bunlar, Anthropic ve ABD savunma bakanlığı arasındaki bir çekişme sırasında gerçekleşti; burada Pentagon'un İran'a saldırmak için kullandığı yapay zeka aracını yaratan Anthropic, ABD ordusuna aynı şeyi yapmayı teklif eden ancak belki de daha az güvenlik önlemiyle yapan OpenAI'den çok daha iyi görünmeyi başardı.

Medya sorumlusu Danielle Ghiglieri, LinkedIn'de bu başarıları kaydetti. "Anthropic'te çalıştığım için sonsuz gurur duyuyorum," dedi, şirketin Time kapağı hakkında, gazetecileri etiketleyerek hikayeyi tamamlama "çılgın aceleciliği" hakkında bir gönderide.

Amodei'nin yer aldığı bir CBS 60 Minutes bölümünü izlemek "beni dürten anlardan biriydi," dedi. "Anlamlı kılan sadece platform değildi. Anlatmak istediğimiz hikayenin gerçekten ortaya çıktığını görmekti."

Gazeteci Gideon Lewis-Kraus tarafından hazırlanan New Yorker profili hakkında, "İlk yüz yüze görüşmemiz için gergin olmadığımı söylesem yalan söylemiş olurum... Gideon'ın kalibresinde biriyle çalışmak, henüz şekillendirdiğiniz fikirleri ifade etmeye zorlanmak ve bu rahatsızlıkla başa çıkabilmek anlamına gelir" diye yazdı.

(Editörüm, "Senin hakkında herkesin böyle söylediğine eminim," dedi.)

Diğer teknoloji halkla ilişkiler uzmanları da bunu fark etti.

"Şu anda açıkça bir an yaşıyorlar ama dünyayı değiştirecek teknoloji inşa eden şirketler eşit incelemeyi hak ediyor," dedi biri. "Geçen hafta kendi kaynak kodlarını yanlışlıkla sızdırdılar, sonra bu hafta sadece kendilerinin kontrol ettiği yeni güçlü bir modelle siber tehditler üzerinde sorumluluk iddia ediyorlar. Başka herhangi bir büyük teknoloji şirketi alay konusu olurdu."

Anthropic, Nisan ayı başında Claude'un dahili kaynak kodunun bir bölümünü yanlışlıkla yayınladı. "Hassas müşteri verileri veya kimlik bilgileri dahil edilmedi veya ifşa edilmedi," dedi.

Tüm bunların Anthropic'in şüphesiz güçlü Mythos'u hakkında ne anlama geldiği sorusu akla geliyor.

Modelin kapasiteleri "doğrulanmadı," dedi AI Now Enstitüsü'nün baş yapay zeka bilimcisi Dr. Heidy Khlaaf. "Kanıtları gizleyen kasıtlı olarak belirsiz bir dil içeren bir pazarlama gönderisi yayınlamak... inceleme olmadan daha fazla yatırım çekmeye çalıştıklarını sorgulatıyor."

Saldırgan siber güvenlik uzmanı Jameison O'Reilly, "Mythos gerçek bir gelişme ve Anthropic'in ona ciddi yaklaşması doğruydu" dedi. Ancak O'Reilly'ye göre, Anthropic'in büyük işletim sistemlerinde binlerce "sıfır gün açığı" bulduğu gibi iddiaları, gerçek dünya siber güvenlik endişeleri açısından pek de önemli değildi.

Sıfır gün açığı, geliştiricileri tarafından bilinmeyen bir yazılım veya donanımdaki bir kusurdur.

O'Reilly, "On yılı aşkın süredir yüzlerce kuruluşa - bankalar, hükümetler, kritik altyapılar, küresel şirketler - yetkili erişim sağlıyoruz," dedi. "Bu on yıl boyunca, yüzlerce görevde, hedefimize ulaşmak için bir sıfır gün açığına ihtiyaç duyduğumuz durumların sayısı inanılmaz derecede azdı."

Anthropic'in Mythos'u yayınlamama kararına başka nedenler de katkıda bulunmuş olabilir.

Şirketin kaynakları sınırlı ve abonelerinin tümünün modellerini kullanmasına yetecek kadar bilgi işlem kapasitesi sunmakta zorlanıyor gibi görünüyor. Son derece popüler Claude üzerinde kullanım limitleri getirdi. Yakın zamanda, kullanıcıların OpenClaw gibi üçüncü taraf araçları çalıştırmak için aboneliklerinin üzerine ek kapasite satın almaları gerekeceğini söyledi. Bu noktada, abartılı yeni bir yaratımın yayınlanmasını destekleyecek altyapısı olmayabilir.

OpenAI gibi Anthropic de milyarlarca dolar toplamak ve sohbet botlarına arkadaş, romantik partner veya derinlemesine kişiselleştirilmiş asistanlar olarak güvenebilecek insanlar ve onları insan çalışanların yerine kullanabilecek şirketlerden oluşan - hala tam olarak tanımlanmamış - bir pazarı ele geçirmek için bir yarış içinde.

Ancak bu ürünlerdeki farklılıklar marjinal ve izlenimseldir, çoğunlukla "benlik duygusu" ve "ruh" gibi ölçülmesi zor niteliklere dayanır - ya da daha doğrusu, bir yapay zeka aracındaki bunlar için neyin geçerli olduğuna. Savaş, kalpler ve zihinler içindir.

Khlaaf, "Mythos, işe açık olduklarını göstermek için stratejik bir duyuru," dedi ve Anthropic'in yayınlama kısıtlamasının bağımsız uzmanların şirketin iddialarını değerlendirmesini engellediğini belirtti.

"Güvenlik, kârların önceliklendirilmesinden önce kamu güvenini kazanmak için kullanılan bir halkla ilişkiler aracı olduğu OpenAI tarafından kullanılan yem ve anahtar oyununun aynısını görüyor olabiliriz" ve ekledi: "Anthropic'in tanıtımı, rakiplerinden daha iyi bir şekilde bu anahtarı gizlemeyi başardı."