Finans liderleri, Mythos konusunda uyarılarda bulunurken İngiltere bankaları güçlü Anthropic yapay zeka aracını kullanmaya hazırlanıyor

İngiliz bankaları önümüzdeki hafta, kamuya yayınlanmasının çok tehlikeli olduğuna karar verilen güçlü bir yapay zeka aracına erişim elde edecek, üst düzey finans figürleri ise bunun etkileri konusunda uyarıda bulundular.

Anthropic, şimdiye kadar yeni modeli öncelikle Amazon, Apple ve Microsoft gibi birkaç ABD şirketine sınırlı bir şekilde yayınlamıştı, önümüzdeki günlerde bunu İngiltere finans kurumlarına genişleteceğini söyledi.

“Bu, çok yakın bir zamanda, önümüzdeki hafta içinde olacak,” Anthropic’in İngiltere, İrlanda ve Kuzey Avrupa operasyonlarından sorumlu başı Pip White, Bloomberg TV’de yaptığı açıklamada dedi. “Beklediğiniz gibi, son hafta içinde İngiliz CEO’larından aldığım ilgi önemliydi.”

Claude ailesinin yapay zeka araçlarının arkasındaki şirket olan Anthropic, en son modeli Mythos’un, BT sistemlerindeki kusurları ortaya çıkarma yeteneği nedeniyle eşi görülmemiş bir risk oluşturduğunu söyledi.

“Yapay zeka modelleri, kodlama yetenekleri açısından en yetenekli insanları bile geride bırakarak yazılım güvenlik açıklarını bulma ve bunlardan yararlanma seviyesine ulaştılar” dedi Anthropic, bu ayın başlarında yayınladığı bir blog yazısında. “Ekonomiler, kamu güvenliği ve ulusal güvenlik için sonuçlar ciddi olabilir.”

Finans bakanları, yöneticiler ve düzenleyiciler, bu hafta Washington’da IMF ve Dünya Bankası ilkbahar toplantılarında toplandıklarında potansiyel tehditleri görüştüler, aynı zamanda ABD-İsrail savaşıyla İran’a yansıyan küresel sonuçlarla ilgili endişeleri de ele aldılar.

Kanada Maliye Bakanı François-Philippe Champagne, BBC’ye şunları söyledi: “Kesinlikle tüm maliye bakanlarının dikkatini gerektirecek kadar ciddi. Hormuz Boğazı ile karşılaştırdığımızda, bunun nerede olduğunu ve ne kadar büyük olduğunu biliyoruz.

“Karşılaştığımız sorun, Anthropic ile ilgili bilinmeyen bir bilinmeyen. Finansal sistemimizin dayanıklılığını sağlamak için koruma önlemlerine ve süreçlere sahip olduğumuzdan emin olmak için çok fazla dikkat gerektiriyor.”

İngiltere Merkez Bankası valisi ve küresel düzenleyicilerin Mali İstikrar Kurulu başkanlığını da yürüten Andrew Bailey, “Bu hepimiz için çok ciddi bir zorluk. Yapay zeka dünyasının ne kadar hızlı ilerlediğini bize hatırlatıyor” dedi.

Ancak hükümetler yapay zekanın ekonomik ödüllerinden yararlanmaya çalışırken, düzenleyicilerin bu teknolojiye ne zaman ve ne kadar sert müdahale etmeleri gerektiğini göz önünde bulundurmak zorunda olduklarını da söyledi. “Yolun kurallarını çerçevelemek için optimum an ne zaman?” diye sordu Bailey. “Çok erken giderseniz a) hedefi kaçırma ve b) evrimin bozulma riskiyle karşılaşırsınız ve çok geç giderseniz işler kontrolden çıkabilir.”

Avrupa Merkez Bankası Başkanı Christine Lagarde, “Anthropic ve Mythos ile gördüğümüz gelişim, ‘Ah, bu gerçekten iyi olabilir’ diye aniden düşünen sorumlu bir şirketin iyi bir örneğidir - ancak yanlış ellere düşerse gerçekten kötü olabilir” dedi.

“Herkesin içinde faaliyet gösterebileceği bir çerçeveye sahip olmak istiyor” dedi Lagarde, Bloomberg TV’ye yaptığı açıklamada. Ancak, “Bunu gerçekten gözeten bir yönetim çerçevesinin orada olduğunu düşünmüyorum. Bunun üzerinde çalışmamız gerekiyor.”