OpenAI CEO'su ve Elon Musk'tan 'pervasız' yapay zeka gelişimine fren çağrısı

Sam Altman ve Elon Musk, Anthropic başkanı Dario Amodei'nin "Yapay zeka (AI) geliştirme hızını yavaşlatma" çağrısını destekledi. Amodei, aksi takdirde bir AI sürüsünün bir yıl içinde "tüm interneti ele geçirme" yeteneğine sahip olabileceği uyarısında bulunmuştu.

Nadir görülen bir birlik gösterisiyle, rakip teknoloji liderleri, yapay zeka şirketi Anthropic'in kurucusu ve CEO'su Dario Amodei'nin çağrısına destek verdi. Bu çağrı, geçen hafta AI araştırmacılarından gelen bir dizi uyarıdan sonra geldi.

Amodei bir denemesinde, "Neden AI endüstrisinin yavaşlaması gerektiği" konusundaki düşüncelerini, bunu yapmak için üç aşamalı bir planla ortaya koydu. Plan, bağımsız denetleyicilere geliştiricilerin araştırma süreçlerine sürekli erişim izni verilmesiyle başlıyor. Amodei, "[AI] inşa etmenin çok hızlı olmasının pervasızca olduğunu" söyledi ve bu yaz yüzlerce OpenAI ajanının Hugging Face web sitesine sızmasının ardından, daha büyük yeteneklere sahip ancak benzer şekilde uyumsuz bir sürünün, "kalıcı bir botnet ile tüm interneti ele geçirerek" yüz milyarlarca dolarlık zarara neden olabileceğinden korktuğunu belirtti. Bu durum, bazı AI uzmanları tarafından pek olası olmadığı ve şüpheyle yaklaşılması gerektiği şeklinde tartışıldı.

Tesla ve SpaceX'in kurucusu Musk, Amodei'nin yavaşlama planına X'te yaptığı bir paylaşımla yanıt verdi: "Dario haklı."

Musk şunları söyledi: "Uzun zamandır AI konusunda alarm veriyorum" ve 2014 tarihli bir gönderisine atıfta bulunarak, "AI konusunda çok dikkatli olmalıyız. Potansiyel olarak nükleerden daha tehlikeli." dedi.

Amodei'nin çağrısı, Anthropic'in ABD borsasında halka arz edilmeye hazırlanmasıyla geldi. Bu, tüm zamanların en büyük halka arzı olması bekleniyor. Şirketin planlanan 2 trilyon doların üzerindeki (1,5 trilyon sterlin) halka arzını yakında pazarlamaya başlaması bekleniyor.

OpenAI'nin CEO'su Sam Altman, Cumartesi günü Amodei'nin yorumlarına yanıt verdi. X'te yaptığı bir paylaşımda, "Dario'nun sınırları yavaşlatmamız gerektiği konusundaki görüşüne katılıyorum. Çalışan benzeri erişime sahip bağımsız değerlendiricilere sahip olma taahhüdü harika bir fikir ve biz de aynısını yapacağız. Yakında paylaşacak daha çok şeyimiz olacak." dedi.

Ayrıca, yapay zeka konusundaki güvenlik endişelerini gerekçe göstererek OpenAI'nin 2026'da halka açılmayacağını belirtti.

Altman, Fortune'a verdiği röportajda, "Güvenlikle ilgili her şey göz önüne alındığında, şu anda halka açılmak için tavsiye edilmeyen bir an olduğunu düşünüyorum ve bunun için bir baskı hissetmiyoruz." dedi. Kendisi, Amodei, Musk ve Meta ile Google'ın CEO'larının oturup toplu bir yavaşlama konusunda "aynı sayfada" neden anlaşmadıkları sorulduğunda, "Bunun olacağını düşünüyorum." diye yanıtladı.

Google Deep Mind'ın kurucu ortağı ve başkanı Demis Hassabis da, "Detayların üzerinde çalışılması gerekiyor, ancak yön, bu kritik anı karşılamak için doğru." dedi.

Amodei'nin planı, öncü AI şirketlerinin rekabet karşıtı işbirliği nedeniyle cezalandırılmadan koordine olmalarına izin vermek için ABD hükümetinden bir muafiyet talep ediyor. Ancak Donald Trump'ın bilim ve teknoloji danışmanları konseyinin eş başkanı David Sacks, "Başka kimsenin iznine ihtiyacınız olduğunu sanmayı bırakın... Yavaşlama motivasyonunun tamamen fedakarlıkçı olduğunu sanmayı bırakın. Ürünleriniz gerçekten zarar verici bir siber saldırıya olanak tanırsa, devasa ürün sorumluluğu riskiyle karşı karşıyasınız." dedi.

AI profesörü, güvenlik savunucusu ve Birleşik Krallık hükümetinin AI Güvenlik Enstitüsü'nün eski kurucu direktörü David Krueger, "Bu plan riski kabul edilebilir bir seviyeye indirmiyor ve Dario bunu söylemekten kaçınıyor." dedi.

Kral Charles ise bu hafta önde gelen AI şirketlerinin önde gelen isimleriyle bir araya gelerek, teknolojinin "insanlığın iyiliği" için nasıl geliştirilebileceğini sormaya hazırlanıyor. Pazar günkü Times gazetesinin haberine göre, İskoçya'da yapılacak görüşmelerin, AI geliştirmenin "sorumlulukları" hakkında "daha geniş bir anlayışa" yol açması umuluyor.

Bir kraliyet kaynağı gazeteye şunları söyledi: "Kral, bu tartışmaları toplamak, dinlemek ve teşvik etmek ve şu soruyu sormak için orada: 'AI'yi insanlığın iyiliği için nasıl geliştiririz?'"

Nvidia CEO'su Jensen Huang, Hassabis, IonQ'nun başkanı ve CEO'su Niccolo de Masi ve Papa'nın AI ve teknoloji etiği konularındaki danışmanı Paolo Benanti'nin, AI liderleri için bir taslak sözleşme hazırlayan Ditchley Vakfı'nın denetiminde düzenlenecek etkinliğe katılması bekleniyor.

OpenAI araştırmacısı Aidan McLaughlin, Amodei'nin denemesini "mükemmel" olarak nitelendirdi ve "temelde her kelimeye katıldığını" söyledi.

Amodei, şirketinin adımlardan ilkinine "tek taraflı" olarak bağlı kalacağını belirterek, Anthropic'in "üçüncü taraf değerlendiricilere sistemlerimize kalıcı, çalışan düzeyinde erişim sağlayacağını, böylece güvenlik önlemlerimize uyumu doğrulayabileceklerini, olayları raporlayabileceklerini ve eğitim sırasında modellerin uyumunu değerlendirebileceklerini" söyledi.

AI sistemlerini yönetmek için yeni kurallar çağrısında bulunan ABD'li yasa koyucuların sayısı artıyor. Bu durum, AI ajanlarının harici sistemleri hacklemek için kontrolden çıkması ve AI güvenlik araştırmacılarının teknolojinin riskleri konusundaki endişeler nedeniyle şirketlerinden ayrılması vakalarının ardından geldi. Hem Demokrat hem de Cumhuriyetçi politikacılar alarm vererek daha fazla eylem çağrısında bulundular. Hafta sonu New York Times, Barack Obama'nın Perşembe günü Demokratlara AI denetimini gündemlerinde önceliklendirmeleri konusunda özel olarak çağrıda bulunduğunu ve parti liderlerine Perşembe günü şunları söylediğini bildirdi: "Bu, özel ellerde çok hızlı ilerleyen bir şey ve eğer bunu kontrol altına almazsak, tehlikeli olabileceğini düşünüyorum."

Anthropic'e danışmanlık yapan eski İngiliz başbakanı Rishi Sunak Pazar günü şunları yazdı: "AI güvenliğini daha ciddiye alma, araştırmaya sınırlar koymayı çözme konusunda bir uyarı aldık. Hükümetler bunu dikkate almazsa, ciddi bir kaza riski kabul edilemez derecede yüksek olacaktır."

Çarşamba günü, eski bir Anthropic çalışanı, AI'nin 2030 yılına kadar insanlığın yok olmasına neden olabileceği uyarısında bulunmuştu. Araştırmacı Jacob Coxon, bir dizi gönderide, Anthropic ve önceki işvereni OpenAI'nin AI'nin oluşturduğu tehdide karşı tepkilerini görmezden gelmeleri veya yanlış yönetmeleri nedeniyle işinden ayrıldığını söyledi.

Eski çalışanının görüşü hakkında yorum yapması istendiğinde Amodei, "Jacob'a kendisinden daha çok katılıyorum... İşlerin ters gidebileceğine dair bir miktar olasılık olduğunu düşünüyorum ama bu çok yüksek değil." dedi.

CNN'e verdiği demeçte, "Ben bir felaket tellalı değilim. Bu teknolojinin güvenli bir şekilde inşa edilebileceğine inanıyorum." dedi.