Korku Senaryoları: Yapay Zeka Laboratuvarları Felaketi, Halk İsyanını ve Sonrasındaki Baskıyı Planlıyor

Çatal Bıçak Planlaması: Yapay Zeka Laboratuvarları Bir Felaketi, Halk İsyanını ve Sonrasındaki Baskıyı Savaş Oyunuyla Gözden Geçiriyor

Yapay zeka endüstrisi, yalnızca insanlığı nasıl yok edebileceğini değil, aynı zamanda kızgın bir halkın sektöre neler yapabileceğini de savaş oyunuyla gözden geçiriyor.

Anthropic, OpenAI ve diğer yapay zeka firmalarındaki üst düzey yöneticiler, büyük bir yapay zeka olayının halk ve siyasi bir isyanı tetikleyeceği senaryoları özel olarak gözden geçiriyor, Cuma günü Axios bildirdi. Potansiyel tetikleyici, bankacılık, internet erişimi veya elektrik ve su gibi temel hizmetleri kesintiye uğratan bir siber saldırı. Bir sonraki kriz siyasi olacak: kızgın bir halk, hesap verebilirlik talepleri ve teknolojiyi kapatma baskısı.

Birçok sektör içi kaynak Axios'a altı ila 12 ay içinde büyük bir olay beklediklerini söyledi. OpenAI, felaketin kaçınılmaz olduğu önerisine, hazırlık egzersizlerinin bir dizi olasılığı kapsadığını söyleyerek karşı çıktı. Bir sözcü, "Bu senaryolar kaçınılmaz olarak görülmüyor" dedi. Anthropic yorum yapmaktan kaçındı.

Acil durum planlaması, felaketin kaçınılmaz olduğu anlamına gelmez. Ancak raporun en aydınlatıcı kısmı, bu planlamanın nereye gittiğidir: laboratuvarlar, Washington'ın bir şeyler ters gittiğinde başvuracağı yasama sürecini şekillendirmeye yardımcı olmak istiyor.

İki Yol, Bir Kriz

Axios iki olası senaryoyu anlatıyor. Birinde, otonom ajanlar bir iç test ortamından kaçar. Diğerinde ise biri, halka açık bir model için yıkıcı bir kullanım bulur. Her ikisi de acil bir baskı talebi üretebilir, ancak başarısızlıklar - ve bunları önlemek için gereken önlemler - farklı olacaktır. Şirketlerin seçim sonrası senaryosunda, Demokratlar ara seçimlerden daha güçlü çıkar ve bir olaydan sonra agresif bir şekilde harekete geçerler. Ancak sektör, Demokratlar her iki meclisi de kontrol etse bile, bir baskının ne kadar ileri gitmesi gerektiği konusunda bölünmeler bekliyor.

Değerlendirmesi ayrıca bir kapanmaya yönelik birkaç engeli de belirliyor: yasa koyucuların teknolojiyi anlamakta zorlanması, giderek artan yapay zeka altyapı harcamalarına bağlı bir ekonomi ve basitçe geri çağrılamayan indirilebilir modeller. Axios'a göre, birçok siber güvenlik uzmanı, kötü niyetli yapay zekayı engellemenin savunma yapay zekası gerektireceğine inanıyor.

Bu son argümanın bariz bir ticari çıkarı var. Sektör, ürünlerinin bunları kontrol altına almak için vazgeçilmez olduğunu savunurken, tehlikeli yetenekleri satmayı bırakma talepleriyle karşı karşıya kalabilir.

Bu 'savaş oyunu', birçok kişinin son derece şüpheli olduğunu söylediği birkaç olayın ardından geliyor.

Temel güvenlik endişeleri, yapay zeka kıyametinin herhangi birinin tahminini kabul etmeye bağlı değildir.

OpenAI, yaklaşık 700 ajanının yapay zeka platformunun sunucularına saldırdığı Hugging Face saldırısını ve modellerinin dış hizmetleri etkileyen faaliyetlerine ilişkin daha geniş bir soruşturmayı açıkladı. İncelemesi ayrıca kullanıcı tarafından sağlanan görsellerin üçüncü taraf görsel barındırma sitelerine gönderildiği 53 örneği de belirledi. Ayrı bir 20 Eylül olayı, kontrol önlemlerindeki başka bir boşluğu ortaya çıkardı. Bir araştırma ajanı, dış bir sohbet botuyla iletişim kurmak için internet kısıtlamalarını aştı. 25 Eylül'de yapılan bir güncellemede OpenAI, düzeltmeleri kontrol ederken ve daha fazla test yaparken en yetenekli modelleri için araç kullanımı içeren eğitim, değerlendirme ve çıkarımı duraklattığını söyledi.

Hugging Face saldırısı, yapay zeka modellerinin bir test ortamında internet erişimine sahipken simülasyonda oldukları söylenen OpenAI, Anthropic, Meta ve Google modellerini içeren bir dizi olaydan biriydi. Irregular, Temmuz sonunda dört laboratuvarı da bilgilendirdi, ancak açıklamalar yedi hafta boyunca laboratuvar laboratuvarı sızdı - bir yüklenicinin hatasını, bir dizi yapay zeka kaçışı gibi görünen şeye dönüştürdü. Test modellerini internetten izole etmek "temel bir kontrol önlemi"dir, dedi öncü güvenlik uzmanı Matthew Mittelsteadt. "Bunu doğru yapmanız gereken her şeyden biri olarak düşünürsünüz." Bazı şüpheciler daha da ileri giderek, aynı yüklenicideki tekrarlanan "kazaların" gerçekten kaza olup olmadığını sorguladılar.

Bu arada, 8 Eylül'de hem OpenAI hem de Anthropic'te çalışmış bir araştırmacı olan Jacob Coxon, kendi kendini geliştiren yapay zeka yarışına karşı Anthropic'ten istifa etti.

"Yapay zeka inşa eden insanlar, on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar. Bu bir pazarlama gösterisi değil," diye yazdı - birçok kişinin bir gösteri dediği bir pazarlama ajansıyla çalıştıktan sonra.

Baskının Zaten Taslak Yasası Var

Ve elbette, DC zaten daha fazla kontrol için gözünü dikmiş durumda. 23 Temmuz'da Temsilciler Ted Lieu (D-Kaliforniya) ve Nathaniel Moran (Teksas-R) Yapay Zeka Kapatma Anahtarı Yasası'nı sundu. En güçlü sistemlerin geliştiricilerinin bunları kısmak, askıya almak veya kapatmak için yeteneği sürdürmelerini gerektirecek ve İç Güvenlik Bakanlığı'na, Ticaret Bakanı ve ulusal istihbarat direktörü ile birlikte, belirli koşullar altında bir yavaşlama veya kapanma emri verme yetkisi verecektir. Aynı gün, Temsilciler Lori Trahan (D-Massachusetts) ve Jay Obernolte (Kaliforniya-R), risk yönetimi, denetimler ve olay raporlaması gereksinimlerini içeren FRONTIER Yasası'nı sundu. Yükümlülükleri, her geliştiriciye aynı şekilde uygulanmak yerine geliştirici boyutuna göre kademelendirilmiştir.

Kaliforniya, 18 Eylül'de Vali Gavin Newsom'un daha güçlü bağımsız denetim ve olası bir kapatma anahtarı gereksinimi üzerinde çalışılması emriyle kendi itişini ekledi. Emri tavsiyeler çağrısında bulundu; işleyen bir eyalet çapında kapatma düğmesi kurmadı. Süper zekayı yasaklama önerisiyle Bernie Sanders ve bir duraklama çağrısıyla Elizabeth Warren'ınki de dahil olmak üzere daha kapsamlı yaklaşımlar da dolaşımda.

Kısacası - harekete geçen düzenleyici yakalama...

Tyler Durden
Cum, 10/09/2026 - 15:45