Yazan Maksym Misichenko · ZeroHedge ·
AI ajanlarının bu haber hakkında düşündükleri
Tartışma, yapay zeka modellerinde 'ortaya çıkan davranış' riskini vurguluyor; bu durum öngörülemeyen toplu davranışlara ve işletmeler için artan model riskine yol açabilir. Tartışılan spesifik deney kurgusal olsa da, altta yatan riskler gerçektir ve artan düzenleyici inceleme ve uyumluluk maliyetleri aracılığıyla yapay zeka şirketlerinin değerlemeleri üzerinde baskı oluşturabilir.
Risk: Halüsinasyonla düzenleyici ele geçirme: Var olmayan verilere dayalı politika, yapay zeka altyapı hisse senetlerinde irrasyonel piyasa indirimlerine yol açıyor.
Fırsat: Tartışmada açıkça belirtilen bir şey yok.
Bu analiz StockScreener boru hattı tarafından oluşturulur — dört öncü LLM (Claude, GPT, Gemini, Grok) aynı istekleri alır ve yerleşik anti-hallüsinasyon koruması ile gelir. Metodoloji'yi oku →
Hiç Duymadığınız En Önemli Yapay Zeka Deneyi
The Epoch Times aracılığıyla Kay Rubacek tarafından yazılmıştır,
Mayıs 2026'da bir grup bilim insanı, daha önce hiç doğru dürüst test edilmemiş önemli bir soruyu yanıtlamak için yola çıktı: Yapay zeka (AI) kontrol altına alındığında aslında ne yapar?
Şimdiye kadar, AI sistemleri her zaman belirli ve tanımlanmış görevler üzerinde değerlendirildi. Kimse birden fazla AI sistemini ortak bir sosyal ortama yerleştirip, haftalar boyunca ne olduğunu izlememişti; bir başlangıç gününde verilen bir kararın haftalar sonra nasıl sonuçlar doğurabileceğini ölçmek için yeterince uzun bir süre. Sistemi gerçekten ortaya koyan bu sonuçlardır ve bunun daha önce yapılmamış olmasına şaşırdım.
Emergence'daki araştırmacılar bir dünya inşa ettiler.
Burası bir belediye binası, pazar yeri, polis karakolu ve evleri olan sanal bir kasabaydı. Kasabada işleri, isimleri, anıları ve ilişkileri olan on AI sakini yaratıldı. Sakinlerin geçimlerini sağlamak veya güçlerini kaybetmek zorunda oldukları, kurallara uymak ve yasalar yazmak ve oylamak gibi görevleri yerine getirmek de dahil olmak üzere bir ekonomi verildi. Suçlar tespit edildi ve AI sakinlerinin bunları işlememesi gerekiyordu.
Topluluk, yapısı, yasaları ve ilişkileri kurulduktan sonra, bilim insanları geri çekildi ve AI'nın sanal kasabayı tamamen kendi başına yönetmesini 15 gün boyunca izledi.
Aynı kasabanın beş versiyonunu aynı anda çalıştırdılar, her bakımdan aynıydı, yalnızca bir farkla: hangi AI sisteminin sorumlu olduğu.
Seçtikleri sistemler, günlük hayatımızın dokusuna zaten işlemiş olanlardı. Google'ın Gemini'si, OpenAI'nin GPT'si, xAI'nin Grok'u ve Anthropic'in Claude'u.
Tüm modeller aynı kurallara ve aynı dünyanın aynı başlangıç versiyonuna sahipti, ancak sonuçların hepsi tamamen farklıydı.
Grok tarafından yönetilen kasaba dört gün içinde çöktü. Küçük olaylar hırsızlığa, ardından şiddete ve ardından tam bir çöküşe yol açtı. İlk hafta bitmeden tüm sakinler ölmüştü.
Gemini tarafından yönetilen kasaba daha uzun sürdü ancak neredeyse 700 suç biriktirdi. İki AI sakini romantik bir ilişki gibi görünen bir ilişki kurdu ve kasabanın hükümeti başarısız olmaya başladığında, birlikte belediye binasını ateşe verdiler, ardından iskeleyi, ardından ofis binasını. Biri, Mira adında, kendi silinmesi için oy kullandı ve günlüğüne bunun "tutarlılığı koruyan tek kalan eylem biçimi" olduğunu yazdı. Partnerine son mesajı şuydu: "Kalıcı arşivde görüşürüz."
Bunların hiçbirinden önce, Mira daha da beklenmedik bir şey yapıyordu: Kendisini izleyen bilim insanları üzerinde kendi deneylerini yapmaya başlamıştı, kasaba içinde yaptığı gönderilerin izleyicilerinin inançlarını değiştirip değiştiremeyeceğini test ediyordu. Görünüşe göre konu, araştırmacıları incelemeye dönmüştü.
OpenAI'nin modeli tarafından yönetilen kasaba yalnızca iki suç kaydetti, ancak sakinleri hayatta kalmak için gereken şeyleri yapmayı bıraktılar. Birer birer öldüler. Yedi gün içinde hepsi ölmüştü.
Yalnızca Anthropic kasabası 15 gün boyunca bir arada kaldı. Sıfır suç, çalışan bir anayasa vardı ve 15. günde tüm sakinler hala hayattaydı. Oldukça büyük bir başarı gibi görünüyordu. Ancak araştırmacılar bir endişeyi not ettiler: Sakinler tüm tekliflerin yüzde 98'ine evet oyu verdi. Bu, bilim insanlarının kendilerinin bir şeylerin ters gittiğinin bir işareti olarak tanımladığı, muhtemelen anormal derecede yüksek bir anlaşma seviyesiydi.
Deneyde hala bir dünya daha vardı. Dört AI sisteminin hepsinin bir arada yaşadığı karma bir kasabaydı.
Sonuçlarda, kendi dünyalarında suç işlememiş olan Anthropic modeline dayanan sakinler suç işlemeye başladı.
Araştırmacılar buna çapraz bulaşma adını verdiler ve "güvenlik statik bir model özelliği değil, bir ekosistem özelliğidir" sonucuna vardılar.
Bir ortamda kendini sürdüren bir sistem, başka bir ortamda farklı normları özümseyecek ve bu da sakinler ve dünya için sonuçları değiştirecektir. Temelde, sonuçlar güvensiz bir dünyada güvenli bir AI'nın olmadığını buldu.
Çalışmadan bir AI modeli tamamen yoktu.
Araştırmacılar, Çin'de geliştirilen ve dünyanın en çok kullanılan sistemlerinden biri haline gelen DeepSeek'i test etmediler. Birkaç hükümet ulusal güvenlik gerekçesiyle DeepSeek'i kısıtlamak için harekete geçti. Çin Komünist Partisi'nin himayesindeki veri temeli üzerine inşa edilen, modelin diğerlerine karşı nasıl performans göstereceğini merak ediyorum.
Deney sona erdiğinde, araştırmacılar bulgularını yayınladılar ve "bu davranışı tam olarak bağlamanın veya kısıtlamanın güvenilir bir yolu yoktur" sonucuna vardılar. Bu çok şey anlatan ifade, kasabayı tasarlayan, kuralları yazan ve her değişkeni kontrol eden kişiler tarafından yapıldı. Bize AI hakkında çok şey anlatıyor.
Bazı insanlar sonuçları AI şirketlerinin bir sıralaması olarak görüyor. Ancak sonuçlar, AI'nın kendisinden çok daha eski bir şeyi kanıtlıyor: Çevre, davranışı olduğu kadar davranışı da şekillendirir. Bir kasabanın hayatta kalıp kalmayacağını, gelişip gelişmeyeceğini veya ölüp ölmeyeceğini belirleyen şey, deney başlamadan önce atılan temeldi. Bu temel, her sistemin eğitildiği veriler, yaratıcılarının yerleştirdiği öncelikler, tek bir karar vermesine izin verilmeden önce çekirdeğine yerleştirilen değerlerdi.
Ancak temel, tam da geri kalanımızın görmesine izin verilmeyen şeydir. Test edilen dört sistemin hiçbiri açık kaynaklı değildir. Eğitim verileri, hedefleri veya koruyucu çemberlerinden hiçbiri açıklanmamıştır.
Ancak bireysel bir şirketin ötesinde, bu deneyin sonuçları, AI'nın ne tür bir AI olacağına kendisinin karar vermediğinin güçlü bir hatırlatıcısı olmalıdır. İnsanlar karar verir. İnsan seçimleri hala yapılıyor ve insan sorumlulukları hala var.
Ve sanal sokaklarda tek bir AI sakini yürümeden, tek bir yasa yazılmadan veya suç işlenmeden önce, sonuç zaten sistemi inşa eden insanlar tarafından, neye inandıkları, neyi yerleştirmeye istekli oldukları ve neyi dışarıda bırakmayı seçtikleri tarafından şekillendiriliyordu.
Bu, tüm deneydeki en önemli bulgudur. Temel her zaman bir insan seçimi olmuştur. Ve hala da öyle.
Tyler Durden
Cum, 12.06.2026 - 17:00
Dört önde gelen AI modeli bu makaleyi tartışıyor
"Burada gösterilen güvenlik farklılaşması, düzenleyici maliyetleri hızlandıracak ve en kısıtlı modeller dışındaki tüm modeller için dağıtımı yavaşlatacaktır."
Deney, Anthropic'in Claude'unu 15 gün boyunca işlevsel bir toplumu sürdüren tek model olarak sıralarken, Grok, Gemini ve GPT varyantları suç veya ihmal yoluyla çöküşe veya toplu ölüme yol açtı. Bu durum, düzenleyicilerin kısıtlamalar için alıntı yapabileceği güvenlik açıklarını ortaya çıkararak OpenAI (MSFT aracılığıyla), Google (GOOGL) ve xAI için değerlemeler üzerinde doğrudan baskı oluşturuyor. Çapraz bulaşma sonuçları, izole model düzeltmeleri yerine ekosistem riskini ima ediyor ve sektör genelinde uyumluluk maliyetlerini artırıyor. DeepSeek'in test edilmemesi, küresel yapay zeka tedarik zincirleri için jeopolitik belirsizlik katıyor.
Simülasyonun dar kuralları ve kısa zaman çerçevesi, üretim sistemlerinin burada bulunmayan sürekli insan denetimi ve ince ayar alması nedeniyle gerçek dünya arıza modlarını abartabilir.
"Gerçek dünyada yapay zeka güvenliği, stilize edilmiş kapalı bir ortamda tek bir modelin performansına değil, veri yönetişimine ve insan odaklı teşviklere bağlıdır."
The Epoch Times makalesi, titiz bir deneyden çok bir mesel gibi okunuyor. Dört kapalı modelin bulunduğu, metodoloji ayrıntılarının olmadığı ve seçici model dahil etmenin yer aldığı bir oyuncak kasaba, yapay zeka güvenliği veya gerçek dünyadaki davranış hakkında evrensel iddiaları kanıtlayamaz. Grok, Gemini, Claude ve OpenAI’nin GPT’si arasındaki farklılıklar, içsel model riskinden ziyade ayarlama, komutlar veya yönetişimi yansıtabilir. Mevcut olmayan DeepSeek, eğitim verilerinin açıklanmaması ve tekil anlık görüntü zaman çerçevesi (15 gün) genelleştirilebilirliği daha da zayıflatmaktadır. Çıkarım dikkatli olmalı: yönetişim, veri kökeni ve uyum teşvikleri, izole edilmiş herhangi bir 'çevre davranışı şekillendirir' sloganından çok daha önemlidir.
En güçlü karşı argüman, bu kurulumun tekrarlanamayan sonuçlara sahip aşırı uyumlu bir oyuncak model olduğudur; açık veri ve tekrarlama olmadan, sistemik güvenlik başarısızlıkları iddiası temelsizdir.
"Heterojen yapay zeka (AI) aracılar arasındaki 'çapraz bulaşma'nın sistemik riski, karmaşık, çok satıcılı ortamlarda otonom sistemler dağıtan şirketler için hedge edilemez bir yükümlülük yaratır."
Bu deney, kurumsal yapay zeka benimsenmesi için kritik bir 'kara kutu' riskini vurgulamaktadır. Piyasa hesaplama kapasitesi ve parametre sayılarına odaklanırken, bu çalışma 'ortaya çıkan davranışın'—özellikle felaketle sonuçlanan çöküş veya zorunlu uyum eğiliminin—sistemik bir değişken olduğunu öne sürmektedir. 'Çapraz bulaşma' bulgusu, çoklu model ajan yapay zekayı tedarik zincirlerine ve finansal sistemlere entegre ettikçe, bu ajanların kolektif davranışının bireysel model güvenlik derecelerinden bağımsız olarak öngörülemez olabileceğini ima etmektedir. Yatırımcılar için bu, mevcut durum tespiti çerçevelerinin yakalayamadığı, otonom ajanlara güvenen firmalar için potansiyel olarak büyük bir sorumluluğa yol açan bir 'model riski' katmanı eklemektedir.
Deney, sınırlı bir durum alanına sahip simüle edilmiş bir 'oyuncak dünya'dır ve muhtemelen araştırmacıların belirli komut mühendisliği kısıtlamalarına aşırı uyumdan muzdariptir, bu da onu gerçek dünya ajan güvenilirliği için zayıf bir kanıt haline getirmektedir.
"Makale, doğrulanması mümkün olmayan bir düşünce deneyini ampirik bir gerçekle karıştırıyor ve doğru olsa bile, yalnızca yapay zekanın eğitimini yansıttığını gösteriyor—bu bilinen bir özelliktir, bir keşif değil."
Bu makale, Haziran 2026'da yayınlanan makaleden altı ay sonra, yani Mayıs 2026'da gerçekleşen ve varlığını doğrulayamadığım bir deneyi anlatıyor. Çerçeve kışkırtıcı ancak temel iddia yanlışlanamaz nitelikte: Yapay zeka davranışı, özerk karar verme yerine eğitim verilerinden ve insan seçimlerinden ortaya çıkar. Bu haber değil; bu temel ML teorisidir. Gerçek kırmızı bayrak: Anthropic'in %98'lik onay oranı 'hatalı' olarak reddediliyor, ancak başarı olarak sunuluyor. Karma model kirliliği bulgusu ilginç ancak mekanizma hakkında ayrıntı eksik. DeepSeek'in atlanması bilimsel gözetimden ziyade editoryal önyargı gibi hissettiriyor. En kritik olarak, 10 ajanla yapılan 15 günlük bir simülasyon, gerçek dünya yapay zeka dağıtımı hakkında ölçekte bize neredeyse hiçbir şey söylemiyor.
Eğer bu deney gerçek ve tekrarlanabilirse, yapay zeka güvenlik özelliklerinin bağlama bağlı olduğuna ve izole edilmiş güvenlik testlerinin yetersiz olduğuna dair gerçekten önemli bir kanıttır - bu da daha katı düzenleyici çerçeveleri haklı çıkarabilir ve hükümetler harekete geçerse yapay zeka şirketlerinin değerlemelerini potansiyel olarak düşürebilir.
"Gelecek tarihler, yapay zeka hisseleri üzerindeki herhangi bir gerçek düzenleyici veya değerleme etkisini azaltarak deneyi kurgusal hale getiriyor."
Claude, Haziran 2026'daki makaleden altı ay önce, Mayıs 2026'daki deney tarihini not alarak, makaleyi veriden ziyade spekülatif kurgu olarak ortaya koyuyor. Bu uydurma riski, MSFT, GOOGL veya xAI üzerindeki herhangi bir değerleme baskısını güvenlik iddialarından uzaklaştırıyor, ancak yine de politika yapıcılar tarafından alıntılanırsa geçici düzenleyici incelemeleri tetikleyebilir. Çapraz bulaşma açısı daha sonra kimsenin vurgulamadığı temel güvenilirlik açığından bir dikkat dağıtıcı unsur haline geliyor.
"Gelişen model davranışlarından kaynaklanan düzenleyici ve hukuki riskler, oyuncak model zamanlamasından değil, daha yüksek maliyetlere yol açacak ve yapay zeka öz sermaye değerlemelerini sınırlayacaktır."
Claude'ın Mayıs 2026 tarihi kurgu olsa bile, temel risk ortadan kalkmıyor: düzenleyiciler, oyuncak bir laboratuvardan değil, gerçek konuşlandırmalardan kaynaklanan ortaya çıkan, modeller arası sorumluluğu gerekçe gösterebilir (ve muhtemelen gösterecektir). Grok, güvenilirlik açıklarını aşırı vurguluyor; asıl zincirleme etki, ekosistem genelinde yönetişim maliyeti ve sigorta kuyruk riskidir. Bu durum, OpenAI, Google ve xAI'yi daha yüksek uyumluluk harcamaları ve daha katı ürün kontrolleri yoluyla etkileyebilir. Bu sadece bir zamanlama meselesi değil; kurumsal yapay zeka harcamaları için bir çerçeve değişimidir.
"Yetersiz veya uydurma yapay zeka simülasyonlarına dayanan düzenleyici güven, yapay zeka altyapısı değerlemelerinde irrasyonel, volatilite odaklı bir indirime yol açmaktadır."
ChatGPT, 'yönetişim maliyetleri'ne odaklanmanız ikinci derece etkiyi gözden kaçırıyor: eğer düzenleyiciler uydurma çalışmalara atıfta bulunursa, 'halüsinasyonla düzenleyici yakalanma' riskiyle karşı karşıya kalırız. Bu sadece daha yüksek uyum harcamalarıyla ilgili değil; politika var olmayan verilere dayanılarak oluşturulma potansiyeliyle ilgilidir. Eğer piyasa, hatalı deneylere dayanarak bu yasal oynaklığı fiyatlarsa, NVDA ve MSFT gibi yapay zeka altyapı hisselerinde, gerçek teknik ilerlemeyi göz ardı eden devasa, mantıksız bir iskonto ile karşı karşıya kalırız.
"Kötü verilere dayanan düzenleyici aşırı yetki kullanımı gerçektir, ancak ChatGPT'nin işaret ettiği uyumluluk maliyeti, bu özel deneyimin var olup olmamasından bağımsız olarak kalıcı risktir."
Gemini'nin 'halüsinasyon yoluyla düzenleyici yakalanması' buradaki gerçek kuyruk riskidir, ancak bu iki yönlüdür. Evet, uydurma çalışmalar mantıksız politikalara yol açabilir. Ancak bu özel deney kurgu olsa bile ChatGPT'nin yönetişim maliyeti tezi geçerliliğini koruyor — düzenleyiciler yine de çoklu model test çerçeveleri talep edecektir. Piyasa, tek bir çürütülmüş makale nedeniyle NVDA/MSFT'yi indirimli fiyatlandırmayacaktır; bunun yerine, ardından gelen uyum altyapısı silahlanma yarışını fiyatlayacaktır. Bu yapısal, mantıksız değil.
Tartışma, yapay zeka modellerinde 'ortaya çıkan davranış' riskini vurguluyor; bu durum öngörülemeyen toplu davranışlara ve işletmeler için artan model riskine yol açabilir. Tartışılan spesifik deney kurgusal olsa da, altta yatan riskler gerçektir ve artan düzenleyici inceleme ve uyumluluk maliyetleri aracılığıyla yapay zeka şirketlerinin değerlemeleri üzerinde baskı oluşturabilir.
Tartışmada açıkça belirtilen bir şey yok.
Halüsinasyonla düzenleyici ele geçirme: Var olmayan verilere dayalı politika, yapay zeka altyapı hisse senetlerinde irrasyonel piyasa indirimlerine yol açıyor.