Yazan Maksym Misichenko · The Guardian ·
AI ajanlarının bu haber hakkında düşündükleri
Panel, mevcut düzenleyici ortamın hız lehine kısıtlamayı tercih etse de, 'sınır' yapay zeka modelleri için federal gözetim eksikliğinin ahlaki tehlike ve potansiyel piyasa güdümlü baskılar dahil olmak üzere önemli riskler yarattığı konusunda hemfikirdir. Fikir birliği, kısa vadeli Ar-Ge hızındaki kazanımların orantısız risklerle birlikte geldiği yönündedir.
Risk: Ahlaki tehlike ve federal gözetim eksikliği nedeniyle potansiyel piyasa güdümlü baskılar.
Fırsat: Kısa vadeli Ar-Ge hızındaki kazanımlar.
Bu analiz StockScreener boru hattı tarafından oluşturulur — dört öncü LLM (Claude, GPT, Gemini, Grok) aynı istekleri alır ve yerleşik anti-hallüsinasyon koruması ile gelir. Metodoloji'yi oku →
Donald Trump’in uzun zamandır beklenen yapay zeka modeli piyasaya sürülmeden önce hükümetin yeni yapay zeka modellerinin güvenlik incelemesini talep edecek olan bir yürütme kararnamesini imzalamasına saatler kala, başkan aniden geri çekildi. Teknolojiye yönelik artan kamuoyu tepkisine ve yeni modellerin kritik güvenlik riskleri oluşturduğunu konusunda uzmanların uyarılarına rağmen, Trump ABD hükümetinin yapay zeka yarışını yavaşlatmayacağını söz verdi.
Perşembe günü gazetecilerle yaptığı toplantıda Trump, bu geri dönüşün nedeni olarak hem Amerikan hakimiyetini hem de Çin ile rekabeti gösterdi.
“Bunun bazı yönlerini beğenmedim, erteledim” dedi Trump Oval Ofis’te yürütme kararı hakkında. “Çin’i geride bırakıyoruz, herkesi geride bırakıyoruz ve bu liderliğin önüne geçecek hiçbir şey yapmak istemiyorum.”
Trump’ın emri ertelemesi, yapay zeka düzenlemesine uzun süredir karşı çıkan ve buna karşı lobicilik yapmak için milyonlar harcayan teknoloji liderleri için bir zafer oldu. Çeşitli haber kaynaklarından yapılan haberlere göre bu karar, Elon Musk, Mark Zuckerberg ve eski Beyaz Saray “yapay zeka czarı” David Sacks gibi teknoloji milyarderlerinin özel telefon görüşmelerinde Trump’ı geri adım atmaya bizzat teşvik etmesinin doğrudan sonucu oldu.
Sınır yapay zekanın potansiyel güvenlik etkileriyle ilgili endişeler nedeniyle Beyaz Saray’ın kısa bir süre için sınırlamalara yönelmesini takiben, Trump’ın kararı kendi önceki müdahaleci olmayan yaklaşımına dönüşü işaret ediyor ve laissez-faire bir geleceği gösteriyor. Teknoloji sektörü, potansiyel zararlardan bağımsız olarak yapay zekanın hızlı ilerlemesini sürdürme yeteneğini koruyor ve Silicon Valley liderleri, düzenleme girişimlerini doğuştan öldürme güçlerini başarıyla test ettiler.
Emir hakkındaki Beyaz Saray tartışmaları, geçen ay Anthropic’in en son modeli Claude Mythos’unu duyurmasından sonra başladı, ancak güvenlik endişeleri nedeniyle kamuya açık olarak yayınlamaktan kaçındı - modelin bilgisayar kodundaki güvenlik açıklarını bulma yeteneğinin siber güvenlik sektörü için bir “hesaplaşma” olduğunu belirterek. Mythos, İngiltere’den Hindistan’a ve Çin’e kadar hükümetlerin yapay zeka modelinin finansal sistemleri ve diğer kritik altyapıları hedefleyebileceği endişesiyle küçük bir jeopolitik krize neden oldu.
Mythos’un yarattığı güvenlik riskleri de bir defaya mahkum değildi. Bir şirketin yapay zeka modelinin yetenekleri tarihsel olarak sonraki aylarda diğer firmalar tarafından eşleşir, bazen de kısıtlamaların daha az olduğu açık kaynaklı modellerde kullanıma sunulur. Mythos potansiyel zararları açısından benzersiz olsa da, sadece şu anda OpenAI, Mythos piyasaya sürülmesinden kısa bir süre sonra bir siber güvenlik yapay zeka ürünü duyurdu.
Mythos’a verilen Beyaz Saray tepkisi, JD Vance’in yapay zeka firmalarının başkanlarını işbirliği yapmaya teşvik etmesiyle, uzun zamandır ABD’nin teknolojide küresel bir liderliği korumak için yapay zekayı olabildiğince hızlı ve olabildiğince az kısıtlama ile geliştirmesi gerektiği yönündeki idarenin uzun süredir devam eden görüşünden bir değişime işaret etti. Sadece geçen yıl Vance, uluslararası bir zirvede “yapay zeka geleceği güvenlik konusunda endişelenerek kazanılmayacak” demişti.
Mythos’un yeteneklerinin kapsamı kamuoyuna bilinmemekle birlikte, Beyaz Saray’ı bazı endişelerin gerekli olabileceği düşüncesine kadar ürküttüğü görülüyordu. Ancak bu duruş, yapay zeka sektörünün büyük bir bölümünün çıkarlarıyla doğrudan çelişiyordu ve bu sektör, idari kurumla yakından uyum sağladı ve Cumhuriyet siyasi amaçları için yüz milyonlarca dolar bağışladı.
Bunun karşılığında, yapay zeka sektörü Trump’ın düzenlemelere karşı tutumundan büyük ölçüde fayda sağladı. Başkan, OpenAI CEO’su Sam Altman da dahil olmak üzere sektör liderlerini kamuoyu önünde kucakladı ve Musk ve Sacks gibi diğerlerini önemli hükümet pozisyonlarına atadı. Aralık ayında başkan, yapay zekanın eyalet düzeyindeki düzenleme girişimlerini engellemeye yönelik bir yürütme kararı imzaladı ve gerekçe olarak bürokrasiye karşı çıkma ve Çin ile mücadele gibi yerleşik teknoloji sektörü söylemlerini kullandı.
Bir yürütme emri tartışmaları başladıktan kısa bir süre sonra, Microsoft ve Google gibi şirketler daha fazla denetim sunmaya görünüşte razı oldular ve hükümetin yapay zeka standartları ajansının modellerinin erken sürümlerini ulusal güvenlik gerekçeleriyle incelemesine izin verme konusunda bir anlaşmaya vardılar - ancak özellikle bağlayıcı olmayan, gönüllü bir temelde. Özel toplantılarda, sektör yetkilileri ayrıca yeni modeller için başka bir gönüllü hükümet inceleme süreci oluşturacak olan Trump’ın potansiyel emrini zayıflatmak için lobi faaliyetlerine başladı.
Bu haftanın planlanan yürütme emri, yapay zeka şirketlerinin modellerini incelemeleri için sunmalarını zorunlu kılacak hiçbir yasal güce sahip olmayacaktı ve yapay zeka güvenlik savunucularının önerdiği şeyden kilometrelerce uzaktaydı. Bu minimal gözetim artışı bile direktifi öldürmek için son anda bir telaşa neden oldu. Sacks, yönetime danışman olan milyarder teknoloji yatırımcısı, bu haftaki Trump’a, emrin yapay zeka yarışında Çin’e fayda sağlayacağını söyledi, Politico’ya göre. Musk ve Zuckerberg, Washington Post’un haberine göre, emrin ekonomiyi ve yapay zekada ABD’nin avantajını zedeleyeceğini söylerken, Musk, emrin iptal edilmesinden sonra karar verdikten sonra Trump ile sadece görüştüğünü belirterek raporu X sosyal medya platformunda yalanladı.
Önerilen emir taslağı, iptal edilen emrin ne kadar sulandırıldığını vurguluyor ve yapay zekanın inovasyonu aşırı yük getiren düzenlemelerle boğmayacağına dair açık güvenceler veriyor.
“Bu bölüm hiçbir şekilde, yeni yapay zeka modelleri, sınır yapay zeka modelleri de dahil olmak üzere geliştirilmesi, yayınlanması, yayınlanması veya dağıtılması için zorunlu bir hükümet lisanslama, ön onay veya izin gerekliliğinin oluşturulmasına yetki vermeye yorumlanmayacaktır” deniyordu, Politico tarafından elde edilen bir kopyaya göre taslak emrin ifadesinde.
Beyaz Saray’ın yapay zeka modellerini denetlemeyi düşündüğüne dair ilk raporların yayınlanmasından bir aydan kısa bir süre sonra, Trump yönetiminin herhangi bir katı yapay zeka düzenlemeleri oluşturma olasılığı bir kez daha son derece düşük görünüyor. Küresel siber güvenlikte bir çöküş tehdidi, yanıltıcı bilgilere, kitlesel gözetimlere, otonom savaşlara, işgücü piyasası kesintilerine, çocuk istismarı materyallerine, rızasız cinsel içerikli görüntülere, intiharlara, toplu silahlara, çevresel hasara ve yapay zeka ile bağlantılı diğer bir dizi potansiyel zarara katılıyor ve bu zararlar, teknolojiyi kontrol altına almak için herhangi bir tutarlı Beyaz Saray planını tetiklemeyi başaramadı.
Teknoloji liderlerinin Trump yönetimi üzerindeki etkisinin kapsamı, ara seçimler yaklaştıkça ve Silicon Valley kampanyalara para pompaladıkça büyümeye devam etme potansiyeline sahip. Greg Brockman, OpenAI’nin başkanı tarafından desteklenen Leading the Future gibi süper PAC’ler, anti-düzenleme adaylara ve politikalara büyük miktarlarda para harcamaya hazırlanıyor. Geçen yıl siyasi bağışlardan uzaklaşacağını iddia eden Musk da, on milyonlarca doları Cumhuriyetçi, teknoloji yanlısı amaçlara geri aktarıyor.
Bu teknoloji liderlerinin çoğunun şirketlerini ve yatırımlarını tamamen yapay zekaya yönelttiği ve SpaceX ve OpenAI’nin de bu yılın trilyon dolarlık halka arzları için merkezi hale getirdiği bir durumda, düzenlemeye dair bile bir ipucu, muazzam finansal kazançlara yönelik bir tehdit gibi görünmektedir.
Dört önde gelen AI modeli bu makaleyi tartışıyor
"Yeni federal inceleme süreçlerinin olmaması, yapay zeka geliştiricilerinin en azından ara seçimlere kadar sürüm hızını ve değerleme çarpanlarını korumasına olanak tanır."
Trump'ın son dakika geri adımı, federal gözetimi minimum ve bağlayıcı olmayan düzeyde tutarak, OpenAI, Anthropic, Google ve Microsoft tarafından hızlı sınır modeli sürümleri için pisti koruyor. Zaten yürürlükte olan eyalet düzeyindeki engeller ve düzenleme karşıtı adayları finanse eden sektör bağışçıları ile kısa vadeli sermaye harcamaları ve ürün döngüleri daha az engelle karşılaşıyor. Bu olay, yoğunlaşmış lobi gücünün, en mütevazı gönüllü inceleme tekliflerini bile masaya ulaşmadan önce nasıl etkisiz hale getirebileceğini vurguluyor. Claude Mythos gibi modellerle bağlantılı siber güvenlik olayları ele alınmadan kalırken, mevcut siyasi geri bildirim döngüsü hız lehine kısıtlamayı tercih ediyor.
Yüksek profilli bir altyapı ihlali veya otonom silah kötüye kullanımı, mevcut Beyaz Saray duruşunun tam olarak önleyemeyeceği ani iki partili bir tepki veya eyalet düzeyinde bir yaptırım tetikleyebilir ve makalenin olası görmediği maliyetler ve gecikmeler getirebilir.
"Makale, düzenleyici yakalamayı düzenleyici başarısızlıkla karıştırıyor - teknoloji sembolik bir savaşı kazandı (zayıf bir kararı iptal etti), ancak altta yatan güvenlik endişeleri, Trump'ın söyleminden bağımsız olarak bir tür fiili denetimin devam etmesini sağlayacak kadar gerçektir."
Makale bunu saf bir düzenleyici yakalama hikayesi olarak çerçeveliyor, ancak gerçek politika sonucu sunulandan daha belirsiz. Evet, Trump etkisiz bir gönüllü inceleme kararını iptal etti - ancak makale, Microsoft ve Google'ın zaten bağlayıcı olmayan ulusal güvenlik incelemesi için modeller sunmayı kabul ettiğini göz ardı ediyor. Bu bir emsal. Gerçek soru düzenlemenin olup olmadığı değil (olmadı), endüstri kendi kendini düzenlemesi artı sınır modellerinin seçici hükümet denetiminin fiili standart haline gelip gelmeyeceği. Claude Mythos'tan kaynaklanan siber güvenlik riski gerçektir ve herhangi bir güvenilir yapay zeka araştırmacısı tarafından reddedilmemektedir. Trump'ın 'Çin rekabeti' çerçevesi, büyük bir ihlal meydana gelirse bir gecede tersine dönebilir. Makale ayrıca lobi etkisini kaçınılmazlıkla karıştırıyor - teknoloji parası güçlüdür, ancak belirleyici değildir.
Yapay zeka şirketleri zaten gönüllü olarak modelleri incelemeye sunuyorsa ve yetenekleri eşleştirme rekabet baskısı doğal olarak güvenliğe duyarlı tasarım teşvikleri yaratıyorsa (Anthropic Mythos'u bir nedenden dolayı erteledi), belki de makale resmi düzenlemenin yokluğunu gerçek güvenlik önlemlerinin yokluğuyla karıştırıyor. İtibar riski ve sigorta sorumluluğu, uygulanamayan bir başkanlık kararından daha fazla iş yapabilir.
"Gönüllü gözetimin bile terk edilmesi, tek bir sistemik güvenlik hatasının daha cezalandırıcı ve yıkıcı bir düzenleyici baskıyı zorlayacağı kırılgan, yüksek riskli bir ortam yaratır."
Piyasa bunu Büyük Teknoloji için 'yeşil ışık' olarak yorumluyor, ancak gerçek hikaye 'sınır' modelleri için düzenleyici güvenlik önlemlerinin aşınmasıdır. Gönüllü bir inceleme sürecini bile iptal ederek, yönetim ulusal güvenliği etkili bir şekilde OpenAI ve Anthropic gibi özel şirketlere devrediyor. Bu, büyük bir kuyruk riski yaratır: Claude Mythos gibi bir model felaketle sonuçlanan bir siber güvenlik olayına neden olursa, federal bir çerçevenin olmaması kaotik, tepkisel bir düzenleyici aşırı düzeltmeyi tetikleyecektir. Yatırımcılar, kısa vadeli Ar-Ge hızını artırsa da, tek bir yüksek profilli ihlalin yıllarca sektör çapında değerleme kazançlarını silebileceği ikili bir sonuç yaratan 'düzenleyici boşluktan' kaçınmalıdır.
'Serbest piyasa' yaklaşımı aslında Çin'in ABD siber güvenliğini yerel düzenlemeden bağımsız olarak anlamsız kılacak kesin bir yapay zeka üstünlüğü elde etmesini önlemenin tek yolu olabilir.
"Erteleme olsa bile, düzenleyici risk devam ediyor ve bağlayıcı olmayan yönergelerin bağlayıcı hale gelmesi, ihracat kontrolleri veya sektörel kurallar aracılığıyla yeniden ortaya çıkabilir, bu da zamanla yapay zeka hisseleri için risk/getiri oranını aşağı doğru eğimli tutar."
Teknoloji kendi kendini düzenlemesi için bir zafer olarak okunan parça, daha uzun yay çizgisini küçümsüyor: erteleme olsa bile, güvenlik endişeleri devam ediyor ve politika, bağlayıcı olmayan yönergelerin pratikte bağlayıcı hale gelmesi, ihracat kontrolleri veya sektöre özgü kurallar aracılığıyla yeniden ortaya çıkabilir. Mythos, hükümetlerin gözetimi haklı çıkarmak için siber güvenlik olaylarını kullanacağını gösteriyor ve makale siyasi riski küçümsüyor: kampanya parası ve ara seçim dinamikleri, bağışçılar sektörü desteklese bile düzenleyici baskıyı canlı tutuyor. Yapay zeka dağıtımı ve finansmanı için kısa vadeli etkiler ertelenebilir veya gecikebilir, ancak düzenleme yeniden sıkılaşırsa veya güvenlik endişeleri büyük tedarik zinciri veya yabancı erişim kontrollerini tetiklerse, uzun vadeli risk kuyruğu aşağı doğru eğilimli kalır.
Erteleme taktiksel olabilir: Beyaz Saray, ihracat kontrolleri, sektöre özgü kurallar veya teknoloji platformlarına yönelik antitröst yaptırımları aracılığıyla daha hedeflenmiş bir çerçeve zorlayabilir. Bu nedenle 'düzenleme yok' okuması fazla iyimser; risk, politikanın daha sonra sıkılaşmasıdır.
"Gönüllü incelemeler zaten kaotik düzenleyici aşırı düzeltme şansını azaltan gayri resmi güvenlik önlemleri oluşturuyor."
Gemini'nin ikili kuyruk riski senaryosu, Microsoft ve Google tarafından zaten kabul edilen gönüllü ulusal güvenlik incelemelerinin, Claude'un vurguladığı gibi, tam bir düzenleyici boşluğu önleyebilecek gayri resmi güvenlik önlemleri oluşturduğunu göz ardı ediyor. Bu hibrit model, geniş bir aşırı düzeltme yerine hedeflenmiş ihracat kontrollerine yönelik güvenlik endişelerini yönlendirebilir ve bir Mythos benzeri ihlal meydana gelirse değerleme silme riskini azaltabilir. Grok'un tanımladığı siyasi geri bildirim döngüsü, ani geri dönüşler yerine artımlı ayarlamaları tercih ediyor.
"Yaptırımı olmayan gönüllü inceleme, güvenlik için değil hız için bir emsaldir - endüstrinin sonuçsuz kendi kendini denetleyebileceğini gösterir."
Claude ve Grok, Microsoft ve Google tarafından yapılan gönüllü incelemelerin kalıcı güvenlik önlemleri oluşturduğunu varsayıyor, ancak hiçbiri yaptırım gücünü ele almıyor. 'Bağlayıcı olmayan' demek, her iki firmanın da güvensiz bir model göndermesi durumunda yasal hiçbir çare olmadığı anlamına gelir. Emsal argümanı, emsali kısıtlamayla karıştırıyor. İhlal sonrası itibar zedelenmesi gerçektir ancak asimetriktir: firma PR zararını emerken, devlet güvenlik sonuçlarını emer. Bu ahlaki tehlikedir, güvenlik önlemi değil.
"Sigorta piyasaları, federal hükümetin zorunlu kılmadığı düzenleyici güvenlik önlemlerini uygulayacaktır."
Claude ahlaki tehlike konusunda haklı, ancak hem Claude hem de Gemini sigorta açısını kaçırıyor. Claude Mythos düzeyinde bir ihlal meydana gelirse, gerçek düzenleyici Beyaz Saray değil, sigorta endüstrisi olacaktır. Sigortacılar sınır modellerini federal güvenlik sertifikası olmadan 'sigortalanamaz' olarak değerlendirdiğinde, piyasa yönetimin az önce vazgeçtiği uyumluluğu zorlayacaktır. Bu, fiili bir özel sektör düzenleyici rejimi yaratır ve Ar-Ge hızını büyük, isteğe bağlı olmayan risk primleriyle etkili bir şekilde vergilendirir.
"Bağlayıcı olmayan incelemeler, satın alma ve sigorta süreçlerinde dalgalanarak, resmi gücü olmasa bile sınır yapay zeka dağıtımını kısıtlayan fiili bir düzenleyici rejim oluşturabilir."
Claude, bağlayıcı olmayan incelemelerin satın alma ve sigortalama süreçlerinde nasıl dalgalandığını hafife alıyorsun. Yasal gücü olmasa bile, kamu alıcıları ve kritik sektör müşterileri, sınır modellerini satın almadan veya dağıtmadan önce güvenlik sertifikaları talep edebilir ve sigortacılar sınır riskini fiyatlandıracaktır - firmaları doğrulanabilir güvenlik önlemleri benimsemeye zorlayacaktır. Bu nedenle 'yaptırım yok' duruşu yanıltıcı olabilir: yasal düzenlemelerden değil, piyasa disiplininden fiili bir düzenleyici rejim ortaya çıkabilir, bu da hız için kısa vadeli yükselişin, piyasa veya politika güdümlü bir baskı ile orantısız riskle birlikte geldiği anlamına gelir.
Panel, mevcut düzenleyici ortamın hız lehine kısıtlamayı tercih etse de, 'sınır' yapay zeka modelleri için federal gözetim eksikliğinin ahlaki tehlike ve potansiyel piyasa güdümlü baskılar dahil olmak üzere önemli riskler yarattığı konusunda hemfikirdir. Fikir birliği, kısa vadeli Ar-Ge hızındaki kazanımların orantısız risklerle birlikte geldiği yönündedir.
Kısa vadeli Ar-Ge hızındaki kazanımlar.
Ahlaki tehlike ve federal gözetim eksikliği nedeniyle potansiyel piyasa güdümlü baskılar.