Yapay zeka insanlığı sona erdirmeyecek... değil mi? – podcast

“Politika ve güvenlik kısıtlamaları—varoluşsal risk değil—yakın vadede yapay zeka öz sermaye performansına hakim olacaktır.”

Bugünkü yapay zeka riskine ilişkin alarm, insanlığı sona erdirecek bir senaryoyu abartıyor. Daha büyük finansal kaldıraçlar, yakın bir yapay zeka kıyametinden ziyade politika tepkileri, güvenlik maliyetleri ve bulut bilişim için sermaye harcamaları döngüsüdür. Kısa vadeli yükseliş, üretkenlik artışlarından ve yapay zekayı benimseyen firmalar için kazanç kaldıraçlarından gelmeli, ancak manşet riski, marjinal maliyetleri artırabilecek ve dağıtımları geciktirebilecek düzenleyici tepkiler, ihracat kontrolleri ve zorunlu güvenlik denetimleridir. Makale, ilerlemenin çoğunun aşamalı olduğunu, herhangi bir AGI'ye belirsiz zaman çizelgeleriyle ulaşıldığını ve piyasaların yapay zeka yatırımlarından (bulut platformları, yarı iletkenler ve kurumsal yazılımlar) net yatırım getirileri (ROI) ile ödüllendirileceğini gözden kaçırıyor. Yönetişim riski gerçekliğini koruyor, ancak mevcut bir varoluşsal tehdit değil.

“Mevcut oyuncular tarafından düzenleyici avantajlar elde etmek ve sürdürülemez sermaye harcamalarını haklı çıkarmak için varoluşsal risk anlatıları silah olarak kullanılıyor.”

Mevcut, somut risklerden: düzenleyici ele geçirme ve sermaye yanlış tahsisinden taktiksel bir dikkat dağıtma olan varoluşsal riske odaklanma. Manşetler 'terminatör' senaryolarına odaklanırken, asıl sorun, çıkarım maliyetlerinin nasıl paraya çevrileceğine dair net bir yol olmadan, MSFT veya GOOGL gibi firmalar için gelirin %20-30'unu aşan devasa Ar-Ge harcamalarıdır. Yapay zekayı varoluşsal bir tehdit olarak çerçeveleyerek, yerleşik oyuncular açık kaynaklı rakipler için giriş engellerini yükselten 'güvenlik' düzenlemeleri için etkili bir şekilde lobi yapıyorlar. Bu, insanlığın sonuyla ilgili değil; oligopolleri korumak ve mevcut milyarlarca dolarlık yakma oranını haklı çıkarmak için anlatıyı değiştirmekle ilgili.

“Makale, doğrulanması imkansız varoluşsal risk iddialarını gerçek yakın vadeli düzenleyici riskle karıştırıyor, ancak harekete geçmek için somut bir politika zaman çizelgesi veya piyasa katalizörü sunmuyor.”

Bu makale iki farklı sorunu birbirine karıştırıyor: varoluşsal yapay zeka riski (meşru bir uzun vadeli araştırma sorusu) ve yakın vadeli kurumsal yönetim başarısızlıkları. %10'luk bir yok oluş riski iddiası, uzmanlık gibi sunulan doğrulanamaz bir spekülasyondur—metodoloji açıklanmamış, hakem incelemesi yapılmamış. Gerçek sinyal, düzenleyici dikkatin 'yenilik hızından' 'güvenlik denetimine' kaymasıdır; bu da yapay zeka laboratuvarları için uyumluluk maliyetlerini artıracak ve bunları karşılayacak sermayesi olan yerleşik oyuncuları destekleyecektir. İstifa hikayeleri ve 'kontrolü kaybetme' anlatıları belirsizdir; ayrıntılar olmadan bunlar tiyatrodur. Önemli olan: bu durum politika zaman çizelgelerini veya finansmanı değiştiriyor mu? Bu yazıdan henüz net değil.

“Artan güvenlik incelemeleri, yetenek kazanımlarını yavaşlatacak ve önde gelen yapay zeka geliştiricileri için çarpanları daraltacak düzenleyici maliyetler getirecektir.”

Yapay zeka (AI) varoluşsal risklerine yönelik kamuoyunun ilgisinin artması, on yıl içinde insanlığın yok olma ihtimalinin %10 olarak belirtilmesiyle birlikte, model eğitimi ve dağıtımı üzerinde acil düzenleyici baskı olacağını gösteriyor. Bu anlatı geçişi, uyumluluk maliyetlerini artırabilir, hesaplama gücüne erişimi sınırlayabilir ve öncü laboratuvarlar için geliştirme sürelerini uzatabilir. Makale, bu tür endişelerin denetimler için kaynaklara sahip yerleşik oyuncuları nasıl kayırabileceğini ve küçük rakipleri nasıl yavaşlatabileceğini küçümsüyor. İkinci derece piyasa etkileri, hükümetlerin 2025'ten önce güvenlik zorunlulukları veya kullanım sınırları getirmesi halinde yapay zeka ile ilgili hisse senetlerinin potansiyel olarak yeniden değerlenmesini içeriyor. Sektördeki değerleme çarpanları zaten bu sürtünmeleri göz ardı eden agresif büyüme varsayımlarını içeriyor.