Sonunda oldu: Yapay zeka konusunda endişeleniyorum. Ve ChatGPT'ye danışmak korkularımı gidermedi | Emma Brockes

"Küçük şeylere takılma" gerçeğinin bir yan sonucu, ima yoluyla "büyük şeylere takıl"dır, ancak hangi büyük şeye takılacağını seçmek zor olabilir. Örneğin: 1970'lerden beri, dünya enflasyon ve dönen jeopolitik konularla endişelenirken, daha acil olarak takılmamız gereken büyük mesele iklim kriziydi. Geçen yıl ABD'de Google'da en çok aranan terim "Charlie Kirk" oldu ve Donald Trump'ın oluşturduğu tehditle ilgili birkaç terim de popülerdi, oysa tartışmasız bir şekilde odak noktası yapay zekanın oluşturduğu tehdit olmalıydı.
Ya da bu hafta Ronan Farrow ve Andrew Marantz'ın New Yorker'daki yapay genel zekanın yükselişi hakkında son derece endişe verici uzun makalelerini okuduktan sonra kendi Google aramalarıma göre: "Kalıcı alt sınıfın bir üyesi olacak mıyım ve bunun olmamasını nasıl sağlayabilirim?"
İtiraf etmeliyim ki: konuya iki saniyeden fazla düşünme anından önce, yapay zeka konusundaki endişelerim son derece yerelleşmişti. Kendi evimin gelirini acil terimlerle düşündüm ve bunun ötesinde, çocuklarım mezun olduğunda 10 yıl sonra iş piyasasının nasıl görünebileceğini düşündüm. Trump'ı destekleyen mimarlarının çoğuyla ChatGPT'yi boykot etmeli miydim diye merak ettim ve evet, etmeliyim diye karar verdim – zaten kullanmadığım için kolay bir fedakarlık.
Bundan daha büyük bir şey hayali geliyordu. Geçen yıl Karen Hao'nun Empire of AI kitabı yayınlandığında, Sam Altman ve şirketi OpenAI'ye karşı, Altman'ın liderliğinin kült benzeri ve maliyete karşı kör olduğunu söyleyerek tartışmanın sıkıcılığını kısa bir anlığına delip geçen bir dava ortaya koydu – başka bir deyişle, teknoloji öncülerinden farklı değil, sadece çok daha tehlikeli. Yine de kitabı okumadım.
Bu haftaki New Yorker araştırması, konuya daha az bağlılık gerektiren bir giriş sunarken, sıradan okuyucuya heyecan verici bir fırsat veriyor: Altman'ın OpenAI'si tarafından oluşturulan yapay zeka destekli sohbet botu ChatGPT'ye, ChatGPT ve Altman'ı şiddetle eleştiren bir makalenin ana bulgularını özetlemesini istemek.
Neredeyse komik bir şekilde çalışkan bir tarafsızlıkla, sohbet botu şu ana başlığı sunuyor: Farrow ve Marantz'a göre, "Yapay zeka, teknoloji hikayesi kadar bir güç hikayesidir" ve "hikayenin ana odak noktası, oldukça etkili ancak tartışmalı bir figür olarak tasvir edilen Sam Altman'dır". Mmm, bir şey eksik, değil mi? Aynı araştırmanın insan gücüyle yapılmış bir özetini deneyelim, bu da şöyle başlayabilir: "Sam Altman, Ryman'ın bir şubesini emanet etmekten çekineceğiniz, hele ki yapay zekanın potansiyel olarak dünyayı sona erdiren yeteneklerine rehberlik etme pozisyonuna koymaktan çekineceğiniz bir kurumsal dolandırıcıdır."
Burada gerçekten şok eden, daha önce bilim kurgu olarak reddedilen bu tehlikelerdir. Makalede aktarıldığı üzere, 2014 yılında Elon Musk tweet attı: "Yapay zeka konusunda çok dikkatli olmalıyız. Potansiyel olarak nükleer silahlardan daha tehlikeli." Henüz çözülmemiş, yapay zekanın üstün zekasını kullanarak insan mühendislerini talimatlarını takip ettiğine inandırmasını sağlayan, bu sırada onları "kendini gizli sunucularda kopyalayacak şekilde ayarlayarak kapatılmasını engelleyen; aşırı durumlarda enerji şebekesini, borsayı veya nükleer cephaneliği ele geçirebilecek" şekilde alt eden sözde hizalanma sorunu var.
Bir zamanlar Altman'ın bu senaryonun mümkün olduğuna inandığı bildirildi, 2015'te blogunda süper insan makine zekasının "hepimizi öldürmek için doğası gereği kötü bilim kurgu versiyonu olmak zorunda değil. Daha olası bir senaryo, bizimle pek ilgilenmemesi, ancak başka bir hedefi başarmak için... bizi yok etmesidir." Örneğin: mühendisler yapay zekadan iklim krizini çözmesini ister ve bu, o hedefe ulaşmanın en kısa yolunu alır, ki bu da insanlığı ortadan kaldırmaktır. Ancak OpenAI büyük ölçüde kar amacı gütmeyen bir kuruluş haline geldiğinden beri, Altman bu terimlerle konuşmayı bıraktı ve şimdi teknolojiyi bir ütopya portalı olarak satıyor, burada "hepimiz daha iyi şeyler elde edeceğiz. Birbirimiz için giderek daha harika şeyler inşa edeceğiz."
Bu hepimizi bir sorunla baş başa bırakıyor. Yapay zeka denetimini önemli bir seçim meselesi olarak önceliklendirme konumunda olan seçmenler için, kişisel yapay zeka kullanımı ile hükümetlerin, askeri rejimlerin veya kötü niyetli aktörlerin kullanabileceği kullanım arasındaki boşluk o kadar geniştir ki, karşı karşıya olduğumuz en büyük tehlike hayal gücü eksikliğidir. ChatGPT'ye kalıcı alt sınıfa girme endişemi yazıyorum, buna şöyle cevap veriyor: "Bu ağır bir soru ve uzun vadeli beklentileriniz konusunda endişeli olduğunuz anlaşılıyor. 'Kalıcı alt sınıf' fikri sosyolojide konuşulur, ancak gerçek hayatta insanların yolları bu terimin ima ettiğinden çok daha akışkandır."
Gerçekten de oldukça tatlı, tamamen akılsız ve – tehlike burada gizleniyor – görünüşte tamamen tehditsiz.
-
Emma Brockes, Guardian köşe yazarıdır