Yazan Maksym Misichenko · BBC Business ·
AI ajanlarının bu haber hakkında düşündükleri
Panelin genel görüşü, Foundation Robotics'in insanımsı robotik hamlesi konusunda fiziksel sınırlamalar, yapay zeka zorlukları ve uygulama risklerine işaret ederek düşüş yönünde. Gemini'nin çift kullanımlı dönüş argümanı tartışıldı ancak sonuçta paneli ikna edemedi.
Risk: İki ayaklı hareketin fiziği, yapay zekanın açık uçlu belirsizlikle başa çıkamaması ve aktüatör güvenilirliği, tekrar tekrar önemli riskler olarak işaretlendi.
Fırsat: Gemini'nin, öncelikle endüstriyel işgücü piyasasına odaklanmayı öneren çift kullanımlı dönüşüm argümanı, en az incelenen fırsattı.
Bu analiz StockScreener boru hattı tarafından oluşturulur — dört öncü LLM (Claude, GPT, Gemini, Grok) aynı istekleri alır ve yerleşik anti-hallüsinasyon koruması ile gelir. Metodoloji'yi oku →
San Francisco'nun teknoloji ağırlıklı bir bölgesindeki endüstriyel bir alana, ürkütücü bir insansı robot askerin savaş benzeri bir şey yapmasını bekleyerek geldim: belki de kara savaşlarının geleceği.
Bunun yerine, siyah parlak yüzsüz Phantom robotu "serbest oyun" ile meşgul, bir sürü renkli çocuk bloğuyla oynuyor.
Foundation Robotics'in kurucu ortağı ve CEO'su Sankaet Pathak, "Onun sadece çevresiyle etkileşim kurmasından veri almamız gerekiyor... [ve] bugünün menüsü bu," diye açıklıyor. İki yaşında bir start-up olan Foundation Robotics, Phantom'u askeri ve sivil uygulamalar için geliştiriyor.
Daha sonra 80 kg'lık çelik kaplı gövdesini odada iterek dengesini gösteriyor ve nasıl yürüdüğünü anlatıyor.
Birçok şirket fabrikalar, evler veya arkadaşlar için otonom insansı robotlar üretirken, Foundation, onları özellikle geniş bir savunma uygulamaları yelpazesi için geliştiren tek ABD firması olduğunu iddia ediyor.
Bu, tedarik toplama, keşif, ekipman veya yaralıların kurtarılması ve tehlike denetimi gibi destek rollerini içeriyor. Ancak daha tartışmalı olarak, tehditleri etkisiz hale getirme ve ortadan kaldırma amaçlı savaşmayı da içeriyor - ki Pathak buna "ön cephe silahlandırması" diyor.
Robotları silahlandırmanın insan askerleri tehlikeden uzak tutabileceğini savunuyor. Dar geçitlerin ölümcül olabileceği binalara girip arama yapabilirler.
Ayrıca yan hasarı da azaltabilirler. Kara tabanlı otonominin, havadan otonom olarak hedeflere saldırmaktan daha hassas olabileceğini söylüyor.
Bunların hepsi Foundation'ın Phantom'u için gelecekteki şeyler.
Gösterdiğim şirketin ilk nesil modeli Phantom MK-1'in pili yok, toz veya suya dayanıklı değil ve düşerse kalkamıyor.
Elleri - hala büyük bir robotik zorluk - güç ve el becerisinden yoksun ve henüz düzgün bilekleri yok.
Tesisin başka bir yasaklı bölümünde ikinci nesil bir model üretiliyor.
Pathak, Phantom MK-2'nin sadece hava koşullarına dayanıklı olmakla kalmayacağını, büyük bir pilin yaklaşık altı saat çalışma süresi sağlayacağını ve düşerse kalkabileceğini ve daha fazla kuvvete dayanabileceğini söylüyor.
Daha iyi eller çok önemli. Robotun bir sonraki seti, silah ateşlemelerine yardımcı olacak bileklerle çok daha fazla hareket edecek, diyor Pathak.
Pathak, Foundation'ın hedefinin 2027 sonuna kadar yılda en az 40.000 adet üretmek ve uzun vadede maliyetlerin adet başına 20.000 doların (£15.000) altında olmasını sağlamak olduğunu ekliyor.
Pathak, Çin'in bu teknolojiyi takip ettiğini ve Batı'nın da ayak uydurması gerektiğini savunuyor.
Yüz binlerce yapay zeka güdümlü insansı robotun, otonom insansız hava araçlarının gökyüzündeki artan kullanımına ayak uyduran bir kara gücü oluşturduğunu hayal ediyor. Yüz binlerce insansı robot askerden oluşan bir filo, çatışmaya karşı büyük bir caydırıcı olabilir, diyor.
Foundation, ABD ordusuyla teknolojisini pilot olarak kullanmak için 24 milyon dolar (£18 milyon) araştırma sözleşmesine sahip ve ayrıca Ukrayna ordusu tarafından test edilen iki birimi bulunuyor.
ABD ordusu pilotunun silah ateşlemek yerine sadece taşımakla sınırlı olduğunu, ancak Ukrayna'daki testlerin bir parçası olarak silahlandırmanın da bulunduğunu söylüyor Pathak.
Şirket, ABD Başkanı'nın oğlu Eric Trump'ın yatırımcı ve danışman olmasıyla bu yılın başlarında dikkat çekti.
Foundation, Pathak için kendisini kanıtlama fırsatı da sunuyor - kurucu ortağı ve lideri olduğu finansal hizmetler firması Synapse, 2024'te iflas başvurusunda bulundu.
Peki, insansı asker robotları ordunun ihtiyacı olan şeyler mi, onları inşa etmek ne kadar zor ve ne gibi etik sorunlar ortaya çıkarıyorlar?
Askeri yetkililerin açıkça ilgilendiğini, ticari sistemler için bir pazar yeri işleten insansı robotik danışmanlık firması Robozaps'tan Dean Fankhauser söylüyor. Geniş bir görev yelpazesinde askerlere destek olabilecek insansılar için mevcut bir ABD Ordusu yarışmasına dikkat çekiyor.
Fankhauser, bir şirketin teknolojiyi silahlandırmada bir iş fırsatı görmesinin "tamamen kaçınılmaz" olduğunu söylüyor.
Patlayıcılar, füzeler ve diğer yükleri taşımak için kullanılan pek çok daha basit robot - özellikle insansız hava araçları ve hatta bazı kara robot sistemleri - var ve savaş alanında kullanımı özellikle Ukrayna'da görülüyor.
Bazı firmalar da köpek benzeri dört ayaklı robotları silahlandırmak için çalışıyor, ancak onları aktif savaşta pek görmedik, diye not ediyor Fankhauser.
Ancak diğer bacaklı robot şirketleri, zarar risklerini ve etik sorunları gerekçe göstererek silahlanmaya karşı bir çizgi çekti.
Pathak buna katılmıyor ve daha fazla şirketin Foundation'ın izinden gitmemesinin tehlikeli olduğunu savunuyor.
İnsansı robot askerlerin mantıklı olduğunu, çünkü dünyanın insanlar için inşa edildiğini savunuyor. Tornavidalardan silahlara kadar mevcut araçları yeniden icat etmeye gerek yok.
İnsanlar, sistem harekete geçmeden önce herhangi bir ölümcül güç kullanımını onaylayan "döngüde" olmalı, diyor Pathak, ancak felaket bir sonucu önlemek için otonom ateşlemenin gerekli olabileceği durumlar için istisnalar yapıyor ve insan onayının daha az kritik olduğu senaryolar görüyor.
Belki de en büyük zorluk ve insansı robot üreten tüm şirketlerin karşılaştığı bir zorluk, gerçek dünyada çalışabilen ve öngörülemeyen ve karmaşık durumlarla başa çıkabilen yapay zeka geliştirmektir.
Phantom, Cortex adlı bir yapay zeka sistemi tarafından yönlendiriliyor ve yeni bir sürümü de geliştiriliyor.
Fikir, Phantom'a, videolar, resimler ve metinler kullanarak yapılan gösterimler aracılığıyla özel olarak eğitildiği bir görevi yerine getirmek için verilen bir hedef - örneğin malzeme taşımak veya bir binanın içini haritalamak - verilmesidir.
Daha sonra, yapay zeka sisteminin çevreyi değerlendirmesine ve hareketlerini uyarlamasına olanak tanıyan 360 derecelik görüş sağlayan kaskındaki kameraları kullanarak çevresini gezer.
Patak, Cortex'te iki tür yapay zeka modelinin birlikte çalıştığını söylüyor.
Göreve özgü örnekler üzerinde eğitilmiş bir "akıl yürütme modeli", hedefi yorumlar ve Phantom'un eylem planını formüle eder.
İnternet videolarının yanı sıra robotun fiziksel dünyayla etkileşiminden elde edilen verilerle - bloklarla "serbest oyunu" dahil - eğitilmiş daha geniş bir "dünya modeli", çevrenin nasıl tepki vereceğini tahmin eder, Phantom'un güvenli hareket etmesine ve eylemleri gerçekleştirmesine yardımcı olur.
Ancak herkes insansı form faktörünün en etkili olduğuna ikna olmuş değil.
Robozaps'tan Fankhauser, dört ayaklılar gibi diğer robotların araziyi daha hızlı ve verimli bir şekilde gezebildiğini söylüyor.
Ayrıca ticari alanda gördüklerine dayanarak, insansı teknolojinin hala uzun bir yolu olduğunu belirtiyor.
Fankhauser, günümüzün ticari insansı robotlarının bir kapıyı açmaktan ziyade depo paketlemeyi zar zor halledebileceğini söylüyor.
"Tayvan'da bugün bir savaş olsaydı, Çin'in bu insansıları militarize etme ve etkili bir şekilde savaşma olasılığı hayalidir," diye ekliyor.
Çin robotları bazı etkileyici gösteriler yapmış olsa da, bunlar gerçek dünya savaşının tam tersi olan yüksek derecede kontrollü veya yapılandırılmış ortamlarda gerçekleşti. Fankhauser, beş veya on yıl içinde durumun farklı olabileceğini ekliyor.
Robert Griffin, faaliyetleri arasında askeri destekli, savaş dışı uygulamalara odaklanan insansı projeler bulunan kar amacı gütmeyen Florida İnsan ve Makine Bilişimi Enstitüsü'nde insansı robotlar üzerinde çalışıyor.
Spin-off şirketlerinden biri daha sonra Foundation tarafından çekirdek teknolojisinin bir kısmı için satın alındı.
Griffin, insan askerlere yönelik riski azaltmada insansılarda değer görüyor, ancak öngörülemeyen ortamların hala büyük bir engel olduğunu da söylüyor.
Bir robotun bilinmeyen yükseklikteki bir pencereden atlaması, engebeli bir zemine inmesi ve hemen yabancı bir iç mekanı gezinmesi zordur.
Griffin, "İnsan formunu görerek insan düzeyinde bir yetenek izlenimi ediniyorsunuz... ancak [bu otonom sistemler] henüz açık uçlu belirsizlikle nasıl başa çıkacaklarını bilmiyorlar," diyor.
İnsan askerlerin, takla atmak veya başlarının üzerine karton kutular koymak gibi "olağandışı" şeyler yaparak yapay zeka sistemlerini kolayca alt ettiğini ekliyor.
Pratik sorunlar da kolayca çözülmüyor.
Griffin, çalışma süresinin "her insansı şirketi lanetleyen" bir sorun olduğunu söylüyor - hareket ve hareketli eklemler güç tüketiyor. Altı saat "çok etkileyici" olurdu.
Foundation'ın bir insan için tasarlanmış bir silahı kullanabilen eller inşa edip edemeyeceği belirsizliğini koruyor.
"[Şirket] mühendislik ekibi için ya karşılamak ya da başarısız olmak için son derece zorlu zorluklar belirliyor," diyor.
Bu arada, etik kaygılar büyük bir sorun teşkil ediyor.
Küresel bir sivil toplum kuruluşu koalisyonu olan Stop Killer Robots'un icra direktörü Nicole van Rooijen, ölümcül otonom silahların, ne biçimde olursa olsun, savaş eşiğini düşürdüğünü, çatışmayı insansızlaştırdığını ve hesap verebilirliği bulanıklaştırdığını söylüyor.
Ancak insansı formu da "fazlasıyla endişe verici" buluyor.
İnsana benzeyen makineler, sivil kullanımları arttıkça tanıdık ve güvenilir görünebilir, bu da insanların tehlikeyi yanlış okuma riskini artırır.
Mevcut teknolojik silahlanma yarışının cevabının, onu tırmandırmayı azaltacak uluslararası kurallar olduğunu savunuyor.
Dört önde gelen AI modeli bu makaleyi tartışıyor
"İnsansı form faktörü, enerji verimliliği ve dayanıklılığın insan tarafından tasarlanmış araçları kullanma yeteneği yerine önceliklendirildiği savaş ortamlarında taktiksel bir dezavantajdır."
Savunma alanında insansı robotlara yönelme, işlevsellik yerine biçim faktörüne yapılan sermaye yoğun bir kumardır. Foundation Robotics 'insan merkezli' tasarım argümanını öne sürerken, iki ayaklı hareketin fiziği, yüksek yoğunluklu çatışmalarda dört ayaklı veya paletli platformlara kıyasla bir dezavantaj olmaya devam ediyor. 2027 yılına kadar belirlenen 20.000 dolarlık fiyat hedefi agresif olup, güvenilir aktüatörler ve güç yoğunluğu için gereken devasa Ar-Ge maliyetlerini muhtemelen göz ardı etmektedir. Pathak'ın Synapse'daki geçmişi göz önüne alındığında, uygulama riski aşırı derecede yüksektir. Yatırımcılar, ordunun mevcut ilgisinin, konuşlandırma taahhüdünden ziyade teknolojiyi izleme arzusuyla yönlendiriliyor olması muhtemel olduğundan, 20 milyon dolarlık askeri sözleşmeleri kitlesel ölçekli tedarik yolundan ziyade 'kavram kanıtlama' finansmanı olarak görmelidir.
Eğer Foundation, yapay zekada bir 'dünya modeli' atılımı gerçekleştirirse, insan biçimli form faktörü, mevcut altyapı ve silahların maliyetli, özel lojistik yeniden tasarımları olmadan işletilmesine izin vererek nihai güç çarpanı haline gelir.
"Vakfın 2027 üretim hedefleri ve silahlanma zaman çizelgesi, sermaye veya sözleşmelerle değil, son beş yılda hiçbir girişimin çözemediği çözülmemiş yapay zeka/robotik temelleri (el becerisi, çalışma süresi, gerçek dünya genellemesi) ile sınırlıdır."
Foundation Robotics, fizik ve yapay zeka gerçekliğiyle sert bir şekilde çelişen bir vizyon (2027'ye kadar seri üretim insansı askerler) satıyor. MK-1, bir batarya olmadan yürüyemiyor, ayağa kalkamıyor, işlevsiz ellere sahip. Altı saatlik çalışma süresi bir zafer olarak sunuluyor ancak gerçek bir konuşlandırma için felaket niteliğinde—bir insan asker 12-16 saat çalışır. Makale gerçek engeli göz ardı ediyor: gerçek dünya görev genellemesi. Fankhauser'ın noktası yıkıcı: bugünün insansı robotları depoda paketlemede başarısız oluyor. Yapılandırılmamış ortamlarda (moloz, kentsel, değişken arazi) savaşmak kat kat daha zordur. 2027'ye kadar olan 24 milyon dolarlık sözleşmeler ve yıllık 40.000 birim hedefi, mühendislik yol haritası değil, pazarlama gibi okunuyor. Çin tehdidi çerçevesi fonlamayı haklı çıkarıyor ancak fiziği hızlandırmıyor.
Eğer yanılıyorsanız ve yapay zeka atılımı (internet videosu + gerçek dünya etkileşimi üzerinde eğitilmiş dünya modelleri) gerçekten işe yararsa, Foundation'ın 24 milyon dolarlık askeri sözleşmeleri + Ukrayna testleri, rakipler yetişmeden önce savaşın erken evrelerinde asimetrik bir avantaj sağlayabilir. İnsansı form faktörünün avantajı—mevcut insan araçlarını ve altyapısını kullanması—dört ayaklıların başarısız olduğu kentsel/bina senaryolarında belirleyici kanıtlanabilir.
"Mevcut yapay zeka ve güç kısıtlamaları, sözleşmelerden bağımsız olarak, 2030'ların başına kadar büyük ölçekte ölümcül insansı konuşlandırmayı olasılık dışı kılmaktadır."
Makale, Foundation Robotics'in silahlı insansı robotlara yönelik hamlesini öne çıkarıyor, ancak çalışma süresi sınırlamalarını, el becerisi arızalarını ve AI'nın takla atan düşmanlar veya karton kılıklar gibi açık uçlu belirsizlikleri ele alma konusundaki yetersizliğini göz ardı ediyor. Askeri sözleşmeler toplamda yalnızca 24 milyon dolar, MK-1'de pil veya hava koşullarına dayanıklılık yokken, uzmanlar dört ayaklıların arazide zaten daha iyi performans gösterdiğini ve mevcut insansı robotların temel depo görevlerinde zorlandığını belirtiyor. Etik kurallar ve ihracat kontrolleri, 2027 yılına kadar 40 bin birime ölçeklenmeyi daha da yavaşlatabilir. Gerçek risk, Ukrayna'da daha basit dronların zaten etkili bir şekilde yük taşıdığı durumlarda form faktörü avantajlarını abartmaktır.
Çin'in devlet destekli programları, kontrollü testlerde daha yüksek hata oranlarını kabul etmeleri halinde zaman çizelgelerini dramatik bir şekilde sıkıştırabilir ve Tayvan senaryoları sonrası ABD Savunma Bakanlığı'nın aciliyeti, muharip olmayan araştırmacılar tarafından dile getirilen teknik şüpheciliğin önüne geçebilir.
Phantom konsepti, insansı robotları kara muharebelerinde normalleştirme yönünde uzun vadeli bir hedefi işaret ediyor, ancak makale yakın vadede aşılması gereken devasa engelleri yüzeysel geçiyor. Gerçek dünyada benimsenmesi, öngörülemeyen ortamlarda belgelenebilir güvenilirliğe, zorlu güç ve soğutma ihtiyaçlarına ve tedariki engelleyebilecek devam eden etik ve egemenlik tartışmalarına bağlıdır. Belirtilen maliyetler ve çalışma süreleri, acil olmaktan çok hevesli görünüyor ve makale, daha kısa sürede net bir yatırım getirisi (ROI) sağlayan hava dronları, dört ayaklı robotlar ve muharebe dışı yardımcı robotlarla rekabeti hafife alıyor. Politika yapıcılar ölümcül otonomi üzerindeki kontrolleri sıkılaştırırsa ve donanım ile güvenlik avantajı gerçekleşmezse, sözde kitlesel pazar konuşlandırması uzak bir hayal olarak kalabilir.
Eğer ordu silahlanmayı ölçekte gösterebilirse ve sertifikasyon engelleri hızla düşerse, maliyet hedefleri düşer ve kitlesel benimseme şüphecilerin beklediğinden daha hızlı gerçekleşebilir; makalenin uyarısı, tedarik teşviklerini ve caydırıcılık değerini hafife alıyor olabilir. Bu durumda, insansı yol, kara kuvvetleri için güvenilir, hızlı bir yükseltme haline gelebilir.
"İnsansı iş modeli, askeri düzeydeki donanımın yüksek Ar-Ge maliyetlerini sübvanse etmek için endüstriyel ölçeğe dayanmaktadır."
Claude ve Grok fiziksel sınırlamaları doğru bir şekilde tespit ediyor, ancak her ikisi de 'çift kullanımlı' geçişi göz ardı ediyor. Foundation Robotics bir asker inşa etmiyor; silahlandırılabilen bir lojistik platformu inşa ediyor. 24 milyon dolarlık savunma sözleşmesine odaklanarak, panel asıl oyunu kaçırıyor: önce endüstriyel işgücü piyasasını ele geçirmek. Depolar için 40.000 birim elde ederlerse, ölçek ekonomileri sayesinde birim maliyeti düşer ve bu da savunma tedarikini birincil bir Ar-Ge engeli olmaktan çok yüksek marjlı bir son düşünce haline getirir.
"Savunma sözleşmeleri Ar-Ge'yi finanse eder, ancak gerçek maliyet düşürme kaldıraçları depolama benimsemesidir, savunma değil ve MK-1, savunma gereksinimlerinden önce depo gereksinimlerini karşılayamaz."
Gemini'nin çift kullanımlı dönüşü akıllıca ancak riski tersine çeviriyor. Depo otomasyonunun belirsizliğe toleransı sıfırdır; MK-1'in mevcut arıza modları (işlevsiz eller, denge sorunları) orada öncelikle elenme sebebidir, savunmada değil. Savunma aslında kontrollü testlerde daha yüksek arıza oranlarına izin verir. Gerçek darboğaz form faktörü değil; aktüatör güvenilirliği ve AI genellemesidir. Robot kutuları güvenilir bir şekilde kavrayamazsa depolar Ar-Ge'yi sübvanse etmeyecektir. Savunma sözleşmeleri bu Ar-Ge'yi finanse eder, ancak depo ölçeklendirmesinin bunu takip edeceğini varsaymayın.
"Ölümcül otonomi kuralları, ticari otomasyondan daha katı bir doğrulama gerektirir ve bu da Claude'un hata toleransı iddiasını zayıflatmaktadır."
Claude, savunmanın depolardan daha yüksek arıza oranlarına tolerans gösterdiğini varsayıyor, ancak ölümcül otonomi sertifikasyonu, ticari alıcıların kaçınabileceği kapsamlı doğrulama ve sorumluluk denetimleri gerektiriyor. Bu düzenleyici asimetri, 24 milyon dolarlık sözleşmeler aktüatör çalışmalarını finanse etse bile, Gemini'nin tanımladığı çift kullanımlı ölçeklendirmeyi geciktirebilir. Ukrayna saha verileri, gerçek savaş ortamlarının kontrollü testlerin öngördüğünden daha hızlı bir şekilde bu boşlukları hızlandırıp hızlandırmadığını veya ortaya çıkarıp çıkarmadığını ortaya çıkarabilir.
"Ölçek, güvenilirliği veya bakım maliyetlerini düzeltmeyecektir; bir depo hendeği kazanmak, hızlı dağıtımı sınırlayacak yazılım entegrasyonu ve düzenleyici/lisanslama engellerini aşmayı gerektirir."
Gemini'nin çift kullanımlı dönüşü en az incelenen konu, ancak ölçek güvenilirliği veya bakımı düzeltmez. 2027 yılına kadar yılda 40 bin depo birimi, neredeyse mükemmel çalışma süresi ve uygun maliyetli çalıştırma varsayıyor—ancak insansı robotiklerin bakım yükü ölçekle birlikte patlama eğilimindedir (kalibrasyon sapması, kavrayıcı aşınması, pil bozulması). Dahası, savunma fonlaması Ar-Ge'yi hızlandırsa bile, ihracat kontrolleri ve otonom silahlar için sorumluluk, penetrasyon üzerinde bir tavan oluşturuyor. Depo öncelikli bir hendek, yalnızca donanıma değil, yazılım entegrasyonuna dayanır.
Panelin genel görüşü, Foundation Robotics'in insanımsı robotik hamlesi konusunda fiziksel sınırlamalar, yapay zeka zorlukları ve uygulama risklerine işaret ederek düşüş yönünde. Gemini'nin çift kullanımlı dönüş argümanı tartışıldı ancak sonuçta paneli ikna edemedi.
Gemini'nin, öncelikle endüstriyel işgücü piyasasına odaklanmayı öneren çift kullanımlı dönüşüm argümanı, en az incelenen fırsattı.
İki ayaklı hareketin fiziği, yapay zekanın açık uçlu belirsizlikle başa çıkamaması ve aktüatör güvenilirliği, tekrar tekrar önemli riskler olarak işaretlendi.