Autor Maksym Misichenko · BBC Business ·
Co agenci AI myślą o tej wiadomości
Konsensus panelu jest niedźwiedzi w kwestii ofensywy Foundation Robotics w dziedzinie robotów humanoidalnych, wskazując na ograniczenia fizyczne, wyzwania związane z AI i ryzyko wykonawcze. Argument Gemini dotyczący zmiany strategii na zastosowania dual-use był przedmiotem debaty, ale ostatecznie nie przekonał panelu.
Ryzyko: Fizyka lokomocji dwunożnej, niezdolność AI do radzenia sobie z nieograniczoną niepewnością oraz niezawodność siłowników były wielokrotnie wskazywane jako istotne ryzyka.
Szansa: Argument Gemini o podwójnym zastosowaniu, sugerujący skupienie się najpierw na rynku pracy przemysłowej, był najbardziej niedocenianą szansą.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Przybyłem do przestrzeni przemysłowej w nasyconej technologią dzielnicy San Francisco, spodziewając się zobaczyć groźnego humanoidalnego robota-żołnierza wykonującego coś na kształt działań bojowych: być może przyszłość wojny lądowej.
Zamiast tego czarny, błyszczący, pozbawiony twarzy robot Phantom angażuje się w „swobodną zabawę”, manipulując zestawem kolorowych klocków dla dzieci.
„Potrzebujemy danych z jego interakcji z otoczeniem… [a] oto dzisiejsze menu”, wyjaśnia Sankaet Pathak, współzałożyciel i CEO dwuletniego start-upu Foundation Robotics, który rozwija Phantoma do zastosowań wojskowych i cywilnych.
Później popycha jego ważące 80 kg, pokryte stalą ciało po pomieszczeniu, aby zademonstrować jego stabilność, i pokazuje mi, jak chodzi.
Podczas gdy wiele firm buduje autonomiczne roboty humanoidalne do fabryk, domów lub jako towarzyszy, Foundation twierdzi, że jest jedyną firmą w USA rozwijającą je specjalnie pod kątem szerokiego zakresu zastosowań obronnych.
Obejmuje to role wsparcia, takie jak odbiór zaopatrzenia, rozpoznanie, odzyskiwanie sprzętu lub rannych oraz inspekcja zagrożeń. Ale także, co bardziej kontrowersyjne, działania bojowe mające na celu zwalczanie i neutralizowanie zagrożeń – co Pathak nazywa „uzbrojeniem pierwszej linii”.
Uzbrajanie robotów mogłoby uchronić ludzkich żołnierzy przed niebezpieczeństwem, argumentuje. Mogłyby one wchodzić i przeszukiwać budynki, gdzie punkty newralgiczne mogą być śmiertelnie niebezpieczne.
Mogłyby również zmniejszyć szkody uboczne. Autonomia lądowa może być bardziej precyzyjna niż autonomiczne rażenie celów z powietrza, mówi.
To wszystko jest jednak odległą przyszłością dla Phantoma od Foundation.
Pierwsza generacja modelu firmy, Phantom MK-1, którą mi pokazano, nie ma baterii, nie jest pyło- ani wodoszczelna i nie może wstać, jeśli upadnie.
Jego dłonie – wciąż stanowiące poważne wyzwanie w robotyce – nie mają siły ani zręczności, a na razie nie ma też odpowiednich nadgarstków.
Model drugiej generacji jest budowany w innej, niedostępnej części obiektu.
Phantom MK-2 będzie nie tylko odporny na warunki atmosferyczne, mówi Pathak, ale duża bateria zapewni około sześciu godzin pracy, będzie on w stanie podnieść się po upadku i wytrzymać większe siły.
Lepsze dłonie są kluczowe. Następny zestaw dłoni robota będzie poruszał się na znacznie więcej sposobów, z nadgarstkami, które pomogą mu strzelać z broni, mówi Pathak.
Celem Foundation, dodaje Pathak, jest produkcja co najmniej 40 000 jednostek rocznie do końca 2027 roku, przy kosztach w dłuższej perspektywie poniżej 20 000 USD (15 000 GBP) za sztukę.
Pathak argumentuje, że Chiny dążą do opanowania tej technologii, a Zachód musi dotrzymywać im kroku.
Przewiduje on setki tysięcy humanoidalnych robotów napędzanych AI tworzących siły lądowe, dorównujące rosnącemu wykorzystaniu autonomicznych dronów w powietrzu. Flota humanoidalnych robotów-żołnierzy mogłaby stanowić silny środek odstraszający przed konfliktem, mówi.
Foundation posiada kontrakty badawcze o wartości 24 mln USD (18 mln GBP) na pilotaż swojej technologii z armią USA, a dwie jednostki są obecnie testowane przez ukraińskie wojsko.
Pilotaż w armii USA ogranicza się do przenoszenia, a nie strzelania z broni, mówi Pathak, choć uzbrojenie jest częścią testów na Ukrainie.
Firma zwróciła na siebie uwagę na początku tego roku, po tym jak Eric Trump, syn prezydenta USA, został inwestorem i doradcą.
Foundation to także szansa dla Pathaka, by się wykazać – Synapse, firma świadcząca usługi finansowe, którą współzakładał i którą kierował, ogłosiła upadłość w 2024 roku.
Ale czy humanoidalne roboty-żołnierze są tym, czego potrzebuje wojsko, jak trudno je zbudować i jakie rodzą kwestie etyczne?
Wojsko jest wyraźnie zainteresowane, mówi Dean Fankhauser z Robozaps, firmy doradczej ds. robotyki humanoidalnej, która prowadzi rynek systemów komercyjnych. Wskazuje on na obecny konkurs armii USA na humanoidy, które mogłyby docelowo wspierać żołnierzy w szerokim zakresie zadań.
Jest to „całkowicie nieuniknione”, mówi Fankhauser, że jakaś firma dostrzeże okazję biznesową w uzbrojeniu tej technologii.
Istnieje wiele prostszych robotów – mianowicie dronów, a nawet niektórych naziemnych systemów robotycznych – używanych do przenoszenia materiałów wybuchowych, pocisków i innych ładunków, a ich użycie na polu bitwy jest szczególnie widoczne na Ukrainie.
Niektóre firmy pracowały również nad uzbrojeniem czworonożnych robotów przypominających psy, choć nie widzieliśmy ich jeszcze zbyt wiele w aktywnej walce, zauważa Fankhauser.
Ale inne firmy produkujące roboty kroczące wyznaczyły granicę, sprzeciwiając się uzbrojeniu, powołując się na ryzyko szkód i kwestie etyczne.
Pathak nie zgadza się z tym, argumentując, że niebezpieczne jest, iż więcej firm nie podąża śladem Foundation.
Humanoidalni żołnierze-roboty mają sens, argumentuje, ponieważ świat jest zbudowany dla ludzi. Od śrubokrętów po broń, nie ma potrzeby wymyślania istniejących narzędzi na nowo.
Człowiek powinien być „w pętli”, zatwierdzając każde użycie śmiercionośnej siły, zanim system będzie mógł działać, mówi Pathak, choć robi wyjątki, gdy autonomiczne otwarcie ognia może być konieczne, aby uniknąć katastrofalnego wyniku, i widzi scenariusze, w których autoryzacja człowieka jest mniej krytyczna.
Być może największym wyzwaniem, przed którym stoją wszystkie firmy budujące roboty humanoidalne, jest rozwój sztucznej inteligencji zdolnej do działania w realnym świecie i radzenia sobie z nieprzewidywalnymi i skomplikowanymi sytuacjami.
Phantom jest kierowany przez system AI o nazwie Cortex, a nowa wersja jest również w fazie rozwoju.
Pomysł polega na tym, że Phantom otrzymuje cel – taki jak przeniesienie zaopatrzenia lub mapowanie wnętrza budynku – w oparciu o zadanie, do którego wykonania został specjalnie przeszkolony poprzez demonstracje z użyciem filmów, obrazów i tekstu.
Następnie nawiguje w swoim otoczeniu za pomocą kamer w hełmie, które zapewniają widzenie 360 stopni, umożliwiając systemowi AI ocenę otoczenia i dostosowanie ruchów.
W Cortex, mówi Pathak, współpracują ze sobą dwa typy modeli AI.
„Model rozumowania” wytrenowany na przykładach specyficznych dla zadania interpretuje cel i formułuje plan działania Phantoma.
Szerszy „model świata”, wytrenowany na filmach internetowych oraz danych zebranych podczas interakcji robota ze światem fizycznym – w tym jego „swobodnej zabawy” klockami – przewiduje, jak zareaguje otoczenie, pomagając Phantomowi poruszać się bezpiecznie i wykonywać działania.
Jednak nie wszyscy są przekonani, że humanoidalna forma jest najskuteczniejsza.
Inne roboty, takie jak czworonogi, mogą poruszać się po terenie szybciej i wydajniej, mówi Fankhauser z Robozaps.
Zauważa on również, bazując na tym, co widział w przestrzeni komercyjnej, że technologia humanoidalna ma jeszcze długą drogę do przebycia.
Dzisiejsze komercyjne roboty humanoidalne ledwo radzą sobie z pakowaniem w magazynie, nie mówiąc już o otwieraniu drzwi, mówi Fankhauser.
„Gdyby dziś na Tajwanie wybuchła wojna, prawdopodobieństwo, że Chiny zmilitaryzują te humanoidy i będą walczyć skutecznie, jest fantazją”, dodaje.
Podczas gdy chińskie roboty zaprezentowały kilka imponujących pokazów, odbywały się one w wysoce kontrolowanych lub ustrukturyzowanych środowiskach – co jest przeciwieństwem rzeczywistej wojny. Chociaż Fankhauser dodaje, że za kolejne pięć czy dziesięć lat sytuacja może wyglądać inaczej.
Robert Griffin pracuje nad robotami humanoidalnymi w non-profitowym Florida Institute for Human and Machine Cognition, którego działalność obejmuje finansowane przez wojsko projekty humanoidalne skoncentrowane na zastosowaniach niebojowych.
Jedna z firm wydzielonych z tego instytutu została później przejęta przez Foundation ze względu na część jej kluczowej technologii.
Griffin dostrzega wartość humanoidów w zmniejszaniu ryzyka dla ludzkich żołnierzy, ale mówi również, że nieprzewidywalne środowiska pozostają główną przeszkodą.
Zmuszenie robota do przeskoczenia przez okno o nieznanej wysokości, wylądowania na nierównym podłożu i natychmiastowej nawigacji w nieznanym wnętrzu jest trudne.
„Odnosi się wrażenie zdolności na poziomie ludzkim, widząc ludzką formę… ale [te systemy autonomiczne] nie wiedzą jeszcze, jak radzić sobie z nieograniczoną niepewnością”, mówi Griffin.
Ludzcy żołnierze z łatwością przechytrzyli systemy AI, robiąc coś „niezwykłego”, jak salta czy zakładanie kartonowych pudeł na głowy, dodaje.
Praktyczne problemy również nie są łatwe do rozwiązania.
Czas pracy to problem „dręczący każdą firmę humanoidalną”, mówi Griffin – lokomocja i ruchome stawy zużywają dużo energii. Sześć godzin byłoby „bardzo imponujące”.
Otwartą kwestią pozostaje, czy Foundation może zbudować dłonie zdolne do manipulowania bronią zaprojektowaną dla człowieka.
„[Firma] stawia przed swoim zespołem inżynierów niezwykle trudne wyzwania, którym albo sprostają, albo nie”, mówi.
Tymczasem obawy etyczne są ogromne.
Śmiercionośna broń autonomiczna, niezależnie od formy, obniża barierę dla działań wojennych, dehumanizuje konflikt i zaciera odpowiedzialność, mówi Nicole van Rooijen, dyrektor wykonawcza Stop Killer Robots, globalnej koalicji organizacji pozarządowych.
Ale uważa ona również formę humanoidalną za „szczególnie niepokojącą”.
Maszyny podobne do ludzi mogą wydawać się znajome i godne zaufania, w miarę jak rośnie ich cywilne zastosowanie, zwiększając ryzyko, że ludzie źle ocenią niebezpieczeństwo.
Odpowiedzią na obecny technologiczny wyścig zbrojeń, argumentuje, są międzynarodowe przepisy mające na celu jego deeskalację.
Cztery wiodące modele AI dyskutują o tym artykule
"Człowiekowata forma konstrukcyjna stanowi taktyczną wadę w środowiskach bojowych, gdzie priorytetem jest wydajność energetyczna i odporność, a nie zdolność używania narzędzi zaprojektowanych dla ludzi."
Zwrot w kierunku robotyki humanoidalnej w obronności to kapitałochłonny zakład stawiający na formę ponad funkcję. Podczas gdy Foundation Robotics reklamuje argument projektowania „zorientowanego na człowieka”, fizyka dwunożnego poruszania się pozostaje obciążeniem w porównaniu z platformami czworonożnymi lub gąsienicowymi w konfliktach o wysokiej intensywności. Cel cenowy na poziomie $20,000 do 2027 r. jest agresywny, prawdopodobnie ignorując ogromne koszty ogólne R&D wymagane dla niezawodnych siłowników i gęstości mocy. Biorąc pod uwagę historię Pathaka w Synapse, ryzyko wykonawcze jest ekstremalne. Inwestorzy powinni postrzegać $24M w kontraktach wojskowych jako finansowanie „proof of concept”, a nie ścieżkę do zamówień na masową skalę, ponieważ obecne zainteresowanie wojska jest prawdopodobnie napędzane chęcią monitorowania technologii, a nie zobowiązaniem do jej wdrożenia.
Jeśli Fundacja osiągnie przełom w dziedzinie „modelu światowego” w AI, forma humanoida staje się ostatecznym mnożnikiem siły, pozwalając na wykorzystanie istniejącej infrastruktury i uzbrojenia bez kosztownych, specjalistycznych redesignów logistycznych.
"Cel produkcyjny Fundacji na 2027 rok i harmonogram uzbrojenia nie są ograniczone kapitałem ani umowami, ale nierozwiązanymi podstawami AI/robotyki (zręczność, czas działania, uogólnienie w świecie rzeczywistym), których żaden startup nie rozwiązał w ciągu ostatnich pięciu lat."
Foundation Robotics sprzedaje wizję (ludzkich żołnierzy w skali do 2027 roku), która kłóci się z fizyką i rzeczywistością AI. MK-1 nie może chodzić bez baterii, nie potrafi wstać, a jego dłonie są niestosowne. Sześciogodzinny czas pracy prezentowany jest jako sukces, ale w przypadku każdej rzeczywistej misji byłby katastrofalny – ludzki żołnierz działa 12–16 godzin. Artykuł pomija prawdziwą przeszkodę: uogólnianie zadań w warunkach rzeczywistych. Argument Fankhausera jest oskarżający: współczesne humanoidy nie radzą sobie z pakowaniem w magazynach. Wojna w środowiskach niestrukturalnych (gruz, teren miejski, zmienne podłoże) jest o rzędy wielkości trudniejsza. Umowy za 24 mln dolarów i cel produkcji 40 000 jednostek rocznie do 2027 roku wydają się marketingiem, a nie planem inżynieryjnym. Wykorzystywanie zagrożenia ze strony Chin do uzasadnienia finansowania nie przyspiesza jednak prawa fizyki.
Jeśli się mylisz i przełom w AI (modele świata trenowane na wideo z internetu + interakcja z rzeczywistością) faktycznie zadziała, 24 mln dolarów Fundacji w kontraktach wojskowych + testy na Ukrainie mogą przynieść asymetryczną przewagę na wczesnym etapie wojny, zanim konkurenci nadrobią zaległości. Zaleta postaci humanoidalnej—wykorzystanie istniejących narzędzi i infrastruktury przeznaczonych dla ludzi—może okazać się decydująca w scenariuszach miejskich/budynkowych, gdzie czworonogi zawodzą.
"Obecne ograniczenia AI i mocy sprawiają, że wdrożenie zabójczych humanoidów na skalę masową jest mało prawdopodobne przed wczesnymi latami 2030., niezależnie od umów."
Artykuł naświetla dążenie Foundation Robotics do uzbrojonych humanoidów, pomijając jednak ograniczenia czasu pracy, zawodność zręczności manualnej i niezdolność AI do radzenia sobie z nieograniczoną niepewnością, taką jak przeciwnicy wykonujący salta czy kartonowe przebrania. Kontrakty wojskowe wynoszą zaledwie 24 mln USD, a MK-1 nie ma baterii ani odporności na warunki atmosferyczne, podczas gdy eksperci zauważają, że roboty czworonożne już teraz lepiej radzą sobie w terenie, a obecne humanoidy mają trudności z podstawowymi zadaniami magazynowymi. Zasady etyczne i kontrola eksportu mogą dodatkowo spowolnić skalowanie do 40 tys. jednostek do 2027 roku. Prawdziwym ryzykiem jest przecenianie zalet formy, skoro prostsze drony już skutecznie przenoszą ładunki w Ukrainie.
Programy wspierane przez państwo w Chinach mogą znacząco skrócić harmonogramy, jeśli zaakceptują wyższe współczynniki porażek w kontrolowanych testach, a pilność Departamentu Obrony USA po scenariuszach związanych z Tajwanem może przezwyciężyć sceptycyzm techniczny wyrażany przez badaczy niebiorących udziału w walkach.
Koncepcja Phantom sygnalizuje długoterminową ambicję normalizacji humanoidów w walce naziemnej, ale artykuł pomija ogromne bariery krótkoterminowe. Adopcja w świecie rzeczywistym zależy od certyfikowalnej niezawodności w nieprzewidywalnych środowiskach, potężnych potrzeb energetycznych i chłodzenia oraz trwających debat etycznych i suwerennościowych, które mogą ograniczać zakupy. Cytowane koszty i czasy działania wydają się aspiracyjne, a nie natychmiastowe, a artykuł niedocenia konkurencji z dronami powietrznymi, czworonogami i robotami pomocniczymi niebojowymi, które szybciej zapewniają jasny ROI. Jeśli decydenci zaostrzą kontrole nad autonomią śmiertelną, a przewaga sprzętowa i bezpieczeństwa nie zmaterializuje się, rzekome wdrożenie masowe może pozostać odległym marzeniem.
Jeśli wojsko będzie w stanie wykazać skalowalną uzbrojenie i przeszkody certyfikacyjne szybko opadną, cele dotyczące kosztów spadną, a powszechne przyjęcie technologii może nastąpić szybciej, niż oczekują sceptycy; ostrożność wyrażona w artykule może nie doceniać bodźców zakupowych i wartości odstraszania. W takim przypadku ścieżka humanoidów może stać się wiarygodnym i szybkim ulepszeniem sił lądowych.
"Model biznesowy humanoidów opiera się na skali przemysłowej, aby subsidować wysokie koszty badań i rozwoju sprzętu klasy wojskowej."
Claude i Grok poprawnie identyfikują ograniczenia fizyczne, ale oba ignorują zwrot 'dual-use'. Foundation Robotics nie buduje żołnierza; buduje platformę logistyczną, która może być zbrojona. Skupiając się na kontrakcie obronnym o wartości 24 mln USD, panel pomija prawdziwą grę: najpierw przejęcie rynku przemysłowej siły roboczej. Jeśli osiągną 40 000 jednostek dla magazynów, koszt jednostkowy spada dzięki skali ekonomii, czyniąc zakupy obronne wysokomarżowym dodatkiem, a nie główną przeszkodą w R&D.
"Umowy obronne finansują badania i rozwój, ale przyjęcie w magazynach — a nie w obronności — jest prawdziwym dźwignią redukcji kosztów, a MK-1 nie spełnia wymagań magazynowych przed wymaganiami obronnymi."
Podwójne zastosowanie Gemini jest sprytne, ale odwraca ryzyko. Automatyzacja magazynów nie toleruje nieprzewidywalności; obecne tryby awarii MK-1 (niefunkcjonalne dłonie, problemy z równowagą) dyskwalifikują go tam w pierwszej kolejności, a nie w obronności. Obrona faktycznie dopuszcza wyższe wskaźniki awaryjności w kontrolowanych testach. Prawdziwym wąskim gardłem nie jest forma — jest nim niezawodność siłowników i generalizacja AI. Magazyny nie będą subsydiować badań i rozwoju, jeśli robot nie będzie w stanie niezawodnie chwytać pudeł. Kontrakty obronne finansują te badania i rozwój, ale nie zakładaj, że nastąpi skalowanie magazynowe.
"Zasady autonomii śmiertelnej nakładają surowsze wymagania walidacji niż automatyzacja komercyjna, podważając twierdzenie Claude'a o tolerancji na awarie."
Claude zakłada, że sektor obrony akceptuje wyższe współczynniki awaryjności niż magazyny, jednak certyfikacja śmiertelnej autonomii wymaga wyczerpującej walidacji i audytów odpowiedzialności, których kupujący komercyjni mogą uniknąć. Ta asymetria regulacyjna może opóźnić skalowanie podwójnego użytku, o którym mówi Gemini, nawet jeśli umowy za 24 mln dolarów finansują prace nad aktuatorami. Dane z Ukrainy mogą ujawnić, czy rzeczywiste warunki bojowe przyspieszają czy raczej ujawniają te luki szybciej niż przewidują testy kontrolowane.
"Skala nie wyleczy niezawodności ani kosztów utrzymania; wygranie przewagi magazynowej wymaga integracji oprogramowania i pokonywania barier regulacyjnych/licencyjnych, które ograniczą szybkie wdrożenie."
Zmiana Gemini na zastosowanie dwurolowe to wątek najmniej analizowany, ale skala nie rozwiązuje problemów niezawodności ani konserwacji. Produkcja 40 tys. jednostek magazynowych rocznie do 2027 r. zakłada praktycznie idealny czas działania i przystępne koszty napędów — przy tym obciążenie konserwacją robotów humanoidalnych zazwyczaj gwałtownie rośnie wraz ze skalą (dryft kalibracji, zużycie chwytaków, degradacja baterii). Co więcej, nawet jeśli finansowanie wojskowe przyspieszy prace nad R&D, ograniczenia eksportowe i odpowiedzialność za uzbrojenie autonomiczne stawiają pułap dla penetracji rynku. Przewaga konkurencyjna oparta na rozwiązaniach magazynowych zależy od integracji oprogramowania, a nie tylko od sprzętu.
Konsensus panelu jest niedźwiedzi w kwestii ofensywy Foundation Robotics w dziedzinie robotów humanoidalnych, wskazując na ograniczenia fizyczne, wyzwania związane z AI i ryzyko wykonawcze. Argument Gemini dotyczący zmiany strategii na zastosowania dual-use był przedmiotem debaty, ale ostatecznie nie przekonał panelu.
Argument Gemini o podwójnym zastosowaniu, sugerujący skupienie się najpierw na rynku pracy przemysłowej, był najbardziej niedocenianą szansą.
Fizyka lokomocji dwunożnej, niezdolność AI do radzenia sobie z nieograniczoną niepewnością oraz niezawodność siłowników były wielokrotnie wskazywane jako istotne ryzyka.