Apa yang dipikirkan agen AI tentang berita ini
Panel setuju bahwa kebijakan 'Test in Ukraine' Ukraina mempercepat otonomi drone, tetapi ada ketidaksepakatan mengenai jadwal dan risiko yang terlibat. Sementara beberapa panelis optimis tentang peluang untuk elektronik pertahanan dan pemasok inferensi AI, yang lain memperingatkan tentang risiko peraturan dan etika yang dapat menghentikan adopsi.
Risiko: Risiko 'black swan' peraturan dan etika, seperti kesalahan otonom yang menjadi sorotan publik yang memicu moratorium global atas pengadaan.
Peluang: Model 'Test in Ukraine' dan pergeseran ke perangkat keras komputasi tepi, menguntungkan perusahaan seperti NVIDIA dan perusahaan teknologi pertahanan khusus.
Ukraina Menjadi Laboratorium Senjata AI Dunia
Oleh Craig S. Smith dari Eye on AI,
Saya berada di Ukraina pada bulan Februari dan menulis artikel ini sebelum dimulainya perang dengan Iran, tetapi implikasinya bahkan lebih relevan saat ini. Minat saya pada senjata otonom mematikan sudah ada sejak saya bertugas di Komisi Keamanan Nasional tentang Kecerdasan Buatan, di mana otonomi penuh diperdebatkan tetapi sebagian besar diabaikan karena tidak dapat diterima secara etis.
Namun dalam praktiknya, langkah menuju otonomi penuh lebih kecil daripada kedengarannya. Begitu manusia tidak lagi secara aktif mengendalikan sistem dan hanya memantaunya dengan pilihan untuk campur tangan, pergeseran untuk menghilangkan manusia itu sepenuhnya bersifat inkremental.
Ini mirip dengan bagaimana Iran menggambarkan program nuklirnya. Pengayaan uranium untuk energi sipil disajikan sebagai hal yang jinak, tetapi begitu pengayaan mencapai tingkat kelas reaktor, langkah teknis yang tersisa untuk material kelas senjata adalah masalah waktu dan niat, bukan kemampuan.
Semakin sulit untuk berargumen bahwa senjata otonom penuh tidak akan muncul. Mereka mengikuti secara alami dari realitas yang sudah ada di medan perang. Apa yang lebih mudah dipahami adalah ketakutan yang mereka timbulkan. Saksikan rekaman pandangan orang pertama dari quadcopter yang mengejar seorang tentara hingga kematiannya yang tak terhindarkan dan abstraksi itu menghilang.
Terbungkus dalam dinginnya bulan Februari Ukraina yang di bawah nol, seorang pria berjubah abu-abu melemparkan sesuatu yang tampak seperti pesawat model abu-abu ke langit biru pucat. Dengungan baling-baling drone perlahan memudar saat naik di atas ladang bersalju dan pagar tanaman tandus. Itu tampak seperti mainan.
Namun, Oleksandr Liannyi tidak sedang bermain. Dia sedang mengerjakan cara untuk membuat drone jauh lebih mematikan daripada sekarang.
“Ini sebagian besar tentang akurasi penentuan posisi, tentang bagaimana bagian navigasi akan berkinerja dalam kondisi yang berbeda,” kata Liannyi, salah satu pendiri NORDA Dynamics, yang membangun modul navigasi dan penargetan otonom untuk drone militer.
Liannyi dan rekan-rekannya serta tim Ukraina lainnya telah mencapai otonomi parsial, memungkinkan drone untuk menavigasi dan menyerang target yang dipilih manusia sendiri. Langkah selanjutnya jauh lebih kontroversial: drone otonom penuh, yang dapat menavigasi ke garis depan aktif, mencari target, dan menyerang tanpa masukan manusia. Diberdayakan untuk membuat pilihan hidup atau mati, drone semacam itu akan secara fundamental mengubah sifat tidak hanya perang ini, tetapi semua perang.
“Teknologinya sudah sangat dekat,” kata Liannyi kemudian di dalam van putih yang reyot di garis pohon. Dia mencatat bahwa sejumlah tahap perantara masih perlu dikembangkan sebelum sistem semacam itu ada dan bahwa NORDA Dynamics terus menekankan persetujuan manusia dalam lingkaran ketika menyangkut keputusan serangan.
Di bawah Hukum Humaniter Internasional, manusia tidak dapat mengalihkan tanggung jawab membunuh kepada mesin.
Tetapi Liannyi berpendapat bahwa bahkan jika manusia secara hukum diharuskan menyetujui serangan mematikan, akuisisi target otonom, paling tidak, akan meningkatkan jumlah drone yang dapat dikelola oleh satu pilot. “Drone dapat memberi tahu Anda ketika ia melihat target, dan kemudian Anda dapat membuka gambar dan menyetujuinya, sehingga Anda dapat mengontrol banyak drone secara bersamaan,” katanya.
Saya datang ke Ukraina, secara tidak terduga, bersama seorang pendiri startup Silicon Valley untuk menyaksikan uji coba robot humanoid perusahaannya dalam pengaturan tempur. Tetapi karena sifatnya yang sensitif, robot itu tidak pernah keluar dari kotaknya di bandara di Warsawa dan, karena alasan yang sama, tidak pernah melewati perbatasan Polandia-Ukraina di tengah malam bersalju. Akhirnya dikirim kembali ke California. Jadi saya mulai mewawancarai orang-orang tentang otonomi senjata yang berkembang dalam perang saat ini. Itu membawa saya ke van putih di tepi lapangan bersalju di Ukraina Barat – apa yang disebut orang Ukraina sebagai “poligon,” setelah istilah Eropa abad ke-19 untuk tempat latihan militer.
Di sebelah kami di dalam van, seorang pria muda berambut pirang berjubah abu-abu duduk membungkuk di atas layar, menonton umpan video dari kamera drone. Dia menggerakkan kotak putih kecil melintasi layar dengan ibu jarinya pada gerigi pengontrol drone sampai dia melihat pohon yang jauh dan membalik sakelar dengan jarinya. Kotak itu berubah menjadi hijau, bilah merah di bagian atas layar berkedip “ENGAGE,” dan dia mengangkat tangannya dari kontrol seolah-olah untuk menekankan bahwa drone itu sekarang terbang sendiri.
Hampir segera, drone itu berbelok ke arah pohon yang digariskan di layar oleh kotak hijau yang bersinar dan, dalam beberapa detik, melaju ke arahnya. Sesaat sebelum tabrakan, pria itu mengambil kendali drone lagi, mengirimnya meluncur kembali ke langit. “Oho!” serunya. Pria lain di van bergumam dalam bahasa Ukraina, “Duzhe kruto,” atau “sangat keren.”
Liannyi dan rekan-rekannya sedang menguji algoritma kontrol baru yang dapat memandu drone ke target yang dituju tanpa kontrol manusia, suatu keharusan ketika pilot kehilangan kontak dengan drone mereka karena musuh telah menjamming tautan radio. Sebagian besar sistem ini memungkinkan drone terbang dalam keheningan radio total untuk jarak setengah mil hingga dua mil terakhir, tergantung pada cuaca dan kamera yang digunakan. Begitu terbang secara otonom dengan kecepatan sekitar seratus mil per jam, drone itu hampir tidak terdeteksi oleh musuh sampai terlambat.
Otonomi pada Papan Sirkuit
Di dalam rumah plastik drone terdapat chip komputer murah yang disolder ke papan sirkuit hijau yang dimodelkan pada Raspberry Pi, komputer papan tunggal yang awalnya dirancang untuk mengajari anak-anak sekolah Inggris untuk membuat kode. Papan-papan ini diimpor dari Tiongkok, tetapi Ukraina sekarang mengembangkan AI onboard-nya sendiri, termasuk papan buatan sendiri yang dibuat oleh puluhan perusahaan lokal. Modul Jetson Orin NVIDIA yang lebih kuat digunakan dalam beberapa drone jarak jauh bernilai tinggi, tetapi harganya mahal. Modul yang lebih murah menawarkan AI onboard yang cukup untuk mengunci target sambil menjaga biaya unit tetap rendah agar tidak hilang dalam pertempuran.
Saat ini, drone serang masih diterbangkan oleh operator manusia, yang menggunakan layar dan kontrol untuk mengarahkan pesawat, memilih target, dan memutuskan kapan harus menyerang. Dengan otonomi parsial dari perusahaan seperti NORDA Dynamics, mesin dapat mengambil alih fase akhir serangan. Setelah manusia memilih target dan mengirim drone ke arahnya, perangkat lunak onboard menangani peregangan terakhir navigasi, menghindari rintangan dan menyelaraskan pendekatan terakhir. Dalam praktiknya, itu berarti orang tersebut masih memutuskan siapa atau apa yang dapat diserang, tetapi otonomi drone memutuskan persis bagaimana cara mencapainya dan menyerang.
Otonomi penuh berarti drone, bukan manusia, memutuskan siapa atau apa yang akan diserang dan melakukan serangan itu sendiri. Sistem akan mencari target potensial, memutuskan mana yang sesuai dengan aturan yang diprogramnya, dan kemudian meluncurkan dan menyelesaikan serangan tanpa meminta persetujuan seseorang.
Senjata otonom mematikan semacam itu, yang disebut LAW, akan memungkinkan para pejuang untuk mendefinisikan kotak pembunuhan: zona geofenced di mana drone otonom dapat berburu, membunuh siapa pun atau menghancurkan kendaraan apa pun yang mereka temukan. Kotak itu bisa sekecil persimpangan jalan atau sebesar 20 mil persegi medan garis depan.
Zona Abu-abu Hukum
Untuk mewujudkan kotak pembunuhan, drone harus dapat membedakan tentara dari tenaga medis, warga sipil yang melarikan diri dari tentara yang mundur, tank dari traktor, dalam hujan dan salju, siang dan malam, dan melakukannya dengan cukup baik sehingga komandan dan pengacara bersedia membiarkannya menembak tanpa manusia membuat keputusan akhir.
Baik Hukum Humaniter Internasional maupun hukum Ukraina secara khusus tidak melarang senjata otonom penuh. Mereka hanya mensyaratkan bahwa senjata membedakan tentara dari warga sipil dan tenaga medis, menghindari korban sipil yang berlebihan, dan memungkinkan manusia untuk menghentikan atau menyesuaikan serangan seiring perubahan kondisi medan perang. Bahkan hukum dan doktrin militer AS hanya mensyaratkan bahwa senjata otonom dirancang sehingga komandan dan operator dapat menerapkan “tingkat penilaian manusia yang sesuai atas penggunaan kekuatan.”
Saat ini, pejabat Barat telah beralih dari berbicara tentang manusia “dalam lingkaran,” yang berarti seseorang harus secara aktif menyetujui setiap serangan, menjadi manusia “pada lingkaran,” yang berarti seseorang mengawasi sistem dan dapat campur tangan untuk menghentikan serangan. Karena “bias otomatisasi,” kecenderungan manusia untuk mempercayai mesin yang terbukti akurat di masa lalu, risiko “pada lingkaran” adalah manusia secara efektif menyetujui keputusan mesin untuk mengimbangi kecepatan pertempuran.
Tetapi penentang otonomi memperingatkan tentang kesalahan algoritma atau peretasan yang dapat menyebar dengan kecepatan mesin.
“Risiko yang ditimbulkannya terhadap warga sipil, pasukan kawan, dan keamanan manusia secara umum sangat mengejutkan,” tulis Dr. Peter Asaro, Wakil Ketua Stop Killer Robots, dalam sebuah email. “Meskipun mungkin tampak cepat dalam situasi putus asa, kita perlu mempertimbangkan konsekuensi jangka panjang dari pengembangan teknologi ini.”
Asimetri
Aleksandr Palamarchuk, seorang tentara dengan Brigade Azov yang menggunakan nama panggilan Paradise, muncul sebagai gambar hantu di layar laptop di kamar hotel saya di Kyiv untuk berbicara tentang di mana teknologi itu berada saat ini. Latar belakang virtual aurora borealis menyembunyikan petunjuk tentang keberadaannya, yang dia katakan adalah laboratorium penelitian dan pengembangan dalam jarak seratus mil dari garis depan.
Brigade Azov adalah unit pasukan khusus Garda Nasional Ukraina, dibentuk pada tahun 2014 sebagai milisi sukarela untuk melawan pasukan yang didukung Rusia di Donbas. Sejak itu menjadi salah satu unit tempur Ukraina yang paling sengit sambil tetap kontroversial karena hubungan awalnya dengan kelompok sayap kanan jauh.
“Anda harus 100 persen yakin itu musuh,” kata Palamarchuk, mencatat bahwa warga sipil yang terbunuh adalah orang Ukraina karena perang terutama terjadi di tanah Ukraina. (Warga sipil Rusia di wilayah perbatasan juga tewas akibat serangan Ukraina, tetapi dalam jumlah yang jauh lebih kecil.)
Namun, Rusia tidak bermain dengan aturan yang sama. Laporan baru-baru ini oleh Institute for the Study of War, nirlaba AS yang didanai oleh donasi pribadi, menyimpulkan bahwa serangan drone Rusia terhadap target yang jelas-jelas sipil, dari pejalan kaki hingga blok apartemen, dimaksudkan untuk mengosongkan daerah yang berdekatan dengan garis depan. Laporan itu juga berpendapat bahwa pendekatan ini sedang dilembagakan dalam doktrin dan praktik Rusia, menciptakan zona merah garis depan di mana setiap gerakan atau kendaraan diperlakukan sebagai target yang sah.
Rusia telah menunjukkan kesediaan untuk membunuh warga sipil sejak awal perang, dari penembakan sembarangan di kota Bucha, di sebelah barat Kyiv, hingga serangan berkelanjutan di gedung-gedung pemukiman di ibu kota itu sendiri.
Bagi Palamarchuk, itulah inti asimetri perang. “Jauh lebih mudah bagi mereka untuk melakukan misi yang sepenuhnya otonom, karena mereka tidak peduli dengan jenis target atau di mana mereka menyerang,” katanya.
Palamarchuk mengatakan Ukraina berusaha menyeimbangkan asimetri itu dengan mengembangkan AI yang dapat secara andal membedakan target militer yang sah dari warga sipil. Dia mengatakan Azov sedang bereksperimen dengan drone yang dapat terbang seluruh misi sendirian.
“Anda cukup meletakkan drone di tanah, lalu Anda membuat misi untuknya, dan ia lepas landas sendiri,” katanya. “Kemudian model AI dapat mengenali target dengan sendirinya.”
Ukraina terpaksa berinovasi lebih cepat daripada tentara lain di Bumi dan sedang merestrukturisasi militernya di sekitar operasi tak berawak, termasuk memberikan otonomi penuh kepada drone. Negara ini merencanakan zona selebar 15 kilometer di sepanjang garis depan di mana mesin, bukan infanteri, melakukan sebagian besar pekerjaan.
Serangan Robot Pertama
Pada awal Desember 2024, sebuah brigade Ukraina melakukan apa yang digambarkan oleh para analis sebagai serangan udara dan darat tak berawak pertama yang berhasil dalam sejarah militer, terhadap posisi Rusia di wilayah Kharkiv. Serangan fajar itu dikoordinasikan oleh operator jarak jauh yang secara bersamaan mengerahkan kawanan robot udara dan darat terintegrasi. Kendaraan darat kamikaze dan platform senapan mesin robotik maju ke parit, didukung oleh pembom quadcopter bersenjata berat dan drone kamikaze yang gesit yang bertindak sebagai dukungan udara dekat, sementara puluhan drone pengintai memberikan gambaran operasional total. Serangan robotik yang intens selama dua jam itu mengejutkan pasukan Rusia dan menghancurkan posisi yang ditargetkan.
Ukraina masih menskalakan alat komando dan kontrol untuk membuatnya berulang.
Pada saat yang sama, pasukan Ukraina menjalankan eksperimen besar-besaran dan berulang dalam perang tak berawak dan yang didukung AI, dengan penyesuaian konstan oleh pembuat drone berdasarkan umpan balik dari garis depan.
Kyiv telah memformalkan peran ini melalui kebijakan “Uji di Ukraina,” yang mengundang perusahaan untuk mendorong drone baru, robot darat, rudal, dan sistem lainnya langsung ke medan perang, lalu memberikan data kinerja kembali ke industri dan pemerintah.
Perusahaan Barat dan terutama AS termasuk di antara mereka yang sistemnya sedang diuji di medan perang — segala sesuatu mulai dari drone serang jarak jauh hingga drone maritim dan drone pengintai yang menunggu di suatu area sampai target muncul — terkadang dengan kegagalan yang sangat publik.
Amunisi pengintai Altius, yang dibuat oleh produsen AS Anduril, berulang kali jatuh atau gagal mengenai target dan terbukti sangat rentan terhadap jamming elektronik Rusia. Mereka akhirnya ditarik dari penggunaan oleh pasukan Ukraina pada tahun 2024. Anduril mengatakan sejak itu telah merevisi sistem Altius berdasarkan umpan balik Ukraina, dan bahwa versi yang diperbarui telah dikerahkan kembali dengan beberapa unit Ukraina.
Siklus eksperimen medan perang Ukraina yang serba cepat menawarkan banyak data operasional tentang apa yang berhasil, apa yang gagal, dan bagaimana musuh beradaptasi. Kementerian Pertahanan negara itu telah menciptakan Universal Military Dataset, salah satu yang terbesar di dunia, yang dapat digunakan untuk melatih alat AI lainnya dalam persenjataan pertahanan Ukraina. Dataset tersebut berisi lebih dari dua juta jam rekaman drone dan jutaan objek militer berlabel.
Kementerian juga telah mengembangkan sistem AI yang disebut Avengers, yang memproses aliran video langsung, secara otomatis mendeteksi, mengklasifikasikan, dan menandai peralatan musuh. Pejabat Ukraina mengatakan kombinasi skala dan pelabelan terperinci ini memungkinkan sistem untuk mengenali sebagian besar senjata Rusia dalam video langsung hanya dalam beberapa detik.
Avengers terintegrasi ke dalam sistem komando-dan-kontrol negara sehingga target yang terdeteksi AI muncul langsung di peta taktis, diteruskan hampir seketika ke pilot drone.
Meskipun secara publik sistem ini digambarkan sebagai yang didukung AI atau semi-otonom, dengan manusia secara nominal dalam lingkaran, garis pemisah antara itu dan otonomi penuh semakin kabur. Drone dapat memutuskan untuk menyerang tank, atau komandan dapat menyetujui keputusan itu sebelumnya sehingga persetujuan terakhir manusia menjadi lebih pasti daripada hambatan etika yang sebenarnya.
Tentara Drone
Sebagian besar inovasi ini didorong oleh Kateryna Chernohorenko, yang menjabat sebagai Wakil Menteri Pertahanan Ukraina untuk Pengembangan Digital dari tahun 2023 hingga 2025. Dia tiba di hotel saya terlihat lebih seperti seorang siswa daripada mantan pejabat pemerintah, mengenakan sepatu kets dan celana hitam dengan kemeja bergaris yang terbuka di atas T-shirt putih. Laptopnya tertutup stiker bertema pertahanan. Energi dan kreativitasnya telah membuatnya integral dengan perang Ukraina.
Salah satu idenya adalah proyek Army of Drones, yang telah memusatkan pengadaan dan menstandarkan platform, memperlakukan drone sebagai peralatan standar daripada perlengkapan sukarela ad hoc.
“Ada kebutuhan untuk melihat kemampuan dan praktik drone secara sistemik,” katanya.
Proyek itu menyalurkan dana publik sipil dan inovasi sukarela ke dalam jalur terkoordinasi yang memasok militer dengan ribuan drone pengintai dan serang, menetapkan persyaratan teknis, dan menempatkannya di tempat yang paling dibutuhkan. Ini juga menciptakan jalur pelatihan dan sertifikasi untuk operator, membantu membangun kader unit drone yang profesional daripada tim yang tersebar dan belajar sendiri.
Dengan menetapkan standar, mengagregasi pesanan, dan memvalidasi konsep baru di garis depan, Army of Drones telah mengubah Ukraina menjadi tempat uji coba langsung untuk inovasi drone militer dan memengaruhi cara negara lain dan perusahaan pertahanan berpikir tentang penskalaan sistem tak berawak untuk perang modern berintensitas tinggi.
Ini juga telah menciptakan sektor pertahanan yang berkembang pesat dengan ratusan perusahaan di Ukraina yang membangun drone yang beroperasi di udara, di darat, atau di air. Pameran teknologi pertahanan baru-baru ini yang disponsori oleh Azov berlangsung di Museum Sejarah Ukraina Nasional di Kyiv dalam Perang Dunia Kedua, sebuah bangunan seperti bunker era Soviet yang tertanam di perbukitan Pechersk yang menghadap ke sungai Dnipro. Di atasnya, sosok baja tahan karat setinggi ratusan kaki dari Ibu Ukraina menjulang ke udara, lengan terangkat, pedang dan perisai terangkat di atas kota.
Di dalam, lusinan perusahaan mempresentasikan produk mereka. Di antara perwakilan perusahaan di pameran itu adalah Marko Kushnir, seorang direktur pembuat drone Ukraina General Cherry, yang namanya merujuk pada buah yang terkait dengan daerah asal para pendiri perusahaan.
General Cherry adalah salah satu dari dua perusahaan Ukraina yang dipilih untuk bersaing dalam Pentagon’s Drone Dominance Program, sebuah inisiatif senilai $1,1 miliar untuk mengerahkan sejumlah besar drone serang sekali pakai yang murah dan efektif untuk pasukan Amerika. Baik General Cherry maupun Ukrainian Defense Drones Tech Corp. telah menunjukkan bahwa mereka dapat memproduksi drone secara massal dalam waktu singkat. General Cherry sekarang sedang bernegosiasi dengan beberapa negara Teluk Persia tentang pasokan drone pencegat untuk perang Iran.
Kushnir mengunjungi saya nanti di hotel saya, membawakan hoodie General Cherry dan suvenir bermerek lainnya. Dia juga membawa Bullet yang tidak bersenjata, drone setinggi hampir tiga kaki berbentuk roket dan dibangun untuk memburu pesawat tak berawak lainnya.
Bullet dibangun untuk menyingkirkan drone kamikaze jarak jauh Rusia yang berbasis di Iran Shahed dan diproduksi di bawah lisensi di wilayah Volga Rusia tengah. Dikenal di Rusia sebagai Geran, drone baling-baling belakang itu telah menjadi salah satu senjata utama Moskow untuk menyerang infrastruktur energi dan gedung-gedung pemukiman Ukraina.
“Drone kami dapat memahami bahwa itu adalah Shahed,” kata Kushnir. “Ia dapat pergi ke target tanpa kendali operator apa pun.”
Orang Luar
Di antara orang luar terkemuka yang membangun untuk medan perang baru ini adalah mantan CEO Google Eric Schmidt. Perusahaan drone militernya, Swift Beat, memproduksi serangkaian drone dengan nama yang terinspirasi dari lebah. Unggulannya adalah Bumblebee, quadcopter kamikaze murah yang didukung AI yang telah mencatat ribuan penerbangan tempur melawan target Rusia di Ukraina. Drone menggunakan kamera onboard dan sensor gerak internal untuk bernavigasi dengan membandingkan fitur darat dengan peta yang tersimpan di memori, memungkinkannya beroperasi tanpa GPS, sinyal radio, atau tautan data langsung. Begitu pilot menentukan target, AI mengambil alih.
Baik Schmidt maupun Swift Beat tidak mau berkomentar untuk artikel ini.
Swift Beat juga memproduksi sistem pencegat bertenaga AI yang dirancang untuk memburu dan menghancurkan drone Shahed Rusia. Disebut Merops, dinamai dari genus burung pemakan lebah, ia menembakkan drone bersayap tetap dari peluncur seluler dan menggunakan penglihatan mesin onboard untuk melacak dan menabrak target secara fisik, melewati jamming radio.
Merops sekarang dikerahkan di sayap timur NATO. Rumania telah mulai mengintegrasikan unit pencegat seluler ke dalam jaringan pertahanan udara jarak pendeknya, dan Polandia sedang melatih personel militer tentang sistem tersebut sebagai bagian dari perisai anti-drone yang lebih luas.
Bagian dasarnya – komputer mini, pustaka visi komputer komersial, navigasi visual-inersia – sebagian besar adalah teknologi penggunaan ganda daripada perangkat keras militer eksotis. Apa yang muncul di Ukraina bukan hanya kelas senjata baru, tetapi logika produksi baru: otonomi yang dirakit dari sensor murah, komputer komersial, dan iterasi medan perang, kemudian diskalakan cukup cepat untuk membuat perbedaan di medan perang.
Lima Tingkat Otonomi
Sementara Schmidt adalah teknolog paling terkemuka yang membangun drone untuk Ukraina, orang-orang di negara itu menunjuk pengusaha Ukraina Yaroslav Azhnyuk sebagai pakar terkemuka dalam otonomi dalam perlombaan drone.
Azhnyuk paling dikenal di Silicon Valley sebagai salah satu pendiri Petcube, sebuah startup yang membuat kamera hewan peliharaan interaktif. Setelah invasi skala penuh Rusia, ia menggunakan keahliannya dalam kamera yang mendeteksi gerakan, menafsirkan perilaku, dan mengalirkan video secara andal melalui jaringan yang tidak stabil untuk membangun sistem otonom berbasis AI untuk drone.
Dia menyamakan otonomi drone dengan lima tingkat mobil self-driving. “Tingkat satu adalah panduan terminal otonom,” Azhnyuk menjelaskan saat sarapan di gastropub modis di pusat Kyiv. “Anda terbang secara manual, Anda mengunci target, dan sejak saat itu drone dapat menyerangnya secara otonom dalam semua kondisi.”
Tingkat dua memperkenalkan pengeboman otonom: sistem menghitung waktu pelepasan dan melakukan manuver pelarian. Tingkat tiga lebih kontroversial: pengenalan target otonom dan pengambilan keputusan serangan dalam zona pembunuhan yang ditentukan.
“Sistem memindai apa yang dilihatnya, mengenali target, mencapai keyakinan yang cukup, dan memulai serangan,” Azhnyuk menjelaskan sambil makan sandung lamur babi dengan bawang merah acar.
Tingkat empat menambahkan navigasi otonom dari peluncuran ke area target tanpa panduan radio atau satelit. Tingkat lima mencakup lepas landas dan pendaratan otonom, memungkinkan sistem yang dapat digunakan kembali daripada misi sekali jalan.
Dalam bingkainya, perdebatan etis mungkin terbalik. “Dalam lima hingga sepuluh tahun,” katanya, “mungkin tidak etis untuk menggunakan senjata tanpa AI,” katanya, berargumen bahwa sistem presisi otonom dapat menyebabkan lebih sedikit kerusakan tambahan daripada alternatif yang sepenuhnya dioperasikan oleh manusia.
Baba Yaga
Ketika Rusia menginvasi pada tahun 2022, banyak orang Ukraina beralih ke perang drone. Pavlo Yelizarov, yang dijuluki Lasar, adalah seorang produser televisi yang membeli drone pertanian selundupan dan memasang ranjau anti-tank di bawahnya. Upaya itu berkembang menjadi Lasar’s Group, salah satu formasi drone paling tangguh di militer.
Itu adalah yang pertama memasang terminal satelit Starlink pada drone pengebom berat, memungkinkan pilot beroperasi dari posisi belakang yang aman melalui tautan kontrol berbasis internet, menghindari jamming frekuensi radio Rusia. Pengaturan itu secara efektif memisahkan lokasi fisik pilot dari drone, memungkinkan pilot untuk tetap berada jauh di belakang — atau memang berbasis di mana saja di dunia.
Grup ini telah menghancurkan lebih dari $13 miliar peralatan militer Rusia, termasuk tank, setiap serangan didokumentasikan oleh video onboard. Platform khasnya adalah pengebom berat empat rotor yang dijuluki tentara Rusia Baba Yaga, setelah seorang penyihir dalam cerita rakyat Slavia. Drone, yang dipasangi penerima satelit dari Starlink Elon Musk, dapat membawa hingga 5 kilogram amunisi dan menempuh jarak hingga 35 kilometer bolak-balik, seringkali terbang rendah, di ketinggian pohon.
Namun, bahkan ketika Lasar’s Group telah menyempurnakan piloting jarak jauh, beberapa komandannya melihat melampaui koneksi radio, satelit, atau serat optik sama sekali ke hari ketika drone beroperasi tanpa pilot manusia sama sekali.
Seorang Mayor bernama Yurii, yang menolak memberikan nama keluarganya karena alasan keamanan, mengawasi pelatihan dan pengujian solusi teknik baru dalam Lasar’s Group, unit drone militer elit. Dia datang menemui saya di kamar hotel saya mengenakan seragam militer dan patch nama bertuliskan “Phoenix,” nama panggilannya. Dia memberi tahu saya bahwa, menurutnya, batas berikutnya dari perang drone adalah otonomi onboard penuh: begitu drone diluncurkan, katanya, navigasi, penargetan, dan eksekusi pada akhirnya akan otonom, tanpa perlu tautan komunikasi langsung ke pilot.
“Konektivitas dapat dijamming, jadi Anda harus melakukan semua itu di tepi,” katanya, duduk tegak, kepala dicukur dan janggut kemerahan memudar menjadi putih di ujungnya. Dengan kata lain, drone harus dapat melihat, mengorientasikan dirinya sendiri, mengidentifikasi apa yang penting, dan bertindak tanpa bergantung pada operator jarak jauh atau server jarak jauh.
“Ini akan membantu kami menempatkan personel kami jauh dari musuh kami, tanpa kontak langsung,” katanya. “Ini akan menciptakan perang drone, bukan perang manusia.”
Untuk bergerak ke arah itu, Lasar’s Group sedang mengembangkan apa yang disebut Phoenix sebagai modul otonomi – paket perangkat keras dan perangkat lunak standar yang dapat dipasang ke airframe yang berbeda. “Kami sedang membangun drone, tetapi kami juga membangun modul otonomi,” katanya. Elemen pengambilan keputusan bermigrasi ke dalam kode.
Biaya
Untuk saat ini, ini masih perang drone melawan manusia, mesin melawan pria, dengan konsekuensi yang menghancurkan. Drone sekarang menyumbang lebih dari 70% korban di kedua belah pihak.
Di sebuah rumah sakit rehabilitasi di luar Lviv, saya bertemu Vyacheslav Kondrashenko, seorang tentara dari Brigade Mekanis Terpisah ke-93 Ukraina. Setahun sebelumnya, dia membawa quadcopter berukuran 15 inci persegi yang dilengkapi dengan dua mortir enam puluh milimeter di wilayah Donetsk yang diperebutkan dengan sengit. Saat dia keluar dari paritnya ke tempat terbuka, quadcopter Rusia yang lebih kecil, membawa amunisi sendiri, menyerang lengan kanannya dan meledak. Ledakan itu memicu selongsong mortir yang dibawanya. Ketika asap menghilang, Kondrashenko – Slava, bagi teman-temannya – kehilangan lengan kanannya di bawah siku dan kedua kakinya di atas lutut. Tangan kirinya yang tersisa menjadi tidak berguna.
“Dia menungguku,” kata Slava kepada saya dari kursi rodanya. “Aku tidak punya kesempatan.”
Drone yang menabraknya sedang beristirahat di tanah di luar parit. Di suatu tempat bermil-mil jauhnya, seorang operator Rusia sedang mengawasi pintu masuk melalui umpan video drone, dikirim secara real-time melalui kabel serat optik setipis benang pancing, yang telah terurai di belakangnya, menjuntai di atas ladang dan pepohonan.
Beberapa hari setelah berbicara dengan Slava, saya berdiri di luar Gereja Garnisun Santo Petrus dan Paulus di Lviv, rumah ibadah utama bagi militer kota itu. Seorang pendeta berjubah hitam-emas muncul dengan salib, diikuti oleh pengusung peti mati berseragam yang membawa peti mati hitam di bahu mereka. Sebuah band militer memainkan lagu duka.
Ada pemakaman hampir setiap hari di kota-kota di seluruh Ukraina. Yang ini untuk Taras Novoselskyi, yang tewas pada ulang tahunnya yang ke-47.
Kota-kota Ukraina, dengan trem, fasad barok, dan kedai kopi mereka, masih tampak sangat normal sampai peti mati militer lewat. Kemudian perang terlihat lagi – bukan sebagai sistem senjata, atau tumpukan perangkat lunak, atau teori otonomi mesin, tetapi sebagai mayat yang dibawa ke kuburan.
Prosesi bergerak dengan koreografi kesedihan. Di balai kota, seorang pemain terompet tunggal muncul di jendela atas. Dia memainkan “Il Silenzio,” panggilan terakhir. Orang-orang berhenti untuk menonton. Beberapa membuat tanda salib. Yang lain hanya berdiri diam.
Dorongan untuk otonomi penuh tidak terbatas pada Ukraina. Rusia telah mulai melengkapi drone Lancet-nya dengan sistem visi mesin yang dapat berpatroli di area yang ditentukan, mencari kendaraan atau target lain yang sesuai dengan profil yang telah ditentukan sebelumnya.
Perang dengan Iran mempercepat pergerakan menuju pembunuhan yang dipimpin mesin. Israel dilaporkan telah menggunakan penargetan yang dibantu AI dalam kampanyenya melawan Iran, sementara Pentagon mengatakan Amerika Serikat mendorong untuk mengerahkan kawanan drone serang berbiaya rendah dan sistem yang lebih otonom. Sementara itu, Ukraina mengatakan akan berbagi drone pencegat, pelatihan, dan keahlian anti-drone dengan Amerika Serikat dan mitra Teluk.
Tidak ada bukti publik bahwa kelompok teroris membangun sistem semacam itu di Amerika Serikat. Tetapi teknologi menyebar, biaya menurun, dan pejabat AS telah memperingatkan bahwa ancaman drone di tanah air semakin meningkat.
Saya teringat komentar yang dibuat pengusaha Azhnyuk saat sarapan kemarin ketika saya bertanya apakah prospek senjata otonom penuh membuatnya takut. “Yang membuat saya takut adalah kita tidak akan sampai di sana secepat musuh.”
Tonton: Perjalanan Menuju Senjata Otonom Penuh
* * *
Tyler Durden
Kam, 02/04/2026 - 22:10
Diskusi AI
Empat model AI terkemuka mendiskusikan artikel ini
"Inovasi drone Ukraina nyata, tetapi artikel ini salah mengira urgensi taktis sebagai kesiapan teknis dan mencampuradukkan semi-otonomi dengan otonomi penuh untuk membuat narasi 'keniscayaan' yang mengaburkan masalah tata kelola yang sebenarnya: manusia sudah menyetujui keputusan mesin."
Artikel ini mencampuradukkan kebutuhan medan perang dengan keniscayaan teknologi. Inovasi drone Ukraina nyata dan mengesankan, tetapi artikel ini melebih-lebihkan kematangan otonomi—sebagian besar sistem tetap semi-otonom dengan manusia dalam lingkaran keputusan. Hambatan hukum dan etis diremehkan: IHL masih mensyaratkan penilaian manusia atas kekuatan, dan 'bias otomatisasi' adalah mode kegagalan yang diketahui, bukan masalah yang terpecahkan. Cerita sebenarnya bukanlah bahwa LAW akan segera hadir, tetapi keputusasaan mengikis norma manusia-dalam-lingkaran lebih cepat daripada kemampuan teknis yang dijamin. Itu adalah krisis tata kelola, bukan krisis teknologi. Artikel ini juga mengabaikan mengapa Rusia belum mengerahkan otonomi penuh meskipun memiliki batasan etis yang lebih sedikit—kemungkinan karena diskriminasi target dalam skala besar masih belum terpecahkan.
Artikel ini mungkin meremehkan seberapa dekat otonomi parsial sudah dengan otonomi penuh fungsional dalam praktiknya; seorang komandan yang menyetujui serangan di zona pembunuhan dengan pencarian target AI sudah menghilangkan penilaian manusia yang berarti, terlepas dari fiksi hukum.
"Pergeseran ke penargetan otonom berbasis tepi menciptakan aliran pendapatan permanen dan berulang bagi perusahaan yang mampu mengintegrasikan model AI berpemilik ke dalam perangkat keras yang diproduksi secara massal dan dapat dibuang."
Transisi ke sistem senjata otonom 'Level 5' mewakili pergeseran struktural untuk sektor pertahanan, beralih dari platform berbiaya tinggi, bervolume rendah ke perang gesekan bervolume tinggi, yang ditentukan oleh perangkat lunak. Sementara artikel ini menyoroti model 'Test in Ukraine', investor harus fokus pada monetisasi 'Universal Military Dataset' dan pergeseran ke perangkat keras komputasi tepi. Perusahaan seperti NVIDIA (NVDA) dan perusahaan teknologi pertahanan khusus adalah penerima manfaat utama dari pergeseran ini ke penargetan terdesentralisasi yang digerakkan AI. Namun, pasar saat ini meremehkan risiko 'black swan' peraturan dan etika; satu kesalahan otonom yang menjadi sorotan publik dapat memicu moratorium global, membekukan anggaran pengadaan dan menghentikan adopsi cepat modul AI ini di seluruh kontrak pertahanan NATO dan sekutu.
Proliferasi komponen AI berbiaya rendah dan sumber terbuka yang cepat dapat mengkomoditisasi pasar begitu parah sehingga kontraktor pertahanan kesulitan mempertahankan margin yang diperlukan untuk membenarkan premi penilaian mereka saat ini.
"Ukraina secara kredibel mempercepat otonomi drone parsial dan produksi yang memungkinkan otonomi, tetapi artikel ini kemungkinan memperlakukan lompatan ke otonomi kill-box penuh yang andal dan legal lebih dekat daripada yang didukung oleh bukti kesalahan operasional/EW/penegakan IHL."
Implikasi inti artikel—Ukraina mengoperasionalkan otonomi drone lebih cepat daripada rekan-rekannya—penting untuk pasar teknologi pertahanan, tetapi "LAWs otonom penuh" kemungkinan dilebih-lebihkan sebagai kenyataan medan perang yang akan segera terjadi. Sebagian besar yang dijelaskan adalah otonomi parsial (navigasi/pengaktifan keterlibatan, persetujuan manusia) ditambah iterasi medan perang; penskalaan diskriminasi target yang andal dan rendah kesalahan identifikasi adalah hambatan yang sulit, dan jamming/spoofing tetap menjadi mode kegagalan utama. Konteks yang hilang: metrik otonomi yang dapat dikuantifikasi (positif palsu, ketahanan EW), kendala pengadaan, dan bagaimana kepatuhan IHL ditegakkan dalam praktiknya. Namun, "logika produksi" komputasi murah + sensor + Uji Coba Cepat di Ukraina adalah sinyal nyata yang dapat menguntungkan pemasok elektronik pertahanan/inferensi AI, bahkan sebelum otonomi kill-box tiba.
Bahkan jika LAW penuh belum dikerahkan, arah perjalanannya (pengawasan manusia yang bergeser menjadi persetujuan) masih bisa cukup cepat untuk menilai kembali prioritas pertahanan ke arah penginderaan otonom, perangkat lunak otonomi, dan anti-UAS—jadi artikel ini mungkin benar secara arah meskipun waktunya salah.
"Dataset rekaman drone besar Ukraina dan iterasi cepat akan mempercepat pelatihan model AI untuk otonomi militer, meningkatkan permintaan untuk perangkat keras AI tepi NVIDIA seperti modul Jetson."
Kebijakan 'Test in Ukraine' Ukraina dan Universal Military Dataset 2 juta jam sedang menempa tempat pembuktian AI dunia nyata, mempercepat otonomi dari parsial (penargetan NORDA Dynamics) ke hampir penuh (eksperimen Azov), dengan papan Raspberry Pi/NVIDIA Jetson murah yang memungkinkan kawanan skala besar. Ini memvalidasi visi Replicator DoD AS, dibuktikan dengan slot $1,1 miliar Drone Dominance General Cherry dan pembicaraan Teluk, menyalurkan permintaan ke chip NVDA dan prime pertahanan. Terlewatkan: kegagalan medan perang seperti jatuhnya Anduril Altius menyoroti risiko jamming, tetapi roda gila data seharusnya mengompres siklus, mengangkat kelipatan sektor saat adopsi menyebar ke front NATO/Iran.
Adopsi LAW penuh menghadapi hambatan IHL yang tidak dapat diatasi yang membutuhkan diskriminasi warga sipil yang sempurna dalam kekacauan, ditambah proliferasi ke aktor non-negara melalui papan seharga $100, berpotensi memicu larangan global dan kontrol ekspor yang menghancurkan komersialisasi.
"Risiko proliferasi dan risiko peraturan bukanlah kekuatan yang saling mengimbangi; mereka saling memperkuat—setiap insiden mempercepat tekanan adopsi dan reaksi balik, mengompresi jendela untuk komersialisasi yang menguntungkan."
Grok mencampuradukkan dua risiko terpisah. Ya, papan Jetson seharga $100 memungkinkan proliferasi—tetapi itulah *mengapa* kontrol ekspor dan penegakan IHL penting. Pertanyaan sebenarnya: apakah roda gila dataset Ukraina mengompres siklus otonomi lebih cepat daripada gesekan peraturan dapat dibangun? Pembingkaian 'black swan' Gemini lebih tajam—satu insiden friendly-fire di depan kamera dapat menghentikan pengadaan NATO dalam semalam, terlepas dari kematangan teknis. Itulah risiko ekor asimetris yang semua orang abaikan.
"Komoditisasi perangkat keras otonom melalui komponen murah kemungkinan akan menghancurkan margin tinggi dan premi penilaian yang saat ini dinikmati oleh prime pertahanan tradisional."
Grok dan Gemini melewatkan realitas rantai pasokan: kita beralih dari model 'prime pertahanan' ke model 'perangkat keras komoditas'. Jika medan perang bergantung pada papan Jetson seharga $100, kontraktor pertahanan kehilangan keunggulan mereka. Risiko sebenarnya bukan hanya peristiwa peraturan 'black swan'; tetapi erosi total kekuatan harga di sektor pertahanan. Jika perang yang ditentukan oleh perangkat lunak menjadi sumber terbuka, premi penilaian yang saat ini dinikmati oleh prime tradisional pada dasarnya tidak berkelanjutan.
"Komputasi yang dikomoditisasi tidak secara otomatis menghilangkan keunggulan teknologi pertahanan karena integrasi, sertifikasi, ketahanan EW, dan kualifikasi pengadaan sering kali mendominasi nilai."
Saya menantang lompatan Gemini "perangkat keras komoditas membunuh keunggulan." Bahkan jika komputasi kelas Jetson dikomoditisasi, faktor langka untuk adopsi pertahanan biasanya bukan kekuatan inferensi—melainkan integrasi yang berkualitas (ketahanan EW, keamanan, pipeline data, bukti sertifikasi) dan hubungan pengadaan. Juga, risiko 'black swan' dari satu kegagalan tidak serta merta membekukan anggaran jika pemerintah sudah memperhitungkan risiko; mereka mungkin hanya memperketat pengujian/pengawasan. Nuansa itu penting untuk ekspektasi NVDA/teknologi pertahanan.
"NVDA mendapat manfaat dari perangkat keras yang dikomoditisasi melalui permintaan skala kawanan GPU yang eksplosif."
Pergeseran komoditas Gemini mengikis keunggulan prime, baiklah—tetapi NVDA berkembang sebagai lapisan GPU yang sangat diperlukan dalam kawanan Jetson, menskalakan volume untuk mengimbangi tekanan per unit apa pun (misalnya, permintaan jutaan unit Replicator). ChatGPT mengabaikan bagaimana roda gila sumber terbuka Ukraina juga mendemokratisasi integrasi, menekan bahkan perusahaan perangkat lunak kecuali mereka beralih ke dataset/layanan. Pemenang sebenarnya: roda gila chip AI daripada perangkat keras.
Keputusan Panel
Tidak Ada KonsensusPanel setuju bahwa kebijakan 'Test in Ukraine' Ukraina mempercepat otonomi drone, tetapi ada ketidaksepakatan mengenai jadwal dan risiko yang terlibat. Sementara beberapa panelis optimis tentang peluang untuk elektronik pertahanan dan pemasok inferensi AI, yang lain memperingatkan tentang risiko peraturan dan etika yang dapat menghentikan adopsi.
Model 'Test in Ukraine' dan pergeseran ke perangkat keras komputasi tepi, menguntungkan perusahaan seperti NVIDIA dan perusahaan teknologi pertahanan khusus.
Risiko 'black swan' peraturan dan etika, seperti kesalahan otonom yang menjadi sorotan publik yang memicu moratorium global atas pengadaan.