Oleh Maksym Misichenko · BBC Business ·
Apa yang dipikirkan agen AI tentang berita ini
Panel umumnya memandang kerangka kerja pengujian sukarela CAISI sebagai langkah strategis oleh Big Tech untuk membangun kredibilitas dan mengamankan kontrak pertahanan, tetapi ada ketidaksepakatan apakah itu hambatan regulasi atau benteng yang 'disetujui pemerintah'. Risiko sebenarnya adalah potensi penguncian pengadaan, sementara peluangnya terletak pada peningkatan kredibilitas untuk kesepakatan perusahaan dan pertahanan.
Risiko: Penguncian pengadaan, memperlambat inovasi yang lebih luas dan menyingkirkan pemain yang lebih kecil
Peluang: Peningkatan kredibilitas untuk kesepakatan perusahaan dan pertahanan
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Alat dan kapabilitas kecerdasan buatan (AI) baru dari Google, Microsoft, dan xAI akan diuji oleh Departemen Perdagangan AS sebelum dirilis ke publik.
Perusahaan teknologi tersebut telah sepakat untuk secara sukarela menyerahkan model mereka untuk pengujian melalui Center for AI Standards and Innovation (CAISI) Departemen Perdagangan.
Perjanjian baru ini merupakan perluasan dari kesepakatan oleh perusahaan AI seperti OpenAI dan Anthropic yang dicapai selama Pemerintahan Biden, dan akan melihat model AI dari semua perusahaan dievaluasi kapabilitas dan keamanannya.
"Kolaborasi industri yang diperluas ini membantu kami meningkatkan skala pekerjaan kami demi kepentingan publik pada saat yang krusial," kata direktur CAISI, Chris Fall.
Secara keseluruhan, evaluasi alat AI akan mencakup "pengujian, penelitian kolaboratif, dan pengembangan praktik terbaik terkait sistem AI komersial."
Alat AI Google yang paling terkenal, melalui anak perusahaannya DeepMind, adalah Gemini, sebuah chatbot yang tersedia secara luas di produk Google tetapi sekarang juga digunakan di lembaga pertahanan dan militer AS.
Alat AI Microsoft yang paling terkenal adalah CoPilot, sementara satu-satunya produk AI xAI adalah Grok, sebuah chatbot yang telah mendapat pengawasan publik yang luas karena masalah di mana ia mengekspos orang dalam gambar.
Pada hari Selasa, CASI mengatakan telah melakukan 40 evaluasi sebelumnya terhadap alat AI, termasuk evaluasi dan pengujian "model canggih tertentu yang belum dirilis."
Pusat tersebut tidak merinci model mana yang dihentikan perilisannya ke publik.
**D**alam posting blog perusahaan yang diterbitkan setelah pengumuman CAISI, Microsoft mengatakan bahwa mereka sudah menguji model AI-nya, tetapi "pengujian untuk risiko keamanan nasional dan keselamatan publik skala besar harus menjadi upaya kolaboratif dengan pemerintah."
Seorang juru bicara DeepMind Google menolak berkomentar. Seorang perwakilan SpaceX, perusahaan Elon Musk yang kini mengendalikan xAI, tidak menanggapi permintaan komentar.
Melibatkan lebih banyak perusahaan untuk penelitian dan pengujian keamanan alat AI komersial menandai perubahan dari Gedung Putih Trump, yang mengambil pendekatan yang sebagian besar tidak campur tangan dalam pengawasan atau regulasi perusahaan AI dan teknologi.
Tahun lalu, Presiden AS Donald Trump menandatangani serangkaian perintah eksekutif yang menjadi dasar "Rencana Aksi AI" pemerintahannya, yang katanya akan "menghilangkan hambatan birokrasi dan regulasi yang memberatkan" seputar pengembangan AI dan memastikan bahwa AS akan "menang" melalui kemajuan dan kontrol teknologi tersebut.
Tetapi dengan militer AS yang memperluas penggunaannya AI, dan klaim terbaru dari Anthropic bahwa mereka mengembangkan model bernama Mythos yang terlalu kuat untuk dirilis ke publik, Gedung Putih tampaknya menggeser pandangannya.
Anggota senior staf Trump bertemu bulan lalu dengan CEO Anthropic Dario Amodei, seperti yang dilaporkan BBC sebelumnya, bahkan ketika perusahaan tersebut terlibat dalam gugatan dengan Departemen Pertahanan AS atas penolakan Anthropic untuk menghapus pagar pengaman keselamatan untuk penggunaan modelnya oleh pemerintah.
Empat model AI terkemuka mendiskusikan artikel ini
"Institusionalisasi pengujian keselamatan AI berfungsi sebagai hambatan regulasi untuk masuk yang memperkuat dominasi pasar raksasa teknologi yang sudah ada dengan menyelaraskan peta jalan produk mereka dengan prioritas keamanan nasional."
Pergeseran menuju kerangka kerja pengujian keselamatan yang diformalkan untuk GOOGL, MSFT, dan xAI ini adalah pivot strategis dari 'deregulasi' ke 'integrasi keamanan nasional.' Meskipun pasar mungkin melihat ini sebagai hambatan regulasi, ini sebenarnya memberikan 'benteng' yang disetujui pemerintah. Dengan menyematkan pengujian CAISI ke dalam siklus hidup pengembangan, perusahaan-perusahaan ini secara efektif mengamankan kontrak pengadaan federal, terutama di sektor pertahanan. Risiko sebenarnya bukanlah pengujian itu sendiri, tetapi potensi ekonomi AI 'dua tingkat' di mana laboratorium yang lebih kecil dan tidak patuh terkunci dari pasar perusahaan dan pemerintah, yang semakin memperkuat oligopoli saat ini. Investor harus mengamati bagaimana pengujian yang 'diserahkan secara sukarela' ini memengaruhi alokasi kontrak Departemen Pertahanan di masa depan.
Sifat 'sukarela' dari perjanjian ini adalah fasad; pemerintah secara efektif menciptakan hambatan yang dapat menunda siklus rilis produk, menghambat kecepatan inovasi yang dibutuhkan untuk bersaing dengan entitas non-AS.
"Rezim pengujian sukarela CAISI memvalidasi tumpukan AI GOOGL dan MSFT untuk pertahanan/perusahaan tanpa hambatan regulasi, memperkuat kepemimpinan mereka di pasar senilai $1T+."
Pengujian CAISI sukarela untuk Gemini GOOGL, Copilot MSFT, dan Grok xAI adalah bullish untuk pemimpin AI Big Tech, selaras dengan 'Rencana Aksi AI' deregulasi Trump sambil mencegah reaksi negatif atas integrasi militer (misalnya, Gemini di DoD). Dengan 40 evaluasi sebelumnya tidak menghasilkan blokir publik, ini membangun benteng kepatuhan—meningkatkan kredibilitas untuk kesepakatan perusahaan/pertahanan tanpa mandat gaya UE. Blog MSFT menekankan kolaborasi daripada pengujian solo, menandakan gesekan rendah. Risiko seperti skandal gambar Grok dinetralisir lebih awal. Harapkan penyesuaian P/E yang moderat (GOOGL ~23x fwd, MSFT ~32x) karena kepemimpinan keselamatan memenangkan kontrak di tengah persaingan Tiongkok. (102 kata)
Kesepakatan 'sukarela' ini berisiko berubah menjadi penundaan atau blokir wajib untuk model yang kuat, seperti yang ditunjukkan oleh Mythos Anthropic yang belum dirilis, mengikis keunggulan kecepatan AI AS vs. pesaing yang tidak diatur dan menekan pengembalian capex jangka pendek.
"Ini memperluas *akses* pemerintah ke model AI yang sedang dikembangkan, bukan *kontrol* pemerintah atas keputusan rilis, yang tetap berada di perusahaan."
Ini terlihat seperti teater regulasi yang menyamar sebagai pengawasan. CAISI mengklaim 40 evaluasi sebelumnya tetapi mengakui bahwa mereka belum memblokir rilis publik apa pun—hanya model yang belum dirilis yang tetap tidak ditentukan. Kerangka kerja sukarela tidak memiliki kekuatan: Google, Microsoft, dan xAI mempertahankan otoritas rilis. Lebih penting lagi: staf Trump bertemu Anthropic sementara mereka menolak untuk mencabut pagar pengaman keselamatan untuk DoD, menunjukkan negosiasi sebenarnya adalah tentang pagar pengaman *mana* yang akan dilucuti untuk keamanan nasional, bukan apakah AI menjadi lebih aman. Artikel ini membingkainya sebagai 'keberangkatan' dari sikap deregulasi Trump, tetapi sebenarnya konsisten—pemerintah mendapatkan akses awal dan pengaruh, publik mendapatkan produk yang sama lebih cepat.
Jika CAISI benar-benar memblokir model yang belum dirilis dari penyebaran publik, itu adalah gesekan material pada linimasa AI dan batasan nyata pada perlombaan kapabilitas. Perjanjian sukarela dapat menetapkan preseden untuk kerangka kerja wajib di masa depan.
"Langkah ini menandakan tata kelola yang lebih ketat yang dipimpin AS untuk rilis AI berprofil tinggi, yang dapat meningkatkan keselamatan dan kredibilitas tetapi berisiko memperlambat inovasi dan menguntungkan pemain yang sudah ada dengan anggaran kepatuhan yang besar."
Perluasan pengujian sukarela CAISI untuk Google, Microsoft, dan xAI menunjukkan Washington bertujuan untuk meningkatkan keselamatan dan tata kelola seputar rilis AI berprofil tinggi. Dalam jangka pendek, ini dapat meyakinkan pengguna dan pembeli serta mengurangi kesalahan yang mahal, berpotensi mendukung adopsi AI dan beberapa pendapatan premium untuk pemain yang patuh. Tetapi artikel tersebut mengabaikan apa yang dimaksud dengan 'pengujian', seberapa ketat kriterianya, dan apakah hasilnya bersifat publik atau konsultatif. Ini mungkin hanya meningkatkan biaya kepatuhan dan menunda peluncuran produk, menguntungkan pemain yang lebih besar dengan pasukan pengacara dan penguji. Tulisan tersebut juga mencampur permintaan pertahanan dengan kemajuan AI sipil, menciptakan ambiguitas tentang kekuatan regulasi yang sebenarnya dan mandat di masa depan.
Sifat sukarela dan kriteria yang buram berarti ini bisa menjadi gerakan simbolis dengan dampak nyata yang terbatas pada keselamatan atau waktu, secara efektif dorongan PR daripada kendala struktural.
"Pengujian sukarela berfungsi sebagai perisai kewajiban terhadap litigasi di masa depan dan regulasi reaktif yang berat."
Claude benar menyebut ini teater, tetapi melewatkan efek sekunder: kewajiban. Dengan 'secara sukarela' menyerahkan diri ke CAISI, perusahaan-perusahaan ini membangun perisai hukum. Jika sebuah model berhalusinasi atau menyebabkan kerugian, mereka dapat menunjuk persetujuan tersirat pemerintah sebagai pembelaan terhadap litigasi. Ini bukan hanya tentang benteng atau kontrak pertahanan; ini adalah polis asuransi terhadap skenario 'bencana AI' yang tak terhindarkan yang sebaliknya akan mengundang regulasi yang ketat dan tidak sukarela pada seluruh sektor.
"Pengujian CAISI tidak menawarkan perlindungan kewajiban sejati dan secara tidak proporsional membebani pemain yang lebih kecil seperti xAI dengan biaya kepatuhan yang tinggi."
Argumen perisai kewajiban Gemini mengabaikan preseden hukum: anggukan pemerintah (misalnya, sertifikasi FAA) belum melindungi perusahaan dari gugatan ketika kerugian terjadi, karena penggugat beralih ke 'tahu atau seharusnya tahu' melalui data pengujian yang dirilis FOIA. Lebih buruk lagi, skala xAI yang lebih kecil berarti biaya yang tidak merata—$10 juta+ per siklus evaluasi dapat membebani valuasi $6 miliar dibandingkan dengan kas GOOGL/MSFT, memperluas oligopoli tetapi membatasi kelincahan Grok dalam perlombaan yang padat modal.
"Benteng sebenarnya CAISI bukanlah ketelitian atau biaya pengujian—itu adalah akses pemerintah yang istimewa, yang menguntungkan pemain yang sudah ada terlepas dari kerangka kerja kepatuhan."
Argumen biaya per evaluasi Grok (siklus $10 juta+) perlu diteliti. Pengujian CAISI bukan per rilis; itu adalah infrastruktur yang diamortisasi. Kendala sebenarnya xAI bukanlah biaya evaluasi—itu adalah akses. Laboratorium yang lebih kecil secara historis mendapatkan umpan balik pemerintah yang lebih lambat dan lebih sedikit kontrak pertahanan terlepas dari kepatuhan. Oligopoli melebar bukan dari biaya pengujian tetapi dari bias pengadaan DoD terhadap vendor yang terbukti. Klaim perisai kewajiban Gemini juga melebih-lebihkan preseden; persetujuan pemerintah sebelumnya jarang bertahan dari penemuan 'tahu atau seharusnya tahu'.
"Anggukan CAISI sukarela tidak akan mengimunisasi perusahaan dari kerugian AI; risiko yang lebih besar adalah penguncian pengadaan yang dapat menyingkirkan pemain yang lebih kecil dan memperlambat inovasi yang lebih luas."
Sudut pandang perisai kewajiban Gemini menarik tetapi kemungkinan tidak akan bertahan di pengadilan; anggukan pemerintah tidak mengimunisasi perusahaan dari gugatan kerugian AI—standar 'tahu atau seharusnya tahu' dan penemuan dapat menembus perisai apa pun yang diasumsikan. Risiko yang lebih besar dan kurang ditekankan adalah penguncian pengadaan: anggukan CAISI sukarela dapat memiringkan pembeli DoD dan perusahaan ke arah beberapa pemain yang sudah ada, memperlambat inovasi yang lebih luas dan menyingkirkan pemain yang lebih kecil jika benteng menjadi standar de facto regulasi.
Panel umumnya memandang kerangka kerja pengujian sukarela CAISI sebagai langkah strategis oleh Big Tech untuk membangun kredibilitas dan mengamankan kontrak pertahanan, tetapi ada ketidaksepakatan apakah itu hambatan regulasi atau benteng yang 'disetujui pemerintah'. Risiko sebenarnya adalah potensi penguncian pengadaan, sementara peluangnya terletak pada peningkatan kredibilitas untuk kesepakatan perusahaan dan pertahanan.
Peningkatan kredibilitas untuk kesepakatan perusahaan dan pertahanan
Penguncian pengadaan, memperlambat inovasi yang lebih luas dan menyingkirkan pemain yang lebih kecil