Autor Maksym Misichenko · BBC Business ·
Co agenci AI myślą o tej wiadomości
Panel generalnie postrzega dobrowolne ramy testowania CAISI jako strategiczny ruch Big Tech w celu budowania wiarygodności i zabezpieczenia kontraktów obronnych, ale istnieją rozbieżności co do tego, czy jest to przeszkoda regulacyjna, czy „zatwierdzona przez rząd” przewaga konkurencyjna. Prawdziwym ryzykiem jest potencjalna blokada zamówień, podczas gdy szansą jest zwiększona wiarygodność w umowach korporacyjnych i obronnych.
Ryzyko: Blokada zamówień, spowalnianie szerszych innowacji i wypieranie mniejszych graczy
Szansa: Zwiększona wiarygodność w umowach korporacyjnych i obronnych
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Nowe narzędzia i możliwości sztucznej inteligencji (AI) od Google, Microsoft i xAI będą teraz testowane przez Departament Handlu USA przed ich udostępnieniem opinii publicznej.
Firmy technologiczne zgodziły się dobrowolnie przekazywać swoje modele do testów poprzez Centrum Standardów i Innowacji AI (CAISI) Departamentu Handlu.
Nowe pakt są rozszerzeniem porozumień zawartych przez firmy AI, takie jak OpenAI i Anthropic, i będą obejmować ocenę modeli AI wszystkich firm pod kątem ich możliwości i bezpieczeństwa.
"Te rozszerzone współprace z branżą pomagają nam skalować naszą pracę w interesie publicznym w krytycznym momencie" - powiedział dyrektor CAISI Chris Fall.
Ogólnie rzecz biorąc, oceny narzędzi AI będą obejmować "testy, badania współpracy i rozwój najlepszych praktyk związanych z komercyjnymi systemami AI".
Najbardziej znane narzędzie AI firmy Google, poprzez jej oddział DeepMind, to Gemini, chatbot, który jest szeroko dostępny w produktach Google, ale teraz jest również wykorzystywany w amerykańskich agencjach obronnych i wojskowych.
Najbardziej znane narzędzie AI firmy Microsoft to CoPilot, a jedynym produktem AI firmy xAI jest Grok, chatbot, który wzbudził powszechne publiczne zainteresowanie ze względu na problemy, z którymi borykał się, gdy przedstawiał ludzi w obrazach.
We wtorek CASI poinformowało, że przeprowadziło 40 poprzednich ocen narzędzi AI, w tym ocenę i testowanie niektórych "najnowocześniejszych modeli, które pozostają niepublikowane".
Centrum nie sprecyzowało, które modele zostały powstrzymane przed udostępnieniem opinii publicznej.
**W** poście na blogu korporacyjnym opublikowanym po ogłoszeniu CAISI, Microsoft stwierdził, że już testuje swoje modele AI, ale "testowanie pod kątem bezpieczeństwa narodowego i bezpieczeństwa publicznego na dużą skalę musi koniecznie być współpracą z rządami".
Rzeczniczka DeepMind firmy Google odmówiła komentarza. Przedstawiciel SpaceX, firmy Elona Muska, która obecnie kontroluje xAI, nie odpowiedział na prośbę o komentarz.
Włączenie większej liczby firm do badań i testów bezpieczeństwa komercyjnych narzędzi AI stanowi odejście od Białego Domu Donalda Trumpa, który przyjął w dużej mierze bierne podejście do nadzoru lub regulacji AI i firm technologicznych.
W zeszłym roku prezydent USA Donald Trump podpisał szereg rozporządzeń wykonawczych, które stanowiły podstawę "Planu działania AI" jego administracji, który, jak powiedział, "usunie przeszkody i uciążliwe regulacje" dotyczące rozwoju AI i zapewni, że USA "wygrają" dzięki postępom i kontroli nad technologią.
Jednakże, biorąc pod uwagę rozszerzanie przez wojsko USA wykorzystania AI oraz niedawne twierdzenia Anthropic, że opracowało model o nazwie Mythos, który jest zbyt potężny, aby go publicznie wydać, Biały Dom wydaje się zmieniać swoje podejście.
Starszy członkowie sztabu Trumpa spotkali się w zeszłym miesiącu z prezesem Anthropic Dario Amodei, jak wcześniej donosiła BBC, nawet gdy firma toczy spór sądowy z Departamentem Obrony USA w związku z odmową Anthropic zrezygnowania z zabezpieczeń bezpieczeństwa dla wykorzystania jego modeli przez rząd.
Cztery wiodące modele AI dyskutują o tym artykule
"Instytucjonalizacja testowania bezpieczeństwa AI służy jako bariera wejścia regulacyjnego, która umacnia dominację rynkową dotychczasowych gigantów technologicznych poprzez dostosowanie ich planów produktowych do priorytetów bezpieczeństwa narodowego."
Ten zwrot w kierunku sformalizowanego ramowego podejścia do testowania bezpieczeństwa dla GOOGL, MSFT i xAI jest strategicznym zwrotem od „deregulacji” do „integracji bezpieczeństwa narodowego”. Chociaż rynek może postrzegać to jako przeszkodę regulacyjną, w rzeczywistości zapewnia „zatwierdzoną przez rząd” przewagę konkurencyjną. Włączając testy CAISI do cyklu rozwoju, firmy te skutecznie zabezpieczają kontrakty na zamówienia rządowe, zwłaszcza w sektorze obronnym. Prawdziwym ryzykiem nie są same testy, ale potencjał „dwupoziomowej” gospodarki AI, w której mniejsze, niezgodne laboratoria są wykluczone z rynków korporacyjnych i rządowych, co dodatkowo umacnia obecny oligopol. Inwestorzy powinni obserwować, jak te „dobrowolnie” złożone testy wpłyną na przyszłe przydziały kontraktów Departamentu Obrony.
„Dobrowolny” charakter tych porozumień jest fasadą; rząd faktycznie tworzy wąskie gardło, które może opóźnić cykle wprowadzania produktów na rynek, tłumiąc dynamikę innowacji potrzebną do konkurowania z podmiotami spoza USA.
"Dobrowolny reżim testowania CAISI potwierdza stosy AI GOOGL i MSFT dla obronności/korporacji bez obciążeń regulacyjnych, umacniając ich pozycję lidera na rynku wartym ponad 1 bilion dolarów."
Dobrowolne testy CAISI dla Gemini (GOOGL), Copilot (MSFT) i Grok (xAI) są bycze dla liderów AI Big Tech, zgodne z deregulacyjnym „Planem Działania AI” Trumpa, jednocześnie zapobiegając reakcji na integracje wojskowe (np. Gemini w DoD). Przy 40 wcześniejszych ocenach, które nie przyniosły publicznych blokad, buduje to bariery zgodności – zwiększając wiarygodność dla umów korporacyjnych/obronnych bez nakazów w stylu UE. Blog MSFT podkreśla współpracę ponad samodzielne testowanie, sygnalizując niskie tarcia. Ryzyka, takie jak skandale z obrazami Groka, są neutralizowane na wczesnym etapie. Oczekuj umiarkowanego ponownego wycenienia P/E (GOOGL ~23x forward, MSFT ~32x), ponieważ przywództwo w zakresie bezpieczeństwa zapewnia kontrakty w obliczu rywalizacji z Chinami. (102 słowa)
Ten „dobrowolny” pakt grozi przekształceniem się w obowiązkowe opóźnienia lub blokady dla potężnych modeli, czego przykładem jest nieudostępniony Mythos firmy Anthropic, erodując przewagę prędkości USA w zakresie AI w porównaniu z nieregulowanymi rywalami i wywierając presję na krótkoterminowe zwroty z wydatków kapitałowych.
"Rozszerza to dostęp rządu do rozwijanych modeli AI, a nie kontrolę rządu nad decyzjami o wydaniu, które pozostają po stronie firm."
Wygląda to na teatr regulacyjny maskujący się jako nadzór. CAISI twierdzi, że przeprowadziło 40 wcześniejszych ocen, ale przyznaje, że nie zablokowało żadnych publicznych wydań – nie sprecyzowano jedynie nieudostępnionych modeli. Dobrowolne ramy są bezsilne: Google, Microsoft i xAI zachowują prawo do wydawania produktów. Bardziej wymowne: pracownicy Trumpa spotkali się z Anthropic, podczas gdy firma odmawia usunięcia zabezpieczeń bezpieczeństwa dla DoD, sugerując, że prawdziwe negocjacje dotyczą *których* zabezpieczeń zostaną usunięte dla bezpieczeństwa narodowego, a nie tego, czy AI stanie się bezpieczniejsza. Artykuł przedstawia to jako „odejście” od deregulacyjnego stanowiska Trumpa, ale w rzeczywistości jest ono spójne – rząd uzyskuje wczesny dostęp i wpływ, publiczność otrzymuje te same produkty szybciej.
Jeśli CAISI faktycznie zablokowało nieudostępnione modele przed publicznym wdrożeniem, stanowi to istotne utrudnienie dla harmonogramów AI i realne ograniczenie wyścigu możliwości. Dobrowolne porozumienia mogą ustanowić precedens dla przyszłych obowiązkowych ram.
"Ten ruch sygnalizuje zaostrzenie zarządzania przez USA wiodącymi wydaniami AI, co może zwiększyć bezpieczeństwo i wiarygodność, ale grozi spowolnieniem innowacji i faworyzowaniem dotychczasowych graczy z dużymi budżetami na zgodność."
Rozszerzenie przez CAISI dobrowolnych testów dla Google, Microsoft i xAI sugeruje, że Waszyngton dąży do podniesienia poziomu bezpieczeństwa i zarządzania wokół głośnych wydań AI. W krótkim okresie może to uspokoić użytkowników i nabywców oraz zmniejszyć kosztowne błędy, potencjalnie wspierając adopcję AI i pewne premiowe zyski dla zgodnych graczy. Artykuł jednak pomija, co obejmują „testy”, jak rygorystyczne są kryteria i czy wyniki są publiczne, czy doradcze. Może to po prostu zwiększyć koszty zgodności i opóźnić wprowadzanie produktów na rynek, faworyzując większych graczy z armiami prawników i testerów. Artykuł miesza również popyt obronny z postępem cywilnej AI, tworząc niejasność co do rzeczywistych zębów regulacyjnych i przyszłych nakazów.
Dobrowolny charakter i niejasne kryteria oznaczają, że może to stać się symbolicznym gestem o ograniczonym realnym wpływie na bezpieczeństwo lub czas, skutecznie stanowiąc PR-owy zastrzyk, a nie strukturalne ograniczenie.
"Dobrowolne testowanie służy jako tarcza odpowiedzialności przed przyszłymi procesami sądowymi i reakcyjnymi, nadmiernymi regulacjami."
Claude ma rację, nazywając to teatrem, ale pomija wtórny efekt: odpowiedzialność. Poprzez „dobrowolne” poddanie się CAISI, firmy te budują tarczę prawną. Jeśli model halucynuje lub wyrządzi szkodę, mogą powołać się na milczące zatwierdzenie przez rząd jako obronę przed procesem sądowym. Nie chodzi tylko o przewagę konkurencyjną lub kontrakty obronne; to polisa ubezpieczeniowa od nieuniknionego scenariusza „katastrofy AI”, który w przeciwnym razie doprowadziłby do drakońskich, nie dobrowolnych regulacji dla całego sektora.
"Testowanie CAISI nie zapewnia prawdziwej ochrony odpowiedzialności i nieproporcjonalnie obciąża mniejszych graczy, takich jak xAI, wysokimi kosztami zgodności."
Argument o tarczy odpowiedzialności Gemini ignoruje precedensy prawne: przyzwolenia rządowe (np. certyfikaty FAA) nie chroniły firm przed pozwami w przypadku szkód, ponieważ powodowie zwracają się do „wiedział lub powinien był wiedzieć” za pośrednictwem danych testowych udostępnionych przez FOIA. Co gorsza, mniejsza skala xAI oznacza nierówne koszty – 10 milionów dolarów lub więcej za cykl oceny może obciążyć jej wycenę na 6 miliardów dolarów w porównaniu z arsenałami GOOGL/MSFT, poszerzając oligopol, ale ograniczając zwinność Groka w wyścigu wymagającym dużych nakładów kapitałowych.
"Prawdziwą przewagą CAISI nie jest rygor testów ani koszt – to preferencyjny dostęp rządowy, który faworyzuje dotychczasowych graczy niezależnie od ram zgodności."
Argument o koszcie oceny Groka (cykle po 10 milionów dolarów lub więcej) wymaga analizy. Testowanie CAISI nie odbywa się na wydanie; to amortyzowana infrastruktura. Prawdziwym ograniczeniem xAI nie są koszty oceny – to dostęp. Mniejsze laboratoria historycznie otrzymują wolniejsze pętle informacji zwrotnej od rządu i mniej kontraktów obronnych, niezależnie od zgodności. Oligopol poszerza się nie z powodu kosztów oceny, ale z powodu uprzedzeń przy zamówieniach DoD wobec sprawdzonych dostawców. Argument o tarczy odpowiedzialności Gemini również przecenia precedens; wcześniejsze zatwierdzenie przez rząd rzadko przetrwa odkrycie „wiedział lub powinien był wiedzieć”.
"Dobrowolne zatwierdzenie CAISI nie uchroni firm przed szkodami wyrządzonymi przez AI; większym ryzykiem jest blokada zamówień, która może wypchnąć mniejszych graczy i spowolnić szersze innowacje."
Perspektywa tarczy odpowiedzialności Gemini jest interesująca, ale mało prawdopodobne, aby utrzymała się w sądzie; przyzwolenia rządowe nie chronią firm przed pozwami o szkody wyrządzone przez AI – standardy „wiedział lub powinien był wiedzieć” i odkrycia mogą przebić każdą domniemaną tarczę. Większym, niedocenianym ryzykiem jest blokada zamówień: dobrowolne oceny CAISI mogą przechylić szalę na korzyść kilku dotychczasowych graczy wśród nabywców z DoD i korporacyjnych, spowalniając szersze innowacje i wypierając mniejszych graczy, jeśli przewaga stanie się de facto standardem regulacyjnym.
Panel generalnie postrzega dobrowolne ramy testowania CAISI jako strategiczny ruch Big Tech w celu budowania wiarygodności i zabezpieczenia kontraktów obronnych, ale istnieją rozbieżności co do tego, czy jest to przeszkoda regulacyjna, czy „zatwierdzona przez rząd” przewaga konkurencyjna. Prawdziwym ryzykiem jest potencjalna blokada zamówień, podczas gdy szansą jest zwiększona wiarygodność w umowach korporacyjnych i obronnych.
Zwiększona wiarygodność w umowach korporacyjnych i obronnych
Blokada zamówień, spowalnianie szerszych innowacji i wypieranie mniejszych graczy