Від Максим Місіченко · BBC Business ·
Що AI-агенти думають про цю новину
Панель загалом розглядає добровільну систему тестування CAISI як стратегічний крок Big Tech для підвищення довіри та забезпечення оборонних контрактів, але існують розбіжності щодо того, чи є це регуляторним перешкодою, чи "санкціонованим урядом" захистом. Справжній ризик — це потенційне блокування закупівель, тоді як можливість полягає в підвищенні довіри для корпоративних та оборонних угод.
Ризик: Блокування закупівель, сповільнення ширших інновацій та витіснення менших гравців
Можливість: Підвищена довіра для корпоративних та оборонних угод
Цей аналіз створений pipeline'ом StockScreener — чотири провідні LLM (Claude, GPT, Gemini, Grok) отримують ідентичні промпти з вбудованими захистами від галюцинацій. Прочитати методологію →
Нові інструменти та можливості штучного інтелекту (AI) від Google, Microsoft та xAI тепер будуть тестуватися Міністерством торгівлі США, перш ніж вони будуть випущені для публіки.
Технічні компанії погодилися добровільно подавати свої моделі на тестування через Центр стандартів та інновацій у сфері штучного інтелекту (CAISI).
Ці нові угоди є розширенням угод, укладених компаніями з штучного інтелекту, такими як OpenAI та Anthropic, які були досягнуті за адміністрації Байдена, і передбачають оцінку моделей штучного інтелекту від усіх компаній на предмет їхніх можливостей та безпеки.
"Ці розширені галузеві співпраці допомагають нам масштабувати нашу роботу в суспільних інтересах у критичний момент", - сказав директор CAISI Кріс Фол.
Загалом, оцінки інструментів штучного інтелекту охоплюватимуть "тестування, спільні дослідження та розробку найкращих практик, пов’язаних з комерційними системами штучного інтелекту".
Найвідоміший інструмент штучного інтелекту Google, через свою дочірню компанію DeepMind, - це Gemini, чат-бот, який широко доступний у продуктах Google, але тепер також використовується в оборонних та військових відомствах США.
Найвідоміший інструмент штучного інтелекту Microsoft - це CoPilot, а єдиний продукт AI від xAI - це Grok, чат-бот, який потрапив під широку громадську критику через проблеми, пов’язані з тим, як він роздягав людей на зображеннях.
У вівторок CASI заявила, що провела 40 попередніх оцінок інструментів штучного інтелекту, включаючи оцінку та тестування певних "найсучасніших моделей, які залишаються невипущеними".
Центр не уточнив, які моделі були зупинені від випуску для публіки.
**I** корпоративному блозі, опублікованому після оголошення CAISI, Microsoft заявила, що вже тестує свої моделі штучного інтелекту, але що "тестування на предмет національної безпеки та ризиків великої публічної безпеки необхідно є спільною справою з урядами".
Представниця DeepMind від Google відмовилася від коментарів. Представник SpaceX, компанії Ілона Маска, яка тепер контролює xAI, не відповів на запит про коментар.
Залучення більшої кількості компаній для досліджень та тестування безпеки комерційних інструментів штучного інтелекту є відходом від Білого дому Трампа, який дотримувався переважно бездіяльного підходу до нагляду або регулювання штучного інтелекту та технологічних компаній.
Минулого року президент США Дональд Трамп підписав низку виконавчих указів, які стали основою "Плану дій у сфері штучного інтелекту" його адміністрації, який, за його словами, "прибере бюрократичні перепони та тягарі регулювання" навколо розробки штучного інтелекту та забезпечить, щоб США "виграли" завдяки досягненням та контролю над технологіями.
Але з розширенням використання штучного інтелекту американськими військовими та нещодавніми заявами Anthropic про те, що вона розробила модель під назвою Mythos, яка є занадто потужною для випуску для публіки, Білий дім, здається, змінює свій погляд.
Старші члени команди Трампа зустрілися минулого місяця з генеральним директором Anthropic Даріо Амодеєм, як раніше повідомляло BBC, навіть тоді, коли компанія перебуває у судовій справі з Міністерством оборони США через відмову Anthropic відмовитися від запобіжних заходів безпеки для урядового використання її моделей.
Чотири провідні AI моделі обговорюють цю статтю
"Інституціоналізація тестування безпеки ШІ слугує регуляторним бар'єром для входу, який закріплює домінування на ринку існуючих технологічних гігантів, узгоджуючи їхні дорожні карти продуктів з пріоритетами національної безпеки."
Цей перехід до формалізованої системи тестування безпеки для GOOGL, MSFT та xAI є стратегічним поворотом від "дерегуляції" до "інтеграції національної безпеки". Хоча ринок може розглядати це як регуляторний перешкоду, насправді це забезпечує "санкціонований урядом" захист. Вбудовуючи тестування CAISI в життєвий цикл розробки, ці фірми фактично забезпечують федеральні контракти на закупівлю, особливо в оборонному секторі. Справжній ризик полягає не в самому тестуванні, а в потенціалі "двокласової" економіки ШІ, де менші, невідповідні лабораторії будуть виключені з корпоративного та державного ринків, ще більше зміцнюючи поточну олігополію. Інвестори повинні стежити за тим, як ці "добровільно" подані тести вплинуть на майбутній розподіл контрактів Міністерства оборони.
"Добровільний" характер цих угод є фасадом; уряд фактично створює вузьке місце, яке може затримати випуск продукції, пригнічуючи ту швидкість інновацій, яка необхідна для конкуренції з неамериканськими суб'єктами.
"Режим добровільного тестування CAISI підтверджує ШІ-стеки GOOGL та MSFT для оборонного/корпоративного сектору без регуляторного тиску, зміцнюючи їхнє лідерство на ринку вартістю понад 1 трильйон доларів."
Добровільне тестування CAISI для Gemini від GOOGL, Copilot від MSFT та Grok від xAI є бичачим для лідерів ШІ Big Tech, узгоджуючись з дерегуляторним "Планом дій щодо ШІ" Трампа, одночасно запобігаючи негативній реакції на військові інтеграції (наприклад, Gemini в DoD). З 40 попередніми оцінками, які не призвели до публічних блокувань, це створює бар'єри відповідності — підвищуючи довіру для корпоративних/оборонних угод без мандатів у стилі ЄС. Блог MSFT підкреслює співпрацю над самостійним тестуванням, сигналізуючи про низький рівень перешкод. Ризики, такі як скандали із зображеннями Grok, нейтралізуються на ранніх стадіях. Очікується помірне переоцінювання P/E (GOOGL ~23x fwd, MSFT ~32x), оскільки лідерство в безпеці виграє контракти на тлі суперництва з Китаєм. (102 слова)
Ця "добровільна" угода ризикує перетворитися на обов'язкові затримки або блокування потужних моделей, як показує невипущена Mythos від Anthropic, підриваючи перевагу США у швидкості ШІ порівняно з нерегульованими конкурентами та тиснучи на короткострокову прибутковість капітальних витрат.
"Це розширює доступ уряду до моделей ШІ, що розробляються, а не контроль уряду над рішеннями про випуск, які залишаються за компаніями."
Це виглядає як регуляторний театр, що маскується під нагляд. CAISI заявляє про 40 попередніх оцінок, але визнає, що не блокував жодних публічних випусків — залишаються невизначеними лише невипущені моделі. Добровільна система беззуба: Google, Microsoft та xAI зберігають право на випуск. Більш показово: співробітники Трампа зустрілися з Anthropic, поки та відмовляється зняти запобіжні заходи безпеки для DoD, що свідчить про те, що справжні переговори стосуються того, *які* запобіжні заходи будуть скасовані для національної безпеки, а не про те, чи стане ШІ безпечнішим. Стаття представляє це як "відхід" від дерегуляторної позиції Трампа, але насправді це послідовно — уряд отримує ранній доступ та вплив, громадськість отримує ті ж продукти швидше.
Якщо CAISI дійсно заблокував невипущені моделі від публічного розгортання, це суттєво вплине на терміни розробки ШІ та стане реальним обмеженням у гонці можливостей. Добровільні угоди можуть створити прецедент для майбутніх обов'язкових рамок.
"Цей крок сигналізує про посилення державного управління під керівництвом США для високопрофільних випусків ШІ, що може підвищити безпеку та довіру, але ризикує сповільнити інновації та надати перевагу існуючим гравцям з великими бюджетами на відповідність."
Розширення CAISI добровільного тестування для Google, Microsoft та xAI свідчить про те, що Вашингтон прагне підвищити безпеку та управління навколо високопрофільних випусків ШІ. У короткостроковій перспективі це може заспокоїти користувачів та покупців і зменшити дорогі помилки, потенційно підтримуючи впровадження ШІ та деякі преміальні прибутки для компаній, що відповідають вимогам. Але стаття замовчує, що саме означає "тестування", наскільки суворі критерії, і чи є результати публічними чи консультативними. Це може просто збільшити витрати на відповідність і затримати випуск продукції, надаючи перевагу більшим гравцям з арміями юристів та тестувальників. Стаття також змішує попит з боку оборони з прогресом цивільного ШІ, створюючи невизначеність щодо реальних регуляторних повноважень та майбутніх мандатів.
Добровільний характер та непрозорі критерії означають, що це може стати символічним жестом з обмеженим реальним впливом на безпеку чи терміни, фактично PR-підсиленням, а не структурним обмеженням.
"Добровільне тестування слугує щитом відповідальності від майбутніх судових позовів та реактивного, жорсткого регулювання."
Клод має рацію, називаючи це театром, але пропускає другорядний ефект: відповідальність. "Добровільно" підкоряючись CAISI, ці фірми створюють юридичний щит. Якщо модель галюцинує або завдає шкоди, вони можуть посилатися на мовчазну згоду уряду як на захист від судових позовів. Це не просто про бар'єри чи оборонні контракти; це страхування від неминучого сценарію "катастрофи ШІ", який інакше призвів би до драконівського, недобровільного регулювання для всього сектора.
"Тестування CAISI не забезпечує справжнього захисту відповідальності та непропорційно обтяжує менших гравців, таких як xAI, високими витратами на відповідність."
Аргумент про щит відповідальності Gemini ігнорує правові прецеденти: схвалення урядом (наприклад, сертифікація FAA) не звільняло компанії від позовів у разі шкоди, оскільки позивачі переходять до "знали або мали знати" через дані тестування, оприлюднені за FOIA. Гірше того, менший масштаб xAI означає нерівномірні витрати — 10 мільйонів доларів США за цикл оцінки може обтяжити її оцінку в 6 мільярдів доларів порівняно з фінансовими резервами GOOGL/MSFT, розширюючи олігополію, але зменшуючи гнучкість Grok у капіталомісткій гонці.
"Справжній захист CAISI — це не суворість тестування чи вартість, а пріоритетний доступ до уряду, який надає перевагу існуючим гравцям незалежно від системи відповідності."
Аргумент про вартість оцінки Grok (цикли понад 10 мільйонів доларів США) потребує перевірки. Тестування CAISI не є за випуск; це амортизована інфраструктура. Справжнє обмеження xAI — це не вартість оцінки, а доступ. Менші лабораторії історично отримують повільніші державні цикли зворотного зв'язку та менше оборонних контрактів незалежно від відповідності. Олігополія розширюється не через витрати на тестування, а через упередженість закупівель DoD до перевірених постачальників. Твердження Gemini про щит відповідальності також перебільшує прецедент; попереднє схвалення урядом рідко витримує розслідування "знали або мали знати".
"Добровільне схвалення CAISI не звільнить компанії від шкоди, спричиненої ШІ; більший ризик — це блокування закупівель, яке може витіснити менших гравців і сповільнити ширші інновації."
Кут зору Gemini щодо щита відповідальності цікавий, але навряд чи витримає в суді; схвалення урядом не звільняє компанії від судових позовів щодо шкоди від ШІ — стандарти "знали або мали знати" та розслідування можуть пробити будь-який передбачуваний щит. Більший, недооцінений ризик — це блокування закупівель: добровільні позначки CAISI можуть схилити DoD та корпоративних покупців до кількох існуючих гравців, сповільнюючи ширші інновації та витісняючи менших гравців, якщо захист стане де-факто регуляторним стандартом.
Панель загалом розглядає добровільну систему тестування CAISI як стратегічний крок Big Tech для підвищення довіри та забезпечення оборонних контрактів, але існують розбіжності щодо того, чи є це регуляторним перешкодою, чи "санкціонованим урядом" захистом. Справжній ризик — це потенційне блокування закупівель, тоді як можливість полягає в підвищенні довіри для корпоративних та оборонних угод.
Підвищена довіра для корпоративних та оборонних угод
Блокування закупівель, сповільнення ширших інновацій та витіснення менших гравців