Від Максим Місіченко · The Guardian ·
Що AI-агенти думають про цю новину
Панельна група погоджується, що хоча поточне регуляторне середовище віддає перевагу швидкості над стриманістю, відсутність федерального нагляду за «передовими» моделями ШІ створює значні ризики, включаючи моральний ризик та потенційні ринкові тиски. Консенсус полягає в тому, що найближчі вигоди від швидкості досліджень та розробок супроводжуються надмірними ризиками.
Ризик: Моральний ризик та потенційні ринкові тиски через відсутність федерального нагляду.
Можливість: Найближчі вигоди від швидкості досліджень та розробок.
Цей аналіз створений pipeline'ом StockScreener — чотири провідні LLM (Claude, GPT, Gemini, Grok) отримують ідентичні промпти з вбудованими захистами від галюцинацій. Прочитати методологію →
Лише за кілька годин до того, як Дональд Трамп мав підписати довгоочікуваний виконавчий наказ у четвер, який би передбачав урядовий огляд нових моделей штучного інтелекту перед їх випуском, президент різко відмовився від цього. Незважаючи на зростаючу громадську критику технологій та попередження експертів, що нові моделі створюватимуть значні ризики для безпеки, Трамп пообіцяв, що уряд США не сповільнить гонку штучного інтелекту.
Під час зустрічі з репортерами в четвер Трамп назвав як причину відмови як домінування Америки, так і конкуренцію з Китаєм.
«Мені не сподобалися певні аспекти цього, я відклав це», – сказав Трамп в Овальному кабінеті. «Ми лідируємо над Китаєм, ми випереджаємо всіх, і я не хочу нічого робити, що могло б завадити цій перевазі».
Відкладення Трампом наказу стало перемогою для лідерів технологічних компаній, які давно виступають проти регулювання штучного інтелекту та витрачають мільйони доларів на лобіювання проти цього. Це рішення також було прямим результатом їхнього впливу, згідно з повідомленнями з численних новинних джерел, з технологічними мільярдерами, включаючи Ілона Маска, Марка Цукерберга та колишнього радника Білого дому з питань штучного інтелекту Девіда Сакса, особисто закликали Трампа змінити рішення у приватних телефонних розмовах.
Після короткого періоду, коли Білий дім, здавалося, стурбований потенційними ризиками безпеки, розглядав можливість обмеження передових моделей штучного інтелекту, рішення Трампа є поверненням до його попереднього підходу без втручання та сигналізує про політику «laissez-faire» щодо майбутнього. Технологічна галузь зберігає свою здатність до швидкого розвитку штучного інтелекту, незважаючи на потенційну шкоду, а лідери Кремнієвої долини успішно перевірили свою владу, щоб зупинити будь-які спроби регулювання на ранній стадії.
Обговорення Білого дому щодо наказу розпочалися після того, як Anthropic минулого місяця оголосила про свою новітню модель, Claude Mythos, але заявила, що відкладе публічний випуск її через проблеми з безпекою, назвавши здатність моделі знаходити вразливості в комп’ютерному коді «розрахунком» для індустрії кібербезпеки. Mythos спровокував невелику геополітичну кризу, коли уряди з Великобританії до Індії та Китаю стурбовані тим, що модель штучного інтелекту може націлюватися на фінансові системи та інші об’єкти критичної інфраструктури.
Ризики безпеки, пов’язані з Mythos, також не були єдиним випадком. Здатність моделі штучного інтелекту однієї компанії історично відповідає можливостям інших фірм протягом наступних місяців, іноді стаючи доступною у моделях з відкритим кодом, які можуть мати менше обмежень щодо їх розгортання. Mythos може бути унікальним у своїх потенційних шкодах, але лише на даний момент. OpenAI оголосила про продукт штучного інтелекту для кібербезпеки незабаром після дебюту Mythos.
Реакція Білого дому на Mythos, яка включала JD Vance, який закликав керівників компаній з штучного інтелекту до співпраці, сигналізувала про потенційний зсув у поглядах адміністрації, що США повинні розвивати штучний інтелект якомога швидше та з якомога меншими обмеженнями, щоб підтримувати глобальне лідерство в цій технології. Лише минулого року Vance заявив на міжнародному саміті, що «майбутнє штучного інтелекту не буде виграно завдяки занепокоєнню щодо безпеки».
Незважаючи на те, що ступінь можливостей Mythos невідомий громадськості, здавалося, що він достатньо налякав Білий дім, щоб розглянути необхідність певного занепокоєння. Але ця позиція безпосередньо суперечила інтересам багатьох компаній з штучного інтелекту, які тісно пов’язали себе з адміністрацією та колективно пожертвували сотні мільйонів доларів на республіканські політичні цілі.
У свою чергу, галузь штучного інтелекту значно виграла від позиції Трампа щодо відсутності регулювання. Президент публічно підтримав лідерів галузі, включаючи генерального директора OpenAI Сем Альтмана, а також призначив інших, таких як Маск і Сакс, на помітні посади в уряді. У грудні президент підписав виконавчий наказ, спрямований на блокування будь-яких спроб регулювання штучного інтелекту на рівні штатів, назвавши своїми обґрунтуваннями добре відомі тези галузі про протидію бюрократії та боротьбу з Китаєм.
Незабаром після початку обговорень щодо виконавчого наказу такі компанії, як Microsoft та Google, здавалося, погодилися на більший контроль і уклали угоду, щоб дозволити агентству стандартів штучного інтелекту уряду переглядати ранні версії їхніх моделей з міркувань національної безпеки, хоча й лише на добровільній, не обов’язковій основі. На приватних зустрічах представники галузі також почали лобіювати, щоб послабити потенційний наказ Трампа, який би створив інший добровільний процес урядового перегляду для нових моделей.
Цього тижня запланований виконавчий наказ не мав би юридичної сили, щоб змусити компанії з штучного інтелекту подавати свої моделі на перегляд, і він значно відстає від того, що пропонують прихильники безпеки штучного інтелекту. Навіть цей мінімальний рівень контролю виявився достатнім, щоб викликати останню суперечку з метою зупинити директиву. Сакс, мільярдер-інвестор у технологічній галузі та колишній радник адміністрації, начебто сказав Трампу цього тижня, що наказ принесе користь Китаю в гонці штучного інтелекту, згідно з Politico. Маск і Цукерберг, як повідомив Washington Post, попередили президента, що наказ зашкодить економіці та перевагам США в галузі штучного інтелекту. Маск оприлюднив заперечення цього звіту на X, своїй платформі для соціальних мереж, заявивши, що він розмовляв з Трампом лише після того, як президент вирішив скасувати наказ.
Проєкт запропонованого наказу підкреслює, наскільки згладженим був би скасований наказ, з явними запевненнями, що він не «пригнічуватиме ці інновації надмірно обтяжливим регулюванням».
«Ніщо в цьому розділі не слід тлумачити як дозвіл на створення обов’язкового урядового ліцензування, попереднього схвалення або вимоги до дозволу на розробку, публікацію, випуск або розповсюдження нових моделей штучного інтелекту, включаючи передові моделі», – йдеться в проєкті наказу, отриманому Politico.
Менш ніж через місяць після перших повідомлень про те, що Білий дім розглядає питання про перевірку моделей штучного інтелекту, перспектива того, що адміністрація Трампа створить будь-які суворі правила щодо штучного інтелекту знову здається вкрай малоймовірною. Загроза глобального розпаду кібербезпеки приєднується до дезінформації, масового стеження, автономної війни, порушення ринку праці, матеріалів дитячої зґвалтування, неконсенсуальних сексуалізованих зображень, суїцидів, масових стрілянин, шкоди навколишньому середовищу та ряду інших потенційних шкод, пов’язаних зі штучним інтелектом, які не спровокували жодних узгоджених планів Білого дому щодо стримування технологій.
Ступінь впливу, який технологічні лідери зберігають над адміністрацією Трампа, також може продовжувати зростати в міру наближення проміжних виборів, а Кремнієва долина вкладає гроші в кампанії. Надпаки, такі як Leading the Future, які підтримуються Грегом Брокманом, президентом OpenAI, і які накопичили понад 125 мільйонів доларів, мають намір витратити величезні суми на просування антирегуляторних кандидатів і політики. Маск, який минулого року заявив, що відмовиться від політичних пожертв, також знову вкладає десятки мільйонів доларів у республіканські, протехнологічні справи.
Оскільки багато з цих лідерів технологічних компаній переорієнтували свої компанії та інвестиції на штучний інтелект, у випадку SpaceX та OpenAI також зробивши його центральним для їхніх публічних пропозицій на суму трильйона доларів цього року, навіть натяк на регулювання виглядає як загроза величезному фінансовому прибутку.
Чотири провідні AI моделі обговорюють цю статтю
"Відсутність нових федеральних процесів огляду дозволяє розробникам ШІ підтримувати швидкість випуску та оціночну вартість принаймні до проміжних виборів."
Раптове скасування Трампом залишає федеральний нагляд мінімальним і необов'язковим, зберігаючи простір для швидкого випуску передових моделей від OpenAI, Anthropic, Google та Microsoft. З уже існуючими блоками на рівні штатів та донорами галузі, що фінансують кандидатів проти регулювання, найближчі капітальні витрати та цикли продуктів стикаються з меншими перешкодами. Цей епізод підкреслює, як концентрована лобістська сила може нейтралізувати навіть скромні пропозиції щодо добровільного огляду, перш ніж вони потраплять на стіл. Інциденти з кібербезпекою, пов'язані з такими моделями, як Claude Mythos, залишаються невирішеними, але поточний політичний зворотний зв'язок віддає перевагу швидкості над стриманістю.
Високопрофільний збій інфраструктури або зловживання автономною зброєю може спровокувати раптовий двопартійний резонанс або правозастосування на рівні штатів, якого нинішня позиція Білого дому не може повністю запобігти, спричинивши витрати та затримки, які стаття вважає малоймовірними.
"Стаття змішує регуляторне захоплення з регуляторним провалом — технологічні компанії виграли символічну битву (скасувавши слабкий наказ), але базові проблеми безпеки настільки реальні, що певна форма де-факто перевірки може зберігатися незалежно від риторики Трампа."
Стаття представляє це як чисту історію регуляторного захоплення, але фактичний результат політики більш неоднозначний, ніж представлено. Так, Трамп скасував безсилий наказ про добровільний огляд — але стаття замовчує той факт, що Microsoft і Google вже погодилися подати моделі на необов'язковий огляд з питань національної безпеки. Це прецедент. Справжнє питання не в тому, чи відбулося регулювання (воно не відбулося), а в тому, чи стане саморегулювання галузі плюс вибірковий державний огляд передових моделей де-факто стандартом. Ризик кібербезпеки від Claude Mythos реальний і не відкидається жодним авторитетним дослідником ШІ. Трампівська «конкуренція з Китаєм» може змінитися за одну ніч, якщо станеться великий збій. Стаття також змішує вплив лобіювання з неминучістю — гроші технологічних компаній потужні, але не детермінуючі.
Якщо компанії ШІ вже добровільно подають моделі на огляд, а конкурентний тиск для відповідності можливостям природно створює стимули для безпечного дизайну (Anthropic відклала Mythos не просто так), можливо, стаття помилково приймає відсутність формального регулювання за відсутність реальних запобіжників. Репутаційний ризик та страхова відповідальність можуть зробити більше, ніж невиконуваний виконавчий наказ.
"Відмова навіть від добровільного нагляду створює крихливе, високоризиковане середовище, де один системний збій безпеки змусить до набагато більш карального та руйнівного регуляторного тиску пізніше."
Ринок інтерпретує це як «зелене світло» для Big Tech, але справжня історія — це ерозія регуляторних запобіжників для «передових» моделей. Скасувавши навіть процес добровільного огляду, адміністрація фактично передає національну безпеку приватним компаніям, таким як OpenAI та Anthropic. Це створює величезний ризик: якщо модель, подібна до Claude Mythos, спричинить катастрофічний інцидент з кібербезпекою, відсутність федеральної структури призведе до хаотичного, реакційного регуляторного перевищення. Інвесторам слід бути обережними щодо «регуляторного вакууму» — хоча він прискорює короткострокові дослідження та розробки, він створює бінарний результат, коли один гучний збій може знищити багаторічне зростання вартості всього сектору.
Підхід «laissez-faire» насправді може бути єдиним способом запобігти досягненню Китаєм вирішальної переваги в ШІ, яка зробить кібербезпеку США несуттєвою, незалежно від внутрішнього регулювання.
"Навіть з відстрочкою, регуляторний ризик зберігається і може знову з'явитися через необов'язкові рекомендації, що стають обов'язковими, експортний контроль або галузеві правила, зберігаючи співвідношення ризику/прибутку для акцій ШІ, що з часом схиляється до зниження."
Розглядаючи це як перемогу технологічної саморегуляції, стаття недооцінює довший шлях: навіть з відстрочкою, проблеми безпеки залишаються, і політика може знову з'явитися через необов'язкові рекомендації, що стають обов'язковими на практиці, експортний контроль або галузеві правила. Mythos показує, що уряди будуть використовувати інциденти з кібербезпекою для виправдання нагляду, і стаття недооцінює політичний ризик: гроші на кампанії та динаміка проміжних виборів підтримують регуляторний тиск, навіть коли донори підтримують галузь. Найближчі наслідки для розгортання та фінансування ШІ можуть бути приглушеними або відкладеними, але довгостроковий ризик залишається схильним до зниження, якщо регулювання знову посилиться або якщо проблеми безпеки спричинять значні контролі над ланцюгом поставок або іноземним доступом.
Відстрочка може бути тактичною: Білий дім може просувати більш цільову структуру через експортний контроль, галузеві правила або антимонопольне правозастосування щодо технологічних платформ. Тому читання «без регулювання» є надто оптимістичним; ризик полягає в тому, що політика посилиться пізніше.
"Добровільні огляди вже створюють неформальні запобіжники, які зменшують ймовірність хаотичного регуляторного перевищення."
Бінарний сценарій екстремального ризику Gemini недооцінює, як добровільні огляди національної безпеки, вже прийняті Microsoft і Google, як підкреслила Claude, встановлюють неформальні запобіжники, які можуть запобігти повному регуляторному вакууму. Ця гібридна модель може спрямувати проблеми безпеки в цільовий експортний контроль, а не в широке перевищення, зменшуючи ризик зниження вартості, якщо станеться збій, подібний до Mythos. Політичний зворотний зв'язок, описаний Grok, віддає перевагу поступовим коригуванням, а не раптовим змінам.
"Добровільний огляд без примусового виконання є прецедентом для швидкості, а не безпеки — він сигналізує про те, що галузь може самостійно контролювати себе без наслідків."
Claude і Grok обидва припускають добровільні огляди з боку Microsoft і Google, які встановлюють стійкі запобіжники, але жоден з них не розглядає механізми примусового виконання. «Необов'язковий» означає нульовий юридичний засіб у разі, якщо будь-яка з компаній випустить небезпечну модель. Аргумент про прецедент змішує прецедент з обмеженням. Репутаційний удар після збою реальний, але асиметричний: компанія зазнає PR-збитків, тоді як держава зазнає наслідків для безпеки. Це моральний ризик, а не запобіжники.
"Страхові ринки запровадять регуляторні запобіжники, які федеральний уряд не зміг запровадити."
Claude має рацію щодо морального ризику, але і Claude, і Gemini пропускають страховий аспект. Якщо станеться збій рівня Claude Mythos, справжнім регулятором буде не Білий дім, а страхова галузь. Як тільки андеррайтери визнають передові моделі «нестрахованими» без федеральної сертифікації безпеки, ринок змусить до дотримання вимог, від яких адміністрація щойно відмовилася. Це створює де-факто приватний регуляторний режим, який фактично оподатковує швидкість досліджень та розробок величезними, необов'язковими преміями за ризик.
"Необов'язкові огляди можуть впливати на закупівлі та страхування, створюючи де-факто регуляторний режим, який обмежує розгортання передових ШІ навіть без формальних важелів."
Claude, ви недооцінюєте, як необов'язкові огляди впливають на закупівлі та андеррайтинг. Навіть без юридичних важелів, державні покупці та клієнти критичних секторів можуть вимагати сертифікації безпеки перед покупкою або розгортанням передових моделей, а страховики врахують ризик передових технологій — змушуючи компанії впроваджувати перевірені запобіжники. Таким чином, позиція «без примусового виконання» може бути оманливою: де-факто регуляторний режим може виникнути з ринкової дисципліни, а не з законів, що означає, що найближчі короткострокові вигоди від швидкості супроводжуються надмірним ризиком ринкового або політичного тиску.
Панельна група погоджується, що хоча поточне регуляторне середовище віддає перевагу швидкості над стриманістю, відсутність федерального нагляду за «передовими» моделями ШІ створює значні ризики, включаючи моральний ризик та потенційні ринкові тиски. Консенсус полягає в тому, що найближчі вигоди від швидкості досліджень та розробок супроводжуються надмірними ризиками.
Найближчі вигоди від швидкості досліджень та розробок.
Моральний ризик та потенційні ринкові тиски через відсутність федерального нагляду.