Керівники AI-компаній кажуть, що мають уповільнити темпи розвитку. Але чи зроблять вони це?

Зіткнувшись із суспільним обуренням через повторні попередження дослідників Anthropic про те, що штучний інтелект може вбити все людство до 2030 року, генеральний директор компанії ШІ Даріо Амодеї висунув на вихідних пропозицію щодо уповільнення розвитку технології для забезпечення громадської безпеки.

У рідкісному прояві єдності керівники найбільших американських компаній зі штучного інтелекту негайно погодилися.

Генеральний директор OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс та власник xAI Ілон Маск висловили підтримку пропозиції Амодеї щодо уповільнення розвитку ШІ під назвою «Ми повинні йти в ногу з передовими розробками», причому Альтман заявив, що він повторить зобов'язання Амодеї щодо залучення зовнішніх оцінювачів до своєї компанії для перевірки практик безпеки.

«Я згоден з Даріо, що нам потрібно йти в ногу з передовими розробками», — написав Альтман у суботу в X. «Зобов'язання мати незалежних оцінювачів із доступом, подібним до доступу співробітників, — чудова ідея, і ми зробимо те саме».

«Есе Даріо вказує на правильний шлях вперед», — сказав Хассабіс.

Маск просто написав: «Даріо має рацію».

Попередження та обіцянки генеральних директорів ШІ відкривають низку питань щодо того, як може регулюватися ШІ, які ризики він становить і чи справді галузь сповільнить лихоманкову гонку за розвитком своїх технологій. Поки законодавці та технологічна галузь розглядають, як протидіяти зростаючому страху та недовірі до ШІ, багато перешкод, що заважають комплексному регулюванню ШІ, залишаються такими ж, як і до минулотижневих апокаліптичних заяв молодого дослідника Anthropic.

Уряд США зобов'язаний брати участь у глобальній гонці озброєнь у сфері ШІ. Попередні запропоновані законодавчі акти щодо ШІ зів'яли під тиском інтенсивного, добре фінансованого корпоративного лобіювання. Стартапи ШІ стикаються з величезним тиском щодо випуску нових, потужніших продуктів перед майбутніми публічними пропозиціями на трильйони доларів.

Пропозиція Амодеї щодо темпу розвитку викликала значний скептицизм з боку критиків та дослідників, які стверджують, що компанії ШІ намагаються випередити більш суворе державне регулювання та зберегти статус-кво влади в галузі.

Anthropic та OpenAI не надали негайних коментарів на запит.

Пропозиція Амодеї зосереджена на трьох основних стовпах. По-перше, зобов'язання перед зовнішніми оцінювачами, яким надається доступ на рівні співробітників для моніторингу ризиків. По-друге, угоди між демократичними державами щодо стандартів безпеки ШІ. Нарешті, глобальна координація з авторитарними урядами, такими як Китай, з питань безпеки.

Амодеї та інші представники галузі в минулому висловлювали подібні заклики до глобальної координації, навіть до нещодавніх попереджень галузі про надмірний розвиток моделей та набуття ними автономії. Галузь ШІ, особливо її фракції, що зосереджуються на тому, чи відповідає технологія інтересам людства, також давно попереджала про екзистенційні загрози.

Рам Емануель, колишній конгресмен і глава адміністрації Барака Обами, написав у Твіттері: «Я можу сказати вам, коли востаннє генеральний директор або галузь в цілому просили про регулювання: ніколи. Ось що робить лист Даріо таким вражаючим — це визнання того, що ми їдемо темною, звивистою дорогою по мокрому асфальту з вимкненими фарами. А де президент Трамп? Схоже, він знову заснув».

Компанії ШІ коливалися у своєму наголосі на комунікації потенційної шкоди від своїх продуктів, однак, часом попереджаючи про апокаліптичні наслідки ШІ, а в інші часи обіцяючи, що він принесе утопічний добробут. OpenAI, наприклад, закрила команду «superalignment» у 2024 році, яка займалася вивченням довгострокових ризиків ШІ, а на початку цього року розпустила іншу команду, призначену для комунікації того, як OpenAI принесе користь людству.

Хоча компанії ШІ робили грандіозні заяви про загрози та переваги від своїх технологій, вони також історично надавали мало прозорості чи нагляду за тим, як працюють їхні моделі, і витрачали мільйони на лобіювання для формування сприятливого законодавства. Результатом наративу галузі ШІ про те, що це надто потужна, складна та прибуткова технологія для регулювання, на думку критиків, є те, що їй дозволили фактично керувати собою.

«Винятковий статус ШІ призвів до повної нездатності дотримуватися наших стандартів щодо того, які продукти вважаються безпечними для використання», — написала Сара Маєрс Вест, співвиконавчий директор AI Now Institute, у неділю в X.

Критики так само розглядають пропозицію Амодеї як ще один випадок, коли галузь прагне встановити власні правила, у цьому випадку обираючи власних оцінювачів для моніторингу ризиків безпеки, замість того, щоб зазнавати перевірки з боку більш інтенсивних державних регуляторів.

Алекс Борес, прихильник регулювання ШІ, чия невдала спроба потрапити до Конгресу стимулювала витрати в розмірі 24 мільйонів доларів як за, так і проти його кампанії з боку політичних комітетів, пов'язаних з ШІ, попередив, що лобі ШІ часто прагне підірвати законодавство, заявляючи про підтримку регулювання.

«Усім, хто щиро хоче реального регулювання ШІ, будь ласка, не потрапляйте на їхні ігри», — написав Борес у неділю в X.

Кілька критиків пропозиції щодо темпу розвитку ШІ з усього політичного спектру висловили занепокоєння щодо пропозиції Амодеї про те, що уряд може надати певну форму антимонопольного дозволу або звільнення для координації галузі.

Колишні посадовці, зокрема колишній «ШІ-цар» Трампа Девід Сакс та керівник Федеральної торгової комісії епохи Байдена Альваро Бедойя, припустили, що пропозиція є спробою регуляторного захоплення, яка принесе користь нинішнім лідерам галузі.

«Антимонопольне законодавство не забороняє компаніям ШІ координувати дії, щоб переконатися, що ШІ не завдає шкоди людям», — написав Бедойя в X, додавши: «Антимонопольне законодавство *абсолютно* забороняє компаніям ШІ організовуватися для запобігання виходу на ринок дешевших, нових конкурентів, тому що великі компанії спалюють готівку і не досягають достатньої прибутковості».

Заклики пропозиції щодо міжнародної координації навколо ШІ та федерального втручання також суперечать обіцянкам президента Дональда Трампа та його адміністрації зробити США домінуючою наддержавою ШІ, незалежно від проблем безпеки.

Адміністрація Трампа часто розглядала розвиток ШІ як гру з нульовою сумою проти Китаю за технологічну перевагу, аргумент, який сама галузь ШІ також просувала перед обличчям запропонованого державного регулювання. Віце-президент JD Венс заявив у минулорічній промові, що майбутнє ШІ «не буде виграно ниттям про безпеку».

У неділю Трамп знову відкинув заклики до уповільнення розвитку ШІ, посилаючись на конкуренцію з боку Китаю та заявивши репортерам: «хто виграє в ШІ, той і виграє».

«Ми можемо встановити запобіжники. Ми можемо робити це і те», — сказав Трамп репортерам під час візиту до Ірландії. «Але я думаю, що є багато дуже негативних сил, які піднімають це питання, хоча не повинні цього робити, і вони піднімають питання, які не відбудуться».

Спікер Палати представників Майк Джонсон так само заявив, що Конгрес не буде лідирувати в регулюванні безпеки ШІ, покладаючи відповідальність на компанії ШІ.