Штучний інтелект та авторитаризм: уряд без конституційних гальм

Авторитарність ШІ: Уряд без конституційних гальм

Автор: Джон і Ніша Вайтхед через The Rutherford Institute,

«Компанії зі штучного інтелекту в Сполучених Штатах повинні мати можливість впроваджувати інновації без обтяжливого регулювання».

- Президент Дональд Трамп, Виконавчий наказ 14365

Ера малого уряду закінчилася.

Той, хто скаже вам інше, продає вам брехню.

Приклад: Дональд Трамп обіцяв скоротити федеральний уряд.

Але що, як обіцянка Трампа скоротити федеральний штат насправді полягала не в усуненні державної бюрократії, а в її аутсорсингу до сектору ШІ-технологій?

Що, якби Трамп, за підтримки корисливої ​​галузі, яка прагне автоматизувати уряд, натомість допомагав будувати уряд, якому більше не потрібно стільки людей для його роботи?

Сотні тисяч федеральних службовців зникають з урядового штату одночасно, коли Вашингтон поспішає автоматизувати роботу, яку вони колись виконували за допомогою штучного інтелекту.

З моменту повернення Трампа до влади федеральний штат скоротився більш ніж на 270 000 співробітників, що стало результатом заморожування найму, відкладених відставк, дострокових пенсій та скорочень штату.

Водночас адміністрація Трампа взяла на себе агресивну кампанію з автоматизації урядових операцій, а Управління загальних служб доручило агентствам «усувати, оптимізувати та автоматизувати» свою роботу, де це можливо.

Це не повернення до меншого уряду.

Це небезпечна перекалібровка державної влади.

Те, що ми спостерігаємо, — це побудова уряду, який потребує менше людей для виконання своєї волі, менше людей для оскарження його наказів і менше людей, щоб стояти на шляху, коли ефективність стикається з законністю, мораллю чи конституційними обмеженнями.

У цьому справжня небезпека автоматизації уряду.

Люди вагаються. Люди ставлять запитання. Люди заперечують. Люди відмовляються. Люди викривають.

Машини не вагаються. Вони не заперечують. Вони не викривають.

Здебільшого машини роблять те, для чого їх запрограмували. Доки вони цього не роблять.

Для адміністрації, яка стає все більш нетерплячою до юридичних обмежень, інституційного опору та будь-кого, хто каже «ні», це не просто технологічна зручність.

Це авторитарна спокуса.

Кожен, хто вважає, що менший уряд означає меншу державну владу, повинен подумати ще раз, адже уряд, керований машинами, все ще є урядом.

Так само, уряд без бюрократів не обов'язково є урядом без бюрократії.

Це може бути просто бюрократія без людей.

І бюрократія без людей може виявитися набагато потужнішою, всюдисущою та важчою для стримування, ніж будь-що, що було до неї.

Формується уряд, який може використовувати менше людей, маючи експоненційно більшу владу для спостереження, обробки, класифікації, розслідування та контролю населення.

Дійсно, адміністрація запустила America.gov — централізований цифровий шлюз на базі ШІ, через який американці зрештою взаємодіятимуть з федеральними агентствами та здійснюватимуть державні транзакції. Білий дім хвалиться, що це дозволить федеральному уряду «самостійно вести свою документацію».

ШІ, безумовно, може зменшити кількість невирішених справ, спростити форми, обробляти інформацію та звільнити працівників від нудних завдань.

Звісно, ​​штучний інтелект може допомогти усунути повторювану паперову роботу, зменшити кількість невирішених справ, виявити марнотратство, спростити складні форми, перекласти державний жаргон простою англійською мовою, обробити величезні обсяги інформації та звільнити людських працівників від нудних завдань.

Занепокоєння викликає не те, чи може ШІ бути корисним.

Він може.

Небезпека починається, коли ШІ перестає допомагати людям і починає замінювати їх — не просто як клерків, а як осіб, що приймають рішення, слідчих, охоронців, аналітиків та виконавців державної влади.

Таким чином, занепокоєння викликає не сама технологія, а те, що відбувається, коли уряд починає використовувати її для усунення людських обмежень, від яких залежить конституційний уряд.

Ми швидко переходимо від суспільства, яким керують закони та належна правова процедура, до суспільства, яким все більше керує програмне забезпечення.

У такому режимі закон більше не просто тлумачиться. Він виконується. Автоматично. Механічно. З машинною швидкістю.

Результатом є система, в якій уряд більше не керує. Він обробляє.

Ваша заявка. Ваша податкова декларація. Ваша заява про інвалідність. Ваш імміграційний статус. Ваше обличчя. Ваші пересування. Ваші зв'язки. Ваші фінансові транзакції. Ваш запит на державні записи. Ваш профіль загрози.

Можливо, зрештою, ваша провина чи невинність.

І, якщо деякі військові планувальники матимуть свій шлях, чи кваліфікуєтеся ви як ціль.

Ось де уявна ефективність штучного інтелекту стикається лоб у лоб з Конституцією.

Уряд — це не приватна корпорація. Його мета — не просто стати швидшим, дешевшим чи продуктивнішим. Уряд володіє повноваженнями, якими не володіє жодна корпорація. Він може оподатковувати вас. Обшукувати вас. Заарештовувати вас. Ув'язнювати вас. Конфіскувати ваше майно. Стежити за вами. Обмежувати вашу свободу. І в крайніх обставинах — забрати ваше життя.

І в крайніх обставинах — забрати ваше життя.

Коли уряд здійснює ці повноваження, ефективність не може бути найвищою цінністю. Свобода повинна бути.

Належна правова процедура неефективна. Ордери на обшук неефективні. Судові процеси неефективні. Апеляції неефективні. Людський розгляд неефективний. Стримування та противаги вражаюче неефективні.

Так і має бути.

Конституція свідомо ставить перешкоди між державною владою та особою.

Перш ніж поліція зможе обшукати ваш дім, їй зазвичай потрібен ордер. Перш ніж уряд зможе ув'язнити вас, він повинен надати вам можливість оскаржити звинувачення. Державна влада свідомо розділена, щоб одна гілка могла стримувати іншу.

Все це займає час.

Все це вимагає людей.

Все це дратує чиновників, які воліли б просто зробити справи.

Однак ці запобіжники є одними з тих, що стоять між вільними людьми та урядом, який може діяти миттєво, універсально та без значного опору.

Штучний інтелект обіцяє подолати затримки, перешкоди та людські кроки, які сповільнюють роботу уряду.

Це чудово, якщо ви намагаєтеся запланувати зустріч. Це жахливо, коли уряд приймає рішення щодо вашої свободи — або вашого життя.

Протягом поколінь державна влада також обмежувалася людськими ресурсами. Було лише стільки слідчих, аналітиків та бюрократів — і лише стільки годин на день.

ШІ змінює це рівняння.

Роблячи те, що держава-поліцейський історично не мала людських ресурсів та ресурсів для швидкого виконання, ШІ-спостереження вже переорієнтовує наш світ на той, у якому свободу стає все важче впізнати: вона може бути скрізь, спостерігати за всіма та всім, моніторити, ідентифікувати, каталогізувати, перехресно перевіряти, перехресно посилатися та співставляти величезні обсяги інформації.

Державі-спостереженню більше не потрібно достатньо людей, щоб спостерігати за всіма. Їй потрібна достатня обчислювальна потужність.

Ця відмінність має значення.

Людина-слідчий може стежити лише за невеликою кількістю людей. Алгоритм може аналізувати мільйони. Бюрократ може прийняти лише невелику кількість рішень за день. Машина може прийняти мільйони, не сплячи, не вагаючись і не розвиваючи совість.

Це дозволяє державній владі — та зловживанням державною владою — діяти в масштабах, які Засновники ледь могли собі уявити.

Це також створює величезну проблему підзвітності.

Десятиліттями критики адміністративної держави попереджали про незліченних бюрократів, які володіють надмірною державною владою.

Заміна бюрократа алгоритмом не вирішує цю проблему. Це може погіршити її.

Принаймні бюрократ має ім'я. Людину можна допитати. Керівник може принаймні бюрократ має ім'я. Людину можна допитати. Керівник може втрутитися. Співробітник може відмовитися від незаконного наказу. Викривач може викрити неправомірні дії. Хтось може бути притягнутий до відповідальності.

Але що станеться, коли уряд, по суті, відповість, що рішення прийняв комп'ютер? Кого ви будете допитувати? Хто пояснить обґрунтування? Хто візьме на себе відповідальність за помилку? Хто матиме повноваження скасувати рішення машини? І що станеться, коли сам алгоритм належатиме не уряду, а приватній корпорації, чий код, навчальні дані та внутрішні механізми будуть приховані від громадського контролю?

Залежність уряду від приватних технологічних компаній лише посилює проблему.

Влада уряду залишається владою уряду, але підзвітність стає приватизованою.

Ми вже бачимо проблиски цього майбутнього.

Федеральні агентства вже експериментують зі штучним інтелектом для розгляду запитів щодо Закону про свободу інформації та рекомендують, які частини урядових записів слід приховати від громадськості. Митна та прикордонна служба тестує інструменти для редагування з використанням ШІ, тоді як інші агентства розробляють подібні системи. Людські рецензенти все ще залучені, але траєкторія очевидна: завдання, що вимагають суджень щодо того, що громадськість може знати, все частіше стають кандидатами на автоматизацію.

Ставки стають набагато вищими, коли ШІ переходить від роботи з документами до поліцейської діяльності та ведення війни.

На початку цього року Пентагон зіткнувся з Anthropic, компанією, що стоїть за системою ШІ Claude, після того, як Anthropic наполягала на збереженні обмежень щодо двох видів використання її технології: масового внутрішнього спостереження та повністю автономної зброї.

Anthropic попереджала, що сучасні системи ШІ недостатньо надійні, щоб самостійно вирішувати, коли слід стріляти, і стверджувала, що масове спостереження за допомогою ШІ може дозволити уряду складати величезні обсяги розрізненої інформації про американців у безпрецедентних масштабах.

Пентагон відповів, позначивши Anthropic як ризик у ланцюжку поставок, рішення, яке згодом стало предметом судового розгляду.

Ця суперечка повинна хвилювати кожного, хто дбає про межі державної влади.

Питання полягало не в тому, чи може штучний інтелект допомогти військовослужбовцям.

Питання полягало в тому, чи завжди має залишатися людина, відповідальна за певні рішення.

Це питання стало ще більш нагальним у вересні, коли Сполучені Штати та Росія виступили проти положень, що обговорювалися в Організації Об'єднаних Націй, які вимагали б людського перегляду військових цілей, згенерованих ШІ, та запровадили б жорсткіші вимоги щодо передбачуваності та надійності автономних систем озброєнь.

Наслідки цієї гонки до війни зі швидкістю машини більше не є гіпотетичними.

У лютому ракети США вразили початкову школу для дівчат Шаджара Тайєбе в Мінабі, Іран, убивши понад 150 людей, зокрема щонайменше 120 дітей.

Школа колись була частиною військового комплексу, але роками відкрито функціонувала як школа. Однак застаріла розвідка все ще класифікувала об'єкт як військову ціль.

Згідно з повідомленнями про внутрішнє розслідування Пентагону, помилкова ціль була завантажена в Maven, систему наведення військових з підтримкою ШІ. Посадовці, як повідомляється, надто сильно покладалися на технологію для виявлення застарілої або суперечливої розвідки, тоді як прискорений процес наведення скоротив роботу, яка колись займала години, до хвилин. Водночас команди з пом'якшення наслідків для цивільного населення були значно скорочені.

Машина не просто прокинулася одного ранку і вирішила бомбити школу. Люди створили систему, яка надавала перевагу швидкості, автоматизації та масштабу — а потім поставили її вище людського судження та ретельної перевірки.

Ця відмінність має значення. Це саме й є небезпека.

Подумайте про прогресію: спочатку ШІ робить паперову роботу. Потім ШІ рекомендує рішення. Потім ШІ приймає рішення.

Зрештою, ШІ вирішує, хто житиме, а хто помре.

На кожному кроці люди спокушаються віддати трохи більше суджень машині, тому що вона швидша, дешевша, ефективніша і нібито об'єктивніша.

Однак технологія не усуває людську упередженість, політичні програми чи неправомірні дії уряду.

Вона може їх автоматизувати. Вона може їх посилити. Вона може приховати їх за технологічною "чорною скринькою". І вона може відтворити їх мільйони разів, перш ніж хтось усвідомить, що сталося.

Ось чому запевнення в тому, що компанії ШІ можуть значною мірою самостійно себе контролювати, повинні давати мало втіхи.

На зустрічі в Білому домі з керівниками технологічних компаній 29 вересня Трамп похвалив те, що він назвав "величезним самоконтролем" з боку індустрії ШІ, і разом з великими технологічними компаніями оголосив про добровільну угоду про безпеку, що наголошує на внутрішньому контролі, зовнішніх аудитах та корпоративному нагляді.

Іншими словами, Трамп хоче, щоб ми довіряли уряду та сектору ШІ контролювати себе.

Засновники знали краще, ніж довіряти владі контролювати себе. Це одна з центральних передумов Конституції.

Як відомо, Джеймс Медісон зауважив у "Федералісті № 51": "Якби люди були ангелами, уряд не був би потрібен".

Засновники не припускали, що ті, кому довірено владу, завжди будуть стримувати себе. Вони розділили владу між конкуруючими гілками влади, тому що розуміли, що добрі наміри не є захистом від тиранії. Добровільні обіцянки також не є. Корпоративні етичні політики також не є. Алгоритми також не є.

Машини — не ангели. Корпорації, що їх створюють, — не ангели. Політики, що їх розгортають, — не ангели. І штучний інтелект не скасовує найдавнішого уроку в історії уряду: влада потребує обмежень, тому що влада завжди прагнутиме розширюватися.

Ось де кампанія зі скорочення федерального штату набуває зовсім іншого значення.

У скороченні зайвих державних службовців, усуненні марнотратства або використанні технологій для покращення роботи державних послуг немає нічого поганого.

Небезпека полягає в плутанині між меншою кількістю державних службовців і меншим урядом.

Уряд може мати менше працівників і все одно стати значно могутнішим. Він може автоматизувати спостереження. Автоматизувати розслідування. Автоматизувати рішення про право на отримання допомоги. Автоматизувати виконання нормативних вимог. Автоматизувати цензуру. Автоматизувати списки спостереження. Автоматизувати наведення. Автоматизувати покарання.

Дійсно, уряд, звільнений від практичних обмежень, накладених робочою силою, може стати більш всюдисущим, ніж будь-що, чого міг би досягти попереднє покоління бюрократів.

Це парадокс, з яким ми стикаємося.

Ми можемо будувати менший федеральний штат і більшу державну машину.

Трамп не буде президентом вічно. Так само, як і політики, які прийдуть після нього.

Але інфраструктура ШІ, що створюється зараз — бази даних, автоматизовані системи, можливості спостереження, цифрові шлюзи та відносини уряду з технологічними компаніями — буде успадкована кожною майбутньою адміністрацією.

Як я чітко зазначаю у своїй книзі "Battlefield America: The War on the American People" та в її вигаданому аналогу "The Erik Blair Diaries", як тільки ці повноваження будуть вбудовані в механізми уряду, їх буде надзвичайно важко демонтувати.

Ось чому дебати щодо штучного інтелекту не можна зводити до того, чи створює ШІ робочі місця, знищує робочі місця, заощаджує гроші платників податків або робить уряд зручнішим.

Більш важливе питання: що станеться, коли все менше і менше людей стоятиме між державною владою та людьми, які їй підпорядковуються?

Що станеться, коли за рішенням не буде людського обличчя? Людського судження. Людського вагання. Людського милосердя. Людського сумління.

Жодної людини, яка б бажала — або могла — сказати: це неправильно.

Найбільша небезпека полягає не в тому, що штучний інтелект раптово захопить контроль над урядом. А в тому, що державні службовці добровільно передадуть все більше контролю штучному інтелекту, тому що машини швидші, дешевші, слухняніші та легше звинувачувати.

Ось як бюрократія без бюрократів стає авторитаризмом без підзвітності.

Уряд може найняти менше людей. Він може мати менше офісів. Він може ліквідувати паперову роботу та автоматизувати цілі відомства. Але якщо він зможе спостерігати за більшою кількістю людей, розслідувати щодо більшої кількості людей, обробляти інформацію про більшу кількість людей, націлюватися на більшу кількість людей і здійснювати більше влади над більшою кількістю життів, ніж будь-коли раніше, це не буде менший уряд.

Це уряд без людських обмежень.

Засновники побудували Конституцію навколо простої істини: владі не можна довіряти, щоб вона стримувала себе сама.

Ця істина не стає застарілою через те, що механізм влади тепер працює на штучному інтелекті. Якщо щось і стає, то це більш нагальним.

Тому що, як тільки ми усунемо людей, які можуть ставити під сумнів, чинити опір, заперечувати та відмовлятися, ми можемо виявити занадто пізно, що ми взагалі не ліквідували бюрократію.

Ми усунули гальма.

Tyler Durden
Пт, 10/09/2026 - 23:25