Сенаторка Воррен ставить запитання Міністерству оборони щодо чорного списку Anthropic, який "схожий на помсту"

Сенаторка Елізабет Воррен, членкиня Демократичної партії від штату Массачусетс, заявила, що рішення Міністерства оборони США про визначення стартапу штучного інтелекту Anthropic як ризику в ланцюжку поставок "схоже на помсту".
У офіційному листі до міністра оборони США Піта Хегсета в понеділок Воррен зазначила, що міністерство "могло б обрати припинення контракту з Anthropic або продовжити використання його технологій у несекретних системах".
"Мене особливо турбує те, що Міністерство оборони намагається тиснути на американські компанії, щоб вони надали Міністерству інструменти для шпигунства за американськими громадянами та розгортання повністю автономної зброї без належних запобіжних заходів", – написала Воррен.
Сенатори США шукають більше відповідей від Міністерства оборони щодо контрактів з технологічними компаніями, оскільки війна в Ірані триває, а конфлікт триває четвертий тиждень.
За кілька днів до війни Міністерство оборони та Anthropic зіткнулися, оскільки міністерство прагнуло отримати безперешкодний доступ до своїх моделей для всіх "законних цілей", тоді як Anthropic хотіло гарантій того, що його моделі не будуть використовуватися для повністю автономної зброї або внутрішнього "масового спостереження".
27 лютого Хегсет опублікував заяву про те, що він доручив Міністерству оборони застосувати до компанії позначку "ризик у ланцюжку поставок". Офіційне повідомлення надійшло через тиждень, коли міністерство продовжувало використовувати модель Claude від Anthropic в Ірані.
Anthropic подав позов проти адміністрації Трампа після того, як компанію внесли до чорного списку та визнали загрозою національній безпеці США. Попереднє слухання у справі заплановано на вівторок у Окружному суді США Північного округу Каліфорнії.
Через кілька годин після внесення Anthropic до чорного списку, OpenAI вийшла на сцену, оголосивши про угоду з Міністерством оборони.
Компанія заявила, що впевнена, що Міністерство оборони не буде використовувати її системи ШІ для масового спостереження або повністю автономної зброї через "стек безпеки" OpenAI, чинні закони та формулювання контракту, яке не було повністю оприлюднено.
Однак ні Альтман, ні міністерство оборони не змогли заспокоїти занепокоєння законодавців, громадськості та деяких співробітників компаній.
Воррен також шукає відповіді від генерального директора OpenAI Сема Альтмана.
У листі в понеділок Воррен попросила Альтмана надати інформацію про умови його угоди з Міністерством оборони.
"Мене турбує те, що умови цієї угоди можуть дозволити адміністрації Трампа використовувати технологію OpenAI для масового спостереження за американцями та створення летальної автономної зброї, яка може завдати шкоди цивільним особам майже без людського контролю", – йдеться в листі.
Минулого тижня Альтман зустрівся з кількома законодавцями у Вашингтоні, округ Колумбія, де сенатор Марк Келлі, член Демократичної партії від штату Аризона, поставив "серйозні запитання" щодо підходу компанії до ведення війни та її контракту з Міністерством оборони.
"Зрештою, неможливо оцінити будь-які запобіжні заходи та заборони, які можуть існувати в угоді OpenAI з Міністерством оборони, не побачивши повний контракт, який не надали ні Міністерство оборони, ні OpenAI", – написала Воррен.
Вона додала, що те, що було оприлюднено, викликає серйозне занепокоєння щодо використання ШІ Міністерством оборони.
Незважаючи на заклики до відповідей, демократи в Сенаті мають обмежені можливості для примусових дій, оскільки республіканці контролюють Білий дім та обидві палати Конгресу.