Google, за повідомленнями, підписала секретну угоду щодо ШІ з Пентагоном США

Google, за повідомленнями, підписала угоду з Пентагоном США щодо використання своїх моделей штучного інтелекту для секретної роботи. Технологічна компанія приєднується до зростаючого списку фірм із Кремнієвої долини, які укладають угоди з Міністерством оборони США.

Угода дозволяє Пентагону використовувати ШІ Google для «будь-якої законної державної мети», додається у звіті The Information, ставлячи її поряд з OpenAI та xAI Ілона Маска, які також мають угоди про постачання моделей ШІ для секретного використання. Подібні угоди, як у Google, так і в інших компаніях, що займаються ШІ, викликали значні розбіжності з Пентагоном та значний опір з боку співробітників.

Секретні мережі використовуються для виконання широкого спектру чутливих завдань, включаючи планування місій та наведення зброї. Пентагон уклав угоди на суму до 200 мільйонів доларів кожна з великими лабораторіями ШІ у 2025 році, включаючи Anthropic, OpenAI та Google. Урядова установа наполягала на тому, щоб провідні компанії, що займаються ШІ, такі як OpenAI та Anthropic, зробили свої інструменти доступними в секретних мережах без стандартних обмежень, які вони застосовують до користувачів.

Угода Google вимагає від компанії допомоги у налаштуванні параметрів безпеки та фільтрів ШІ за запитом уряду, згідно зі звітом The Information.

Контракт містить формулювання, що стверджує: «сторони погоджуються, що система ШІ не призначена для масового внутрішнього спостереження або автономної зброї (включаючи вибір цілей) без належного людського нагляду та контролю, і не повинна використовуватися для цього».

Однак, угода також зазначає, що вона не надає Google права контролювати або накладати вето на законні рішення уряду щодо операційної діяльності, додається у звіті.

Пентагон відмовився коментувати це питання.

Google заявив, що підтримує державні установи як у секретних, так і в несекретних проєктах. Представник компанії заявив, що компанія залишається відданою консенсусу щодо того, що ШІ не повинен використовуватися для масового внутрішнього спостереження або автономної зброї без належного людського нагляду.

«Ми вважаємо, що надання доступу через API до наших комерційних моделей, зокрема на інфраструктурі Google, з дотриманням галузевих стандартів та умов, є відповідальним підходом до підтримки національної безпеки», — повідомив Reuters представник Google.

Пентагон заявив, що не зацікавлений у використанні ШІ для масового спостереження за американцями або для розробки летальної зброї, яка діє без людського втручання, але хоче дозволити «будь-яке законне використання» ШІ. Anthropic зіткнувся з наслідками з боку Пентагону раніше цього року після того, як стартап відмовився видалити запобіжники проти використання свого ШІ для автономної зброї або внутрішнього спостереження, і департамент позначив розробника Claude як ризик для ланцюга поставок.

Угода Google з Пентагоном укладається, незважаючи на побоювання співробітників, що їхня робота може бути використана «нелюдськими або надзвичайно шкідливими способами», як зазначено в листі співробітників Google.

У понеділок понад 600 працівників Google підписали відкритий лист генеральному директору Сундару Пічаї, висловивши занепокоєння щодо переговорів між Google та Пентагоном.

«Ми вважаємо, що наша близькість до цієї технології створює відповідальність за висвітлення та запобігання її найбільш неетичному та небезпечному використанню», — написали вони. «Тому ми просимо вас відмовитися від надання наших систем ШІ для секретних завдань».

Минулого року материнська компанія Google, Alphabet, скасувала заборону на використання ШІ для зброї та інструментів спостереження. Компанія видалила формулювання зі своїх етичних настанов, які обіцяли, що компанія не буде займатися «технологіями, які спричиняють або, ймовірно, спричинять загальну шкоду». Провідний спеціаліст Google з ШІ Деміс Хассабіс заявив у блозі, що ШІ став важливим для захисту «національної безпеки».

Деякі співробітники Google висловили своє занепокоєння щодо зміни формулювань на внутрішній дошці оголошень компанії в той час. Один запитав: «Чи ми погані хлопці?» згідно з Business Insider.

Використання ШІ та технологій у війні давно є джерелом тривоги для співробітників Google, чия попередня активність з цього питання мала певний успіх. У 2018 році тисячі співробітників Google підписали лист, протестуючи проти участі їхньої компанії в контракті з Пентагоном, який використовував її інструменти ШІ для аналізу відеоматеріалів з дронів-спостерігачів. Google вирішив не продовжувати контракт Project Maven того року після широкого внутрішнього обурення, і суперечлива компанія з аналітики спостереження Palantir втрутилася, щоб взяти його на себе.