Google podaje, że podpisał tajną umowę dotyczącą sztucznej inteligencji z amerykańskim Pentagonem

Podaje się, że Google podpisał umowę z amerykańskim Pentagonem na wykorzystanie jego modeli sztucznej inteligencji do tajnych prac. Firma technologiczna dołącza do rosnącej listy firm z Doliny Krzemowej, które zawierają umowy z amerykańską armią.

Umowa pozwala Pentagonowi na wykorzystanie sztucznej inteligencji Google do „dowolnego legalnego celu rządu” – dodaje raport z Information – stawiając ją obok OpenAI i xAI Elona Muska, które również mają umowy na dostarczanie modeli sztucznej inteligencji do tajnych zastosowań. Podobne umowy, zarówno w Google, jak i w innych firmach zajmujących się sztuczną inteligencją, wywołały znaczne spory z Pentagonem i silny sprzeciw ze strony pracowników.

Sieci tajne są wykorzystywane do obsługi szerokiego zakresu wrażliwych zadań, w tym planowania misji i celowania w uzbrojenie. Pentagon podpisał umowy o wartości do 200 milionów dolarów każda z głównymi laboratoriami sztucznej inteligencji w 2025 roku, w tym Anthropic, OpenAI i Google. Agencja rządowa naciskała na wiodące firmy zajmujące się sztuczną inteligencją, takie jak OpenAI i Anthropic, aby udostępniły swoje narzędzia na sieciach tajnych bez standardowych ograniczeń, które nakładają na użytkowników.

Umowa Google wymaga, aby firma pomagała w dostosowywaniu ustawień i filtrów bezpieczeństwa firmy AI na żądanie rządu – podaje raport z Information.

Umowa zawiera zapis, że „strony zgadzają się, że System AI nie jest przeznaczony do i nie powinien być wykorzystywany do innej niż krajowa masowa inwigilacja lub autonomiczna broń (w tym wybór celów) bez odpowiedniego nadzoru i kontroli człowieka”.

Jednak umowa mówi również, że nie daje Google prawa do kontrolowania lub weta legalnych decyzjom operacyjnym rządu – dodaje raport.

Pentagon odmówił komentarza w tej sprawie.

Google stwierdziło, że wspiera agencje rządowe w projektach zarówno tajnych, jak i nietajnych. Rzecznik firmy powiedział, że firma pozostaje zaangażowana w konsensus, że sztuczna inteligencja nie powinna być wykorzystywana do krajowej masowej inwigilacji lub autonomicznej broni bez odpowiedniego nadzoru człowieka.

„Wierzymy, że udostępnianie dostępu do API do naszych komercyjnych modeli, w tym na infrastrukturze Google, z powszechnie akceptowanymi praktykami i warunkami, stanowi odpowiedzialne podejście do wspierania bezpieczeństwa narodowego” – powiedział rzecznik Google agencji Reuters.

Pentagon oświadczył, że nie jest zainteresowany wykorzystywaniem sztucznej inteligencji do prowadzenia masowej inwigilacji Amerykanów ani do opracowywania śmiercionośnych broni, które działają bez udziału człowieka, ale chce, aby zezwalało się na „dowolne legalne wykorzystanie” sztucznej inteligencji. Anthropic spotkało się z konsekwencjami w Pentagonie wcześniej w tym roku, po tym jak startup odmówił usunięcia zabezpieczeń przed wykorzystaniem jego sztucznej inteligencji do autonomicznej broni lub krajowej inwigilacji, a departament uznał twórcę Claude’a za ryzyko łańcucha dostaw.

Umowa Google z Pentagonem następuje pomimo obaw pracowników, że ich praca może być wykorzystywana w „nieludzki lub wyjątkowo szkodliwy sposób” – jak wynika z listu od pracowników Google.

W poniedziałek ponad 600 pracowników Google podpisało list otwarty do dyrektora generalnego Sundara Pichai, wyrażając obawy dotyczące negocjacji między Google a Pentagonem.

„Uważamy, że nasza bliskość z tą technologią stwarza odpowiedzialność za podkreślenie i zapobieganie jej najbardziej nieetycznym i niebezpiecznym zastosowaniom” – napisali. „Dlatego prosimy o odmowę udostępnienia naszych systemów sztucznej inteligencji do tajnych zadań”.

W zeszłym roku Alphabet, właściciel Google, zniosł zakaz wykorzystywania sztucznej inteligencji do narzędzi broni i inwigilacji. Firma usunęła zapis w swoich wytycznych etycznych, który obiecywał, że firma nie będzie dążyć do „technologii, które powodują lub są prawdopodobne, że spowodują ogólne szkody”. Kierownik ds. sztucznej inteligencji firmy, Demis Hassabis, powiedział w poście na blogu, że sztuczna inteligencja stała się ważna dla ochrony „bezpieczeństwa narodowego”.

Niektórzy pracownicy Google wyrażali swoje obawy dotyczące zmiany języka na wewnętrznej tablicy wiadomości firmy w tym czasie. Jeden zapytał: „Czy jesteśmy złymi facetami?” – według Business Insider.

Wykorzystanie sztucznej inteligencji i technologii w wojnie od dawna jest źródłem niepokoju dla pracowników Google, których wcześniejsza aktywizm w tej sprawie odniósł pewien sukces. W 2018 roku tysiące pracowników Google podpisało list protestujący przeciwko zaangażowaniu ich firmy w umowę z Pentagonem, która wykorzystywała jego narzędzia sztucznej inteligencji do analizy nagrań z kamer dronów. Google nie przedłużył kontraktu Project Maven w tym roku po szerokim wewnętrznym sprzeciwie, a kontrowersyjna firma analityczna zajmująca się inwigilacją Palantir przejęła go.