Google avrebbe firmato un accordo classificato sull'IA con il Pentagono

Google avrebbe firmato un accordo con il Pentagono per utilizzare i suoi modelli di intelligenza artificiale per lavori classificati. L'azienda tecnologica si unisce a un numero crescente di aziende della Silicon Valley che stringono accordi con i militari statunitensi.

L'accordo consente al Pentagono di utilizzare l'IA di Google per "qualsiasi scopo governativo lecito", ha aggiunto il rapporto di The Information, affiancandolo a OpenAI e xAI di Elon Musk, che hanno anch'essi accordi per fornire modelli di IA per uso classificato. Accordi simili, sia in Google che in altre aziende di IA, hanno suscitato notevoli disaccordi con il Pentagono e una forte opposizione da parte dei dipendenti.

Le reti classificate vengono utilizzate per gestire un'ampia gamma di lavori sensibili, tra cui la pianificazione delle missioni e il targeting delle armi. Il Pentagono ha firmato accordi del valore fino a 200 milioni di dollari ciascuno con importanti laboratori di IA nel 2025, tra cui Anthropic, OpenAI e Google. L'agenzia governativa stava spingendo le principali aziende di IA come OpenAI e Anthropic a rendere i loro strumenti disponibili sulle reti classificate senza le restrizioni standard che applicano agli utenti.

L'accordo di Google richiede che l'azienda assista nella modifica delle impostazioni e dei filtri di sicurezza dell'IA su richiesta del governo, secondo il rapporto di The Information.

Il contratto include una clausola che afferma: "le parti concordano che il Sistema di IA non è destinato, e non deve essere utilizzato, per la sorveglianza di massa domestica o per armi autonome (incluso il targeting) senza un'adeguata supervisione e controllo umano".

Tuttavia, l'accordo afferma anche che non conferisce a Google il diritto di controllare o porre il veto alle decisioni operative lecite del governo, ha aggiunto il rapporto.

Il Pentagono ha rifiutato di commentare la questione.

Google ha dichiarato di supportare le agenzie governative sia per progetti classificati che non classificati. Un portavoce dell'azienda ha affermato che l'azienda rimane impegnata nel consenso che l'IA non debba essere utilizzata per la sorveglianza di massa domestica o per armamenti autonomi senza un'adeguata supervisione umana.

"Crediamo che fornire l'accesso API ai nostri modelli commerciali, anche sull'infrastruttura Google, con pratiche e termini standard del settore, rappresenti un approccio responsabile per supportare la sicurezza nazionale", ha detto un portavoce di Google a Reuters.

Il Pentagono ha dichiarato di non avere interesse a utilizzare l'IA per condurre sorveglianza di massa degli americani o per sviluppare armi letali che operano senza coinvolgimento umano, ma vuole che sia consentito "qualsiasi uso lecito" dell'IA. Anthropic ha affrontato ripercussioni con il Pentagono all'inizio dell'anno dopo che la startup si è rifiutata di rimuovere le protezioni contro l'uso della sua IA per armi autonome o sorveglianza domestica, e il dipartimento ha designato il produttore di Claude come un rischio per la catena di approvvigionamento.

L'accordo di Google con il Pentagono arriva nonostante le paure dei dipendenti che il loro lavoro possa essere utilizzato in "modi inumani o estremamente dannosi", come si legge in una lettera dei dipendenti di Google.

Lunedì, oltre 600 dipendenti di Google hanno firmato una lettera aperta al CEO, Sundar Pichai, esprimendo preoccupazione per le trattative tra Google e il Pentagono.

"Sentiamo che la nostra vicinanza a questa tecnologia crea una responsabilità per evidenziare e prevenire i suoi usi più non etici e pericolosi", hanno scritto. "Pertanto, vi chiediamo di rifiutarvi di rendere i nostri sistemi di IA disponibili per carichi di lavoro classificati."

L'anno scorso, la società madre di Google, Alphabet, ha revocato il divieto sull'uso dell'IA per armi e strumenti di sorveglianza. L'azienda ha rimosso dal suo codice etico la promessa che l'azienda non avrebbe perseguito "tecnologie che causano o è probabile che causino danni complessivi". Il responsabile dell'IA dell'azienda, Demis Hassabis, ha dichiarato in un post sul blog che l'IA è diventata importante per proteggere la "sicurezza nazionale".

Alcuni dipendenti di Google hanno espresso le loro preoccupazioni riguardo al cambiamento di linguaggio sulla bacheca interna dell'azienda all'epoca. Uno ha chiesto: "Siamo noi i cattivi?" secondo Business Insider.

L'uso dell'IA e della tecnologia in guerra è da tempo fonte di ansia per i dipendenti di Google, la cui precedente attività su questo tema ha avuto un certo successo. Nel 2018, migliaia di dipendenti di Google hanno firmato una lettera di protesta contro il coinvolgimento della loro azienda in un contratto con il Pentagono che utilizzava i suoi strumenti di IA per analizzare filmati di sorveglianza di droni. Google ha scelto di non rinnovare il contratto Project Maven quell'anno dopo un'ampia reazione interna, e la controversa società di analisi della sorveglianza Palantir è intervenuta per subentrare.