Google supuestamente firma un acuerdo clasificado de IA con el Pentágono de EE. UU.

Google ha informado de que ha firmado un acuerdo con el Pentágono de EE. UU. para utilizar sus modelos de inteligencia artificial para trabajos clasificados. La empresa tecnológica se une a una lista creciente de empresas de Silicon Valley que firman acuerdos con el ejército de EE. UU.

El acuerdo permite que el Pentágono utilice la IA de Google para “cual fin gubernamental legal”, según añadió el informe de The Information, poniendo a su lado a OpenAI y xAI de Elon Musk, que también tienen acuerdos para suministrar modelos de IA para uso clasificado. Acuerdo similares, tanto en Google como en otras empresas de IA, han provocado importantes desacuerdos con el Pentágono y una fuerte oposición de los empleados, y la agencia gubernamental había estado presionando a las principales empresas de IA, como OpenAI y Anthropic, para que hicieran disponibles sus herramientas en redes clasificadas sin las restricciones estándar que se aplican a los usuarios.

Las redes clasificadas se utilizan para gestionar una amplia gama de trabajos sensibles, incluida la planificación de misiones y el objetivo de armas. El Pentágono firmó acuerdos por hasta 200 millones de dólares cada uno con importantes laboratorios de IA en 2025, incluidos Anthropic, OpenAI y Google. La agencia gubernamental había estado presionando a las principales empresas de IA, como OpenAI y Anthropic, para que hicieran disponibles sus herramientas en redes clasificadas sin las restricciones estándar que se aplican a los usuarios.

El acuerdo de Google requiere que ayude a ajustar la configuración de seguridad de la IA de la empresa a petición del gobierno, según informa The Information.

El contrato incluye una cláusula que establece: “las partes acuerdan que el Sistema de IA no está destinado a, y no debe utilizarse para, la vigilancia masiva a nivel nacional ni para armas autónomas (incluida la selección de objetivos) sin una supervisión y control humanos adecuados”.

Sin embargo, el acuerdo también dice que no le otorga a Google el derecho a controlar o vetar las decisiones operativas legales del gobierno, añadió el informe.

El Pentágono se negó a hacer comentarios sobre el asunto.

Google dijo que apoya a las agencias gubernamentales en proyectos tanto clasificados como no clasificados. Un portavoz de la empresa dijo que la empresa sigue comprometida con el consenso de que la IA no debe utilizarse para la vigilancia masiva a nivel nacional ni para armas autónomas sin una supervisión humana adecuada.

“Creemos que proporcionar acceso de API a nuestros modelos comerciales, incluido en la infraestructura de Google, con prácticas y términos estándar de la industria, representa un enfoque responsable para apoyar la seguridad nacional”, dijo un portavoz de Google a Reuters.

El Pentágono ha dicho que no tiene interés en utilizar la IA para llevar a cabo la vigilancia masiva de los estadounidenses ni para desarrollar armas letales que operen sin intervención humana, pero quiere que “cualquier uso legal” de la IA se permita. Anthropic enfrentó consecuencias con el Pentágono anteriormente en el año después de que la startup se negara a eliminar las protecciones contra el uso de su IA para armas autónomas o vigilancia doméstica, y el departamento designó al creador de Claude como un riesgo de la cadena de suministro.

Las preocupaciones de los empleados de Google sobre el uso potencial de su trabajo para “formas inhumanas o extremadamente dañinas” se reflejan en una carta dirigida al CEO, Sundar Pichai, expresando sus preocupaciones sobre las negociaciones entre Google y el Pentágono.

“Sentimos que nuestra proximidad a esta tecnología crea una responsabilidad de destacar y prevenir sus usos más poco éticos y peligrosos”, escribieron. “Por lo tanto, les pedimos que se nieguen a hacer que nuestros sistemas de IA estén disponibles para cargas de trabajo clasificadas”.

El año pasado, Alphabet, la empresa matriz de Google, levantó un veto sobre el uso de la IA para herramientas de armas y vigilancia. La empresa eliminó del lenguaje de sus directrices éticas la promesa de que la empresa no perseguiría “tecnologías que causen o sean propensas a causar un daño general”. El líder de IA de la empresa, Demis Hassabis, dijo en un artículo de blog que la IA se había vuelto importante para proteger “la seguridad nacional”.

Algunos empleados de Google expresaron sus preocupaciones sobre el cambio de lenguaje en el tablón de anuncios interno de la empresa en ese momento. Uno preguntó: "¿Somos nosotros los malos?", según Business Insider.

El uso de la IA y la tecnología en la guerra ha sido durante mucho tiempo una fuente de ansiedad para los empleados de Google, cuya anterior actividad de defensa ha visto algunos éxitos. En 2018, miles de empleados de Google firmaron una carta protestando contra la participación de su empresa en un contrato que utilizaba sus herramientas de IA para analizar imágenes de vigilancia de drones. Google eligió no renovar el contrato del Proyecto Maven ese mismo año tras una fuerte reacción interna, y la controvertida empresa de análisis de vigilancia Palantir se apresuró a tomar el relevo.