La senadora Warren cuestiona al DOD sobre la lista negra de Anthropic que "parece ser una represalia"

La senadora Elizabeth Warren, demócrata por Massachusetts, dijo que la decisión del Departamento de Defensa de designar a la startup de inteligencia artificial Anthropic como un riesgo en la cadena de suministro "parece ser una represalia".
En una carta formal dirigida al Secretario de Defensa de EE. UU., Pete Hegseth, el lunes, Warren señaló que el departamento "podría haber optado por rescindir su contrato con Anthropic o continuar utilizando su tecnología en sistemas no clasificados".
"Me preocupa especialmente que el DOD esté tratando de presionar a las empresas estadounidenses para que proporcionen al Departamento las herramientas para espiar a los ciudadanos estadounidenses y desplegar armas totalmente autónomas sin salvaguardias adecuadas", escribió Warren.
Los senadores estadounidenses buscan más respuestas de los contratos del Departamento de Defensa con empresas de tecnología mientras continúa la guerra en Irán, y el conflicto entra en su cuarta semana.
En los días previos a la guerra, el DOD y Anthropic chocaron mientras el departamento buscaba acceso sin restricciones a sus modelos para todos los "fines lícitos", mientras que Anthropic quería garantías de que sus modelos no se utilizarían para armas totalmente autónomas o "vigilancia masiva" doméstica.
El 27 de febrero, Hegseth publicó que estaba instruyendo al DOD a aplicar la etiqueta de "riesgo en la cadena de suministro" a la empresa. El aviso oficial llegó una semana después, mientras el departamento continuaba utilizando el modelo Claude de Anthropic en Irán.
Anthropic presentó una demanda contra la administración Trump después de que la empresa fuera incluida en la lista negra y considerada una amenaza para la seguridad nacional de EE. UU. Una audiencia preliminar para la demanda está programada para el martes en el Tribunal de Distrito de EE. UU. para el Distrito Norte de California.
Horas después de que Anthropic fuera incluida en la lista negra, OpenAI entró en escena, anunciando un acuerdo con el DOD.
La compañía dijo que confiaba en que el DOD no utilizaría sus sistemas de IA para vigilancia masiva o armas totalmente autónomas debido a la "pila de seguridad" de OpenAI, las leyes existentes y el lenguaje del contrato, que no se ha compartido en su totalidad.
Sin embargo, ni Altman ni el departamento de defensa han podido calmar las preocupaciones de los legisladores, el público y algunos de los empleados de las empresas.
Warren también está buscando respuestas del CEO de OpenAI, Sam Altman.
En una carta el lunes, Warren pidió a Altman información sobre los términos de su acuerdo con el DOD.
"Me preocupa que los términos de este acuerdo puedan permitir a la Administración Trump utilizar la tecnología de OpenAI para llevar a cabo vigilancia masiva de estadounidenses y construir armas autónomas letales que podrían dañar a civiles con poca o ninguna supervisión humana", afirma la carta.
La semana pasada, Altman se reunió con un puñado de legisladores en Washington, D.C., donde el senador Mark Kelly, demócrata por Arizona, planteó "serias preguntas" sobre el enfoque de la compañía en la guerra y su contrato con el DOD.
"En última instancia, es imposible evaluar las salvaguardias y prohibiciones que puedan existir en el acuerdo de OpenAI con el DoD sin ver el contrato completo, que ni el DoD ni OpenAI han puesto a disposición", escribió Warren.
Agregó que lo que se ha hecho público plantea serias preocupaciones sobre el uso de IA por parte del DOD.
A pesar de los llamados a respuestas, los demócratas en el Senado tienen una capacidad limitada para forzar acciones, ya que los republicanos controlan la Casa Blanca y ambas cámaras del Congreso.