Sen. Warren questiona o DOD sobre lista negra da Anthropic que "parece ser retaliação"

A senadora Elizabeth Warren, D-Mass., disse que a decisão do Departamento de Defesa de designar a startup de inteligência artificial Anthropic como um risco na cadeia de suprimentos "parece ser retaliação".
Em uma carta formal ao Secretário de Defesa dos EUA, Pete Hegseth, na segunda-feira, Warren observou que o departamento "poderia ter optado por rescindir seu contrato com a Anthropic ou continuar usando sua tecnologia em sistemas não classificados".
"Estou particularmente preocupada que o DoD esteja tentando coagir empresas americanas a fornecer ao Departamento as ferramentas para espionar cidadãos americanos e implantar armas totalmente autônomas sem salvaguardas adequadas", escreveu Warren.
Senadores dos EUA buscam mais respostas dos contratos do Departamento de Defesa com empresas de tecnologia, enquanto a guerra no Irã continua, com o conflito entrando em sua quarta semana.
Nos dias que antecederam a guerra, o DOD e a Anthropic entraram em conflito, pois o departamento buscava acesso irrestrito aos seus modelos para todos os "propósitos legais", enquanto a Anthropic desejava garantia de que seus modelos não seriam usados para armas totalmente autônomas ou "vigilância em massa" doméstica.
Em 27 de fevereiro, Hegseth postou que estava instruindo o DOD a aplicar o rótulo de "risco na cadeia de suprimentos" à empresa. O aviso oficial veio uma semana depois, enquanto o departamento continuava a usar o modelo Claude da Anthropic no Irã.
A Anthropic entrou com uma ação judicial contra a administração Trump depois que a empresa foi colocada em lista negra e considerada uma ameaça à segurança nacional dos EUA. Uma audiência preliminar para o processo está agendada para terça-feira no Tribunal Distrital dos EUA do Distrito Norte da Califórnia.
Horas depois que a Anthropic foi colocada em lista negra, a OpenAI entrou em cena, anunciando um acordo com o DOD.
A empresa disse que estava confiante de que o DOD não usaria seus sistemas de IA para vigilância em massa ou armas totalmente autônomas devido à "pilha de segurança" da OpenAI, leis existentes e à linguagem do contrato, que não foi totalmente compartilhada.
No entanto, nem Altman nem o departamento de defesa conseguiram acalmar as preocupações de legisladores, do público e de alguns funcionários das empresas.
Warren também está buscando respostas do CEO da OpenAI, Sam Altman.
Em uma carta na segunda-feira, Warren pediu a Altman informações sobre os termos de seu acordo com o DOD.
"Estou preocupada que os termos deste acordo possam permitir que a Administração Trump use a tecnologia da OpenAI para conduzir vigilância em massa de americanos e construir armas letais autônomas que poderiam prejudicar civis com pouca ou nenhuma supervisão humana", afirma a carta.
Na semana passada, Altman se reuniu com um punhado de legisladores em Washington, D.C., onde o senador Mark Kelly, D-Ariz., levantou "sérias questões" sobre a abordagem da empresa à guerra e seu contrato com o DOD.
"Em última análise, é impossível avaliar quaisquer salvaguardas e proibições que possam existir no acordo da OpenAI com o DoD sem ver o contrato completo, que nem o DoD nem a OpenAI disponibilizaram", escreveu Warren.
Ela acrescentou que o que foi tornado público levanta preocupações significativas sobre o uso de IA pelo DOD.
Apesar dos apelos por respostas, os democratas no Senado têm capacidade limitada para forçar ações, pois os republicanos controlam a Casa Branca e ambas as casas do Congresso.