La sénatrice Warren interroge le DOD sur la liste noire d'Anthropic qui « semble être des représailles »

La sénatrice Elizabeth Warren, D-Mass., a déclaré que la décision du ministère de la Défense de désigner la startup d'intelligence artificielle Anthropic comme un risque pour la chaîne d'approvisionnement « semble être des représailles ».
Dans une lettre officielle adressée au secrétaire américain à la Défense Pete Hegseth lundi, Warren a noté que le département « aurait pu choisir de résilier son contrat avec Anthropic ou de continuer à utiliser sa technologie dans des systèmes non classifiés ».
« Je suis particulièrement préoccupée par le fait que le DOD tente de forcer les entreprises américaines à fournir au Département les outils nécessaires pour espionner les citoyens américains et déployer des armes entièrement autonomes sans garanties adéquates », a écrit Warren.
Les sénateurs américains cherchent à obtenir plus d'informations sur les contrats du ministère de la Défense avec les entreprises technologiques alors que la guerre en Iran se poursuit, le conflit entrant dans sa quatrième semaine.
Dans les jours précédant la guerre, le DOD et Anthropic se sont heurtés alors que le département cherchait un accès illimité à ses modèles pour « toutes les fins légales », tandis qu'Anthropic souhaitait l'assurance que ses modèles ne seraient pas utilisés pour des armes entièrement autonomes ou la « surveillance de masse » domestique.
Le 27 février, Hegseth a annoncé qu'il demandait au DOD d'appliquer l'étiquette de « risque pour la chaîne d'approvisionnement » à l'entreprise. L'avis officiel est arrivé une semaine plus tard, alors que le département continuait d'utiliser le modèle Claude d'Anthropic en Iran.
Anthropic a intenté une action en justice contre l'administration Trump après que l'entreprise a été mise sur liste noire et jugée une menace pour la sécurité nationale américaine. Une audience préliminaire pour le procès est prévue mardi devant le tribunal de district américain du district nord de la Californie.
Quelques heures après la mise sur liste noire d'Anthropic, OpenAI est entré en scène, annonçant un accord avec le DOD.
L'entreprise s'est dite convaincue que le DOD n'utiliserait pas ses systèmes d'IA pour la surveillance de masse ou les armes entièrement autonomes en raison de la « pile de sécurité » d'OpenAI, des lois existantes et du langage du contrat, qui n'a pas été entièrement partagé.
Cependant, ni Altman ni le département de la Défense n'ont pu apaiser les préoccupations des législateurs, du public et de certains employés des entreprises.
Warren cherche également des réponses auprès du PDG d'OpenAI, Sam Altman.
Dans une lettre lundi, Warren a demandé à Altman des informations sur les termes de son accord avec le DOD.
« Je crains que les termes de cet accord ne permettent à l'administration Trump d'utiliser la technologie d'OpenAI pour mener une surveillance de masse des Américains et construire des armes létales autonomes qui pourraient nuire à des civils avec peu ou pas de supervision humaine », indique la lettre.
La semaine dernière, Altman a rencontré une poignée de législateurs à Washington, D.C., où le sénateur Mark Kelly, D-Ariz., a soulevé des « questions sérieuses » sur l'approche de l'entreprise en matière de guerre et son contrat avec le DOD.
« En fin de compte, il est impossible d'évaluer les garanties et les interdictions qui peuvent exister dans l'accord d'OpenAI avec le DOD sans voir le contrat complet, que ni le DOD ni OpenAI n'ont rendu disponible », a écrit Warren.
Elle a ajouté que ce qui a été rendu public soulève des préoccupations importantes quant à l'utilisation de l'IA par le DOD.
Malgré les appels à des réponses, les démocrates du Sénat ont une capacité limitée à forcer l'action, car les Républicains contrôlent la Maison Blanche et les deux chambres du Congrès.