워런 상원의원, 앤트로픽 AI 블랙리스트에 국방부 질의 "보복으로 보인다"

매사추세츠주 민주당 소속 엘리자베스 워런 상원의원은 국방부의 인공지능 스타트업 앤트로픽을 공급망 위험으로 지정한 결정이 "보복으로 보인다"고 말했다.
월요일 피트 헤그세스 미국 국방장관에게 보낸 공식 서한에서 워런 의원은 국방부가 "앤트로픽과의 계약을 종료하거나 분류되지 않은 시스템에서 기술을 계속 사용하는 것을 선택할 수 있었다"고 언급했다.
워런 의원은 "국방부가 미국 기업들을 압박하여 미국 시민을 감시하고 적절한 안전 장치 없이 완전 자율 무기를 배치하는 데 필요한 도구를 국방부에 제공하도록 하려는 시도에 특히 우려하고 있다"고 썼다.
이란 전쟁이 계속되고 4주차에 접어들면서 미국 상원의원들은 기술 기업과의 국방부 계약에 대해 더 많은 답변을 요구하고 있다.
전쟁 직전 며칠 동안 국방부와 앤트로픽은 국방부가 모든 "합법적인 목적"을 위해 모델에 대한 무제한적인 접근을 요구한 반면, 앤트로픽은 모델이 완전 자율 무기나 국내 "대량 감시"에 사용되지 않을 것이라는 보증을 원하면서 충돌했다.
2월 27일, 헤그세스는 국방부에 이 회사에 "공급망 위험" 딱지를 붙이도록 지시했다고 게시했다. 공식 통지는 국방부가 이란에서 앤트로픽의 클로드 모델을 계속 사용하는 가운데 일주일 후에 나왔다.
앤트로픽은 회사가 블랙리스트에 오르고 미국 국가 안보에 위협으로 간주된 후 트럼프 행정부를 상대로 소송을 제기했다. 이 소송에 대한 예비 심리가 화요일 캘리포니아 북부 지방 법원에서 예정되어 있다.
앤트로픽이 블랙리스트에 오른 지 몇 시간 후, OpenAI가 등장하여 국방부와의 계약을 발표했다.
이 회사는 OpenAI의 "안전 스택", 기존 법률 및 완전히 공개되지 않은 계약 문구 때문에 국방부가 대량 감시 또는 완전 자율 무기에 AI 시스템을 사용하지 않을 것이라고 확신한다고 말했다.
그러나 알트만이나 국방부 모두 국회의원, 대중 및 일부 회사 직원들의 우려를 해소하지 못했다.
워런 의원은 또한 OpenAI CEO 샘 알트만에게서 답변을 구하고 있다.
월요일 서한에서 워런 의원은 알트만에게 국방부 계약 조건에 대한 정보를 요청했다.
서한에는 "이 계약 조건이 트럼프 행정부가 OpenAI의 기술을 사용하여 미국인에 대한 대량 감시를 수행하고 거의 또는 전혀 인간의 감독 없이 민간인에게 해를 끼칠 수 있는 치명적인 자율 무기를 구축하는 것을 허용할 수 있다는 점이 우려된다"고 명시되어 있다.
지난주 알트만은 워싱턴 D.C.에서 소수의 국회의원들과 만났으며, 마크 켈리 애리조나주 민주당 상원의원은 이 회사의 전쟁 접근 방식과 국방부 계약에 대해 "심각한 질문"을 제기했다.
워런 의원은 "궁극적으로 국방부와 OpenAI 모두 공개하지 않은 전체 계약을 보지 않고는 OpenAI의 계약에 존재할 수 있는 모든 안전 장치와 금지 조치를 평가하는 것이 불가능하다"고 썼다.
그녀는 공개된 내용이 국방부의 AI 사용에 대해 상당한 우려를 제기한다고 덧붙였다.
답변 요구에도 불구하고, 상원의 민주당은 공화당이 백악관과 의회 양원을 통제하고 있기 때문에 행동을 강제할 능력이 제한적이다.