Google은 reportedly 미국 국방부와 classified AI deal을 체결했다고 보도되었습니다.

Google은 인공지능 모델을 기밀 업무에 사용하기 위해 미국 국방부와 계약을 체결한 것으로 보고되었습니다. 이 기술 회사는 미국 군부대와 협약을 체결하는 증가하는 실리콘 밸리 기업 목록에 합류했습니다.

보고서에 따르면 이 계약은 국방부가 Google의 AI를 "모든 합법적인 정부 목적"에 사용하도록 허용하며, OpenAI와 Elon Musk의 xAI와 마찬가지로 기밀 사용을 위해 AI 모델을 공급하는 계약을 체결했습니다. Google과 다른 AI 기업 모두에서 유사한 계약은 국방부와 주요 직원들의 상당한 반발을 불러일으켰습니다.

기밀 네트워크는 임무 계획 및 무기 표적 지정과 같은 광범위한 민감한 업무를 처리하는 데 사용됩니다. 국방부는 2025년 Anthropic, OpenAI 및 Google을 포함한 주요 AI 연구소와 각각 최대 2억 달러 상당의 계약을 체결했습니다. 정부 기관은 OpenAI 및 Anthropic과 같은 주요 AI 기업에 표준 제한 없이 기밀 네트워크에서 도구를 사용할 수 있도록 압력을 가해왔습니다.

Google의 계약은 정부의 요청에 따라 회사의 AI 안전 설정 및 필터를 조정하는 데 도움을 받도록 요구합니다.

계약에는 "당사자들은 AI 시스템이 국내 대규모 감시 또는 적절한 인간 감독 및 통제 없이 자율 무기(표적 선택 포함)에 사용하도록 설계되지 않았으며 사용해서도 안 된다고 동의한다"는 내용이 포함되어 있습니다.

그러나 보고서에 따르면 이 계약은 Google에게 합법적인 정부 운영 의사 결정을 통제하거나 거부할 권한을 주지 않는다고 덧붙였습니다.

국방부는 이 문제에 대한 논평을 거부했습니다.

Google은 기밀 및 비기밀 프로젝트 모두에서 정부 기관을 지원한다고 밝혔습니다. 회사 대변인은 회사가 AI가 적절한 인간 감독 없이 국내 대규모 감시 또는 자율 무기에 사용되어서는 안 된다는 합의에 전념하고 있다고 말했습니다.

"저희는 표준 관행 및 조건과 함께 Google 인프라에서 저희 상업용 모델에 API 액세스를 제공하는 것이 국가 안보를 지원하는 책임감 있는 접근 방식이라고 생각합니다." Google 대변인은 Reuters에 말했습니다.

국방부는 미국인에 대한 대규모 감시를 수행하거나 인간의 개입 없이 작동하는 치명적인 무기를 개발하는 데 AI를 사용하지 않을 의도가 없지만 AI의 "모든 합법적인 사용"이 허용되기를 원한다고 밝혔습니다. Anthropic은 자율 무기 또는 국내 감시를 위해 AI를 사용하는 것을 막기 위한 안전 장치를 제거하기를 거부한 후 올해 초 국방부와 갈등을 겪었으며, 이 부서는 Claude 제작자를 공급망 위험으로 지정했습니다.

Google의 국방부와의 계약은 직원들이 자신의 작업이 "비인간적이거나 극도로 해로운 방식으로" 사용될 수 있다는 우려 속에서 이루어졌습니다. 직원들의 편지에서 언급했듯이 말입니다.

월요일, 600명 이상의 Google 직원들이 CEO Sundar Pichai에게 우려 사항을 표명하는 공개 서명에 서명했습니다.

그들은 "저희는 이 기술과의 근접성이 가장 비윤리적이고 위험한 사용을 강조하고 예방할 책임이 있다고 생각합니다. 따라서 저희는 AI 시스템을 기밀 작업에 사용할 수 없도록 요청드립니다."라고 썼습니다.

지난해 Google의 모회사인 Alphabet은 무기 및 감시 도구에 AI를 사용하는 것을 금지하는 조치를 해제했습니다. 이 회사는 회사가 "전반적인 해를 유발하거나 유발할 가능성이 있는 기술을 추구하지 않을 것"이라는 약속을 담은 윤리 지침의 문구를 삭제했습니다. 회사의 AI 책임자인 Demis Hassabis는 블로그 게시물에서 AI가 "국가 안보"를 보호하는 데 중요해졌다고 말했습니다.

일부 Google 직원들은 그 시기에 회사 내부 메시지 보드에서 언어 변경에 대한 우려를 표명했습니다. 한 직원은 Business Insider에 따르면 "우리는 나쁜 녀석들인가요?"라고 물었습니다.

전쟁에서 AI와 기술의 사용은 오랫동안 Google 직원들에게 불안의 원천이었습니다. 이 문제에 대한 이전의 활동주의는 어느 정도 성공을 거두었습니다. 2018년 수천 명의 Google 직원들이 드론 감시 영상을 분석하는 데 AI 도구를 사용하는 국방부와의 계약에 반대하는 서명에 서명했습니다. Google은 내부 반발이 심한 후 해당 해 Project Maven 계약을 갱신하지 않았으며, 논란이 많은 감시 분석 회사인 Palantir가 그 자리를 차지했습니다.