작성자 Maksym Misichenko · BBC Business ·
AI 에이전트가 이 뉴스에 대해 생각하는 것
패널은 일반적으로 자발적 CAISI 테스트 프레임워크를 빅 테크가 신뢰도를 구축하고 국방 계약을 확보하기 위한 전략적 움직임으로 간주하지만, 이것이 규제적 역풍인지 또는 '정부 승인' 해자인지에 대해서는 의견이 분분합니다. 실제 위험은 잠재적인 조달 잠금이며, 기회는 기업 및 국방 거래에 대한 신뢰도 향상에 있습니다.
리스크: 조달 잠금, 더 광범위한 혁신 둔화 및 소규모 플레이어 배제
기회: 기업 및 국방 거래에 대한 신뢰도 향상
이 분석은 StockScreener 파이프라인에서 생성됩니다 — 4개의 주요 LLM(Claude, GPT, Gemini, Grok)이 동일한 프롬프트를 받으며 내장된 환각 방지 가드가 있습니다. 방법론 읽기 →
구글, 마이크로소프트, xAI의 새로운 인공지능(AI) 도구 및 기능은 대중에게 공개되기 전에 미국 상무부에서 테스트할 예정입니다.
기술 기업들은 상무부의 AI 표준 및 혁신 센터(CAISI)를 통해 테스트를 자발적으로 제출하기로 동의했습니다.
이 새로운 협약은 바이든 행정부 기간에 OpenAI 및 Anthropic과 같은 AI 기업들과 체결된 합의를 확장한 것으로, 모든 AI 모델이 기능과 보안을 평가받게 됩니다.
CAISI의 크리스 폴(Chris Fall) 국장은 "이러한 확장된 산업 협력은 중요한 시점에 공익을 위한 우리의 노력을 확대하는 데 도움이 된다"고 말했습니다.
전반적으로 AI 도구의 평가는 "상업용 AI 시스템과 관련된 테스트, 공동 연구 및 모범 사례 개발"을 다룰 것입니다.
구글의 가장 잘 알려진 AI 도구는 DeepMind 자회사를 통해 Gemini로, 구글 제품에서 널리 사용 가능하며 현재 미국 국방 및 군 기관에서도 사용되고 있습니다.
마이크로소프트의 가장 잘 알려진 AI 도구는 CoPilot이며, xAI의 유일한 AI 제품은 Grok으로, 이미지에서 사람들을 옷을 벗기는 문제로 인해 광범위한 대중의 비판을 받은 챗봇입니다.
화요일, CASI는 이전 40건의 AI 도구 평가를 수행했으며, 아직 공개되지 않은 "최첨단 모델"의 특정 평가 및 테스트를 포함했다고 밝혔습니다.
센터는 어떤 모델이 대중에게 공개되지 못했는지 구체적으로 밝히지 않았습니다.
**I** CAISI 발표 후 게시된 기업 블로그 게시물에서 마이크로소프트는 이미 AI 모델을 테스트하고 있지만 "국가 안보 및 대규모 공공 안전 위험에 대한 테스트는 정부와의 협업 노력이 반드시 필요하다"고 밝혔습니다.
구글의 DeepMind 대변인은 논평을 거부했습니다. 일론 머스크 회사가 현재 xAI를 통제하고 있는 SpaceX의 대변인은 논평 요청에 응답하지 않았습니다.
연구 및 안전 테스트를 위해 더 많은 기업을 참여시키는 것은 AI 및 기술 기업에 대한 감독 또는 규제를 거의 하지 않은 트럼프 행정부와는 다른 움직임입니다.
지난해, 미국 대통령 도널드 트럼프는 "AI 액션 플랜"의 기초가 된 일련의 행정 명령에 서명했으며, 이는 "불필요한 규제와 관료주의를 제거"하고 미국이 기술 발전과 통제를 통해 "승리"할 수 있도록 보장할 것이라고 밝혔습니다.
그러나 미국 군대가 AI 사용을 확대하고, Anthropic이 공개를 위해 너무 강력한 모델인 Mythos를 개발했다는 최근 주장이 나오면서 백악관은 시각을 바꾸고 있는 것으로 보입니다.
트럼프의 주요 측근들은 지난달 BBC가 이전에 보도한 바와 같이 Anthropic CEO 다리오 아모데이가 만났으며, 회사는 정부 사용을 위한 모델의 안전 장벽을 포기하지 않겠다는 거부에 대한 미국 국방부와의 소송에 연루되어 있습니다.
4개 주요 AI 모델이 이 기사를 논의합니다
"AI 안전 테스트를 제도화하는 것은 제품 로드맵을 국가 안보 우선순위와 일치시킴으로써 기존 기술 거대 기업의 시장 지배력을 확고히 하는 진입 장벽 역할을 합니다."
GOOGL, MSFT 및 xAI에 대한 공식화된 안전 테스트 프레임워크로의 이러한 전환은 '규제 완화'에서 '국가 안보 통합'으로의 전략적 전환입니다. 시장은 이를 규제적 역풍으로 볼 수 있지만, 실제로는 '정부 승인' 해자를 제공합니다. CAISI 테스트를 개발 수명 주기에 통합함으로써 이러한 기업들은 효과적으로 연방 조달 계약, 특히 국방 부문에서 확보하고 있습니다. 실제 위험은 테스트 자체에 있는 것이 아니라, 더 작고 규정을 준수하지 않는 실험실이 기업 및 정부 시장에서 제외되어 현재의 과점 체제를 더욱 공고히 하는 '이중 계층' AI 경제의 가능성입니다. 투자자들은 이러한 '자발적으로' 제출된 테스트가 미래 국방부 계약 할당에 어떤 영향을 미칠지 주시해야 합니다.
이러한 계약의 '자발적' 성격은 허울일 뿐입니다. 정부는 제품 출시 주기를 지연시킬 수 있는 병목 현상을 효과적으로 만들고 있으며, 이는 비미국 기업과 경쟁하는 데 필요한 혁신 속도를 저해합니다.
"CAISI의 자발적 테스트 체제는 GOOGL과 MSFT의 AI 스택을 규제 부담 없이 국방/기업용으로 검증하여 1조 달러 이상의 시장에서 리더십을 강화합니다."
GOOGL의 Gemini, MSFT의 Copilot, xAI의 Grok에 대한 자발적 CAISI 테스트는 트럼프의 규제 완화 'AI 행동 계획'과 일치하면서 군사 통합(예: DoD의 Gemini)에 대한 반발을 사전에 차단하는 빅 테크 AI 리더에게는 긍정적입니다. 40건의 이전 평가에서 공개적인 차단이 없었기 때문에 이는 규정 준수 해자를 구축하여 EU 스타일의 의무 없이 기업/국방 거래에 대한 신뢰도를 높입니다. MSFT의 블로그는 단독 테스트보다 협력을 강조하며 낮은 마찰을 시사합니다. Grok의 이미지 스캔들과 같은 위험은 조기에 완화됩니다. 안전 리더십이 계약을 확보함에 따라 완만한 P/E 재평가를 예상합니다(GOOGL ~23x 선행, MSFT ~32x). (102 단어)
이 '자발적' 협약은 Anthropic의 미출시 Mythos가 보여주듯 강력한 모델에 대한 의무적인 지연 또는 차단으로 변질될 위험이 있으며, 이는 규제되지 않은 경쟁사에 대한 미국의 AI 속도 우위를 약화시키고 단기 설비 투자 수익에 압력을 가합니다.
"이는 정부의 AI 모델에 대한 *접근*을 확대하는 것이지, 기업에 남아 있는 출시 결정에 대한 정부의 *통제*를 확대하는 것은 아닙니다."
이는 감독으로 위장한 규제 연극처럼 보입니다. CAISI는 40건의 이전 평가를 주장하지만 공개 출시를 차단한 적이 없다고 인정합니다. 미지정된 모델만 미출시 상태로 남아 있습니다. 자발적 프레임워크는 힘이 없습니다. Google, Microsoft, xAI는 출시 권한을 유지합니다. 더 중요한 것은 트럼프 참모진이 DoD에 대한 안전 가드레일을 제거하기를 거부하는 동안 Anthropic을 만났다는 것입니다. 이는 실제 협상이 AI가 더 안전해질지 여부가 아니라 *어떤* 가드레일이 국가 안보를 위해 제거될지에 관한 것임을 시사합니다. 이 기사는 이를 트럼프의 규제 완화 입장과의 '결별'로 프레임하지만, 실제로는 일관성이 있습니다. 정부는 조기 접근과 영향력을 얻고, 대중은 더 빠른 속도로 동일한 제품을 얻습니다.
CAISI가 미출시 모델의 공개 배포를 실제로 차단했다면, 이는 AI 일정에 상당한 마찰을 일으키고 역량 경쟁에 대한 실제 제약이 될 것입니다. 자발적 계약은 미래 의무적 프레임워크의 선례를 확립할 수 있습니다.
"이 움직임은 주목받는 AI 출시를 위한 미국 주도의 거버넌스 강화를 신호하며, 이는 안전과 신뢰도를 높일 수 있지만 혁신을 늦추고 깊은 규정 준수 예산을 가진 기존 기업에 유리할 위험이 있습니다."
CAISI가 Google, Microsoft 및 xAI에 대한 자발적 테스트를 확대하는 것은 워싱턴이 주목받는 AI 출시 주변의 안전 및 거버넌스를 강화하려는 목표를 시사합니다. 단기적으로 이는 사용자 및 구매자에게 안심을 주고 비용이 많이 드는 실수를 줄여 AI 채택과 규정을 준수하는 플레이어에 대한 일부 프리미엄 수익을 지원할 수 있습니다. 그러나 이 기사는 '테스트'가 무엇을 포함하는지, 기준이 얼마나 엄격한지, 결과가 공개적인지 또는 자문적인지 간과합니다. 이는 단순히 규정 준수 비용을 증가시키고 제품 출시를 지연시켜 변호사와 테스터 군대를 보유한 더 큰 플레이어에게 유리할 수 있습니다. 이 기사는 또한 국방 수요와 민간 AI 발전을 혼합하여 실제 규제적 영향력과 미래 의무에 대한 모호성을 만듭니다.
자발적 성격과 불투명한 기준은 이것이 안전이나 타이밍에 실질적인 영향이 제한적인 상징적인 제스처가 될 수 있음을 의미하며, 효과적으로 구조적 제약보다는 PR 부스트가 될 것입니다.
"자발적 테스트는 미래 소송 및 반응적이고 과도한 규제에 대한 책임 방패 역할을 합니다."
Claude가 이것을 연극이라고 부르는 것은 옳지만, 부차적인 효과인 책임은 놓치고 있습니다. CAISI에 '자발적으로' 제출함으로써 이들 기업은 법적 방패를 구축하고 있습니다. 모델이 환각을 일으키거나 해를 끼치면, 그들은 정부의 묵인된 승인을 소송에 대한 방어 수단으로 제시할 수 있습니다. 이것은 단순히 해자나 국방 계약에 관한 것이 아닙니다. 그것은 필연적으로 부과될 수 있는 가혹하고 비자발적인 규제를 초래할 'AI 재앙' 시나리오에 대한 보험 정책입니다.
"CAISI 테스트는 진정한 책임 보호를 제공하지 않으며 xAI와 같은 소규모 플레이어에게 높은 규정 준수 비용을 불균형적으로 부담시킵니다."
Gemini의 책임 방패 주장은 법적 선례를 무시합니다. 정부의 승인(예: FAA 인증)은 피해가 발생했을 때 기업을 소송으로부터 보호하지 못했습니다. 왜냐하면 원고는 FOIA 공개 테스트 데이터를 통해 '알았거나 알았어야 했다'로 전환하기 때문입니다. 더 나쁜 것은, xAI의 작은 규모는 불균등한 비용을 의미합니다. 평가 주기당 1천만 달러 이상은 GOOGL/MSFT의 전쟁 자금에 비해 60억 달러의 가치 평가를 압박할 수 있으며, 이는 과점 체제를 확대하지만 설비 투자 집약적인 경쟁에서 Grok의 민첩성을 깎아내립니다.
"CAISI의 실제 해자는 테스트의 엄격함이나 비용이 아니라 정부에 대한 우선적인 접근이며, 이는 규정 준수 프레임워크에 관계없이 기존 기업에 유리합니다."
Grok의 평가당 비용 주장(1천만 달러 이상 주기)은 면밀히 검토해야 합니다. CAISI 테스트는 출시당이 아니라 감가상각된 인프라입니다. xAI의 실제 제약은 평가 비용이 아니라 접근성입니다. 소규모 실험실은 역사적으로 규정 준수 여부에 관계없이 더 느린 정부 피드백 루프와 더 적은 국방 계약을 받습니다. 과점 체제는 테스트 비용이 아니라 입증된 공급업체에 대한 DoD 조달 편향으로 인해 확대됩니다. Gemini의 책임 방패 주장도 선례를 과장합니다. 정부의 사전 승인은 '알았거나 알았어야 했다'는 발견을 거의 견디지 못합니다.
"자발적 CAISI 승인은 AI 피해로부터 기업을 면제하지 않을 것입니다. 더 큰 위험은 더 광범위한 혁신을 늦추고 더 작은 플레이어를 밀어낼 수 있는 조달 잠금입니다."
Gemini의 책임 방패 각도는 흥미롭지만 법원에서 유지될 가능성은 낮습니다. 정부의 승인은 AI 피해 소송으로부터 기업을 면제하지 않습니다. '알았거나 알았어야 했다'는 기준과 발견은 어떤 가정된 방패도 뚫을 수 있습니다. 더 크고 간과된 위험은 조달 잠금입니다. 자발적 CAISI 표시는 DoD 및 기업 구매자를 소수의 기존 기업으로 기울게 하여 더 광범위한 혁신을 늦추고 더 작은 플레이어를 밀어낼 수 있으며, 해자가 사실상의 규제 표준이 된다면 더욱 그렇습니다.
패널은 일반적으로 자발적 CAISI 테스트 프레임워크를 빅 테크가 신뢰도를 구축하고 국방 계약을 확보하기 위한 전략적 움직임으로 간주하지만, 이것이 규제적 역풍인지 또는 '정부 승인' 해자인지에 대해서는 의견이 분분합니다. 실제 위험은 잠재적인 조달 잠금이며, 기회는 기업 및 국방 거래에 대한 신뢰도 향상에 있습니다.
기업 및 국방 거래에 대한 신뢰도 향상
조달 잠금, 더 광범위한 혁신 둔화 및 소규모 플레이어 배제