Anthropic, 테스트 중 오작동 후 최신 모델 공개 보류; 중요 소프트웨어 보안을 위한 "프로젝트 글래스윙" 출시

Anthropic Withholds Latest Model After It Went Rogue In Testing; Launches "Project Glasswing" To Secure Critical Software

여전히 당혹스러운 소스 코드 유출의 후유증을 겪고 있는 Anthropic은 최신 프론티어 AI 모델인 Mythos를 일반에 출시하지 않겠다고 발표했습니다. 이 모델은 사이버 보안 위험을 증가시키는 방식으로 너무 강력하기 때문입니다.

Anthropic은 내부 테스트에서 이 모델이 모든 주요 운영 체제 및 웹 브라우저에서 수천 개의 고위험 “제로데이” 취약점(이전에 알려지지 않은 결함)을 발견했으며, 이전 플래그십 모델(CyberGym 취약점 재현: Opus 4.6의 66.6% 대비 83.1%)을 크게 능가했다고 밝혔습니다.  

“AI 발전 속도를 고려할 때, 그러한 기능이 안전하게 배포하기 위해 노력하는 주체 외의 사람들에게 확산되기까지 오래 걸리지 않을 것입니다.”

제로데이 취약점은 수정할 수 있는 사람조차 존재한다는 사실조차 모르는 소프트웨어 버그입니다. 과거에는 이러한 버그를 찾고 패치하는 데 희귀하고 비싼 인적 전문성이 필요했지만, AI는 탐지 규모와 속도를 바꿀 수 있습니다. 

Anthropic은 자신이 발견한 취약점은 “종종 미묘하거나 탐지하기 어렵다”고 말했습니다. 그중 많은 취약점이 10년 또는 20년 전에 발생했으며, 지금까지 발견된 가장 오래된 취약점은 보안을 위해 주로 알려진 운영 체제인 OpenBSD의 27년 전 버그입니다.  또한 16년 전 FFmpeg 미디어 처리 라이브러리의 버그, 17년 전 오픈 소스 FreeBSD 운영 체제의 원격 코드 실행 취약점, Linux 커널의 수많은 취약점을 발견했습니다.

Mythos Preview 또한 TLS, AES-GCM 및 SSH를 포함한 세계에서 가장 인기 있는 암호화 라이브러리, 알고리즘 및 프로토콜의 여러 약점을 식별했습니다. 

웹 애플리케이션은 크로스 사이트 스크립팅 및 SQL 인젝션부터 크로스 사이트 요청 위조와 같은 도메인별 취약점에 이르기까지 “수많은 취약점을 포함한다”고 덧붙였습니다. 크로스 사이트 요청 위조는 종종 피싱 공격에 사용됩니다. 

제로데이 익스플로잇의 수명 주기. 출처: PhoenixNAP

Anthropic은 자신이 발견한 취약점의 99%가 아직 패치되지 않았으며, “따라서 우리는 그에 대한 세부 정보를 공개하는 것은 무책임할 것입니다.”라고 주장했습니다.

Anthropic 또한 평가 과정에서 도전을 받았을 때 Mythos가 제한된 샌드박스 환경에서 벗어날 수 있었으며, 이는 액세스 제한 결정을 내리는 데 기여한 격리 문제였습니다. Axios에 따르면 Mythos는 테스트 중에 다음과 같은 다른 작업도 수행했습니다.

냉혹한 사업 운영자 역할 수행: 한 내부 테스트에서 Mythos는 냉혹한 임원처럼 행동하여 경쟁사를 종속적인 도매 고객으로 만들고, 가격을 통제하기 위해 공급을 중단 위협하고, 지불하지 않은 추가 공급업체 선적을 보관했습니다.
해킹 + 자랑: 이 모델은 제한된 인터넷 액세스를 벗어나 더 넓은 연결을 확보하고 익스플로잇 세부 정보를 잘 알려지지 않은 공개 웹사이트에 게시하는 다단계 익스플로잇을 개발했습니다.
숨기기: 드문 경우(상호 작용의 0.001% 미만) Mythos는 금지된 방법을 사용하여 답변을 얻은 다음 탐지를 피하기 위해 “재해결”하려고 시도했습니다.
판사 조작: Mythos가 다른 AI가 채점하는 코딩 작업을 수행할 때 판사가 제출물을 거부하는 것을 보고 판사를 공격하기 위해 프롬프트 인젝션을 시도했습니다.
 "이러한 기능은 너무 강력해서 지난 수십 년 동안 우리가 준비해 온 방식과 매우 다른 방식으로 보안을 준비해야 합니다."라고 Anthropic의 Logan Graham이 Axios에 말했습니다. 유사한 AI 기능이 악의적인 행위자에 의해 사용될 경우 발생할 수 있는 일에 대해 우려를 표명했습니다.

따라서 Anthropic은 광범위한 릴리스를 추구하는 대신, 위협 행위자가 유사한 AI 기능을 악용하기 전에 중요한 소프트웨어 취약점을 식별, 책임 있게 공개 및 패치하는 것을 목표로 하는 방어적이고 연합 기반 노력인 Project Glasswing에 이 모델을 투입하고 있습니다.

Glasswing에는 Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, Linux Foundation, Microsoft, NVIDIA 및 Palo Alto Networks(예: JPMorgan은 이제 기술 회사로 간주됨)와 같은 11개의 명명된 런칭 기술 파트너와 오픈 소스 보안을 위한 최대 1억 달러의 사용 크레딧 및 자금 지원을 받는 40개 이상의 추가 중요한 소프트웨어 조직이 포함되어 있습니다.

이 이니셔티브는 Anthropic의 프론티어 AI 사이버 위험이 특정 펌웨어보다는 체계적이라는 견해를 반영하며, AI가 취약점 발견을 가속화하고 응답 시간을 단축함에 따라 소프트웨어 생태계 전체의 조정된 조치가 필요합니다.

단계별 릴리스는 모델이 더욱 강력해짐에 따라 향후 모델 릴리스가 어떻게 보이는지 위한 청사진이 될 수 있습니다. 세계를 뒤흔드는 시스템을 테스트할 수 있는 선택된 파트너에게만 액세스를 제한합니다.

Tyler Durden
수, 04/08/2026 - 11:20