Claude Mythos란 무엇이며 어떤 위험을 초래하는가?

최근 몇 주 동안 AI 업계는 선도적인 기업인 Anthropic이 새로운 모델인 Claude Mythos에 대해 주장한 내용으로 인해 술렁였습니다.

이 회사는 해당 도구가 일부 해킹 및 사이버 보안 작업에서 인간을 능가할 수 있다고 밝혔으며, 이는 규제 기관, 입법자 및 금융 기관에서 디지털 서비스에 초래할 수 있는 위험에 대한 논의를 촉발했습니다.

여러 기술 대기업은 Mythos 자체에 대한 복원력을 강화하기 위해 고안된 Project Glasswing이라는 이니셔티브를 통해 Mythos에 접근할 수 있었습니다.

하지만 다른 사람들은 Anthropic이 자사 도구가 전례 없는 기능을 가지고 있다고 주장하는 것이 이익이 된다고 지적하며, 이는 AI에서 늘 그렇듯이 정당한 주장과 과대 광고를 구별하는 작업이 까다로울 수 있음을 의미합니다.

Claude Mythos란 무엇인가?

Mythos는 Anthropic의 더 넓은 AI 시스템인 Claude의 일부로 개발된 최신 모델 중 하나입니다. 이는 OpenAI의 ChatGPT 및 Google의 Gemini와 경쟁하는 회사의 AI 비서 및 모델 제품군을 포함합니다.

Anthropic은 4월 초에 "Mythos Preview"로 공개했습니다.

"레드팀"으로 알려진 AI 모델이 특정 요청이나 작업을 어떻게 처리하는지 테스트하는 연구원들은 보고서에서 Mythos가 "컴퓨터 보안 작업에서 놀랍도록 유능하다"고 말했습니다.

그들은 이 도구가 수십 년 된 코드에 숨어 있는 비활성 버그를 찾아내고 쉽게 악용할 수 있다는 것을 발견했습니다.

따라서 Claude 사용자에게 널리 제공하는 대신 Anthropic은 Project Glasswing을 통해 12개 기술 회사에 접근 권한을 부여했으며, 이는 "세계에서 가장 중요한 소프트웨어를 보호하기 위한 노력"이라고 설명했습니다.

여기에는 클라우드 컴퓨팅 대기업인 Amazon Web Services, 기기 제조업체인 Apple, Microsoft 및 Google, 칩 제조업체인 Nvidia 및 Broadcom이 포함됩니다.

2024년 7월 전 세계적인 대규모 중단을 야기한 결함 있는 소프트웨어 업데이트를 제공한 Crowdstrike도 이 프로젝트의 파트너 중 하나이며, Anthropic은 중요한 소프트웨어를 담당하는 40개 이상의 조직에도 Mythos에 접근 권한을 부여했다고 밝혔습니다.

Project Glasswing 출시와 함께 공개된 비디오에서 Anthropic의 책임자인 Dario Amodei는 "이러한 모델의 위험에 맞서 방어하는 데 도움을 주기 위해" 미국 정부 관계자들과 협력할 것을 제안했다고 말했습니다.

왜 우려가 되는가?

Anthropic은 테스트 중에 이 모델이 사이버 보안 및 해킹 작업에 매우 능숙하며 인간을 능가한다고 밝혔습니다.

Anthropic은 4월 7일에 "Mythos Preview는 이미 모든 주요 운영 체제 및 웹 브라우저를 포함하여 수천 개의 높은 심각도의 취약점을 발견했습니다."라고 주장했습니다.

"AI 발전 속도를 고려할 때 이러한 기능이 확산되는 것은 시간 문제이며, 잠재적으로 안전하게 배포하려는 행위자를 넘어설 수 있습니다."

이는 많은 감독 없이도 오래된 시스템에서 즉각적인 조치가 필요한 중요한 버그를 찾아낼 수 있으며, 여기에는 27년 동안 시스템에 존재했던 취약점도 포함되며 이를 악용할 수 있는 방법을 제안할 수 있다고 말했습니다.

이후 일부 재무 장관, 중앙 은행 총재 및 금융가들은 이 모델이 금융 시스템의 보안을 약화시킬 수 있다는 우려를 표명했습니다.

캐나다 재무 장관 François-Philippe Champagne은 BBC와의 인터뷰에서 Mythos가 이번 주 워싱턴 DC에서 열린 국제 통화 기금(IMF) 회의에서 논의되었다고 말했습니다.

그는 "확실히 모든 재무 장관들의 관심을 받을 만큼 심각한 사안"이라며 이 기술을 "알려지지 않은 미지"라고 묘사했습니다.

영국 은행 총재 Andrew Bailey는 BBC와의 인터뷰에서 "우리는 이 최신 AI 개발이 사이버 범죄 위험에 어떤 의미를 가질 수 있는지 매우 신중하게 살펴봐야 합니다."라고 말했습니다.

한편, EU는 Mythos에 대한 우려에 대해 Anthropic과 논의 중이라고 밝혔습니다.

사이버 전문가들은 이에 대해 어떻게 말했는가?

영국 국립 사이버 보안 센터의 전 책임자인 Ciaran Martin은 이번 주 초 BBC와의 인터뷰에서 Mythos가 다른 AI 모델보다 훨씬 빠르게 중요한 취약점을 발견할 수 있다는 주장이 "사람들을 정말 놀라게 했다"고 말했습니다.

"두 번째는 우리가 알고 있지만 조직이 아직 패치하지 않았거나 잘 방어하지 못했을 수 있는 기존의 약점조차도, 그것은 정말 좋은 해커라는 것입니다."라고 그는 말했습니다.

많은 독립적인 사이버 보안 분석가 및 전문가들은 아직 직접 테스트하지 못했으며 일부는 Mythos의 성능에 대해 회의적입니다.

영국 AI 안전 연구소는 최근 매우 강력한 모델이지만 가장 큰 위협은 제대로 방어되지 않은 취약한 시스템에 대한 것이라고 결론지었습니다.

"Mythos Preview가 잘 방어된 시스템을 공격할 수 있는지 확실하게 말할 수는 없습니다."라고 연구원들은 말했습니다.

따라서 좋은 사이버 보안이 있는 곳에서는 이론적으로 이 모델이 중단될 것으로 예상됩니다.

이에 대해 걱정해야 하는가?

AI에 대한 두려움은 새로운 것이 아닙니다.

새로운 모델과 도구가 끊임없이 출시되고 있으며, 종종 우리의 삶을 더 좋든 나쁘든 혁신하겠다는 약속과 함께 나옵니다.

AI와 그 미래 영향에 대한 이러한 두려움과 흥분을 이용하는 것도 최근 몇 년 동안 이 분야와 마케팅 전략의 특징이 되었습니다.

Mythos의 경우, 이러한 희망이나 두려움이 정당한 것인지, 아니면 업계를 둘러싼 과대 광고를 반영하는 것인지 알기에는 아직 충분하지 않습니다.

어느 경우든 NSCS에 따르면 우리가 지금 할 수 있는 가장 중요한 것은 당황하지 않고 기본 사이버 보안을 제대로 하는 데 집중하는 것입니다.

결국, 대부분의 해커는 훨씬 간단한 공격이 종종 충분할 때 시스템을 침해하기 위해 슈퍼 AI 도구를 필요로 하지 않습니다.

Martin은 BBC와의 인터뷰에서 "어떤 사람들에게는 이것이 종말론적인 사건이고, 다른 사람들에게는 과대 광고처럼 보입니다."라고 말했습니다.

하지만 그는 이 도구든 Anthropic이나 경쟁사가 만든 후속 도구든, 위험과 함께 더 안전한 온라인 세계를 구축할 기회가 있다고 말했습니다.

"중기적으로는 이러한 도구를 사용하여 인터넷의 근본적인 취약점 중 많은 부분을 해결할 기회가 있습니다."라고 그는 말했습니다.

최고의 기술 기사와 트렌드를 따라가려면 Tech Decoded 뉴스레터를 구독하세요. 영국 외 지역이신가요? 여기에서 구독하세요.