Anthropic, 최신 AI 모델이 소프트웨어 보안 취약점을 노출할 수 있다고 밝혀

Anthropic은 화요일에 아직 출시되지 않은 Claude Mythos라는 인공지능 모델이 소프트웨어 취약점을 노출하는 데 매우 능숙하다는 것을 입증했다고 밝혔습니다.
Mythos는 패치나 수정이 존재하지 않는 일반적으로 사용되는 애플리케이션에서 수천 개의 취약점을 드러냈으며, 샌프란시스코에 본사를 둔 AI 스타트업은 해킹에 대한 방어를 강화하고 광범위한 배포를 보류하기 위해 사이버 보안 전문가들과 동맹을 맺도록 촉구했습니다.
Anthropic Labs의 Mike Krieger는 샌프란시스코에서 열린 HumanX AI 컨퍼런스에서 "우리는 공개적으로 출시하지 않을 새로운 모델을 가지고 있습니다."라고 말했습니다.
대신 Anthropic은 사이버 보안 전문가와 오픈 소스 커뮤니티의 엔지니어들이 Mythos를 사용하여 모델을 방어 무기로 "미리 무장하는 것"이라고 Krieger는 설명했습니다.
AI 모델 기능의 비약적인 발전은 해커들이 암호 찾기나 데이터 보안을 위한 암호화 해독에 이러한 도구를 사용하는 것에 대한 우려를 동반했습니다.
Anthropic에 따르면 Mythos가 발견한 취약점 중 가장 오래된 것은 27년 전이며, AI 모델에 의해 지적되기 전에 제작자가 눈치챈 것은 없었습니다.
Mythos는 Anthropic의 Claude AI 제품군의 최신 세대이며, 최근 일부 코드 유출로 인해 스타트업은 전례 없는 사이버 보안 위험을 초래한다고 경고하는 블로그 게시물을 발표했습니다.
Anthropic은 블로그 게시물에서 "AI 모델은 숙련된 인간을 제외한 모든 사람을 능가하여 소프트웨어 취약점을 찾고 악용할 수 있는 코딩 능력 수준에 도달했습니다."라고 말했습니다. "경제, 공공 안전 및 국가 안보에 대한 파급 효과는 심각할 수 있습니다."
Anthropic에 따르면 Mythos가 노출한 소프트웨어 취약점은 종종 미묘하고 AI 없이는 감지하기 어려웠습니다. 예를 들어, Mythos는 제작자가 5백만 번 이상 테스트한 비디오 소프트웨어에서 이전에 인지하지 못한 결함을 발견했다고 합니다.
예방 조치로 Anthropic은 사이버 보안 회사인 CrowdStrike 및 Palo Alto Networks와 Amazon, Apple 및 Microsoft와 함께 "Glasswing"이라고 명명한 프로젝트에서 Mythos 버전을 공유했습니다.
네트워킹 거대 기업인 Cisco와 Broadcom은 무료 오픈 소스 Linux 컴퓨터 운영 체제를 홍보하는 Linux Foundation과 함께 프로젝트에 참여하고 있습니다.
Cisco의 최고 보안 및 신뢰 책임자인 Anthony Grieco는 Glasswing에 대한 공동 발표에서 "이 작업은 혼자 하기에는 너무 중요하고 너무 시급합니다."라고 말했습니다. "AI 기능은 사이버 위협으로부터 중요 인프라를 보호하는 데 필요한 긴급성을 근본적으로 변화시키는 임계값을 넘어섰으며, 되돌릴 수 없습니다."
컴퓨터 시스템의 설계, 유지 보수 또는 운영에 관련된 약 40개 조직이 Glasswing에 합류한 것으로 알려졌습니다. Anthropic에 따르면 프로젝트 파트너는 Mythos 조사 결과를 공유할 것이며, Anthropic은 임무를 위해 약 1억 달러 상당의 컴퓨팅 리소스를 제공하고 있습니다. Grieco에 따르면 AI 모델과의 초기 작업은 이전에는 불가능했던 속도와 규모로 소프트웨어 및 하드웨어 취약점을 찾고 수정하는 데 도움이 될 수 있음을 보여주었습니다.
Crowdstrike의 최고 기술 책임자인 Elia Zaitsev는 "취약점이 발견되고 공격자에 의해 악용되는 사이의 창이 붕괴되었습니다. 한때 몇 달이 걸렸던 일이 이제 AI로 몇 분 안에 발생합니다."라고 말했습니다.
그는 "Claude Mythos Preview는 방어자들이 대규모로 무엇을 할 수 있는지 보여주며, 적들은 필연적으로 동일한 기능을 악용하려고 할 것입니다."라고 덧붙였습니다.
Anthropic은 2월 백악관의 스타트업과의 모든 계약 종료 명령에도 불구하고 Mythos에 대해 미국 정부와 논의했다고 밝혔습니다. 해당 지시는 Anthropic의 법적 이의 제기가 법원을 통해 진행되는 동안 연방 법원 판사에 의해 보류되었습니다.