Anthropic의 Claude Mythos에 대한 가디언 뷰: AI가 모든 결함을 발견할 때 누가 인터넷을 통제하는가? | 편집 논설

Anthropic은 이번 달에 최신 AI 모델인 Claude Mythos를 발표했지만 컴퓨터를 범죄 현장으로 만들었기 때문에 공개적으로 출시하지 않을 것이라고 밝혔습니다. 이 회사는 이 모델이 이전에 알려지지 않은 "제로데이" 결함을 찾아 악용하고, 원칙적으로 이러한 약점을 연결하여 주요 운영 체제와 웹 브라우저를 장악할 수 있다고 주장했습니다. Mythos는 코드를 작성하고 권한을 획득하여 자율적으로 이를 수행했습니다. 그 의미는 상당합니다. 마치 도둑이 모든 건물에 침입하여 모든 문을 열고 모든 금고를 비울 수 있는 것과 같습니다.

실리콘 밸리 기업은 Project Glasswing 하에 40개의 조직을 파트너로 선정하여 해커가 악용할 기회를 얻기 전에 취약점을 "패치"하도록 요청하여 방어 태세를 갖추도록 돕고 있습니다. 이들은 모두 미국에 위치하고 있으며, 미국이 주도하는 디지털 시스템의 중심부에 자리 잡고 있습니다. Anthropic은 미국 외에는 영국에만 Mythos를 공유하여 AI 보안 연구소가 선두 모델을 테스트할 수 있도록 했습니다. 이를 직접 본 후 영국 장관들은 AI가 사이버 공격을 훨씬 더 쉽고 빠르게 만들 것이며 대부분의 기업이 준비되지 않았다고 경고했습니다. 유럽의 은행들은 다음으로 테스트할 가능성이 높습니다.

이것은 너무 늦지 않았을 수도 있습니다. 이번 주에 무단 액세스에 대한 보고서가 나왔는데, 이는 어떤 민간 기업도 이러한 기능을 신뢰할 수 있는지에 대한 의문을 제기합니다. Mythos는 새로운 유형의 사이버 위협을 반드시 창출하지는 않습니다. 이는 잠재적인 약점을 체계적인 위험으로 바꿉니다. 해킹은 전통적으로 어렵고 시간이 많이 걸리며, 소수의 사람만이 가지고 있는 기술을 필요로 합니다. 그러나 AI 도구는 빠르게 확산되어 많은 사람 – 전문가뿐만 아니라 – 시스템 침해를 손쉽게 만들고 있습니다.

포처도 게임키퍼로 변할 수 있습니다. Mozilla는 Firefox 브라우저에서 Mythos를 테스트했는데, 이전보다 10배 더 많은 결함을 발견하고 수정했습니다. 중요한 점은 이러한 결함이 인간이 발견할 수 없는 것이 아니라는 것입니다. 변화는 AI가 "사이버 취약점"을 빠르고 저렴하며 대규모로 발견한다는 것입니다.

미국 정부의 Anthropic 포용은 변화를 나타냅니다. 2월에 국방부는 회사가 대규모 감시 또는 자율 무기 사용을 허용하지 않았다는 이유로 회사를 "보안 위험"으로 간주하고 수익성 있는 거래를 중단했습니다. 대신 OpenAI가 계약을 받았습니다. Anthropic은 Claude 챗봇을 통해 경쟁사들 사이에서 윤리적인 대안으로 자리매김해 왔지만, 작년에 15억 달러의 저작권 침해 합의로 이미지가 손상되었습니다.

Mythos는 강력하지만 Anthropic의 홍보가 기술만큼 내러티브를 형성했습니다. 또한 Mythos가 실제로 얼마나 발전되었는지에 대한 의문도 있습니다. 연구자들은 더 작고 저렴한 모델을 대규모로 배포하면 유사한 결과를 얻을 수 있다는 것을 보여주었습니다. 획기적인 것으로 보이는 것은 필드 전체의 더 광범위한 변화를 반영할 수 있습니다. 백악관은 Anthropic이 전략적 가치를 가지고 있다고 생각하며, 회사를 다시 포용하고 AI 기업을 계약업체로 취급하는 것에서 파트너로 전환하는 신호를 보냈습니다. 이는 더 깊은 우려를 불러일으킵니다. 즉, 민간 기업의 중요 인프라 통제가 현명한 일인지, 특히 덜 책임감 있는 행위자들이 기술적 우위를 확보할 경우 더욱 그렇습니다.

명확히 말하면, 가장 강력한 AI 모델을 만드는 주체 – 국가 또는 기업 – 친구와 적 모두에 대해 지정학적 이점을 얻을 것입니다. 그러나 사이버 보안에 대한 국제 조정 프레임워크가 없으면 하나의 안전한 인터넷이 아닌 여러 개의 경쟁 인터넷이 발생할 위험이 있습니다. 각 인터넷은 자체 시스템을 "패치"하고 다른 인터넷을 완전히 신뢰하지 않습니다. 더 이상 글로벌 공공재가 아닙니다. 대신 웹은 보안 동맹으로 나뉘어 더욱 엄격하게 보호될 것입니다. 동시에 더 넓은 범위의 인터넷은 조용히 사라질 것입니다.

-
**이 기사에 제기된 문제에 대한 의견이 있으십니까? 이메일로 300단어 이내의 응답을 제출하여 게재를 위해 고려받으려면 여기를 클릭하십시오.**