Anthropic CEO, AI가 수만 개의 취약점을 노출시키면서 사이버 '위험의 순간' 경고

Anthropic CEO 다리오 아모데이(Dario Amodei)는 화요일 인공지능이 세계 기술 기업, 정부 및 은행이 최신 모델이 발견한 수만 개의 소프트웨어 취약점을 수정할 수 있는 짧은 기간을 만들었다고 경고했습니다.

이 AI 모델인 Mythos는 지난달 미리 공개되었으며, 중요한 소프트웨어에서 수십 년 된 취약점을 발견했다는 사실도 함께 공개되었습니다.

아모데이는 지정학적 적국인 중국의 AI 모델이 Anthropic 제품보다 "아마 6~12개월" 뒤처져 있기 때문에 이러한 문제를 수정할 수 있는 "대략 그 정도의 시간"이 있다고 말했습니다.

이 발언은 Anthropic 행사 중에 나왔으며, 아모데이는 JPMorgan Chase CEO 제이미 다이먼(Jamie Dimon)과 함께 무대에 서서 금융 업무를 자동화하기 위한 새로운 에이전트 제품군을 공개했습니다.

아모데이는 "위험은 단순히 취약점의 양, 침해의 양, 학교, 병원, 은행을 언급할 필요도 없이 랜섬웨어로 인한 금전적 피해가 엄청나게 증가하는 것"이라고 말했습니다.

Anthropic은 범죄자나 적대국이 이를 이용할 수 있다는 우려 때문에 Mythos를 소수의 파트너 회사로 제한했습니다. 회사의 모델 업데이트 중 마지막 몇 개는 시장에 파장을 일으켰지만, Mythos는 기업과 정책 입안자 모두에게 가장 큰 우려를 안겨주었습니다.

아모데이는 Claude의 각 세대마다 잠재적인 사이버 공격의 규모가 커졌다고 말했습니다. 이전 Anthropic 모델은 Firefox 브라우저에서 약 20개의 취약점을 발견했습니다. Mythos는 거의 300개를 발견했으며, 모든 소프트웨어에서 총 수는 이제 수만 개에 달한다고 그는 말했습니다.

Mythos가 발견한 취약점의 대부분은 아직 패치되지 않았기 때문에 공개적으로 공개되지 않았으며, 아모데이는 "악당들이 이를 악용할 것"이라고 말했습니다.

## '더 나은 세상'

경고에도 불구하고 아모데이와 다이먼 모두 조건부 낙관론을 표명했습니다.

아모데이는 "이것은 위험의 순간이며, 우리가 올바르게 대응한다면, 그리고 저는 우리가 첫걸음을 내디뎠다고 생각합니다. 그러면 그 너머에 더 나은 세상을 가질 수 있습니다. 찾을 버그는 많지 않습니다."라고 말했습니다.

다이먼은 사이버 보안에 대한 우려가 정당하지만, AI가 만들어내는 사이버 보안 위험은 "일시적인 기간"이라고 말했습니다.

규제에 대한 질문에 아모데이는 AI 감독은 자동차 산업에서 이루어지는 것과 유사해야 하며, 소비자 안전과 산업 경쟁력 사이의 균형을 맞춰야 한다고 말했습니다.

그는 "브레이크가 있습니까?"라고 묻지 않고 자동차 회사를 시작할 수는 없습니다. 우리는 산업이 신속하게 운영되고 공정하며 가장 심각한 문제에 대한 안전 장치를 마련할 수 있는 프로세스를 더듬어 찾아야 합니다."라고 말했습니다.

다이먼, 금융 산업의 가장 유명한 대변인과 함께한 회사의 행사와 그 설정은 두 회사 모두 잠재적인 IPO를 향해 나아가는 가운데 기업 AI 시장에서 OpenAI에 대한 Anthropic의 우위를 보여주는 것 같았습니다.

Anthropic은 화요일에 투자 은행 및 백오피스 업무를 위한 10개의 새로운 AI 에이전트를 포함하여 금융 서비스 플랫폼 확장을 발표했으며, Microsoft의 다양한 Office 프로그램과의 통합도 발표했습니다. 또한 회사는 최신 광범위하게 사용 가능한 모델인 Claude Opus 4.7이 금융 분석 작업 벤치마크를 선도한다고 밝혔습니다.