AI 기반 해킹, 산업 규모 위협으로 폭발적으로 증가했다고 구글 발표

구글의 보고서에 따르면, 불과 3개월 만에 AI 기반 해킹이 초기 단계의 문제에서 산업 규모의 위협으로 발전했습니다.

구글의 위협 인텔리전스 그룹의 조사 결과는 최신 AI 모델이 코딩에 매우 능숙하며 광범위한 소프트웨어 시스템의 취약점을 악용하는 데 매우 강력한 도구가 되고 있다는 점에 대한 전 세계적인 논의를 심화시키고 있습니다.

보고서는 중국, 북한, 러시아의 범죄 조직 및 국가 연계 세력이 Gemini, Claude 및 OpenAI의 도구를 포함한 상용 모델을 널리 사용하여 공격을 개선하고 확장하고 있는 것으로 보인다고 밝혔습니다.

이 그룹의 수석 분석가인 John Hultquist는 "AI 취약점 경쟁이 임박했다는 오해가 있습니다. 현실은 이미 시작되었다는 것입니다."라고 말했습니다.

"위협 행위자들은 AI를 사용하여 공격의 속도, 규모 및 정교함을 높이고 있습니다. 이를 통해 운영을 테스트하고, 대상에 대한 지속성을 유지하며, 더 나은 악성코드를 구축하고, 기타 많은 개선을 할 수 있습니다."

지난달 AI 회사인 Anthropic은 최신 모델 중 하나인 Mythos가 매우 강력한 기능을 가지고 있으며 잘못된 손에 넘어갈 경우 정부, 금융 기관 및 전반적인 세계에 위협이 될 수 있다는 주장을 한 후 출시를 거부했습니다.

구체적으로 Anthropic은 Mythos가 "모든 주요 운영 체제 및 모든 주요 웹 브라우저"에서 제로데이 취약점을 발견했다고 밝혔습니다. 제로데이 취약점은 제품의 결함이 개발자에게 알려지기 전에 발견된 것을 의미합니다.

이 회사는 이러한 발견으로 인해 "업계 전반에 걸친 상당한 조정된 방어 조치"가 필요하다고 말했습니다.

그러나 구글의 보고서는 최근 범죄 조직이 "대규모 악용" 캠페인을 수행하기 위해 제로데이 취약점을 활용하려 했으며, 이 조직은 Mythos가 아닌 AI 대규모 언어 모델(LLM)을 사용한 것으로 보인다고 밝혔습니다.

이 보고서는 또한 2월에 사용자가 가드레일 없이 AI 에이전트에게 삶의 많은 부분을 맡길 수 있도록 하고 이메일 받은 편지함을 대량 삭제하는 불행한 경향을 보이는 AI 도구인 OpenClaw를 "실험"하고 있는 그룹들을 발견했습니다.

University College London의 보안 공학 교수인 Steven Murdoch는 AI 도구가 해커뿐만 아니라 사이버 보안의 방어 측면에도 도움이 될 수 있다고 말했습니다.

"그렇기 때문에 저는 당황하지 않습니다. 일반적으로 우리는 버그를 발견하는 오래된 방식이 사라지고 이제 모든 것이 LLM 지원이 될 단계에 도달했습니다. 이러한 결과가 정리되는 데는 시간이 좀 걸릴 것입니다."라고 그는 말했습니다.

그러나 AI가 야심 찬 해커들의 생산성 목표 달성을 돕고 있다면, 그것이 더 넓은 경제를 활성화하고 있는지에 대한 의문은 남아 있습니다.

독립적인 AI 연구 기관인 Ada Lovelace Institute(ALI)는 AI로 인한 수십억 파운드의 공공 부문 생산성 향상에 대한 가정에 대해 경고했습니다. 영국 정부는 디지털 도구 및 AI에 대한 공공 부문 투자로부터 450억 파운드의 절감 및 생산성 혜택을 예상했습니다.

월요일에 발표된 보고서에서 ALI는 AI 관련 생산성 증가에 대한 대부분의 연구가 시간 절약 또는 비용 절감에 언급했지만 더 나은 서비스 또는 개선된 직원 복지와 같은 결과는 살펴보지 않았다고 밝혔습니다.

이러한 연구의 다른 문제점으로는 다음이 포함됩니다. 작업장에서 AI 관련 효율성에 대한 예측이 실제 세계에서 실제로 성공하는지 여부; 다양한 작업에서 AI 사용에 대한 다양한 결과를 가리는 헤드라인 수치; 공공 부문 고용 및 서비스 제공에 미치는 영향을 고려하지 못함.

ALI 보고서는 "AI에 대한 주요 정부 결정을 형성하는 생산성 추정치는 때때로 검증되지 않은 가정에 기반하며, 현장에서 수치를 사용하는 사람들이 항상 이해하지 못하는 방법론의 한계에 의존합니다."라고 말했습니다.

"결과는 생산성 주장이 제시되는 자신감과 그 뒤에 있는 증거의 강도 사이에 격차가 있다는 것입니다."

이 보고서의 권장 사항에는 다음이 포함됩니다. 기술의 영향에 대한 불확실성을 반영하는 향후 연구 장려; 정부 부서가 "처음부터" AI 프로그램의 영향을 측정하도록 보장; 몇 주가 아닌 몇 년 동안 생산성 향상을 측정하는 장기 연구 지원.