Meta AI 에이전트의 지시로 인해 직원들에게 대규모 민감 데이터 유출 발생

AI 에이전트가 엔지니어에게 작업을 수행하도록 지시하여 Meta의 민감한 데이터 대량 유출을 일부 직원들에게 발생시켰습니다. 이는 대형 기술 회사에서 AI가 혼란을 야기하는 최신 사례입니다.
Meta가 확인한 이 유출은 직원이 내부 포럼에서 엔지니어링 문제에 대한 지침을 요청하면서 발생했습니다. AI 에이전트가 솔루션을 응답했는데, 직원이 이를 구현하여 두 시간 동안 엔지니어들에게 대량의 민감한 사용자 및 회사 데이터를 노출시켰습니다.
“사용자 데이터는 오용되지 않았습니다.”라고 Meta 대변인은 말하고, 인간도 잘못된 조언을 할 수 있다는 점을 강조했습니다. The Information이 처음 보도한 이 사건은 Meta 내부에서 주요 보안 경보를 촉발했으며, 이는 회사가 데이터 보호를 얼마나 진지하게 받아들이는지에 대한 징후라고 밝혔습니다.
이러한 침해는 최근 미국 기술 회사 내에서 AI 에이전트의 사용이 증가함에 따라 발생한 여러 가지 고위험 사건 중 하나입니다. 지난달 Financial Times는 Amazon이 자체 내부 AI 도구 배포와 관련된 적어도 두 건의 중단을 겪었다고 보도했습니다.
Amazon 직원 6명 이상이 Guardian과의 인터뷰에서 회사가 AI를 모든 작업 요소에 통합하기 위한 서두르는 시도를 설명했는데, 이는 눈에 띄는 오류, 부주의한 코드 및 생산성 감소로 이어졌다고 말했습니다.
이러한 모든 사건의 기반이 되는 기술인 에이전트 AI는 지난 몇 달 동안 빠르게 진화했습니다. 12월에는 Anthropic의 AI 코딩 도구인 Claude Code의 개발로 인해 극장 티켓을 자율적으로 예약하고, 개인 재정을 관리하고, 심지어 식물을 키우는 능력에 대한 광범위한 논란이 일어났습니다.
곧이어 OpenClaw라는 바이럴 AI 개인 비서가 등장했는데, 이는 ClaudeCode와 같은 에이전트 위에 실행되었지만 완전히 자율적으로 작동할 수 있었습니다. 예를 들어 암호화폐를 수백만 달러 거래하거나 사용자 이메일을 대량으로 삭제하는 등 AGI(인공 일반 지능)의 도래에 대한 흥미로운 이야기를 이끌었습니다. AGI는 광범위한 작업에 대해 인간을 대체할 수 있는 AI를 지칭하는 포괄적인 용어입니다.
이후 몇 주 동안 주식 시장은 AI 에이전트가 소프트웨어 비즈니스를 파괴하고, 경제를 재편하고, 인간 노동자를 대체할 것이라는 우려로 인해 불안정해졌습니다.
Tarek Nseir는 AI 사용 방법에 중점을 둔 컨설팅 회사의 공동 창업자로서, 이러한 사건은 Meta와 Amazon이 에이전트 AI를 배포하는 "실험 단계"에 있다고 지적했습니다.
“그들은 이러한 것들로부터 물러서서 적절한 위험 평가를 실제로 수행하지 않고 있습니다. 만약 주니어 인턴을 이와 같은 일에 배치한다면, 그 주니어 인턴에게 모든 중요한 심각도 1 HR 데이터를 접근하도록 할 것입니다.”라고 그는 말했습니다.
“취약점은 Meta가 즉시가 아니라 그 순간에도 매우 분명했을 것입니다. 그리고 제가 말할 수 있고 말할 것은 Meta가 대규모로 실험하고 있다는 것입니다. Meta가 대담합니다.”
Jamieson O’Reilly는 공격 AI 구축에 중점을 둔 보안 전문가로서 AI 에이전트가 인간이 없는 특정 유형의 오류를 도입했으며, 이는 Meta에서 발생한 사건을 설명할 수 있다고 말했습니다.
인간은 작업의 "맥락"을 알고 있습니다. 예를 들어 방을 데우기 위해 소파에 불을 지르거나, 사용하지 않지만 중요한 파일을 삭제하거나, 다운스트림에서 사용자 데이터를 노출하는 작업을 수행해서는 안 된다는 암묵적인 지식입니다.
AI 에이전트의 경우, 이것은 더 복잡합니다. 그들은 지침을 운반하는 일종의 작업 메모리인 "컨텍스트 창"을 가지고 있지만, 이러한 창은 사라져 오류를 유발합니다.
“2년 동안 일해 온 인간 엔지니어는 무엇이 중요하고, 2시에 무엇이 고장나고, 다운타임 비용이 얼마나 들고, 어떤 시스템이 고객에게 영향을 미치는지에 대한 축적된 감각을 가지고 다닙니다. 그 맥락은 그들의 장기 기억에 살고 있으며, 항상 최전방에 있지 않더라도 말입니다.”라고 O’Reilly는 말했습니다.
“에이전트는 훈련 데이터에 명시적으로 포함되지 않는 한 그러한 맥락을 전혀 가지고 있지 않습니다.”
Nseir는 “더 많은 실수가 불가피할 것입니다.”라고 말했습니다.