Meta AI agent’s instruction causes large sensitive data leak to employees

Um agente de IA instruiu um engenheiro a tomar ações que expuseram uma grande quantidade de dados confidenciais da Meta a alguns de seus funcionários, no exemplo mais recente de IA causando agitação em uma grande empresa de tecnologia.
O vazamento, que a Meta confirmou, ocorreu quando um funcionário pediu orientação sobre um problema de engenharia em um fórum interno. Um agente de IA respondeu com uma solução, que o funcionário implementou – causando uma grande quantidade de dados confidenciais de usuários e da empresa a ser exposta a seus engenheiros por duas horas.
“Nenhum dado do usuário foi manuseado de forma inadequada”, disse um porta-voz da Meta, e eles enfatizaram que um humano também poderia dar conselhos errôneos. O incidente, que foi relatado pela primeira vez pelo The Information, acionou um grande alerta de segurança interno na Meta, o que a empresa disse ser uma indicação de como leva a sério a proteção de dados.
Esta violação é um de vários incidentes recentes de grande repercussão causados pelo uso crescente de agentes de IA dentro de empresas de tecnologia dos EUA. No mês passado, um relatório do Financial Times disse que a Amazon experimentou pelo menos duas interrupções relacionadas à implantação de suas ferramentas internas de IA.
Mais de meia dúzia de funcionários da Amazon falaram posteriormente com o Guardian sobre o esforço desordenado da empresa para integrar IA em todos os elementos de seu trabalho, levando, segundo eles, a erros gritantes, código descuidado e produtividade reduzida.
A tecnologia que está por trás de todos esses incidentes, a IA agentica, evoluiu rapidamente nos últimos meses. Em dezembro, os desenvolvimentos na ferramenta de codificação de IA da Anthropic, Claude Code, desencadearam um grande burburinho sobre sua capacidade de reservar ingressos para o teatro de forma autônoma, gerenciar finanças pessoais e até cultivar plantas.
Logo depois surgiu o OpenClaw, um assistente pessoal de IA viral que funcionava sobre agentes como ClaudeCode, mas podia operar totalmente de forma autônoma – trocando milhões de dólares em criptomoedas, por exemplo, ou excluindo em massa os e-mails dos usuários – levando a conversas exaltadas sobre a chegada da AGI, ou inteligência geral artificial, um termo genérico para IA que é capaz de substituir humanos para um grande número de tarefas.
Nas semanas seguintes, os mercados de ações oscilaram devido ao medo de que os agentes de IA prejudiquem empresas de software, reconfiguram a economia e substituam trabalhadores humanos.
Tarek Nseir, um cofundador de uma empresa de consultoria focada em como as empresas usam IA, disse que esses incidentes mostraram que a Meta e a Amazon estavam em “fases experimentais” de implantação de IA agentica.
“Eles não estão realmente se afastando dessas coisas e realmente fazendo uma avaliação de risco apropriada. Se você colocar um estagiário júnior nisso, você nunca daria a esse estagiário júnior acesso a todos os seus dados de RH de gravidade crítica”, disse ele.
“A vulnerabilidade teria sido muito, muito óbvia para a Meta em retrospectiva, se não no momento. E o que posso dizer e direi é que esta é a Meta experimentando em escala. É a Meta sendo ousada.”
Jamieson O’Reilly, um especialista em segurança que se concentra na construção de IA ofensiva, disse que os agentes de IA introduziram um certo tipo de erro que os humanos não – e isso pode explicar o incidente na Meta.
Um humano conhece o “contexto” de uma tarefa – o conhecimento implícito de que não se deve, por exemplo, atear fogo no sofá para aquecer a sala, ou excluir um arquivo pouco utilizado, mas crucial, ou tomar uma ação que exporia os dados do usuário a jusante.
Para agentes de IA, isso é mais complicado. Eles têm “janelas de contexto” – uma espécie de memória de trabalho – em que carregam instruções, mas essas expiram, levando a erros.
“Um engenheiro humano que trabalhou em algum lugar por dois anos caminha com um senso acumulado do que importa, o que quebra às 2h da manhã, qual o custo do tempo de inatividade, quais sistemas tocam os clientes. Esse contexto vive neles, em sua memória de longo prazo, mesmo que não esteja na frente da mente”, disse O’Reilly.
“O agente, por outro lado, não tem nada disso, a menos que você coloque explicitamente no prompt, e mesmo assim começa a desaparecer, a menos que esteja nos dados de treinamento.”
Nseir disse: “Inevitavelmente haverá mais erros.”