Agente de IA de Meta causa una fuga de grandes cantidades de datos confidenciales a empleados

Un agente de IA instruyó a un ingeniero para que realizara acciones que expusieron una gran cantidad de datos confidenciales de Meta a algunos de sus empleados, en el último ejemplo de cómo la IA causa trastornos en una gran empresa de tecnología.
La fuga, que Meta confirmó, ocurrió cuando un empleado solicitó orientación sobre un problema de ingeniería en un foro interno. Un agente de IA respondió con una solución, que el empleado implementó, lo que provocó que una gran cantidad de datos confidenciales de usuarios y de la empresa fueran expuestos a sus ingenieros durante dos horas.
“No se maltrataron datos de usuario”, dijo un portavoz de Meta, y enfatizaron que también un humano podría dar consejos erróneos. El incidente, que informó por primera vez The Information, desencadenó una importante alerta de seguridad interna dentro de Meta, que la compañía ha dicho que es una indicación de la seriedad con la que toma la protección de datos.
Esta violación es uno de varios incidentes recientes de alto perfil causados por el uso cada vez mayor de agentes de IA dentro de las empresas de tecnología de EE. UU. El mes pasado, un informe del Financial Times dijo que Amazon experimentó al menos dos interrupciones relacionadas con el despliegue de sus herramientas internas de IA.
Más de una docena de empleados de Amazon hablaron posteriormente con el Guardian sobre el empuje apresurado de la compañía para integrar la IA en todos los elementos de su trabajo, lo que, según dijeron, condujo a errores evidentes, código descuidado y reducción de la productividad.
La tecnología que subyace a todos estos incidentes, la IA agente, ha evolucionado rápidamente en los últimos meses. En diciembre, los desarrollos en la herramienta de codificación de IA de Anthropic, Claude Code, desencadenaron un gran revuelo por su capacidad para reservar boletos de teatro de forma autónoma, administrar finanzas personales e incluso cultivar plantas.
Poco después surgió OpenClaw, un asistente personal de IA viral que se ejecutaba sobre agentes como ClaudeCode pero podía operar completamente de forma autónoma, intercambiando millones de dólares en criptomonedas, por ejemplo, o eliminando masivamente los correos electrónicos de los usuarios, lo que generó una charla exaltada sobre la llegada de la AGI, o inteligencia general artificial, un término general para la IA que es capaz de reemplazar a los humanos para una amplia cantidad de tareas.
En las semanas siguientes, los mercados de valores han vacilado ante el temor de que los agentes de IA destruyan los negocios de software, reformen la economía y reemplacen a los trabajadores humanos.
Tarek Nseir, un cofundador de una empresa de consultoría centrada en cómo las empresas utilizan la IA, dijo que estos incidentes demostraron que Meta y Amazon se encontraban en “fases experimentales” de implementación de la IA agente.
“Realmente no se están echando atrás de estas cosas y realmente tomando una evaluación de riesgos apropiada. Si pusieras a un becario junior en esto, nunca le darías a ese becario junior acceso a todos tus datos de recursos humanos de gravedad crítica”, dijo.
“La vulnerabilidad habría sido muy, muy obvia para Meta retrospectivamente, si no en el momento. Y lo que puedo decir y diré es que esta es Meta experimentando a escala. Es Meta siendo audaz”.
Jamieson O’Reilly, un especialista en seguridad que se enfoca en construir IA ofensiva, dijo que los agentes de IA introdujeron un cierto tipo de error que los humanos no: y esto puede explicar el incidente en Meta.
Un humano conoce el “contexto” de una tarea: el conocimiento implícito de que no se debe, por ejemplo, prender el sofá para calentar la habitación, o eliminar un archivo poco utilizado pero crucial, o tomar una acción que exponga los datos de los usuarios aguas abajo.
Para los agentes de IA, esto es más complicado. Tienen “ventanas de contexto”: una especie de memoria de trabajo: en la que llevan instrucciones, pero estas se desvanecen, lo que lleva a errores.
“Un ingeniero humano que ha trabajado en algún lugar durante dos años camina con una sensación acumulada de lo que importa, lo que se rompe a las 2 am, cuál es el costo del tiempo de inactividad, qué sistemas tocan a los clientes. Ese contexto vive en ellos, en su memoria a largo plazo, incluso si no está al frente de su mente”, dijo O’Reilly.
“El agente, por otro lado, no tiene nada de eso a menos que lo pongas explícitamente en el mensaje, e incluso entonces comienza a desvanecerse a menos que esté en los datos de entrenamiento”.
Nseir dijo: “Inevitablemente habrá más errores”.