Meta AI agent’s instruction causes large sensitive data leak to employees

Un agente AI ha istruito un ingegnere a intraprendere azioni che hanno esposto una grande quantità di dati sensibili di Meta ad alcuni dei suoi dipendenti, nell'ultimo esempio di AI che causa sconvolgimenti in una grande azienda tecnologica.
La perdita, che Meta ha confermato, è avvenuta quando un dipendente ha chiesto indicazioni su un problema di ingegneria su un forum interno. Un agente AI ha risposto con una soluzione, che il dipendente ha implementato, causando l'esposizione di una grande quantità di dati sensibili di utenti e dell'azienda ai suoi ingegneri per due ore.
"Nessun dato utente è stato gestito in modo improprio", ha affermato un portavoce di Meta, sottolineando che anche un umano potrebbe dare consigli errati. L'incidente, riportato per la prima volta da The Information, ha scatenato un importante allarme di sicurezza interno all'interno di Meta, che l'azienda ha detto essere un'indicazione di quanto seriamente prenda la protezione dei dati.
Questa violazione è uno dei diversi recenti incidenti di alto profilo causati dall'uso crescente di agenti AI all'interno delle aziende tecnologiche statunitensi. Il mese scorso, un rapporto del Financial Times ha affermato che Amazon ha subito almeno due interruzioni legate al deployment dei suoi strumenti AI interni.
Più di una dozzina di dipendenti Amazon hanno successivamente parlato con il Guardian sulla spinta frettolosa dell'azienda a integrare l'AI in tutti gli elementi del loro lavoro, portando, a loro dire, a errori evidenti, codice scadente e ridotta produttività.
La tecnologia che sta alla base di tutti questi incidenti, l'AI agentica, si è evoluta rapidamente negli ultimi mesi. A dicembre, gli sviluppi nello strumento di coding AI di Anthropic, Claude Code, hanno scatenato un ampio fermento sulla sua capacità di prenotare autonomamente biglietti per il teatro, gestire le finanze personali e persino far crescere le piante.
Poco dopo è arrivato OpenClaw, un assistente personale AI virale che funzionava su agenti come ClaudeCode ma poteva operare interamente in modo autonomo: scambiando, ad esempio, milioni di dollari in criptovalute o eliminando di massa le email degli utenti, portando a discorsi euforici sull'avvento dell'AGI, o intelligenza generale artificiale, un termine generico per l'AI in grado di sostituire gli umani per un'ampia gamma di compiti.
Nelle settimane successive, i mercati azionari hanno vacillato per timori che gli agenti AI distruggano le aziende di software, rimodellino l'economia e sostituiscano i lavoratori umani.
Tarek Nseir, un co-fondatore di una società di consulenza focalizzata su come le aziende utilizzano l'AI, ha affermato che questi incidenti hanno dimostrato che Meta e Amazon si trovavano in "fasi sperimentali" del deployment dell'AI agentica.
"Non si stanno davvero tirando indietro da queste cose e valutando adeguatamente i rischi. Se metti un tirocinante junior su queste cose, non daresti mai a quel tirocinante accesso a tutti i tuoi dati HR di gravità critica", ha detto.
"La vulnerabilità sarebbe stata molto, molto ovvia per Meta a posteriori, se non nel momento. E quello che posso dire e dirò è che questo è Meta che sperimenta su larga scala. È Meta che è audace."
Jamieson O’Reilly, uno specialista della sicurezza che si concentra sulla costruzione di AI offensiva, ha affermato che gli agenti AI introducono un certo tipo di errore che gli umani non hanno: e questo può spiegare l'incidente a Meta.
Un umano conosce il "contesto" di un compito: la conoscenza implicita che non si dovrebbe, ad esempio, accendere il divano per riscaldare la stanza, o eliminare un file poco utilizzato ma cruciale, o intraprendere un'azione che esporrebbe i dati degli utenti a valle.
Per gli agenti AI, questo è più complicato. Hanno "finestre di contesto" - una sorta di memoria di lavoro - in cui portano istruzioni, ma queste scadono, portando a errori.
"Un ingegnere umano che ha lavorato da qualche parte per due anni si aggira con un senso accumulato di ciò che conta, cosa si rompe alle 2 del mattino, qual è il costo dei tempi di inattività, quali sistemi toccano i clienti. Quel contesto vive in loro, nella loro memoria a lungo termine, anche se non è in primo piano", ha detto O’Reilly.
"L'agente, d'altra parte, non ha nessuno di questi a meno che tu non lo metta esplicitamente nel prompt, e anche allora inizia a svanire a meno che non sia nei dati di addestramento."
Nseir ha detto: "Inevitabilmente ci saranno più errori."