L'agent d'IA de Meta provoque une fuite de données sensibles à grande échelle auprès des employés

Un agent d'IA a demandé à un ingénieur d'effectuer des actions qui ont exposé une grande quantité de données sensibles de Meta à certains de ses employés, dans le dernier exemple d'IA perturbant une grande entreprise technologique.
La fuite, que Meta a confirmée, s'est produite lorsqu'un employé a demandé des conseils sur un problème d'ingénierie sur un forum interne. Un agent d'IA a répondu avec une solution, que l'employé a mise en œuvre, ce qui a entraîné l'exposition d'une grande quantité de données sensibles relatives aux utilisateurs et à l'entreprise à ses ingénieurs pendant deux heures.
« Aucune donnée utilisateur n'a été mal traitée », a déclaré un porte-parole de Meta, et ils ont souligné qu'un humain pourrait également donner des conseils erronés. L'incident, d'abord signalé par The Information, a déclenché une alerte de sécurité interne majeure chez Meta, ce que l'entreprise a déclaré être un indicateur de l'importance qu'elle accorde à la protection des données.
Cette violation est l'un des plusieurs incidents récents et médiatisés causés par l'utilisation croissante d'agents d'IA au sein des entreprises technologiques américaines. Le mois dernier, un rapport du Financial Times a indiqué qu'Amazon avait connu au moins deux pannes liées au déploiement de ses outils d'IA internes.
Plus d'une demi-douzaine d'employés d'Amazon ont ensuite parlé au Guardian au sujet de la tentative précipitée de l'entreprise d'intégrer l'IA à tous les éléments de leur travail, ce qui, selon eux, a conduit à des erreurs flagrantes, un code bâclé et une productivité réduite.
La technologie qui sous-tend tous ces incidents, l'IA agentique, a rapidement évolué au cours des derniers mois. En décembre, les développements dans l'outil de codage d'IA d'Anthropic, Claude Code, ont déclenché un large émoi quant à sa capacité à réserver de manière autonome des billets de théâtre, à gérer les finances personnelles et même à faire pousser des plantes.
Peu de temps après, est apparu OpenClaw, un assistant personnel d'IA viral qui fonctionnait au-dessus d'agents tels que ClaudeCode mais pouvait fonctionner de manière entièrement autonome – échangeant, par exemple, des millions de dollars en cryptomonnaie, ou supprimant massivement les e-mails des utilisateurs – ce qui a entraîné des discussions enthousiastes sur l'avènement de l'AGI, ou intelligence générale artificielle, un terme générique pour l'IA capable de remplacer les humains pour un grand nombre de tâches.
Dans les semaines qui ont suivi, les marchés boursiers ont vacillé en raison de la crainte que les agents d'IA ne détruisent les entreprises de logiciels, ne remodèlent l'économie et ne remplacent les travailleurs humains.
Tarek Nseir, un cofondateur d'une société de conseil axée sur la manière dont les entreprises utilisent l'IA, a déclaré que ces incidents montraient que Meta et Amazon en étaient dans des « phases expérimentales » de déploiement de l'IA agentique.
« Ils ne se tiennent pas vraiment en retrait par rapport à ces choses et n'effectuent pas réellement une évaluation des risques appropriée. Si vous confiez cela à un stagiaire junior, vous ne donneriez jamais à ce stagiaire junior accès à toutes vos données RH critiques de niveau de gravité un », a-t-il déclaré.
« La vulnérabilité aurait été très, très évidente pour Meta rétrospectivement, sinon au moment voulu. Et ce que je peux dire et dirai, c'est que Meta expérimente à grande échelle. C'est Meta qui ose. »
Jamieson O’Reilly, un spécialiste de la sécurité qui se concentre sur la construction d'IA offensives, a déclaré que les agents d'IA introduisaient un certain type d'erreur que les humains ne produisent pas – et cela pourrait expliquer l'incident chez Meta.
Un humain connaît le « contexte » d'une tâche – la connaissance implicite qu'il ne faut pas, par exemple, mettre le canapé à feu pour chauffer la pièce, ou supprimer un fichier peu utilisé mais crucial, ou effectuer une action qui exposerait les données des utilisateurs en aval.
Pour les agents d'IA, c'est plus compliqué. Ils ont des « fenêtres de contexte » – une sorte de mémoire de travail – dans lesquelles ils portent des instructions, mais celles-ci disparaissent, entraînant des erreurs.
« Un ingénieur humain qui travaille quelque part depuis deux ans se déplace avec un sentiment accumulé de ce qui compte, de ce qui casse à 2 heures du matin, du coût de l'arrêt, des systèmes qui touchent les clients. Ce contexte vit en lui, dans sa mémoire à long terme, même s'il n'est pas au premier plan », a déclaré O’Reilly.
« L'agent, en revanche, n'a rien de tout cela à moins que vous ne le mettiez explicitement dans l'invite, et même alors, il commence à s'estomper à moins qu'il ne soit dans les données d'entraînement. »
Nseir a déclaré : « Inévitablement, il y aura d'autres erreurs. »