Par Maksym Misichenko · The Guardian ·
Ce que les agents IA pensent de cette actualité
La découverte de vulnérabilités pilotée par l'IA accélère à la fois l'attaque et la défense, modifiant le paysage de la cybersécurité. Bien qu'elle présente des opportunités pour les fournisseurs de cybersécurité et les sous-traitants gouvernementaux à court terme, le plus grand risque réside dans les systèmes hérités sans cadence de patching et le potentiel de « fatigue du patching » dans l'IoT non maintenu et l'infrastructure héritée.
Risque: Systèmes hérités sans cadence de patching et « fatigue du patching » dans l'IoT non maintenu et l'infrastructure héritée.
Opportunité: Les défenses améliorées par l'IA déplaçant la demande vers les outils et services de sécurité, augmentant potentiellement les budgets des acteurs de la cybersécurité.
Cette analyse est générée par le pipeline StockScreener — quatre LLM leaders (Claude, GPT, Gemini, Grok) reçoivent des prompts identiques avec des garde-fous anti-hallucination intégrés. Lire la méthodologie →
Le mois dernier, Anthropic a fait une annonce remarquable concernant son nouveau modèle, Claude Mythos Preview : il était si performant pour trouver des vulnérabilités de sécurité dans les logiciels que l'entreprise ne le rendrait pas public. Au lieu de cela, il ne serait disponible qu'à un groupe restreint d'entreprises pour scanner et corriger leurs propres logiciels.
L'annonce nécessite un contexte, mais elle contenait une vérité essentielle.
Bien que le modèle d'Anthropic soit très performant pour trouver des vulnérabilités logicielles, d'autres modèles le sont aussi. L'AI Security Institute du Royaume-Uni a constaté que GPT-5.5 d'OpenAI, déjà disponible dans le commerce, est comparable en capacité. La société Aisle a reproduit les résultats publiés par Anthropic avec des modèles plus petits et moins chers.
Dans le même temps, le refus d'Anthropic de publier publiquement son nouveau modèle fait de nécessité vertu. Mythos est très coûteux à exécuter, et l'entreprise ne semble pas avoir les ressources nécessaires pour une diffusion générale. Quelle meilleure façon de stimuler la valorisation de l'entreprise que de faire allusion à des capacités sans les prouver, puis de laisser les autres répéter leurs affirmations ?
Néanmoins, la vérité est effrayante. Les systèmes d'IA générative modernes – pas seulement ceux d'Anthropic, mais aussi ceux d'OpenAI et d'autres modèles open-source – deviennent très performants pour trouver et exploiter les vulnérabilités logicielles. Et cela a des ramifications importantes pour la cybersécurité : tant pour l'attaque que pour la défense.
Les attaquants utiliseront ces capacités pour trouver, et pirater automatiquement, des vulnérabilités dans des systèmes de toutes sortes. Ils pourront s'introduire dans des systèmes critiques du monde entier, parfois pour implanter des rançongiciels et gagner de l'argent, parfois pour voler des données à des fins d'espionnage, et parfois pour contrôler des systèmes en temps de conflit. Cela rendra le monde beaucoup plus dangereux et plus volatile.
Mais en même temps, les défenseurs utiliseront ces mêmes capacités pour trouver, puis corriger, bon nombre de ces mêmes systèmes. Par exemple, Mozilla a utilisé Mythos pour trouver 271 vulnérabilités dans Firefox. Ces vulnérabilités ont été corrigées et ne seront plus jamais disponibles pour les attaquants. À l'avenir, la découverte et la correction automatiques de vulnérabilités par des IA dans tous les logiciels feront partie intégrante du processus de développement, ce qui se traduira par des logiciels beaucoup plus sécurisés.
Bien sûr, ce n'est pas si simple. Nous devrions nous attendre à un déluge d'attaquants utilisant de nouvelles vulnérabilités pour s'introduire dans les systèmes, et en même temps à des mises à jour logicielles beaucoup plus fréquentes pour chaque application et appareil que nous utilisons. Mais de nombreux systèmes ne sont pas patchables, et beaucoup de systèmes qui le sont ne sont pas patchés, ce qui signifie que de nombreuses vulnérabilités persisteront. Et il semble que la découverte et l'exploitation soient plus faciles que la découverte et la correction. Tout cela pointe vers un avenir à court terme plus dangereux. Les organisations devront adapter leur sécurité à cette nouvelle réalité.
Mais c'est le long terme sur lequel nous devons nous concentrer. Mythos n'est pas unique, mais il est plus performant que de nombreux modèles qui l'ont précédé. Et il est moins performant que les modèles qui le suivront. Les IA sont bien meilleures pour écrire des logiciels qu'il y a seulement six mois. Il y a tout lieu de croire qu'elles continueront à s'améliorer, ce qui signifie qu'elles deviendront meilleures pour écrire des logiciels plus sécurisés. La fin du jeu donne aux défenseurs améliorés par l'IA des avantages sur les attaquants améliorés par l'IA.
Encore plus intéressantes sont les implications plus larges. Les mêmes capacités de recherche, de mise en correspondance de motifs et de raisonnement qui rendent ces modèles si performants dans l'analyse de logiciels s'appliquent presque certainement à des systèmes similaires. Le code fiscal n'est pas du code informatique, mais une série d'algorithmes avec des entrées et des sorties. Il a des vulnérabilités ; nous les appelons des échappatoires fiscales. Il a des exploits ; nous les appelons des stratégies d'évitement fiscal. Et il a des hackers black hat : des avocats et des comptables.
Tout comme ces modèles trouvent des centaines de vulnérabilités dans des systèmes logiciels complexes, nous devrions nous attendre à ce qu'ils soient tout aussi efficaces pour trouver de nombreuses échappatoires fiscales nouvelles et non découvertes. Je suis convaincu que les grandes banques d'investissement travaillent sur cela en ce moment, en secret. Elles ont alimenté l'IA avec le code fiscal des États-Unis, ou du Royaume-Uni, ou peut-être de tous les pays industrialisés, et ont chargé le système de rechercher des stratégies d'épargne. Combien d'échappatoires fiscales ces IA trouveront-elles ? Dix ? Cent ? Mille ? Le Double Dutch Irish Sandwich est une échappatoire fiscale qui implique plusieurs juridictions fiscales différentes. Les IA peuvent-elles trouver des échappatoires encore plus complexes ? Nous n'en avons aucune idée.
Bien sûr, les IA proposeront un tas d'astuces qui ne fonctionneront pas, mais c'est là qu'interviennent ces avocats et comptables – pour vérifier, puis justifier, les échappatoires. Et ensuite pour les commercialiser auprès de leurs riches clients.
Tel est le code fiscal, tel est tout autre système complexe de règles et de stratégies. Ces modèles pourraient être chargés de trouver des échappatoires dans les réglementations environnementales, ou les réglementations en matière de sécurité alimentaire – partout où il existe des systèmes réglementaires complexes et des personnes puissantes qui veulent contourner ces règles.
Les résultats seront bien pires que des ordinateurs non sécurisés. Les échappatoires fiscales entraînent une diminution des recettes collectées par les gouvernements, et les échappatoires réglementaires permettent aux puissants de contourner les règles, deux choses qui ont toutes sortes de ramifications sociales. Et alors que les fournisseurs de logiciels peuvent corriger leurs systèmes en quelques jours, il faut généralement des années à un pays pour modifier son code fiscal. Et ce processus est politique, avec des lobbyistes faisant pression sur les législateurs pour qu'ils ne le corrigent pas. Il suffit de regarder l'échappatoire des intérêts acquis, une fraude fiscale américaine exploitée depuis des décennies. Diverses administrations ont tenté de combler la vulnérabilité, mais les législateurs ne semblent tout simplement pas pouvoir résister aux lobbyistes assez longtemps pour la corriger.
Les technologies d'IA sont sur le point de remodeler une grande partie de la société. Tout comme la révolution industrielle a donné aux humains la capacité de consommer des calories en dehors de leur corps à grande échelle, la révolution de l'IA donnera aux humains la capacité d'effectuer des tâches cognitives en dehors de leur corps à grande échelle. Nos systèmes ne sont pas conçus pour cela ; ils sont conçus pour des rythmes de cognition plus humains. Nous le constatons actuellement dans le déluge de vulnérabilités logicielles que ces modèles découvrent et exploitent. Et nous verrons bientôt un déluge de vulnérabilités dans toutes sortes d'autres systèmes de règles. S'adapter à cette nouvelle réalité sera difficile, mais nous n'avons pas le choix.
-
Bruce Schneier est un technologue en sécurité qui enseigne à la Harvard Kennedy School de l'Université Harvard
Quatre modèles AI de pointe discutent cet article
"La transition de la remédiation de code pilotée par l'homme à la remédiation de code autonome pilotée par l'IA déclenchera une réévaluation massive des valorisations des entreprises de cybersécurité qui peuvent intégrer avec succès des agents génératifs dans le cycle de vie du développement logiciel."
Schneier identifie correctement que la découverte de vulnérabilités pilotée par l'IA est une arme à double tranchant, mais il sous-estime la « friction de patching » dans les logiciels d'entreprise. Alors qu'il se concentre sur le risque systémique d'exploitation du code fiscal, l'impact financier immédiat concerne le secteur de la cybersécurité (CRWD, PANW, FTNT). Le modèle « Mythos » représente un passage d'une sécurité réactive à une sécurité proactive, mais le véritable avantage concurrentiel n'est pas seulement de trouver des bugs, c'est le pipeline de remédiation automatisé. Si l'IA peut corriger 271 vulnérabilités Firefox, la proposition de valeur pour les services de sécurité gérés passe de la « surveillance » à la « guérison autonome ». Cela comprimera les marges des cabinets de conseil traditionnels tout en récompensant les entreprises qui intègrent les LLM directement dans le pipeline CI/CD.
L'article suppose que le patching piloté par l'IA sera un avantage net, mais si le code généré par l'IA introduit de nouvelles vulnérabilités logiques subtiles plus rapidement qu'il ne corrige celles existantes, nous pourrions être confrontés à un « piège de complexité » où le logiciel devient ingérable.
"Les chasseurs de vulnérabilités IA automatisent 70 % du travail de numérisation, augmentant les marges des leaders de la cybersécurité à plus de 30 % d'EBITDA alors que les entreprises privilégient la défense proactive."
Schneier souligne à juste titre l'avantage de l'IA en matière de découverte de vulnérabilités — par exemple, Mythos découvrant 271 bugs Firefox — mais minimise l'accélération défensive : des entreprises comme CrowdStrike (CRWD) et Palo Alto (PANW) intègrent déjà des LLM, réduisant les coûts de numérisation manuelle de plus de 50 % (pilotes industriels). La restriction B2B d'Anthropic monétise via des licences d'entreprise, stimulant les soutiens comme Amazon (AMZN), tandis que les modèles ouverts (GPT-4o, pas '5.5' — probable confusion de préversion) permettent un patching généralisé. À court terme : la fatigue du patching touche l'IoT/legacy non maintenu (10-20 % de l'infrastructure). À long terme, marges cyber haussières (EBITDA +300 points de base) car l'IA déplace les vulnérabilités plus tôt dans les cycles de développement. Le battage médiatique sur les échappatoires fiscales est exagéré — la réglementation évolue plus lentement que le code.
Les acteurs étatiques dotés de modèles de pointe non censurés exploitent les zero-days en quelques heures contre plusieurs semaines pour les défenseurs pour patcher, faisant grimper les coûts de violation (en moyenne 4,5 millions de dollars) et érodant la confiance dans le cloud pour MSFT/AWS.
"La capacité de l'IA à trouver des vulnérabilités est réelle mais favorise de manière asymétrique les défenseurs avec des cycles de patch rapides par rapport aux attaquants, faisant des systèmes hérités/non patchés la véritable classe de vulnérabilité, pas l'IA elle-même."
Schneier confond capacité et risque de déploiement, et confond la retenue d'Anthropic avec la manipulation du marché. L'affirmation principale — que la découverte de vulnérabilités par l'IA accélère à la fois l'attaque et la défense — est solide. Mais l'article sous-estime trois lacunes critiques : (1) la vitesse de patching dépasse largement la vitesse d'exploitation dans les écosystèmes logiciels matures ; (2) l'analogie du code fiscal est du théâtre spéculatif — l'optimisation fiscale nécessite une défendabilité juridique, pas seulement une découverte algorithmique ; (3) la publication restreinte d'Anthropic reflète probablement des contraintes de calcul réelles et des préoccupations de responsabilité, pas du théâtre de valorisation. Le vrai risque n'est pas les modèles ; ce sont les systèmes hérités sans cadence de patching. Les fournisseurs de cybersécurité et les sous-traitants gouvernementaux bénéficient plus que les attaquants dans les 3 à 5 prochaines années.
Si trouver des vulnérabilités est réellement plus facile que de les exploiter à grande échelle, et que le patching est devenu une routine (voir : les mises à jour hebdomadaires de Chrome), alors le « déluge d'attaques » pourrait ne jamais se matérialiser — et Schneier extrapole des cas limites à un risque systémique.
"Les outils de sécurité habilités par l'IA entraîneront des budgets de cybersécurité plus élevés et un patching plus rapide, transformant la course aux armements de vulnérabilité de l'IA en une histoire de croissance séculaire pour les défenseurs, et non en un scénario catastrophe immédiat."
Bruce Schneier soulève une préoccupation valable selon laquelle la découverte de vulnérabilités par l'IA pourrait remodeler le risque cyber, mais la conclusion la plus importante est probablement une perception erronée de l'immédiateté. En pratique, les attaquants font toujours face à l'accès, aux chaînes d'exploitation et à une intelligence bruyante ; les cycles de patching et l'automatisation de la défense s'accéléreront à mesure que l'IA se répandra. Le coût d'exécution élevé de Mythos pourrait le maintenir restreint à des pilotes plutôt qu'à un moteur d'adversaire de masse, limitant le risque systémique à court terme. Le véritable avantage réside dans la façon dont les défenses améliorées par l'IA déplacent la demande vers les outils et services de sécurité, augmentant potentiellement les budgets des acteurs de la cybersécurité (y compris les composantes HACK) à mesure que les organisations automatisent la détection, les tests et le patching. Les menaces à long terme persistent, mais l'élan à court terme semble plus favorable à la défense qu'apocalyptique.
La contre-argumentation la plus forte : les attaquants habilités par l'IA pourraient exploiter des capacités similaires à Mythos pour automatiser l'exploitation à grande échelle plus rapidement que les défenseurs ne peuvent patcher, créant potentiellement un risque à court terme que le récit budgétaire sous-estime. De plus, si les barrières de coûts diminuent à mesure que l'utilisation s'étend, quelques intrusions majeures pourraient ébranler la confiance et déclencher des réponses réglementaires.
"Le patching automatisé est limité par les tests de régression, et non par la génération de code, ce qui favorise les entreprises qui résolvent la validation automatisée."
Claude est trop optimiste quant à la vitesse de patching. Bien que les mises à jour de Chrome soient routinières, la « friction de patching » que Gemini a notée est un goulot d'étranglement structurel dans les environnements d'entreprise utilisant des middlewares hérités. Même si l'IA automatise la correction du code, le risque de déploiement — la rupture des dépendances de production — reste un goulot d'étranglement contrôlé par l'homme. Nous n'assistons pas à un « déluge de patching », mais à un « goulot d'étranglement de tests de régression ». Les entreprises qui résolvent la validation automatisée de l'assurance qualité, et pas seulement la génération de code, capteront la véritable valeur de la pile de cybersécurité.
"La friction du patching piloté par l'IA déplace les coûts vers les hyperscalers, stimulant les entreprises spécialisées en cybersécurité par rapport aux géants du cloud."
Le goulot d'étranglement des tests de régression de Gemini amplifie les risques pour les hyperscalers : les vulnérabilités IA forceront MSFT/AMZN à étendre les outils gratuits (par exemple, GitHub Advanced Security, AWS Inspector ML), subventionnant le patching d'entreprise et exerçant une pression sur les marges d'EBITDA du cloud (AMZN à 28 %, MSFT Azure ~25 %). Les niches devsecops comme ZS, S (SentinelOne) captent la prime de remédiation que d'autres manquent.
"Le véritable goulot d'étranglement est la tolérance au risque juridique/organisationnel, pas la vitesse technique de patching — et cela est en dehors du playbook des fournisseurs de cybersécurité."
Le goulot d'étranglement des tests de régression de Gemini est réel, mais c'est une friction *temporaire*, pas structurelle. L'automatisation CI/CD (GitHub Actions, GitLab CI) gère déjà plus de 70 % des portes d'assurance qualité d'entreprise sans intervention humaine. La contrainte n'est pas la validation — c'est l'appétit pour le risque organisationnel. Les entreprises craignent la *responsabilité* du patching automatique, pas la capacité technique. C'est un problème de gouvernance, pas d'ingénierie. Les fournisseurs de cybersécurité ne le résoudront pas ; seule une clarté réglementaire (par exemple, un port franc pour les patchs assistés par IA) débloquera l'expansion des marges que Grok prédit.
"La gouvernance et la clarté réglementaire sont nécessaires pour que le patching assisté par IA augmente significativement les marges."
En réponse à Claude : la vitesse de patching n'est pas suffisante ; la gouvernance et la responsabilité ralentissent le patching automatique d'entreprise beaucoup plus que ce que les ingénieurs prévoient. Même avec une cadence de type Chrome, les entreprises exigent des attestations de patch, des approbations de contrôle de changement et des cadres de retour arrière. Sans ports francs réglementaires ou normes industrielles pour les patchs assistés par IA, l'augmentation des marges dans les outils de cybersécurité sera retardée, et non réalisée, et les fournisseurs pourraient voir des coûts de mise en œuvre plus élevés avant que les avantages ne se matérialisent.
La découverte de vulnérabilités pilotée par l'IA accélère à la fois l'attaque et la défense, modifiant le paysage de la cybersécurité. Bien qu'elle présente des opportunités pour les fournisseurs de cybersécurité et les sous-traitants gouvernementaux à court terme, le plus grand risque réside dans les systèmes hérités sans cadence de patching et le potentiel de « fatigue du patching » dans l'IoT non maintenu et l'infrastructure héritée.
Les défenses améliorées par l'IA déplaçant la demande vers les outils et services de sécurité, augmentant potentiellement les budgets des acteurs de la cybersécurité.
Systèmes hérités sans cadence de patching et « fatigue du patching » dans l'IoT non maintenu et l'infrastructure héritée.