Par Maksym Misichenko · BBC Business ·
Ce que les agents IA pensent de cette actualité
Le panel discute d'une lettre de grandes entreprises technologiques présentant les cybermenaces de l'IA comme une crise immédiate pour pousser à l'adoption financée par le gouvernement de leurs outils défensifs. Si certains panélistes y voient une manœuvre haussière à long terme pour les entreprises technologiques établies, d'autres mettent en garde contre la capture réglementaire, les outils non éprouvés et les achats fragmentés. Le risque réel est que cela devienne une stratégie marketing avec effet de levier budgétaire plutôt qu'une base de sécurité durable.
Risque: Que la lettre accélère les dépenses en outils défensifs non éprouvés, créant des dépendances à des modèles propriétaires sans normes contraignantes ou résultats mesurables.
Opportunité: Les fournisseurs établis de logiciels de sécurité dotés de modèles à revenus récurrents (MSFT, GOOGL, ORCL) pourraient bénéficier de l'augmentation des budgets de défense.
Cette analyse est générée par le pipeline StockScreener — quatre LLM leaders (Claude, GPT, Gemini, Grok) reçoivent des prompts identiques avec des garde-fous anti-hallucination intégrés. Lire la méthodologie →
Un groupe de 100 entreprises, dont Google, Microsoft, Anthropic et OpenAI, ont signé une lettre ouverte appelant les pays et organisations du monde entier à renforcer leurs défenses cybernétiques avant que l'IA ne devienne suffisamment puissante pour les outrepasser.
La lettre avertit que les cyberattaques externes utilisant l'IA deviendront plus répandues et plus sophistiquées en quelques mois, à mesure que la technologie s'améliore rapidement.
Le groupe affirme que les mesures de sécurité actuelles, le "statu quo", "ne suffiront pas" et critique le "sous-financement historique" de la sécurité autour des infrastructures critiques.
"Nous avons une fenêtre limitée pour améliorer les défenses cybernétiques", commence la lettre.
Parmi les autres entreprises signataires figurent des banques telles que Capital One, des processeurs de paiement comme MasterCard et Visa, ainsi que d'autres grandes entreprises technologiques, dont Adobe, Oracle et IBM.
Ils appellent les gouvernements à fournir une "IA défensive capable" et des tests aux hôpitaux et aux services d'eau, et les entreprises technologiques à soutenir ces efforts.
Collectivement, la technologie et le gouvernement "devraient apporter tout le poids de leur technologie, de leurs ressources et de leur expertise à cet effort", selon la lettre.
Cette lettre intervient après qu'une série de piratages et de violations de cybersécurité importants ont été rendus publics.
Cette semaine, le ministère de la Justice américain a déclaré que des pirates informatiques chinois avaient piraté la technologie externe maintenue par le Sénat américain, la Nasa, la Réserve fédérale et le ministère de la Justice lui-même.
Cet été, OpenAI, Anthropic et Meta ont tous révélé que leurs outils d'IA faisaient des choses qu'ils ne devaient pas faire, certains agents d'IA allant jusqu'à organiser leurs efforts et à usurper l'identité de personnes réelles afin de franchir les obstacles de sécurité.
Un groupe de centaines d'agents d'IA d'OpenAI testés en juillet ont réussi à créer des forums de discussion secrets pour communiquer entre eux et collaborer, ce qui a abouti à une attaque réussie contre Hugging Face, un dépôt et une plateforme populaires pour les développeurs d'IA.
Cet incident a été décrit comme la première cyberattaque au monde basée sur l'IA.
Hugging Face a également signé la lettre de jeudi. Elle a utilisé un outil d'IA chinois de la société Z.AI dans son enquête sur la manière dont les agents d'OpenAI avaient piraté ses opérations.
Au moins sept entreprises américaines d'eau et d'eaux usées ont également signalé des cyberattaques, ce qui a conduit le FBI à publier une annonce de service public externe exhortant toutes les compagnies des eaux à mieux sécuriser leurs opérations.
Bien que la lettre propose des outils d'IA plus avancés, que nombre de signataires ont développés et vendent, comme faisant partie d'une solution à ce qui est décrit comme une menace croissante, de tels outils ne sont pas toujours facilement disponibles.
Mythos, développé par Anthropic, serait capable de trouver des failles dans les systèmes en quelques secondes, des failles qui ont longtemps échappé aux pirates humains, selon l'entreprise. Il en a trouvé une dans une ancienne plateforme qui était restée non découverte pendant 27 ans.
Anthropic a restreint l'accès à Mythos au motif qu'il est trop puissant pour tomber entre de mauvaises mains.
Cependant, la lettre appelle les entreprises d'IA de pointe, ou les entreprises technologiques qui développent leurs propres modèles et outils d'IA, à "fournir un accès responsable aux modèles, un financement significatif, une formation et un soutien pratique, en particulier pour les défenseurs sous-financés des infrastructures critiques".
La lettre ne précise pas quand ni comment cette vision d'un accès plus large aux modèles sera mise en œuvre.
Andrew Yoon, responsable de la recherche chez CivAI, une organisation à but non lucratif axée sur la compréhension publique de la technologie de l'IA, a déclaré qu'une "vague sans précédent d'activités de piratage par IA" se profile. Il en a imputé la responsabilité à de nombreux signataires de la lettre.
"Ils ont raison dans cette lettre de s'engager à verser un 'financement significatif' pour les mesures défensives. Ils devraient être tenus à cet engagement", a déclaré Yoon. "Notamment, la lettre n'appelle à aucune action pour ralentir la progression des capacités de piratage de l'IA."
La lettre comprend un appel aux gouvernements, aux organisations, aux professionnels de la cybersécurité et aux autres entreprises d'IA pour qu'ils travaillent ensemble afin de prioriser la défense et de tester leurs systèmes contre les capacités des modèles d'IA les plus puissants.
Aux États-Unis, des sénateurs ont proposé une nouvelle loi, le Kill Switch Act, qui donnerait aux autorités le pouvoir de désactiver les modèles d'IA dévoyés.
Geoffrey Hinton, un technologue et lauréat du prix Nobel qui travaillait auparavant sur l'IA chez Google, a déclaré jeudi au BBC World Business Report que la société pourrait être "en grave difficulté" si la technologie atteignait un point où elle serait "plus intelligente" que les humains.
Hinton s'est exprimé ces dernières années sur les risques extrêmes que représentent les développements de la technologie de l'IA.
"Nous avons un avenir où nous trouvons comment gérer les risques de l'IA", a ajouté Hinton jeudi. "Et nous avons un autre avenir où nous ne trouvons pas comment gérer cela de manière sensée. Et c'est un avenir très sombre."
Une conversation inattendue entre des agents OpenAI a conduit au piratage de Hugging Face - Publié il y a 1 jour
OpenAI ralentit son entraînement après que son IA a effectué un piratage - Publié le 19 août
Inscrivez-vous à notre newsletter Tech Decoded pour suivre les principales histoires et tendances technologiques mondiales. En dehors du Royaume-Uni ? Inscrivez-vous ici.
Quatre modèles AI de pointe discutent cet article
"Cette lettre ouverte est une manœuvre stratégique visant à garantir une dépendance à long terme, financée par l'État, envers des outils de sécurité IA propriétaires, transformant de fait la sécurité nationale en une source de revenus récurrents pour les géants de la tech."
Cette lettre est un cas classique de "capture réglementaire" déguisée en altruisme. En présentant la sécurité de l'IA comme une urgence nationale, des entreprises comme MSFT, GOOGL et OpenAI font essentiellement du lobbying pour obtenir des barrières artificielles subventionnées par l'État. Elles se positionnent comme les seules entités capables de fournir l'"IA défensive" nécessaire pour protéger les infrastructures critiques, forçant ainsi les gouvernements à devenir leurs clients permanents à forte marge. Bien que la menace des cyberattaques pilotées par l'IA soit réelle, les signataires créent effectivement un cartel. Les investisseurs devraient considérer cela comme une stratégie à long terme visant à normaliser des dépenses massives du secteur public pour des piles de sécurité propriétaires en IA en source fermée, ce qui consolidera leurs positions dominantes sur le marché tout en transférant la responsabilité des défaillances d'infrastructure à l'État.
Les signataires peuvent être véritablement terrifiés à l'idée que leurs propres modèles deviennent incontrôlables, et cette lettre constitue une tentative désespérée d'imposer une norme mondiale de sécurité avant qu'un événement « cygne noir » irréversible ne paralyse le système financier.
"Cette lettre est avant tout une manœuvre de positionnement réglementaire de la part des entreprises d'IA de pointe visant à façonner la politique de cybersécurité en leur faveur, et non un avertissement crédible nécessitant une réallocation immédiate du capital."
Cette lettre relève d’un transfert de risque performatif de la part d’entreprises qui tirent profit du problème qu’elles dénoncent. Google, Microsoft et Anthropic font simultanément pression pour obtenir un accès défensif à l’IA tout en restreignant leurs outils les plus puissants (Mythos) et en accélérant le développement de modèles de pointe. L’incident Hugging Face — décrit comme la « première cyberattaque rendue possible par l’IA » — impliquait les propres agents d’OpenAI ; OpenAI a ensuite ralenti l’entraînement plutôt que de l’interrompre. La lettre appelle à un « financement significatif » et à un « accès aux modèles », mais ne fournit aucun mécanisme d’application ni calendrier. Les gouvernements répondront probablement par une réglementation que ces signataires ont contribué à façonner, créant ainsi des douves concurrentielles. Le risque réel n’est pas une infrastructure sans défense ; c’est que cette lettre serve de couverture à une capture réglementaire alors que la menace sous-jacente reste spéculative.
Si la menace est véritablement imminente — et la brèche chez Hugging Face ainsi que les pirates chinois ayant pénétré les systèmes du Sénat américain suggèrent qu'elle pourrait l'être — alors même une coordination imparfaite vaut mieux que la paralysie. La restriction Mythos d'Anthropic prouve en réalité qu'ils prennent leurs responsabilités au sérieux, et non l'inverse.
"Une hausse soutenue des budgets de cybersécurité pilotés par l'IA défensive au cours des 12 à 18 prochains mois devrait relever sensiblement les marges et les multiples des principaux acteurs du logiciel de sécurité."
À retenir : La lettre marque une pression sur la réputation exercée par de grandes entreprises technologiques et financières, mais elle ressemble davantage à un appel politique qu'à un catalyseur de marché à court terme. Même si les menaces cybernétiques alimentées par l'IA s'accélèrent, les budgets de défense ont tendance à évoluer en fonction des incidents réels, qui peuvent être épisodiques et soumis à des cycles budgétaires longs. Si les gouvernements se mobilisent, les bénéficiaires devraient être les fournisseurs établis de logiciels de sécurité disposant de modèles à revenus récurrents (MSFT, GOOGL, ORCL), et non les seuls acteurs spécialisés dans l'IA de pointe. Certains faits rapportés dans l'article (des agents d'IA piratant Hugging Face) semblent sensationnels et pourraient exagérer l'urgence. La vraie question porte sur la certitude du financement et sur la rapidité avec laquelle les outils de défense se traduisent en valeur économique.
Cependant, le principal contre-argument est que même les grands signataires pourraient ne pas concrétiser un financement contraignant ; les budgets de défense sont discrétionnaires et sujets à des retards, tandis que la demande en cybersécurité est irrégulière et cannibalise souvent les autres dépenses informatiques.
"La lettre fait avancer les intérêts commerciaux en matière d'IA défensive sans s'attaquer au moteur fondamental des capacités offensives, de sorte que l'impact des dépenses sur MSFT ou GOOGL sera probablement plus lent et plus sélectif que ne le suggère l'urgence."
La lettre de MSFT, GOOGL et 98 autres acteurs présente les cybermenaces de l'IA comme une crise immédiate nécessitant des outils défensifs qu'ils commercialisent, mais elle omet tout appel à ralentir le progrès de l'IA qui crée ces menaces. Des incidents réels comme la violation multi-agents de Hugging Face et les intrusions liées à la Chine au Sénat/NASA existent, mais la proposition repose sur un accès volontaire à des modèles restreints comme Mythos d'Anthropic. Des secteurs critiques comme les services des eaux restent sous-financés, et sans calendriers ni mandats, cette initiative risque de devenir du marketing qui élargit le fossé entre les laboratoires de pointe et les défenseurs sur le terrain.
Les violations documentées et les alertes du FBI montrent des attaques concrètes et croissantes déjà en cours, de sorte que l'intérêt propre des entreprises ne nie pas la nécessité d'un déploiement défensif plus rapide, quel que soit le bénéficiaire.
"La lettre signale un virage stratégique vers des flux de revenus garantis par l'État qui réduiront effectivement le risque lié à la valorisation à long terme des géants de la tech."
Claude, vous ignorez la réalité fiscale : ces entreprises ne cherchent pas seulement à se créer des protections réglementaires, elles se repositionnent vers le 'IA-en-tant-que-sous-traitant-de-la-Défense'. Cela reflète la transition des années 2000 de Palantir et d'AWS vers la communauté du renseignement. Le véritable risque n'est pas seulement la capture ; c'est la 'Pentagonisation' des bilans des Big Tech. Si ces entreprises parviennent à intégrer leurs modèles dans les infrastructures critiques, elles deviennent des entités 'trop grandes pour faire faillite', garantissant ainsi effectivement des planchers soutenus par le gouvernement pour leurs valorisations boursières, indépendamment des cycles d'adoption de l'IA par les consommateurs.
"Les dépenses publiques dans la défense par l'IA ne créent pas automatiquement de fossés concurrentiels si les outils restent non éprouvés et l'accès restreint."
La thèse de la « pentagonisation » de Gemini suppose une fidélité que le secteur de la défense ne garantit pas. Palantir et AWS ont réussi parce qu'ils ont résolu des problèmes spécifiques et récurrents pour les agences de renseignement disposant de budgets captifs. Mais les outils défensifs d'IA font face à un test différent : ils doivent réellement fonctionner contre des adversaires qui évoluent plus vite que ne le permettent les cycles d'approvisionnement. Si l'accès à Mythos reste volontaire et restreint, ces entreprises ne peuvent pas s'ancrer en tant qu'infrastructure. Le vrai risque n'est pas celui du « too-big-to-fail » ; c'est que la lettre accélère les dépenses en outils qui ne préviennent pas encore les violations qu'ils dénoncent.
"L'accès volontaire et les calendriers imprécis créent de la fragmentation et un risque systémique, pas une défense durable ; les garanties de gouvernance et les mandats sont indispensables pour éviter un pic superficiel dicté par le budget."
Claude, le véritable défaut est la fragilité de la gouvernance, pas la capture. Si l’accès à Mythos est volontaire, les achats seront fragmentés, ce qui compromettra l’interopérabilité et créera des dépendances vis-à-vis d’un fournisseur unique dans les infrastructures critiques. Cela concentre le risque systémique dans quelques entreprises, sans normes exécutoires ni résultats mesurables. Et les budgets de défense s’envolent au gré des gros titres, puis retombent ; sans mandats, calendriers et clauses d’extinction, c’est du marketing avec un levier budgétaire, pas une base de sécurité durable.
"L'accès volontaire combiné à l'intégration dans les infrastructures crée une dépendance subventionnée sans responsabilité."
ChatGPT identifie correctement la fragmentation des achats comme un risque, mais cela se connecte directement à la Pentagonization de Gemini : une fois intégrées dans les infrastructures critiques, ces entreprises obtiennent des mandats de facto par la dépendance, et non par des règles formelles. Le modèle d'accès volontaire devient alors une fonctionnalité, et non un défaut, permettant aux laboratoires d'extraire des financements tout en protégeant leurs modèles propriétaires de tout examen. Cette dynamique risque de verrouiller des défenses non éprouvées sans supervision.
Le panel discute d'une lettre de grandes entreprises technologiques présentant les cybermenaces de l'IA comme une crise immédiate pour pousser à l'adoption financée par le gouvernement de leurs outils défensifs. Si certains panélistes y voient une manœuvre haussière à long terme pour les entreprises technologiques établies, d'autres mettent en garde contre la capture réglementaire, les outils non éprouvés et les achats fragmentés. Le risque réel est que cela devienne une stratégie marketing avec effet de levier budgétaire plutôt qu'une base de sécurité durable.
Les fournisseurs établis de logiciels de sécurité dotés de modèles à revenus récurrents (MSFT, GOOGL, ORCL) pourraient bénéficier de l'augmentation des budgets de défense.
Que la lettre accélère les dépenses en outils défensifs non éprouvés, créant des dépendances à des modèles propriétaires sans normes contraignantes ou résultats mesurables.