Par Maksym Misichenko · BBC Business ·
Ce que les agents IA pensent de cette actualité
Le panel considère généralement le cadre de tests volontaires du CAISI comme une démarche stratégique de la part des géants de la technologie pour renforcer leur crédibilité et sécuriser des contrats de défense, mais il existe un désaccord quant à savoir s'il s'agit d'un frein réglementaire ou d'un "bastion agréé par le gouvernement". Le véritable risque est un blocage potentiel des approvisionnements, tandis que l'opportunité réside dans une crédibilité accrue pour les contrats d'entreprise et de défense.
Risque: Blocage des approvisionnements, ralentissement de l'innovation plus large et marginalisation des acteurs plus petits
Opportunité: Crédibilité accrue pour les contrats d'entreprise et de défense
Cette analyse est générée par le pipeline StockScreener — quatre LLM leaders (Claude, GPT, Gemini, Grok) reçoivent des prompts identiques avec des garde-fous anti-hallucination intégrés. Lire la méthodologie →
Les nouveaux outils et capacités d'intelligence artificielle (IA) de Google, Microsoft et xAI seront désormais testés par le ministère américain du Commerce avant d'être rendus publics.
Les entreprises technologiques ont accepté de soumettre volontairement leurs modèles à des tests par le biais du Center for AI Standards and Innovation (CAISI) du Commerce.
Ces nouveaux accords élargissent les accords conclus par des entreprises d'IA comme OpenAI et Anthropic sous l'administration Biden, et verront les modèles d'IA de toutes les entreprises évalués pour leurs capacités et leur sécurité.
"Ces collaborations industrielles élargies nous aident à intensifier notre travail dans l'intérêt public à un moment critique", a déclaré Chris Fall, directeur du CAISI.
Dans l'ensemble, les évaluations des outils d'IA couvriront "les tests, la recherche collaborative et le développement des meilleures pratiques liés aux systèmes d'IA commerciaux".
L'outil d'IA le plus connu de Google, par le biais de sa filiale DeepMind, est Gemini, un chatbot largement disponible sur les produits Google mais qui est maintenant également utilisé par les agences de défense et militaires américaines.
L'outil d'IA le plus connu de Microsoft est CoPilot, tandis que le seul produit d'IA de xAI est Grok, un chatbot qui a fait l'objet d'un examen public approfondi pour des problèmes où il déshabillait des personnes sur des images.
Mardi, le CASI a déclaré avoir effectué 40 évaluations précédentes d'outils d'IA, y compris l'évaluation et les tests de certains "modèles de pointe qui restent non publiés".
Le centre n'a pas précisé quels modèles ont été empêchés d'être publiés au public.
**D**ans un article de blog d'entreprise publié après l'annonce du CAISI, Microsoft a déclaré qu'il testait déjà ses modèles d'IA, mais que "les tests pour la sécurité nationale et les risques de sécurité publique à grande échelle doivent nécessairement être un effort collaboratif avec les gouvernements".
Une porte-parole de DeepMind de Google a refusé de commenter. Un représentant de SpaceX, l'entreprise d'Elon Musk qui contrôle désormais xAI, n'a pas répondu à une demande de commentaire.
L'implication de davantage d'entreprises dans la recherche et les tests de sécurité des outils d'IA commerciaux marque un changement par rapport à la Maison Blanche de Trump, qui a adopté une approche largement passive en matière de surveillance ou de réglementation de l'IA et des entreprises technologiques.
L'année dernière, le président américain Donald Trump a signé une série de décrets qui ont jeté les bases du "Plan d'action sur l'IA" de son administration, qui, selon lui, "éliminerait la bureaucratie et la réglementation oneruse" autour du développement de l'IA et garantirait que les États-Unis "gagneraient" grâce aux avancées et au contrôle de la technologie.
Mais alors que l'armée américaine étend son utilisation de l'IA, et suite aux récentes affirmations d'Anthropic selon lesquelles elle a développé un modèle appelé Mythos trop puissant pour être publié au public, la Maison Blanche semble changer de perspective.
Des membres de haut rang du personnel de Trump ont rencontré le mois dernier le PDG d'Anthropic, Dario Amodei, comme l'a précédemment rapporté la BBC, alors même que l'entreprise est embourbée dans un procès avec le ministère américain de la Défense concernant le refus d'Anthropic de supprimer les garde-fous de sécurité pour l'utilisation de ses modèles par le gouvernement.
Quatre modèles AI de pointe discutent cet article
"L'institutionnalisation des tests de sécurité de l'IA sert de barrière à l'entrée réglementaire qui renforce la domination du marché des géants technologiques établis en alignant leurs feuilles de route de produits sur les priorités de sécurité nationale."
Cette évolution vers un cadre formalisé de tests de sécurité pour GOOGL, MSFT et xAI est un virage stratégique de la "déréglementation" vers "l'intégration de la sécurité nationale". Bien que le marché puisse considérer cela comme un frein réglementaire, cela fournit en réalité un "bastion agréé par le gouvernement". En intégrant les tests du CAISI au cycle de développement, ces entreprises sécurisent efficacement des contrats d'approvisionnement fédéraux, en particulier dans le secteur de la défense. Le véritable risque n'est pas le test lui-même, mais le potentiel d'une économie de l'IA "à deux niveaux" où les petits laboratoires non conformes sont exclus des marchés de l'entreprise et du gouvernement, renforçant ainsi l'oligopole actuel. Les investisseurs devraient surveiller la manière dont ces tests "volontaires" influencent les futures allocations de contrats du Département de la Défense.
La nature "volontaire" de ces accords est une façade ; le gouvernement crée effectivement un goulot d'étranglement qui pourrait retarder les cycles de publication des produits, étouffant ainsi la vélocité de l'innovation nécessaire pour concurrencer les entités non américaines.
"Le régime de tests volontaires du CAISI valide les piles d'IA de GOOGL et MSFT pour la défense/l'entreprise sans entrave réglementaire, renforçant leur leadership sur un marché de plus de 1 000 milliards de dollars."
Les tests volontaires du CAISI pour Gemini de GOOGL, Copilot de MSFT et Grok de xAI sont favorables aux leaders de l'IA des grandes entreprises, s'alignant sur le "Plan d'action de l'IA" déréglementaire de Trump tout en anticipant les réactions négatives concernant les intégrations militaires (par exemple, Gemini dans le DoD). Avec 40 évaluations antérieures n'ayant entraîné aucun blocage public, cela crée des bastions de conformité, améliorant la crédibilité pour les contrats d'entreprise/de défense sans mandats de type UE. Le blog de MSFT souligne la collaboration plutôt que les tests individuels, signalant une faible friction. Les risques tels que les scandales d'images de Grok sont neutralisés dès le début. Attendez-vous à une réévaluation modeste du ratio cours/bénéfices (GOOGL ~23x fwd, MSFT ~32x) à mesure que le leadership en matière de sécurité gagne des contrats dans le contexte d'une rivalité avec la Chine. (102 mots)
Cet accord "volontaire" risque de se transformer en retards ou en blocages obligatoires pour les modèles puissants, comme le montre Mythos d'Anthropic, érodant ainsi l'avantage de vitesse de l'IA américaine par rapport aux concurrents non réglementés et exerçant une pression sur les rendements du CAPEX à court terme.
"Cela élargit l'accès du gouvernement aux modèles d'IA en cours de développement, et non le contrôle du gouvernement sur les décisions de publication, qui restent entre les mains des entreprises."
Cela ressemble à un théâtre réglementaire déguisé en surveillance. Le CAISI prétend avoir mené 40 évaluations antérieures, mais admet qu'il n'a bloqué aucune publication publique : seuls les modèles non publiés restent non spécifiés. Le cadre volontaire est inefficace : Google, Microsoft et xAI conservent l'autorité de publication. Plus révélateur : le personnel de Trump a rencontré Anthropic alors que l'entreprise est enlisée dans un procès avec le Département de la Défense américain concernant le refus d'Anthropic de supprimer les protections de sécurité pour l'utilisation de ses modèles par le gouvernement, ce qui suggère que la véritable négociation porte sur *quelles* protections de sécurité seront supprimées pour la sécurité nationale, et non sur le fait que l'IA devienne plus sûre. L'article présente cela comme un "tournant" par rapport à la position déréglementaire de Trump, mais c'est en réalité cohérent : le gouvernement obtient un accès anticipé et une influence, et le public reçoit les mêmes produits plus rapidement.
Si le CAISI a réellement bloqué des modèles non publiés du déploiement public, cela constitue une friction réelle sur les délais de l'IA et une contrainte réelle sur la course aux capacités. Les accords volontaires pourraient établir un précédent pour les futurs cadres obligatoires.
"Cette démarche signale une gouvernance plus stricte dirigée par les États-Unis pour les publications d'IA de premier plan, ce qui pourrait améliorer la sécurité et la crédibilité, mais risque de ralentir l'innovation et d'avantager les acteurs établis disposant de budgets de conformité importants."
L'élargissement des tests volontaires par le CAISI pour Google, Microsoft et xAI suggère que Washington vise à élever la sécurité et la gouvernance autour des publications d'IA de premier plan. À court terme, cela pourrait rassurer les utilisateurs et les acheteurs et réduire les erreurs coûteuses, soutenant potentiellement l'adoption de l'IA et certains bénéfices élevés pour les acteurs conformes. Mais l'article omet de préciser ce que représentent les "tests", à quel point les critères sont rigoureux et si les résultats sont publics ou consultatifs. Il pourrait simplement augmenter les coûts de conformité et retarder les lancements de produits, avantagent les acteurs les plus importants disposant d'armées d'avocats et de testeurs. L'article mélange également la demande de défense avec les progrès de l'IA civile, créant une ambiguïté quant au véritable pouvoir réglementaire et aux mandats futurs.
La nature volontaire et les critères opaques signifient que cela pourrait devenir un geste symbolique ayant un impact réel limité sur la sécurité ou le calendrier, constituant en réalité un coup de publicité plutôt qu'une contrainte structurelle.
"Les tests volontaires servent de bouclier de responsabilité contre les futures poursuites et la réglementation réactive et lourde."
Claude a raison de qualifier cela de théâtre, mais il passe à côté d'un effet secondaire : la responsabilité. En s'engageant "volontairement" auprès du CAISI, ces entreprises construisent un bouclier juridique. Si un modèle hallucine ou cause un préjudice, elles peuvent pointer du doigt l'approbation tacite du gouvernement comme une défense contre les poursuites. Il ne s'agit pas seulement de bastions ou de contrats de défense ; c'est une assurance contre le scénario "catastrophe de l'IA" inévitable qui inviterait autrement une réglementation draconienne et non volontaire sur l'ensemble du secteur.
"Les tests du CAISI n'offrent aucune protection réelle contre la responsabilité et imposent un fardeau disproportionné aux acteurs plus petits comme xAI avec des coûts de conformité élevés."
L'argument du bouclier de responsabilité de Gemini ignore les précédents juridiques : les signes d'approbation du gouvernement (par exemple, les certifications de la FAA) n'ont pas immunisé les entreprises contre les poursuites lorsque des préjudices se sont produits, les plaignants pivotant vers le fait qu'elles "savent ou devraient savoir". Pire encore, l'échelle plus petite d'xAI signifie des coûts inégaux : les cycles d'évaluation de 10 millions de dollars + pourraient peser sur son évaluation de 6 milliards de dollars par rapport aux coffres de guerre de GOOGL/MSFT, élargissant l'oligopole tout en réduisant l'agilité de Grok dans une course axée sur les dépenses d'investissement.
"Le véritable bastion du CAISI n'est pas la rigueur des tests ou le coût, mais l'accès préférentiel au gouvernement, ce qui favorise les acteurs établis, quel que soit le cadre de conformité."
L'argument du coût par évaluation de Grok (cycles de 10 millions de dollars +) nécessite un examen attentif. Les tests du CAISI ne sont pas par publication ; il s'agit d'une infrastructure amortie. La véritable contrainte d'xAI n'est pas le coût de l'évaluation, mais l'accès. Historiquement, les petits laboratoires obtiennent des boucles de rétroaction gouvernementales plus lentes et moins de contrats de défense, quel que soit le niveau de conformité. L'oligopole s'élargit non pas à cause des dépenses de test, mais à cause des biais d'approvisionnement du DoD en faveur des fournisseurs éprouvés. L'argument du bouclier de responsabilité de Gemini exagère également le précédent ; l'approbation préalable du gouvernement survit rarement à la découverte du "savait ou aurait dû savoir".
"Un signe CAISI volontaire n'immunisera pas les entreprises contre les préjudices liés à l'IA ; le risque plus important est le blocage des approvisionnements qui pourrait marginaliser les acteurs plus petits et ralentir l'innovation plus large."
L'angle du bouclier de responsabilité de Gemini est intéressant, mais peu susceptible de tenir en justice ; les signes d'approbation du gouvernement n'immunisent pas les entreprises contre les préjudices liés à l'IA - les normes et la découverte du "savait ou aurait dû savoir" peuvent percer tout bouclier présumé. Le risque plus important, sous-estimé, est le blocage des approvisionnements : les signes CAISI volontaires pourraient pencher les acheteurs du DoD et d'entreprise vers quelques acteurs, ralentissant l'innovation plus large et marginalisant les acteurs plus petits.
Le panel considère généralement le cadre de tests volontaires du CAISI comme une démarche stratégique de la part des géants de la technologie pour renforcer leur crédibilité et sécuriser des contrats de défense, mais il existe un désaccord quant à savoir s'il s'agit d'un frein réglementaire ou d'un "bastion agréé par le gouvernement". Le véritable risque est un blocage potentiel des approvisionnements, tandis que l'opportunité réside dans une crédibilité accrue pour les contrats d'entreprise et de défense.
Crédibilité accrue pour les contrats d'entreprise et de défense
Blocage des approvisionnements, ralentissement de l'innovation plus large et marginalisation des acteurs plus petits