Le point de vue de The Guardian sur le Mythe Claude d'Anthropic : quand l'IA trouve toutes les failles, qui contrôle internet ? | Éditorial

Anthropic a annoncé son dernier modèle d'IA, Claude Mythos, ce mois-ci, mais a déclaré qu'il ne serait pas publié publiquement, car il transforme les ordinateurs en scènes de crime. L'entreprise a affirmé qu'elle pouvait trouver des failles "zero-day" jusqu'alors inconnues, les exploiter et, en principe, lier ces faiblesses pour prendre le contrôle des principaux systèmes d'exploitation et navigateurs web. Mythos l'a fait de manière autonome, en écrivant du code et en obtenant des privilèges. Les implications sont importantes. C'est comme si un cambrioleur pouvait cibler n'importe quel bâtiment, y entrer, ouvrir toutes les portes et vider tous les coffres.

L'entreprise de la Silicon Valley a jusqu'à présent nommé 40 organisations partenaires dans le cadre du Projet Glasswing pour aider à monter une défense – leur demandant de "corriger" les vulnérabilités avant que les pirates n'aient la chance de les exploiter. Toutes sont américaines, au cœur du système numérique dirigé par les États-Unis. Anthropic n'a partagé Mythos qu'avec la Grande-Bretagne en dehors des États-Unis, permettant à l'AI Security Institute de tester les modèles de pointe. Après l'avoir vu de près, les ministres britanniques ont averti : l'IA s'apprête à rendre les cyberattaques beaucoup plus faciles et rapides, et la plupart des entreprises ne sont pas prêtes. Les banques en Europe devraient être les prochaines à le tester.

Ce n'est peut-être pas trop tôt. Des rapports d'accès non autorisés ont fait surface cette semaine – soulevant la question de savoir si une entreprise privée peut être fiable avec une telle capacité. Mythos ne crée pas nécessairement un nouveau type de cybermenace. Il transforme une faiblesse latente en un risque systémique. Le piratage a toujours été difficile et long, nécessitant des compétences que peu de gens possèdent. Mais les outils d'IA se répandent rapidement, mettant les violations de système à la portée de beaucoup – pas seulement des experts.

Un braconnier peut aussi être transformé en garde-chasse. Mozilla a testé Mythos sur son navigateur Firefox : il a trouvé 10 fois plus de failles qu'auparavant – et les a corrigées. De manière cruciale, aucune n'était une faille qu'un humain ne pourrait pas repérer. Ce qui change, c'est que l'IA découvre les "vulnérabilités cyber" rapidement, à moindre coût et à grande échelle.

L'adoption d'Anthropic par le gouvernement américain marque un changement. En février, le Pentagone a qualifié l'entreprise de "risque pour la sécurité" et l'a exclue d'accords lucratifs après qu'elle a refusé d'autoriser l'utilisation de sa technologie pour la surveillance de masse ou les armes autonomes. OpenAI a obtenu le contrat à la place. Anthropic, avec son chatbot Claude, s'est longtemps présentée comme l'alternative éthique parmi ses concurrents – bien que son image ait été ternie par un règlement de 1,5 milliard de dollars pour piratage l'année dernière.

Mythos est puissant, mais la communication d'Anthropic a façonné le récit autant que la technologie. Il y a aussi une question sur le niveau de sophistication réel de Mythos. Les chercheurs ont montré que des modèles plus petits et moins chers déployés à grande échelle peuvent accomplir des prouesses similaires. Ce qui semble être une percée peut refléter un changement plus large dans le domaine. La Maison Blanche pense qu'Anthropic a une valeur stratégique – l'invitant à nouveau dans le cercle et signalant un passage de la considération des entreprises d'IA comme sous-traitants à celle de partenaires. Cela soulève une préoccupation plus profonde : la sagesse du contrôle des risques d'infrastructure critique par des entreprises privées – surtout si des acteurs moins responsables acquièrent un levier technique.

Clairement, celui qui – État ou entreprise – crée les modèles d'IA les plus puissants gagnera des avantages géopolitiques sur ses amis comme sur ses ennemis. Sans un cadre de coordination internationale sur la cybersécurité, cependant, il risque de ne pas y avoir un internet sécurisé, mais un certain nombre d'internets concurrents – chacun "corrigeant" son propre système et ne faisant confiance à aucun des autres. Ce ne serait plus un bien commun mondial. Au lieu de cela, le web serait découpé en alliances de sécurité, gardé plus étroitement, tandis que quelque chose de plus vaste disparaîtrait tranquillement.

-
**Avez-vous une opinion sur les questions soulevées dans cet article ? Si vous souhaitez soumettre une réponse d'une longueur maximale de 300 mots par e-mail pour qu'elle soit prise en considération pour publication dans notre section lettres, veuillez cliquer ici.**