Les dirigeants financiers tirent la sonnette d'alarme concernant Mythos alors que les banques britanniques se préparent à utiliser un puissant outil d'IA Anthropic

Les banques britanniques auront accès dans la semaine prochaine à un puissant outil d'IA qui a été jugé trop dangereux pour être mis à la disposition du public, alors qu'une série de hauts responsables financiers ont mis en garde contre son impact.

Anthropic, qui a jusqu'à présent limité la diffusion du nouveau modèle à un petit groupe d'entreprises principalement américaines, notamment Amazon, Apple et Microsoft, a déclaré qu'elle l'étendrait aux institutions financières britanniques dans les prochains jours.

« Cela se fera très prochainement, dans la semaine prochaine », a déclaré Pip White, responsable des opérations d'Anthropic pour le Royaume-Uni, l'Irlande et l'Europe du Nord, lors d'une interview à Bloomberg TV. « Comme vous pouvez vous y attendre, l'engagement que j'ai eu avec les PDG britanniques au cours de la semaine dernière a été significatif. »

Anthropic, qui est la société derrière la famille d'outils d'IA Claude, a déclaré que son dernier modèle, Mythos, pose un risque sans précédent en raison de sa capacité à exposer les faiblesses des systèmes informatiques.

« Les modèles d'IA ont atteint un niveau de capacité de codage où ils peuvent surpasser tous, sauf les humains les plus qualifiés pour trouver et exploiter les vulnérabilités des logiciels », a déclaré Anthropic dans un article de blog publié plus tôt ce mois-ci. « Les conséquences – pour les économies, la sécurité publique et la sécurité nationale – pourraient être graves. »

Les ministres des Finances, les dirigeants et les régulateurs ont discuté des menaces potentielles alors qu'ils se sont réunis cette semaine à Washington pour les réunions de printemps du FMI et de la Banque mondiale, tout en gérant les préoccupations concernant les répercussions mondiales qui se dégagent de la guerre israélo-palestinienne avec l'Iran.

Le ministre canadien des Finances, François-Philippe Champagne, a déclaré à la BBC : « Il est certainement suffisamment grave pour justifier l'attention de tous les ministres des Finances... La différence avec le détroit d'Ormuz est que nous savons où il se trouve et nous savons de sa taille.

« Le problème auquel nous sommes confrontés avec Anthropic est que c'est un inconnu inconnu. Cela nécessite beaucoup d'attention afin que nous ayons des mesures de sauvegarde et que nous ayons des processus en place pour garantir la résilience de notre système financier. »

Andrew Bailey, le gouverneur de la Banque d'Angleterre qui préside également le Financial Stability Board des régulateurs mondiaux, a déclaré : « C'est un défi très sérieux pour nous tous. Cela nous rappelle à quel point le monde de l'IA évolue rapidement. »

Cependant, il a déclaré que les régulateurs devaient envisager s'il fallait, et à quel point, restreindre la technologie, alors que les gouvernements cherchent à tirer profit des récompenses économiques de l'IA. « Quel est le moment optimal pour établir les règles du jeu ? », a demandé Bailey. « Si vous vous y prenez trop tôt, vous a) risquez de manquer la cible et b) de fausser l'évolution, et si vous vous y prenez trop tard, les choses peuvent devenir hors de contrôle. »

La présidente de la Banque centrale européenne, Christine Lagarde, a déclaré : « Le développement que nous avons vu avec Anthropic et Mythos est un bon exemple d'une entreprise responsable qui réfléchit soudainement : « Ah, cela pourrait être vraiment bon » – mais si cela tombe entre de mauvaises mains, cela pourrait être vraiment mauvais.

« Tout le monde souhaite avoir un cadre dans lequel opérer », a déclaré Lagarde à Bloomberg TV. Mais elle a ajouté : « Je ne pense pas qu'il existe un cadre de gouvernance pour surveiller ces choses. Nous devons travailler là-dessus. »