Le PDG d'Anthropic prévient d'un « moment de danger » cybernétique alors que l'IA expose des milliers de vulnérabilités

Le PDG d'Anthropic, Dario Amodei, a averti mardi que l'intelligence artificielle a créé une courte fenêtre pour que les entreprises technologiques, les gouvernements et les banques du monde entier corrigent des dizaines de milliers de vulnérabilités logicielles découvertes par le dernier modèle de sa société.

Ce modèle d'IA, Mythos, a été présenté en avant-première le mois dernier, avec la divulgation qu'il avait mis au jour des vulnérabilités vieilles de plusieurs décennies dans des logiciels cruciaux.

Étant donné que les modèles d'IA de la Chine, un adversaire géopolitique, ont « peut-être six à 12 mois de retard » sur le produit Anthropic, il y a « à peu près cette durée » pour résoudre ces problèmes, a déclaré Amodei.

Ces commentaires ont été faits lors d'un événement Anthropic au cours duquel Amodei a partagé la scène avec le PDG de JPMorgan Chase, Jamie Dimon, et a dévoilé une nouvelle suite d'agents destinés à automatiser le travail financier.

« Le danger réside dans une augmentation énorme du nombre de vulnérabilités, du nombre de violations, des dommages financiers causés par les ransomwares aux écoles, aux hôpitaux, sans parler des banques », a déclaré Amodei.

Anthropic a limité Mythos à quelques entreprises partenaires en raison des préoccupations concernant ce que les criminels ou les nations adverses pourraient en faire. Les dernières mises à jour de modèles de la société ont eu des répercussions sur les marchés, mais Mythos a suscité le plus d'inquiétudes de la part des entreprises et des décideurs politiques.

L'ampleur des exploits cybernétiques potentiels a explosé avec chaque génération de Claude, a déclaré Amodei. Un modèle Anthropic antérieur avait trouvé environ 20 vulnérabilités dans le navigateur Firefox. Mythos en a trouvé près de 300, et le nombre total pour tous les logiciels se chiffre maintenant à des dizaines de milliers, a-t-il dit.

La plupart des vulnérabilités découvertes par Mythos n'ont pas été divulguées publiquement car elles restent non corrigées, et « les méchants les exploiteront » si elles sont identifiées, a déclaré Amodei.

## 'Un monde meilleur'

Malgré l'alarme, Amodei et Dimon ont également exprimé un optimisme conditionnel.

« C'est un moment de danger où, si nous y répondons correctement, et je pense que nous avons commencé à faire les premiers pas, alors nous pourrons avoir un monde meilleur de l'autre côté », a déclaré Amodei. « Il n'y a qu'un nombre limité de bugs à trouver. »

Dimon a également déclaré que si les craintes cybernétiques étaient justifiées, les risques de cybersécurité créés par l'IA constituent une « période transitoire ».

Sur la question de la réglementation, Amodei a déclaré que la surveillance de l'IA devrait ressembler à ce qui se fait dans l'industrie automobile, en trouvant un équilibre entre la sécurité des consommateurs et la capacité de l'industrie à être compétitive.

« On ne peut pas simplement créer une entreprise automobile sans se demander 'Y a-t-il des freins sur cette chose ?' », a-t-il dit. « Nous devons trouver un processus qui permette à l'industrie de fonctionner rapidement, qui soit juste, mais qui impose des garde-fous pour les choses les plus graves. »

L'événement de l'entreprise, et sa mise en scène avec Dimon, le porte-parole le plus connu de l'industrie financière, semblaient démontrer l'avance d'Anthropic sur OpenAI sur le marché de l'IA d'entreprise, alors que les deux sociétés se dirigent vers des introductions en bourse potentielles.

Anthropic a annoncé mardi une expansion de sa plateforme de services financiers, comprenant 10 nouveaux agents d'IA pour la banque d'investissement et le travail de back-office, ainsi qu'une intégration dans les divers programmes Office de Microsoft. L'entreprise a également déclaré que son dernier modèle largement disponible — Claude Opus 4.7 — mène les benchmarks pour les tâches d'analyse financière.