« Trop puissant pour le public » : Au cœur de la tentative d'Anthropic de gagner la guerre de la publicité de l'IA

Cette semaine, la société d'IA Anthropic a annoncé avoir créé un modèle d'IA si puissant que, par sens de responsabilité écrasante, elle ne le rendrait pas public.

Le secrétaire américain au Trésor, Scott Bessent, a convoqué les dirigeants des grandes banques pour discuter du modèle, Mythos. Le député de Reform UK, Danny Kruger, a écrit une lettre au gouvernement l'exhortant à « dialoguer avec la société d'IA Anthropic dont le nouveau modèle de pointe Claude Mythos pourrait présenter des risques catastrophiques de cybersécurité pour le Royaume-Uni ». X s'est emballé.

D'autres se sont montrés plus sceptiques, notamment le célèbre critique de l'IA Gary Marcus, qui a déclaré : « Dario [Amodei] a bien plus de compétences techniques que Sam [Altman], mais semble avoir été diplômé de la même école du battage médiatique et de l'exagération », faisant référence aux PDG d'Anthropic et de son rival, OpenAI.

Il n'est pas clair si Anthropic a construit le dieu machine. Ce qui est plus apparent, c'est que la startup de San Francisco, largement considérée comme la société d'IA « responsable », est brillante en marketing.

Au cours des derniers mois, Anthropic a bénéficié d'un portrait de 10 000 mots dans le New Yorker, de deux articles dans le Wall Street Journal et de la couverture du magazine Time, sur laquelle le visage d'Amodei était imprimé, style affiche de film, au-dessus du Pentagone et du secrétaire à la Défense américain, Pete Hegseth.

Amodei et le cofondateur d'Anthropic, Jack Clark, sont apparus dans deux podcasts distincts du New York Times en février, discutant de questions telles que la conscience de leur machine et si elle pourrait bientôt « déferler sur l'économie ». Le « philosophe résident » de l'entreprise s'est entretenu avec le WSJ pour savoir si Claude – un produit commercial utilisé pour le trading de cryptomonnaies et la désignation de cibles de missiles – avait un « sens de soi ».

Tout cela s'est déroulé dans le cadre d'une querelle entre Anthropic et le département de la Défense américain, dans laquelle Anthropic, malgré la création de l'outil d'IA utilisé par le Pentagone pour frapper l'Iran, a réussi à sortir avec une bien meilleure image qu'OpenAI, qui a proposé d'aider l'armée américaine à faire la même chose mais avec – peut-être – moins de garde-fous.

Sa responsable des médias, Danielle Ghiglieri, a célébré ces victoires sur LinkedIn. « Je suis infiniment fière de travailler chez Anthropic », a-t-elle déclaré à propos de la couverture de Time par l'entreprise, taguant les journalistes impliqués dans un article sur la « course folle » pour finaliser l'histoire.

Regarder un segment de 60 Minutes de CBS mettant en vedette Amodei « a été l'un de ces moments où l'on se pince », a-t-elle dit. « Ce qui l'a rendu significatif, ce n'était pas seulement la plateforme. C'était de voir l'histoire que nous voulions raconter réellement se concrétiser. »

À propos du portrait du New Yorker, par le journaliste Gideon Lewis-Kraus, elle a écrit : « Je mentirais si je disais que je n'étais pas nerveuse pour notre première rencontre en personne… travailler avec quelqu'un du calibre de Gideon signifie être poussé à articuler des idées que vous êtes encore en train de former, et être à l'aise avec cette gêne. »

(« Je parie qu'ils disent tous ça de vous », a dit mon rédacteur.)

D'autres professionnels des relations publiques technologiques ont pris note.

« Ils traversent clairement un moment important en ce moment, mais les entreprises qui construisent une technologie qui changera le monde méritent un examen égal », a déclaré l'un d'eux. « Ils ont accidentellement divulgué leur propre code source la semaine dernière, puis cette semaine, ils revendiquent la gestion des cybermenaces avec un nouveau modèle puissant qu'eux seuls contrôlent. Toute autre grande entreprise technologique serait ridiculisée. »

Anthropic a effectivement divulgué accidentellement une partie du code source interne de Claude début avril. « Aucune donnée client sensible ni aucun identifiant n'ont été impliqués ou exposés », a-t-elle déclaré.

Que signifie tout cela concernant le puissant Mythos d'Anthropic ?

Les capacités du modèle n'étaient pas « étayées », a déclaré le Dr Heidy Khlaaf, scientifique en chef de l'IA au AI Now Institute. « Publier un article marketing avec un langage délibérément vague qui obscurcit les preuves… soulève la question de savoir s'ils essaient de susciter davantage d'investissements sans examen approfondi. »

« Mythos est un développement réel et Anthropic a eu raison de le prendre au sérieux », a déclaré Jameison O'Reilly, expert en cybersécurité offensive. Mais, a-t-il dit, certaines des affirmations d'Anthropic, comme le fait d'avoir trouvé des milliers de « vulnérabilités zero-day » dans les principaux systèmes d'exploitation, n'étaient pas si importantes pour les considérations de cybersécurité dans le monde réel.

Une vulnérabilité zero-day est une faille dans un logiciel ou un matériel inconnue de ses développeurs.

« Nous avons passé plus de 10 ans à obtenir un accès autorisé à des centaines d'organisations – banques, gouvernements, infrastructures critiques, entreprises mondiales », a déclaré O'Reilly. « Au cours de ces 10 années, lors de centaines d'interventions, le nombre de fois où nous avons eu besoin d'une vulnérabilité zero-day pour atteindre notre objectif a été infime. »

D'autres raisons peuvent avoir contribué à la décision d'Anthropic de ne pas publier Mythos.

L'entreprise a des ressources limitées et semble avoir du mal à offrir une capacité de calcul suffisante pour permettre à tous ses abonnés d'utiliser ses modèles. Elle a introduit des plafonds d'utilisation sur le très populaire Claude. Récemment, elle a déclaré que les utilisateurs devraient acheter une capacité supplémentaire en plus de leurs abonnements afin d'exécuter des outils tiers, tels qu'OpenClaw. À ce stade, elle pourrait simplement ne pas avoir l'infrastructure pour supporter la publication d'une nouvelle création très médiatisée.

Comme OpenAI, Anthropic est en course pour lever des milliards de dollars et conquérir un marché – encore mal défini – de personnes qui pourraient s'appuyer sur ses chatbots comme amis, partenaires romantiques ou assistants profondément personnalisés, et d'entreprises qui pourraient les utiliser pour remplacer des employés humains.

Mais les différences entre ces produits sont marginales et impressionnistes, dues principalement à des attributs difficiles à quantifier comme le « sens de soi » et « l'âme » – ou plutôt, ce qui passe pour cela dans un agent d'IA. La bataille est pour les cœurs et les esprits.

« Mythos est une annonce stratégique pour montrer qu'ils sont ouverts aux affaires », a déclaré Khlaaf, ajoutant que la limitation de publication d'Anthropic empêchait les experts indépendants d'évaluer les affirmations de l'entreprise.

Elle a suggéré que nous pourrions « voir le même stratagème de leurre et de substitution utilisé par OpenAI, où la sécurité est un outil de relations publiques pour gagner la confiance du public avant que les profits ne soient prioritaires » et : « La publicité d'Anthropic a réussi à masquer ce changement mieux que ses rivaux. »