‘Demasiado poderoso para el público’: Dentro del esfuerzo de Anthropic para ganar la guerra de publicidad de la IA

Esta semana, la empresa de IA Anthropic dijo que había creado un modelo de IA tan poderoso que, por un sentido de abrumadora responsabilidad, no lo iba a liberar al público.

El secretario del Tesoro de EE. UU., Scott Bessent, convocó a los jefes de los principales bancos para conversar sobre el modelo, Mythos. El diputado del Reform UK Danny Kruger escribió una carta al gobierno instándole a “participar con la empresa de IA Anthropic cuyo nuevo modelo de frontera Claude Mythos podría presentar riesgos de ciberseguridad catastróficos para el Reino Unido”. X se volvió loco.

Otros fueron más escépticos, incluido el reconocido crítico de la IA Gary Marcus, quien dijo: “Dario [Amodei] tiene mucha más destreza técnica que Sam [Altman], pero parece haber salido de la misma escuela de bombo y exageración”, refiriéndose a los directores ejecutivos de Anthropic y su rival, OpenAI.

No está claro si Anthropic ha construido el dios máquina. Lo que es más evidente es que la startup de San Francisco, ampliamente vista como la empresa de IA “responsable”, es brillante en marketing.

En los últimos meses, Anthropic ha disfrutado de un perfil de 10.000 palabras en el New Yorker, dos artículos en el Wall Street Journal y la portada de Time magazine, en la que el rostro de Amodei estaba estampado, al estilo de cartel de película, sobre el Pentágono y el secretario de defensa de EE. UU., Pete Hegseth.

Amodei y Jack Clark, cofundador de Anthropic, aparecieron en dos podcasts separados del New York Times en febrero, analizando preguntas como si su máquina fuera consciente y si pronto podría “destrozar la economía”. El “filósofo residente” de la empresa ha hablado con el WSJ sobre si Claude, un producto comercial que se utiliza para comerciar con criptomonedas y designar objetivos de misiles, tiene un “sentido de sí mismo”.

Todo esto ha ocurrido en medio de un altercado entre Anthropic y el departamento de defensa de EE. UU., en el que Anthropic, a pesar de crear la herramienta de IA utilizada por el Pentágono para atacar a Irán, ha logrado quedar mucho mejor que OpenAI, que se ofreció a ayudar al ejército estadounidense a hacer lo mismo pero con, quizás, menos salvaguardias.

Su responsable de relaciones públicas, Danielle Ghiglieri, ha obtenido victorias en LinkedIn. “Estoy inmensamente orgullosa de trabajar en Anthropic”, dijo sobre la portada de Time, etiquetando a los periodistas involucrados en una publicación sobre la “carrera loca” para llevar la historia a buen término.

Ver un segmento de CBS 60 Minutes con Amodei “fue uno de esos momentos en los que me pellizco”, dijo. “Lo que lo hizo significativo no fue solo la plataforma. Fue ver la historia que queríamos contar realmente salir a la luz”.

Sobre el perfil del New Yorker, del periodista Gideon Lewis-Kraus, escribió: “Mentería si dijera que no me sentí nerviosa por nuestra primera reunión en persona... trabajar con alguien del calibre de Gideon significa ser impulsado a articular ideas que todavía estás formando, y estar de acuerdo con esa incomodidad”.

(“Apuesto a que todos dicen eso sobre ti”, dijo mi editor.)

Otros profesionales de las relaciones públicas de tecnología han tomado nota.

“Claramente están teniendo un momento ahora, pero las empresas que construyen tecnología que cambiará el mundo merecen el mismo nivel de escrutinio”, dijo uno. “Accidentalmente filtraron su propio código fuente la semana pasada, luego esta semana afirman ser custodios de las amenazas cibernéticas con un nuevo modelo poderoso que solo ellos controlan. Cualquier otra empresa tecnológica importante sería ridiculizada”.

Anthropic accidentalmente liberó parte del código fuente interno de Claude a principios de abril. “No se involucraron ni se expusieron datos ni credenciales confidenciales de clientes”, dijo.

¿Qué significa todo esto sobre el Mythos, indudablemente poderoso, de Anthropic?

Las capacidades del modelo no fueron “sustentadas”, dijo la Dra. Heidy Khlaaf, científica jefa de IA del Instituto AI Now. “Liberar una publicación de marketing con lenguaje deliberadamente vago que oscurece la evidencia... plantea la cuestión de si están tratando de obtener más inversión sin escrutinio”.

“Mythos es un desarrollo real y Anthropic tuvo razón al tomarlo en serio”, dijo Jameison O’Reilly, experto en ciberseguridad ofensiva. Pero, dijo, algunas de las afirmaciones de Anthropic, como que encontró miles de “vulnerabilidades de día cero” en los principales sistemas operativos, no eran tan significativas para las consideraciones de ciberseguridad en el mundo real.

Una vulnerabilidad de día cero es una falla en el software o hardware que los desarrolladores desconocen.

“Hemos pasado más de 10 años obteniendo acceso autorizado a cientos de organizaciones: bancos, gobiernos, infraestructura crítica, empresas globales”, dijo O’Reilly. “En esos 10 años, en cientos de compromisos, el número de veces que necesitábamos una vulnerabilidad de día cero para lograr nuestro objetivo era increíblemente pequeño”.

Otras razones pueden haber contribuido a la decisión de Anthropic de no liberar Mythos.

La empresa tiene recursos limitados y parece estar luchando por ofrecer suficiente capacidad de computación para permitir que todos sus suscriptores utilicen sus modelos. Ha introducido límites de uso en el popular Claude. Recientemente, dijo que los usuarios tendrían que comprar capacidad adicional además de sus suscripciones para ejecutar herramientas de terceros, como OpenClaw. En este punto, es posible que simplemente no tenga la infraestructura para admitir el lanzamiento de una nueva creación muy publicitada.

Al igual que OpenAI, Anthropic está en una carrera para recaudar miles de millones de dólares y capturar un mercado, todavía poco definido, de personas que podrían recurrir a sus chatbots como amigos, parejas románticas o asistentes profundamente personalizados, y de empresas que podrían usarlos para reemplazar a los empleados humanos.

Pero las diferencias en estos productos son marginales e impresionistas, principalmente debido a atributos difíciles de cuantificar como el “sentido de sí mismo” y el “alma” —o más bien, lo que pasa por estos en un agente de IA. La batalla es por los corazones y las mentes.

“Mythos es un anuncio estratégico para mostrar que están abiertos a hacer negocios”, dijo Khlaaf, diciendo que la limitación de la publicación de Anthropic impidió que expertos independientes evaluaran las afirmaciones de la empresa.

Sugerió que podríamos estar “viendo el mismo juego de señuelos y cambios de táctica que utilizó OpenAI, donde la seguridad es una herramienta de relaciones públicas para obtener la confianza del público antes de que se prioricen las ganancias” y: “La publicidad de Anthropic ha logrado oscurecer mejor este cambio que sus rivales”.