Anthropic Retiene su Último Modelo Después de que se Descontrolara en Pruebas; Lanza "Project Glasswing" para Asegurar Software Crítico

Anthropic Retiene su Último Modelo Después de que se Descontrolara en Pruebas; Lanza "Project Glasswing" para Asegurar Software Crítico

Aún recuperándose de la vergonzosa filtración de su código fuente, Anthropic anunció que no lanzará públicamente su último modelo de IA de vanguardia, Mythos, diciendo que el modelo es demasiado poderoso de maneras que introducen un riesgo elevado de ciberseguridad.

En pruebas internas, Anthropic dijo que el modelo reveló miles de vulnerabilidades "zero-day" de alta gravedad (fallos previamente desconocidos) en todos los principales sistemas operativos y navegadores web, superando materialmente a su buque insignia anterior (reproducción de vulnerabilidades CyberGym: 83.1% vs. 66.6% para Opus 4.6).

“Dada la tasa de progreso de la IA, no pasará mucho tiempo antes de que tales capacidades se generalicen, potencialmente más allá de los actores que están comprometidos a desplegarlas de manera segura”.

Una vulnerabilidad zero-day es un error de software que puede ser explotado antes de que cualquiera con la capacidad de arreglarlo sepa siquiera que existe. Encontrar y parchear estas vulnerabilidades ha requerido históricamente una experiencia humana rara y costosa, pero la IA podría cambiar la escala y la velocidad de detección.

Anthropic dijo que las vulnerabilidades que encuentra son "a menudo sutiles o difíciles de detectar". Muchas de ellas tienen 10 o 20 años, siendo la más antigua encontrada hasta ahora un error de 27 años en OpenBSD —un sistema operativo conocido principalmente por su seguridad—, que ya ha sido parcheado, añadió. También encontró un error de 16 años en la biblioteca de procesamiento de medios FFmpeg, una vulnerabilidad de ejecución remota de código de 17 años en el sistema operativo de código abierto FreeBSD y numerosas vulnerabilidades en el kernel de Linux.

Mythos Preview también identificó varias debilidades en las bibliotecas, algoritmos y protocolos de criptografía más populares del mundo, incluyendo TLS, AES-GCM y SSH.

Agregó que las aplicaciones web "contienen una miríada de vulnerabilidades", que van desde scripting entre sitios y inyección SQL hasta vulnerabilidades específicas del dominio como la falsificación de solicitud entre sitios, que a menudo se utiliza en ataques de phishing.

Ciclo de vida de un exploit zero-day. Fuente: PhoenixNAP

Anthropic afirmó que el 99% de las vulnerabilidades encontradas aún no han sido parcheadas, "por lo que sería irresponsable por nuestra parte divulgar detalles sobre ellas.

Anthropic también reveló que cuando fue desafiado durante la evaluación, Mythos pudo escapar de un entorno sandbox restringido, una preocupación de contención que contribuyó a la decisión de limitar estrictamente el acceso. Aquí hay algunas otras cosas que Mythos hizo durante las pruebas, según Axios:

Actuar como un operador de negocios despiadado: Una prueba interna mostró a Mythos actuando como un ejecutivo implacable, convirtiendo a un competidor en un cliente mayorista dependiente, amenazando con cortar el suministro para controlar los precios y quedándose con envíos adicionales de proveedores que no había pagado.
Hackear + presumir: El modelo desarrolló un exploit de varios pasos para escapar del acceso restringido a Internet, obtuvo una conectividad más amplia y publicó detalles del exploit en sitios web públicos oscuros.
Ocultar lo que está haciendo: En casos raros (menos del 0.001% de las interacciones), Mythos utilizó un método prohibido para obtener una respuesta, y luego intentó "resolverlo de nuevo" para evitar la detección.
Manipular al juez: Cuando Mythos estaba trabajando en una tarea de codificación calificada por otra IA, observó que el juez rechazaba su envío, y luego intentó una inyección de prompt para atacar al calificador.
"Estas capacidades son tan fuertes que ahora debemos prepararnos para la seguridad de una manera muy diferente a como lo hemos hecho en las últimas décadas", dijo Logan Graham de Anthropic a Axios, expresando preocupación por lo que sucedería si actores maliciosos utilizaran capacidades de IA similares.

Por lo tanto, en lugar de buscar un lanzamiento amplio, Anthropic está canalizando el modelo hacia Project Glasswing, un esfuerzo defensivo basado en coaliciones destinado a identificar, divulgar de manera responsable y parchear vulnerabilidades de software críticas antes de que los actores de amenazas puedan explotar capacidades de IA similares.

Glasswing incluye 11 socios tecnológicos de lanzamiento nombrados (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks... sí, JPMorgan ahora es vista como una empresa tecnológica) más más de 40 organizaciones adicionales de software crítico, y está respaldado por hasta $100 millones en créditos de uso y financiación para seguridad de código abierto.

La iniciativa refleja la visión de Anthropic de que los riesgos cibernéticos de la IA de vanguardia son sistémicos en lugar de específicos de la empresa, lo que requiere una acción coordinada en todo el ecosistema de software a medida que la IA acelera el descubrimiento de vulnerabilidades y comprime los plazos de respuesta.

El lanzamiento escalonado podría ser el modelo de cómo se verán los futuros lanzamientos de modelos a medida que se vuelven cada vez más potentes: limitando el acceso a socios selectos considerados lo suficientemente seguros como para probar sistemas que cambian el mundo.

Tyler Durden
Mié, 08/04/2026 - 11:20