La opinión de The Guardian sobre el mito de Claude de Anthropic: cuando la IA encuentra todas las fallas, ¿quién controla internet? | Editorial

Anthropic anunció su último modelo de IA, Claude Mythos, este mes, pero dijo que no se lanzaría públicamente, porque convierte las computadoras en escenas de crímenes. La compañía afirmó que podría encontrar fallas "zero-day" previamente desconocidas, explotarlas y, en principio, vincular estas debilidades para apoderarse de los principales sistemas operativos y navegadores web. Mythos lo hizo de forma autónoma, escribiendo código y obteniendo privilegios. Las implicaciones son significativas. Es como si un ladrón pudiera apuntar a cualquier edificio, entrar, abrir todas las puertas y vaciar todas las cajas fuertes.

La empresa de Silicon Valley ha nombrado hasta ahora a 40 organizaciones como socias bajo el Proyecto Glasswing para ayudar a montar una defensa, pidiéndoles que "parchen" las vulnerabilidades antes de que los hackers tengan la oportunidad de explotarlas. Todas son estadounidenses, situadas en el corazón del sistema digital liderado por Estados Unidos. Anthropic compartió Mythos solo con Gran Bretaña fuera de Estados Unidos, permitiendo al Instituto de Seguridad de IA probar modelos de vanguardia. Después de verlo de cerca, los ministros británicos advirtieron: la IA está a punto de hacer que los ciberataques sean mucho más fáciles y rápidos, y la mayoría de las empresas no están preparadas. Es probable que los bancos en Europa lo prueben a continuación.

Esto puede no ser un momento demasiado pronto. Esta semana surgieron informes de acceso no autorizado, lo que plantea la pregunta de si se puede confiar a alguna empresa privada una capacidad como esta. Mythos no necesariamente crea un nuevo tipo de amenaza cibernética. Convierte una debilidad latente en un riesgo sistémico. La piratería informática ha sido tradicionalmente difícil y requiere mucho tiempo, necesitando habilidades que pocas personas tienen. Pero las herramientas de IA se están extendiendo rápidamente, poniendo las brechas de sistemas al alcance de muchos, no solo de expertos.

Un cazador furtivo también puede convertirse en un guardabosques. Mozilla probó Mythos en su navegador Firefox: encontró 10 veces más fallas que antes, y las corrigió. Crucialmente, ninguna era una que un humano no pudiera detectar. Lo que cambia es que la IA descubre "vulnerabilidades cibernéticas" de forma rápida, barata y a escala.

La adopción de Anthropic por parte del gobierno de Estados Unidos marca un cambio. En febrero, el Pentágono consideró a la empresa un "riesgo de seguridad" y la excluyó de lucrativos acuerdos después de que se negara a permitir que su tecnología se utilizara para la vigilancia masiva o armas autónomas. OpenAI obtuvo el contrato en su lugar. Anthropic, con su chatbot Claude, se ha promocionado durante mucho tiempo como la alternativa ética entre sus competidores, aunque su imagen se vio empañada por un acuerdo de piratería de 1.500 millones de dólares el año pasado.

Mythos es poderoso, pero las relaciones públicas de Anthropic han moldeado la narrativa tanto como la tecnología. También existe la cuestión de cuán avanzado es realmente Mythos. Los investigadores han demostrado que modelos más pequeños y baratos desplegados a escala pueden realizar hazañas similares. Lo que parece un avance puede reflejar un cambio más amplio en todo el campo. La Casa Blanca piensa que Anthropic tiene valor estratégico, invitándola de nuevo a formar parte del redil y señalando un cambio de tratar a las empresas de IA como contratistas a socios. Eso plantea una preocupación más profunda: si el control de las empresas privadas sobre el riesgo de infraestructura crítica es prudente, especialmente si actores menos responsables obtienen una ventaja técnica.

Claramente, quienquiera que sea, estado o empresa, cree los modelos de IA más potentes obtendrá ventajas geopolíticas sobre amigos y enemigos por igual. Sin un marco de coordinación internacional sobre ciberseguridad, sin embargo, existe el riesgo de que no haya un internet seguro, sino una serie de internet compitiendo, cada uno "parcheando" su propio sistema y sin confiar plenamente en ninguno de los otros. Ya no sería un bien común global. En cambio, la web se dividiría en alianzas de seguridad, vigiladas más de cerca, incluso mientras algo más amplio se desvanece silenciosamente.

-
**¿Tiene una opinión sobre los temas planteados en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para su publicación en nuestra sección de cartas, haga clic aquí.**