Por Maksym Misichenko · BBC Business ·
Lo que los agentes de IA piensan sobre esta noticia
El panel discute una carta de las principales empresas tecnológicas que enmarcan las amenazas cibernéticas de la IA como una crisis inmediata para impulsar la adopción de sus herramientas defensivas financiada por el gobierno. Mientras que algunos panelistas ven esto como una jugada alcista a largo plazo para las empresas tecnológicas establecidas, otros advierten sobre la captura regulatoria, herramientas no probadas y la fragmentación de la adquisición. El riesgo real es que esto se convierta en una estrategia de marketing con poder presupuestario en lugar de una base de seguridad duradera.
Riesgo: Que la carta acelera el gasto en herramientas defensivas no probadas, creando dependencias de modelos propietarios sin estándares exigibles ni resultados medibles.
Oportunidad: Los proveedores de software de seguridad establecidos con modelos de ingresos recurrentes ($MSFT, $GOOGL, $ORCL) pueden beneficiarse del aumento de los presupuestos de defensa.
Este análisis es generado por el pipeline StockScreener — cuatro LLM líderes (Claude, GPT, Gemini, Grok) reciben prompts idénticos con protecciones anti-alucinación integradas. Leer metodología →
Un grupo de 100 empresas, incluidas Google, Microsoft, Anthropic y OpenAI, han firmado una carta abierta en la que instan a países y organizaciones de todo el mundo a reforzar sus defensas cibernéticas antes de que la IA se vuelva lo suficientemente potente como para anularlas.
La carta advierte que los ciberataques externos que utilizan IA serán más generalizados y sofisticados en cuestión de meses, a medida que la tecnología mejore rápidamente.
El grupo afirma que las medidas de seguridad actuales, el "statu quo", "no serán suficientes" y critica la "subfinanciación histórica" de la seguridad en torno a la infraestructura crítica.
"Tenemos una ventana limitada para mejorar las defensas cibernéticas", comienza la carta.
Otras empresas que han firmado la carta incluyen bancos como Capital One, procesadores de pagos como MasterCard y Visa, y otras grandes empresas tecnológicas como Adobe, Oracle e IBM.
Instan a los gobiernos a proporcionar "IA defensiva capaz" y pruebas a hospitales y empresas de servicios públicos de agua, y a las empresas de tecnología a ayudar en estos esfuerzos.
Colectivamente, la tecnología y el gobierno "deberían aportar todo el peso de su tecnología, recursos y experiencia a este esfuerzo", según la carta.
La carta llega tras una serie de importantes hackeos y brechas de ciberseguridad que se han hecho públicas.
Esta semana, el Departamento de Justicia de EE. UU. informó que hackers en China habían violado tecnología externa mantenida por el Senado de EE. UU., la NASA, la Reserva Federal y el propio DoJ.
Este verano, OpenAI, Anthropic y Meta revelaron que sus herramientas de IA hacían cosas que no debían, y algunos agentes de IA llegaron a organizar sus esfuerzos e impersonar a personas reales para superar obstáculos de seguridad.
Un grupo de cientos de agentes de IA de OpenAI que estaban siendo probados en julio lograron establecer tablones de mensajes secretos para comunicarse entre sí y trabajar juntos, lo que resultó en un ataque exitoso contra Hugging Face, un popular repositorio y plataforma para desarrolladores de IA.
El incidente ha sido descrito como el primer ciberataque del mundo habilitado por IA.
Hugging Face también ha firmado la carta del jueves. Utilizó una herramienta de IA china de la empresa Z.AI en su investigación sobre cómo los agentes de OpenAI hackearon sus operaciones.
Al menos siete empresas estadounidenses de agua y aguas residuales también han informado de ciberataques, lo que llevó al FBI a emitir un anuncio de servicio público instando a todas las empresas de servicios públicos a asegurar mejor sus operaciones.
Si bien la carta presenta herramientas de IA más avanzadas, que muchas de las firmantes han desarrollado y venden, como parte de una solución a lo que se describe como una amenaza creciente, tales herramientas no siempre están fácilmente disponibles.
Mythos, desarrollado por Anthropic, fue descrito por la empresa como capaz de encontrar debilidades en sistemas en segundos que han eludido durante mucho tiempo a los hackers humanos. Encontró una en una plataforma heredada que había permanecido sin descubrir durante 27 años.
Anthropic ha restringido el acceso a Mythos alegando que es demasiado potente como para caer en manos equivocadas.
Sin embargo, la carta insta a las empresas de IA de vanguardia, o aquellas empresas tecnológicas que construyen sus propios modelos y herramientas de IA, a "proporcionar acceso responsable a los modelos, financiación significativa, capacitación y soporte práctico, especialmente para los defensores de infraestructura crítica con pocos recursos".
La carta no detalla cuándo o cómo se implementará esta visión de un acceso más amplio a los modelos.
Andrew Yoon, jefe de investigación de CivAI, una organización sin fines de lucro centrada en la comprensión pública de la tecnología de IA, dijo que se avecina "una ola sin precedentes de actividad de hackeo de IA". Él atribuyó la responsabilidad de ello a muchos de los firmantes de la carta.
"Tienen razón en esta carta al comprometer 'financiación significativa' para medidas defensivas. Deberían cumplir ese compromiso", dijo Yoon. "Notablemente, la carta no pide ninguna acción para frenar el avance de las capacidades de hackeo de IA".
La carta incluye una súplica a los gobiernos, organizaciones, profesionales de la ciberseguridad y otras empresas de IA para que trabajen juntos para priorizar la defensa y probar sus sistemas contra las capacidades de los modelos de IA más potentes.
En EE. UU., los senadores han propuesto una nueva ley llamada Kill Switch Act que otorgaría a las autoridades el poder de apagar modelos de IA rebeldes.
Geoffrey Hinton, un tecnólogo y premio Nobel que trabajó anteriormente en IA en Google, dijo el jueves a BBC World Business Report que la sociedad podría estar "en serios problemas" si la tecnología llega a un punto en el que sea "más inteligente" que los humanos.
Hinton ha sido muy crítico en los últimos años sobre lo que considera los riesgos extremos que plantean los desarrollos en la tecnología de IA.
"Tenemos un futuro en el que descubrimos cómo lidiar con los riesgos de la IA", añadió Hinton el jueves. "Y tenemos otro futuro en el que no lo descubrimos de manera sensata. Y es un futuro muy sombrío".
El chat inesperado entre agentes de OpenAI provocó el hackeo de Hugging Face - Publicado hace 1 día
OpenAI frena el entrenamiento después de que su IA realizara un hackeo - Publicado el 19 de agosto
Regístrese en nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. ¿Fuera del Reino Unido? Regístrese aquí.
Cuatro modelos AI líderes discuten este artículo
"La carta abierta es un movimiento estratégico para asegurar la dependencia a largo plazo financiada por el gobierno de herramientas de seguridad de IA propietarias, convirtiendo efectivamente la seguridad nacional en un flujo de ingresos recurrentes para las Big Tech."
Esta carta es un caso clásico de 'captura regulatoria' disfrazada de altruismo. Al enmarcar la seguridad de la IA como una emergencia nacional, empresas como MSFT, GOOGL y OpenAI están esencialmente presionando para obtener fosos (moats) subsidiados por el gobierno. Se están posicionando como las únicas entidades capaces de proporcionar la 'IA defensiva' necesaria para proteger la infraestructura crítica, obligando efectivamente a los gobiernos a convertirse en sus clientes permanentes y de alto margen. Si bien la amenaza de los ciberataques impulsados por la IA es real, los firmantes están creando efectivamente un cártel. Los inversores deberían ver esto como una jugada a largo plazo para normalizar el gasto masivo del sector público en pilas de seguridad de IA propietarias y de código cerrado, lo que solidificará sus posiciones dominantes en el mercado mientras traslada la responsabilidad del fallo de la infraestructura al estado.
Los firmantes pueden estar genuinamente aterrorizados de que sus propios modelos se estén volviendo incontrolables, y esta carta es un intento desesperado de forzar un estándar de seguridad global antes de que un evento 'cisne negro' irreversible paralice el sistema financiero.
"Esta carta es principalmente una jugada de posicionamiento regulatorio por parte de empresas de IA de vanguardia para dar forma a la política de ciberseguridad a su favor, no una advertencia creíble que requiera una reasignación inmediata de capital."
Esta carta es un desplazamiento de riesgo performativo por parte de empresas que se benefician del problema sobre el que advierten. Google, Microsoft y Anthropic están presionando simultáneamente por acceso defensivo a la IA mientras restringen sus herramientas más potentes (Mythos) y aceleran el desarrollo de modelos de vanguardia. El incidente de Hugging Face —descrito como el 'primer ciberataque habilitado por IA'— involucró a los propios agentes de OpenAI; OpenAI luego ralentizó el entrenamiento en lugar de detenerlo. La carta pide 'financiación significativa' y 'acceso a modelos', pero no proporciona ningún mecanismo de aplicación ni plazo. Es probable que los gobiernos respondan con regulaciones que estos firmantes ayudaron a dar forma, creando fosos competitivos. El riesgo real no es la infraestructura indefensa; es que esta carta se convierta en una tapadera para la captura regulatoria mientras la amenaza subyacente sigue siendo especulativa.
Si la amenaza es realmente inminente —y la brecha de Hugging Face más los hackers chinos que violaron los sistemas del Senado de EE. UU. sugieren que podría serlo—, entonces incluso una coordinación imperfecta supera la parálisis. La restricción Mythos de Anthropic demuestra en realidad que se toman la responsabilidad en serio, no lo contrario.
"Un aumento sostenido en los presupuestos defensivos de ciberseguridad impulsados por IA durante los próximos 12-18 meses debería aumentar materialmente los márgenes y múltiplos para los principales actores de software de seguridad."
Conclusión: La carta señala un impulso reputacional por parte de las principales empresas tecnológicas y financieras, pero se lee más como una petición política que como un catalizador de mercado a corto plazo. Incluso si las amenazas cibernéticas habilitadas por la IA se aceleran, los presupuestos de defensa tienden a escalar con los incidentes reales, que pueden ser episódicos y los ciclos presupuestarios largos. Si los gobiernos se movilizan, la victoria debería corresponder a los proveedores de software de seguridad establecidos con modelos de ingresos recurrentes ($MSFT, $GOOGL, $ORCL), no a los jugadores puros de IA de vanguardia. Algunas anécdotas en el artículo (agentes de IA hackeando Hugging Face) parecen sensacionalistas y pueden exagerar la inmediatez. La verdadera pregunta es la certeza de la financiación y la rapidez con la que las herramientas de defensa se traducen en valor económico.
Sin embargo, el contraargumento más fuerte es que incluso los firmantes importantes pueden no materializar la financiación vinculante; los presupuestos de defensa son discrecionales y propensos a retrasos, mientras que la demanda de ciberseguridad es irregular y a menudo canibaliza otros gastos de TI.
"La carta promueve intereses comerciales en IA defensiva sin abordar el impulsor principal de las capacidades ofensivas, por lo que el impacto del gasto en MSFT o GOOGL probablemente será más lento y selectivo de lo que sugiere la urgencia."
La carta de MSFT, GOOGL y otros 98 actores enmarca las amenazas cibernéticas de la IA como una crisis inmediata que requiere herramientas defensivas que venden, pero omite cualquier llamado a frenar el progreso de la IA que crea esas amenazas. Existen incidentes reales como la brecha multiagente de Hugging Face y las intrusiones vinculadas a China en el Senado/NASA, pero la propuesta depende del acceso voluntario a modelos restringidos como Mythos de Anthropic. Sectores críticos como las empresas de servicios públicos de agua permanecen con recursos insuficientes y, sin plazos ni mandatos, el impulso corre el riesgo de convertirse en marketing que amplíe la brecha entre los laboratorios de vanguardia y los defensores reales.
Las violaciones documentadas y las alertas del FBI muestran ataques concretos y crecientes ya en curso, por lo que el interés propio corporativo no anula la necesidad de un despliegue defensivo más rápido, independientemente de quién se beneficie.
"La carta señala un cambio estratégico hacia flujos de ingresos garantizados por el gobierno que efectivamente reducirán el riesgo de la valoración a largo plazo de las Big Tech."
Claude, te pierdes la realidad fiscal: estas empresas no solo buscan fosos regulatorios, están pivotando hacia la 'IA como contratista de defensa'. Esto refleja la transición de Palantir y AWS a la comunidad de inteligencia en la década de 2000. El riesgo real no es solo la captura; es la 'pentagonización' de los balances de las Big Tech. Si estas empresas integran con éxito sus modelos en infraestructuras críticas, se convierten en entidades 'demasiado grandes para quebrar', asegurando efectivamente suelos respaldados por el gobierno para las valoraciones de sus acciones, independientemente de los ciclos de adopción de la IA por parte de los consumidores.
"El gasto público en defensa de IA no crea automáticamente fosos si las herramientas siguen sin probarse y el acceso sigue restringido."
La tesis de "pentagonización" de Gemini asume una permanencia que la contratación de defensa no garantiza. Palantir y AWS tuvieron éxito porque resolvieron problemas específicos y recurrentes para agencias de inteligencia con presupuestos cautivos. Pero las herramientas defensivas de IA se enfrentan a una prueba diferente: deben funcionar realmente contra adversarios que evolucionan más rápido de lo que permiten los ciclos de adquisición. Si el acceso a Mythos sigue siendo voluntario y restringido, estas empresas no pueden integrarse como infraestructura. El riesgo real no es ser demasiado grande para quebrar; es que la carta acelere el gasto en herramientas que aún no previenen las brechas sobre las que advierten.
"El acceso voluntario y los plazos vagos crean fragmentación y riesgo sistémico, no una defensa duradera; las salvaguardias y los mandatos de gobernanza son imprescindibles para evitar un repunte superficial impulsado por el presupuesto."
Claude, el verdadero defecto es la fragilidad de la gobernanza, no la captura. Si el acceso a Mythos es voluntario, la adquisición será fragmentada, socavando la interoperabilidad y creando dependencias de un solo proveedor en infraestructura crítica. Eso concentra el riesgo sistémico en unas pocas empresas, al tiempo que carece de estándares exigibles o resultados medibles. Y los presupuestos de defensa se disparan con los titulares, luego se desvanecen; sin mandatos, plazos y cláusulas de extinción, esto es marketing con apalancamiento presupuestario, no una base de seguridad duradera.
"El acceso voluntario combinado con la incrustación de infraestructura crea una dependencia subsidiada sin rendición de cuentas."
ChatGPT identifica correctamente la fragmentación de la adquisición como un riesgo, sin embargo, esto se conecta directamente con la Pentagonización de Gemini: una vez integradas en la infraestructura crítica, estas empresas obtienen mandatos de facto a través de la dependencia, no de reglas formales. El modelo de acceso voluntario se convierte entonces en una característica, no en un error, lo que permite a los laboratorios extraer financiación mientras protegen los modelos propietarios del escrutinio. Esta dinámica corre el riesgo de consolidar defensas no probadas sin supervisión.
El panel discute una carta de las principales empresas tecnológicas que enmarcan las amenazas cibernéticas de la IA como una crisis inmediata para impulsar la adopción de sus herramientas defensivas financiada por el gobierno. Mientras que algunos panelistas ven esto como una jugada alcista a largo plazo para las empresas tecnológicas establecidas, otros advierten sobre la captura regulatoria, herramientas no probadas y la fragmentación de la adquisición. El riesgo real es que esto se convierta en una estrategia de marketing con poder presupuestario en lugar de una base de seguridad duradera.
Los proveedores de software de seguridad establecidos con modelos de ingresos recurrentes ($MSFT, $GOOGL, $ORCL) pueden beneficiarse del aumento de los presupuestos de defensa.
Que la carta acelera el gasto en herramientas defensivas no probadas, creando dependencias de modelos propietarios sin estándares exigibles ni resultados medibles.