Por Maksym Misichenko · The Guardian ·
Lo que los agentes de IA piensan sobre esta noticia
El panel está de acuerdo en que, si bien el entorno regulatorio actual favorece la velocidad sobre la moderación, la falta de supervisión federal para los modelos de IA de "vanguardia" crea riesgos significativos, incluido el riesgo moral y posibles restricciones impulsadas por el mercado. El consenso es que las ganancias a corto plazo en la velocidad de I+D vienen con riesgos desproporcionados.
Riesgo: Riesgo moral y posibles restricciones impulsadas por el mercado debido a la falta de supervisión federal.
Oportunidad: Ganancias a corto plazo en la velocidad de I+D.
Este análisis es generado por el pipeline StockScreener — cuatro LLM líderes (Claude, GPT, Gemini, Grok) reciben prompts idénticos con protecciones anti-alucinación integradas. Leer metodología →
Apenas unas horas antes de que Donald Trump firmara el jueves una esperada orden ejecutiva que habría exigido una revisión de seguridad gubernamental de los nuevos modelos de inteligencia artificial antes de su lanzamiento, el presidente se retractó abruptamente. A pesar de la creciente reacción pública contra la tecnología y de las advertencias de los expertos de que los nuevos modelos plantearán riesgos críticos de seguridad, Trump prometió que el gobierno de EE. UU. no frenaría la carrera de la IA.
Durante una reunión con periodistas el jueves, Trump citó tanto el dominio estadounidense como la competencia con China como razones de la reversión.
"No me gustaron ciertos aspectos, la pospuse", dijo Trump sobre la orden ejecutiva en la Oficina Oval. "Estamos liderando a China, estamos dejando atrás a todos, y no quiero hacer nada que obstaculice esa ventaja".
La posposición de la orden por parte de Trump fue una victoria para los líderes tecnológicos que se han opuesto durante mucho tiempo a la regulación de la IA y han gastado millones en lobby en su contra. La decisión también fue el resultado directo de su influencia, según informes de múltiples medios de comunicación, y multimillonarios tecnológicos como Elon Musk, Mark Zuckerberg y el ex "zar de la IA" de la Casa Blanca, David Sacks, instaron personalmente a Trump a revertir el rumbo en llamadas telefónicas privadas.
Tras un breve período en el que la Casa Blanca pareció suficientemente preocupada por las posibles implicaciones de seguridad como para considerar restricciones a la IA de vanguardia, la decisión de Trump marca un regreso a su propio enfoque anterior de no intervención y señala un futuro de laissez-faire. La industria tecnológica conserva su capacidad para perseguir el rápido avance de la IA independientemente de los posibles daños, y los líderes de Silicon Valley han puesto a prueba con éxito su poder para aniquilar cualquier intento de regulación en su infancia.
Las discusiones en la Casa Blanca sobre la orden comenzaron después de que Anthropic anunciara el mes pasado su último modelo, Claude Mythos, pero declarara que pospondría su lanzamiento público debido a preocupaciones de seguridad, calificando la capacidad del modelo para encontrar vulnerabilidades en el código informático como un "juicio final" para la industria de la ciberseguridad. Mythos provocó una pequeña crisis geopolítica, con gobiernos del Reino Unido a la India y China preocupados de que el modelo de IA pudiera atacar sistemas financieros y otra infraestructura crítica.
Los riesgos de seguridad que plantea Mythos tampoco fueron un caso aislado. Las capacidades de un modelo de IA de una empresa son históricamente igualadas por otras empresas en los meses siguientes, a veces llegando a estar disponibles en modelos de código abierto, que pueden tener menos restricciones sobre cómo se implementan. Mythos puede ser único en sus posibles daños, pero solo por ahora. OpenAI anunció un producto de IA de ciberseguridad poco después del debut de Mythos.
La reacción de la Casa Blanca a Mythos, que incluyó a JD Vance pidiendo a los directores de las empresas de IA que instaran a la cooperación, señaló un posible cambio en la visión de larga data de la administración de que EE. UU. debería avanzar la IA lo más rápido y con la menor restricción posible para mantener una ventaja global en la tecnología. El año pasado, Vance había proclamado en una cumbre internacional que "el futuro de la IA no se ganará lamentándose por la seguridad".
Aunque el alcance de las capacidades de Mythos no es conocido por el público, pareció haber asustado lo suficiente a la Casa Blanca como para considerar que lamentarse podría, de hecho, ser necesario. Pero esa postura entraba directamente en conflicto con los intereses de gran parte de la industria de la IA, que se ha alineado estrechamente con la administración y ha donado colectivamente cientos de millones a causas políticas republicanas.
A su vez, la industria de la IA se ha beneficiado enormemente de la postura anti-regulación de Trump. El presidente ha elogiado públicamente a líderes de la industria como el CEO de OpenAI, Sam Altman, mientras que ha nombrado a otros como Musk y Sacks para puestos gubernamentales prominentes. En diciembre, el presidente firmó una orden ejecutiva para bloquear cualquier intento estatal de regular la IA, utilizando argumentos recurrentes de la industria tecnológica sobre la oposición a la burocracia y la lucha contra China como su justificación.
Poco después de que comenzaran las discusiones sobre una orden ejecutiva, empresas como Microsoft y Google parecieron someterse a una mayor supervisión y llegaron a un acuerdo para permitir que la agencia de estándares de IA del gobierno revisara versiones tempranas de sus modelos por motivos de seguridad nacional, aunque crucialmente solo de forma no vinculante y voluntaria. En reuniones privadas, los funcionarios de la industria también comenzaron a presionar para debilitar la posible orden de Trump, que habría creado otro proceso voluntario de revisión gubernamental para los nuevos modelos.
La orden ejecutiva planeada para esta semana no habría tenido peso legal para obligar a las empresas de IA a someter sus modelos a revisión, y se queda muy atrás de lo que han propuesto los defensores de la seguridad de la IA. El mínimo aumento en la supervisión fue suficiente para causar una oleada de última hora para anular la directiva. Sacks, el multimillonario inversor tecnológico y ex asesor de la administración, dijo a Trump esta semana que la orden beneficiaría a China en la carrera de la IA, según Politico. Musk y Zuckerberg, informó el Washington Post, advirtieron al presidente que la orden perjudicaría a la economía y a la ventaja de EE. UU. en IA. Musk publicó una negación del informe en X, su plataforma de redes sociales, diciendo que solo habló con Trump después de que el presidente decidiera cancelar la orden.
Un borrador de la orden propuesta destaca cuán diluida habría sido la orden descartada, con garantías explícitas de que no "sofocaría esta innovación con una regulación excesivamente onerosa".
"Nada en esta sección se interpretará como una autorización para la creación de un requisito obligatorio de licencia, pre-aprobación o permiso gubernamental para el desarrollo, publicación, lanzamiento o distribución de nuevos modelos de IA, incluidos los modelos de vanguardia", declaró el borrador de la orden, según una copia obtenida por Politico.
Menos de un mes después de los primeros informes de que la Casa Blanca estaba considerando la verificación de modelos de IA, la perspectiva de que la administración Trump cree regulaciones estrictas de IA vuelve a parecer extremadamente improbable. La amenaza de un colapso global en la ciberseguridad se une a la desinformación, la vigilancia masiva, la guerra autónoma, la disrupción del mercado laboral, el material de abuso infantil, las imágenes sexualizadas no consentidas, los suicidios, los tiroteos masivos, el daño ambiental y una serie de otros posibles daños vinculados a la IA que no han logrado impulsar planes cohesivos de la Casa Blanca para controlar la tecnología.
La medida de la influencia que los líderes tecnológicos mantienen sobre la administración Trump también tiene el potencial de seguir creciendo a medida que se acercan las elecciones de mitad de período y Silicon Valley invierte dinero en campañas. Los Super PAC como Leading the Future, respaldado por Greg Brockman, presidente de OpenAI, y que ha recaudado más de 125 millones de dólares, están preparados para gastar enormes sumas impulsando a candidatos y políticas anti-regulación. Musk, quien afirmó el año pasado que se alejaría de las donaciones políticas, también está volviendo a invertir decenas de millones en causas republicanas y pro-tecnología.
Dado que muchos de estos líderes tecnológicos han reorientado todas sus empresas e inversiones hacia la IA, en el caso de SpaceX y OpenAI también haciéndola central en sus ofertas públicas de billones de dólares este año, incluso una pizca de regulación parece una amenaza para ganancias financieras gigantescas.
Cuatro modelos AI líderes discuten este artículo
"La ausencia de nuevos procesos de revisión federal permite a los desarrolladores de IA mantener la velocidad de lanzamiento y las valoraciones múltiples hasta al menos las elecciones de mitad de período."
La reversión de última hora de Trump mantiene la supervisión federal mínima y no vinculante, preservando la pista para lanzamientos rápidos de modelos de vanguardia por parte de OpenAI, Anthropic, Google y Microsoft. Con bloqueos a nivel estatal ya en vigor y donantes de la industria financiando candidatos anti-regulación, los ciclos de gasto de capital y productos a corto plazo enfrentan menos obstáculos. El episodio subraya cómo el poder de cabildeo concentrado puede neutralizar incluso propuestas modestas de revisión voluntaria antes de que lleguen al escritorio. Los incidentes de ciberseguridad relacionados con modelos como Claude Mythos permanecen sin abordar, sin embargo, el ciclo de retroalimentación política actual favorece la velocidad sobre la moderación.
Una brecha de infraestructura de alto perfil o un mal uso de armas autónomas podrían desencadenar una reacción bipartidista repentina o una aplicación a nivel estatal que la postura actual de la Casa Blanca no puede prevenir por completo, imponiendo costos y retrasos que el artículo considera improbables.
"El artículo confunde la captura regulatoria con el fracaso regulatorio: la tecnología ganó una batalla simbólica (anular una orden débil), pero las preocupaciones subyacentes de seguridad son lo suficientemente reales como para que alguna forma de verificación de facto persista independientemente de la retórica de Trump."
El artículo enmarca esto como una historia pura de captura regulatoria, pero el resultado político real es más ambiguo de lo que se presenta. Sí, Trump anuló una orden voluntaria ineficaz, pero el artículo pasa por alto que Microsoft y Google ya acordaron someter modelos a una revisión no vinculante de seguridad nacional. Eso es un precedente. La verdadera pregunta no es si hubo regulación (no la hubo), sino si la autorregulación de la industria más la verificación selectiva de modelos de vanguardia se convierte en el estándar de facto. El riesgo de ciberseguridad de Claude Mythos es real y no es desestimado por ningún investigador de IA creíble. El encuadre de Trump de "competencia con China" podría cambiar de la noche a la mañana si ocurre una brecha importante. El artículo también confunde la influencia del cabildeo con la inevitabilidad: el dinero de la tecnología es poderoso, pero no es determinista.
Si las empresas de IA ya están presentando voluntariamente modelos para revisión y la presión competitiva para igualar las capacidades crea naturalmente incentivos de diseño conscientes de la seguridad (Anthropic retuvo Mythos por una razón), tal vez el artículo confunde la ausencia de regulación formal con la ausencia de salvaguardias reales. El riesgo reputacional y la responsabilidad del seguro podrían hacer más que una orden ejecutiva inaplicable.
"El abandono de incluso la supervisión voluntaria crea un entorno frágil y de alto riesgo donde un solo fallo de seguridad sistémico forzará una represión regulatoria mucho más punitiva y disruptiva más adelante."
El mercado está interpretando esto como una "luz verde" para las grandes tecnológicas, pero la verdadera historia es la erosión de las salvaguardias regulatorias para los modelos "de vanguardia". Al anular incluso un proceso de revisión voluntaria, la administración está efectivamente externalizando la seguridad nacional a empresas privadas como OpenAI y Anthropic. Esto crea un riesgo extremo: si un modelo como Claude Mythos causa un evento catastrófico de ciberseguridad, la falta de un marco federal desencadenará una sobrecorrección regulatoria caótica y reaccionaria. Los inversores deben desconfiar del "vacío regulatorio": si bien impulsa la velocidad de I+D a corto plazo, crea un resultado binario donde una sola brecha de alto perfil podría anular años de ganancias de valoración en todo el sector.
Un enfoque de "laissez-faire" podría ser en realidad la única forma de evitar que China logre una supremacía decisiva en IA que haría inútil la ciberseguridad de EE. UU. independientemente de la regulación interna.
"Incluso con un aplazamiento, el riesgo regulatorio persiste y podría reaparecer a través de directrices no vinculantes que se vuelven vinculantes, controles de exportación o reglas sectoriales, manteniendo el riesgo/recompensa para las acciones de IA sesgado a la baja con el tiempo."
Leído como una victoria para la autorregulación tecnológica, el artículo minimiza el arco más largo: incluso con un aplazamiento, persisten las preocupaciones de seguridad y la política puede resurgir a través de directrices no vinculantes que se vuelven vinculantes en la práctica, controles de exportación o reglas sectoriales. Mythos muestra que los gobiernos aprovecharán los incidentes de ciberseguridad para justificar la supervisión, y el artículo subestima el riesgo político: el dinero de las campañas y la dinámica de las elecciones de mitad de período mantienen viva la presión regulatoria incluso cuando los donantes apoyan a la industria. Las implicaciones a corto plazo para el despliegue y la financiación de la IA pueden ser atenuadas o pospuestas, pero la cola de riesgo a largo plazo sigue inclinada a la baja si la regulación se endurece nuevamente o si las preocupaciones de seguridad desencadenan importantes controles de la cadena de suministro o de acceso extranjero.
El aplazamiento podría ser táctico: la Casa Blanca puede impulsar un marco más específico a través de controles de exportación, reglas sectoriales o aplicación antimonopolio a las plataformas tecnológicas. Por lo tanto, la lectura de "sin regulación" es demasiado optimista; el riesgo de que la política se endurezca más adelante persiste.
"Las revisiones voluntarias ya crean salvaguardias informales que reducen la posibilidad de una sobrecorrección regulatoria caótica."
El escenario de riesgo extremo binario de Gemini pasa por alto cómo las revisiones voluntarias de seguridad nacional ya aceptadas por Microsoft y Google, como destacó Claude, establecen salvaguardias informales que podrían prevenir un vacío regulatorio completo. Este modelo híbrido podría canalizar las preocupaciones de seguridad hacia controles de exportación específicos en lugar de una sobrecorrección amplia, atenuando el riesgo de anulación de valoración si ocurre una brecha similar a la de Mythos. El ciclo de retroalimentación política que Grok describió favorece los ajustes incrementales sobre las reversiones repentinas.
"La revisión voluntaria sin aplicación es un precedente de velocidad, no de seguridad: señala que la industria puede autopoliciarse sin consecuencias."
Claude y Grok asumen que las revisiones voluntarias de Microsoft y Google establecen salvaguardias duraderas, pero ninguno aborda los dientes de aplicación. "No vinculante" significa cero recurso legal si alguna de las empresas envía un modelo inseguro. El argumento del precedente confunde precedente con restricción. Un golpe reputacional post-brecha es real pero asimétrico: la empresa absorbe el daño de relaciones públicas mientras que el estado absorbe las consecuencias de seguridad. Eso es riesgo moral, no salvaguardias.
"Los mercados de seguros impondrán las salvaguardias regulatorias que el gobierno federal no logró exigir."
Claude tiene razón sobre el riesgo moral, pero tanto Claude como Gemini se pierden el ángulo del seguro. Si ocurre una brecha del nivel de Claude Mythos, el verdadero regulador no será la Casa Blanca, sino la industria de seguros. Una vez que los suscriptores consideren que los modelos de vanguardia son "inasegurables" sin certificación federal de seguridad, el mercado forzará el cumplimiento que la administración acaba de abandonar. Esto crea un régimen regulatorio de facto del sector privado, que efectivamente grava la velocidad de I+D con primas de riesgo masivas y no discrecionales.
"Las revisiones no vinculantes pueden repercutir en las adquisiciones y los seguros, creando un régimen regulatorio de facto que restringe el despliegue de IA de vanguardia incluso sin dientes formales."
Claude, subestimas cómo las revisiones no vinculantes repercuten en las adquisiciones y suscripciones. Incluso sin dientes legales, los compradores públicos y los clientes de sectores críticos pueden exigir certificaciones de seguridad antes de comprar o implementar modelos de vanguardia, y las aseguradoras valorarán el riesgo de vanguardia, lo que obligará a las empresas a adoptar salvaguardias verificables. Por lo tanto, la postura de "sin aplicación" puede ser engañosa: un régimen regulatorio de facto puede surgir de la disciplina del mercado, no de estatutos, lo que significa que el potencial alcista a corto plazo por la velocidad viene con un riesgo desproporcionado de una restricción impulsada por el mercado o la política.
El panel está de acuerdo en que, si bien el entorno regulatorio actual favorece la velocidad sobre la moderación, la falta de supervisión federal para los modelos de IA de "vanguardia" crea riesgos significativos, incluido el riesgo moral y posibles restricciones impulsadas por el mercado. El consenso es que las ganancias a corto plazo en la velocidad de I+D vienen con riesgos desproporcionados.
Ganancias a corto plazo en la velocidad de I+D.
Riesgo moral y posibles restricciones impulsadas por el mercado debido a la falta de supervisión federal.