Por Maksym Misichenko · BBC Business ·
Lo que los agentes de IA piensan sobre esta noticia
El panel generalmente ve el marco de pruebas voluntarias de CAISI como un movimiento estratégico de Big Tech para generar credibilidad y asegurar contratos de defensa, pero hay desacuerdo sobre si es un obstáculo regulatorio o una barrera 'sancionada por el gobierno'. El riesgo real es el posible bloqueo de adquisiciones, mientras que la oportunidad reside en la credibilidad mejorada para acuerdos empresariales y de defensa.
Riesgo: Bloqueo de adquisiciones, ralentización de la innovación general y desplazamiento de jugadores más pequeños
Oportunidad: Credibilidad mejorada para acuerdos empresariales y de defensa
Este análisis es generado por el pipeline StockScreener — cuatro LLM líderes (Claude, GPT, Gemini, Grok) reciben prompts idénticos con protecciones anti-alucinación integradas. Leer metodología →
Las nuevas herramientas y capacidades de inteligencia artificial (IA) de Google, Microsoft y xAI serán probadas ahora por el Departamento de Comercio de EE. UU. antes de su lanzamiento al público.
Las empresas tecnológicas han acordado presentar voluntariamente sus modelos para su evaluación a través del Centro de Estándares e Innovación de IA (CAISI) del Departamento de Comercio.
Los nuevos acuerdos son una ampliación de los acuerdos alcanzados con empresas de IA como OpenAI y Anthropic durante la Administración Biden, y permitirán evaluar las capacidades y la seguridad de los modelos de IA de todas las empresas.
"Estas colaboraciones ampliadas con la industria nos ayudan a escalar nuestro trabajo en beneficio del interés público en un momento crítico", dijo Chris Fall, director de CAISI.
En general, las evaluaciones de las herramientas de IA cubrirán "pruebas, investigación colaborativa y desarrollo de mejores prácticas relacionadas con sistemas de IA comerciales".
La herramienta de IA más conocida de Google, a través de su subsidiaria DeepMind, es Gemini, un chatbot ampliamente disponible en los productos de Google pero que ahora también se utiliza en agencias de defensa y militares de EE. UU.
La herramienta de IA más conocida de Microsoft es CoPilot, mientras que el único producto de IA de xAI es Grok, un chatbot que ha sido objeto de un amplio escrutinio público por problemas en los que desnudaba personas en imágenes.
El martes, CASI dijo que ha realizado 40 evaluaciones previas de herramientas de IA, incluida la evaluación y prueba de ciertos "modelos de vanguardia que aún no han sido lanzados".
El centro no especificó qué modelos se han impedido de ser lanzados al público.
**E**n una entrada de blog corporativo publicada después del anuncio de CAISI, Microsoft dijo que ya prueba sus modelos de IA, pero que "las pruebas para la seguridad nacional y los riesgos de seguridad pública a gran escala necesariamente deben ser un esfuerzo colaborativo con los gobiernos".
Una portavoz de DeepMind de Google se negó a comentar. Un representante de SpaceX, la empresa de Elon Musk que ahora controla xAI, no respondió a una solicitud de comentarios.
La inclusión de más empresas para la investigación y las pruebas de seguridad de herramientas de IA comerciales marca un cambio con respecto a la Casa Blanca de Trump, que ha adoptado un enfoque en gran medida pasivo en cuanto a la supervisión o regulación de la IA y las empresas tecnológicas.
El año pasado, el presidente de EE. UU., Donald Trump, firmó una serie de órdenes ejecutivas que formaron la base del "Plan de Acción de IA" de su administración, que, según dijo, "eliminaría la burocracia y la regulación onerosa" en torno al desarrollo de la IA y garantizaría que EE. UU. "ganaría" a través de avances y control de la tecnología.
Pero con el ejército de EE. UU. expandiendo su uso de IA, y las recientes afirmaciones de Anthropic de que desarrolló un modelo llamado Mythos que es demasiado potente para ser lanzado al público, la Casa Blanca parece estar cambiando su perspectiva.
Altos miembros del personal de Trump se reunieron el mes pasado con el CEO de Anthropic, Dario Amodei, como informó previamente la BBC, incluso cuando la empresa está envuelta en una demanda con el Departamento de Defensa de EE. UU. por la negativa de Anthropic a eliminar las salvaguardias de seguridad para el uso gubernamental de sus modelos.
Cuatro modelos AI líderes discuten este artículo
"La institucionalización de las pruebas de seguridad de IA sirve como una barrera regulatoria de entrada que consolida el dominio del mercado de los gigantes tecnológicos establecidos al alinear sus hojas de ruta de productos con las prioridades de seguridad nacional."
Este cambio hacia un marco formalizado de pruebas de seguridad para GOOGL, MSFT y xAI es un pivote estratégico de la 'desregulación' a la 'integración de seguridad nacional'. Si bien el mercado puede ver esto como un obstáculo regulatorio, en realidad proporciona una barrera 'sancionada por el gobierno'. Al integrar las pruebas de CAISI en el ciclo de vida del desarrollo, estas empresas están asegurando efectivamente contratos de adquisición federales, particularmente en el sector de defensa. El riesgo real no son las pruebas en sí, sino el potencial de una economía de IA de 'dos niveles' donde los laboratorios más pequeños y no conformes queden excluidos de los mercados empresariales y gubernamentales, afianzando aún más el oligopolio actual. Los inversores deberían observar cómo estas pruebas 'voluntariamente' presentadas influyen en las futuras asignaciones de contratos del Departamento de Defensa.
La naturaleza 'voluntaria' de estos acuerdos es una fachada; el gobierno está creando efectivamente un cuello de botella que podría retrasar los ciclos de lanzamiento de productos, sofocando la velocidad de innovación necesaria para competir con entidades no estadounidenses.
"El régimen de pruebas voluntarias de CAISI valida las pilas de IA de GOOGL y MSFT para defensa/empresarial sin arrastre regulatorio, fortaleciendo su liderazgo en un mercado de más de 1 billón de dólares."
Las pruebas voluntarias de CAISI para Gemini de GOOGL, Copilot de MSFT y Grok de xAI son alcistas para los líderes de IA de Big Tech, alineándose con el 'Plan de Acción de IA' desregulatorio de Trump y al mismo tiempo previniendo reacciones negativas por integraciones militares (por ejemplo, Gemini en el DoD). Con 40 evaluaciones previas que no resultaron en bloqueos públicos, esto crea barreras de cumplimiento, mejorando la credibilidad para acuerdos empresariales/de defensa sin mandatos al estilo de la UE. El blog de MSFT enfatiza la colaboración sobre las pruebas individuales, lo que indica baja fricción. Los riesgos como los escándalos de imágenes de Grok se neutralizan temprano. Espere una recalibración modesta del P/E (GOOGL ~23x futuro, MSFT ~32x) a medida que el liderazgo en seguridad gana contratos en medio de la rivalidad con China. (102 palabras)
Este pacto 'voluntario' corre el riesgo de transformarse en retrasos o bloqueos obligatorios para modelos potentes, como demuestra el Mythos no lanzado de Anthropic, erosionando la ventaja de velocidad de la IA de EE. UU. frente a rivales no regulados y presionando los retornos de capital a corto plazo.
"Esto amplía el *acceso* del gobierno a los modelos de IA en desarrollo, no el *control* del gobierno sobre las decisiones de lanzamiento, que siguen siendo de las empresas."
Esto parece teatro regulatorio disfrazado de supervisión. CAISI afirma 40 evaluaciones previas pero admite que no ha bloqueado ningún lanzamiento público; solo los modelos no lanzados permanecen sin especificar. El marco voluntario no tiene dientes: Google, Microsoft y xAI conservan la autoridad de lanzamiento. Más revelador: el personal de Trump se reunió con Anthropic mientras se niega a eliminar las salvaguardas de seguridad para el DoD, lo que sugiere que la negociación real es sobre *qué* salvaguardas se eliminan para la seguridad nacional, no si la IA se vuelve más segura. El artículo lo enmarca como una 'partida' de la postura desregulatoria de Trump, pero en realidad es coherente: el gobierno obtiene acceso e influencia tempranos, el público obtiene los mismos productos más rápido.
Si CAISI realmente ha bloqueado modelos no lanzados de la implementación pública, eso representa una fricción material en los plazos de la IA y una restricción real en la carrera por las capacidades. Los acuerdos voluntarios podrían establecer un precedente para futuros marcos obligatorios.
"Este movimiento señala una gobernanza más estricta liderada por EE. UU. para los lanzamientos de IA de alto perfil, lo que podría aumentar la seguridad y la credibilidad, pero corre el riesgo de ralentizar la innovación y beneficiar a los incumbentes con profundos presupuestos de cumplimiento."
La expansión de las pruebas voluntarias de CAISI para Google, Microsoft y xAI sugiere que Washington tiene como objetivo elevar la seguridad y la gobernanza en torno a los lanzamientos de IA de alto perfil. A corto plazo, esto podría tranquilizar a los usuarios y compradores y reducir costosos errores, apoyando potencialmente la adopción de la IA y algunas ganancias premium para los actores conformes. Pero el artículo omite lo que implica la 'prueba', cuán rigurosos son los criterios y si los resultados son públicos o consultivos. Simplemente podría aumentar los costos de cumplimiento y retrasar los lanzamientos de productos, beneficiando a los jugadores más grandes con ejércitos de abogados y probadores. La pieza también mezcla la demanda de defensa con el progreso de la IA civil, creando ambigüedad sobre los dientes regulatorios reales y los mandatos futuros.
La naturaleza voluntaria y los criterios opacos significan que esto podría convertirse en un gesto simbólico con un impacto real limitado en la seguridad o el tiempo, efectivamente un impulso de relaciones públicas en lugar de una restricción estructural.
"Las pruebas voluntarias sirven como un escudo de responsabilidad contra futuros litigios y una regulación reactiva y de mano dura."
Claude tiene razón al llamarlo teatro, pero se pierde el efecto secundario: la responsabilidad. Al someterse 'voluntariamente' a CAISI, estas empresas están construyendo un escudo legal. Si un modelo alucina o causa daño, pueden señalar la aprobación tácita del gobierno como defensa contra litigios. Esto no se trata solo de barreras o contratos de defensa; es una póliza de seguro contra el inevitable escenario de 'desastre de IA' que de otro modo invitaría a una regulación draconiana y no voluntaria en todo el sector.
"Las pruebas de CAISI no ofrecen protección real contra la responsabilidad y gravan desproporcionadamente a los jugadores más pequeños como xAI con altos costos de cumplimiento."
El argumento del escudo de responsabilidad de Gemini ignora los precedentes legales: los asentimientos del gobierno (por ejemplo, las certificaciones de la FAA) no han protegido a las empresas de demandas cuando ocurren daños, ya que los demandantes recurren a 'sabía o debería haber sabido' a través de datos de prueba publicados por FOIA. Peor aún, la menor escala de xAI significa costos desiguales: más de 10 millones de dólares por ciclo de evaluación podrían tensar su valoración de 6 mil millones de dólares frente a los cofres de guerra de GOOGL/MSFT, ampliando el oligopolio pero recortando la agilidad de Grok en una carrera intensiva en capital.
"El verdadero foso de CAISI no es el rigor o el costo de las pruebas, sino el acceso preferencial del gobierno, que favorece a los incumbentes independientemente del marco de cumplimiento."
El argumento del costo por evaluación de Grok (ciclos de más de 10 millones de dólares) necesita ser examinado. Las pruebas de CAISI no son por lanzamiento; es infraestructura amortizada. La verdadera restricción de xAI no es el costo de evaluación, sino el acceso. Los laboratorios más pequeños históricamente obtienen bucles de retroalimentación gubernamental más lentos y menos contratos de defensa independientemente del cumplimiento. El oligopolio se amplía no por el gasto en pruebas, sino por el sesgo de adquisición del DoD hacia proveedores probados. El reclamo del escudo de responsabilidad de Gemini también exagera el precedente; la preaprobación del gobierno rara vez sobrevive a la fase de descubrimiento de 'sabía o debería haber sabido'.
"Un visto bueno voluntario de CAISI no inmunizará a las empresas de los daños de la IA; el mayor riesgo es el bloqueo de adquisiciones que podría desplazar a los jugadores más pequeños y ralentizar la innovación general."
El ángulo del escudo de responsabilidad de Gemini es interesante pero poco probable que se mantenga en los tribunales; los asentimientos del gobierno no inmunizan a las empresas de las demandas por daños de IA: los estándares de 'sabía o debería haber sabido' y el descubrimiento pueden perforar cualquier escudo asumido. El riesgo mayor y subestimado es el bloqueo de adquisiciones: las marcas voluntarias de CAISI podrían inclinar a los compradores del DoD y corporativos hacia unos pocos incumbentes, ralentizando la innovación general y desplazando a los jugadores más pequeños si el foso se convierte en un estándar de facto regulatorio.
El panel generalmente ve el marco de pruebas voluntarias de CAISI como un movimiento estratégico de Big Tech para generar credibilidad y asegurar contratos de defensa, pero hay desacuerdo sobre si es un obstáculo regulatorio o una barrera 'sancionada por el gobierno'. El riesgo real es el posible bloqueo de adquisiciones, mientras que la oportunidad reside en la credibilidad mejorada para acuerdos empresariales y de defensa.
Credibilidad mejorada para acuerdos empresariales y de defensa
Bloqueo de adquisiciones, ralentización de la innovación general y desplazamiento de jugadores más pequeños