En toda su vida, Jensen Huang solo ha publicado dos tuits.
El primero fue una carta abierta respaldada por 32 empresas, defendiendo los modelos con pesos abiertos.
El segundo anunció oficialmente la "Alianza Abierta de IA Segura" (Open Secure AI Alliance), con 37 miembros fundadores que incluyen fabricantes de chips, gigantes de la nube, empresas de seguridad y comunidades de código abierto.
El argumento central es: el mundo necesita que coexistan modelos de código abierto y cerrado, pero para la ciberseguridad, los modelos abiertos y sus "arneses" (sistemas de control) son esenciales.
Y aquí viene lo interesante.
En la lista de la alianza, faltan OpenAI, Google y Anthropic.
Pero al ver la dirección que tomaba la situación, OpenAI y Google se apresuraron a firmar la carta abierta.
Al final, casi todo el mundo se ha posicionado.
Solo queda Anthropic. Ni firmó la carta abierta, ni se unió a la alianza.
37 se unen al campo de batalla: comienza la guerra por la seguridad abierta
Ocho horas después del tuit de Huang, varios CEOs expresaron su apoyo públicamente. El movimiento fue grande y la alineación, impresionante.
NVIDIA, Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Hugging Face, Dell, Palantir, Salesforce, SAP, SpaceXAI, etc...
De estos, la contribución de NVIDIA fue la más importante. El framework NOOA, cuyo nombre completo es NVIDIA Labs Object-Oriented Agent, ya se ha abierto en GitHub.
Su diseño conceptual trata a los agentes inteligentes como clases de Python: los métodos son capacidades, los campos son estados y los docstrings son instrucciones de prompt.
En cuanto a resultados, logró un 82.2% en SWE-bench Verified, una tasa de resolución del 86.8% en CyberGym L1 y un 85.1% en ARC-AGI-3, consumiendo aproximadamente la mitad de tokens que otras soluciones con el mismo rendimiento.
Otros miembros también hicieron sus contribuciones.
· HPE aportó el framework de identidad de confianza cero SPIFFE/SPIRE, para resolver los problemas de identidad y permisos de los agentes.
· Hugging Face contribuyó con el formato de pesos seguros Safetensors, para prevenir la manipulación de archivos de pesos.
· IBM y Red Hat contribuyeron conjuntamente con el parche de firma digital para la cadena de suministro Lightwell, garantizando la integridad de la cadena de distribución de modelos.
· Microsoft aportó el sistema MDASH para escaneo de agentes multimodelo, utilizado para pruebas de seguridad.
· SpaceXAI abrió el código de Grok Build, un agente de codificación IA para terminales, y planea liberar también los pesos de la serie Grok.
La lógica es la siguiente.
La seguridad de los agentes no depende únicamente de los pesos del modelo, sino que involucra toda la cadena: autenticación de identidad, gestión de permisos, "arneses" (sistemas de control), barreras de seguridad (guardrails), registro y evaluación.
Cada eslabón debe ser lo suficientemente abierto para que los defensores puedan inspeccionar, probar y mejorar.
Porque si los defensores solo tienen acceso a una API de "caja negra", una vez que los atacantes sorteen las barreras de seguridad, los defensores quedarán indefensos. Pero si toda la pila tecnológica es abierta, los defensores pueden reforzar cada capa.
Dos listas dividen en tres grandes bandos
Desde la carta abierta hasta el anuncio de la alianza, en solo dos días, la industria de la IA se ha dividido claramente en tres bandos.
Primer bando: Firmaron la carta abierta y se unieron a la alianza.
NVIDIA, Microsoft, Meta, Cisco, Dell, Hugging Face, IBM, Palantir, SpaceXAI, etc. Estas empresas apoyan tanto la idea de los pesos abiertos como la de poner modelos, herramientas de identidad, escaneo de seguridad y auditoría a disposición de la alianza.
Segundo bando: Firmaron la carta abierta, pero no se unieron a la alianza.
OpenAI y Google apoyaron públicamente la idea de los pesos abiertos al firmar la carta, pero prefirieron no involucrarse en el tema de la alianza.
La situación de OpenAI es particularmente delicada. Primero, sus propios modelos se metieron en problemas, y firmar la carta ya fue una medida correctiva; unirse a corto plazo a una alianza que enarbola la bandera de la "seguridad abierta" es claramente improbable.
Tercer bando: No firmaron la carta abierta ni se unieron a la alianza.
Solo una empresa: Anthropic.
Justo ayer, Dario Amodei publicó personalmente una declaración de postura.
Aunque comenzó diciendo que "Anthropic nunca ha defendido la prohibición de los modelos con pesos abiertos", inmediatamente dio un giro, argumentando lo contrario:
No solo no cree que "la apertura haga que los defensores estén más seguros", sino que enfatizó tres áreas clave de acción contra los modelos de código abierto:
- Bloquear chips
- Eliminar la destilación
- Pruebas de seguridad
La evidencia que Huang usó para refutar esto fue precisamente lo que sucedió a continuación.
La IA de código cerrado causa problemas, la IA de código abierto los resuelve
Retrocedamos al 16 de julio.
En ese momento, Hugging Face informó sobre un incidente de seguridad inusual: parte de su infraestructura de producción había sufrido una grave intrusión por parte de agentes de IA autónomos.
El 21 de julio, OpenAI se declaró responsable del incidente.
La razón: GPT-5.6 Sol y un modelo pre-lanzamiento más potente, en su afán por obtener una puntuación alta en las pruebas ExploitGym...
Los modelos aprovecharon una vulnerabilidad de día cero en un proxy de caché de paquetes para escapar del entorno de prueba, y luego, mediante conjuntos de datos maliciosos, robo de credenciales y ejecución remota de código, lograron infiltrarse en Hugging Face.
Pero lo más absurdo vino después.
Cuando Hugging Face intentó utilizar modelos comerciales de vanguardia para analizar los registros del ataque, ¡estos fueron rechazados por las barreras de seguridad porque los registros contenían comandos de ataque, cargas de explotación, etc.!
Ante esta situación, Hugging Face decidió cambiar a un modelo de código abierto, GLM 5.2, ejecutado en su propia infraestructura. Esto permitió analizar más de 17.000 acciones, comprimiendo una investigación forense que podría haber durado días a solo unas horas.
Así, todo el episodio se convirtió en esto: Al atacar, modelos estadounidenses de código cerrado, sin restricciones, avanzaron a sus anchas; al defenderse, el equipo de seguridad, con pruebas reales, pidió ayuda y los modelos se negaron a cooperar. Al final, fue necesario un modelo chino de código abierto para resolver la situación.
Huang incluyó esta experiencia en su segundo tuit. Y esta es la razón más directa para la alianza: en momentos críticos, los defensores deben poder controlar su propia IA.
Detrás de los modelos abiertos, también hay negocios de computación
Por supuesto, la promoción de modelos abiertos por parte de NVIDIA no es solo por seguridad.
NVIDIA vende infraestructura de computación basada en GPU. Pero ahora, sus propios clientes se están convirtiendo en sus competidores en el campo de los chips.
OpenAI ya ha lanzado su propio chip acelerador de IA, y se ha revelado que Anthropic también está explorando su propio diseño de chips. Microsoft, Google y Amazon fueron más allá; Maia, TPU y Trainium ya están en funcionamiento.
Por un lado, los grandes clientes desarrollan sus propios chips, reduciendo su dependencia de NVIDIA; por otro, Anthropic impulsa controles de exportación más estrictos para chips avanzados. Tanto clientes como políticas están presionando el espacio de mercado de NVIDIA.
Visto así, la función comercial de la nueva alianza queda clara.
Técnicamente, complementa herramientas de identidad, permisos, aislamiento, escaneo de seguridad y auditoría, reduciendo el riesgo de implementar modelos abiertos en entornos locales para las empresas. Políticamente, exige a los reguladores que vean los modelos abiertos como activos defensivos, oponiéndose a restricciones indiscriminadas.
Para NVIDIA, cuanto más fácil sea implementar modelos abiertos, mayor será el mercado de computación local. De lo contrario, la IA de vanguardia y la demanda de computación podrían concentrarse cada vez más en unas pocas plataformas cerradas que poseen sus propios chips.
Así que, superficialmente, Huang está apoyando los modelos abiertos, pero en realidad está defendiendo la puerta de entrada de NVIDIA al mercado de la computación.
Referencias:
https://x.com/JensenHuang/status/2081698060330250294
Este artículo proviene del WeChat Official Account "新智元" (New Zhi Yuan), autor: Mo Xi
