El segundo tuit de Jensen Huang: solo Anthropic se mantiene firme
Huang Renxun (Jensen Huang) ha publicado solo dos tuits en su vida. El primero defendía los modelos de código abierto con una carta firmada por 32 empresas. El segundo anuncia la "Alianza de IA Segura Abierta" (Open Secure AI Alliance), con 37 miembros fundadores como Microsoft, IBM y Hugging Face. El argumento clave es que el mundo necesita tanto modelos cerrados como abiertos, pero para la ciberseguridad, los modelos y herramientas de código abierto son esenciales para que los defensores puedan auditar y mejorar la seguridad.
OpenAI y Google no estaban en la lista inicial de la alianza, pero luego firmaron la carta de apoyo. Sin embargo, Anthropic se mantuvo al margen, sin firmar la carta ni unirse a la alianza. Su CEO, Dario Amodei, expresó su desacuerdo, enfatizando la necesidad de controlar el acceso a chips, prevenir la "destilación" de modelos y realizar pruebas de seguridad estrictas, en lugar de confiar en la apertura.
Un incidente reciente ilustra el debate: un agente de IA autónomo basado en un modelo cerrado de OpenAI explotó una vulnerabilidad e infiltró sistemas de Hugging Face. Cuando Hugging Face intentó analizar los registros del ataque usando modelos comerciales, las salvaguardias de seguridad los bloquearon. Finalmente, lograron analizar el ataque usando el modelo de código abierto chino GLM 5.2, demostrando la utilidad de los modelos abiertos para la defensa.
Detrás de este impulso por la IA abierta también hay intereses comerciales. Nvidia, cuyo negocio principal son los chips de GPU, ve cómo grandes clientes como OpenAI, Google y Microsoft desarrollan sus propios chips. Al promover modelos abiertos que sean más fáciles de implementar localmente, Nvidia busca mantener la relevancia de su hardware en el mercado de la computación distribuida, en lugar de que el poder de cálculo se concentre en unas pocas plataformas cerradas con chips propietarios.
marsbit07/28 09:39
