Organizado por: Jin10 Data
NVIDIA (NVDA.O) lanzó la plataforma NVIDIA DSX en el evento NVIDIA GTC Taipei celebrado en Taipéi, Taiwán, extendiendo aún más su presencia empresarial al campo de la infraestructura de fábricas de IA.
A diferencia del enfoque pasado centrado en la venta de GPU, DSX busca ofrecer a las empresas una solución completa para fábricas de IA, abarcando desde el diseño y la simulación hasta el despliegue y la gestión operativa.
Con el crecimiento continuo de la escala de los modelos de IA, los desafíos que enfrentan los centros de datos ya no son solo el rendimiento de los chips, sino que también involucran el suministro eléctrico, la capacidad de refrigeración, la planificación de recursos y la eficiencia operativa general. NVIDIA considera que las métricas clave de competitividad en la industria de IA evolucionarán gradualmente del rendimiento de un solo chip hacia la eficiencia integral de la infraestructura, es decir, cómo producir más potencia de cálculo y servicios de inteligencia bajo limitaciones de electricidad, espacio y recursos.
Para ello, la plataforma DSX integra chips, sistemas, software, arquitecturas de referencia y tecnologías de socios de NVIDIA, cubriendo todo el ciclo de vida de la construcción y operación de fábricas de IA. La plataforma ayuda a los clientes a mejorar la velocidad de despliegue, la fiabilidad y la eficiencia operativa, y a reducir el costo por token generado durante el proceso de inferencia de IA, a través de la unificación de pilas tecnológicas como la computación, el software y las instalaciones.
Jensen Huang declaró:
"No solo estamos entregando chips; estamos proporcionando a cada constructor de infraestructura un método completo para crear fábricas de IA. Con la plataforma DSX, puedes simular toda la fábrica sin gastar ni un céntimo, validar el rendimiento antes de instalar el primer rack y operar con la fiabilidad requerida para la IA a nivel de producción."
El sistema de software presentado incluye principalmente DSX MaxLPS y DSX OS.
Entre ellos, DSX MaxLPS utiliza refrigeración líquida a 45 grados Celsius y tecnologías de optimización de consumo energético a nivel de rack para aumentar la producción de tokens por megavatio. NVIDIA afirma que esta tecnología permite desplegar hasta un 40% más de GPU con un impacto mínimo en el rendimiento, reduciendo aún más el costo computacional bajo un presupuesto energético fijo.
DSX OS es una plataforma de software de código abierto orientada a la operación de fábricas de IA, que admite funciones como gestión del ciclo de vida, planificación inteligente, automatización de la salud, operación multitenant y servicios de plataforma. NVIDIA también hará de código abierto bibliotecas de software modulares, API, diseños de referencia y plataformas de computación acelerada, construyendo una arquitectura de software unificada.
Además del software central, DSX integra múltiples capacidades existentes. DSX Reference Design proporciona una arquitectura de referencia que cubre sistemas de computación, redes, almacenamiento, alimentación y refrigeración; DSX Sim permite la simulación y optimización de gemelos digitales durante todo el proceso, desde la planificación hasta la operación; DSX Flex puede ajustar dinámicamente la carga de trabajo según las variaciones en la carga de la red eléctrica y los precios de la electricidad; y DSX Exchange facilita la colaboración de datos entre sistemas de computación, redes, energía y refrigeración.
En cuanto a implementación comercial, proveedores de servicios en la nube como CoreWeave, Crusoe, IREN y Lambda ya han desplegado componentes centrales de DSX para mejorar la utilización de GPU y reducir el tiempo de lanzamiento de servicios de IA en la nube.
El ecosistema de hardware también se está expandiendo simultáneamente. Fabricantes como Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo Group (0992.HK), Super Micro Computer (SMCI.O), ASUS, Foxconn, GIGABYTE, Pegatron y Quanta Cloud Technology están desarrollando sistemas preparados para NVIDIA DSX, ayudando a los clientes a construir fábricas de IA de pila completa.
Mientras tanto, DSX Flex ya está ejecutando proyectos piloto comerciales con Emerald AI y Silicon Valley Power, validando la capacidad de las fábricas de IA para ajustar dinámicamente el consumo energético según la demanda de la red eléctrica.
Desde una perspectiva estratégica, DSX marca la continuación de la transición de NVIDIA de proveedor de chips de IA a proveedor de plataformas de infraestructura de IA. Al incorporar chips, software, arquitectura de centros de datos, gestión operativa y planificación energética en un sistema unificado, NVIDIA busca establecer un estándar de la industria que cubra todo el ciclo de vida de las fábricas de IA, consolidando aún más su posición de liderazgo en el mercado global de infraestructura para IA.
