La escasez de HBM de NVIDIA restringe la próxima generación de GPU, pero este disco duro roba protagonismo
Cuando el cifrado, compresión, indexación, servicios de memoria y contexto se acercan al medio de almacenamiento, los límites de valor de SSD, DRAM, HBM y HBF serán redefinidos. Los Agent de IA transforman los sistemas de cómputo en entidades persistentes que observan, razonan y mantienen estado. Esto genera una cadena continua de escritura de datos que incluye memoria, índices, registros y contexto, haciendo que el almacenamiento sea parte integral del ciclo de percepción y decisión del Agent.
Surgen SSD funcionales o "inteligentes", capaces de realizar cifrado, compresión, indexación y gestión del ciclo de vida de datos cerca del medio, más allá de ser solo un destino de almacenamiento. Estas capacidades se organizan en torno a la identidad del agente, su contexto y memoria. El estándar NVMe ya proporciona caminos para la ejecución de programas en el dispositivo.
La memoria del Agent es compleja, requiriendo almacenar y organizar diversos objetos con diferentes requisitos de seguridad, actualización y vida útil. Los SSD funcionales ejecutan tareas deterministas (cifrado, compresión) cerca de los datos, mientras que las decisiones semánticas permanecen en el runtime del Agent.
En el edge, los SSD pueden ser la capa de estado persistente para Agents personales, permitiendo un funcionamiento más duradero y local. En la nube, los nodos de almacenamiento para Agent pueden proporcionar servicios de contexto, memoria compartida y gobernanza para clusters de GPU. Esto cambia el modelo de negocio hacia métricas de rendimiento integrales.
Se redefine la jerarquía de memoria: HBM maneja datos críticos actuales; HBF (High Bandwidth Flash) ofrece mayor capacidad para datos de lectura intensiva; DRAM/CXL gestiona estado variable y agrupación; y los SSD funcionales almacenan objetos persistentes y ofrecen servicios cerca de los datos. La innovación no está en reemplazar una capa por otra, sino en una colaboración optimizada.
Los primeros ejemplos industriales son los "AI SSD", como las soluciones de Phison (aiDAPTIV), Longsys (SPU+iSA) y la colaboración entre Linyun y Yuansuan (寅谱-联芸). Estas rutas combinan hardware de almacenamiento, middleware y software para ampliar la capacidad de modelos y gestionar cachés como KV Cache de manera eficiente.
El futuro puede desarrollarse en tres direcciones: 1) SSD con funcionalidades específicas integradas o programables, 2) Nodos de almacenamiento completos que ofrecen servicios para Agent, y 3) Una recombinación optimizada de la jerarquía de memoria (HBM, HBF, DRAM/CXL, SSD). El valor final se medirá en costo por token, continuidad del Agent y gestión confiable del ciclo de vida de los datos.
marsbitHace 17 min(s)
