Google comienza a vender TPU, las grandes tecnológicas buscan producir "tokens baratos" con chips de IA
Google ha anunciado la venta directa de sus chips TPU autodiseñados y hardware de computación de IA a centros de datos y clientes externos. Los TPU, o Unidades de Procesamiento de Tensores, son chips especializados en operaciones matemáticas de matrices, fundamentales para los modelos de IA actuales. Al combinar miles de TPU en clústeres, Google logra centros de cómputo de alta eficiencia.
Esto permite a servicios como Gemini ofrecer precios más bajos por token, haciéndolo competitivo frente a alternativas como OpenAI y algunos modelos chinos. La estrategia de Google no se centra solo en vender hardware, sino en ofrecer un ecosistema completo similar al de Nvidia con CUDA, apuntando a empresas que buscan controlar su propia infraestructura de cómputo.
Aunque Nvidia sigue siendo el estándar dominante en entrenamiento de modelos gracias a su ecosistema consolidado, el enfoque de Google es más atractivo para la inferencia, donde la eficiencia de costos es crucial. La industria está evolucionando hacia tratar la potencia de cómputo como un recurso básico, como la electricidad, donde el precio final por token se vuelve un factor clave de competitividad.
En China, proveedores en la nube como Huawei Cloud y Alibaba Cloud están siguiendo un camino similar, desarrollando sus propios ecosistemas de chips (como Ascend y Zhenwu) y soluciones integrales. La competencia ya no se trata solo de tener el chip más potente, sino de quién puede ofrecer el sistema más eficiente y económico para convertir el hardware en productividad. La venta de TPU por parte de Google señala que la batalla por la infraestructura de IA es ahora una guerra de sistemas.
marsbit06/24 10:25
