Un millón de tokens por solo 0,99 dólares.
Este es el coste real en la factura de SemiAnalysis, la firma de investigación de semiconductores más técnica de Silicon Valley.
Pero lo que es aún más impactante es esta cifra: el gasto en tokens de su propio modelo interno de gran tamaño ya representa el 30% del salario total de sus empleados.
Puede parecer mucho, pero calculándolo al revés, la productividad que se compra con ese dinero antes requería varios múltiplos del coste en mano de obra. Cada persona consume casi 50.000 millones de tokens al mes, más de 5 veces el nivel per cápita de Meta, y los contribuyentes clave superan los 100.000 millones mensuales.
Tareas que antes requerían que un analista junior dedicara horas, como la conversión de modelos de Excel o la creación de gráficos de informes financieros, ahora se completan en minutos, por solo unos dólares.
La evaluación de SemiAnalysis es muy clara: esto no es una mejora de eficiencia del 10%, sino que la economía de unidad de los servicios profesionales está siendo reescrita.
Empresas de investigación, fondos de cobertura, bufetes de abogados... en todas las industrias que dependen del cerebro humano, es solo cuestión de tiempo que el gasto en tokens represente entre el 20% y el 30% de los salarios.
Al CEO de Nvidia, Jensen Huang, no le puede importar más.
En la conferencia GTC de este año, lanzó una advertencia directa: ¿Un ingeniero con un salario de 500.000 dólares anuales gasta menos de 250.000 dólares en tokens a fin de año?
"Me volvería loco."
Su plan es dar a cada ingeniero de Nvidia un presupuesto de tokens equivalente a medio año de salario, y además hacer que sus 75.000 empleados trabajen junto con 7,5 millones de agentes de IA.
No usar IA, según él, es como un diseñador de chips que insiste en usar papel y lápiz.
El token ya no es solo una herramienta; se está convirtiendo en el "medio de producción" de la nueva era.
Pero la otra mitad de Silicon Valley está enloqueciendo por la factura de la IA
Lo interesante es que, mientras SemiAnalysis ahorra dinero en efectivo con los tokens, los gigantes de Silicon Valley están desesperados por la factura de la IA.
Uber es el caso clásico.
A finales del año pasado, la empresa promovió Claude Code entre sus 5.000 ingenieros e incluso creó un ranking: cuánto más lo uses, más alto estarás. La competencia interna se intensificó al instante.
El resultado fue demasiado exitoso: en febrero, la tasa de uso entre ingenieros era del 32%, en marzo se disparó al 84%, y en abril, el 95% de los ingenieros usaban IA cada mes, el 70% del código enviado era generado por IA, y el presupuesto anual... ya se había agotado.
El CTO dijo que "había que rehacer el presupuesto desde cero". Después fue aún más drástico: Bloomberg reveló que Uber estableció un límite mensual de 1.500 dólares en tokens por empleado, requiriendo aprobación especial si se superaba.
Pero el COO Andrew Macdonald dijo en un podcast una gran verdad: El uso de IA ciertamente está aumentando, pero su conexión con la innovación en funciones para el consumidor... por ahora no se ve.
La situación en Microsoft es aún más surrealista. El mes pasado, The Verge reveló que Microsoft estaba cancelando la mayoría de sus licencias de Claude Code, pasándose a su propio GitHub Copilot CLI.
La razón es simple: el dinero se gasta más rápido de lo que se produce.
Bryan Catanzaro, Vicepresidente de Aprendizaje Profundo Aplicado de Nvidia, lo dijo aún más claro en abril de este año: "Para mi equipo, el costo computacional supera con creces el costo de los empleados."
Un estudio del MIT de 2024: en puestos de trabajo centrados principalmente en contenido visual, la automatización con IA es económicamente viable solo en el 23% de los escenarios.
En el 77% restante de los casos, contratar personas es más barato que usar IA.
Incluso hay ingenieros que se quejan de que los agentes de IA "destrozaron su base de datos y su red" durante el uso, lo que denominó el costo del "uso excesivo".
Presupuestos desorbitados, uso descontrolado, fracasos continuos: Silicon Valley está atravesando la etapa más desgarradora de la economía de la IA.
Por un lado, la tecnología aporta una productividad sin precedentes; por otro, la factura se infla a una velocidad igualmente sin precedentes.
El colapso de costos acaba de empezar
Pero la tesis central de SemiAnalysis es: no mires el precio de hoy, el colapso de costos acaba de empezar.
Primero, el lado del software.
Ejecutar DeepSeek R1 en un B300, a través de optimizaciones de puro software en tres niveles (wideEP, disag y MTP), puede aumentar el rendimiento por GPU de una línea base de 1000 tokens/segundo a 14000 tokens/segundo – una mejora de 14 veces, solo con código.
Ahora, el lado del hardware.
El rendimiento de un GB300 NVL72 en su configuración más óptima es 17 veces mayor que el de un H100, y al cambiar a precisión FP4 se dispara hasta 32 veces.
El precio de lista de Opus 4.7 es de 5 dólares por millón de entrada y 25 dólares por millón de salida, lo que no parece barato.
Pero debido a que la proporción entrada/salida en las cargas de trabajo de agentes inteligentes es de 300:1, y con una tasa de acierto en caché superior al 90%, el costo mixto real se reduce a 0,99 dólares.
Menos de una quinta parte del precio de lista.
Combinando el software y el hardware, una conclusión es difícil de evitar: la expansión del margen bruto de los grandes modelos no es una coincidencia de precios puntual, sino una tendencia estructural.
Los ingresos anuales recurrentes (ARR) de Anthropic este año pasaron de 9.000 millones de dólares a más de 44.000 millones, y su margen bruto subió de más del 38% a más del 70%: los tokens se abaratan, pero quienes los venden ganan más dinero.
Un informe de Gartner de marzo de este año corrobora esto: para 2030, el costo de inferencia de los grandes modelos de un billón de parámetros será más de un 90% menor que en 2025.
El juicio de SemiAnalysis es claro: si quieres predecir el precio del token en 2027, la respuesta es una palabra: bajará.
Se gasta el dinero, ¿y luego qué?
Este es precisamente el punto más desgarrador de la IA actual: las empresas tecnológicas globales ya han anunciado 740.000 millones de dólares en gasto de capital en IA este año, un aumento del 69% respecto al año pasado; al mismo tiempo, el ritmo de despidos en el sector tecnológico ya ha superado el del año pasado completo.
Se quema dinero a raudales, se despide gente, pero el economista jefe de Goldman Sachs dijo una gran verdad: el impacto real de la IA en la economía, hasta ahora, ha sido básicamente nulo.
No es que la IA no funcione, sino que es el dolor de cabeza que acompaña a cada revolución de infraestructuras: primero se quema dinero construyendo las tuberías, luego se espera a que fluya el agua.
Pasó con la red eléctrica, con internet, y la IA no será una excepción.
La única diferencia es que esta vez, la velocidad a la que se colocan las tuberías y la velocidad a la que llega el agua son de un orden de magnitud que la generación anterior nunca ha visto.
SemiAnalysis ya está en el lado al que ha llegado el agua: el 30% de los salarios se ha intercambiado por un apalancamiento de productividad varias veces mayor, y la curva de costos sigue cayendo abruptamente.
En cuanto a otras empresas: ¿cruzan el río ahora mismo, o esperan a que los de la otra orilla hayan construido la ciudad para perseguirlos?
Referencias:
https://x.com/SemiAnalysis_/status/2070915305858007345
Este artículo procede de la cuenta oficial de WeChat "AI启示录", autor: ASI启示录, editor: Salomón
