"Tokenpocalypse": Cuando el costo supera las ganancias de productividad, ¿quién paga?
Un nuevo término, «Tokenpocalypse» o «Apocalipsis de los tokens», está ganando relevancia tras el cambio de modelo de precios de GitHub Copilot de Microsoft, que a partir del 1 de junio factura según el uso de tokens. Los modelos más avanzados y apreciados por los usuarios han experimentado las subidas más drásticas, en algunos casos multiplicando su coste por 60. Con empresas como Anthropic y OpenAI preparando su salida a bolsa, la presión por rentabilizar sus servicios podría llevar a más proveedores a seguir esta tendencia alcista.
Esto coloca a las empresas en una situación paradójica: tras fomentar e incluso obligar el uso de IA entre sus empleados —una práctica conocida como «tokenmaxxing»—, ahora deben controlar estrictamente su consumo para no disparar los costes. La falta de herramientas para limitar el uso por empleado, como señalan desarrolladores, hace que un solo trabajador pueda agotar el presupuesto mensual de toda la compañía en un día. El foco del trabajo se desvía así de resolver problemas de negocio a gestionar el gasto en tokens.
El caso de Uber es ilustrativo: en menos de dos meses, la compañía agotó su presupuesto de IA mucho más rápido de lo previsto, lo que la obligó a imponer límites urgentes de uso. El dilema subyacente es si la industria podrá reducir los costes de los modelos de lenguaje hasta que sean asumibles para sus clientes.
La monitorización en tiempo real del gasto en plataformas como AWS Bedrock se ha convertido en una nueva métrica empresarial, pero la obsesión por controlar los tokens está consumiendo una energía y un tiempo valiosos que deberían dedicarse al trabajo productivo. La narrativa de que «la IA lo reemplazará todo» choca con la realidad de que la factura de la potencia de cálculo debe pagarse, y este «Apocalipsis de los tokens» podría ser solo el comienzo de un reajuste inevitable en la industria.
marsbit06/10 08:47
