Editor | Sia
Justo cuando Michael Truell, CEO de Cursor, reveló que OpenAI planeaba bloquear el acceso de los usuarios de Cursor a sus modelos dentro de tres meses, y justo cuando la relación entre ambos se tensaba de repente, OpenAI Codex hizo un nuevo movimiento.
En este momento, estos usuarios de pago recibieron de repente una recarga de créditos: el director de Codex, Tibo, anunció en un tweet que restablecería los límites de uso para todos los usuarios de pago de Codex y ChatGPT Work.
Esta vez no se trata simplemente de regalar un poco más.
Tibo indicó que recientemente procesaron miles de comentarios de usuarios, revisando casi por completo el mecanismo de cálculo de uso detrás de Codex. Resultó que la sensación previa de los usuarios de que los créditos se acababan demasiado rápido, realmente no era solo una ilusión.
Después de corregir una serie de errores, estiman que, dependiendo de la forma de uso, la misma cantidad de créditos de Codex ahora podría durar entre un 10% y un 50% más que antes. El número de créditos puede no haber cambiado, pero la cantidad real de trabajo que se puede hacer es mayor.
La lista de problemas anunciada esta vez es casi como un 'Manual completo de cómo los AI Agent consumen tokens en secreto'. Algunos de estos errores, que parecen insignificantes, resultan ser voraces consumidores de créditos.
Una sola tarea podría consumir hasta el 70% del crédito semanal
OpenAI enumeró de una vez 8 tipos de problemas ya identificados y corregidos.
El primero es la compresión de contexto (Compaction). Cuando las herramientas de programación con IA ejecutan tareas durante mucho tiempo, el contexto se vuelve cada vez más grande, y el sistema generalmente comprime la información histórica para poder seguir funcionando.
El problema era que, al realizar la compresión de contexto, Codex mantenía las imágenes antiguas dentro del contexto. Como resultado, aunque la compresión tenía como objetivo reducir el tamaño del contexto, las imágenes antiguas no se eliminaban, por lo que el contexto seguía siendo grande, incluso lo suficiente como para desencadenar inmediatamente otra compresión.
Así ocurría una situación un tanto surrealista: la compresión, destinada a ahorrar contexto, en sí misma comenzaba a consumir aún más contexto. Después de que OpenAI corrigió este problema, el uso relacionado para aquellos usuarios que empleaban muchas imágenes disminuyó aproximadamente un 10%.
Pero esto no es lo más exagerado. El verdadero asesino de créditos provenía del mecanismo de Objetivos (Goals) de Codex.
OpenAI descubrió que, en ciertos casos, aunque el /goal establecido por el usuario ya se había completado, el Agente no se detenía como se esperaba, sino que continuaba ejecutándose.
Otro caso era que, incluso cuando una herramienta claramente estaba rota, el modelo seguía intentando reintentar repetidamente. La tarea parecía haber terminado, pero la IA seguía trabajando en segundo plano una y otra vez.
OpenAI afirmó que, en algunos casos que observaron, solo este problema podía consumir entre el 15% y el 70% del crédito semanal del usuario. Es decir, en situaciones extremas, una tarea anormal podría acaparar directamente siete décimas partes del crédito semanal. Ahora, este problema también ha sido corregido.
Una tarea en segundo plano incluso intentó ejecutarse cerca de 15000 veces
Otro problema apareció en el sistema de Memoria (Memory).
El Memory Worker en segundo plano de Codex, en ciertos casos, podía heredar algunos Stop Hooks. En principio, los Stop Hooks sirven para controlar cuándo debe detenerse una tarea. Pero debido al error, ciertas tareas en segundo plano podían, por el contrario, continuar ejecutándose indefinidamente si no se cumplían las condiciones de parada.
Este problema afectaba realmente a menos del 1% de los usuarios. Pero el problema es que los casos extremos eran anormalmente exagerados. OpenAI mencionó que incluso descubrieron un caso donde la acción del sistema para verificar si una tarea podía finalizar podría ejecutarse hasta 15000 veces.
Para la gran mayoría de usuarios, este error podía pasar completamente desapercibido. Pero para los usuarios afectados, los tokens podían evaporarse silenciosamente en segundo plano. La sensación probablemente era como si la computadora no tuviera nada abierto, pero el ventilador de repente comenzara a girar a toda velocidad.
Los Subagentes también actualizaban su configuración en secreto
Otro problema muy característico de la era de los Agent ocurría con los Subagentes.
El Codex actual no necesariamente completa una tarea solo con un modelo. Las tareas complejas pueden dividirse y luego asignarse a múltiples Subagentes para su ejecución colaborativa. Aquí es donde surgía el problema.
OpenAI descubrió que algunos modelos con capacidades más pequeñas, como Luna, a veces, sin una solicitud explícita del usuario, elegían por sí mismos modelos auxiliares más potentes y, por ende, más costosos.
Y lo que es más absurdo, incluso si el modelo principal responsable de coordinar la tarea no se ejecutaba en modo /fast, podía exigir que los Subagentes debajo usaran /fast.
Es como si el jefe viajara en clase económica, pero comprara en secreto billetes de clase ejecutiva para sus asistentes. La tarea sigue siendo la misma, pero el consumo de recursos detrás ya no es el mismo. Este problema también ha sido corregido.
Tareas automatizadas: programadas para una vez al día, pero podían ejecutarse más veces en secreto
Las Automatizaciones (Automations) también tenían problemas.
OpenAI declaró que algunas tareas programadas personalizadas podían presentar anteriormente una frecuencia de ejecución real mayor que la establecida por el usuario. Por ejemplo, un usuario podía querer que una tarea automatizada se ejecutara periódicamente, pero el sistema podía reactivar la tarea con más frecuencia que el tiempo configurado.
Visto de forma individual, quizás no sea mucho, pero precisamente la característica de los Agent es que pueden ejecutarse solos sin la intervención del usuario. Ejecutarlo una vez no es costoso. Ejecutarlo decenas de veces más, ya es otra cosa. Este problema también ha sido corregido.
El solo hecho de resumir lo que hizo también podía consumir el 20% del crédito semanal
Otro problema relativamente típico provenía del Historial del Computador (Computer History).
Para que el Agente comprenda qué había hecho previamente en la computadora, el sistema necesita guardar, organizar e incluso resumir el historial de operaciones pasadas. Pero en la implementación de la versión anterior, Codex podía resumir repetidamente actividades históricas que ya tenían un alto grado de superposición. Era como reordenar el mismo registro de trabajo una y otra vez.
OpenAI afirmó que, en algunos casos, este gasto adicional podía representar aproximadamente una quinta parte del uso total semanal del usuario. Es decir, alrededor del 20%.
Había otro consumo similar en segundo plano proveniente de los Resúmenes de Tareas en Progreso (Rolling Task Summaries). Originalmente, incluso los turnos de diálogo normales podían desencadenar solicitudes adicionales en segundo plano para generar resúmenes de tareas en progreso.
El costo individual no era grande, OpenAI estimaba un aumento de aproximadamente el 1% en el uso de tokens. Pero de nuevo: un 1% cada vez no es mucho, pero si ocurre en cada interacción, se acumula. OpenAI ya ha desactivado directamente este mecanismo.
MCP tampoco se salvó: un mismo resultado de herramienta podía codificarse dos veces
El último tipo de problema ocurría en las llamadas a herramientas MCP.
OpenAI descubrió que algunos resultados devueltos por las herramientas podían codificarse dos veces de manera duplicada. Además, las descripciones de algunas herramientas podían truncarse accidentalmente, tras lo cual el sistema tenía que recuperarlas nuevamente.
Vistos individualmente, estos problemas parecían pequeños defectos en la implementación de ingeniería. Pero cuando un Agent llama a herramientas decenas, cientos o incluso más veces al día, cada transmisión repetida significa un consumo real de tokens. Al acumularse, finalmente se reflejan en el crédito del usuario.
Una cuenta cada vez más difícil de calcular
Al analizar en conjunto estas correcciones, es evidente que está ocurriendo un cambio claro: antes, al usar ChatGPT, el usuario básicamente podía entender un diálogo como una única llamada al modelo.
Pero en productos Agent como Codex, la situación es completamente diferente.
En la interfaz solo introduces una frase, pero lo que el sistema ve puede ser todo un flujo de trabajo de Agent. Entender exactamente cuánto crédito se está usando se está volviendo cada vez más difícil de comprender de manera intuitiva.
Algunos tokens los usa el modelo realmente para escribir código. Otros tokens sirven para comprender el contexto. Y otros tokens, incluso, solo son generados por el sistema en segundo plano para mantener la memoria, generar resúmenes o programar Agent. Si en cualquiera de estos enlaces ocurren bucles, llamadas repetidas o una programación errónea, lo único que el usuario finalmente percibe es: ¿cómo es que sin haber hecho nada, ya se acabaron los créditos?
OpenAI evidentemente es consciente de este problema. Además de corregir los errores mencionados, también indicaron que han realizado ajustes a nivel de arquitectura para evitar que problemas similares vuelvan a ocurrir. Si tales anomalías se repiten, el equipo recibirá automáticamente alertas.
Lo más importante es que OpenAI está desarrollando una nueva función para mostrar el uso. En el futuro, los usuarios podrán ver directamente dentro de la aplicación en qué se gastan exactamente sus créditos, sin tener que adivinar.
Desde esta perspectiva, este restablecimiento de créditos quizás sea solo un beneficio superficial. Además, ¿parece que OpenAI aún no planea detenerse aquí?
Este artículo proviene del WeChat público '机器之心' (ID: almosthuman2014), autor: enfocado en IA científica
