"Cuando el hermano quiera reiniciar, el hermano puede reiniciar en cualquier momento"
Justo ahora, el Padre Cibernético, también conocido como el Dios que reinicia las cuotas de Codex, Tibo, declaró con confianza en el último episodio del podcast de Matthew Berman~
Y lo más increíble es que, para hacer reinicios, Tibo ya ha creado un botón físico dedicado.
Como responsable actual de Codex, además de explicar cómo otorgar beneficios a todos, Tibo también repasó en detalle su anterior carrera en Google en este episodio del podcast, y reveló algunos trabajos importantes actuales junto con OpenAI.
Se puede decir que esta es una oportunidad poco común para conocer en profundidad a este nuevo director de producto de OpenAI.
Desde la cultura de producto de OpenAI, la siguiente generación de Agentes, el modo Ultra Rápido (Ultra Fast) de GPT, hasta la futura interacción humano-máquina, la pausa en el entrenamiento de modelos frontera por parte de OpenAI, RSI... prácticamente cubrió todo, sin dejar nada fuera......
Los puntos clave de Tibo son los siguientes:
- ChatGPT y Codex eventualmente se fusionarán. En el futuro no habrá dos productos separados como "Agente de programación" y "Asistente de chat", sino un mismo AGI altamente personalizado, que ajuste automáticamente su interfaz según las tareas, capacidades y hábitos de cada persona.
- El núcleo de la siguiente generación de Agentes no es añadir más Habilidades (Skills), Memoria o sub-Agentes, sino hacer que estos mecanismos "desaparezcan". Lo que los usuarios realmente quieren es un compañero que los comprenda de manera continua, junto con sus objetivos, rutina diaria y el contexto del equipo, en lugar de tener que gestionar constantemente archivos de habilidades, memorias y redes de agentes.
- Las computadoras portátiles se convertirán en un nuevo cuello de botella para los Agentes de IA. La siguiente generación de Agentes naturalmente evolucionará hacia la nube y recursos computacionales a mayor escala.
- Ejecutar 10~15 Agentes simultáneamente hoy en día es usar concurrencia para compensar la lentitud de los modelos; una vez que Ultra Fast reduzca la respuesta a una velocidad cercana al pensamiento humano, los flujos de trabajo volverán a la interacción en tiempo real y al "estado de flujo", en lugar de estar cambiando constantemente de contexto.
- No da importancia a la competencia. La narrativa diferenciadora de OpenAI frente a Anthropic no es simplemente "modelos más fuertes", sino "entregar la mayor capacidad al mayor número de personas posible". OpenAI enfatiza la distribución amplia, la participación comunitaria y la reducción de barreras de uso, lo que también es una razón importante para la integración de Codex en ChatGPT.
- OpenAI ya está utilizando realmente la "mejora recursiva automática". No se trata solo de que los modelos estudien modelos, sino también de que los modelos más potentes optimicen los kernels CUDA, la pila de inferencia y la infraestructura, formando un círculo virtuoso de "modelo más fuerte → mayor eficiencia → más potencia de cálculo → modelo más fuerte".
(El nombre completo de Tibo es Thibault Sottiaux, originario de Bélgica, estudió matemáticas aplicadas en la Universidad Católica de Lovaina (UCLouvain). En 2015, se unió a Google, participando inicialmente en trabajos relacionados con Google Maps, luego ingresó a Google DeepMind, donde fue responsable de la construcción de infraestructura para investigación en IA y participó en proyectos punteros como AlphaGo. En 2024, se unió a OpenAI y comenzó a dirigir el proyecto Codex. Con el auge de la codificación con IA, Codex rápidamente se convirtió en uno de los productos de más rápido crecimiento de OpenAI, y Tibo entró así en la vista de la comunidad de desarrolladores. Debido a que a menudo responde personalmente los comentarios de los usuarios y ayuda a los desarrolladores a reiniciar las cuotas de uso de Codex, los internautas lo han apodado respetuosamente como "Padre Cibernético".)
A continuación, la transcripción completa de la conversación, organizada:
La experiencia en Google y DeepMind
Anfitrión: Genial, realmente esperaba charlar contigo. Me gustaría empezar hablando de tu experiencia en Google. Estabas en el equipo de DeepMind. Antes de que apareciera ChatGPT, Google tenía algo llamado LM Chat.
Publicaste que Google estaba demasiado nervioso para lanzarlo; a DeepMind también se le impidió lanzar productos que pudieran impactar a Google. Pienso mucho en eso. ¿Qué pensabas en ese momento, cuando estabas trabajando en esos productos, mucho antes de que ChatGPT realmente cambiara el mundo?
Tibo: Fue un período muy emocionante. DeepMind era un lugar muy creativo.
Mi especialización personal era construir infraestructura y productos para acelerar la investigación. En ese momento, había un equipo trabajando en modelos de lenguaje y su escalabilidad.
Luego obtuvieron resultados bastante buenos, así que era natural pensar: ¿podemos convertirlo en un producto con el que puedas hablar y que sirva para diversas cosas?
Entonces, ideas como LM Chat surgieron naturalmente. Inicialmente fue un proyecto interno, y luego surgió la visión de convertirlo en una herramienta abierta al público.
Anfitrión: ¿En qué año fue eso?
Tibo: Aproximadamente un año antes de que apareciera ChatGPT.
Tibo: Además, estábamos trabajando en varios otros proyectos que no voy a detallar. Realmente era un lugar muy creativo. Simplemente que DeepMind no era una organización diseñada para entregar productos;
En comparación, OpenAI es muy diferente en ese aspecto. Nuestros equipos de investigación y producto ahora colaboran extremadamente de cerca.
Concebimos juntos, co-diseñamos muchas cosas. Tenemos una gran inclinación por lanzar productos y por permitir que la gente los use. Me encanta eso. También es lo que me atrajo aquí: la misión, el talento y la densidad de talento. OpenAI tiene demasiadas cosas maravillosas.
Anfitrión: Cuando estabas involucrado en LM Chat, ¿ya sabías que era especial, o que se volvería especial en el futuro?
Tibo: Realmente se sentía muy especial. Esos modelos te hacían darte cuenta por primera vez de que podían generar texto coherente y proporcionar cierta ayuda. Al principio, solo era divertido, pero gradualmente se volvió cada vez más útil.
Anfitrión: Dijiste que a menudo piensas en eso, lo entiendo muy bien. Creo que Google en muchos sentidos se puso obstáculos a sí mismo. ¿Qué lecciones aprendiste allí y las trajiste a OpenAI?
Tibo: Sí, por eso a menudo lo pienso. Lo pienso desde la perspectiva de la cultura del equipo y de la cultura general de OpenAI: qué partes buenas mantener, qué cosas no hacer.
La cultura de OpenAI es muy de abajo hacia arriba y muy empoderadora. La gente puede proponer todo tipo de ideas, reunirse y lanzar cosas muy rápido. En general, hay muy poca resistencia a las ideas de nuevos productos. Eso es muy motivador y divertido; todo es para impactar positivamente al mundo. Mantener eso es muy importante para mí.
Otra cosa igualmente importante es no dejar que se convierta en un caos, ¿verdad? No quieres terminar con un revoltijo: solo nuevas funciones, pero sin una dirección general y coherencia. Por lo tanto, también necesita equilibrarse con un sentido de simplicidad y orgullo por la calidad del producto.
Creo que la aplicación de ChatGPT para iOS es una de las mejores aplicaciones del mercado. Queremos mantener eso. Invertimos mucho en experiencia de usuario, rendimiento, eficiencia y simplicidad. Estos son principios generales, al tiempo que seguimos empoderando a todos para probar cosas nuevas y entregar rápidamente.
Construyendo la cultura de OpenAI
Anfitrión: Si tuvieras que dar algún consejo a los emprendedores, ¿cómo cultivar esa cultura? ¿Cuáles son los elementos o prácticas más específicos dentro de OpenAI que sugerirías que los emprendedores adopten?
Tibo: Creo que hay que tener convicciones firmes; y al mismo tiempo, encontrar una manera de estar cerca de los usuarios y poder iterar rápidamente según su feedback. Además, estar dispuesto a trastocarse a uno mismo. Esto quizás no sea tan directamente relevante para los emprendedores, pero lo es para una empresa como OpenAI.
Constantemente tenemos nuevas investigaciones, nuevas ideas; poder juzgar cuándo invertir en ellas, incluso si eso significa reasignar recursos desde el negocio principal, es extremadamente importante. Es difícil, pero realmente muy importante.
Anfitrión: Exacto. Eso es exactamente lo que acabas de describir que Google no pudo hacer.
Tibo: Siendo justos, ellos tenían planes, pero todo formaba parte de un plan más grande. Para mí, ese no era el lugar correcto.
Anfitrión: A medida que OpenAI o cualquier empresa madura, ¿se vuelve más difícil mantener esa cultura de entrega rápida y disposición a trastocarse a uno mismo? Especialmente cuando ya tienes una vaca lechera que genera dinero constantemente, y por otro lado, tienes algo nuevo que puede ser genial e innovador.
Tibo: Somos muy orientados al futuro. El futuro de la IA, cómo será finalmente, cómo se beneficiará la humanidad, no se detiene y no le importa lo que hayas construido en el próximo mes o tres meses.
Por lo tanto, creo que es muy importante comprometerse totalmente, mantener una mente abierta sobre hacia dónde se dirige, y luego pensar claramente en cómo posicionarse para asegurarse de poder atrapar esa ola.
Incluso para OpenAI es así: entrenamos modelos y luego descubrimos sus capacidades. Los puntos de referencia no te lo dicen todo.
Tenemos que dedicar mucho tiempo a probar los modelos nosotros mismos para darnos cuenta: Oh, tal vez antes no pensábamos que podríamos beneficiarnos de esta manera específica, o, oh, en realidad puede hacer esto.
Entonces, eso cambia la forma en que pensamos sobre el producto. Por ejemplo, ahora lanzamos nuevas capacidades de voz, son muy placenteras y la comunicación es muy natural. También pueden usar herramientas.
Eso cambia muchas cosas. Ahora paso más tiempo hablando directamente con él. Otra cosa que he estado haciendo es dictado por voz, porque la calidad del dictado es muy, muy buena; es mucho más eficiente en comparación con escribir comandos.
Así que por la mañana, me siento allí con el teléfono y digo un discurso largo: "Haz que ChatGPT haga unas cosas..." y luego él lo hace; puede acceder a todas mis herramientas. Y antes de que tuviéramos un modelo de voz realmente excelente, esto no era posible. Por lo tanto, de repente cambia por completo tu forma de pensar sobre el producto.
El futuro de los Agentes de IA
Anfitrión: Bien, sigamos hablando de nuevos modelos, nuevos marcos de ejecución de agentes (harness). Hace unas semanas, comenzaré con otra publicación tuya muy buena: "Codex parecerá primitivo en dos o tres meses. Estamos a punto de experimentar otra evolución importante. Los modelos de la próxima generación necesitan más que tu computadora portátil". Entonces, primero el marco de ejecución. A medida que los modelos se vuelven más poderosos, ¿en qué aspectos del marco de ejecución todavía hay mucho espacio para la innovación?
Tibo: Muchísimos, de verdad muchos. Por ejemplo, la voz de la que acababa de hablar. Ahora, si eres un usuario avanzado de Codex u otros agentes de programación, ya estás un poco acostumbrado a esa sensación de falta de fluidez, ¿verdad?
Tienes que gestionar archivos de habilidades; es una forma de enseñarle cosas, pero creo que muchos también se dan cuenta de que mantener esos archivos a largo plazo es bastante difícil. La memoria también es un problema: no siempre recuerda todo; si tienes sub-agentes, tienes que preocuparte por ellos y construir una especie de pequeña red. En cada paso de la interacción con él, la ilusión de que "es un compañero completo" se rompe.
Lo que realmente quieres es algo que te entienda profundamente, entienda tus objetivos, tu rutina diaria y también lo que tu equipo está haciendo. Idealmente, también debería poder reaccionar, tomar la iniciativa, ayudarte en el día a día y no romper esa ilusión: es el compañero perfecto a tu lado. Eso es exactamente hacia donde nos esforzamos.
Otra cosa es que cuando tienes modelos muy, muy potentes, descubres que la propia computadora portátil se convierte en una limitación. La cantidad de trabajo que puede manejar una computadora portátil está diseñada para humanos.
Está diseñada aproximadamente para contener la cantidad de trabajo que puedes producir, tu velocidad de escritura y pensamiento, cuántas aplicaciones necesitas tener abiertas simultáneamente; todas estas son limitaciones humanas.
Los modelos no tienen las mismas limitaciones. Por ejemplo, tal vez en el futuro, un modelo pueda manejar simultáneamente 100 aplicaciones abiertas, y no habría problema. Por lo tanto, desde la perspectiva del acceso a recursos, es evidente que los modelos futuros necesitarán recursos más allá de lo que una computadora portátil puede proporcionar.
Anfitrión: Te refieres, supongo, a agentes en la nube. Y una vez que tengamos Ultra Fast, del que hablaremos más tarde, con una velocidad de tokens que se dice es de 10 a 14 veces más rápida que Fast, las limitaciones de ancho de banda cambiarán. La CPU se convertirá en el cuello de botella; literalmente, las llamadas a herramientas, la red, cualquier herramienta y cualquier sobrecarga en la pila tecnológica se convertirán en factores limitantes.
Tibo: Sin embargo, también puedes compensar haciendo varias cosas concurrentemente. Puedes explorar, escribir pruebas, compilar y validar una nueva hipótesis al mismo tiempo. Así estás cambiando constantemente la ubicación del cuello de botella, porque puedes manejar más cosas concurrentemente, y el modelo puede pensar y avanzar de manera muy eficiente y rápida.
Anfitrión: A la velocidad de tokens actual, me encuentro lanzando 10 a 15 agentes en paralelo, lo que me genera una carga cognitiva bastante notable: cambiar constantemente de contexto, lanzarlos constantemente, y puedes esperar que una tarea regrese después de 30 a 45 minutos.
Ahora, con Ultra Fast, ese flujo de trabajo cambiará significativamente; supongo que ya no lanzaré 10 o 15 agentes simultáneamente, lo cual quizás sea algo bueno. Quizás solo necesite tres o cuatro a la vez. ¿Cómo crees que cambiará el flujo de trabajo de los desarrolladores independientes con el tiempo?
Tibo: Creo que gestionar tu atención, hacer que la experiencia se ajuste más a tu atención, es algo en lo que nos enfocamos mucho.
Cómo la IA cambia el flujo de trabajo de los desarrolladores
Tibo: Después de todo, estamos construyendo productos para humanos. Queremos crear la tecnología que más empodere a los humanos, y eso requiere diseñar en torno a tu capacidad de multitarea: ¿cómo deseas gestionar la atención? ¿Algo debería presentarse ahora o es mejor presentarlo 30 minutos después?
Y cuando la velocidad de Ultra Fast se combina con la voz, de repente sientes: Bueno, esta cosa puede funcionar tan rápido como yo, o incluso más rápido.
Entonces puedes mantener el flujo, seguir ideando, ver prototipos, generar pequeños informes en tiempo real; esa sensación es realmente buena. De repente piensas: Sí, antes hacía multitarea con 10 agentes, en realidad no quiero volver a esa forma.
Así que nos esforzamos por ofrecer esa experiencia muy natural y a la vez que parece hecha a tu medida, sin que tengas que adaptarte a ella, sino que la tecnología se adapte a ti.
Anfitrión: En los últimos meses, se ha hablado mucho sobre tecnologías de programación tipo agente. Los Loops alguna vez fueron populares, todavía lo son; ahora escucho sobre graphs. ¿Son estas tecnologías para permitir que los desarrolladores independientes gestionen la atención, o como dijiste, sean más amigables con la atención? Me gusta esa expresión.
Tibo: Dividiría el problema en dos categorías. La primera, es construir el mejor AGI personal, o agente personal: puede estar en flujo contigo, proponer activamente nuevas ideas importantes; una vez que encuentra una oportunidad, realiza las cosas de manera muy eficiente según tu intención.
Ya sea un problema técnico, investigación, sugerencias, puede hacerlo todo, y altamente adaptado a ti. Esto es muy importante, y está profundamente arraigado en la comprensión de ti como humano, como individuo único. Estamos impulsando este tipo de problemas con toda nuestra fuerza.
El otro tipo de problema es la automatización integral: estás construyendo más sistemas inteligentes para que se hagan cargo de un proceso muy complejo. Tal vez ese proceso requiera, o solía requerir, inteligencia y parezca muy complejo.
Por ejemplo, revisar registros de producción y hacer optimizaciones de rendimiento automáticamente, o detectar una regresión y repararla automáticamente. En ciberseguridad también vemos esta tendencia:
Por ejemplo, cuando un escáner encuentra una vulnerabilidad, ¿se puede parchear automáticamente, reduciendo la ventana de exposición de esa vulnerabilidad a casi cero, sin que las personas intervengan en esos circuitos cerrados, o con intervención humana mínima; solo necesitas aprobar acciones de alto riesgo, el sistema principal sigue siendo automatizado. Entonces tampoco necesitas mantener un control tan directo sobre él.
Anfitrión: Entiendo.
La fusión de ChatGPT y Codex
Anfitrión: Entonces, me gustaría cambiar un poco de tema. En los últimos meses, ChatGPT y Codex han estado en un camino de fusión.
Primero quiero preguntar: ¿Cómo va eso? ¿Cómo se siente internamente? ¿Qué retroalimentación has recibido de los usuarios?
Tibo: Realmente ha sido de gran ayuda. Inicialmente, la retroalimentación que recibimos fue: "¿Por qué fusionarlos? ¿Realmente es necesario?" Pero los modelos futuros nos exigen fusionarlos.
Así que lo haremos, porque es la forma más simple y correcta de construir ese agente extremadamente personalizado, súper capaz, que pueda ayudarte de todas las maneras.
Su tecnología subyacente será la misma: el mismo marco de ejecución, la misma línea de pensamiento. Será altamente multimodal, con prioridad en la voz, extremadamente eficiente; no importa si estás programando o no. Este agente puede hacerlo todo, y de manera muy eficiente.
La interfaz que deseas debe ajustarse a tus necesidades. No deberías decidir primero "soy programador, así que necesito una interfaz de programador", o "no soy técnico, así que necesito una interfaz no técnica".
Las personas están en un espectro continuo; etiquetas como ingeniero de software, diseñador, son solo conceptos humanos que creamos para lidiar con una realidad demasiado compleja.
Porque en última instancia, cada persona está en un punto diferente de ese espectro. Por lo tanto, queremos construir una interfaz perfecta que se adapte a cada persona. Ya sea que seas técnico o no, se ajustará según tu personalidad específica. Esa es la razón por la que hacemos esto.
Anfitrión: Sin embargo, ¿eso significa que eventualmente necesariamente se convertirá en una interfaz unificada? ¿Ya no habrá menús desplegables para que las personas elijan diferentes productos? Es increíble pensar que mi mamá podría usar exactamente la misma interfaz que yo.
Por supuesto, se personalizará según mis necesidades. Si estoy haciendo un trabajo más complejo, podría necesitar más información. Pero para ti, ¿cuál es la forma final?
Tibo: Exacto, es lo mismo. Tú y tu mamá usarán la misma cosa. Será vuestro AGI personal respectivo. Tendrán tareas muy diferentes, obtendrán diferentes utilidades de ello, también lo conectarán a diferentes herramientas en sus vidas, generando diferentes ideas y necesidades. Luego se ajustará continuamente a sí mismo para beneficiaros lo más posible. También servirá a tus amigos y a todos los demás de la misma manera.
El futuro de la interacción humano-máquina
Anfitrión: Quiero volver a un punto que mencionaste antes. Usaste la palabra "ilusión" varias veces al describir el estado final. Para el usuario promedio, ¿cuál es esa "ilusión" perfecta? Si imaginas unos años en el futuro, ¿cómo será la interacción entre la IA y los humanos?
Tibo: Para mí, será algo extremadamente adaptado a lo humano. Esa es también la razón del éxito de los grandes modelos de lenguaje: utilizan lenguaje natural. El lenguaje natural es un concepto humano, ¿verdad? Estamos acostumbrados a hablar entre nosotros. Si mañana me escribes una carta, puedo leerla. Ya nos conocemos bastante bien. Así que si me escribes una carta, incluso puedo interpretar algo de emoción, quizás un poco de significado entre líneas. Todo esto está profundamente arraigado en la humanidad.
Por lo tanto, la tecnología que estamos construyendo está arraigada en lo humano, y en la forma en que los humanos se comunican y logran cosas. No debería hacerte decir: "Oh, me malinterpretaste porque no captaste completamente los matices de mi tono, o no entendiste completamente lo que realmente quería decir en el texto".
Eso es exactamente lo que tratamos de evitar. Por lo tanto, trabajamos muy duro para que no tengas que adaptarte a la tecnología, sino para que la tecnología se construya de manera que sea una extensión natural de la forma en que los humanos ya actúan en el mundo.
Anfitrión: Pienso en la comunicación entre personas, mucho de ella es no verbal. Por ejemplo, cómo gesticulo, mis expresiones faciales. ¿Hasta qué punto crees que la IA del futuro percibirá o leerá esta información a través de la visión?
¿Es importante? Porque lo que describes ahora parece ser solo texto. Y para aquellos de nosotros que crecimos en internet, estamos muy acostumbrados a comunicarnos a través de texto, y también añadimos variaciones sutiles en el texto para transmitir el tono que realmente queremos expresar. Sin embargo, ¿aún es necesario que la IA pueda leer nuestras expresiones faciales, gestos, etc.?
Tibo: Creo que es necesario. Cuando pienso en el futuro que estamos construyendo, será muy contextual y muy natural.
Por ejemplo, mañana, o más tarde, voy a la oficina, escribo algo en una pizarra blanca, genero una idea; también debería estar presente, entender todo eso. O le digo: "Oye, ¿qué piensas de esto?" y luego conversamos naturalmente por voz. Desde que lanzamos las nuevas funciones de voz de ChatGPT, realmente se ha extendido rápidamente. Ahora, la cantidad de usuarios que interactúan con ChatGPT solo a través de la voz está creciendo rápidamente.
Creo que la lección aquí es: cada vez que te acercas a algo más natural, los humanos eligen el camino de menor resistencia. Como dijiste, escribir en una cajita puede ser natural para algunos, pero no para todos. Y una vez que hay una manera un poco más fácil, un poco mejor, la gente tiende a usarla.
OpenAI y Anthropic
Anfitrión: Bien. Primero, felicitaciones, vi tu publicación esta mañana diciendo que Codex alcanzó 20 millones de usuarios. Vi el gráfico, comenzó así y luego de repente se disparó verticalmente. Felicitaciones.
Quiero hablar sobre la competencia con Anthropic, porque mucha gente considera que OpenAI y Anthropic son actualmente los dos principales competidores en la industria. Hubo un tiempo en que Anthropic prácticamente acaparó toda la atención, ¿verdad? Realmente dominaban en ese momento, y luego las cosas cambiaron de repente. Primero, ¿cómo ves el mercado actual?
Tibo: Ahora, en lo que realmente nos enfocamos es en construir los modelos más capaces, construir modelos extremadamente eficientes, y enorgullecernos de crear productos para todos. Creo que OpenAI hace algo especialmente bien: preocuparse por el mundo y por cómo entregamos esta tecnología extremadamente poderosa a la mayor cantidad de personas posible. Eso también es lo que hicimos cuando fusionamos Codex y ChatGPT.
Queremos: dado que tenemos esta tecnología, hacerla más segura y más fácil de usar para todos. Ya seas gerente de producto, diseñador, o estés en ventas, marketing, relaciones públicas, deberías poder usar todas sus capacidades. Luego, la distribuimos rápidamente a través de ChatGPT, porque ya hay una gran cantidad de usuarios allí. Eso también impulsa el rápido crecimiento que mencionaste.
Normalmente no me enfoco mucho en los competidores; realmente me enfoco en: qué podemos hacer de manera única y bien, cuáles son nuestros valores, y cómo podemos avanzar hacia esa dirección lo más rápido posible.
Anfitrión: Entiendo. Quiero profundizar un poco más. Sé que no piensas mucho en Anthropic, pero muchos otros sí: ¿en qué producto confío? ¿Por qué producto estoy dispuesto a pagar $2200? Desde el posicionamiento en el mercado de OpenAI, la marca, el tono y la forma en que interactúa con los desarrolladores y una audiencia más amplia, ¿cómo crees que se compara eso con el enfoque de Anthropic?
Tibo: De nuevo, quiero decir que me importa mucho construir comunidad para el mundo, llevar a todos con nosotros. Creo que puedes sentir eso en nuestra forma de hacer las cosas: por ejemplo, somos muy transparentes sobre muchas cosas, y también tomamos muchas ideas de la comunidad. Francamente, también es muy divertido, porque obtenemos mucha energía de ello.
**Y la tecnología que estamos construyendo, no la construimos solo para nosotros mismos; ni solo para acelerar OpenAI. Es muy importante. La misión es muy importante, por eso también es de donde obtenemos energía. En mi opinión, es muy práctico y divertido; así es como suceden cosas buenas.
Anfitrión: Entonces hablemos de esas cosas buenas, quiero hablar sobre los reinicios...
Por qué OpenAI sigue reiniciando cuotas
Anfitrión: Sé que parece que todos están pendientes de cada uno de tus tuits. Volviendo a la curva de crecimiento de Codex: quizás esta pregunta sea un poco tonta, pero ¿cuánto de esos "reinicios" impulsan realmente el marketing y el crecimiento, y cuánto es simplemente buena voluntad hacia la comunidad de desarrolladores?
Tibo: Creo que esto puede ser un poco contraintuitivo, pero OpenAI es un lugar donde puedes ponerte manos a la obra directamente. Así que al principio, mientras iterábamos, ocasionalmente rompíamos cosas, o alguna configuración no cumplía las expectativas, compensar parecía natural.
En ese momento, nuestro pensamiento fue: Gracias por probar este producto. Sabemos que estamos trabajando muy duro para que sea bueno; todavía está en una etapa temprana. Dado que justo lo dejamos fuera de servicio durante unos 30 minutos, te damos un poco más de crédito de uso. Entendemos que es importante y que dependes de ello; gracias por ser usuario. Así es como comenzó todo.
Todavía lo veo así: si lo rompemos, o si la experiencia no es ideal y aún no hemos entendido completamente la causa, compensamos a los usuarios. Reiniciamos los límites de uso. Luego, esto obviamente evolucionó en algo bastante notado; ahora incluso hay un botón de reinicio dedicado.
Y en realidad no hay muchas capas de aprobación detrás de esto. No se decide en colaboración con equipos de marketing o finanzas; siempre que yo quiera presionarlo, puedo presionar ese botón. Nuestro principio es: queremos hacer algo increíble; cuando no lo logra, compensamos.
Anfitrión: Todavía creo que esto realmente acumula mucha buena voluntad en la comunidad, al menos impulsando el crecimiento hasta cierto punto. Realmente importa preocuparse por los usuarios, ¿verdad? Puedes decir que te preocupas, o realmente preocuparte: si metemos la pata, lo sentimos; esta es nuestra forma de compensarlo.
Me recuerda la política de devoluciones de Amazon: si no estás satisfecho por cualquier motivo, devuélvelo. Ustedes parecen estar estableciendo la misma cultura, la misma percepción para OpenAI: si cometemos un error, usa esos tokens nuevamente, o te damos un nuevo lote de tokens.
Tibo: Agradezco tu forma de decirlo. También hay buenos momentos para celebrar, para marcar. Siempre estamos lanzando nuevas funciones y las implementamos lo más ampliamente posible; pero no hay nada más apropiado que esto para compartir algo significativo con toda la comunidad: explora esta nueva función. Por ejemplo, si aún no has usado Ultra Fast, te damos más crédito, pruébalo.
Anfitrión: ¿Escuché que ahora realmente hay un botón físico?
Tibo: Sí, de verdad lo hay.
Anfitrión: Bien, luego tendrás que mostrármelo.
Tibo: Te lo mostraré, es realmente genial.
Anfitrión: Pero para hacer tantos reinicios, obviamente solo es posible si han hecho mucha planificación de capacidad de cómputo.
Eficiencia de la IA y potencia de cálculo
Anfitrión: Deben tener suficiente potencia de cálculo para respaldar todos estos reinicios. Me gustaría usar esto para hablar sobre la auto-mejora: hace unas semanas, creo que fue hace unas semanas, publicaron un artículo que decía que Sol optimizó la eficiencia de Luna. Redujeron el precio de Luna en un 80%; el precio de Terra también bajó. En la reducción de precio de Luna, ¿cuánto provino de mejoras de eficiencia reales y tangibles? ¿Y cuánto fue porque hicieron una buena planificación de capacidad de cómputo y tienen buenos márgenes de beneficio, por lo que pueden bajar los precios y permitir que más personas los usen? En otras palabras, ¿qué porcentaje fue avance algorítmico y cuál planificación estratégica?
Tibo: Comenzamos a planificar la capacidad de cómputo temprano. Mirando hacia atrás hace dos años, creo que en ese momento OpenAI fue cuestionada por invertir tanto en capacidad de cómputo.
Anfitrión: Fue una apuesta loca y brillante.
Tibo: Sí. Ahora estamos agradecidos de tener esa capacidad de cómputo. Gran parte se usa para investigación, invertida en nuestro futuro, en modelos cada vez mejores, y en la eficiencia de los modelos existentes.
Y una cosa asombrosa que está sucediendo es: cuando empujamos los límites de capacidad de los modelos más avanzados, podemos usar esos modelos para descubrir muy rápidamente cómo servir, cómo refactorizar o re-ingeniar toda la pila tecnológica, obteniendo mejoras de eficiencia o rendimiento extremadamente significativas. No solo mejoramos la eficiencia de costos, de lo que también publicaremos contenido, sino también la eficiencia de velocidad.
Dejando de lado Ultra Fast, la velocidad general ha estado aumentando significativamente. Si lo graficas, verías que la velocidad actual es aproximadamente un 60% más rápida que hace tres meses. Estamos abordando cada parte de la pila tecnológica una por una, asegurándonos de que estén diseñadas e implementadas de manera óptima para nuestras cargas de trabajo. Y nuestros modelos más potentes son clave para que un equipo pequeño pueda hacer este trabajo.
Así que cada vez que logramos mejoras de eficiencia muy significativas, especialmente en eficiencia de costos, nuestro compromiso es: mantener tanto el rendimiento como los costos en la vanguardia. No nos quedamos simplemente con esa ganancia, sino que la compartimos con los clientes y usuarios; eso es exactamente lo que hicimos con Luna.
Anfitrión: Internamente, cuando necesitan asignar capacidad de cómputo entre investigación de nuevos modelos, mejoras de eficiencia en modelos existentes e inferencia, ¿cómo suelen ser esas discusiones? ¿Cómo es esa tensión?
Tibo: Generalmente partimos de principios fundamentales. Asignamos una parte de la capacidad de cómputo a la investigación, una parte a los productos; dentro de los productos, hacemos diferentes compensaciones. Pero esta vez apenas hubo compensación, porque la mejora de eficiencia ya se había logrado. Por lo tanto, básicamente podríamos usar la misma escala de capacidad de cómputo para soportar un crecimiento de rendimiento muy significativo.
Mejora recursiva automática
Anfitrión: Hace unos meses, antes del artículo de reducción de precios, vi una publicación de blog que decía que un modelo estaba entrenando al siguiente modelo, o ayudando a optimizar el siguiente modelo. Luego vi que Sol examinó cómo funcionaba Luna e implementó esas mejoras de eficiencia. En mi opinión, esto parece una mejora recursiva automática aún en una etapa muy temprana. ¿Qué piensas? ¿Eso es lo que está sucediendo?
Tibo: Sí, creo que la mejora recursiva automática es claramente un gran tema en este momento. La gente suele usarla más para investigación, por ejemplo, que los modelos desarrollen otros modelos.
Pero donde vemos muchos casos de éxito es: usar esos modelos para desarrollar la infraestructura que soporta el uso de modelos y que está en la ruta crítica; eso también es una forma de mejora recursiva automática. Son en sí mismos un gran sistema, que incluye la pila de inferencia, los kernels más profundos y difíciles de optimizar: los kernels CUDA que usamos; también incluye desarrollar nuevas formas de productos más eficientes e interactuar con los modelos.
Mencionaste agentes en la nube. Si realmente resolvemos los agentes en la nube, las personas mismas también se volverán inmediatamente más productivas. ¿Eso cuenta como mejora recursiva automática? Porque serás más capaz de obtener utilidad de ellos. Creo que en cierto sentido sí, pero se trata más de infraestructura, y de poder aplicar esa capacidad de nuevo sobre sí misma.
Por supuesto, lo estamos haciendo; de hecho, creo que sería poco inteligente no hacerlo.
Pausa en el entrenamiento de IA frontera
Anfitrión: Ya que hablamos de mejora recursiva automática, me gustaría preguntar: Recuerdo que Sam Altman de OpenAI dijo que actualmente está pausado el entrenamiento RL de vanguardia. ¿Puedes hablar sobre eso? ¿Cómo se tomó esa decisión? Sé que hablamos brevemente sobre ese incidente de Hugging Face, pero ¿qué consideraciones se tuvieron al tomar esta decisión? ¿Cómo se llevaron a cabo las discusiones?
Tibo: Esto pertenece principalmente al ámbito de la investigación. OpenAI siempre ha podido dirigir recursos a los lugares más importantes. A medida que aumentan las capacidades de los modelos, es evidente que la importancia de la alineación y la seguridad también crece. Por lo tanto, invertir enormes recursos en esto es natural para OpenAI y es un compromiso firme.
Estamos viendo un gran aumento en la inversión en este aspecto. Pausar el entrenamiento también es necesario en cierta medida: para que los equipos y las personas comprendan realmente y fortalezcan cada parte del sistema. Así, cuando reanudemos el entrenamiento, podremos reiniciar con control total. Creo que OpenAI continuará haciendo esto en el futuro mientras sea necesario. Nunca he visto que no podamos tomar este tipo de decisiones internamente de manera eficiente.
Anfitrión: En ese momento, ¿se establecieron objetivos claros, un punto específico que debía alcanzarse antes de levantar la pausa? ¿O simplemente lo sabrán cuando lo vean?
Tibo: Esto está a cargo del equipo de seguridad. Para ellos, es una discusión exhaustiva y también un proceso de exploración a medida que avanzan. Pero al final, desarrollaron un conjunto de principios bastante claros: cuando esos principios se cumplen, estamos en una buena posición.
Anfitrión: Quiero volver al modo Ultra Fast.
Capacidades desbloqueadas por Ultra Fast
Anfitrión: Creo que la gente no comprende completamente qué capacidades desbloqueará esta velocidad. Primero, internamente, ¿qué casos de uso no eran posibles antes sin esta velocidad de tokens por segundo?
Tibo: Lo vemos siendo usado mucho en escenarios de alto riesgo. Por ejemplo, cuando hay una falla, el comandante del incidente y el equipo de respuesta obtienen acceso a Ultra Fast, porque cada segundo cuenta. Por lo tanto, en escenarios realmente de alto riesgo, usamos Ultra Fast.
También hay un fenómeno interesante: los equipos que están haciendo cosas extremadamente críticas, o que creen que están haciendo cosas extremadamente críticas, siempre solicitan Ultra Fast.
Anfitrión: ¿Las mascotas también cuentan como ese tipo de escenario?
Tibo: Las mascotas aún no son particularmente críticas. Pero amo a mi mascota, siempre está en mi pantalla. Cuando caminas por la oficina, ves las mascotas en las pantallas de la gente; aparecen cuando se conectan a videoconferencias. Siempre me da alegría verlo, siempre trae felicidad.
Tibo: Pero actualmente las mascotas de Codex no son críticas. Las mantenemos y cuidamos bien a nuestras mascotas. Sin embargo, si alguien está trabajando en una nueva idea y dice: "Realmente creo que esto podría ser especial, tengo que probarlo; pero tenemos que decidir el lunes si incluirlo en DevDay". Entonces, por supuesto, pueden usar Ultra Fast.
Anfitrión: Las personas tienen diferentes preferencias sobre si les gusta trabajar en un solo hilo o hacer mucha multitarea. Para aquellos a quienes les gusta mucha multitarea, el beneficio de Ultra Fast no es tan grande; pero a algunos no les gusta cambiar constantemente de contexto. ¿En qué extremo de este espectro estás tú?
Tibo: Tengo TDAH (Trastorno por Déficit de Atención e Hiperactividad), así que siempre estoy cambiando de contexto.
Anfitrión: Interesante, yo también tengo TDAH, pero en realidad no quiero cambiar constantemente de contexto; es difícil para mí. Quiero concentrarme en dos o tres cosas, por eso estoy tan entusiasmado con Ultra Fast. Es interesante, tú eres exactamente lo contrario en esto.
(Nota: TDAH es una diferencia en el desarrollo neurológico relacionada con las funciones ejecutivas del cerebro, que se manifiesta como dificultad para mantener la atención de manera sostenida, controlar impulsos o regular el nivel de actividad, afectando así el aprendizaje, el trabajo y la vida diaria.)
Tibo: Me desenvuelvo bien cambiando de contexto y tomando muchas pequeñas decisiones. Pero a veces también quiero concentrarme en una cosa; ahí es cuando Ultra Fast es muy agradable, porque te mantiene en flujo.
Ultra Fast funciona extremadamente bien cuando no hay muchas llamadas a herramientas, o cuando se necesita generar mucho contexto. Por ejemplo, si quieres crear rápidamente un prototipo de un sitio web o un videojuego, necesita escribir mucho código, lo hará muy rápido, aproximadamente 10 veces más rápido. Pero si hay muchas llamadas a herramientas, la sobrecarga está en otro lugar de la red, o en otra parte de la trayectoria de ejecución del agente, entonces solo sentirás una aceleración de aproximadamente 3 o 4 veces, y no obtendrás la mejora completa de 14 veces.
Anfitrión: Sé que los empleados de OpenAI tienen tokens ilimitados; creo que si fuera yo, siempre tendría la configuración al máximo, eligiendo GPT-5.6 Sol o cualquier modelo más reciente. Cuando el costo no es una consideración para mí, pienso: Bien, ponlo al máximo. También siempre quiero tener Ultra Fast activado. ¿Es así también internamente?
Tibo: No proporcionamos Ultra Fast a todos; reservamos una gran capacidad para usuarios externos y clientes. Los empleados de OpenAI tienen la capacidad, la potencia para consumir toda la capacidad de cómputo, devorar todas nuestras GPU de producción, toda la capacidad de Ultra Fast; la usarían toda.
Pero no hacemos eso. La limitamos de alguna manera, considerando lo que es razonable para nosotros. También la usamos, para poder comprender el producto, mejorarlo continuamente y beneficiarnos de la mejora recursiva automática; pero la mayor parte de la capacidad aún se reserva para los clientes.
Anfitrión: Bien, eso es bueno, gracias. Fuera de OpenAI, ¿qué otros casos de uso sensibles a la latencia te emocionan más en cuanto a las capacidades que esta velocidad puede desbloquear?
Tibo: Es muy interesante. En general, una cosa por la que estoy particularmente emocionado es la interacción no basada en texto. Por ejemplo, ¿podemos operar en un lienzo compartido? ¿Podemos crear cosas? ¿Podemos generar ideas, generar diferentes imágenes y luego elegir una?
Es decir, experiencias del tipo "elige tu propia aventura": obtener rápidamente un prototipo manipulable, luego guiarlo en tiempo real mediante voz o texto e inmediatamente ver el resultado. Creo que esta velocidad hace posible ese proceso creativo.
Como ingeniero, a veces te sientas y piensas: necesito diseñar todo el sistema, considerar compensaciones y requisitos; pero tal vez podrías hacerlo en un minuto directamente, ver cómo funciona realmente y luego entrar más en flujo, entender mejor lo que hay dentro. Creo que esta velocidad realmente puede cambiar mucho.
Anfitrión: Entonces supongo que el precio de Ultra Fast será significativamente más alto que la velocidad normal.
¿Será Ultra Fast el modo predeterminado?
Anfitrión: ¿Crees que Ultra Fast se convertirá en la velocidad estándar, o siempre habrá un nivel premium?
Tibo: Esa es una pregunta interesante. Creo que, como suele ser el camino del desarrollo tecnológico, se volverá cada vez más común, más accesible con el tiempo. La velocidad a la que los agentes completan tareas continuará aumentando, y estamos viendo mejoras enormes mes a mes. No es solo la velocidad de inferencia, sino también la eficiencia con la que los modelos usan tokens.
Sol es significativamente más eficiente en tokens que Terra; como era de esperar, el siguiente modelo también será significativamente más eficiente en tokens que Sol. Siempre estamos impulsando esto. Así que todo se volverá más rápido con el tiempo. El hardware de inferencia también, seguimos innovando, también se volverá más rápido.
Así que realmente creo que, tal vez en uno o dos años, esta velocidad, si no es la opción predeterminada, estará muy cerca de serlo. Pero también creo que siempre habrá un nivel superior: siempre puedes usar más hardware, hacer diferentes compensaciones de mayor costo, obteniendo así algunas capacidades adicionales.
Anfitrión: Tibo, normalmente termino con una pregunta para una audiencia más amplia. Ahora hay mucha gente nerviosa por la IA.
Cómo calmar las preocupaciones sobre la IA
Anfitrión: Ya sea por la automatización del trabajo, el impacto ambiental, o esta cosa que está sucediendo y se siente extraña. ¿Qué palabras de aliento le darías al público en general?
Tibo: Sí. Construimos productos para todo el mundo a través de ChatGPT, y nos tomamos muy en serio mejorar su eficiencia; eso está directamente alineado con nuestro deseo de proporcionar acceso amplio y utilidad amplia. Cuanto menor sea el costo de servicio, más cosas podrán hacer las personas con él, más valor obtendrán en su vida diaria. Ya se ha vuelto extremadamente eficiente.
Tomemos Luna como ejemplo: es un modelo mucho más pequeño, pero extremadamente eficiente; pero si retrocedes seis meses, estaría a la vanguardia. Luego mira el costo de Luna, es increíblemente bajo, realmente excelente.
Anfitrión: Acabas de hacer eso nuevamente: ahora lo están regalando a través de Replit en ese modo gratuito.
Tibo: Sí, lo ofrecen en ese modo gratuito. Te hace pensar que es increíble: obtener inteligencia extraordinaria se volverá omnipresente. Y eso solo es posible si seguimos impulsando mejoras de eficiencia mes tras mes, año tras año. Por lo tanto, creo que cualquier cosa que esté a la vanguardia hoy, costará mucho menos ejecutar dentro de seis meses.
Esa es mi respuesta a esta pregunta: la tecnología siempre se vuelve muy, muy eficiente con el tiempo. Nos enfocamos mucho en el acceso amplio y optimizamos directamente en torno a la utilidad que los usuarios pueden obtener de ella.
Por qué todos deberían probar la IA
Anfitrión: ¿Y para aquellos que incluso dudan en probar la IA por primera vez? ¿Qué les dirías? ¿Cómo pintarías un futuro en el que la IA está ayudando al mundo?
Tibo: Creo que no tienes que mirar muy lejos: ChatGPT ayuda a las personas de una manera muy personal y profunda. Muchos usuarios lo usan para ayuda con la escritura, también buscan consejos personales o consejos médicos en él. Lanzamos Health y Finance, y yo mismo los uso mucho.
Siento que obtengo mucho apoyo que de otra manera sería difícil de conseguir. Por ejemplo, me permite ir al médico con más información. Así que no tienes que ir muy lejos para ver el valor que puede proporcionar. Creo que hablar con otros, inspirarse en cómo usan y se benefician, es una buena manera de comenzar a pensar en cómo podrías beneficiarte tú mismo.
Anfitrión: Tibo, muchas gracias.
Tibo: Gracias, y gracias por tu tiempo.
Una cosa más
Justo ahora, Tibo también anunció que OpenAI restablecerá mañana el límite de 5 horas de uso para ChatGPT Plus.
Dijo que esto ya iba a implementarse, pero se retrasó por algunas razones. Así que a partir de mañana, los usuarios Plus no podrán disfrutar sin límite.
Por supuesto, los usuarios Pro no tienen que preocuparse por ahora, los planes de $100 y $200 no activarán este límite en los próximos meses.
Este artículo proviene del WeChat público "Quantum Bit", autor: henry
