Karpathy provoca un terremoto interno: ¡Forzar a los Agent a trabajar es el mayor error de la IA! La vanguardia no está en OpenAI, está en tus manos.
Una sola frase dejó helada a toda la comunidad de Agent.
Andrej Karpathy—investigador clave del equipo de preentrenamiento de Anthropic—, en una presentación reciente dirigida a desarrolladores de Agent, soltó una polémica afirmación que dejó a todos en silencio:
El mayor error actual en el campo de la IA es que la gente se apresura a forzar a los Agent a trabajar, sin haber comprendido primero los grandes modelos fundamentales.
El vídeo recortado de este momento fue lanzado en X y se volvió viral en pocos días.
Porque toca precisamente la pista más caliente, más concurrida y hacia la que todos se están lanzando actualmente.
Y quien lo dice no es un ajeno echando agua fría, sino alguien que ha tropezado y está repasando sus lecciones aprendidas a costa de sangre y lágrimas.
Lecciones aprendidas con oro y plata reales
Retrocedamos en el tiempo hasta 2016.
En ese entonces, Karpathy estaba trabajando en un proyecto en OpenAI llamado World of Bits, cuyo objetivo sonaba muy "2026": enseñar a un Agent a usar el teclado y el ratón para operar un ordenador, reservar billetes de avión, pedir comida a domicilio, hacer tu trabajo por ti.
¿Suena familiar? Esta es casi la imagen de la primera diapositiva en el pitch de todas las startups de Agent hoy.
¿Resultado? No funcionó.
Karpathy lo dice sin rodeos: él, junto con Tianlin Shi, Jim Fan y otros, trabajaron en ello, haciendo clic frenéticamente en unas pocas páginas web rudimentarias, tratando de reservar un vuelo y pedir comida, y finalmente incluso publicaron un artículo en ICML 2017.
El título del artículo era "World of Bits: An Open-Domain Platform for Web-Based Agents" —una gran visión sobre un "mundo de bits", que finalmente quedó atrapada en unas pocas páginas web rudimentarias.
La tecnología no estaba lista. La única herramienta disponible era el aprendizaje por refuerzo, y por mucho que se esforzaran, no lograban el resultado.
Mirando atrás, lo verdaderamente correcto en ese momento habría sido olvidarse por completo del Agent y volverse hacia los modelos de lenguaje.
Cinco años después, la caja de herramientas cambió por completo: ahora, casi nadie que trabaje en Agent usa aprendizaje por refuerzo. En aquel entonces, eso era inimaginable.
Es interesante que Jim Fan, quien coescribió el artículo con él en aquel entonces, ahora es científico investigador senior en NVIDIA, habiendo creado una serie de proyectos impresionantes como Voyager y MineDojo, y ganando el premio a Mejor Artículo en NeurIPS.
Un joven becario de un "proyecto fallido" en 2016, diez años después se convirtió en uno de los principales actores en el campo de los Agent de IA.
Pero el camino recorrido no fue el de 2016.
Hacer un demo es fácil, hacer un producto lleva diez años
A partir de esta lección, Karpathy ofrece tres consejos, cada uno yendo en contra de la corriente actual.
Primer paso: deja de forzar a tu Agent a hacer de todo, primero haz bien el modelo fundamental.
Cuando se unió al equipo de preentrenamiento de Anthropic en mayo de este año, la primera frase que escribió en X fue: Creo que el trabajo en la vanguardia de los LLM será especialmente crucial en los próximos años.
Que alguien que "inventó" la programación por vibración (vibe coding), cuyo término fue elegido palabra del año por el diccionario Collins, elija ahora regresar a la investigación más fundamental del preentrenamiento, es en sí mismo un "voto de acción" contra la fiebre de los Agent.
Segundo paso: hacer un demo es fácil, convertirlo en un producto lleva diez años.
Menciona dos ejemplos que todos conocen: la conducción autónoma. Cualquiera puede hacer un demo de un coche dando una vuelta a la manzana, pero convertirlo en un producto real llevó una década completa, y él mismo vivió esta maratón en Tesla.
Lo mismo con la realidad virtual. Demos impresionantes vuelan por todas partes, pero llevarlos al mercado como productos también lleva al menos una década.
Los Agent son de esa clase.
Extremadamente fáciles de imaginar, extremadamente fáciles de demostrar, pero extremadamente difíciles de convertir en productos reales.
Si realmente te metes en esto, debes estar preparado para trabajar diez años, no pensar que has llegado a la meta después de hacer un demo genial.
Tercer paso: el Agent no es el producto, las capacidades fundamentales son el producto. Construye una base sólida, y el Agent emergerá naturalmente.
Estas tres frías prácticamente niegan de arriba abajo el enfoque actual de "ponerle una cáscara, apilar un Agent, lanzarlo rápido".
El mensaje de Karpathy es claro: si los cimientos no son sólidos, cuanto más rápido construyas el edificio, más rápido se derrumbará.
La conducción autónoma ya lo ha demostrado durante diez años para todos, y los Agent no tienen por qué poder saltarse esta lección.
Aprender del cerebro
Después de la lección, Karpathy da un giro y se sumerge en la neurociencia en busca de inspiración.
En el escenario, lanza una serie de preguntas: ¿Qué en un Agent es equivalente al hipocampo, responsable de la memoria, indexación y recuperación?
¿Qué es equivalente a los ganglios basales, que controlan la selección de comportamientos y la ejecución de acciones? ¿Qué es equivalente al tálamo, ese lugar donde "múltiples pensamientos compiten por el micrófono", como el asiento de la consciencia?
Un investigador de IA de primer nivel está diciendo: al crear vida digital, lo que más nos falta ahora no son funciones más sofisticadas, sino respeto por la pregunta fundamental de "¿qué es realmente la inteligencia?".
Incluso recomendó específicamente a todos los presentes un libro de neurociencia de David Eagleman: "Brain and Behavior: A Cognitive Neuroscience Perspective".
En su opinión, crear Agent hoy merece un enfoque similar al de los primeros días del aprendizaje profundo—en aquel entonces robamos la inspiración para las redes neuronales artificiales de la estructura de una sola neurona, hoy podemos volver a robar una vez más del cerebro.
Lo que realmente provocó el terremoto fue esta última frase
Si lo anterior fue agua fría, el final de Karpathy encendió un fuego en la sala.
Dijo a la sala llena de desarrolladores independientes y emprendedores:
Los que realmente están a la vanguardia de las capacidades de los Agent son ustedes. No es OpenAI, no es DeepMind, son ustedes.
Esto no es cortesía de ocasión. Dio una explicación muy reveladora:
En grandes empresas como OpenAI, entrenar modelos de lenguaje Transformer a gran escala es inigualable—cuando sale un nuevo artículo sobre entrenamiento de Transformers, la reacción en los canales internos de Slack a menudo es "oh, esto se intentó hace dos años y medio, sabemos perfectamente por qué no funcionó".
Pero cuando aparece un nuevo artículo sobre Agent, la reacción de todos es: "Oh, esto es realmente genial, realmente novedoso".
¿Por qué? Porque en el tema de los Agent, ninguna gran empresa ha acumulado cinco años de experiencia.
Las grandes empresas no están al borde de las capacidades, sino ustedes—los emprendedores, los hackers—son los que están en ese borde.
La razón no es difícil de entender.
Las grandes empresas han estado corriendo en el camino de los modelos de lenguaje durante tantos años, que ya han pisado todos los baches y marcado todos los desvíos; pero los Agent son un territorio nuevo recién explorado, nadie tiene la ventaja de cinco años de antelación, todos están casi en la misma línea de salida.
En este momento, los desarrolladores independientes, flexibles, atrevidos para probar y capaces de pivotar rápidamente, tienen más oportunidades de descubrir cosas nuevas que los gigantes con barcos difíciles de maniobrar.
Volviendo a la polémica afirmación inicial
El agua fría que Karpathy quiere echar no es "no hagas Agent", sino "no te saltes los fundamentos para hacer Agent".
Él mismo es el mejor ejemplo—la persona que inventó la programación por vibración y usa los Agent a toda velocidad, en 2026, su elección profesional más importante fue: volver al preentrenamiento, regresar al laboratorio más fundamental de los grandes modelos.
El fuego que quiere encender tampoco es para causar ansiedad, sino para decirle a cada persona que está luchando en primera línea: en esta batalla, no vas atrasado, estás justo al frente.
La fiebre siempre disminuirá, los demos eventualmente se desvanecerán.
Pero aquellos que comprendan a fondo los modelos fundamentales y estén dispuestos a sumergirse en algo durante diez años, son los que merecen estar en la orilla dentro de diez años.
Referencias: https://x.com/0xCodila/status/2073544407643496771
Este artículo proviene del WeChat public account "新智元" (New Zhi Yuan), autor: ASI启示录, editor: Salomón
