Karpathy crève l'écran en interne : forcer les Agents à bosser est la plus grosse erreur de l'IA ! L'avant-garde n'est pas chez OpenAI, elle est entre vos mains.
Une phrase qui a glacé le cercle entier des Agents.
Andrej Karpathy – aujourd'hui chercheur principal dans l'équipe de pré-entraînement chez Anthropic – a récemment lâché, lors d'une présentation en direct pour des développeurs d'Agents, une punchline qui a fait taire la salle :
La plus grosse erreur du domaine de l'IA aujourd'hui, c'est que les gens se précipitent pour forcer les Agents à travailler, sans avoir d'abord compris les grands modèles de base.
Cette vidéo, découpée et balancée sur X, a fait le tour du web en quelques jours.
Car elle touche justement la piste la plus chaude, la plus bondée, celle vers laquelle tout le monde se rue en ce moment.
Et celui qui dit ça, ce n'est pas un profane qui jette un seau d'eau froide, c'est quelqu'un qui a connu les galères et en fait le bilan.
Une leçon payée cash
Remontons en 2016.
A l'époque, Karpathy travaillait sur un projet chez OpenAI appelé World of Bits, dont l'objectif sonnait particulièrement « 2026 » : faire en sorte qu'un Agent apprenne à utiliser clavier et souris pour manipuler un ordinateur, réserver un billet d'avion, commander à manger, et faire le boulot à votre place.
Ça vous dit quelque chose ? C'est quasiment l'image de la première page du pitch de toutes les start-up d'Agent aujourd'hui.
Le résultat ? Un échec.
Karpathy est très clair : lui, Tianlin Shi, Jim Fan et quelques autres s'y sont attelés, cliquant frénétiquement sur quelques pages web rudimentaires pour tenter de réserver un vol ou commander de la nourriture, et ont fini par publier un papier à l'ICML 2017.
Le titre du papier : « World of Bits: An Open-Domain Platform for Web-Based Agents » – une vision grandiose d'un « monde des bits », finalement piégée dans quelques pages web sommaires.
La technologie n'était pas prête. Le seul outil à leur disposition était l'apprentissage par renforcement, et quoi qu'ils fassent, ça ne marchait pas.
Avec le recul, la bonne chose à faire à l'époque aurait été d'oublier complètement les Agents et de se tourner vers les modèles de langage.
Cinq ans plus tard, la boîte à outils a complètement changé – aujourd'hui, presque personne ne fait des Agents avec de l'apprentissage par renforcement. À l'époque, c'était inimaginable.
Ce qui est intéressant, c'est que Jim Fan, son co-auteur de l'époque, est aujourd'hui chercheur principal chez NVIDIA, ayant créé une série de projets fracassants comme Voyager, MineDojo, et remporté un prix de meilleur article à NeurIPS.
Un jeune stagiaire d'un « projet raté » de 2016 est devenu, dix ans plus tard, un des acteurs majeurs du domaine des Agents IA.
Mais le chemin parcouru n'est pas celui de 2016.
Le démo est facile, le produit prend dix ans
En partant de cette leçon, Karpathy donne trois conseils, chacun allant à l'encontre de la tendance actuelle.
Premièrement, arrêtez de forcer votre Agent à tout faire, commencez par bien faire le modèle de base.
Quand il a rejoint l'équipe de pré-entraînement d'Anthropic en mai dernier, la première phrase qu'il a écrite sur X était : Je pense que les prochaines années de travail sur les LLM seront particulièrement cruciales.
L'homme qui a « inventé » le vibe coding, au point que le dictionnaire Collins en a fait le mot de l'année, choisit aujourd'hui de retourner aux recherches les plus fondamentales sur le pré-entraînement – c'est en soi un « vote par l'action » contre la frénésie des Agents.
Deuxièmement, le démo est facile, en faire un produit prend dix ans.
Il prend deux exemples que tout le monde connaît : la conduite autonome. Faire un démo d'une voiture qui fait le tour du pâté de maisons, n'importe qui peut le faire. Mais en faire un produit a pris dix bonnes années, et il a vécu ce marathon en personne chez Tesla.
La réalité virtuelle (VR) aussi, les démos époustouflants pleuvent, mais la concrétisation en produit prend également dix ans au bas mot.
Les Agents, c'est la même catégorie.
C'est très facile à imaginer, très facile à démontrer, mais extrêmement difficile à transformer en vrai produit.
Si vous voulez vraiment vous lancer là-dedans, préparez-vous à y passer dix ans, et non pas à croire que vous avez réussi après un démo tape-à-l'œil.
Troisièmement, l'Agent n'est pas le produit, la capacité fondamentale est le produit. Solidifiez les fondations, et les Agents émergeront naturellement.
Ces trois phrases constituent presque une négation en bonne et due forme de l'approche actuelle du « trouve une coquille, empile un Agent, sors-le vite ».
Le message de Karpathy est clair : si les fondations ne sont pas solides, plus on construit vite, plus ça s'effondre.
La conduite autonome a déjà validé cette leçon pour tout le monde sur dix ans, les Agents n'ont aucune raison de pouvoir sauter cette étape.
S'inspirer du cerveau
Après cette leçon, Karpathy change de cap et plonge dans les neurosciences pour y trouver de l'inspiration.
Sur scène, il lance une série de questions : dans un Agent, qu'est-ce qui correspond à l'hippocampe, responsable de la mémoire, de l'indexation et de la récupération ?
Qu'est-ce qui correspond aux ganglions de la base, contrôlant la sélection des comportements et l'exécution des actions ? Qu'est-ce qui correspond au thalamus, cet endroit où « plusieurs pensées se disputent le micro », tel un siège de la conscience ?
Un chercheur de pointe en IA dit : ce qui nous manque le plus aujourd'hui pour créer une vie numérique, ce ne sont pas des fonctionnalités plus tape-à-l'œil, mais du respect pour la question fondamentale « qu'est-ce que l'intelligence, au juste ? ».
Il a même spécialement apporté un ouvrage de neurosciences de David Eagleman, « Brain and Behavior: A Cognitive Neuroscience Perspective », qu'il a recommandé à toute l'assistance.
Pour lui, aujourd'hui, créer des Agents mérite la même approche qu'aux débuts du deep learning – à l'époque, nous avons volé l'inspiration des réseaux de neurones artificiels dans la structure d'un neurone unique, aujourd'hui nous pourrions très bien retourner piller le cerveau une seconde fois.
Ce qui a vraiment fait exploser la salle, c'est cette dernière phrase
Si tout ce qui précède était une douche froide, la conclusion de Karpathy a rallumé un feu chez l'audience.
Il s'est adressé à la salle pleine de développeurs indépendants et d'entrepreneurs en disant :
Ceux qui sont vraiment à la pointe des capacités des Agents, c'est vous. Pas OpenAI, pas DeepMind, c'est vous.
Ce n'est pas une formule de politesse. Il donne une explication très percutante :
Les grands groupes comme OpenAI sont effectivement imbattables pour entraîner de grands modèles de langage Transformer à grande échelle – quand un nouvel article sur l'entraînement de Transformers sort, la réaction dans les Slack internes est souvent « oh, on a essayé ça il y a deux ans et demi, on sait très bien pourquoi ça n'a pas marché ».
Mais dès qu'un nouvel article sur les Agents émerge, la réaction de tous est : « Oh, c'est vraiment cool, vraiment nouveau. »
Pourquoi ? Parce que sur la question des Agents, aucun grand groupe n'a cinq ans d'avance.
Les grands groupes ne sont pas au bord des capacités, et vous – entrepreneurs, hackers – vous êtes sur ce bord.
La logique n'est pas difficile à comprendre.
Les grands groupes ont couru si longtemps sur la piste des modèles de langage qu'ils ont déjà buté sur chaque problème, marqué chaque détour ; mais les Agents sont un nouveau continent à peine défriché, personne n'a cinq ans d'avance, tout le monde est presque sur la même ligne de départ.
À ce moment-là, les développeurs indépendants, flexibles, audacieux, capables de pivoter rapidement, ont paradoxalement plus de chances de découvrir quelque chose de nouveau que les géants aux navires difficiles à manœuvrer.
Revenons à la punchline initiale
La douche froide que Karpathy voulait donner, ce n'est pas « ne faites pas d'Agents », mais « ne faites pas d'Agents en sautant les bases ».
Lui-même en est la meilleure illustration – l'homme qui a inventé le vibe coding, qui utilise les Agents à fond, a fait en 2026 le choix professionnel le plus important : retourner au pré-entraînement, retourner au laboratoire le plus fondamental des grands modèles.
Le feu qu'il voulait allumer, ce n'est pas pour inquiéter, mais pour dire à chaque personne qui se démène en première ligne : dans cette bataille, vous n'êtes pas en retard, vous êtes aux avant-postes.
La frénésie finira par retomber, les démos finiront par perdre leur éclat.
Mais ceux qui maîtrisent les modèles de fond, ceux qui sont prêts à s'immerger dans quelque chose pendant dix ans, ceux-là seulement mériteront de se tenir sur la rive, dix ans plus tard.
Références : https://x.com/0xCodila/status/2073544407643496771
Cet article provient du compte WeChat officiel « 新智元 » (New Zhiyuan), auteur : ASI启示录, éditeur : Salomon
