À l'instant même, AVO, l'agent de codage universel de Nvidia, a obtenu un score parfait sur l'ARC-AGI-3 !
Il a complété la totalité des 183 niveaux dans 25 environnements de jeu, n'utilisant au total que 6624 étapes, avec un RHAE de 100.00.
Sachez que l'ARC-AGI-3 est réputé pour être totalement injuste. Il plonge l'agent directement dans un jeu inconnu, sans donner ni règles ni objectifs, il doit tout découvrir par lui-même en appuyant, en observant et en déduisant.
Certains environnements permettent de se déplacer haut, bas, gauche, droite, en tournant dans des couloirs ; en heurtant un cube bleu-noir, tout l'écran pivote de 90 degrés. D'autres ne permettent même pas de se déplacer, seulement de cliquer, en faisant alterner les couleurs des cellules par clics pour obtenir le motif cible.
Chaque environnement compte au moins six niveaux, et plus on avance, plus c'est difficile. Un niveau que l'on peut terminer en cinq étapes au premier palier peut en nécessiter cinquante au sixième.
Et l'agent n'a qu'une grille de 64×64 et quelques touches à sa disposition.
Les modèles de pointe, en essayant de forcer directement, n'y arrivent tout simplement pas.
Le modèle utilisé cette fois par AVO est Claude Opus 5. Mais si on le laisse passer le test seul, son score n'est que de 30.16%, ce qui le place néanmoins en tête du classement officiel.
Le ARC Prize a analysé les enregistrements de parties de la génération précédente et a identifié trois types d'erreurs typiques.
- La première : comprendre localement, mais pas globalement.
- La deuxième : calquer des mécanismes inconnus sur des jeux familiers.
- La troisième : terminer un niveau sans l'avoir réellement appris.
La troisième est la plus fatale. Opus avait autrefois terminé le premier niveau de ka59 en seulement 37 étapes, mais sa compréhension du mécanisme de clic était erronée dès le départ. Arrivé au deuxième niveau, il s'accrochait toujours à sa fausse théorie, et finissait par être bloqué.
L'approche de Nvidia est de ne pas toucher au modèle, mais d'ajouter une couche d'enveloppe extérieure.
Ainsi, avec le même Claude Opus 5, le score est passé directement de 30% à 100%.
Sur X (Twitter), c'était l'explosion. D'un côté, les messages « L'ARC-AGI-3 est tombé », « Il faut changer de classement à grimper » défilent à l'écran, de l'autre, on ne tarit pas d'éloges sur le coup de maître de Nvidia.
Si la tendance se poursuit, la prochaine transition majeure au niveau des modèles pourrait ne pas venir d'un nouveau modèle, mais d'une mise à jour de l'enveloppe (harness).
Le saut à 100 points, décomposé, n'est que deux choses
Alors, qu'est-ce que Nvidia a ajouté autour du modèle pour combler ces trois fossés d'un coup ?
Comme le récent et explosif DeepSeek Harness ou Codex Harness, AVO gère aussi un ensemble de choses en dehors du modèle proprement dit.
Incluant quoi lui fournir comme contexte, quels outils lui donner, comment stocker l'état, comment intégrer les retours, que faire en cas de blocage, et comment continuer quand le contexte est plein, etc.
Concrètement, sur le plan mécanique, ce sont deux choses qui ont vraiment fait la différence.
La première est la mémoire persistante.
Le point le plus critique dans les tâches de longue durée est que le contexte finit par être saturé.
Une fois plein, la mémoire du modèle est réinitialisée. Tout ce qui a été essayé précédemment, les impasses, les résultats du profileur, tout disparaît.
Au tour suivant, il recommence à tomber dans les mêmes pièges.
AVO, lui, stocke tout cela : les versions précédentes des implémentations, les résultats de chaque évaluation, les sorties du compilateur et de l'analyseur, le processus de raisonnement accumulé, tout y est.
Après une réinitialisation de contexte, l'agent reprend depuis l'état actuel, et ne reconstruit pas toute la recherche à partir de zéro.
La deuxième est le superviseur.
L'agent principal est chargé de travailler, tête baissée. Ce qu'il observe, modifie, teste, soumet, il le décide lui-même.
Le superviseur ne travaille pas, il surveille simplement toute la trajectoire de recherche. Dès qu'il détecte une stagnation des progrès, ou que l'agent commence à tourner en rond, à répéter des actions inutiles, il intervient pour rediriger l'agent principal vers d'autres stratégies.
Un détail supplémentaire.
AVO a exécuté l'ensemble de l'ARC-AGI-3 en utilisant une modalité purement textuelle. Chaque observation de frame fournie au modèle était une grille textuelle précise de 64×64, pas une seule image, pas un seul token d'image n'a été envoyé.
Autrement dit, dans un jeu où l'écran est rempli de pixels, le modèle n'a jamais vu une seule image du début à la fin.
Ce mécanisme a permis d'obtenir le bulletin de notes : 6624 étapes pour terminer 183 niveaux, avec un RHAE de 100.
La conclusion que tire Nvidia de cela est que la capacité de longue durée n'a jamais été une caractéristique que le modèle possédait seul, mais qu'elle émerge de l'ensemble du système.
La mémoire détermine ce qui peut être conservé pour le prochain tour, les outils déterminent quelles actions l'agent peut effectuer, les retours lui indiquent s'il fait fausse route.
Et quand une hypothèse est réfutée, la capacité à revenir en arrière et à continuer détermine si la tâche peut être poursuivie.
Il révolutionne d'abord Nvidia elle-même
Ce qui est intéressant, c'est qu'AVO n'a pas du tout été conçu pour jouer. Son champ de bataille principal est l'optimisation des opérateurs GPU.
Le 25 mars de cette année, Nvidia a publié sur arXiv un article intitulé « AVO : Agentized Variation Operators for Autonomous Evolutionary Search ».
Adresse de l'article : https://arxiv.org/abs/2603.24517
Deux mots dans le titre sont clés : recherche évolutive et opérateurs de variation.
La recherche évolutive en elle-même n'est pas complexe. On a un lot de codes candidats, on les modifie, on les exécute, on garde la version la plus rapide, puis on continue à modifier, en poussant de génération en génération.
L'étape responsable de la « modification » s'appelle l'opérateur de variation dans les algorithmes évolutionnistes. Auparavant, il était figé, la manière de modifier était prédéfinie par l'homme ; plus tard, on a utilisé des LLM pour modifier, mais cela ne produisait qu'un morceau de code par appel.
L'approche d'AVO est de remplacer l'ensemble de l'opérateur de variation par un agent autonome.
Ainsi, il peut non seulement consulter le guide de programmation CUDA et la documentation de l'architecture PTX, exécuter des tests, lire le profileur, mais aussi diagnostiquer lui-même les problèmes de correction, puis décider où modifier dans la version suivante.
L'équipe l'a placé sur un B200, avec pour tâche d'optimiser un noyau d'attention, l'opérateur le plus exploité dans les Transformer. Puis les humains l'ont laissé faire.
AVO a fonctionné de manière autonome et continue pendant 7 jours, explorant plus de 500 directions d'optimisation, et finalement soumis 40 versions valides de noyaux.
Le noyau d'attention multi-têtes produit était jusqu'à 3.5% plus rapide que le cuDNN propriétaire de Nvidia, et jusqu'à 10.5% plus rapide que l'implémentation open-source de pointe FlashAttention-4.
Ensuite, il a appliqué cette même optimisation au GQA, actuellement dominant pour les grands modèles. Cette fois, après environ 30 minutes de fonctionnement autonome, le nouveau noyau était 7.0% plus rapide que cuDNN et 9.3% plus rapide que FlashAttention-4.
L'écriture manuelle de noyaux CUDA a toujours été le travail le plus exigeant de cet écosystème, et AVO est le premier à le surpasser.
Et les 25 jeux de l'ARC-AGI-3 utilisent exactement ce même système.
Optimiser des noyaux et jouer à des jeux semblent être deux choses totalement sans rapport. Mais pour Nvidia, ces deux activités reposent sur la même boucle sous-jacente.
L'agent formule d'abord une hypothèse à partir de preuves incomplètes, agit pour tester, observe les résultats, stocke les états utiles, puis affine sa compréhension du problème. Si l'hypothèse est fausse, il revient en arrière et réfléchit à nouveau, puis continue à itérer.
Pour reprendre les mots de Nvidia, ce qui est transférable n'est pas la connaissance du domaine, mais le mécanisme qui maintient la progression autonome sur de longues durées.
Ceux qui l'ont créé sont une équipe majoritairement chinoise
En déroulant la liste des auteurs de l'article sur AVO, on voit une série de noms très familiers.
Les 23 signataires rassemblent presque toutes les figures clés de l'infrastructure open-source de deep learning des dix dernières années.
L'un des premiers co-auteurs, Bing Xu, est Distinguished Engineer chez Nvidia et l'auteur de MXNet. Encore plus tôt, il était le quatrième auteur de l'article original sur les GAN en 2014, co-signé avec le dernier auteur Yoshua Bengio sous l'affiliation de l'Université de Montréal.
Tianqi Chen, l'auteur de TVM et XGBoost, figure également sur la liste. La lignée TVM conduit aussi à Luis Ceze, avec qui il a cofondé OctoAI, racheté par Nvidia en septembre 2024, Ceze ayant ensuite rejoint Nvidia pour continuer à travailler sur le compilateur pour l'apprentissage automatique.
Viennent ensuite Zihao Ye, auteur de FlashInfer, et Vinod Grover, un vétéran du compilateur CUDA.
À la barre se trouve Humphrey Shi, vice-président de l'IA haute performance chez Nvidia et également professeur au Georgia Tech. Un autre premier co-auteur, Zhifan Ye, est justement un doctorant en cours au Georgia Tech.
Le blog de cette fois est signé par cinq noms, dont quatre sont chinois : outre Humphrey Shi, il y a Terry Chen, Zhifan Ye et Yeyin Zhu. Le cinquième, Jean-Francois Puget, est un double champion et Grand Master Kaggle chez Nvidia.
Le passage le plus intéressant provient d'un récit autobiographique précédent de Bing Xu sur X.
Il y a un an et demi, quand lui et Terry Chen ont commencé à travailler sur la programmation par agents chez Nvidia, ni l'un ni l'autre ne connaissait la programmation GPU.
Précisément parce qu'ils ne savaient pas, ils se sont orientés dès le premier jour vers un système entièrement automatique, ne nécessitant aucune intervention humaine, et ont baptisé cette approche « programmation à l'aveugle ».
Un an et demi plus tard, ce système qui ne dépend pas des instructions humaines a surpassé les noyaux que les experts humains optimisaient depuis des mois.
La facture finit par être réglée sur les cartes graphiques de Jensen
Pourquoi une entreprise qui vend des cartes graphiques passerait-elle un an et demi à créer un agent autonome qui ne nécessite aucune intervention humaine ?
Parce que cette couche d'enveloppe peut s'adapter à n'importe quel modèle.
AVO a déjà été exécuté sur différents modèles. Pour les mêmes niveaux, couplé à GPT-5.6 Sol, le temps est plus court ; avec Opus 5, il utilise moins d'étapes.
Nvidia ne gagne pas d'argent en vendant des modèles, mais cette couche, elle peut la dominer. Cela correspond aussi à sa stratégie globale de ces dernières années.
Du côté des modèles, ils optent pour l'open source. Nemotron 4, annoncé en août de cette année, vise l'échelle du trillion de paramètres, avec une formation prévue pour l'automne. Le modèle sera offert gratuitement, l'argent sera récupéré sur les GPU et la pile logicielle qui suivent.
Du côté de la puissance de calcul, les agents de longue durée sont justement la charge de travail qu'ils souhaitent le plus. Le jugement de Jensen Huang lors du GTC cette année est que le point d'inflexion de l'inférence est arrivé. Au cours des deux dernières années, la demande en puissance de calcul a augmenté d'environ dix mille fois, tandis que l'utilisation n'a augmenté que d'environ cent fois. La différence est entièrement absorbée par l'inférence.
Donc, peu importe le modèle utilisé. Tant que les agents effectuent des tâches de plus en plus longues et de plus en plus lourdes, la facture finira par être réglée sur leurs cartes graphiques.
Quant aux trois chiffres « 100 points », ils se déprécient rapidement en ce moment.
En mars, personne n'arrivait à atteindre 1 point. Tycho a été le premier à obtenir un score parfait fin juillet, VISTA en a obtenu un autre le 5 août, et le score d'AVO est déjà le troisième en six semaines, les trois utilisant tous Claude Opus 5 comme moteur.
Mais ce qu'AVO a accompli n'en sera pas amoindri pour autant.
Une architecture née pour extraire les derniers pourcentages de performance de FlashAttention sur un B200 a été presque intégralement transférée dans un jeu en pixels, et a fonctionné.
Seules l'interface de tâche et la méthode d'évaluation ont été changées au milieu, la boucle centrale n'a pas été modifiée d'une seule ligne.
Comme l'écrit Nvidia à la fin de son blog : Le modèle est important, mais le modèle n'est pas la totalité de l'agent.
Références :
https://developer.nvidia.com/blog/nvidia-avo-reaches-100-on-arc-agi-3-demonstrating-a-frontier-level-general-purpose-architecture-for-long-horizon-autonomous-agents/
Cet article provient du compte WeChat public « New Zhiyuan », auteur : ASI Apocalypse, éditeur : Moïse
