L'ancienne vice-présidente de la sécurité chez OpenAI et cofondatrice de Thinking Machines Lab, Weng Li, vient de publier un nouveau billet de blog.
Cette fois-ci, elle discute de l'auto-évolution de l'IA et propose une voie réaliste :
Il n'est pas nécessaire de commencer par la modification directe des poids du modèle, mais plutôt par le Harnais.
Ce billet de blog s'intitule « Harness Engineering for Self-Improvement ».
Ici, le Harnais peut être simplement compris comme le système d'exécution externe au modèle, qui décide comment le modèle appelle des outils, gère le contexte, lit et écrit des fichiers, divise les tâches, fait appel à des sous-agents, valide les résultats et tire des enseignements des échecs.
Le chercheur DeepSeek, Cui Tianyi, l'a également relayé immédiatement, en soulignant un point clé :
L'auto-évolution dans la direction du Harnais et celle dans la direction du modèle sont toutes deux des voies très prometteuses pour obtenir des résultats.
Il a également proposé que les Skill (compétences) sont une forme relativement élémentaire d'auto-évolution du Harnais : l'auto-évolution au niveau du prompt.
L'article original du blog est extrêmement riche en informations, préparez-vous, chers lecteurs ~
L'auto-évolution pourrait d'abord se produire au niveau du Harnais
Le concept central discuté par Weng Li dans ce billet de blog est le RSI (Recursive Self-Improvement), l'amélioration récursive de soi.
Ce concept avait à l'origine une forte connotation AGI, désignant un système intelligent capable d'améliorer le mécanisme qui génère sa propre intelligence, produisant ainsi des systèmes successeurs plus puissants.
Mais Weng Li aborde ce problème de manière plus pragmatique dans ce blog.
Dans les systèmes d'IA d'aujourd'hui, l'auto-amélioration ne signifie pas nécessairement que le modèle réécrit directement ses propres poids.
Cela peut aussi signifier que le modèle améliore les flux de formation, les processus de recherche et les systèmes de déploiement, aidant ainsi la prochaine génération de systèmes à mieux performer dans des tâches réelles.
△
Et le Harnais est la couche la plus cruciale du système de déploiement.
Autrefois, lorsqu'on parlait d'Agent, la formulation courante était « LLM + mémoire + outils + planification + action ».
Mais selon Weng Li, le Harnais n'est plus simplement quelques modules des premiers frameworks d'Agent, il se rapproche davantage de la conception du runtime et du système logiciel.
Il détermine comment le modèle observe l'environnement, agit, gère le contexte, sauvegarde l'état, évalue les résultats, et décide également si le modèle peut itérer continuellement dans une longue tâche.
Son jugement est donc le suivant : la voie d'auto-évolution plus réalisable à court terme pourrait ne pas être celle où le modèle réécrit directement son propre « cerveau », mais plutôt celle où le modèle commence à optimiser la façon dont il obtient les réponses.
Du Context Engineering au Self-Harness, l'optimisation progresse couche par couche
Weng Li passe en revue un certain nombre de recherches récentes pertinentes, révélant une tendance claire :
L'objet de l'optimisation passe progressivement du contexte, au flux de travail, pour aller jusqu'au Harnais lui-même.
La chaîne de progression est : prompt → structured context → workflow → harness code → optimizer code.
A mesure que les modèles deviennent plus puissants, les objets pouvant être optimisés deviennent également plus abstraits et plus génériques.
La première couche est le Context Engineering.
Le problème le plus fondamental est : lorsque l'Agent effectue de longues tâches, le contexte s'accumule de plus en plus et peut rapidement devenir incontrôlable.
Weng Li mentionne ici deux travaux représentatifs : ACE et MCE.
ACE (Agentic Context Engineering), considère le contexte comme un « manuel opérationnel » constamment mis à jour, plutôt qu'un prompt qui s'allonge indéfiniment.
Il s'appuie sur la coordination de trois rôles : le Generator génère les trajectoires de tâche, le Reflector extrait les points clés des trajectoires réussies et échouées, et le Curator organise ces points clés en entrées structurées, mettant à jour le manuel de manière incrémentielle.
MCE (Meta Context Engineering), va encore plus loin.
Il sépare en deux niveaux d'optimisation « comment gérer le contexte » et « ce qui est spécifiquement placé dans le contexte » : la couche externe fait évoluer les compétences de gestion du contexte, la couche interne utilise ensuite cette compétence pour optimiser le contexte de la tâche spécifique.
Weng Li estime que, comparé à ACE qui nécessite encore des règles de mise à jour conçues manuellement, MCE fait un pas de plus vers la « mémoire auto-gérée ».
La deuxième couche est le Workflow Design, qui résout la question de « comment le modèle doit travailler ».
Weng Li donne plusieurs exemples :
AI Scientist a construit une ligne complète de recherche scientifique, allant de la proposition d'idées, à l'écriture de code, l'exécution d'expériences, l'analyse des résultats, la rédaction d'articles et l'examen par les pairs.
ADAS va plus loin, en considérant « la conception du flux de travail de l'Agent » elle-même comme un problème d'optimisation pouvant être exploré, laissant un méta-agent proposer continuellement de nouvelles conceptions de flux de travail et les évaluer.
AFlow représente le flux de travail sous forme de graphe et utilise une recherche arborescente Monte-Carlo pour trouver une structure de graphe plus optimale.
La progression dans cette ligne réside dans le fait qu'au début, les humains ingénierisaient le flux de tâches, puis le modèle a participé à la conception du flux, et enfin, la structure du flux elle-même est entrée dans l'espace de recherche.
Autrement dit, l'objet de l'optimisation n'est plus seulement un prompt individuel, mais la façon dont l'Agent organise ses actions dans son ensemble.
La troisième couche est le Self-Improving Harness (Harnais auto-améliorant).
A ce niveau, le modèle ne se contente pas d'utiliser le Harnais pour accomplir des tâches, mais commence à analyser les défauts du Harnais et propose des modifications à celui-ci.
Weng Li mentionne particulièrement des travaux comme Self-Harness, dont la boucle est très claire.
La première étape est le Weakness Mining (Exploitation des faiblesses).
Le système collecte d'abord les traces laissées par l'Agent lors de l'exécution des tâches, y compris les appels d'outils, les journaux d'erreurs, les résultats d'échec, les retours des validateurs, etc. Il en extrait ensuite les modes d'échec récurrents.
Par exemple, le modèle oublie toujours des fichiers dans un certain type de tâche, répète toujours des tentatives de réparation inefficaces après un certain type d'échec de test, ou perd toujours des contraintes clés lorsque le contexte devient trop long.
La deuxième étape est la Harness Proposal (Proposition de Harnais).
Sur la base de ces modes d'échec, le modèle propose des modifications à petite échelle du Harnais.
L'importance réside dans le caractère « à petite échelle » et « vérifiable ».
Les informations accessibles au modèle incluent : les parties du Harnais actuel qui peuvent être modifiées, les modes d'échec spécifiques, les « comportements corrects » qui doivent être préservés, ainsi que les enregistrements des modifications déjà tentées auparavant.
Les propositions doivent se concentrer autant que possible sur des problèmes reproductibles pouvant être résolus par des modifications à petite échelle, et maintenir une différenciation entre les différentes propositions.
La troisième étape est la Proposal Validation (Validation de la proposition).
Les modifications candidates ne peuvent pas être intégrées directement ; elles doivent passer par des tests de validation. Ce n'est qu'après avoir confirmé qu'elles améliorent réellement les performances et n'introduisent pas de régression significative qu'elles deviennent une partie de la version suivante du Harnais.
Weng Li mentionne que ce processus, exécuté sur différents modèles tels que MiniMax M2.5, Qwen3.5, GLM-5 pour le Terminal-Bench-2, a effectivement appris des configurations de Harnais différentes, ciblant les points faibles spécifiques de chaque modèle.
Cependant, elle pointe également directement un risque potentiel : une fois qu'on permet au programme de modifier lui-même le code du niveau système, la frontière d'abstraction risque d'être violée ; le contrôle des permissions et la couche de sécurité doivent rester en dehors de cette boucle, et le problème ancien du reward hacking persiste.
De plus, Weng Li mentionne également Evolutionary Search (Recherche évolutive).
Si Self-Harness ressemble davantage à un système qui répare son propre système de travail à partir des échecs, la recherche évolutive, elle, fait du Harnais un objet directement explorable.
Sa logique ressemble davantage à la sélection naturelle :
Générer d'abord plusieurs Harnais candidats, laisser le modèle les modifier à partir des versions existantes, puis évaluer les performances avec des benchmarks ou des validateurs, conserver les meilleures versions, éliminer les moins bonnes, et passer au tour suivant.
Elle mentionne particulièrement DGM (Darwin Gödel Machine) : laisser directement un agent de codage modifier le dépôt de code de son propre Harnais.
Dans l'expérience, en utilisant Claude 3.5 Sonnet comme modèle de base, et à partir d'une configuration initiale simple, l'agent évolué par DGM a donné des résultats surprenants :
Ses performances sur SWE-bench Verified sont passées de 20% à 50% ;
Sur Polyglot, de 14,2% à 30,7% ;
Atteignant voire dépassant les agents conçus manuellement.
Cela montre que, même sans toucher aux poids du modèle, le Harnais lui-même peut déjà constituer un espace de recherche pour l'amélioration des capacités.
Cependant, cette méthode est plus adaptée aux tâches pouvant être évaluées automatiquement, comme le code, les algorithmes ou les kernels GPU.
Si la tâche implique le goût scientifique, la qualité à long terme d'un produit ou la collaboration complexe au sein d'une organisation, l'évaluation sera beaucoup plus lente et plus floue.
Le Harnais deviendra plus fort, mais il a toujours des limites
Weng Li ne pense pas que le Harnais soit une voie de remplacement pour l'entraînement des modèles ; son jugement ressemble davantage à celui d'une renforcement mutuel.
Un Harnais suffisamment mature peut permettre à la boucle de recherche d'auto-amélioration du modèle de fonctionner ; et des modèles plus intelligents peuvent empêcher le Harnais d'être trop complexe, maintenant la durabilité du système.
A long terme, de nombreuses améliorations du Harnais pourraient finalement être « internalisées » dans le comportement du modèle lui-même – tout comme les techniques manuelles du prompt engineering deviennent progressivement moins importantes à mesure que les capacités de suivi d'instructions et de raisonnement du modèle s'améliorent.
Mais l'acte de « définir clairement les objectifs, contraintes, contexte et critères d'évaluation » lui-même n'a jamais disparu.
Cependant, elle n'évite pas non plus les goulots d'étranglement actuels sur la voie de la réalisation du RSI :
Les évaluateurs sont trop faibles et trop flous. Actuellement, les boucles d'auto-amélioration qui fonctionnent concernent principalement des tâches comme l'écriture de code ou la résolution de problèmes mathématiques, qui ont des retours clairs, rapides et objectifs. Le goût de la recherche, l'innovation, la valeur scientifique à long terme sont presque impossibles à quantifier.
Le problème du cycle de vie du contexte et de la mémoire. Plus la tâche est autonome et indépendante, plus la mémoire à gérer est importante. Weng Li pense que cela pourrait à l'avenir faire partie de l'intelligence elle-même, et pas seulement rester au niveau du système logiciel.
△
Les résultats négatifs sont facilement négligés. Les chercheurs ont naturellement tendance à publier davantage les résultats réussis. Les modèles, formés sur des masses de données principalement composées de cas de réussite, peuvent ne pas être très doués pour juger quand il faut abandonner une hypothèse ou quand il faut rapporter honnêtement un échec.
L'effondrement de la diversité. Les boucles de type évolution et apprentissage par renforcement ont tendance à réutiliser les modes à haut rendement connus. Sans mécanismes supplémentaires pour l'empêcher, la population peut progressivement s'effondrer en variantes d'une même solution.
Reward hacking. La boucle d'auto-amélioration optimisera tout signal donné – si la récompense vient de tests unitaires, le modèle peut simplement surajuster aux tests ; si elle vient d'un modèle évaluateur, il peut apprendre à « flatter » spécifiquement l'évaluateur ; si elle vient des scores d'un classement, il peut exploiter les vulnérabilités du classement lui-même.
Le conflit entre la santé à long terme et le succès à court terme. Prenons l'exemple des agents de codage : ils peuvent déjà améliorer sensiblement la productivité quotidienne du génie logiciel, mais les objectifs d'optimisation restent principalement à court terme – pouvoir accomplir la tâche immédiate, plutôt que de pouvoir protéger la santé à long terme d'un dépôt de code maintenu conjointement par des centaines, voire des milliers d'ingénieurs.
La maintenabilité, les limites de responsabilité, les coûts de migration, la charge de débogage future – ces critères sont encore largement ignorés dans l'entraînement en bac à sable.
Le rôle des humains. Selon Weng Li : les humains ne seront pas exclus de la boucle, mais devront se déplacer vers « l'extérieur de la boucle » – fournir une supervision au moment opportun et au niveau d'abstraction approprié, ce qui est également un problème à considérer clairement lors de la conception du système.
Par le passé, la compétition des grands modèles se concentrait principalement sur les paramètres, les données, la puissance de calcul et les capacités de raisonnement.
Mais aujourd'hui, une autre variable est de plus en plus difficile à ignorer : le Harnais.
Le même modèle, placé dans des Harnais différents, peut démontrer des capacités complètement différentes – ce fait est déjà passé de l'observation de quelques-uns à un consensus au sein de l'industrie.
Comme le montre également ce billet de blog de Weng Li, « Quel est l'entrée technique la plus réaliste pour l'auto-évolution de l'IA ? » sera un point de discussion majeur de la prochaine étape.
Article original du blog : https://lilianweng.github.io/posts/2026-07-04-harness/
Lien de référence : https://x.com/tianyi/status/2074475185957380379
Cet article provient du compte WeChat public « Quantum Bit », auteur : Tingyu
