Le nouveau blog de Weng Li propose que « l'auto-évolution commence par le Harnais », Cui Tianyi de DeepSeek relaie et approuve
L'ancienne vice-présidente de la sécurité d'OpenAI et cofondatrice du Thinking Machines Lab, Weng Li, propose dans un nouveau blog une voie réaliste pour l'auto-évolution de l'IA. Elle suggère que les progrès initiaux en matière d'amélioration récursive de soi (RSI) pourraient provenir non pas de la modification directe des poids du modèle, mais de l'optimisation du **Harness** – le système externe qui gère l'appel d'outils, la gestion du contexte, la planification des tâches et la validation des résultats pour un agent IA.
Le chercheur de DeepSeek, Cui Tianyi, a soutenu cette vision, notant que l'auto-évolution du Harness est une direction de recherche très prometteuse, au même titre que l'auto-évolution du modèle lui-même.
Weng Li décrit une progression claire des travaux récents : de l'ingénierie du contexte (comme ACE et MCE, qui structurent la mémoire de l'agent), à la conception de workflows (où l'agent optimise son propre processus de travail, comme dans AI Scientist ou ADAS), et enfin à l'**auto-amélioration du Harness**. Cette dernière couche permet à l'agent d'analyser ses échecs, de proposer des modifications incrémentielles et vérifiables à son propre système d'exécution, puis de les valider avant adoption. Des méthodes comme l'**Evolutionary Search** ou **DGM** (Darwin Gödel Machine) poussent ce concept plus loin en faisant évoluer le code du Harness lui-même par sélection, conduisant à des gains de performance significatifs sur des benchmarks de code, rivalisant avec des agents conçus manuellement.
Cependant, Weng Li souligne plusieurs défis persistants : la faiblesse des évaluateurs pour les tâches subjectives ou à long terme, les risques de *reward hacking*, la perte de diversité dans les cycles d'évolution, et la difficulté à concilier succès à court terme et santé à long terme des systèmes. Elle conclut que le Harness et le modèle se renforceront mutuellement, et que le rôle humain évoluera vers une supervision à un niveau d'abstraction plus élevé, sans être exclu de la boucle. La compétitivité future des systèmes d'IA dépendra donc de plus en plus de la sophistication de leur Harness.
marsbitIl y a 5 mins
