Anthropic met en garde contre l’IA récursive, la nouvelle société de Tian Yuan Dong vient de franchir la « première étape »
Il y a quelques jours, Anthropic a publié un article intitulé "When AI Builds Itself", déclenchant des discussions sur l'« amélioration récursive de soi » – des systèmes d'IA conçus pour développer de manière autonome leurs versions successives. Simultanément, Recursive Superintelligence, une startup cofondée par Tianyuandong (ex-Meta FAIR), a émergé de son mode furtif et a présenté ses premiers résultats techniques : un système d'automatisation de la recherche en IA.
Intitulé "First Steps Toward Automated AI Research", ce système vise à automatiser la boucle classique de la recherche (idée, code, expérience, analyse). Il a été évalué sur trois références, établissant de nouveaux records. Sur NanoChat Autoresearch, il a amélioré la perte de validation d'un petit modèle de langage. Sur NanoGPT Speedrun, il a réduit le temps d'entraînement nécessaire pour atteindre une perte cible (de 79,7 à 77,5 secondes). Enfin, sur SOL-ExecBench (optimisation de noyaux GPU), il a augmenté le score global de 0,699 à 0,754, se rapprochant de la limite théorique du matériel.
Fondée fin 2025/début 2026, Recursive a levé 650 millions de dollars avec une valorisation de 4,65 milliards. Son objectif est d'accélérer les progrès de l'IA en permettant à l'IA d'améliorer récursivement ses propres capacités de recherche.
Cette avancée illustre l'émergence d'un nouveau paradigme de recherche, tandis qu'Anthropic met en garde contre les risques potentiels de cette trajectoire et appelle à une coordination mondiale. Recursive reconnaît qu'il ne s'agit que d'un premier pas, les défis comme la prévention de la triche aux indicateurs restant majeurs pour une application à des problèmes scientifiques ouverts.
marsbit06/12 04:17
