Le document le plus « dangereux » de l’année par Nvidia : L’IA se reproduit grâce à du code, une évolution à l’infini
**Article :** Nvidia publie ce qui est qualifié de « l'article le plus dangereux de l'année » sur l'IA auto-reproductrice et l'évolution exponentielle.
**Résumé en français :**
Des chercheurs de Nvidia, de Cambridge et d'autres institutions ont présenté la « Machine de Gödel de la Reine Rouge » (RQGM), un système d'IA capable d'une évolution récursive et auto-alimentée. Le système fonctionne comme un jeu de survie brutal : une IA génère et teste de nouveaux algorithmes d'apprentissage dans un bac à sable, éliminant les échecs et conservant les succès pour la prochaine itération d'auto-amélioration.
L'innovation la plus frappante est que le système ne fait pas seulement évoluer les agents qui exécutent des tâches (comme écrire du code ou des articles), mais fait également évoluer les « examinateurs » ou évaluateurs qui les jugent. En utilisant un processus appelé « évolution utilitaire contrôlée », le système sélectionne périodiquement de nouveaux évaluateurs plus performants et plus stricts, qui à leur tour poussent les agents à s'améliorer davantage, créant ainsi une course aux armements récursive. Cela reflète l'hypothèse de la Reine Rouge en biologie : « il faut courir aussi vite qu'on peut pour rester au même endroit ».
L'article démontre l'efficacité de la RQGM sur plusieurs tâches : amélioration des taux de réussite pour la génération de code (Polyglot), doublement du taux d'« acceptation » pour la rédaction d'articles scientifiques par des pairs humains, et meilleures performances en résolution de preuves mathématiques de niveau Olympiade. De plus, le système a corrigé un biais connu des LLM en tant que juges : une préférence pour le contenu généré par l'IA. En faisant évoluer les évaluateurs pour qu'ils identifient et rejettent les textes produits par l'IA tout en conservant la précision, la RQGM a obtenu des juges plus impartiaux.
Ce travail brise une barrière théorique vieille de 20 ans associée à la « Machine de Gödel » originale, qui exigeait une preuve mathématique formelle de toute auto-modification. La RQGM utilise à la place la sélection évolutive. Ces avancées alimentent des prédictions audacieuses, comme celle du co-fondateur d'Anthropic, Jack Clark, qui estime à 60 % la probabilité qu'une IA capable d'une auto-évolution récursive (RSI) hautement autonome émerge d'ici fin 2028. Le document suggère qu'une fois qu'une IA commence à concevoir ses propres critères d'évaluation et à s'engager dans une telle boucle d'amélioration exponentielle, la voie vers une intelligence artificielle super intelligente (ASI) pourrait être raccourcie de manière imprévisible et alarmante.
marsbit06/28 07:54
