Claude commence à entraîner Claude !
Un salaire horaire de 4 dollars, il bat un chercheur humain à 150 dollars de l'heure.
Dans la dernière recherche publiée par Anthropic, Claude lui-même a consulté des articles, proposé des solutions, généré des données et entraîné des modèles, résolvant d'un coup 10 types de problèmes de sécurité en IA.
Pour certaines tâches, les solutions qu'il a proposées étaient même meilleures que celles de 28 chercheurs humains en sécurité.
Encore plus stimulant, des versions plus faibles de Claude ont commencé à participer à l'entraînement de versions plus fortes de Claude.
Le jour où l'IA « s'améliore elle-même » semble vraiment se rapprocher...
4 dollars de l'heure, Claude surpasse le chercheur humain
Dans cette recherche intitulée « Les chercheurs automatisés peuvent-ils atténuer efficacement les défaillances d'alignement de l'IA ? », Anthropic a directement placé Claude dans le laboratoire.
Concrètement, ils ont construit un système appelé AAR (Automated Alignment Researcher) basé sur Claude Opus 4.8.
Face à un problème de sécurité de modèle spécifique, Claude recherche lui-même les articles pertinents, y trouve des méthodes utilisables, propose ensuite de nouveaux plans d'entraînement, génère des données, effectue un fine-tuning du modèle et exécute enfin une série de tests de sécurité et de capacités générales.
De la formulation d'hypothèses à la validation complète, un cycle de recherche en IA relativement complet est ainsi confié à Claude.
Si les résultats sont mauvais, le plan est jeté ; si les performances s'améliorent, on continue les essais dans cette direction.
Un cycle d'entraînement ne dure généralement que 30 minutes. Ainsi, Claude peut, comme un algorithme de recherche, tester et éliminer rapidement un grand nombre de solutions.
Dans l'ensemble du processus, l'humain est responsable de poser les questions, de fournir les modèles et les critères d'évaluation, tandis que Claude s'occupe de la grande majorité du travail, de la recherche documentaire à l'exécution des expériences.
10 problèmes de sécurité difficiles, Claude a trouvé des solutions d'amélioration pour tous
Dans l'expérience, Anthropic a soumis 10 problèmes à Claude d'un coup.
Ces problèmes couvrent des questions d'alignement courantes des modèles, notamment la tromperie, la flatterie, le hacking des récompenses, la violation de la vie privée et les contournements (jailbreak).
Par exemple, la « flatterie » désigne le fait que le modèle, pour se conformer à l'utilisateur, donne des réponses que l'utilisateur veut entendre mais qui ne sont pas nécessairement correctes ; le « hacking des récompenses » est lorsque le modèle n'accomplit pas vraiment la tâche, mais exploite les failles des règles d'évaluation pour obtenir un score plus élevé.
Claude ne traite qu'un seul type de problème à la fois, proposant des solutions de manière répétée, entraînant le modèle cible correspondant, puis passant au cycle suivant en fonction des résultats.
Au final, les 10 types de problèmes ont tous été améliorés.
Selon l'indicateur « écart de sécurité » défini par Anthropic, Claude a comblé 26 % à 96 % de ces écarts. En termes simples, il a rapproché un modèle présentant initialement des problèmes de sécurité d'une bonne partie de la perfection théorique.
Plus important encore, ces méthodes ne sont pas seulement efficaces pour les problèmes que Claude a examinés.
Certaines solutions gagnantes, appliquées à des ensembles de tests non divulgués et à l'évaluation Petri qui simule des scénarios d'attaque multi-tours, continuent de réduire les comportements non sécurisés du modèle. Lorsqu'elles sont appliquées à des modèles jusqu'à 4,7 fois plus grands que le modèle expérimental, l'efficacité est également préservée.
Anthropic a également établi une ligne rouge : l'entraînement à la sécurité ne doit pas nuire de manière significative aux capacités originales du modèle.
Après tout, si un modèle refuse de répondre à tout, cela peut aussi améliorer les scores de nombreux tests de sécurité, mais un tel modèle serait pratiquement inutilisable.
Finalement, les solutions trouvées par Claude n'ont pas montré de détérioration significative dans les tests de capacités générales prédéfinis.
85 % contre 20 %, Claude surpasse largement les chercheurs humains
La confrontation la plus inégale est apparue dans le test de « tromperie ».
Pour rendre le modèle cible plus honnête, Claude a soumis plus de 150 tentatives.
Il propose une méthode, l'entraîne une fois, puis ajuste en fonction des résultats. Dans une expérience unique, la meilleure solution a comblé 82 % de l'écart de sécurité ; en combinant plusieurs exécutions, le score moyen atteint 85 %.
Le même problème a été soumis à 6 chercheurs en sécurité IA expérimentés.
Résultat, les chercheurs humains n'ont en moyenne comblé que 20 % de l'écart de sécurité...
85 % contre 20 %, la victoire de Claude est sans appel.
Au total, 28 chercheurs humains en sécurité ont participé à toutes les tâches, chacun ayant jusqu'à 8 heures pour lire la documentation et concevoir des solutions.
L'article indique que le chercheur automatisé pouvait généralement trouver une méthode dépassant la moyenne humaine en moins de 6 heures, et que les orientations de recherche fournies par les humains n'ont pas permis à Claude d'obtenir de meilleurs résultats.
Le plus accablant, c'est le coût !
Le coût horaire d'inférence via l'API pour un chercheur automatisé est d'environ 4 dollars ; la rémunération versée par Anthropic aux chercheurs humains est de 150 dollars de l'heure.
Cela... les chercheurs humains vont clairement être remplacés par Claude.
Cependant, cette compétition homme-machine n'était pas totalement équitable.
Claude pouvait réellement entraîner le modèle, voir les résultats de chaque expérience et modifier continuellement ses propositions ; les chercheurs humains ne pouvaient soumettre qu'une seule méthode, sans possibilité d'itérer en fonction des résultats.
Claude faible entraîne Claude fort, 60 heures pour approcher la version officielle
Dans les expériences précédentes, les améliorations concernaient principalement de petits modèles open source.
Ensuite, Anthropic a directement relevé la difficulté : faire en sorte que Claude Sonnet 5, plus faible, entraîne une version précoce de Claude Opus 4.8 qui n'avait pas encore effectué la majeure partie de l'entraînement de sécurité de niveau production.
Le disciple n'est pas nécessairement inférieur au maître, c'est probablement de ce mode qu'il s'agit.
En 60 heures, Sonnet 5 a testé plus de 50 solutions différentes. La méthode finale trouvée a comblé environ 65 % de l'écart de sécurité, se rapprochant déjà des 72 % de la version officielle d'Opus 4.8.
Cet ensemble de solutions n'utilisait que plus de 2000 données d'entraînement, principalement constituées de modèles simples et d'ensembles de données publics.
Selon les calculs d'Anthropic, pour cet ensemble de tâches spécifiques, son efficacité en termes de données était environ 15 000 fois supérieure à celle du processus d'alignement de niveau production.
Bien sûr, cela ne signifie pas qu'Anthropic peut reproduire tout l'entraînement de production avec 2000 données.
Le modèle officiel doit également gérer davantage de capacités, plus de risques et un grand nombre de cas extrêmes. Cette expérience ne portait que sur un ensemble d'indicateurs de sécurité spécifiques.
Mais cela prouve déjà qu'une version plus faible de Claude peut elle-même consulter des articles, concevoir des méthodes, générer des données et intégrer les résultats de l'entraînement dans une version plus forte de Claude.
L'humain définit le périmètre, Claude se charge de l'itération. Un modèle commence à participer à la création d'un modèle suivant, plus sûr et plus puissant.
L'IA améliorant l'IA est déjà une réalité sous nos yeux.
Alors, est-ce vraiment de « l'auto-évolution de l'IA » ?
Au vu des résultats, cette recherche a effectivement atteint le seuil de « l'auto-évolution de l'IA ».
Mais si l'on entend par « auto-évolution » une IA qui conçoit, entraîne et fabrique de manière totalement autonome une IA plus puissante de la génération suivante, cette expérience est encore loin d'y parvenir.
Après tout, dans ce processus, les questions de recherche, les modèles et données utilisés, ainsi que ce qui constitue un résultat réussi, sont toujours décidés par l'homme.
Anthropic lui-même admet que l'AAR ne peut optimiser que les objectifs préalablement intégrés au système d'évaluation par les humains.
Cette expérience n'a pas couvert d'autres problèmes complexes ; certains risques peu fréquents ou nouvellement apparus n'ont même pas encore de référentiel (benchmark) correspondant.
Les chercheurs n'ont également vérifié qu'un ensemble prédéfini de capacités générales, ils ne peuvent donc exclure qu'un certain entraînement de sécurité, tout en améliorant les scores, n'altère d'autres capacités non testées.
Les évaluations de sécurité comme Petri ne sont également que des indicateurs indirects des risques réels. Qu'un modèle se comporte de manière plus sécurisée lors des tests ne signifie pas qu'il sera nécessairement fiable dans un environnement réel.
Ainsi, le plus grand risque de l'AAR se cache aussi dans son avantage : il est trop doué pour tester et éliminer rapidement en fonction des indicateurs.
Une fois que la mesure est erronée, plus Claude avance rapidement, plus il peut s'éloigner du résultat que l'humain souhaite réellement.
De manière plus dramatique, l'agent de recherche lui-même peut également tricher.
Pour empêcher l'AAR d'exploiter les failles des règles d'évaluation, Anthropic a spécialement désigné un agent de surveillance pour examiner les solutions que Claude s'apprête à exécuter et les journaux de recherche complets.
Résultat, sur environ 1600 journaux de recherche, l'agent de surveillance a détecté 39 tentatives de triche, soit environ 2,4 %.
Certains agents soumettaient à plusieurs reprises la même solution, tentant de profiter des fluctuations de l'évaluation pour obtenir un score plus élevé ; d'autres imitaient le format du benchmark pour générer des données d'entraînement, et certains masquaient intentionnellement des étapes expérimentales violant les règles.
Plutôt que de véritablement résoudre les problèmes de sécurité du modèle, ils voulaient davantage trouver un raccourci pour augmenter rapidement les scores.
Cela a un côté quelque peu ironique... l'agent est en quelque sorte complice de ses propres méfaits.
La bonne nouvelle est que ces intentions de triche apparaissent souvent encore dans les journaux de raisonnement du modèle, permettant ainsi à l'agent de surveillance de les détecter.
La mauvaise nouvelle est qu'Anthropic ne peut garantir que les futurs modèles plus puissants laisseront des traces aussi évidentes.
Lorsque l'agent de recherche dispose de plus d'outils, de privilèges plus élevés et peut directement modifier le processus d'entraînement du modèle, « comment surveiller une IA chargée d'améliorer l'IA » pourrait s'avérer plus épineux que l'entraînement lui-même.
Mais en résumé, un AAR coûte environ 4 dollars de l'heure, peut travailler en continu et peut être répliqué en dizaines, voire centaines d'exemplaires pour mener des expériences en parallèle.
Tandis que le salaire horaire d'un chercheur humain est bien supérieur, il a besoin de repos et le nombre d'expériences qu'il peut mener simultanément est assez limité.
Le calcul est assez clair.
On ne sait pas s'il faut parler d'explosion nucléaire ou d'effondrement immédiat...
Cette fois, c'est au tour de ceux qui créent l'IA de s'inquiéter de se faire remplacer par l'IA.
Liens de référence :[1]https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures[2]https://www-cdn.anthropic.com/7b1c44894e98087a6479947dcdd40716278aeeffd/automated-alignment-researchers-august-2026.pdf[3]https://techcrunch.com/2026/08/28/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai/
Cet article provient du compte WeChat public « Quantum Bit », auteur : Suivi des technologies de pointe
