« L’IA perce les défenses de la NSA en quelques heures » fait le buzz, la vérité révèle-t-elle un exercice Red Team ?
Une déclaration largement diffusée selon laquelle l'IA Mythos d'Anthropic aurait « piraté en quelques heures la quasi-totalité des systèmes classifiés de la NSA » s'est avérée être une interprétation trompeuse d'un exercice de « red team » autorisé. L'origine remonte à un article de *The Economist* citant le sénateur Mark Warner, qui rapportait les propos du chef de la NSA. Le journaliste Shashank Joshi a par la suite clarifié que cette performance s'était déroulée dans des conditions très spécifiques et contrôlées, où Mythos était utilisé avec d'autres outils pour identifier des vulnérabilités dans un environnement répliqué de la NSA, et non pour une intrusion réelle.
Cette démonstration, bien que vertigineuse par sa rapidité, concernait donc un test de sécurité interne. Anthropic limite d'ailleurs l'accès à son modèle avancé Mythos via le « Project Glasswing », une initiative réservée à des partenaires de défense triés sur le volet pour évaluer leurs propres systèmes.
La position du gouvernement américain envers Anthropic et Mythos apparaît ambivalente. Alors que le Pentagone a initialement rompu sa collaboration et qu'un décret a brièvement restreint l'accès à certains modèles suite à des craintes de contournement des garde-fous, la NSA continuerait de les utiliser en interne. Cette situation souligne le double enjeu : reconnaître les capacités offensives potentielles de l'IA tout en cherchant à les exploiter pour la cybersécurité nationale. L'épisode met enfin en lumière la difficulté de réguler ces technologies et la rapidité avec laquelle une information contextuelle peut être déformée lorsqu'elle circule.
marsbit06/23 00:58
