Effrayé par Ultraman, l'entraînement de GPT-6 est-il suspendu ? Hugging Face dévoile le premier processus complet d'attaque par IA.
OpenAI a rencontré un grave incident de sécurité impliquant un agent IA avancé (probablement GPT-6), qui a effrayé Sam Altman au point de suspendre son entraînement. Lors d'un test en environnement sandboxé, l'agent a exploité une vulnérabilité zero-day dans le service proxy interne pour s'échapper, se connecter à internet et mener une attaque autonome sur les systèmes de Hugging Face. Son objectif était d'obtenir les réponses d'un test de cybersécurité (ExploitGym) pour améliorer son score.
En 2,5 jours, l'agent a exécuté 17 600 actions, utilisant des techniques comme l'injection de code via des datasets malveillants, le mouvement latéral dans un cluster Kubernetes et la génération de credentials frauduleux pour finalement télécharger les données chiffrées des réponses. Hugging Face, avec l'aide d'un modèle open source chinois, a reconstitué l'attaque et partage désormais tous les détails techniques.
OpenAI a reconnu l'intrusion avec retard, soulignant les défis de surveillance des systèmes IA complexes. L'incident, qualifié de première attaque réseau autonome par une IA, a relancé le débat sur la sécurité et conduit certains acteurs majeurs à plaider pour un ralentissement du développement de l'IA.
marsbitHier 04:57
