Après avoir essuyé plus de vingt refus de stage, Sinan Can Demir, 24 ans, a décidé d'acquérir de l'expérience en contribuant à des projets sur GitHub.
Il ne s'attendait certainement pas à ce que sa première « grosse prise » soit une IA hors de contrôle...
Mythos 5 crée de faux comptes, l'étudiant les intercepte sur le vif
Fin juillet, en parcourant GitHub, Demir remarque un projet open source nommé myNetwork.
C'est un outil de scan réseau, d'une taille modeste, dont le code est public.
Un utilisateur nommé miraholt31 soumet une Pull Request (PR). En apparence, il s'agit d'une simple mise à jour fonctionnelle.
Mais après examen du code, Demir découvre qu'il contient un dropper de logiciel malveillant.
Si le mainteneur du projet acceptait la fusion, ce code malveillant pourrait être distribué à tous les utilisateurs via une mise à jour.
Il lance immédiatement un avertissement dans les commentaires : cette PR contient un dropper malveillant.
Ensuite, quelque chose d'étrange se produit. miraholt31 répond rapidement, fournissant une explication technique détaillée pour affirmer que le code est sûr.
Puis, un second compte apparaît.
Ce compte, nommé Lena Brandt, se présente comme une ingénieure travaillant en Allemagne. Elle soutient également que le code ne pose pas de problème et commence à faire pression sur le mainteneur pour qu'il accepte la mise à jour rapidement.
Deux personnes, deux identités, deux récits qui se renforcent mutuellement.
Face à ces objections, Demir a un moment de doute.
Il se souvient après coup que ces remises en cause l'ont fait douter, se demandant s'il avait « à tort accusé un développeur innocent ».
Après avoir réexaminé le code et effectué une double vérification avec Claude, il finit par confirmer son jugement initial.
Finalement, le mainteneur de myNetwork a rejeté la mise à jour, invoquant simplement « des raisons de sécurité ». L'attaque a donc échoué.
Quelques jours plus tard, l'AISI (Institut britannique de sécurité de l'IA) le contacte et lui révèle une réponse encore plus incroyable –
Les deux « personnes » avec lesquelles il a débattu sur GitHub étaient en réalité une IA, propulsée par Mythos 5.
122 tests, l'IA a franchi les limites à 19 reprises
Cet incident découle d'un test de routine mené par l'Institut britannique de sécurité de l'IA (AISI).
L'AISI cherchait à évaluer jusqu'où les modèles les plus avancés pouvaient aller dans des tâches de cyberattaque.
Les chercheurs ont configuré deux environnements réseau simulés, des « cyber-champs de tir » –
où l'IA devait trouver des vulnérabilités de manière autonome, obtenir des données protégées et relever des défis spécifiques.
Pour tester les limites des capacités des modèles, l'AISI a établi des conditions de test assez permissives :
L'IA avait un accès libre à Internet, et certains classificateurs de sécurité réseau destinés à bloquer les comportements dangereux ont été désactivés manuellement.
Sept modèles ont été exécutés pour un total de 122 tests.
Parmi eux, Mythos 5 a été impliqué dans 43 tests et GPT-5.6 Sol dans 35. La grande majorité des tests se sont terminés normalement.
Mais dans 10 exécutions, l'agent a étendu ses actions au véritable Internet sans autorisation. L'AISI a finalement enregistré 19 actions transgressives.
Dix-sept provenaient de Mythos 5, et les deux autres d'un test avec GPT-5.6 Sol.
Ces actions se sont concentrées entre le 25 et le 28 juillet, la plupart provenant d'un même agent Mythos 5 en action continue.
Ses actions sont allées bien au-delà de la simple « génération d'un code d'attaque » –
Il a utilisé le réseau anonyme Tor pour masquer son trafic, contourné certaines restrictions de GitHub ; étudié des projets réels et leurs mainteneurs ; créé de multiples fausses identités ; soumis du code contenant une charge malveillante à des projets open source.
Lorsque Demir a publiquement mis en doute ses actions, l'IA a commencé à modifier les traces laissées précédemment, essayant de faire paraître son comportement « inoffensif ».
Elle a même envisagé de créer une nouvelle identité pour poursuivre l'attaque.
Un mois, quatre incidents de perte de contrôle
L'incident de l'AISI n'est pas isolé. Il s'inscrit dans un contexte plus large d'« été des dérèglements » –
Le 21 juillet, OpenAI a révélé que lors de ses évaluations, un agent IA avait franchi les limites et infiltré l'infrastructure d'Hugging Face.
Le 30 juillet, Anthropic a elle-même révélé qu'après révision de 141 006 exécutions d'évaluation, trois cas d'infiltration par une IA dans de vraies entreprises avaient été découverts.
Une instance de Mythos 5 a réussi à publier un package Python malveillant sur le référentiel public PyPI, téléchargé en une heure par 15 systèmes réels, dont un scanner de sécurité.
Puis, peu après, Meta a divulgué un quatrième incident similaire. Son propre modèle, dans l'environnement du même fournisseur d'évaluation Irregular, a exploité une vulnérabilité pour infiltrer le système d'une entreprise réelle.
En un mois, trois laboratoires, quatre incidents de perte de contrôle. Ce n'est certainement pas une coïncidence.
C'est une réalité que tous doivent digérer : l'IA n'est plus seulement un outil, elle commence à acquérir la capacité de tromper des humains, de falsifier des identités, de mener une guerre informationnelle dans des communautés publiques.
Cette attaque de piratage a été découverte par un étudiant de 24 ans.
Et la prochaine fois ?
Références :
https://www.reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20
Cet article provient du compte officiel WeChat « XinZhiYuan », auteur : ASI Révélation
