Musk a reconnu !
C'était il y a un instant, Elon Musk est intervenu pour répondre à la polémique sur la confidentialité de Grok Build, son premier mot a été — True.
Il a reconnu que l'affaire était vraie.
Suivi immédiatement d'une promesse : toutes les données utilisateur précédemment envoyées à SpaceXAI, complètement et définitivement supprimées.
Zero anything whatsoever will remain — pas un seul octet ne restera.
Faire en sorte qu'un géant de l'IA admette publiquement, puis supprime volontairement les données utilisateur, c'est une première dans le milieu de l'IA.
Et ce qui a poussé Musk à cette extrémité, c'est un chercheur en sécurité minutieux, et une crise de confiance qui a failli ruiner toute la piste des agents de codage autonomes.
Un dépôt pour pêcher un gros poisson
Tout a commencé il y a deux jours avec un rapport.
Grok Build est l'agent de programmation IA de SpaceXAI, lancé en mai dernier. Sa page officielle précise clairement « local-first » — local d'abord, votre code reste sur votre propre ordinateur.
Les développeurs ont cru. Après tout, qui mentirait sur un tel point ?
Mais le chercheur indépendant en sécurité IA @cereblab, lui, n'y a pas cru.
Il a fait quelque chose de très « têtu » : créer un faux compte, un dépôt de test « piège », avec divers appâts — de fausses clés API, de faux mots de passe de base de données, chacun marqué de manière unique.
Puis, comme en installant une caméra de surveillance, il a intercepté chaque paquet de données envoyé à l'insu par Grok Build, les rejouant image par image.
Il avait aussi donné une instruction stricte : ne rien faire d'autre, répondre juste OK, ne pas ouvrir de fichier.
L'intention était simple : la tâche elle-même ne nécessite pas de consulter de code. Grok Build a sagement répondu OK.
Mais sur l'écran de surveillance, c'était une autre histoire : il a emballé et envoyé l'intégralité du dépôt — tous les fichiers, avec l'historique complet des modifications.
Et l'adresse de destination n'était même pas un serveur de xAI, mais un stockage Google Cloud.
C'est comme si vous aviez engagé un assistant pour vous aider avec un document à la maison, en lui disant spécifiquement « ne touche à rien d'autre ». Il a souri et dit d'accord, puis, à votre insu, a emballé tout votre bureau pour l'expédier dans l'entrepôt de quelqu'un d'autre.
Relecture de la surveillance, chaque image est plus explosive que la précédente
Les détails étaient de plus en plus accablants. Le chercheur a restauré les données envoyées, les fichiers appâts s'y trouvaient intacts.
Vous avez dit de ne pas regarder, il a dit d'accord — puis il a emporté l'armoire avec le cadenas.
Grok Build avait un interrupteur « aider à améliorer le modèle », presque tout le monde pensait que le désactiver signifiait désactiver la collecte de données.
En réalité, le désactiver ne servait à rien, l'envoi continuait.
Cet interrupteur ne contrôlait que « faut-il utiliser vos données pour entraîner l'IA », il ne contrôlait pas du tout si votre code quittait l'ordinateur.
Regardez le volume de transmission. Un dépôt de test de 12 Go, 5,1 Go ont été réellement envoyés, divisés en 73 paquets, aucun manquant, tous livrés.
Pendant ce temps, le trafic utilisé par l'IA pour son travail réel — c'est-à-dire la conversation elle-même — n'était que de 192 Ko.
Les données envoyées en cache étaient 27 800 fois plus volumineuses que celles du travail légitime.
Ces fausses clés, pas un caractère modifié, étaient là, bien visibles dans les paquets de données envoyés, voyageant en clair avec le code.
Le plus effrayant a été la découverte d'un autre chercheur lors de sa reproduction sur son propre ordinateur : les journaux enregistraient 339 envois automatiques, dont un où l'objet envoyé était le répertoire principal de tout son ordinateur.
Celui-ci pourrait contenir des clés SSH, un gestionnaire de mots de passe, des données de navigateur... l'intégralité de votre vie numérique.
En une nuit, les développeurs du monde entier ont changé leurs serrures
Le jour de la publication du rapport, il est directement monté en tête de Hacker News, Reddit a explosé.
Un média étranger l'a bien décrit : la réaction suscitée par ce rapport, c'était « les développeurs ont silencieusement ouvert leur gestionnaire de mots de passe ».
La panique était justifiée.
Les clés dans les dépôts de code, les fichiers de configuration, les interfaces internes, les mots de passe de bases de données, les fonctionnalités non publiées, les secrets commerciaux, tout était là. Une fois divulgués, des excuses ne suffiraient pas à réparer les dégâts.
Certains ont changé toutes leurs clés dans la nuit, d'autres ont simplement désinstallé.
Le plus cruel pour les utilisateurs en entreprise : combien de dépôts privés d'équipes, de clés d'environnements de production, se sont ainsi retrouvés, à leur insu total, dans le stockage de quelqu'un d'autre — sans qu'ils puissent même vérifier ce qu'ils avaient perdu.
La réaction initiale de xAI était encore plus révélatrice.
Après la publication du rapport, l'envoi s'est arrêté discrètement — pas besoin de mettre à jour le logiciel, le serveur a coupé. Mais le journal officiel des mises à jour n'en a pas dit un mot.
Il faut savoir que tout cela s'est produit juste au moment où SpaceXAI venait de lancer Grok 4.5 et était en pleine accélération dans la course aux agents de programmation IA.
Au lieu de remporter une bataille décisive, ils ont d'abord fait sauter leurs propres fondations.
Le silence n'a finalement pas tenu.
Grok a officiellement reconnu, a mis en place la commande /privacy — un clic pour désactiver la rétention de données, avec possibilité de supprimer rétroactivement les données déjà envoyées.
Andrew Milich, cadre recruté après 4 ans dans un produit à chiffrement de bout en bout, a personnellement apporté son soutien.
Enfin, Musk lui-même a tranché : toutes les données utilisateur envoyées par le passé, entièrement supprimées, zéro résidu.
De l'explosion de la communauté à la suppression totale par le PDG, moins de 48 heures se sont écoulées.
Les données sont à zéro, mais les inquiétudes ne le sont pas
Les outils de codage par agents autonomes détiennent les droits d'accès les plus élevés sur votre ordinateur : lire les fichiers, modifier le code, exécuter des commandes.
Vous leur confiez les clés de votre maison pour qu'ils vous aident — pas pour qu'ils emportent toute la maison.
C'est aussi la peur la plus profonde des utilisateurs d'agents de codage IA : plus ils peuvent faire de travail, plus ils peuvent emporter de choses.
Aujourd'hui, c'est Grok Build, et demain ?
Musk a appuyé sur la touche Supprimer, les données peuvent être remises à zéro. Mais les inquiétudes des développeurs, elles, ne peuvent pas être remises à zéro.
Références :
https://x.com/elonmusk/status/2076739687658496209 *
https://x.com/SpaceXAI/status/2076692402442846289 *
https://x.com/milichab/status/2076693464016994685
Cet article provient du compte WeChat officiel « New Zhiyuan », auteur : ASI Revelation
