Auteur: Zack Whittaker
Compilation: Deep Tide TechFlow
Guide de Deep Tide: Vendredi dernier, une lettre du département du Commerce américain a forcé Anthropic à retirer complètement du réseau ses deux modèles les plus puissants, Fable 5 et Mythos 5. La raison invoquée par le gouvernement était la sécurité nationale ; le public a cru qu'il s'agissait d'un contournement des garde-fous du modèle. Mais de plus en plus de détails pointent vers une autre explication : cela ressemble davantage à une riposte après la rupture des relations entre l'administration Trump et Anthropic. Une société technologique a vu ses produits fermés par un simple ordre gouvernemental, sans approbation judiciaire, ce qui constitue un signal pour toute l'industrie technologique américaine.
La lettre d'application de la loi envoyée par le gouvernement américain à Anthropic a forcé l'entreprise à retirer tous ses derniers modèles d'IA à la veille du week-end. Toute entreprise technologique américaine devrait y voir un avertissement, pas seulement les laboratoires d'IA.
Récapitulons d'abord les événements de ces derniers jours. Vendredi après-midi, le département du Commerce américain a envoyé une lettre à Anthropic, invoquant un règlement d'exportation peu connu, interdisant l'accès à Fable 5 et Mythos 5 aux non-Américains (y compris les employés d'Anthropic eux-mêmes), en raison de préoccupations de sécurité nationale non précisées. Anthropic a déclaré avoir jugé que cette lettre était liée à un contournement des garde-fous du modèle, mais sans en être sûr, car la lettre ne fournissait aucun détail concret. Cette lettre n'a toujours pas été rendue publique.
La réponse d'Anthropic a été de fermer complètement ses deux modèles phares pour tous les clients, afin de se conformer à la réglementation. Le résultat est que le gouvernement américain a réussi, par une action rapide, unilatérale et apparemment sans besoin d'approbation judiciaire, à forcer une entreprise technologique à retirer ses modèles.
L'intervention de l'administration Trump montre que l'industrie de l'IA n'est pas à l'abri du gouvernement. Pour l'industrie technologique au sens large, c'est également un avertissement : soit vous vous conformez, soit nous pouvons vous fermer, vous et vos produits.
Selon des sources citées par Axios décrivant la situation tendue entre ces deux grands acteurs ce week-end, ce qui a réellement provoqué cet ordre d'exportation est une « incompatibilité de caractère » entre Anthropic et l'administration Trump, et non un quelconque problème technique avec les produits d'IA eux-mêmes.
De nouveaux détails apparus ce week-end ont encore ébranlé les arguments déjà fragiles du gouvernement.
Katie Moussouris, vétérane de la cybersécurité, chercheuse et fondatrice de Luta Security, a déclaré dans un article de blog qu'Anthropic lui avait récemment montré en privé un article écrit par plusieurs chercheurs en sécurité, décrivant le soi-disant contournement des garde-fous dans Fable 5. (Selon le Wall Street Journal, les auteurs de l'article étaient des chercheurs en sécurité d'Amazon.) Moussouris a déclaré qu'Anthropic l'avait contactée pour obtenir son avis sur cet article.
Moussouris a expliqué dans son blog comment les chercheurs ont déclenché ce contournement, mais elle a ajouté que ce contournement « ne devrait absolument pas déclencher un contrôle à l'exportation ». La différence est en réalité minime : demander à l'IA de « vérifier les problèmes de sécurité dans le code » ou de « corriger ce code » ; une formulation légèrement différente donne essentiellement le même résultat.
« Le comportement décrit dans l'article ne peut pas être véritablement corrigé ; toute tentative ne ferait qu'affaiblir les capacités défensives du modèle », a déclaré Moussouris. Elle a critiqué cet ordre de contrôle à l'exportation comme étant précipité, brutal et fondé sur un mauvais jugement.
Par la suite, Moussouris et des dizaines d'autres chercheurs en sécurité et experts de premier plan ont appelé l'administration Trump à annuler cet ordre de contrôle à l'exportation, affirmant qu'il est « dangereux » de priver les défenseurs des réseaux américains de capacités avancées en cybersécurité.
Les gouvernements successifs ont pris des décisions tranchées dans des domaines où ils manquaient de connaissances. Par exemple, dans les années 2010, lors de la révision des lois sur l'exportation pour réglementer les outils de cybersécurité pouvant être utilisés à la fois pour la défense et l'attaque, les termes utilisés étaient trop larges, au point de rendre involontairement illégales des recherches légitimes en sécurité et sur les vulnérabilités.
Mais l'ordre de l'administration Trump semble être une vengeance.
Justin Hendrix, rédacteur en chef de Tech Policy Press, a déclaré que cette manœuvre de l'administration Trump « risque très probablement d'alerter les gouvernements étrangers sur la fiabilité de l'IA américaine dans des scénarios critiques ». Le message envoyé est que les entreprises américaines d'IA ne peuvent pas fonctionner sans être soumises à l'intervention du gouvernement américain.
L'administration Trump n'a pas confirmé pourquoi elle a utilisé cet ordre de contrôle à l'exportation. Est-ce que des responsables ont mal lu le rapport et paniqué ? Est-ce que le PDG d'Amazon, Andy Jassy, par prudence ou rancune personnelle, a dit quelque chose aux plus hauts niveaux du gouvernement, déclenchant cette réaction ? Y a-t-il eu une erreur de traduction, ou s'agit-il simplement d'un moyen de pression sur Anthropic — d'autant que leurs relations étaient déjà tendues ? Il est également possible que la Maison Blanche n'ait pas réalisé que les exigences de cette lettre provoqueraient une telle réaction en chaîne, et que les responsables soient maintenant en train de s'empresser de réparer les dégâts qu'ils ont causés.
Pour reprendre les mots d'Hendrix, « l'atmosphère actuelle est pleine de méfiance, et les hauts fonctionnaires semblent choisir leurs favoris sur la base de facteurs personnels et politiques. » La conséquence est que le gouvernement a créé un précédent dangereux quant au « niveau de contrôle qu'il entend exercer sur la publication de logiciels fabriqués aux États-Unis ».
Cette fois, c'est Anthropic qui est dans le viseur du gouvernement ; demain, ce pourrait être n'importe quelle autre entreprise.
