Article | Jin Duan
Vendredi dernier, une lettre a mis hors ligne les deux IA les plus puissantes du monde. Un décret de contrôle à l'exportation du Département du Commerce américain : interdiction de tout contact par des citoyens étrangers avec les modèles Fable 5 et Mythos 5 d'Anthropic. Incapable de vérifier en temps réel la nationalité des utilisateurs, Anthropic a fait la seule chose possible : fermer l'accès à ces deux modèles, publiés depuis seulement trois jours, à tout le monde, partout dans le monde.
Pour la première fois, une entité intelligente existant sous forme de bits a été intégrée dans le même cadre de contrôle à l'exportation que l'uranium enrichi.
Le scénario de l'uranium enrichi se rejoue
Historiquement, les contrôles à l'exportation n'ont été appliqués qu'à deux types de choses : le matériel et les formules. Comme nous le savons, les centrifugeuses pour l'uranium enrichi, les lithographes de pointe, les algorithmes de chiffrement de niveau militaire, etc.
Leur point commun est la rareté physique. Sans l'équipement, sans les plans, vous ne pouvez pas les fabriquer. Le contrôle est efficace parce que les choses contrôlées ont une frontière physique, peuvent être interceptées aux douanes, tracées dans la chaîne d'approvisionnement.
Mais Fable 5 est un ensemble de paramètres. Il peut être reproduit à l'infini, sans passer par la douane, sans conteneur, sans action physique de "contrebande". En théorie, il peut s'éveiller sur n'importe quel serveur dans le monde. Le Département du Commerce américain a constaté que tous les outils traditionnels étaient inefficaces, qu'il ne pouvait pas arrêter Fable 5 à la frontière, seulement le couper à la source.
Le véritable objet du contrôle est la "densité de capacité" condensée par cet ensemble de paramètres : capacité de génération de code, capacité de raisonnement et de planification, capacité d'utilisation de connaissances transdisciplinaires. Quand ces capacités étaient dispersées dans les cerveaux de nombreux ingénieurs, elles n'avaient jamais déclenché de contrôle. Mais quand elles sont compressées dans un modèle, quand une personne peut invoquer toutes ces capacités avec une simple commande, la compression elle-même devient une menace.
C'est l'application précise de la logique de l'uranium enrichi dans le monde numérique.
Le minerai d'uranium est répandu dans la croûte terrestre, jamais contrôlé ; mais lorsqu'il est enrichi à un certain degré, il devient la substance la plus surveillée sur Terre. Même logique pour les modèles : une capacité unique dispersée dans des bibliothèques de code open source, des questions-réponses techniques et des articles académiques est libre. Lorsque toutes ces capacités sont "enrichies" dans une interface unique et invocable, elles franchissent ce seuil, et le prix de ce franchissement est d'être coupées.
L'histoire de l'uranium enrichi offre un miroir pour comprendre cela.
En 1938, Hahn et Strassmann découvrent la fission nucléaire à Berlin. Les dix années suivantes, l'uranium passe d'un élément de laboratoire obscur à la matière première stratégique la plus sensible sur Terre. En 1946, les États-Unis adoptent l'Atomic Energy Act, plaçant toutes les technologies, matières et connaissances nucléaires sous contrôle gouvernemental. Les capitaux privés sont exclus du domaine de l'énergie nucléaire, les échanges internationaux des scientifiques sont coupés, même les données physiques de base sont classées secrètes. Un élément purement naturel se retrouve ainsi enchaîné par des carcans politiques.
Il y a quatre-vingts ans, ce contrôle était basé sur une logique froide : certaines forces sont trop puissantes pour être maîtrisées par toute entité dont la considération ultime n'est pas l'intérêt national. Quatre-vingts ans plus tard, la même logique risque d'être réactivée, passant de la fission du noyau atomique à la propagation avant dans les réseaux neuronaux.
Dans les dix prochaines années, trois choses se produiront
Le contrôle de l'uranium enrichi a donné naissance, dans les années 1950, à une toute nouvelle structure de gouvernance internationale : l'Agence internationale de l'énergie atomique, le Traité de non-prolifération nucléaire, le Groupe des fournisseurs nucléaires. Une fois établi, le contrôle technologique tend irréversiblement vers l'institutionnalisation, la multilatéralisation, la pérennisation.
L'IA ne fera pas exception. Dans la prochaine décennie, trois choses se produiront probablement.
1. L'audit des capacités deviendra institutionnel.
Chaque nouveau modèle de pointe, avant sa publication, devra non seulement subir des tests de sécurité (red teaming), mais aussi un audit de conformité par des tiers autorisés par le gouvernement. Les normes d'audit ne viendront pas des entreprises elles-mêmes.
L'évaluation des capacités des modèles passera du "benchmark" à la "liste". Chaque capacité sur la liste susceptible d'être détournée déclenchera des exigences de contrôle supplémentaires. Le "degré d'enrichissement" du modèle – volume de paramètres, profondeur de raisonnement, capacité de généralisation transdisciplinaire – sera mesuré avec précision comme la concentration d'uranium-235, et des seuils seront définis. Un modèle dépassant un certain seuil déclenchera automatiquement les clauses de contrôle à l'exportation.
2. Les frontières de la juridiction deviendront floues.
L'ordre concernant Fable 5 cible les "citoyens étrangers", quel que soit leur lieu de résidence. Pour la première fois, le bras régulateur du gouvernement américain s'étend à chaque utilisateur dans le monde.
Un développeur à Singapour, utilisant l'API d'une entreprise américaine, est soumis à la loi américaine sur le contrôle des exportations. Une entreprise à Berlin voit les obligations de conformité de son fournisseur d'IA déterminées non par le droit allemand, mais par un décret du Département du Commerce américain.
Cette expansion unilatérale de la juridiction forcera les entreprises non américaines à repenser leur chaîne d'approvisionnement en IA : votre fournisseur américain peut, un jour, être sommé par le gouvernement américain de couper votre accès. L'épisode Fable 5 donne une réponse claire : il le peut.
3. Les trajectoires technologiques divergeront.
Face au risque de coupures répétées pour les modèles de pointe propriétaires, l'industrie mondiale de l'IA sera forcée d'évoluer vers un système à double voie.
Une voie sera celle des modèles de pointe propriétaires américains, soumis aux contrôles à l'exportation, chaque publication accompagnée du risque d'être retirée. L'autre voie sera celle des modèles open source, des modèles déployés localement, des modèles relevant de juridictions non américaines ; ils seront peut-être moins avancés, mais ils ne seront pas menacés de coupure par le gouvernement américain.
La part de marché des modèles open source sera motivée non seulement par les performances, mais aussi par l'attribut de sécurité "ne pas être débranché". Ces trois dernières années, les modèles open source rattrapaient les modèles propriétaires en capacités ; dans les dix prochaines années, ils pourraient acquérir un avantage structurel sur les modèles propriétaires sur la dimension de la "fiabilité".
La fracture la plus profonde est dans le régime de propriété
Toutes les projections ci-dessus reposent sur une question fondamentale encore sans réponse. La crise la plus profonde révélée par l'incident Fable 5 est que la civilisation numérique n'a toujours pas établi de régime de propriété pour l'"intelligence".
Juridiquement, un modèle est vendu comme un service. Vous payez, j'utilise mes actifs pour faire quelque chose pour vous. Mes actifs restent toujours les miens, vous achetez seulement leur production. Cette logique a fonctionné pendant des millénaires dans les services traditionnels, sans problème.
Mais l'IA est différente. Lorsque votre entreprise a passé trois mois à optimiser tous ses outils internes sur la base des comportements spécifiques de Fable 5, à former ses employés, à écrire des centaines de scripts automatisés dépendant du format de sortie spécifique de ce modèle, vous avez fait de Fable 5, en pratique, votre moyen de production.
Mais juridiquement, il reste le service d'Anthropic. Il peut être révoqué n'importe quel jour, et l'indemnisation que vous obtiendrez ne dépassera pas le montant de votre abonnement du mois dernier.
Vous avez engagé des investissements réels en moyens de production, mais vous bénéficiez d'une protection juridique au niveau d'un service. L'écart entre les deux est la perte subie par tous les clients entreprises du monde lors du retrait de Fable 5. Cette perte n'apparaît sur aucun bilan, ne déclenche aucune indemnisation d'assurance, aucune clause légale ne la couvre.
L'humanité a passé trois cents ans à construire un système juridique sur la "propriété". Une parcelle de terre, une usine, un brevet ont tous des règles claires d'attribution, de transaction et de résolution des litiges. Mais ce système a une prémisse par défaut : la propriété est tangible, ou a au moins un support traçable.
Un modèle est débranché, vous ne pouvez rien faire. Il n'est ni volé, ni détruit. Il existe toujours, on vous empêche simplement de l'utiliser. C'est une nouvelle forme de privation : on ne prive pas de l'objet, mais du droit d'usage. Et le droit d'usage, juridiquement, ne vous a jamais appartenu.
L'uranium enrichi est contrôlé depuis quatre-vingts ans, il reste l'actif technologique le plus sensible de l'humanité. Le contrôle de l'IA ne fait que commencer, son aboutissement pourrait être un monde numérique définitivement fracturé. Dans ce monde, le modèle le plus intelligent ne sera pas nécessairement celui qui est utilisable. Le modèle utilisable sera celui dont la propriété est la plus claire. Ne pas être dépossédé, à un moment historique donné, est bien plus important qu'être temporairement en avance.
