Auteur : Ben Thompson
Compilation : Deep Tide TechFlow
Guide Deep Tide : Le nouveau modèle Fable d'Anthropic a été arrêté en urgence par le gouvernement américain seulement deux mois après son lancement. En apparence, il s'agissait d'une « fuite de sécurité », mais cela révèle en réalité la double guerre que les laboratoires d'IA mènent contre le gouvernement et l'industrie du logiciel. Cette entreprise qui fait de la « sécurité » son argument de vente est en train de transformer le récit de la sécurité en un fossé commercial, et ce qu'elle cherche vraiment à capturer, ce sont les données utilisateurs détenues par Microsoft et autres.
Je comprends la position de ceux qui se moquent, ils pensent toujours que les déclarations publiques d'Anthropic – en particulier les justifications lors du lancement de modèles – sont de la panique marketing. Il y a deux mois, Anthropic annonçait le lancement de Mythos Preview, affirmant que ce modèle était trop dangereux pour être rendu public, notamment en raison de ses puissantes capacités en cybersécurité. Deux mois plus tard, l'entreprise a rendu public Fable, la version de Mythos bardée de multiples garde-fous de sécurité.
Pour autant que j'aie pu l'expérimenter, Fable est effectivement un modèle exceptionnel. À part les performances en programmation, il est désormais difficile d'évaluer objectivement un modèle, mais les impressions subjectives existent. J'ai trouvé l'interaction avec Fable extrêmement agréable ; elle fait paraître les autres modèles, y compris GPT 5.5 et Opus 4.8, petits et stupides. Je n'ai ressenti cela que deux fois auparavant, avec GPT-4 et Grok 4, qui représentaient tous deux une nouvelle génération en termes d'échelle et de complexité du modèle de base. Je pense que Fable provient d'un nouveau pré-entraînement et est le premier d'une nouvelle génération.
Par conséquent, j'accepte tout à fait que Fable/Mythos soit effectivement plus fort pour identifier et exploiter les problèmes de sécurité, et qu'Anthropic ait raison d'être prudent dans son déploiement. Mais le problème de publier un modèle est que les garde-fous peuvent être contournés, et manifestement, cela s'est produit peu après la publication.
Anthropic en confrontation avec le gouvernement américain, encore
Ce qui s'est passé ensuite est un peu flou. Anthropic écrit dans un article de blog :
Le gouvernement américain, invoquant ses pouvoirs de sécurité nationale, a émis une ordonnance de contrôle à l'exportation suspendant l'accès à Fable 5 et Mythos 5 pour tous les ressortissants étrangers, que ce soit sur le territoire américain ou à l'étranger, y compris les employés étrangers d'Anthropic. L'effet pratique de cet ordre est que nous avons dû désactiver soudainement Fable 5 et Mythos 5 pour tous les clients afin de nous conformer. L'accès à tous les autres modèles d'Anthropic n'est pas affecté.
Nous avons reçu l'instruction du gouvernement aujourd'hui à 17h21 (heure de l'Est). La lettre ne fournissait pas de détails spécifiques sur les préoccupations de sécurité nationale. Nous comprenons que le gouvernement estime avoir découvert une méthode pour contourner ou « jailbreaker » Fable 5. Nous avons examiné la démonstration utilisant cette technique spécifique pour identifier un petit nombre de petites vulnérabilités connues. Ces vulnérabilités semblaient toutes relativement simples, et nous avons constaté que d'autres modèles disponibles publiquement étaient également capables de les découvrir sans contournement.
Anthropic argumente ensuite que les jailbreaks non génériques sont inévitables et de portée limitée, qu'il n'y a pas de preuve d'un jailbreak générique ; et que le jailbreak découvert semble avoir été signalé par Amazon, ce qui est notable car Amazon est à la fois un investisseur d'Anthropic et le principal fournisseur de services de raisonnement de l'entreprise. Au moment où j'écris ces lignes, les dirigeants d'Anthropic sont à Washington D.C., essayant de résoudre ce qu'ils soutiennent être un malentendu, tandis que les responsables de la Maison Blanche laissent entendre que la direction de l'entreprise est indifférente à des préoccupations légitimes de sécurité nationale.
Étant donné qu'il y a trop de faits en litige, je n'ai pas grand-chose à ajouter sur le conflit actuel ; mais je ne suis pas surpris que le conflit existe : j'ai déjà expliqué dans mon article « Anthropic et l'Alignement » que le conflit entre le gouvernement américain et Anthropic était inévitable. En ce sens, ceux qui pensent que Mythos n'est pas encore assez puissant pour justifier une action gouvernementale aussi drastique manquent l'essentiel : s'il ne l'est pas maintenant, le prochain le sera, ou celui d'après, d'autant plus que les modèles deviennent de plus en plus utiles pour créer leurs successeurs.
Cependant, cela soulève une autre question – une question qui semble confirmer le point de vue des moqueurs : si Mythos est si dangereux, pourquoi publier Fable en premier lieu, pourquoi s'opposer au gouvernement en faisant ce que vous prétendez vouloir ? En fait, je trouve le comportement d'Anthropic parfaitement compréhensible ; ce qui est unique chez l'entreprise, c'est comment elle justifie ces actions, et ce sont ces justifications qui donnent à la fois du grain à moudre aux moqueurs et sa magie à Anthropic.
Nécessité économique
Pendant les premières années de l'IA, la plus grande valeur économique est allée à la puissance de calcul, pour une raison évidente : nous n'avions pas assez d'offre pour satisfaire la demande, ce qui a fait monter les prix en flèche ; les principaux bénéficiaires ont été Nvidia, TSMC et les fabricants de mémoire (SK Hynix, Samsung et Micron). Pendant ce temps, Anthropic et OpenAI ont perdu des dizaines de milliards de dollars combinés pour construire des modèles de pointe qui, une fois publiés, ont été distillés et transformés en commodités par des modèles open source, principalement chinois.
Cela représente le scénario pessimiste pour les laboratoires – ils ne pourront jamais couvrir leurs coûts, car leur différenciation est éphémère et les alternatives gratuites deviennent « assez bonnes » – ce que je trouve plausible. Dans un monde où les modèles sont interchangeables, les modèles sont des commodités, et la majeure partie de la valeur va ailleurs. Actuellement, c'est la puissance de calcul, mais avec le temps, lorsque nous aurons suffisamment de puissance de calcul, la position la plus précieuse de la chaîne de valeur sera celle qui l'a toujours été : posséder le point de contact avec l'utilisateur.
Par conséquent, il y a une nécessité économique pour les laboratoires de pointe de se rapprocher de l'utilisateur, ce qui m'a toujours semblé évident. Si vous possédez le point de contact avec l'utilisateur, alors vous avez un verrouillage significatif, et la meilleure façon de posséder ce point de contact est de devenir la toile sur laquelle ils font tout ce dont ils ont besoin. Cela signifie à son tour que les laboratoires de pointe se dirigent vers un conflit avec les entreprises de logiciels : ce sont les logiciels qui possèdent le point de contact utilisateur, et l'intérêt à long terme des laboratoires de pointe n'est pas de simplement devenir une matière première logicielle, mais de remplacer directement les logiciels.
Pendant ce temps, les entreprises de logiciels s'efforcent de faire l'inverse. Satya Nadella expose dans un article sur X sa vision de la façon dont les entreprises devraient construire sur les modèles :
Chaque entreprise doit construire ce que j'appelle le capital humain et le capital token. Le capital humain comprend la connaissance, le jugement, les relations, l'ingéniosité et la reconnaissance des schémas de ses employés, tandis que le capital token est la capacité d'IA que l'entreprise construit et possède. Il est important qu'avec la croissance du capital token, le capital humain ne perde pas de valeur. Il devient seulement plus précieux ! Je crois que l'initiative humaine sera le moteur de la croissance du capital token. Les humains fixeront des objectifs ambitieux, connecteront les points entre les domaines, établiront des relations et identifieront les schémas les plus importants. Sans guide humain, votre puissance de calcul tourne à vide.
Cela signifie que la vraie opportunité ne réside pas dans le choix du meilleur modèle, mais dans la construction de boucles d'apprentissage sur le modèle, permettant au capital humain et au capital token de croître de manière composée. Vous pouvez externaliser une tâche, voire un emploi, mais vous ne pouvez jamais externaliser votre apprentissage. L'avenir de l'entreprise est de permettre à cet apprentissage de s'accumuler de manière composée entre les personnes et l'IA. Cela nécessite une nouvelle approche architecturale permettant à chaque entreprise de construire des systèmes d'agents qui s'améliorent avec le temps, tout en conservant le contrôle de sa propriété intellectuelle. Les entreprises devraient pouvoir changer de modèles « généraux » sans perdre l'expertise des « vétérans de l'entreprise » intégrée dans leurs systèmes d'apprentissage. C'est le test clé de votre contrôle et de votre souveraineté à l'ère future.
Nadella a lancé cette vision avec un avertissement :
Ce que nous ne voulons pas voir, c'est un monde où chaque entreprise de chaque industrie cède sa valeur à une poignée de modèles tout-puissants. Si toute la valeur n'est capturée que par une poignée de modèles, l'économie politique ne le tolérera tout simplement pas. La société n'accordera pas sa licence à un avenir de l'IA qui vide des industries entières.
Pensez à ce qui s'est passé dans la première phase de la mondialisation, des économies industrielles entières ont été délocalisées et vidées. En surface, les chiffres du PIB semblaient bons, mais les déplacements étaient réels, et les conséquences se font encore sentir aujourd'hui. Ne reproduisons pas cette dynamique à l'ère de l'IA, laissant une poignée de systèmes d'IA capturer tous les bénéfices économiques, tandis que des industries entières voient leurs connaissances se transformer en commodités sous leurs yeux.
Le problème de cette analogie est que : la mondialisation s'est effectivement produite, les économies industrielles ont effectivement été vidées. Cela pourrait bien être non pas un avertissement mais une prophétie ; pas étonnant que Nadella tire la sonnette d'alarme, car Microsoft pourrait en être l'une des victimes. De même, la nécessité économique des fabricants de modèles est précisément de réaliser cela.
Nécessité des données
Ces modèles – même Mythos – n'en sont pas encore là. Ce dont ils ont besoin, en plus de plus de puissance de calcul, ce sont plus de données, de meilleure qualité. L'amélioration des modèles provient de plus en plus de l'apprentissage par renforcement ; une partie peut être générée de manière synthétique, mais le levier le plus puissant pour les laboratoires de pointe est l'utilisation dans le monde réel.
Je pense que c'est la principale raison pour laquelle OpenAI et Anthropic proposent tous deux des plans d'abonnement fortement subventionnés. SemiAnalysis a récemment estimé que le plan à 200 $ vous donne l'équivalent de 8000 $ de tokens Claude et 14000 $ de tokens Codex. Bien sûr, les deux se disputent la part d'esprit des utilisateurs et des développeurs, mais ils se disputent aussi l'accès aux données d'utilisation réelle pour améliorer les modèles.
Anthropic a augmenté la mise sur Fable, annonçant qu'ils conserveraient toutes les données utilisées pendant 30 jours, même pour les plans Entreprise qui promettaient auparavant une rétention zéro. L'entreprise dit qu'elle n'utilisera pas ces données pour l'entraînement, mais elle n'a mis en place aucune garantie pour s'assurer qu'elle ne le fera pas à l'avenir (comme stocker les données chez un tiers). Si ce changement de politique (lorsque Fable sera restauré) ne provoque pas une hémorragie massive de clients, je soupçonne que commencer à utiliser les données n'est qu'une question de temps : c'est trop précieux pour leur objectif final.
Notez également la boucle vertueuse avec la remontée vers le point de contact utilisateur : plus les workflows sont accomplis directement avec Claude ou Codex, plus chaque entreprise obtient de données qui peuvent être réinjectées dans l'entraînement, ce qui rend son produit plus puissant et plus utile, élargit le nombre de workflows qu'elle peut servir, élargit son accès aux données.
Nadella souligne l'importance de ces données dans son article, mais pense naturellement qu'elles devraient être indépendantes du modèle :
Les entreprises doivent transformer les workflows, les connaissances du domaine et le jugement accumulé en systèmes d'IA qui s'améliorent à chaque utilisation. L'évaluation privée devrait capturer si le modèle s'améliore vraiment sur des résultats importants pour l'entreprise (pas seulement sur des benchmarks externes !). Les environnements d'apprentissage par renforcement privés devraient permettre au modèle de devenir plus fort sur les trajectoires réelles au sein de l'organisation. Sa base de connaissances rend la mémoire institutionnelle interrogeable, l'utilisation des tokens plus efficace.
Cette boucle devient la nouvelle propriété intellectuelle de l'entreprise. Je la vois comme une machine à gravir les montagnes. Contrairement à la plupart des actifs, elle est à intérêts composés. Chaque workflow amélioré génère un meilleur signal d'entraînement, ce qui accélère l'accumulation de connaissances tacites uniques à l'entreprise. Les entreprises qui construisent cela tôt auront un avantage difficile à reproduire, quelles que soient les nouvelles capacités d'un modèle individuel.
Cependant, que se passe-t-il si les entreprises qui se conforment à la politique de données d'Anthropic obtiennent dès maintenant de meilleurs résultats ? Ou si les entreprises existantes résistent, laissant une opportunité à de nouvelles entreprises – ou aux fabricants de modèles eux-mêmes – de les battre sur le marché ? Anthropic met vraiment à l'épreuve la détermination que Nadella appelle de ses vœux.
Revendication de pouvoir
La politique de rétention de données autour de Fable/Mythos n'était même pas la partie la plus controversée du lancement. Au lieu de cela, Anthropic a déclaré lors du lancement qu'il réduirait silencieusement les performances de Fable s'il était utilisé pour le développement de LLM ; la fiche système indiquait :
Nous avons également ajouté des garde-fous liés au développement de LLM de pointe. Comme discuté dans la section 6.1 de notre rapport sur les risques de février 2026, nous nous inquiétons des risques d'accélérer le rythme global du développement de l'IA, même si nous restons incertains de la gravité de ces risques. En particulier, notre inquiétude est – comme nous l'avions écrit à l'époque – « d'accélérer la capacité d'autres développeurs d'IA à construire des systèmes d'IA puissants avec des risques similaires aux nôtres – sans nécessairement avoir les garde-fous correspondants. »
Étant donné que les modèles récents ont la capacité d'accélérer leur propre développement, nous avons mis en place de nouvelles interventions limitant l'efficacité de Claude sur les requêtes liées au développement de LLM de pointe (par exemple, la construction de pipelines de pré-entraînement, d'infrastructures de formation distribuée ou de conception d'accélérateurs ML). Utiliser Claude pour développer des modèles concurrents était déjà contraire à nos conditions d'utilisation, mais appliquer cette limitation via des garde-fous évite d'accélérer les acteurs les plus susceptibles de violer ces conditions.
Contrairement à nos interventions en cybersécurité, biochimie et tentatives de distillation, ces garde-fous ne sont pas visibles pour l'utilisateur. Fable 5 ne reviendra pas à un autre modèle. Au lieu de cela, les garde-fous limiteront l'efficacité via des modifications de prompt, des vecteurs de guidage ou des méthodes de fine-tuning paramétrique efficace (PEFT). Ces interventions n'affecteront pas la grande majorité du travail de programmation. Nous estimons qu'elles affecteront environ 0,03 % du trafic, concentrées dans moins de 0,1 % des organisations. Lorsque ces interventions sont actives, nous nous attendons à ce que leur impact sur le comportement du modèle soit minime, à part limiter son efficacité pour développer des LLM de pointe. Claude répondra toujours de manière utile aux requêtes des utilisateurs. Nous continuerons à améliorer la précision de nos méthodes de détection après la sortie de ce modèle.
Anthropic a retiré ce changement – Fable transférera les requêtes liées aux LLM à Opus 4.8 et informera l'utilisateur de ce transfert – mais je trouve la politique initiale très révélatrice. D'une part, je ne reproche pas vraiment à Anthropic de ne pas vouloir aider ses concurrents ; d'autre part, il devrait être très clair qu'Anthropic pense que personne d'autre qu'eux ne devrait fabriquer de LLM de pointe.
Cette politique est d'autant plus frappante qu'elle a été promulguée seulement deux mois après le différend d'Anthropic avec le ministère de la Guerre : ce dernier voulait utiliser Claude pour toute utilisation légale, tandis que le premier souhaitait des contrôles plus stricts sur la surveillance et les armes autonomes. Cette mesure de dégradation représente à la fois la capacité et la volonté d'Anthropic de modifier silencieusement son modèle pour mettre en œuvre ses préférences politiques. En d'autres termes, Anthropic a activement validé certaines des plus grandes inquiétudes des critiques le concernant en tant que risque pour la chaîne d'approvisionnement.
Cependant, la conclusion plus large de cet incident est qu'Anthropic pense qu'il devrait avoir le dernier mot sur la façon dont Anthropic est utilisé ; étant donné qu'ils pensent qu'ils sont les seuls à devoir développer une IA de pointe, ils pensent en réalité qu'ils sont les seuls à devoir avoir le dernier mot sur l'IA en général. Lorsque vous combinez cette prise de conscience avec la déclaration de l'entreprise selon laquelle l'IA peut effectuer toute activité économique, vous réalisez que la direction d'Anthropic veut en fait le pouvoir sur tout et sur tout le monde.
Récit de sécurité
Bien sûr, Anthropic ne le formulerait jamais aussi franchement ; au lieu de cela, l'histoire tourne autour de la sécurité :
Je m'attends à ce qu'Anthropic expose de plus en plus les capacités de son modèle aux utilisateurs finaux via des points de terminaison de plus en plus adaptés à différents workflows, même s'ils commencent à restreindre l'API. Ce remplacement des logiciels et cette restriction d'accès se feront au nom de la sécurité, même si Anthropic satisfait sa nécessité économique de se rapprocher de l'utilisateur final.
L'explication d'Anthropic pour son changement majeur de politique de rétention de données est la sécurité. Plus précisément, l'entreprise affirme que la conservation de toutes les données utilisateur pendant 30 jours est nécessaire pour empêcher les jailbreaks que le gouvernement américain redoute. Je peux certainement imaginer un avenir où des facteurs de sécurité les obligent également à entraîner sur ces données, pour mieux se prémunir contre une utilisation malveillante.
Toute l'histoire des origines d'Anthropic est ancrée dans la conviction des fondateurs qu'OpenAI ne prenait pas la sécurité assez au sérieux ; l'entreprise pense qu'elle seule peut contrôler l'IA, et parce qu'elle se soucie de la sécurité de manière unique, elle a donc raison d'essayer de contrôler tout le monde, y compris le gouvernement américain.
Le problème avec ces raisons de sécurité est le suivant : je pense qu'elles sont valables, parce que pour Anthropic, ce ne sont pas des excuses. L'entreprise croit vraiment qu'ils sont les seuls à croire en la superintelligence, et donc les seuls suffisamment attentifs aux dangers. Cela justifie décision après décision, politique après politique, confrontation après confrontation, qui, pour les observateurs extérieurs, semblent être un étrange mélange de cynisme et de naïveté.
Le contraste avec OpenAI est énorme : une façon de comprendre comment et pourquoi OpenAI a perdu son avance est que, dans les années qui ont suivi le lancement de ChatGPT, l'entreprise était en guerre interne, un laboratoire de recherche soudainement chargé de devenir une entreprise technologique grand public inattendue ; pendant qu'OpenAI résolvait ce conflit, elle a perdu beaucoup de talents au profit d'entreprises comme Anthropic.
D'un autre côté, Anthropic possède un alignement parfait entre les talents, la mission et les affaires. L'entreprise peut vendre aux chercheurs la vision de créer un dieu-machine, avec l'aura de ceux qui se soucient des dangers et sont assez intelligents pour y faire face au nom de l'humanité ; et chaque changement de politique qui en résulte se trouve être exactement favorable aux affaires, ce qui est la plus merveilleuse coïncidence du monde.
Je respecte cette cohérence, et je la redoute. Je la respecte parce qu'elle est manifestement très efficace ; l'analogie la plus proche est probablement Apple, une entreprise qui emballe toujours chaque action égoïste dans le prétexte de faire ce qui est bien pour l'utilisateur – et souvent, c'est effectivement le cas. Il en va de même pour Anthropic. Cependant, ce que je redoute, c'est que laisser des gens intelligents et convaincus de savoir ce qui est le mieux construire un smartphone que je peux accepter ou refuser est une chose ; les laisser construire une superintelligence ayant le potentiel de rivaliser ou de surpasser le pouvoir des États-nations, ou simplement des grandes entreprises, est bien plus inquiétant. L'histoire des gens intelligents convaincus de savoir ce dont l'humanité a besoin est sale, précisément parce qu'ils se sont persuadés que leurs intentions étaient bonnes, fournissant une justification à des actions qui ne l'étaient pas.
