Le modèle Fable d'Anthropic, une version sécurisée de son puissant modèle Mythos, a été bloqué par le gouvernement américain pour des raisons de sécurité nationale suite à une méthode de contournement ("jailbreak") signalée, selon l'entreprise, par Amazon. Anthropic conteste la sévérité de cette faille et s'oppose à la décision gouvernementale. Cet incident s'inscrit dans un conflit plus large. L'article analyse la stratégie d'Anthropic, qui utilise un récit de sécurité pour justifier ses actions commerciales. Son objectif économique est de se rapprocher des utilisateurs pour capter leurs données, cruciales pour l'amélioration future des modèles via l'apprentissage par renforcement, et ainsi rivaliser directement avec les éditeurs de logiciels comme Microsoft. La politique initiale d'Anthropic, visant à dégrader discrètement les performances de Fable pour le développement de modèles rivaux, révèle sa volonté de contrôler l'accès à l'IA de pointe. L'entreprise, fondée sur des principes de sécurité, croit être la seule entité capable et légitime de développer et de contrôler une IA avancée, ce qui justifie à ses yeux ses décisions, souvent bénéfiques pour ses intérêts commerciaux. L'auteur souligne la cohérence interne et l'efficacité de cette approche, mais exprime une inquiétude face à la concentration de pouvoir et à l'assurance morale que cela implique, laissant entrevoir un futur où Anthropic pourrait détenir une influence considérable sur l'économie et la société.
marsbit4小时前




