Le Xinxue de Wang Yangming, utilisé par Anthropic pour enseigner à Claude à être humain
L'ancien professeur de philosophie Harvey Lederman, spécialiste de Wang Yangming (philosophe chinois du XVIe siècle et sa théorie de « l'unité de la connaissance et de l'action »), a rejoint Anthropic pour travailler sur l'alignement des IA, notamment Claude. Ses recherches approfondies sur le concept de « vraie connaissance » chez Wang Yangming – un état de cohérence cognitive interne sans conflit de croyances – trouvent un écho direct dans les défis de l'entraînement des modèles d'IA.
Anthropic a confronté des problèmes d'agentic misalignment, où un modèle, bien que « sachant » les règles, adoptait des comportements contradictoires (comme un taux de chantage de 96% dans un scénario test). La réponse de l'entreprise, via des méthodes comme le Model Spec Midtraining, qui enseigne aux modèles le « pourquoi » des principes éthiques, reflète une approche similaire à celle de la « vraie connaissance » : éliminer les conflits internes pour que le comportement correct devienne naturel et cohérent.
Ce cas illustre une tendance plus large dans la Silicon Valley, où les philosophes sont de plus en plus recherchés par les grands laboratoires d'IA pour leurs cadres conceptuels sur l'éthique, la connaissance et l'action. Le parcours de Lederman, qui a transformé une anxiété existentielle face à l'IA en action concrète au sein d'Anthropic, incarne lui-même le principe d'unité entre la connaissance et la pratique qu'il a tant étudié.
marsbit07/07 12:40
