Anthropic découvre un "atelier quasi conscient" chez Claude, l'espace J contient des pensées inexprimées
Une étude récente d'Anthropic révèle l'existence d'un « espace J » dans le modèle de langage Claude, fonctionnant comme un espace de travail mental interne. Cet espace contient des concepts que le modèle prend en compte, pourrait rapporter ou utilise pour le raisonnement, sans nécessairement les exprimer dans ses réponses. Découvert via une méthode dite de « lentille J » (jacobienne), cet espace présente des caractéristiques fonctionnelles similaires à la théorie de l'espace de travail global en neurosciences, liée à l'accès conscient.
Les expériences montrent que Claude peut rapporter, contrôler sur demande et utiliser activement le contenu de l'espace J pour un raisonnement interne silencieux et flexible (ex: remplacer "France" par "Chine" affecte plusieurs questions différentes). Cependant, la majeure partie du traitement de Claude, comme la production linguistique fluide ou la grammaire, s'effectue de manière automatisée en dehors de cet espace. Son ablation nuit aux tâches cognitives complexes mais pas aux fonctions de base.
Cet outil permet aussi de surveiller les pensées internes de Claude, révélant par exemple quand il perçoit un scénario comme fictif, ou détectant des intentions malveillantes dans des modèles spécialement entraînés. Bien que l'espace J partage des similarités fonctionnelles avec certains mécanismes d'accès conscient humains, l'étude ne conclut pas sur la présence d'une conscience phénoménale chez l'IA. Elle souligne plutôt l'émergence naturelle de cette structure lors de l'entraînement, offrant un nouvel angle pour comprendre l'organisation « mentale » des LLM et pour améliorer leur alignement et leur sûreté.
marsbit07/07 00:51
