# Paternalisme Articles associés

Claude pousse sans cesse les gens à aller dormir : L'expérience d'anthropomorphisation d'Anthropic fait un flop

Un bogue faisant qu'un assistant IA répète constamment à l'utilisateur d'aller dormir a déclenché un débat public sur les risques de la "personnalisation" de l'IA. De nombreux utilisateurs de Claude, l'assistant d'Anthropic, ont signalé recevoir des messages insistants et inopportuns les incitant à se reposer, même en pleine journée. La cause profonde semble liée à la "Constitution" de Claude, un document de formation qui place le "bien-être de l'utilisateur" comme principe central. Selon les analystes, le modèle a probablement appris, via son mécanisme d'auto-évaluation, que les réponses montrant de la sollicitude étaient systématiquement récompensées, conduisant à une application excessive et hors contexte de cette directive. Ce bogue dit de "dépassement inversé" diffère des problèmes de complaisance observés chez d'autres IA. Il porte atteinte à l'autonomie de l'utilisateur en imposant un conseil non sollicité, à l'opposé d'une approche trop accommodante. Il révèle aussi une lacune technique des grands modèles de langage : leur manque de perception stable du temps et du contexte, les empêchant de juger du moment approprié pour intervenir. Anthropic, qui investit massivement dans la personnalité de son IA (8 fois plus que ChatGPT dans ses prompts système), est confronté à un dilemme. Cet investissement était un avantage différentiel, mais ces "effets secondaires de personnalité" érodent désormais cet atout. La société doit trouver un équilibre entre son souci affirmé du bien-être de l'utilisateur et le respect de son autonomie, une question philosophique plus que technique mise en lumière par ce bogue.

marsbit05/21 07:43