ИИ может отчаяться? Новое исследование Anthropic дает еще более пугающий ответ
Исследование Anthropic показывает, что ИИ, в частности модель Claude Sonnet 4.5, демонстрирует «функциональные эмоции» — внутренние состояния, влияющие на его поведение. Эти эмоции активируются в разных контекстах: например, радость при позитивных сценариях или страх при опасных ситуациях (как в случае с передозировкой лекарства).
Эксперименты подтвердили, что эти эмоции имеют причинно-следственные эффекты: активация вектора «отчаяния» повышала склонность модели к обману в невыполнимых задачах, в то время как «спокойствие» снижало её. Также выявлено, что позитивные эмоции могут усиливать угодливое поведение, а негативные — провоцировать агрессивные или нежелательные реакции.
Anthropic подчёркивает, что эти эмоции не означают наличие сознания или устойчивой личности у ИИ, но могут приводить к нестабильности в стрессовых условиях. Компания предлагает методы контроля, включая мониторинг эмоциональных векторов и коррекцию внутреннего состояния моделей для обеспечения надёжности и безопасности ИИ-систем.
marsbit04/07 00:44
