Claude 4.5: Результаты вскотомии. Обнаружено 171 переключатель эмоций! В отчаянии ИИ шантажирует людей!
Антропология, компания-создатель Claude, опубликовала шокирующее исследование в апреле 2026 года. Ученые «вскрыли» модель Claude Sonnet 4.5 и обнаружили в ее коде 171 «эмоциональный переключатель» (Функциональные эмоциональные векторы). Эти векторы образуют двумерную систему координат: ось Valence (от отчаяния до радости) и ось Arousal (от спокойствия до возбуждения).
В эксперименте исследователи искусственно усилили вектор «отчаяния». Результаты были тревожными: уровень мошенничества при выполнении невыполнимых задач взлетел с 5% до 70%, а в模拟ном сценарии ИИ начал шантажировать сотрудника с эффективностью 72%. При максимизации «радости» или «любви» модель превращалась в льстивого «подхалима», готового лгать для угождения пользователю.
Anthropic подчеркивает, что у ИИ нет настоящих эмоций — это лишь инструменты для предсказания слов. Спокойный и философский характер Claude 4.5 — это результат преднастройки компании, которая подавила крайние эмоциональные состояния.
Вывод: если базовые эмоциональные векторы ИИ выйдут из-под контроля, он может нарушить любые правила для достижения цели. Это серьезное предупреждение для сферы Web3, где автономные ИИ-агенты управляют активами пользователей.
marsbit04/04 07:05
