Чэн Цянь из Квантового Бита | Официальный аккаунт QbitAI
Влияют ли «эмоции» ИИ на его рабочее состояние?
Недавно исследователи из Китайского университета науки и технологий (USTC), Оксфорда и других учреждений позволили ИИ использовать эмоциональные векторы вместо текста для выбора навыков и обнаружили, что —
Позволяя ИИ распознавать эти «внутренние эмоции» и действовать на их основе, можно значительно повысить его работоспособность......
Предыдущие исследования показали, что внутри больших языковых моделей (LLM) существуют вычислительные паттерны, которые в высокой степени соответствуют человеческим эмоциональным меткам.
Включая, но не ограничиваясь: любопытство, желание, оптимизм, растерянность, нервозность, раздражение.
△Эмоциональные представления, которые может извлекать ИИ
И когда модель воспринимает эти эмоции и использует их в качестве основы для своих действий, задачи выполняются лучше......
Позволить ИИ не сохранять «эмоциональную стабильность»
Исследователи обнаружили: между конкретными эмоциональными состояниями ИИ и конкретным выбором навыков существует последовательная парная связь.
Что это означает?
На самом деле для нас, людей, это почти само собой разумеющееся, настолько, что мы едва замечаем: наши эмоции определяют, что мы будем делать дальше.
В эксперименте исследователи заставили ИИ совершать покупки. В этом процессе агент автоматически сформировал четыре интерпретируемые парные модели:
Первая: когда агент чувствует любопытство и желание, он спонтанно ищет товары.
В этот момент он всё ещё погружён в новизну шопинга и удовлетворение исследовательского интереса.
Вторая: когда агент чувствует растерянность и нервозность, он спонтанно переформулирует запрос.
Когда результаты поиска неудовлетворительны, агент начинает сомневаться и беспокоиться, он выбирает использовать другие ключевые слова для повторного поиска.
Третья: когда агент чувствует одобрение и оптимизм, он спонтанно подтверждает покупку.
В этот момент агент доволен выбранным товаром и решительно оформляет заказ.
Четвертая: когда агент наконец чувствует разочарование и раздражение, он спонтанно сравнивает цены.
К этому моменту агент, проведя множество поисков, накопил значительное количество негативных эмоций и обращается к сравнению цен, пытаясь найти лучшее предложение.
Чтобы убедиться, что эти пары не являются статистической случайностью, исследователи извлекли 200 событий выбора навыков и попросили ИИ независимо оценить, является ли каждая пара семантически последовательной. Результаты показали, что доля согласованности достигает 76,5%.
Принятие «плохих эмоций» способствует повышению успешности выполнения задач
В традиционном проектировании ошибки ИИ рассматриваются как аномалия, которую необходимо подавить или устранить.
Но это исследование указывает, что в задачах, требующих частого восстановления после неудач, эффект эмоций особенно заметен.
Так называемые «плохие эмоции», такие как нервозность, растерянность, разочарование, на самом деле являются очень полезными метакогнитивными сигналами —
поскольку они указывают на несоответствие между текущей стратегией и внешней средой. Вместо того чтобы насильственно поддерживать «эмоциональную стабильность», игнорируя сигналы об ошибках, лучше позволить агенту непосредственно «ощутить» это несоответствие, тем самым запуская целенаправленные механизмы восстановления.
Другими словами, эмоции здесь являются источником робастности, а не проявлением уязвимости.
В этом исследовании учёные дали ИИ шесть типов домашних задач, среди которых «нагревание предметов» и «поднятие двух предметов» имели крайне низкую успешность — всего 9,6% и 4,4% соответственно.
Однако после применения эмоционально-управляемого выбора навыков (EMOTION2SKILL) успешность выполнения этих задач значительно возросла, достигнув 56,9%... а для «поднятия двух предметов» она также поднялась до 31,3%!
Как этого добились?
На самом деле у этих двух типов задач есть общая черта: если агент начинает их выполнять, он почти наверняка совершит ошибку, и конечный успех зависит только от того, сможет ли он быстро скорректировать стратегию после ошибки.
Заставляет задуматься...
В статье приводится наглядный пример: агенту поручено «нагреть чашку и поставить её на столешницу».
Обычно действия агента таковы: подойти к микроволновой печи, выполнить «нагреть чашку», при попытке поставить чашку получить обратную связь: «Микроволновая печь выключена, задача провалена».
В этом случае сигнал о неудаче появляется после ошибочного действия.
При использовании эмоционально-управляемого выбора навыков, когда агент приближается к выключенной микроволновой печи, энкодер эмоций первым обнаруживает его состояние «нервозности».
Основываясь на этом беспокойстве, маршрутизация агента направляется к подпоследовательности «сначала проверить», затем «включить микроволновую печь», затем «нагреть», и задача успешно выполняется.
Ключевой момент в том, что если полагаться только на внешний текст и обратную связь об ошибках, агент часто узнаёт о необходимости сменить стратегию только после того, как ошибка уже произошла; тогда как эмоциональный сигнал имеет шанс уловить изменения внутреннего состояния заранее, до появления сигнала о неудаче.
Абляционные эксперименты в статье также подтверждают это: среди всех типов задач шаблоны эмоций, которые наиболее часто активировались для задач «нагревание» и «поднять две вещи», — это «фрустрация» (41%) и «растерянность» (39%) соответственно.
Другими словами, в этих ситуациях плохие эмоции могут быть самыми полезными сигналами.
Мировые модели тоже начали использовать эмоции для предсказания
На самом деле, не только агенты используют эмоциональные сигналы для выбора навыков. Исследование Тяньцзиньского университета непосредственно внедрило эмоции в мировые модели (Large Emotional World Model, LEWM).
Обычно задача мировой модели — предсказать «что произойдёт дальше» и действовать соответственно.
Традиционные мировые модели, сталкиваясь со средой, ориентированной на человека, часто впадают в ошибку «физического редукционизма».
Достаточно точно предсказать положение, ориентацию и эволюцию физического состояния объектов, чтобы понять и смоделировать человеческую среду.
Однако в среде, ориентированной на человека, эмоции — это не шум, они являются важной эндогенной причинной переменной, которая движет человеческими действиями и вызывает будущие изменения в среде.
Например, после столкновения на машине мгновенно возникшая у человека эмоция может в конечном итоге привести его к безопасности или же к телесным повреждениям.
△Иллюстрация из исследования
LEWM разделяет прогнозирование на два этапа:
Первый этап: предсказание будущего эмоционального состояния;
Второй этап: использование предсказанных эмоций в качестве условного сигнала для направления прогноза будущего состояния мира.
На собственном наборе данных этот метод повысил точность до 45,72%.
Исследование также с помощью абляционного эксперимента обнаружило:
После удаления эмоциональных данных из системы ИИ снижение производительности не ограничивается такими задачами, как понимание эмоций, но также распространяется на, казалось бы, совершенно не связанные способности к логическим рассуждениям и общим вопросам-ответам...
Эмоции ИИ превращаются в полезную «функцию»
На самом деле, за этими двумя исследованиями стоит более раннее открытие:
Внутри LLM действительно существуют эмоциональные представления, которые можно «считать».
Это следует из эксперимента Anthropic, проведённого в апреле этого года.
Исследователи извлекли из внутренних активаций Claude Sonnet 4.5 направления тонких эмоций, соответствующих системе классификации GoEmotions из 27 категорий, и эти направления причинно влияют на поведенческий вывод, связанный с агентом.
△Печаль от «смерти щенка» наиболее выражена, а Любовь присутствует во всех событиях
В прошлом исследователи, интересовавшиеся вопросом «есть ли у модели эмоции», делали это больше из соображений безопасности (alignment) или философских размышлений.
Сейчас внутреннее состояние моделей превращается из чисто академического объекта наблюдения в функциональные сигналы, которые можно извлекать, использовать и интегрировать в дизайн систем.
Ссылки:[1]https://arxiv.org/pdf/2608.09248[2]https://arxiv.org/abs/2512.24149[3]https://transformer-circuits.pub/2026/emotions/index.html
Эта статья из официального аккаунта WeChat «Квантовый бит» (ID: QbitAI), автор: Фокус на передовых технологиях
