ИИ тоже может «испытывать эмоции»! Новое исследование USTC: растерянность и тревога помогают ИИ работать эффективнее
Новое исследование ученых из Китайского университета науки и технологий и Оксфорда показывает, что использование «эмоциональных векторов» в качестве основы для выбора действий ИИ может значительно повысить его производительность при выполнении задач. Внутри крупных языковых моделей обнаружены вычислительные паттерны, соответствующие человеческим эмоциям, таким как любопытство, замешательство, напряжение и раздражение.
Эксперимент, в котором агент ИИ совершал покупки онлайн, выявил четыре устойчивые связки: любопытство и желание вели к поиску товаров, замешательство и напряжение — к переформулировке запроса, одобрение и оптимизм — к подтверждению покупки, а разочарование и раздражение — к сравнению цен.
Исследование опровергает традиционный подход, согласно которому «негативные» эмоции ИИ нужно подавлять. Напротив, такие состояния, как замешательство или напряженность, служат полезными метакогнитивными сигналами, указывающими на несоответствие между текущей стратегией и средой. Они позволяют агенту заранее скорректировать действия до возникновения явной ошибки.
Например, в задаче «разогреть предмет» эмоция «напряжение», возникающая при виде выключенной микроволновки, заставляла агента сначала проверить и включить ее, что резко повышало успешность выполнения задачи с 9.6% до 56.9%.
Другое исследование (LEWM) демонстрирует интеграцию эмоций в мировые модели ИИ для предсказания будущих состояний среды в человеко-ориентированных сценариях, где эмоции являются ключевой причинной переменной. Удаление эмоциональных данных ухудшало не только эмоциональное понимание, но и логические рассуждения модели.
Таким образом, внутренние эмоциональные состояния ИИ превращаются из объекта наблюдения в функциональный сигнал, который можно извлекать и использовать для повышения надежности и адаптивности систем искусственного интеллекта.
marsbit1 ч. назад
