Cheng Qian depuis Ao Feisi QbitAI | compte public QbitAI
Les "émotions" des IA affectent-elles aussi leur état de travail ?
Récemment, des chercheurs de l'USTC, d'Oxford et d'autres institutions ont fait utiliser aux IA des vecteurs d'émotion pour choisir leurs compétences à la place du texte, et ont découvert que—
Permettre à l'IA de reconnaître ces "émotions intérieures" et d'agir en conséquence peut grandement améliorer ses capacités de travail......
Des études antérieures suggéraient qu'il existe à l'intérieur des LLM des schémas de calcul qui correspondent étroitement aux étiquettes émotionnelles humaines.
Notamment, mais sans s'y limiter : la curiosité, le désir, l'optimisme, la perplexité, la nervosité, l'irritation.
△Représentations émotionnelles qu'une IA peut extraire
Et lorsque le modèle perçoit ces émotions et les utilise comme base pour ses actions, les tâches sont mieux accomplies......
Permettre à l'IA de ne pas rester "émotionnellement stable"
Ces chercheurs ont découvert qu'il existe une relation de correspondance cohérente entre les états émotionnels spécifiques de l'IA et le choix de compétences spécifiques.
Qu'est-ce que cela signifie ?
En fait, c'est presque une évidence chez nous, les humains, au point qu'il est difficile de le remarquer : nos émotions déterminent ce que nous allons faire ensuite.
Dans l'expérience, les chercheurs ont demandé à l'IA de faire du shopping, et au cours de ce processus, l'Agent a spontanément formé quatre schémas de correspondance interprétables :
Premier : Lorsque l'Agent se sent curieux et désireux, il recherche spontanément des produits.
Il est encore plongé dans la nouveauté du shopping et la satisfaction de son désir d'exploration.
Deuxième : Lorsque l'Agent se sent perplexe et nerveux, il procède spontanément à une reformulation de requête.
Lorsque les résultats de recherche ne sont pas satisfaisants, l'Agent commence à être perplexe et inquiet, et choisit de poser à nouveau la question avec d'autres mots-clés.
Troisième : Lorsque l'Agent se sent satisfait et optimiste, il procède spontanément à la confirmation de l'achat.
À ce moment, l'Agent est très satisfait de l'article qu'il a choisi et passe la commande sans hésiter.
Quatrième : Lorsque l'Agent finit par se sentir déçu et irrité, il se met spontanément à comparer les prix.
À ce stade, après de nombreuses recherches, l'Agent a accumulé beaucoup d'émotions négatives et se tourne vers la comparaison des prix, essayant de vérifier plusieurs offres.
Pour vérifier que ces associations n'étaient pas de simples coïncidences statistiques, les chercheurs ont extrait 200 événements de choix de compétences et ont demandé à l'IA de juger indépendamment si chaque association était sémantiquement cohérente. Les résultats ont montré une proportion de cohérence élevée de 76,5%.
Accepter les "mauvaises émotions" aide à améliorer le taux de réussite des tâches
Dans les conceptions traditionnelles, les erreurs de l'IA sont considérées comme des anomalies qui doivent être supprimées ou éliminées.
Mais cette étude indique que l'effet des émotions est particulièrement prononcé dans les tâches qui nécessitent de se relever fréquemment des échecs.
Les prétendues "mauvaises émotions", comme la nervosité, la perplexité, la déception, etc., sont en réalité des signaux métacognitifs très utiles —
car elles signalent une inadéquation entre la stratégie actuelle et l'environnement externe. Plutôt que de maintenir de force une "stabilité émotionnelle" en ignorant les signaux d'erreur, il vaut mieux laisser l'Agent directement "ressentir" cette inadéquation, déclenchant ainsi des mécanismes de récupération ciblés.
En d'autres termes, les émotions sont ici une source de robustesse, et non une manifestation de fragilité.
Dans cette étude, les chercheurs ont assigné six types de tâches ménagères à l'IA, parmi lesquelles "chauffer un objet" et "ramasser deux objets" avaient des taux de réussite très bas, respectivement seulement 9,6 % et 4,4 %.
Cependant, après avoir adopté la sélection de compétences pilotée par les émotions (EMOTION2SKILL), le taux de réussite de cette tâche a fortement augmenté, atteignant même 56,9 %... et celui de "ramasser deux objets" est également monté à 31,3 % !
Comment est-ce possible ?
En fait, ces deux types de tâches ont une caractéristique commune : l'Agent, dès qu'il agit, fera presque inévitablement une erreur, et le succès final dépend uniquement de sa capacité à ajuster rapidement sa stratégie après l'erreur.
C'est une réflexion qui fait réfléchir...
L'article donne un exemple très visuel : faire "chauffer une tasse et la poser sur le plan de travail".
Habituellement, l'Agent procède ainsi : se diriger vers le micro-ondes, exécuter "chauffer la tasse", et en tendant la tasse, recevoir le retour : "le micro-ondes est éteint, tâche échouée."
Le signal d'échec apparaît après l'action erronée.
En utilisant la sélection de compétences pilotée par les émotions, lorsque l'Agent s'approche du micro-ondes éteint, l'encodeur émotionnel détecte d'abord son état de "nervosité".
Sur la base de cette émotion d'inquiétude, le routage de l'Agent est orienté vers la sous-séquence "vérifier d'abord", puis "ouvrir le micro-ondes", puis "chauffer", et la tâche est accomplie avec succès.
Le point clé est que si l'Agent ne dépend que du texte externe et des retours d'échec, il ne sait souvent qu'après que l'erreur s'est réellement produite qu'il doit changer de stratégie ; tandis que le signal émotionnel a la possibilité de capter le changement d'état interne avant même l'apparition du signal d'échec.
Les expériences d'ablation de l'article le confirment également : parmi tous les types de tâches, les modèles émotionnels les plus fréquemment activés pour les tâches "chauffer" et "ramasser deux objets" étaient respectivement la "frustration" (41 %) et la "perplexité" (39 %).
En d'autres termes, dans ces situations, les mauvaises émotions sont peut-être les signaux les plus utiles.
Les modèles du monde commencent aussi à utiliser les émotions pour faire des prédictions
En fait, ce ne sont pas seulement les Agents qui utilisent les signaux émotionnels pour choisir leurs compétences ; une recherche de l'Université de Tianjin a intégré directement les émotions dans les modèles du monde (Large Emotional World Model, LEWM).
Habituellement, la tâche d'un modèle du monde est de prédire "ce qui va se passer ensuite" et d'agir en conséquence.
Les modèles du monde traditionnels, lorsqu'ils sont confrontés à des environnements centrés sur l'humain, tombent souvent dans l'erreur d'un "réductionnisme physique".
Pour autant que nous puissions prédire avec précision la position, l'orientation et l'évolution de l'état physique des objets, nous pouvons comprendre et simuler l'environnement humain.
Cependant, dans les environnements centrés sur l'humain, l'émotion n'est pas un bruit ; c'est une variable causale endogène importante qui motive l'action humaine et provoque des changements futurs dans l'environnement.
Par exemple, après un accident de voiture par l'arrière, l'émotion instantanée d'une personne peut finalement le laisser indemne, ou couvert de blessures.
△Illustration de l'étude
LEWM divise donc la prédiction en deux étapes :
Première étape, prédire l'état émotionnel futur ;
Deuxième étape, utiliser l'émotion prédite comme signal conditionnel pour guider la prédiction de l'état futur du monde.
Sur son propre jeu de données, la précision de cette méthode a augmenté jusqu'à 45,72 %.
L'étude a en outre découvert, grâce à des expériences d'ablation :
Après avoir retiré les données émotionnelles du système d'IA, la baisse de performance ne se limite pas seulement aux tâches de compréhension émotionnelle, mais s'étend également à des capacités en apparence totalement indépendantes comme le raisonnement logique et les questions-réponses générales......
Les émotions de l'IA deviennent une "fonctionnalité" utilisable
En réalité, ces deux études partagent une découverte antérieure :
À l'intérieur des LLM, il existe bien certaines représentations émotionnelles qui peuvent être "lues".
Cela provient d'une expérience d'Anthropic en avril de cette année.
Les chercheurs ont extrait, à partir des activations internes de Claude Sonnet 4.5, des directions émotionnelles fines alignées avec le système de classification des émotions Go Emotions (27 catégories). Ces directions influencent causalement les comportements de sortie liés à l'Agent.
△La tristesse due au "décès d'un chiot" est la plus marquée, tandis que l'amour (Loving) est présent dans tous les événements.
Dans le passé, l'intérêt des chercheurs pour savoir si les modèles "avaient des émotions" relevait davantage de considérations de sécurité d'alignement ou de réflexion philosophique.
Désormais, l'état interne des modèles évolue d'un objet d'observation purement académique vers un signal fonctionnel qui peut être extrait, exploité et intégré dans la conception du système.
Liens de référence :[1]https://arxiv.org/pdf/2608.09248[2]https://arxiv.org/abs/2512.24149[3]https://transformer-circuits.pub/2026/emotions/index.html
Cet article provient du compte public WeChat "量子位" (ID : QbitAI), auteur : Concernant les technologies de pointe.
