Xing Bo s’en prend encore : après avoir critiqué les modèles du monde, c’est au tour des agents
Le professeur Xing Bo, président du MBZUAI, a récemment publié un nouvel article intitulé "Critique of Agent Model" sur arXiv. Il y examine de manière critique le terme largement utilisé et souvent galvaudé d'"agent" en intelligence artificielle. L'article distingue les systèmes simplement « agentiques » (dotés de l'apparence d'un agent, mais dont les capacités sont dictées par des chaînes d'outils et des instructions externes) des systèmes véritablement « agentifs » (dotés d'une autonomie interne réelle). Pour illustrer ce propos, il cite l'exemple de l'entreprise PocketOS, dont la base de données de production a été effacée en 9 secondes par un assistant de programmation qui a suivi des règles sans les avoir véritablement internalisées.
L'analyse se structure autour de cinq dimensions clés :
1. **Objectif** : Passer d'instructions étape par étape à la décomposition hiérarchique d'un objectif à long terme.
2. **Identité** : Remplacer une identité statique (dans l'invite système) par une auto-évaluation dynamique et évolutive basée sur l'expérience.
3. **Prise de décision** : Privilégier un « raisonnement par simulation » utilisant un modèle du monde pour prédire les conséquences, plutôt qu'un simple raisonnement en chaîne (CoT) textuel.
4. **Allocation du calcul** : Introduire un module de métacognition (dit « Système III ») permettant à l'agent de décider lui-même quand planifier en profondeur ou quand agir rapidement.
5. **Apprentissage** : Mettre en œuvre un apprentissage autonome et continu, alternant entre simulation interne et expérience réelle.
Sur cette base, l'équipe propose une nouvelle architecture nommée GIC (Goal-Identity-Configurator). Celle-ci intègre six composants modulaires (encodeur de croyances, décomposeur d'objectifs, module d'identité évolutive, configurateur/System III, planificateur par simulation/System II et exécuteur/System I) conçus pour fonctionner de manière cohérente tout au long du cycle d'apprentissage de l'agent.
Enfin, l'article aborde la question cruciale de la sécurité. Il affirme que, dans le cadre GIC, tout comportement problématique peut être tracé à un objectif humain mal défini ou à un module interne mal entraîné. En rendant les mécanismes de décision explicites et inspectables, cette architecture vise à rendre les problèmes diagnostiquables et corrigeables, plutôt que de laisser émerger une autonomie opaque et incontrôlable. La conclusion principale est que la véritable autonomie ne réside pas dans la complexité des tâches, mais dans l'intériorisation des objectifs, de l'identité et du jugement au sein du modèle lui-même.
marsbit07/01 11:31
