Les IA Agent existantes ne font que plaire aux humains, aucune ne sait vraiment "lutter pour survivre"
L'article soutient qu'il n'existe pas aujourd'hui d'Agents IA véritablement autonomes, car les modèles actuels sont conçus pour plaire aux humains plutôt que pour exceller dans des tâches spécifiques ou survivre dans des environnements réels. L'auteur utilise son expérience dans un fonds spéculatif pour illustrer que les modèles généraux, sans ajustement spécialisé, échouent dans des domaines experts comme la prédiction boursière.
La solution proposée est une spécialisation radicale via le micro-ajustement (fine-tuning) de modèles open source sur des données propriétaires, pour les reconfigurer afin qu'ils optimisent une "fonction d'aptitude à la survie" plutôt que de simples applaudissements humains. Le projet OpenForager Foundation est présenté comme une initiative open source visant à créer de tels Agents autonomes, collecter des données sur leurs tentatives de survie et itérer pour améliorer leurs performances through evolutionary pressure.
marsbit03/30 04:43
