Token est non économique
Le phénomène de « Token non économique » décrit la situation où les entreprises constatent une consommation élevée de tokens (unités de calcul des modèles d'IA) sans retour sur investissement proportionnel. Des acteurs comme Microsoft, Uber et Amazon ont rencontré des dépassements de budget et une faible qualité de production, les conduisant à resserrer leurs politiques d'utilisation.
Cette inefficacité provient de plusieurs facteurs. Côté offre, les prix des tokens augmentent, notamment pour les modèles performants comme ceux d'Anthropic (Claude), tandis que les modèles économiques voient aussi leurs tarifs grimper avec la demande. Côté utilisation technique, des gaspillages structurels existent : pièges du contexte long, opacité des tokenizers entraînant une inflation des coûts, appels redondants à des compétences (skills) peu utiles, et surconsommation liée à la coordination et aux dérives dans les tâches longues des agents multiples.
Le problème fondamental réside dans la demande. L'application efficace des tokens reste largement confinée à des scènes numériques comme l'assistance au codage, où la rétroaction automatique permet un apprentissage efficace. Pour des secteurs comme le droit, la vérification humaine reste indispensable, rendant le retour sur investissement plus faible. Le saut vers le monde physique (robotique) est encore plus difficile en raison du coût prohibitif de la validation dans la réalité, contrairement aux environnements simulés.
Ces inefficacités concentrent les risques au milieu de la chaîne de valeur de l'IA. Les fabricants de modèles, bien que leurs revenus explosent, restent non rentables et dépendent de financements circulaires complexes avec les fournisseurs de matériel. Par ailleurs, l'expansion frénétique des centres de données nécessaires grève les ressources locales (électricité, eau), affectant les communautés.
Pour inverser la tendance, des solutions techniques (compression sémantique du contexte, optimisation des skills, routage intelligent des modèles, contraintes budgétaires strictes pour les agents) et de gouvernance (gestion des coûts, quotas) sont nécessaires. L'essentiel sera de trouver des scénarios d'application à grande échelle où les tokens génèrent une valeur économique claire, au-delà du codage. Le retour à une discipline stricte du retour sur investissement (ROI) sera crucial pour que l'ère des agents intelligents passe du gaspillage à une création de valeur durable.
marsbitIl y a 8 h
