Seulement 0,99 dollar par million de tokens.
C'est le coût réel sur la propre facture de SemiAnalysis – l'agence de recherche sur les semi-conducteurs la plus pointue de la Silicon Valley.
Mais ce qui est encore plus explosif, c'est ce chiffre : les dépenses en tokens pour les modèles internes de grande envergure représentent déjà 30% de la masse salariale totale.
Cela semble beaucoup – mais calculé à l'envers, la production achetée avec cet argent aurait nécessité plusieurs fois le coût de main-d'œuvre pour être couverte auparavant. Par personne, près de 5 milliards de tokens sont consommés par mois, soit plus de 5 fois le niveau par personne chez Meta, et les contributeurs clés en consomment même plus de 100 milliards par mois.
Des tâches qui prenaient auparavant plusieurs heures à un analyste junior, comme la conversion d'un modèle Excel ou la création de graphiques pour des rapports financiers, sont désormais réalisées en quelques minutes, pour quelques dollars seulement.
L'évaluation de SemiAnalysis est sans appel : Il ne s'agit pas d'une amélioration d'efficacité de 10%, mais de la réécriture de l'économie unitaire des services professionnels.
Les sociétés de recherche, les fonds spéculatifs, les cabinets d'avocats – dans toutes les industries qui vivent de matière grise, il n'est qu'une question de temps avant que les dépenses en tokens atteignent 20 à 30% des salaires.
Jensen Huang, le PDG de Nvidia, est plus pressé que quiconque.
Lors de la conférence GTC de cette année, il a lancé ce message clair : Un ingénieur avec un salaire de 500 000 dollars par an qui ne consomme pas pour 250 000 dollars de tokens d'ici la fin de l'année ?
« Je vais carrément péter un câble. »
Il prévoit de donner à chaque ingénieur de Nvidia un budget en tokens équivalent à six mois de salaire, et de faire travailler ses 75 000 employés aux côtés de 7,5 millions d'agents intelligents d'IA.
Ne pas utiliser l'IA ? Huang dit que c'est comme si un concepteur de puces insistait pour utiliser du papier et un crayon.
Le token n'est plus un outil, il est en train de devenir le « moyen de production » de la nouvelle ère.
Mais l'autre moitié de la Silicon Valley pète un câble à cause de la facture IA
Ce qui est intéressant, c'est qu'au moment même où SemiAnalysis économise de l'argent réel grâce aux tokens, les géants de la Silicon Valley sont aux prises avec des factures d'IA qui leur donnent des migraines.
Uber est le cas d'école par excellence.
Fin de l'année dernière, la société a lancé Claude Code auprès de 5 000 ingénieurs, avec même un classement – plus on l'utilise, plus le rang est élevé, la compétition interne était à son comble.
Résultat : un succès trop grand. Le taux d'utilisation par les ingénieurs était de 32% en février, il a grimpé à 84% en mars, et en avril, 95% des ingénieurs utilisaient l'IA chaque mois, 70% du code soumis provenait de l'IA, et le budget annuel – était déjà épuisé.
Le CTO a dit qu'il « fallait refaire le budget de zéro ». Plus tard, encore plus radical – Bloomberg a révélé qu'Uber avait imposé une limite mensuelle de 1 500 dollars en tokens par employé, dépassement nécessitant une autorisation spéciale.
Mais le COO Andrew Macdonald a dit une grande vérité dans un podcast : L'utilisation de l'IA augmente effectivement, mais le lien avec l'innovation dans les fonctionnalités consommateur... pour l'instant, on ne le voit pas.
La situation chez Microsoft est encore plus surréaliste. Le mois dernier, The Verge a révélé que Microsoft annulait la plupart des licences Claude Code pour passer à son propre GitHub Copilot CLI.
La raison est simple : L'argent partait plus vite que la production n'arrivait.
Bryan Catanzaro, vice-président de l'apprentissage profond appliqué chez Nvidia, l'a dit encore plus directement en avril dernier : « Pour mon équipe, le coût du calcul dépasse de loin le coût des employés. »
Une étude du MIT en 2024 : dans les postes où le travail est principalement visuel, l'automatisation par l'IA n'est économiquement rentable que dans 23% des cas.
Dans les 77% des cas restants, embaucher une personne est moins cher que d'utiliser l'IA.
Il y a même des ingénieurs qui se plaignent que des agents IA « ont détruit sa base de données et son réseau » en cours d'utilisation – il appelle cela le prix d'une « utilisation excessive ».
Budgets faramineux, utilisation incontrôlée, incidents à répétition – la Silicon Valley traverse la phase la plus déchirante de l'économie de l'IA.
D'un côté, une productivité sans précédent grâce à la technologie, de l'autre, des factures qui gonflent à une vitesse tout aussi inédite.
L'effondrement des coûts ne fait que commencer
Mais l'argument central de SemiAnalysis est : Ne regardez pas le prix d'aujourd'hui, l'effondrement des coûts ne fait que commencer.
Regardons d'abord le côté logiciel.
Exécuter DeepSeek R1 sur B300, avec les optimisations purement logicielles en trois couches wideEP, disagg et MTP, fait passer le débit par GPU de 1000 tokens/seconde en référence à 14000 tokens/seconde – une amélioration de 14 fois, uniquement grâce au code.
Regardons maintenant le côté matériel.
Le débit d'une GB300 NVL72 dans sa configuration optimale est 17 fois supérieur à celui d'un H100, et passe à 32 fois supérieur en passant en précision FP4.
Le prix officiel d'Opus 4.7 est de 5 dollars par million en entrée, 25 dollars par million en sortie, ce qui ne semble pas bon marché.
Mais en raison du ratio entrée/sortie élevé des charges de travail des agents (jusqu'à 300:1) et d'un taux de succès du cache dépassant 90%, le coût mixte réel est compressé à 0,99 dollar.
Moins d'un cinquième du prix officiel.
En superposant logiciel et matériel, une conclusion est difficile à éviter : L'expansion de la marge brute des grands modèles n'est pas une coïncidence ponctuelle de tarification, mais une tendance structurelle.
L'ARR d'Anthropic cette année est passé de 9 milliards de dollars à plus de 44 milliards, et la marge brute est passée de 38% à plus de 70% – Les tokens deviennent moins chers, mais ceux qui les vendent gagnent encore plus d'argent.
Le rapport de Gartner de mars dernier corrobore ce point : d'ici 2030, le coût d'inférence des grands modèles de mille milliards de paramètres sera inférieur de plus de 90% par rapport à 2025.
Le jugement de SemiAnalysis est clair : si vous voulez estimer le prix des tokens en 2027, la réponse tient en un mot – Baisse.
L'argent est dépensé, et après ?
C'est précisément l'endroit le plus déchirant de l'IA actuelle : les dépenses d'investissement en IA des entreprises technologiques mondiales cette année s'élèvent à 7400 milliards de dollars annoncés, une augmentation de 69% par rapport à l'année dernière ; en même temps, le rythme des licenciements dans le secteur technologique a déjà dépassé celui de l'année dernière.
L'argent brûle à un rythme effréné, les gens sont licenciés, mais l'économiste en chef de Goldman Sachs a dit une grande vérité – L'impact réel de l'IA sur l'économie, jusqu'à présent, est essentiellement nul.
Ce n'est pas que l'IA ne fonctionne pas, mais c'est la douleur de l'enfantement que traverse chaque révolution d'infrastructure : D'abord on brûle de l'argent pour construire les canalisations, ensuite on attend que l'eau arrive.
Le réseau électrique a été ainsi, internet a été ainsi, l'IA ne fait pas exception.
La seule différence, c'est que cette fois, la vitesse de déploiement des canalisations, et la vitesse à laquelle l'eau arrive, sont d'un ordre de grandeur que la génération précédente n'a jamais vu.
SemiAnalysis est déjà du côté où l'eau arrive – 30% de la masse salariale a été échangée contre un levier de production plusieurs fois supérieur, et la courbe des coûts continue de chuter brutalement.
Quant aux autres entreprises : traverser la rivière maintenant à gué, ou attendre que ceux de l'autre rive aient déjà construit une ville pour courir après.
Références :
https://x.com/SemiAnalysis_/status/2070915305858007345
Cet article provient du compte WeChat officiel « New Zhiyuan », auteur : ASI Révélation, éditeur : Salomon
