CUDA s'est encore et encore fait percuter...
Cette fois, c'est l'IA elle-même, nourrie par NVIDIA, qui a agi.
Une jeune entreprise d'un an seulement, utilisant un Agent de programmation IA, a mis seulement 10 heures à construire un ensemble de logiciels « de type CUDA ».
Stop, stop, stop.
Vous dites que cet empire logiciel que NVIDIA a mis près de 20 ans à construire a été ainsi reproduit ??
Ce n'est pas tout. DeepSeek essaie aussi d'écrire moins de code CUDA bas niveau.
Ils ont open-source une bibliothèque d'opérateurs GPU nommée TileKernels, écrite en TileLang, ce qui évite beaucoup de travail de rédaction manuelle de code CUDA bas niveau.
Cependant, cette « crise CUDA » n'est pas la première fois qu'on en entend parler.
De temps en temps, CUDA est traîné sur la place publique, prétendument remplacé, percé, sa tranchée de protection renversée...
Est-ce vraiment le cas ?
10 heures pour « reproduire » CUDA
Quand on pense à NVIDIA, beaucoup pensent d'abord aux GPU.
H100, Blackwell, Rubin, grâce à des puces toujours plus performantes, NVIDIA a récolté la plus grande part du gâteau de cette vague d'IA.
Mais l'avantage réellement inébranlable de NVIDIA n'est pas le matériel, mais le logiciel.
Les puces peuvent être achetées, les paramètres rattrapés, les procédés de fabrication évoluer. Ce qui rend vraiment difficile pour les clients de quitter NVIDIA après l'avoir utilisée, c'est l'écosystème logiciel complet construit autour du GPU.
Et CUDA est le cœur de cet empire logiciel.
CUDA, pour Compute Unified Device Architecture, a été développé sous la direction du cadre de NVIDIA Ian Buck, prenant près de 20 ans.
Souvent appelé langage de programmation, il est plus exact de dire que CUDA est une plateforme logicielle complète construite autour des GPU NVIDIA.
Pour simplifier en trois couches : au plus bas se trouve la couche noyau, le Kernel, le compilateur et l'environnement d'exécution qui font directement travailler la puce.
Au milieu, la couche bibliothèque — les bibliothèques de calcul hautement optimisées comme cuBLAS, cuDNN, ainsi que les outils de débogage, validation et profilage.
Au sommet, il y a les frameworks de développement comme PyTorch, TensorFlow, l'immense base de code et les flux de travail accumulés par les entreprises, ainsi que l'écosystème de développeurs qui a grandi autour de CUDA.
△
Cela peut sembler abstrait, mais imaginez le GPU NVIDIA comme une usine.
La couche la plus basse de CUDA indique à la machine comment effectuer chaque étape, la couche intermédiaire fournit des outils de production prêts à l'emploi, et la couche supérieure est l'ensemble du système de production qui tourne depuis des années.
Donc, pour le client, acheter une carte NVIDIA, c'est acheter une usine prête à l'emploi.
Maintenant, un certain Jeremy Nixon arrive avec un Agent IA.
Nixon est le fondateur de la startup de logiciel IA Infinity, et était auparavant chercheur chez Google Brain.
Son équipe a développé un Agent de recherche IA nommé Ignition, spécialisé dans l'écriture de logiciels bas niveau pour différentes puces IA.
Il peut générer des GPU Kernels, exécuter des tests, trouver des erreurs, mesurer les performances, et réécrire automatiquement le code en fonction des résultats.
Les ingénieurs humains donnent les grandes directions, et le travail fastidieux et complexe est laissé à l'Agent pour des boucles répétitives.
C'est ainsi qu'Infinity a construit un ensemble de logiciels de type CUDA pour la startup de puces IA d-Matrix.
En seulement 10 heures.
Hein ??
Ce code bas niveau qui nécessitait auparavant des ajustements répétés par des ingénieurs logiciels matériels, on peut vraiment le confier à l'IA maintenant ?
On ne peut pas dire que ce soit entièrement du battage médiatique.
Les Agents IA sont en effet très adaptés à ce type de tâches de programmation avec des retours clairs.
Le code compile-t-il, les résultats sont-ils corrects, les performances sont-elles améliorées, tout cela peut être vérifié par une exécution réelle.
Ainsi, l'Agent peut former une boucle complète :
écrire du code → compiler → exécuter → tester la justesse et les performances → modifier en fonction du retour
Cependant, Infinity s'est principalement attaqué à la première couche de CUDA : générer et optimiser des Kernels d'inférence pour différentes puces, et construire des capacités logicielles bas niveau autour de ces Kernels.
Il développe une bibliothèque d'inférence universelle pour plusieurs puces, mais cela ne signifie pas qu'il a reproduit en 10 heures l'écosystème complet accumulé par CUDA en près de 20 ans.
Mais...
Mais !
En réalité, vous n'avez pas besoin de reproduire un CUDA pour lever 15 millions de dollars.
La valorisation de cette entreprise est désormais de 100 millions de dollars.
On ne sait pas si NVIDIA est menacé, mais en tout cas, les investisseurs sont très enthousiastes. (doge)
Côté inférence, un deuxième front s'ouvre !
Si l'Agent IA est l'arme pour prendre la ville, le marché de l'inférence est la brèche dans les murailles.
Le calcul des grands modèles se divise principalement en deux phases :
L'entraînement qui construit le modèle, nécessitant des milliers de cartes fonctionnant ensemble pendant des mois ; l'inférence qui utilise le modèle entraîné pour répondre aux questions, pouvant tourner sur un petit cluster voire une seule carte.
Du côté entraînement, CUDA reste pour l'instant quasiment incontournable.
L'entraînement à grande échelle est extrêmement sensible aux performances, à la stabilité et à la coordination des clusters. La communication entre les puces, la gestion de la mémoire, la reprise après une erreur, toute perte d'efficacité, amplifiée sur des milliers voire des dizaines de milliers de puces, se transforme en temps et coûts réels.
Par conséquent, les entreprises choisissant une plateforme d'entraînement sont souvent très conservatrices.
Même si d'autres puces ont des spécifications théoriques intéressantes, si leur logiciel n'est pas assez mature, leur cluster pas assez stable, les économies sur le coût matériel pourraient être largement compensées par les coûts de développement et d'erreurs.
Mais du côté inférence, les règles du jeu changent.
Le directeur commercial de la société coréenne de puces IA Rebellions, Marshall Choy, estime ainsi :
Du côté inférence, CUDA n'est plus un facteur décisif. Ce sera une compétition de logiciels open source.
Pourquoi les concurrents se concentrent-ils sur l'inférence ?
Parce que l'entraînement recherche la « performance ultime », tandis que l'inférence recherche le « coût par réponse ».
L'entraînement nécessite la coordination de milliers de cartes, l'inférence peut être répartie sur de petits clusters voire une seule carte ; on n'ose pas changer de puce pour l'entraînement, mais pour l'inférence, si.
Du moment que ça tourne et que c'est moins cher, le client est prêt à essayer.
Surtout, les logiciels d'inférence peuvent fonctionner sur différentes puces. Si un framework d'inférence peut supporter plusieurs types de puces, l'utilisateur peut passer d'un matériel à l'autre sans réécrire son code —
Le plus grand effet de verrouillage de CUDA perd ainsi de sa force.
Cela ouvre une opportunité pour les puces dédiées à l'inférence.
Les tâches d'inférence n'ont pas toutes besoin de l'ensemble des capacités de CUDA, de l'entraînement à la coordination des clusters. Des puces redessinées pour des modèles ou scénarios spécifiques, si elles peuvent fonctionner plus vite, moins cher ou plus économes en énergie, ont une chance de prendre une part de marché à NVIDIA.
Comme d-Matrix, qui est justement une société de puces spécialisée dans l'inférence.
Fondée en 2019, cette société se concentre sur les puces d'inférence pour l'IA générative.
Le cofondateur et PDG Sid Sheth se souvient qu'ils avaient très tôt jugé que l'opportunité apportée par l'inférence IA dépasserait finalement celle de l'entraînement.
L'ensemble logiciel de type CUDA que Infinity a construit en 10 heures avec un Agent IA sert justement aux puces d'inférence de d-Matrix.
Ainsi, l'histoire complète de « l'événement des 10 heures » se dessine :
Une nouvelle puce veut entrer sur le marché de l'inférence, mais manque de logiciels matures ; un Agent IA génère et optimise rapidement des Kernels bas niveau, compressant un travail d'adaptation qui pourrait prendre des mois voire des années en quelques heures ou jours.
Sid a même déclaré ouvertement :
Bien que NVIDIA maintienne sa position dominante dans le domaine de l'entraînement, en ce qui concerne l'inférence, sa tranchée de protection s'est affaiblie.
Et d-Matrix n'est pas la seule à surveiller cette brèche.
Rebellions et d-Matrix se concentrant sur l'inférence, Cerebras misant sur les puces à l'échelle de la tranche de silicium, l'Inferentia d'Amazon, les TPU de Google, le MI300X d'AMD...
Les fabricants de puces et les géants du cloud computing se sont déjà positionnés sur le marché de l'inférence, prêts à arracher un morceau de viande à NVIDIA.
Pour ces entreprises, il ne s'agit pas de remplacer NVIDIA immédiatement.
Il leur suffit de prouver que, pour certaines tâches d'inférence, il est possible de fonctionner plus vite ou moins cher sans dépendre de l'ensemble du matériel NVIDIA et de l'écosystème CUDA.
Cela suffit.
La tranchée de protection de NVIDIA, finalement renversée ou pas ?
La réponse est peut-être... loin de là.
Comme dit précédemment, ce qui a été réécrit en 10 heures, c'est le « code d'adaptation pour une puce », tandis que l'écosystème CUDA comprend des bibliothèques, des outils de débogage, une communauté, des millions de développeurs accumulés en 20 ans.
Ce n'est pas quelque chose qui peut être renversé facilement.
Plus crucial encore : le code peut être généré, mais cela ne signifie pas qu'il est utilisable.
Le fondateur d'INT21, Bing Xu, dont la précédente société de logiciels pour puces IA HippoML a été rachetée par NVIDIA, et qui a quitté NVIDIA en avril dernier.
Son analyse est : l'Agent peut générer beaucoup de code rapidement, mais la validation est le principal goulet d'étranglement.
L'IA peut générer dix mille lignes de code rapidement, mais « prouver que ces dix mille lignes sont correctes et stables dans toutes les conditions aux limites » est extrêmement long.
L'actif le plus profond de CUDA est précisément sa chaîne d'outils de validation — il pense donc qu'à l'ère des Agents, l'écosystème de validation deviendra la prochaine tranchée de protection de CUDA.
Le cofondateur et PDG de Modular, Chris Lattner, a aussi jeté un peu d'eau froide.
Il estime que l'amélioration apportée par les Agents de codage est progressive, « la spéculation est grandement exagérée ».
Trois raisons : premièrement, écrire du code n'est qu'une petite partie du génie logiciel, l'optimisation pour la production détermine réellement les performances de la puce, ce qui impacte directement le coût d'exécution de l'IA ;
Deuxièmement, le logiciel pour puces est un domaine de niche et d'élite, avec beaucoup moins de code public que le développement d'applications, donc moins de données d'entraînement pour l'IA dans ce domaine ;
Troisièmement, le coût de migration des millions de lignes de code existant est toujours présent, ce n'est pas un problème technologique, mais une décision organisationnelle.
Un point souvent négligé est que : NVIDIA utilise aussi l'IA.
Le vice-président de l'écosystème développeurs de NVIDIA, Ankit Patel, a déclaré :
Nous utilisons également des Agents IA pour développer CUDA plus rapidement et effectuer des validations à plus grande échelle.
Utiliser sa propre lance pour percer le bouclier de l'adversaire, l'avantage relatif de l'attaquant s'en trouve réduit.
Pour résumer, selon Bing Xu : l'issue de cette bataille dépendra de la capacité des concurrents à rattraper NVIDIA plus rapidement que NVIDIA n'évolue elle-même.
Mais il est clair que ce plus grand fabricant de puces au monde « ne dort pas et ne reste pas immobile ».
Globalement, à court terme, la tranchée de protection de NVIDIA est intacte, mais des changements vont commencer à se produire discrètement du côté inférence.
La véritable question à long terme est : la tranchée de protection migre de « la masse de code existante » vers « l'écosystème de validation et d'optimisation ».
Celui qui occupera cette nouvelle position en premier sera le prochain gagnant.
Lien de référence :[1]https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8
Cet article provient du compte WeChat public « Quantum Bit », auteur : Ting Yu
