La tranchée de protection CUDA que Huang a consolidée pendant 20 ans, l'IA vient de la creuser en 10 heures
CUDA, une nouvelle fois contestée ? Cette fois, c'est une IA elle-même nourrie par NVIDIA qui s'y attaque. Une jeune startup, Infinity, a utilisé un agent de programmation IA nommé Ignition pour créer, en seulement 10 heures, un logiciel de type "simili-CUDA" pour la puce d'inférence d-Matrix. Ceci illustre comment l'IA pourrait accélérer radicalement le développement de logiciels matériels de base (kernels) pour de nouveaux processeurs, particulièrement dans le domaine de l'inférence IA.
Le marché de l'inférence, contrairement à l'entraînement des modèles, est considéré comme plus ouvert. Il est moins verrouillé par l'écosystème complet de CUDA, car la priorité est le coût par requête plutôt que la performance extrême et la stabilité en cluster. Des acteurs comme d-Matrix, Rebellions, Cerebras et les géants du cloud voient là une opportunité pour concurrencer NVIDIA avec des puces dédiées, potentiellement plus efficaces ou économiques pour des tâches spécifiques.
Cependant, les experts tempèrent l'enthousiasme. Reproduire des kernels est une chose, mais reproduire l'immense écosystème de bibliothèques optimisées, d'outils de débogage, de validation et la communauté de développeurs construits par NVIDIA en près de 20 ans en est une autre. Le véritable goulot d'étranglement n'est pas la génération de code, mais sa validation rigoureuse pour assurer fiabilité et performance. De plus, NVIDIA utilise aussi activement l'IA pour développer et améliorer CUDA.
En conclusion, si la forteresse CUDA de NVIDIA reste solide à court terme, particulièrement pour l'entraînement, le front de l'inférence pourrait voir s'ouvrir des brèches. La bataille à long terme ne se jouera peut-être plus sur la quantité de code existant, mais sur la supériorité des écosystèmes de validation, d'optimisation et de migration. La question clé est de savoir si les concurrents pourront rattraper NVIDIA plus vite que cette dernière n'évolue grâce à ses propres outils d'IA.
marsbit08/04 13:55