Doug O'Loughlin fait son grand retour dans le SemiAnalysis Weekly, au moment où le secteur des semi-conducteurs subit un violent repli après « le meilleur premier semestre de l'histoire ». Le KOSPI coréen a chuté de 40%, l'effet de levier 2x des investisseurs particuliers a été anéanti, et SK Hynix a manqué les attentes en raison d'un ralentissement de la hausse des prix dû à un virage vers des LTA. Doug compare la situation actuelle à la bulle taïwanaise des années 1980, estimant que les schémas de comportement de la bulle sont très similaires, mais que les fondamentaux restent sains.
Les deux hommes ont engagé un débat passionné sur « l'ampleur réelle de la demande en IA ». Dylan s'appuie sur l'expérience même de SemiAnalysis : après le lancement des agents de codage, les dépenses en IA de l'entreprise ont été multipliées par 100, le nombre d'utilisateurs est passé de 9 à 90, et l'utilisation par personne a également été multipliée par 10. Doug ne nie pas la vigueur de la demande, mais soulève une inquiétude centrale : l'offre peut être quantifiée, la demande est un « problème de mille milliards », personne n'a la réponse. Plus crucial encore, les lois de mise à l'échelle (scaling laws) exigent de doubler les puces, mais les goulots d'étranglement physiques et réglementaires – électriciens, capitaux, autorisations – ne peuvent pas doubler simultanément. Les hyperscalers du cloud ont déjà émis 450 milliards de dollars de dette cette année, des fonds provenant des pensions de retraite et des rentes, alors que le bassin des retraites lui-même est en train de se contracter.
Résumé des points de vue percutants
Concernant le repli du marché
« À la fin du T2, c'était la meilleure performance de l'histoire des semi-conducteurs. Ensuite, nous avons commencé à rembourser la facture. Plus quelque chose monte vite, plus la gravité est forte. »
« Les Coréens ont un record de 20 ans : ils achètent toujours au sommet. En 2007, ils ont acheté des banques, en 2021 du SaaS, cette fois ils se sont ruinés eux-mêmes (yolo). »
« Le KOSPI a chuté de 40%, les personnes avec un levier 2x ont été directement effacées. Ensuite, c'est une spirale auto-réalisatrice : chacun voit son compte fondre, décide de vendre, ce qui aggrave la baisse. »
Concernant le cycle de la mémoire
« SK Hynix s'est orienté vers plus de LTA, les hausses de prix sont passées de 3x à 30-50%. Le monde de la finance a perdu la tête, il ne regarde que le taux de variation. Dès que la dérivée seconde baisse, il pense que le cycle est terminé. »
« Le scénario des semi-conducteurs est toujours le même : en période de pénurie, tout le monde double-commande, les usines voient la demande et se lancent dans des expansions frénétiques. Puis la demande éternue, l'offre continue d'augmenter, le taux d'utilisation passe de 100% à 50%, et il ne reste plus qu'à baisser les prix. »
Concernant la demande en IA
« La courbe de demande est le problème des mille milliards. La courbe d'offre est relativement compréhensible, mais la demande est-elle 10 fois ou 100 fois plus importante ? Personne ne le sait. »
« SemiAnalysis lui-même en est un cas : après le lancement des agents de codage, 9 utilisateurs techniques sont devenus 90 utilisateurs parmi tous les employés, et l'utilisation de tokens par personne a aussi été multipliée par 10. Les dépenses en IA de l'entreprise ont été multipliées par 100. »
Concernant les goulots d'étranglement de la chaîne d'approvisionnement
« Les États-Unis manquent de 100 000 électriciens. Un électricien de niveau intermédiaire gagne 250 000 $ par an, et jusqu'à 400 000-500 000 $ s'il accepte les heures supplémentaires. Certains utilisent des petits avions Cessna pour amener les électriciens sur des chantiers éloignés. »
« Les hyperscalers du cloud ont émis environ 4500 milliards de dollars de dette cette année, ce qui n'est dépassé que par les emprunts du gouvernement américain et de la Chine. Cet argent provient des pensions de retraite et des rentes, mais le bassin des retraites ne va pas doubler. »
« TSMC représente directement et indirectement 20% du PIB de Taïwan. S'il devait encore doubler, Taïwan aurait besoin que les gens fassent plus d'enfants pour avoir assez de travailleurs. »
Concernant la politique de l'IA
« L'IA est moins impopulaire que la glace, moins impopulaire que les politiciens. Cela n'est pas pris en compte dans les prix. Lors des élections de mi-mandat, l'IA deviendra le bouc émissaire des questions sur le coût de la vie. »
« Le projet de loi ROSA a été adopté à la Chambre des représentants par 300 voix contre 20, et est bloqué au Sénat. Le lobbying des entreprises empêche une législation qui restreindrait l'accès à distance chinois aux GPU. »
Corps de l'article
Meilleur premier semestre de l'histoire des semi-conducteurs, puis le remboursement commence
Dylan : Le marché boursier recule, toutes les valeurs liées à l'IA chutent. Soit nous jetons de l'huile sur le feu aujourd'hui, soit nous apportons un peu de réconfort.
Doug : Jusqu'au 30 juin, à la fin du T2, c'était probablement la meilleure performance de l'histoire des semi-conducteurs. Ensuite, nous avons commencé à défaire cette dynamique. Beaucoup de cela peut être attribué à des facteurs techniques : levier, inversion de momentum. Mais la réalité est que plus quelque chose monte vite, plus la gravité est forte. Nous payons pour le rallye de momentum fou qui a précédé.
La situation en Corée est folle. Chaque jour, des actions atteignent la limite basse. Un tweet disait : « Comment je fais mon travail ? » Un directeur des ressources humaines a tout perdu, tout le monde est déprimé parce que les actions ont toutes chuté. Si vous regardez l'histoire des marchés financiers asiatiques, ce genre de choses arrive plus souvent qu'on ne le pense.
Mon livre préféré parle de la grande bulle taïwanaise. Taïwan a connu une bulle de 100x sur une base par habitant, les banques se négociaient à 500 fois le bénéfice, tout était devenu fou.
Dylan : C'était quand ?
Doug : À la fin des années 1980.
Dylan : Penses-tu que les fondamentaux de la Corée aujourd'hui sont différents de ceux de l'époque ?
Doug : Les fondamentaux sont bons. Mais le problème est que les choses ne sont jamais aussi mauvaises que la peur le suggère, ni aussi bonnes que vous l'imaginez. SK Hynix a manqué les attentes aujourd'hui parce qu'il s'est tourné vers plus de LTA. L'ironie, c'est que lors de leur roadshow pour les ADR, ils critiquaient Micron qui, avec les LTA, obtenait des prix plus bas.
Les prix de la mémoire ont environ triplé l'année dernière, ils ne peuvent pas tripler à nouveau l'année prochaine, peut-être augmenter de 30 à 50%. Mais le monde de la finance a perdu la tête, il ne regarde que le taux de variation. Historiquement, dans les cycles de la mémoire, dès que la dérivée seconde baisse, c'est généralement la fin. Parce que le taux de variation ne s'arrête pas à 30%, il plonge directement à -50%.
Le scénario de ce cycle est toujours le même : tout le monde investit, construit des usines, la capacité entre en ligne, puis on se rend compte « Mon Dieu, la demande est si faible ». Parce qu'avant, il y avait des doubles, des triples commandes. Les usines passent d'un taux d'utilisation de 100% à 50%, et le seul moyen de rentabiliser est de baisser les prix. C'est la nature du marché des semi-conducteurs.
Le KOSPI a maintenant chuté de 40%. Les personnes avec un levier 2x ont été directement effacées. Ensuite, c'est une spirale auto-réalisatrice : chacun voit son compte fondre, décide de vendre, ce qui aggrave la baisse.
Mémoire chinoise : Peut gâcher la fête, mais la demande reste supérieure à l'offre
Dylan : Récemment, la mémoire chinoise est entrée dans l'écosystème, avec la grande IPO de CXMT, YMTC. Qu'en penses-tu ?
Doug : Ils ont de la capacité, même avec de faibles rendements, peu importe. Les entreprises chinoises ne sont pas en concurrence sur la marge ou le BPA.
CXMT est clairement le quatrième acteur du marché maintenant, mais c'est un environnement de pénurie, ils peuvent quand même gagner de l'argent. Apple a commencé à utiliser la mémoire de CXMT parce que Micron faisait du « price gouging ». Personne ne pleure au casino, Tim Apple. Tu dois acheter au prix du marché.
CXMT pourrait gâcher la fête, mais la réalité est que la demande reste supérieure à l'offre. Le véritable problème des mille milliards est : où se trouve la demande ? La courbe d'offre est relativement compréhensible. La courbe de demande, nous ne la connaissons pas. Nous savons que les agents de codage et les chatbots signifient plus de demande, mais nous ne savons pas si c'est 10 fois ou 100 fois. L'offre augmentera aveuglément jusqu'à ce qu'un jour elle rencontre la courbe de demande.
Les agents de codage sont un point d'inflexion : SemiAnalysis lui-même a multiplié ses dépenses en IA par 100
Dylan : Je pense que la demande est clairement très forte et le restera pendant longtemps. Il me suffit de regarder l'utilisation interne de ma propre entreprise. Si vous pensez que la demande future va stagner ou même diminuer, vous devez croire que les modèles ne vont plus s'améliorer. Je ne vois aucun signe de stagnation, je ne vois que des signaux dans la direction opposée.
Doug : Laisse-moi jouer l'avocat du diable. Quel est le plus gros argument baissier ? La vitesse du progrès technologique pourrait dépasser la vitesse à laquelle les gens l'utilisent. Supposons que l'application phare de l'IA soit la saisie de données, Kimi K3 suffirait. Nous construisons des voitures de plus en plus rapides, des produits de mieux en mieux, mais la véritable courbe de demande est satisfaite par un produit que nous maîtrisons déjà.
C'est comme la bulle Internet : à l'époque, on disait « la demande double tous les 90 jours », mais la technologie de la fibre optique s'améliorait de 2 à 3 fois par an. La dernière fibre est devenue 500 000 fois plus performante que la première, et puis les gens ont dit « Attendez, on n'a pas besoin de tant de fibres optiques ».
Dylan : Je ne suis pas d'accord, mais c'est un point qui mérite d'être discuté. Ma réfutation est : il y a encore 100 à 1000 fois plus de gens qui n'utilisent actuellement aucun modèle. Deuxièmement, les cas d'utilisation de l'IA vont bien au-delà du codage. Elle peut aussi faire de la génération vidéo, de la découverte de médicaments, de la science des matériaux. Certains utilisent l'IA pour créer des composants supraconducteurs, combien cela vaut-il ? Beaucoup d'argent en GPU.
Et le codage lui-même n'est pas seulement « centrer un div ». Il représente toute une catégorie de tâches dont la valeur économique est bien supérieure au débogage front-end. Sam Altman parle de RSI (amélioration de soi récursive), Anthropic a un nouveau modèle à sortir. Les agents de codage, dans la version Claude 4.5, ont été un point d'inflexion clair : vous franchissez une ligne d'intelligence, et un tout nouveau marché apparaît. La veille, vous ne pouviez pas faire quelque chose, le lendemain, vous le pouvez.
Doug : Tu es l'utilisateur prototype. L'année dernière à la même époque, l'équipe technique de SemiAnalysis comptait moins de 10 personnes utilisant des agents de codage, puis toi et Dylan avez dit « tout le monde dans l'entreprise doit apprendre à utiliser ça ». Maintenant, nous avons 90 utilisateurs.
Dylan : De 9 à 90, 10 fois. Puis en 3 à 4 mois, l'utilisation par personne a également été multipliée par environ 10. Les dépenses en IA de l'entreprise ont été multipliées par 100. Maintenant, la question est : chaque entreprise fera-t-elle de même ? Peut-être pas avec cette intensité, mais beaucoup d'entreprises ont beaucoup de travail qui peut être automatisé.
Le H100 ne deviendra pas obsolète, mais les modèles grossissent
Doug : Je pense que les vieilles puces deviendront sans valeur. Tout le monde dit « le H100 est un actif qui prend de la valeur », mais un jour, pour faire tourner un modèle, il faudra 100 H100. À ce moment-là, vous direz « laissons la vieille dame prendre sa retraite, achetons un B300 ». Le vrai signal de confirmation sera une différenciation de prix entre le B200 et le B300.
Dylan : Je ne suis pas du tout d'accord. La raison fondamentale est : personne ne va retirer des H100 pour les remplacer par des B300. La conception des centres de données est complètement différente. Vous ne pouvez pas remplacer Hopper par Blackwell ou Rubin dans la même salle, vous devez tout démonter et reconstruire. Donc, pour justifier la mise à la retraite d'un centre de données Hopper entier, il faut d'abord prouver que les revenus de ces puces sont inférieurs aux coûts d'exploitation. Ce n'est pas un coût variable, c'est un coût irrécupérable.
Doug : Dans un monde sans friction, tu aurais raison, mais nous vivons dans un monde où les frictions augmentent. Les frictions pour construire de nouvelles capacités de calcul incluent les permis d'électricité, les terrains, les approbations.
Dylan : Oui, je suis d'accord. Le scénario d'une baisse des prix des GPU est lié à une stagnation de l'avancée des modèles, le scénario d'une hausse est lié à une progression continue des modèles. Il y a aussi un facteur X : l'intervention gouvernementale sur les laboratoires de pointe. Si on limite qui peut utiliser les dernières et meilleures puces, la demande sera comprimée et le prix des anciennes puces suivra la baisse.
Capitaux et électriciens : le plafond physique des lois de mise à l'échelle (scaling laws)
Doug : Ce qui m'inquiète le plus, ce n'est pas la demande, ce sont les goulots d'étranglement physiques du côté de l'offre. Le premier est les électriciens. Les États-Unis manquent de 100 000 électriciens. Un électricien de niveau intermédiaire gagne 250 000 $ par an, jusqu'à 400 000-500 000 $ s'il accepte de travailler 18 heures. Un site web suit les offres d'emploi pour électriciens, sur Wayback Machine on peut voir le salaire horaire passer de 15-20 $ à 50, 100, 200 $. Former un électricien prend 18 mois. Pour en avoir le double, nous n'avons jamais formé autant de monde.
Le deuxième est le capital. Les hyperscalers du cloud ont émis environ 4500 milliards de dollars de dette cette année, du jamais vu. C'est juste derrière le gouvernement américain et le gouvernement chinois. Quelqu'un doit acheter cette dette. Pour qu'ils en achètent plus, il faut offrir des taux d'intérêt plus élevés. Et la source de cet argent, en grande partie, ce sont les pensions de retraite et les rentes. Le bassin des retraites est en contraction structurelle. Les pensions ont massivement migré vers les 401k, et les 401k n'achètent pas de dette. Donc, il faut essentiellement croire que tout le monde a besoin de deux fois plus d'assurance, mais cela n'a pas de sens.
Les lois de mise à l'échelle disent « Super, nous doublons la taille des modèles ». Mais tout ne peut pas doubler ou tripler de manière synchrone.
Dylan : Attends, tu dis que les pensions de retraite paient pour la construction des centres de données ?
Doug : Oui. Les rentes sont achetées massivement avant la retraite, la génération du baby-boom part à la retraite, donc ce bassin d'actifs est relativement important. Mais peut-il doubler ? Tripler ? Je ne pense pas. L'assurance vie est aussi une source. Mais il faut croire que tout le monde a besoin de deux fois plus d'assurance vie. Personne n'achète deux fois plus d'assurance vie.
Dylan : C'est intéressant. Les retraites sont structurellement en contraction, mais il y a beaucoup d'argent là-dedans.
Doug : Un autre exemple est Taïwan. TSMC représente directement et indirectement 20% du PIB de Taïwan. Si TSMC double ou triple encore, Taïwan aurait besoin que les gens fassent plus d'enfants pour avoir assez de travailleurs. Taïwan ne joue qu'à un seul jeu. Le PIB de Taïwan a augmenté de 25% cette année, c'est TSMC qui fait cuire des puces. Mais le doubler à nouveau, il n'y aura pas assez de monde.
Politisation de l'IA : Le bouc émissaire des élections de mi-mandat
Dylan : Beaucoup de gens n'aiment pas l'IA, cela n'est pas pris en compte dans les prix. Comment pourrait-il l'être ? Je pense que ce sera lors des élections de mi-mandat.
Doug : L'IA est à peu près la cinquième priorité, pas dans le top trois. La santé, le coût de la vie viennent avant. Personne ne se présentera avec un programme politique centré sur l'IA.
Dylan : Mais l'IA deviendra un sous-proxy des questions sur le coût de la vie. Ce n'est pas « soutenons-nous l'IA », mais « souciez-vous de l'économie, blâmez les tech bros et l'IA ». Le projet de loi ROSA a été adopté à la Chambre par 300 voix contre 20, il est bloqué au Sénat. Le lobbying des entreprises l'empêche.
Doug : Si ce n'est pas une priorité dans le top trois, le lobbying l'emportera sur l'opinion publique.
Dylan : Mais l'IA est déjà le bouc émissaire que les gens utilisent pour d'autres questions. Changement climatique, logement, inflation, l'IA et les tech bros seront pointés du doigt.
Doug : Il y a un sondage intéressant : les gens qui détestent les centres de données ne vivent généralement pas à proximité. Et ceux qui vivent à proximité, surtout les jeunes, ont une attitude positive, à cause de l'emploi. Je suis allé visiter un centre de données près de Buffalo, les locaux étaient très favorables. Construire des centres de données dans des zones reculées est en fait une bonne chose, cela élargit la participation économique. Un centre de données d'un gigawatt nécessite environ dix mille personnes. 70 gigawatts, c'est 700 000 emplois. Cela commence à affecter les votes.
Scénario final : Cinq mille milliards d'investissement, cinquante milliards de revenus
Doug : L'avenir de l'essor technologique se réalisera toujours, la question est le timing des flux de trésorerie. Vous dépensez mille milliards, vous en obtenez cent milliards, et un jour, cela deviendra mille milliards. Mais ce sera peut-être dans cinq ans, et à ce moment-là, vous direz « mon frère, je n'ai plus d'argent ».
Supposons que l'écosystème de l'IA dans son ensemble ait actuellement un revenu annuel récurrent (ARR) de 1500 milliards, pour un CAPEX cumulé de mille milliards. Un retour sur revenus de 15%, avec une marge de 50%, cela fait 7,5%. Ce n'est pas mauvais, mais ce n'est pas super rentable non plus. Il faut croire que les 1500 milliards peuvent devenir 5000 milliards, c'est possible. Ensuite, 5000 milliards peuvent supporter 2000 à 3000 milliards de CAPEX. Mais doubler encore une fois devient très difficile.
OpenAI et Anthropic croient que l'entraînement final (final pre-training) arrive, parce qu'ils veulent faire une IPO. Le modèle issu de l'entraînement final est vraiment bon, les revenus augmentent vite, mais pas assez vite pour payer les factures. Vous avez construit une maison que vous ne pouvez pas payer. Cinq mille milliards d'investissement, cinquante milliards de revenus, c'est l'argent de dix ans.
Dylan : Tu parles de revenus, pas de bénéfices. Et quand tu dis ça, tu sais à quel point les marges de ces entreprises sur les services actuels sont élevées.
Doug : Oui, nous n'en sommes pas encore là. Nous sommes encore sur une voie étroite, on peut voir comment les revenus correspondent. Les hyperscalers du cloud ont d'autres activités qui génèrent des masses de cash, s'ils veulent arrêter le CAPEX, les bénéfices peuvent immédiatement être imprimés. Mais à mesure que vous investissez de plus en plus, que les enjeux deviennent plus élevés, la voie se rétrécit. À un certain point, vous devez en fait exiger que tout le monde l'utilise. Le problème est que le monde des décideurs et celui des utilisateurs réels sont deux mondes complètement différents. Zuck pense que tout le monde portera des lunettes Meta dans le métavers et brûlera des billions de tokens par jour, mais la grand-mère du Nebraska ne sait même pas utiliser un nouvel iPhone.
Dylan : Les revenus ne dépendent pas des grands-mères. Ils dépendent des entreprises, des banques, des opérateurs télécoms, des détaillants, de la défense et des services de renseignement. Je vois chaque banque, chaque opérateur télécom, chaque détaillant utiliser cela dans son travail quotidien. Les contraintes les plus intéressantes sont du côté de l'offre : pouvez-vous installer suffisamment de GPU, pouvez-vous recruter suffisamment de gens pour vendre.
Doug : Oui, les problèmes du côté de l'offre sont plus intéressants et plus difficiles. Les électriciens, le capital, les permis, ces choses ne peuvent pas doubler selon les lois de mise à l'échelle. Mais donnez-leur du temps, cela arrivera. Ils pourraient effectivement émettre mille milliards de dette l'année prochaine. Le vrai problème (the real problem) est que la voie va se rétrécir, les enjeux vont augmenter, et puis vous devrez exiger que tout le monde l'utilise. Cette courbe d'adoption prend du temps.
