【Introduction】La vitesse de raisonnement du GPT-5.6 atteint en effet 750 tokens/seconde ! Un expert révèle des détails internes : il fonctionnera sur 100 tranches de silicium. L'IA passe de la réflexion à l'éclair, l'ère de l'intelligence en temps réel est-elle vraiment arrivée ?
Selon diverses fuites, GPT-5.6 sera bientôt ouvert à tous.
Ces derniers temps, toutes sortes de spéculations sur ce modèle ont pris feu sur X.
Le 26 juin, OpenAI a officiellement annoncé la toute nouvelle famille GPT-5.6.
Et dans le blog officiel, cette phrase figurait : OpenAI prévoit de lancer le tout nouveau modèle d'avant-garde – GPT-5.6 Sol – ce mois-ci sur le matériel personnalisé du géant des puces Cerebras, avec une vitesse de raisonnement glaçante de 750 tokens par seconde !
Cela signifie que des opérations complexes d'agent qui nécessitaient auparavant plusieurs minutes d'attente peuvent maintenant être réalisées en un clin d'œil.
Il est clair qu'OpenAI a déjà franchi un pas disruptif pionnier dans la co-conception matériel-modèle.
En ajoutant à cela la récente première exposition au public de sa puce de raisonnement IA maison Jalapeño, nous pouvons sentir qu'OpenAI nourrit l'ambition de devenir un empire IA full-stack.
L'art ultime de la vitesse : le choc dimensionnel de 750 tokens/s
Quelle est la signification de « 750 tokens par seconde » ?
Pour un humain, cela équivaut à lire et produire environ 500 à 600 caractères chinois en une seconde.
Le texte devant vos yeux, GPT-5.6 Sol peut le générer en moins d'une fraction de seconde.
Sur X, le développeur renommé Caleb Shepherd a déclaré avec enthousiasme : « C'est ce qui m'excite le plus, GPT-5.6 Sol fonctionnant sur Cerebras. Ce n'est pas seulement parce que l'écriture de code devient plus rapide, mais surtout parce que la vitesse d'utilisation de l'ordinateur subit un changement qualitatif. Nous n'aurons plus à attendre patiemment deux minutes que l'IA clique sur un bouton. »
Depuis longtemps, bien que les grands modèles deviennent de plus en plus intelligents, la « latence de raisonnement » est restée le principal goulot d'étranglement pour le déploiement en temps réel des tâches d'agent multi-étapes.
Lorsqu'un modèle atteint des milliers de milliards de paramètres, les grappes de GPU traditionnelles rencontrent souvent des limites physiques dans la communication inter-nœuds (interconnexion NVLink).
La réponse d'OpenAI est : ne pas adapter le modèle au matériel, mais fusionner le matériel et le modèle en un tout.
Selon les informations préliminaires divulguées officiellement, GPT-5.6 Sol sera ouvert en juillet à une échelle extrêmement limitée à certains clients spécifiques, et se déploiera progressivement avec la montée en puissance de la production.
Comme tout le monde le suppose en ligne, il s'agit absolument d'un service extrêmement coûteux, un privilège taillé sur mesure pour les entreprises de premier plan prêtes à payer pour la vitesse.
Comment faire rentrer une bête de 3 billions de paramètres dans une puce ?
Lorsque la nouvelle de 750 tokens/s a filtré, Peter Gostev, responsable de LLM Arena, a soulevé une question qui intrigue tout le monde :
Que se passe-t-il exactement avec GPT-5.6 Sol sur Cerebras ? D'après ce que je sais, il semble s'agir du même modèle complet (incluant les capacités multimodales comme la vision), et non d'une version tronquée comme le GPT-5.3-Codex-Spark d'avant, qui avait été amputé de la vision et du contexte.
Mais ma compréhension est qu'une puce unique Cerebras peut au mieux contenir un modèle de 700 à 900 milliards de paramètres. Alors, le modèle a-t-il rapetissé ? Y a-t-il un nouveau type de puce que je ne connais pas ? Ou s'agit-il d'une nouvelle technologie de collaboration multi-puces ?
Cette interrogation a immédiatement déclenché de nombreuses discussions parmi les internautes.
Certains plaisantent en disant que tout le monde mène « un audit de puce de niveau médico-légal à minuit », et ajoutent : « S'il s'agit vraiment du même modèle complet, c'est comme si quelqu'un avait forcé un super-yacht dans une bouteille en verre, sans vous dire comment c'est fait. »
Rapidement, l'expert technique chevronné Bleys Goodson a fourni une déduction très convaincante et technique –
GPT-5.6 Sol n'est pas logé dans une seule puce, mais s'étend sur 70 à 100 puces wafer-scale de Cerebras !
L'esthétique ultime du déploiement : « Un wafer, un réseau, une couche »
Les experts du secteur estiment que les spécifications de GPT-5.6 Sol sont extrêmement colossales :
- Nombre total de paramètres : environ 3 000 milliards
- Paramètres activés : environ 150 milliards
- Nombre de couches du réseau : environ 70 à 90 couches
Pour obtenir des caractéristiques de service de raisonnement saines, OpenAI et Cerebras ont adopté une méthode de déploiement extrêmement luxueuse et choquante – déployer chaque couche du réseau neuronal séparément sur un wafer Cerebras entier.
Comme l'a souligné un internaute, en augmentant les étages du pipeline, tant que vous avez suffisamment de wafers pour les relier, vous pouvez théoriquement étendre à des modèles de n'importe quelle taille, cela n'affecte pas la vitesse de génération des tokens, cela peut avoir un impact léger uniquement sur le temps du premier token (TTFT).
La restructuration architecturale héroïque – Un KV Cache léger imposé par la nécessité
Cependant, une simple myriade de wafers ne suffit pas. Une caractéristique majeure de l'architecture des puces Cerebras est leur quantité massive de SRAM (mémoire statique à accès aléatoire) sur puce, extrêmement rapide, mais d'une capacité extrêmement précieuse.
Si OpenAI utilisait, comme par le passé, un traditionnel cache KV lourd dans GPT-5.6 Sol, la bande passante de ce SRAM coûteux serait instantanément épuisée.
Cela nous amène au virage stratégique le plus central de cette collaboration : la refonte du modèle autour d'un matériel spécifique.
Bleys Goodson souligne que, puisque OpenAI participe profondément à la co-conception matérielle, il est très probable qu'ils aient abandonné le schéma traditionnel de cache d'attention, pour adopter une conception plus avant-gardiste et légère.
Les scénarios les plus probables incluent :
Une architecture similaire à DeepSeekV4 : une optimisation extrême de l'occupation du cache.
Une conception hybride SSM : combiner des modèles à complexité temporelle linéaire comme Mamba avec Transformer, se débarrassant définitivement du fardeau historique du KV Cache.
De plus, le développeur renommé John Lam a émis une supposition étonnante – le découplage de l'attention et du FFN.
Il suppose qu'OpenAI pourrait utiliser des GPU traditionnels pour traiter les calculs d'attention, tout en utilisant une myriade de wafers Cerebras pour pousser brutalement les calculs de la partie réseau neuronal feed-forward.
Ce n'est pas une rumeur infondée. Les internautes ont rapidement déterré des détails de déploiement de Kimi K2.6 par Cerebras dans un précédent billet de blog :
Cerebras a stocké les poids bruts de Kimi K2.6 en 4-bit sur le système CS-3, tout en calculant en virgule flottante 16-bit pour garantir la précision. Les poids sont répartis sur plusieurs wafers, les valeurs d'activation sont transmises en flux entre les wafers. La communication entièrement interconnectée entre les couches repose entièrement sur la structure réseau sur wafer, dont la bande passante est plus de 200 fois supérieure à celle du NVLink sur le Nvidia NVL72 ! Combiné avec des opérateurs personnalisés et le décodage spéculatif, ils peuvent exécuter des modèles MoE de plusieurs billions de paramètres à une vitesse proche de 1000 tokens/s.
Les spécifications officielles montrent que le système révolutionnaire CS-3 n'est pas seulement invincible en vitesse, mais peut facilement s'étendre à des modèles de 24 billions de paramètres sur un seul dispositif logique !
Comme quelqu'un l'a exprimé avec émerveillement : « Si c'est vraiment la version complète de Sol qui tourne sur Cerebras, alors le plafond de taille de modèle présupposé par tout le monde vient d'être pulvérisé cette nuit. »
Le véritable atout maître – La première puce maison d'OpenAI « Jalapeño »
Et juste avant cela, OpenAI a officiellement dévoilé sa toute première puce maison – Jalapeño.
L'avènement de cette puce explique directement la logique profonde de la collaboration entre OpenAI et Cerebras : en explorant le matériel de raisonnement de pointe d'un tiers, OpenAI a parfaitement compris les points critiques et la valeur de l'architecture de raisonnement dédiée, et les a transformés en une plateforme sous-jacente qu'elle contrôle.
Jalapeño est l'une des variétés de piment mexicain les plus douces. En la nommant ainsi, OpenAI indique clairement : ce n'est que l'apéritif.
Cette puce est un ASIC personnalisé conçu pour le raisonnement des grands modèles. Dès la première ligne tracée, chacun de ses transistors n'est optimisé que pour une chose : exécuter de grands modèles.
De manière surprenante, Jalapeño exécute non seulement les modèles maison d'OpenAI, mais son architecture est également compatible avec les LLM de toute l'industrie, montrant une grande ambition de plateforme.
De plus, la conception et la fabrication de cette puce n'ont pris que 9 mois.
Derrière cela, il y a une alliance industrielle extrêmement puissante :
Conception de l'architecture : OpenAI dirige personnellement la conception de l'architecture sous-jacente.
Implémentation des puces et interconnexion : Le géant des puces Broadcom fournit une puissante capacité d'implémentation et un support technique pour l'interconnexion réseau.
Intégration système : Celestica est responsable de la fabrication finale des cartes et de l'intégration physique au niveau du rack.
Dévorer toute la chaîne d'approvisionnement, l'ambition d'empire full-stack d'OpenAI
Le modèle est entraîné en interne, la puce est conçue en interne, le raisonnement est optimisé en interne, le déploiement est contrôlé en interne.
Il est clair que l'objectif d'OpenAI est un vaste empire IA full-stack.
Mais l'ambition d'OpenAI est encore plus folle que celle d'Apple et de Google, ils possèdent une superbe roue motrice sans précédent : utiliser l'IA pour accélérer la construction de l'infrastructure IA, puis utiliser l'infrastructure plus puissante construite pour exécuter des IA encore plus puissantes.
Selon le plan grandiose annoncé par OpenAI, les premiers super centres de données de classe GW commenceront à être déployés à partir de fin 2026, en collaboration avec des partenaires clés comme Microsoft.
La consommation électrique totale d'une ville de taille moyenne servira à alimenter les racks de raisonnement de Jalapeño et des futures puces de la famille « piment ».
Tenez-vous prêts, bientôt, nous accueillerons GPT-5.6 Sol fonçant à 750 tokens/s sur les wafers Cerebras, brisant le sortilège physique qui lie les paramètres à la vitesse de raisonnement.
Références : https://x.com/bleysg/status/2073937651150029084
Cet article provient du compte officiel WeChat « Xin Zhi Yuan », auteur : ASI Apocalypse ; éditeur : Aeneas
