Sungguh luar biasa.
Baru saja, NVIDIA untuk pertama kalinya dalam sejarah merilis data hasil pengujian on-chip pertama dari rak server andalan generasi berikutnya, Vera Rubin NVL72.
Dan yang mengejutkan, pengujian ini langsung melibatkan DeepSeek -V4-Pro, menjalankan tugas "pembuatan kode agen" yang paling nyata!
Hasilnya mengejutkan: Dibandingkan dengan raja server utama saat ini GB300 NVL72, throughput per megawatt Vera Rubin melonjak hingga 30 kali lipat, dan biaya per Token turun drastis hingga 35 kali lipat!
Ada yang berteriak, "Saya bahkan tidak berani menulis presentasi untuk menipu investor seperti ini!"
Ada juga komentar netizen jenaka, "Dulu mengeluh H200 mahal seharga tiga puluh ribu dolar per kartu, sekarang lihat ke belakang, ternyata H200 bahkan tidak bisa dianggap sebagai versi paling murah."
Mari kita bahas lebih detail.
Dari H200 ke GB300, throughput untuk beban kerja Agent nyata meningkat hingga 30 kali lipat, dengan biaya yang kira-kira dua kali lipat.
Dari GB300 ke Vera Rubin, throughput melonjak lagi hingga 30 kali lipat, dengan harga per rak server kira-kira dua kali lipat lagi.
Berdasarkan hukum Moore ala Huang Renxun (Jensen Huang), rupanya terobosan teknologi terbesar NVIDIA dalam dua tahun terakhir bukanlah GPU itu sendiri, tetapi membuat harga menjadi 4 kali lebih mahal, namun menghasilkan lompatan kecepatan yang mencapai 900 kali lipat!
Kali ini, NVIDIA mengumumkan kepada semua orang sebuah kebenaran yang berlawanan dengan akal sehat: Era LLM berakhir, Era Agent tiba, semua tolok ukur AI sebelumnya, tidak berlaku lagi!
Sementara itu, Vera CPU yang dibuat khusus untuk agen cerdas, telah dipasang oleh SpaceXAI milik Elon Musk semalam, dan bahkan bersiap untuk langsung diluncurkan ke luar angkasa.
Di hari yang sama, NVIDIA Groq 3 LPX juga mulai diproduksi massal secara penuh.
Gemma 4 31B yang dijalankan di atasnya, kecepatannya sungguh luar biasa, langsung mencapai 3400 Token per detik. Throughput model dengan parameter triliunan, melesat 35 kali lipat.
Rekor-rekor baru ini, secara langsung menulis ulang lanskap komersial ekosistem Agent, mulai malam ini!
Mengapa NVIDIA Harus Meluncurkan Vera Rubin?
Data terbaru dari OpenRouter memberikan jawabannya: Di dunia nyata, jumlah Token yang dikonsumsi oleh satu tugas AI Agent adalah 15 kali lipat dari percakapan obrolan biasa!
Misalnya, jika meminta seorang Agent untuk meneliti sebuah perusahaan demi keputusan investasi, dalam proses ini, agen cerdas dan sub-agen akan terus melakukan penalaran, Token yang terakumulasi menjadi input untuk langkah selanjutnya, sehingga pemrosesan konteks panjang menjadi elemen paling kritis yang membatasi AI agen cerdas.
Semakin banyak interaksi agen, semakin besar throughputnya — jumlah agen meningkat 10 kali lipat, panggilan alat meningkat 2 kali lipat, kontradiksi antara daya komputasi dan algoritma melahirkan kebutuhan baru.
Jangan Samakan Mengobrol dengan Agen Cerdas, Semua Tolok Ukur Lama Tidak Berlaku!
Saat ini, pengujian tolok ukur AI tradisional (seperti pengujian urutan 8K/1K dengan panjang tetap) menjadi benar-benar tidak valid.
NVIDIA secara resmi menjelaskan: Pengukuran kinerja harus berevolusi! Tidak bisa lagi menguji permintaan inferensi tunggal, harus menangkap alur kerja Agent yang lengkap.
Untuk itu, mereka menggunakan pengujian tolok ukur AgentX yang dimiliki oleh SemiAnalysis.
Pengujian ini bukan lagi tanya jawab yang kaku, tetapi memutar ulang "sesi penulisan kode" yang nyata, dengan pertumbuhan konteks, panggilan alat, dan pembuatan sub-agen.
Inilah mengapa H200 tampak tidak memadai di medan perang Agent yang baru, dan Vera Rubin ditakdirkan untuk menjadi raja.
Vera Rubin NVL72 × DeepSeek-V4-Pro:
Monster Daya Komputasi Telah Datang
Untuk membuktikan kemampuan Vera Rubin NVL72, NVIDIA langsung menggunakan jawara sumber terbuka — DeepSeek -V4-Pro (1.6T) untuk pengujian on-chip.
Data yang keluar, hasilnya mengejutkan —
Di bawah beban kerja AgentX, throughput per megawatt Vera Rubin NVL72, meningkat hingga 30 kali lipat dibandingkan dengan GB300 NVL72!
Harap dicatat, yang dibandingkan di sini bukan H200 yang sudah lawas, melainkan GB300 yang sedang populer dan menjadi andalan utama.
GB300 dalam pengujian DeepSeek -V4-Pro yang sama, throughput per megawattnya sudah meningkat 15 kali lipat dibandingkan H200.
Namun Vera Rubin di atas pundak GB300, kembali mengangkatnya 30 kali lipat, meningkatkan lagi di seluruh kurva Pareto!
Apa artinya ini?
Bagi "pabrik AI" yang dibatasi oleh pasokan listrik, ini secara langsung memperluas batasan hukum fisika.
Dengan anggaran listrik yang sama, Vera Rubin dapat melakukan pekerjaan agen cerdas 30 kali lebih banyak.
Bagi pusat data dengan skala megawatt bahkan gigawatt, ini setara dengan menghasilkan aset daya komputasi 30 kali lipat secara tiba-tiba.
Dan, teknologi NVIDIA DSX MaxLPS dapat melakukan manajemen daya di tingkat GPU, rak, dan beban kerja, memungkinkan konfigurasi GPU hingga 40% lebih banyak dalam anggaran megawatt yang sama, sehingga pabrik AI semakin meningkatkan throughput per megawatt!
Biaya Token Anjlok 35 Kali Lipat! "Buku Besar" Industri Agent Ditulis Ulang Sepenuhnya
Throughput per megawatt, secara langsung mempengaruhi biaya setiap token yang dihasilkan. Lonjakan kinerja, membawa konsekuensi paling langsung yaitu ledakan nuklir model bisnis.
NVIDIA mengumumkan, biaya produksi per juta Token oleh Vera Rubin NVL72, berkurang hingga 35 kali lipat dibandingkan GB300 NVL72!
Saat biaya inferensi anjlok drastis 35 kali lipat, karyawan digital yang bekerja tanpa henti 24 jam akan menjadi kenyataan, aplikasi super di sisi ToC akan mengalami ledakan besar.
Huang Renxun (Jensen Huang) kali ini, langsung membuka pintu gerbang era aplikasi Agent.
Desain Kolaboratif Ekstrem: Bagaimana Huang Renxun Melakukannya?
Anda mungkin bertanya: Berdasarkan apa bisa mempercepat 30 kali lipat? Apakah bergantung pada proses chip tunggal?
Tentu saja bukan.
Peningkatan kinerja luar biasa Vera Rubin NVL72, bergantung pada "desain kolaboratif ekstrem".
Misalnya layanan terpisah, cache KV terdistribusi, perutean sadar KV, MegaMoE, dan lain-lain.
Selain itu, kuantisasi NVFP4 langsung mengompresi bobot model ke presisi 4-bit, tanpa mengorbankan kualitas keluaran, secara drastis mengurangi penggunaan memori, membuat throughput langsung melesat.
Sedangkan NVLink generasi keenam dan model MoE besar, menyediakan jaringan interkoneksi yang 10 kali lebih cepat dan latensi 3 kali lebih rendah daripada Ethernet yang ada, memungkinkan model besar berbasis arsitektur MoE seperti DeepSeek , dapat memanggil sub-jaringan "ahli" yang berbeda dengan lancar di antara 72 GPU.
Ini sudah bukan lagi menjual kartu grafis, Huang menjual satu set lengkap "pembangkit listrik AI".
Groq 3 LPX NVIDIA Diproduksi Massal Sepenuhnya:
3400 Token/detik, Kode Agen Berubah Total!
Di konferensi Hot Chips 2026 kali ini, NVIDIA juga melemparkan berita mengejutkan: Groq 3 LPX mulai diproduksi massal penuh!
Groq 3 LPX, adalah ekstensi eksklusif untuk platform pusat data Vera Rubin NVL72.
Ia "dirancang khusus" untuk sistem ini, dengan fokus utama pada akselerasi inferensi latensi rendah.
Teknologi canggih ini, adalah yang dibeli NVIDIA dari perusahaan startup Groq dengan nilai 200 miliar dolar pada bulan Desember lalu.
AI agen cerdas akan menghadapi masalah latensi dekode, untuk mengakhiri masalah ini, Groq 3 LPX dengan cerdik memisahkan pemrosesan konteks yang sangat besar dengan pembuatan Token secara total.
Solusi NVIDIA adalah, membiarkan GPU Rubin menangani konteks skala besar, dan menyerahkan tugas pembuatan Token super cepat kepada Groq 3 LPX.
Satu mengurus "membaca", satu mengurus "menulis", masing-masing melakukan apa yang paling mereka kuasai.
Dalam penerapan tingkat rak server yang lengkap, hingga 256 akselerator LP30 dapat bekerja sama dengan GPU melalui interkoneksi bandwidth sangat tinggi, membangun mesin inferensi skala perusahaan.
Dengan demikian, Groq 3 LPX langsung mencapai kecepatan keluaran yang memecahkan rekor.
Dalam pengujian tolok ukur Artificial Analysis, Groq 3 LPX menjalankan Gemma 4 31B di bawah jendela konteks super panjang 100 ribu Token, mencapai kecepatan keluaran yang mengejutkan 3.400 Token/detik!
Ini membuatnya 4 kali lebih cepat dalam merespons dibandingkan pesaing pada beban kerja yang sangat sensitif terhadap latensi.
Tugas multi-langkah agen cerdas yang dulu memerlukan beberapa jam untuk diselesaikan, sekarang dapat diselesaikan dalam beberapa menit!
Groq 3 LPX dalam menghasilkan 5000 Token, waktu yang dibutuhkan berkurang dari 50 detik menjadi 1,5 detik, selisih 34 kali lipat.
Dan dalam tugas pengkodean, kecepatan keluaran maksimum Groq 3 LPX mencapai 6981 token/detik.
Huang Renxun (Jensen Huang) dengan tegas mengatakan, melalui LPX yang mendorong pembuatan Token super cepat, telah mencapai "loncatan besar lagi" dalam throughput AI dan kemampuan respons.
Nebius sudah menggunakan chip ini dalam Nebius Token Factory, memberikan pengalaman respons instan yang ekstrem di setiap langkah siklus agen cerdas.
Diikuti kemudian, ada Groq sendiri.
CPU Khusus Agen Pertama Dirilis,
Elon Musk Segera "Diluncurkan ke Luar Angkasa"!
Dalam pengumuman kali ini, langkah paling ambisius adalah CPU Vera.
Untuk Agent, NVIDIA secara khusus membuat sebuah CPU.
CPU Vera ini, dibuat khusus untuk memenuhi kebutuhan agen cerdas.
Ia dilengkapi dengan 88 inti Olympus buatan sendiri, memori LPDDR5X bandwidth tinggi, bandwidth langsung mencapai 1,2TB/s.
Mengapa era model besar membutuhkan CPU yang benar-benar baru?
Di lokasi Hot Chips, eksekutif CPU Vera NVIDIA dengan tegas mengatakan, "AI Agentic adalah tugas komputasi paling kompleks dalam sejarah".
Satu tugas, di belakang Agent harus menjalankan ratusan langkah: memanggil alat, mengeksekusi kode Python, mencari konteks, memproses data dalam jumlah besar....
Pekerjaan pengaturan dan penjadwalan ini, semuanya ditekan dan ditanggung oleh CPU. Oleh karena itu, NVIDIA harus membuat CPU khusus untuk Agent.
Justru karena melihat hal ini, SpaceXAI milik Elon Musk mengumumkan semalam, secara resmi melakukan penerapan skala besar pada CPU Vera NVIDIA!
Pada bulan Mei tahun ini, NVIDIA sudah diam-diam mengirimkan sampel chip Vera pertama ke A Company, OpenAI, SpaceXAI untuk "uji coba".
Hanya 3 bulan kemudian, SpaceXAI sudah tidak sabar untuk memasukkannya ke dalam penerapan penuh.
Yang lebih gila lagi, SpaceXAI sedang membangun pabrik daya komputasi skala gigawatt berdasarkan platform Vera Rubin, untuk menggerakkan Grok.
Tidak hanya itu, daya komputasi ini, juga akan langsung dikirim ke luar angkasa.
Elon Musk mengatakan, "Dua perusahaan kuat bergabung, merancang versi Vera Rubin NVL72 yang dioptimalkan, yang akan diterapkan secara besar-besaran pada tahun 2028".
Satelit AI "Starmind" generasi pertama SpaceXAI, berencana menggunakan sistem tingkat rak server Vera Rubin NVL72.
Dari Satu GPU, ke Seluruh Pabrik Agent
Di hari yang sama, dua chip besar, CPU Vera dan Groq 3 LPX, diproduksi massal penuh.
Bagi NVIDIA, ini sangat berarti.
Di era model besar, NVIDIA mengandalkan GPU untuk merebut pelatihan dan inferensi.
Di era Agent, wilayah kekuasaannya sudah meluas hingga ke CPU, akselerator inferensi, NVLink, dan lain-lain.
Apa yang dijual Huang, sudah bukan hanya sebuah GPU.
Yang ingin dia jual, adalah pabrik AI yang dapat terus memproduksi Token.
Kali ini, Huang ingin membangun kembali fondasi untuk seluruh "era Agent".
Referensi:
https://x.com/MinLiBuilds/status/2091915873661686204
https://developer.nvidia.com/blog/nvidia-vera-rubin-and-blackwell-set-a-new-standard-for-agentic-ai-performance-per-watt/
https://developer.nvidia.com/blog/inside-nvidia-groq-3-lpx-the-low-latency-inference-accelerator-for-the-nvidia-vera-rubin-platform/
https://developer.nvidia.com/blog/maximizing-ai-factory-performance-per-watt-with-nvidia-dsx-maxlps/
Artikel ini berasal dari akun WeChat "Xin Zhi Yuan", penulis: ASI Revelation
