Original | Odaily Planet Daily (@OdailyChina)
Penulis | Azuma (@azuma_eth)
Akhir pekan kemarin, sebuah laporan riset dari lembaga riset terkemuka SemiAnalysis menggelorakan diskusi besar di seluruh industri AI.
Inti laporan tersebut adalah, setelah SemiAnalysis mengungkap pada akhir Juni bahwa desain asli Rubin Ultra 4-die (4 chip) Nvidia akan dipotong setengah, lembaga riset itu kembali mengungkap bahwa Nvidia telah memberikan preview Rubin Ultra kepada klien utama, namun spesifikasinya turun lebih lanjut dari perkiraan sebelumnya.
Cuplikan informasi terkait Rubin Ultra yang bocor dari laporan SemiAnalysis adalah sebagai berikut:
- Rubin Ultra akan mempertahankan puncak teoretis kinerja komputasi (TOPS) yang sama dengan Rubin, yaitu 35 PFLOPs;
- Kapasitas memori grafis (VRAM) berkurang drastis, spesifikasinya turun menjadi 192GB dengan tumpukan 8 lapisan (8-Hi), bahkan lebih rendah dari Rubin dengan tumpukan 12 lapisan (12-Hi) 288GB;
- Peningkatan bandwidth memori sangat minim, hanya naik 1 TB/s, yang pada dasarnya dapat diabaikan dalam komputasi throughput tinggi nyata;
- Konsumsi daya tingkat chip bahkan sedikit meningkat, daya minimum sama dengan Rubin (1800 W), daya maksimum justru lebih tinggi (2600 W);
- Satu-satunya peningkatan signifikan adalah "skala interkoneksi ekspansi" (Scale-up world size), meningkat dari 72 GPU menjadi 576 GPU, yang berarti NVIDIA memindahkan nilai jual sebenarnya ke jaringan kluster, melalui jaringan NVLink, mereka dapat menghubungkan hingga 576 Rubin Ultra menjadi satu "Super Logical GPU" yang sangat besar (versi standar hanya mendukung interkoneksi maksimal 72 kartu).
Sebagai versi flagship top-tier Rubin yang diumumkan dengan gegap gempita oleh Nvidia di GTC 2026 tahun ini, posisi awal Rubin Ultra adalah dirancang khusus untuk menangani kebutuhan pelatihan dan inferensi model AI skala ekstrem dengan mengintegrasikan lebih banyak chip die dan memori bandwidth tinggi. Namun, dari detail spesifikasi terbaru yang diungkapkan SemiAnalysis, jelas Nvidia telah menyesuaikan alur pemikiran desain Rubin Ultra.
HBM Terlalu Cepat Naik Harganya, Nvidia Mulai Hitung Ulang
Dua tahun terakhir, salah satu komponen paling kritis dalam ekspansi industri AI tak diragukan lagi adalah HBM.
Seiring meledaknya permintaan untuk akselerator AI seperti Nvidia H100, H200, Blackwell, memori bandwidth tinggi berubah dari produk memori high-end yang relatif niche menjadi bagian paling ketat dalam infrastruktur AI. SK Hynix, Samsung, Micron yang terus menyegarkan kinerja sekaligus memperluas investasi HBM, sementara ketidakseimbangan penawaran dan permintaan pasar terus mendorong kenaikan harga HBM.
Bagi produsen chip AI, pentingnya HBM tidak perlu dipertanyakan lagi — GPU bertanggung jawab untuk komputasi, HBM bertanggung jawab menyediakan throughput data berkecepatan tinggi, keduanya bersama-sama menentukan efisiensi pelatihan dan inferensi model AI. Namun masalahnya, kini HBM telah menjadi terlalu mahal hingga mulai mempengaruhi kelayakan ekonomi keseluruhan sistem AI. Ambil contoh HBM3, harga satu HBM3 pada Q2 2025 titik terendah hanya 180-220 dolar AS, Q1 tahun ini (harga kontrak) telah naik menjadi 600-700 dolar AS, Q2 (harga spot) bahkan naik menjadi 700 - 850 dolar AS.
Berdasarkan perhitungan SemiAnalysis, seiring kenaikan harga HBM, biaya material murni (BOM) satu rak Rubin Ultra pernah naik dari sekitar 6,6 juta dolar AS menjadi 8 juta dolar AS, dan setelah menyesuaikan spesifikasi desain, biaya dapat turun kembali menjadi sekitar 6,4 juta dolar AS.
Bagi Nvidia, perbedaan biaya yang begitu besar berarti masalah yang sangat nyata — jika terus meningkatkan kapasitas HBM sesuai desain awal, apakah masih dapat menghasilkan peningkatan kinerja yang sebanding dengan biayanya? Apakah ada skema lain yang lebih optimal?
SemiAnalysis dalam laporannya menjawab hal ini, penyesuaian Rubin Ultra pada dasarnya adalah Nvidia mengoptimalkan kembali struktur biaya sistem AI dengan sumber daya terbatas, yaitu mengurangi konfigurasi HBM yang relatif mahal (proporsi biaya turun dari mendekati 40% menjadi 28%), dan mengalihkan sumber daya ke kemampuan interkoneksi ekspansi bernilai lebih tinggi (proporsi biaya naik dari 4% menjadi 12%).
Seperti disebutkan sebelumnya, arah peningkatan inti Rubin Ultra kini telah beralih ke "kemampuan interkoneksi ekspansi tingkat sistem". Arsitektur NVL576 yang didukung Rubin Ultra, dapat menghubungkan hingga 576 GPU menjadi satu domain komputasi terpadu melalui NVLink, bertujuan untuk mengimbangi penyesuaian spesifikasi chip tunggal dengan ekspansi sistem skala lebih besar.
Saham Memori Anjlok, Pasar Khawatir Permintaan Capai Puncak
Mungkin terdampak berita ini, pagi ini setelah pasar saham Korea dibuka, konsep saham memori kolektif turun. Per 11:45 waktu Beijing, SK Hynix dan Samsung, dua raksasa HBM, sama-sama anjlok sekitar 8%, indeks KOSPI juga turun sekitar 5%.
Pasar telah mulai khawatir, jika penyesuaian spesifikasi Rubin Ultra yang diungkapkan SemiAnalysis terbukti benar (Nvidia belum secara terbuka mengkonfirmasi informasi terkait), apakah itu berarti — Nvidia sebagai pembeli inti paling sentral dalam infrastruktur AI, mulai menurunkan permintaan terhadap HBM?
Dua tahun terakhir, seiring pertumbuhan cepat permintaan ekspansi AI, HBM telah menjadi bagian paling ketat dalam infrastruktur AI. Nvidia, AMD, dan produsen chip lainnya terus meningkatkan konfigurasi HBM dalam akselerator AI, mendorong lonjakan kinerja produsen memori seperti SK Hynix, Samsung, Micron, dan terus memperkuat kekuatan penetapan harga mereka di seluruh rantai industri.
Dan pilihan Nvidia mungkin berarti produsen chip AI sedang mempertimbangkan untuk mengurangi ketergantungan chip tunggal pada HBM kapasitas tinggi dengan mengoptimalkan desain perangkat keras. Jika jalur ini terbukti layak, maka ruang bagi produsen HBM untuk terus menaikkan harga sangat mungkin akan dibatasi.
Pembangunan infrastruktur AI cepat atau lambat akan meninggalkan era "penumpukan bahan gila-gilaan dan kenaikan harga tanpa berpikir". Dan sekarang, bahkan Nvidia yang berdiri di atas singgasana besi kekuatan komputasi, juga telah mulai berhemat.
