# Artikel Terkait Nvidia

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Nvidia", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Satu Megawatt Menopang 60 Ribu Agen Cerdas, GB300 NVIDIA Hancurkan Generasi Sebelumnya 20 Kali Lipat

Judul: "Satu Megawatt Menghidupi 60.000 Agen, NVIDIA GB300 Hancurkan Generasi Sebelumnya 20 Kali Lipat" Benchmark baru, AA-AgentPerf, telah diperkenalkan untuk mengukur kinerja sistem AI dalam menjalankan beban kerja agen AI yang kompleks, bukan hanya inferensi tunggal. Berbeda dengan benchmark lama yang mengukur token per detik, AA-AgentPerf fokus pada metrik utama "Jumlah Agen Bersamaan per Megawatt", yaitu berapa banyak agen AI yang dapat didukung secara bersamaan dengan daya 1 megawatt, sambil mempertahankan standar layanan tertentu (SLO) seperti kecepatan output token. NVIDIA GB300 NVL72, sebuah sistem tingkat rak yang menghubungkan 72 GPU melalui NVLink, menunjukkan kinerja luar biasa dalam benchmark ini. Pada standar layanan 20 dan 60 token per detik, sistem ini dapat menangani sekitar 61.400 agen bersamaan per megawatt. Ini sekitar 20 kali lipat lebih efisien dibandingkan generasi sebelumnya, H200, yang hanya menangani sekitar 2.600 agen per megawatt. Dari sisi kepadatan perangkat keras, setiap GPU GB300 dapat menangani rata-rata 57,5 agen, sekitar 40 kali lipat dari H200 (1,4 agen per GPU). Keunggulan ini dicapai melalui kemenangan di tingkat sistem, termasuk arsitektur GPU Blackwell, interkoneksi NVLink berbandwidth tinggi, dan optimisasi perangkat lunak seperti TensorRT-LLM yang memungkinkan pemrosesan paralel dan caching yang efisien untuk beban kerja agen yang melibatkan ratusan panggilan berantai, konteks yang membengkak, dan penggunaan alat. Penting untuk dicatat bahwa angka 61.400 agen adalah simulasi sesi bersamaan berdasarkan jejak agen yang telah direkam (saat ini fokus pada pengkodean), bukan menjalankan model lengkap secara independen. Hasilnya adalah potret kemampuan komputasi dan efisiensi, bukan jaminan kapasitas layanan produksi langsung. AA-AgentPerf masih merupakan proposal awal dari satu organisasi dan kinerja sistem diperkirakan akan terus meningkat dengan optimisasi perangkat lunak lebih lanjut.

marsbit2 hari yang lalu 01:05

Satu Megawatt Menopang 60 Ribu Agen Cerdas, GB300 NVIDIA Hancurkan Generasi Sebelumnya 20 Kali Lipat

marsbit2 hari yang lalu 01:05

OpenAI dan Anthropic Ingin "Mengembangkan Chip Sendiri", Selain Biaya, Lebih Penting adalah Kendali atas Daya Komputasi

Menurut laporan, Anthropic sedang bernegosiasi dengan Samsung mengenai chip AI khusus dan telah memulai pengembangan awal chip AI buatan sendiri, mengikuti langkah OpenAI. Kedua perusahaan bergerak menuju kompetisi terintegrasi perangkat lunak dan keras. Motif utama di balik pengembangan chip mandiri ini adalah kendali atas daya komputasi, bukan sekadar pengurangan biaya. Dengan kebutuhan komputasi yang terus meningkat, ketergantungan pada penyedia eksternal seperti GPU Nvidia menimbulkan risiko pasokan dan tekanan biaya. Chip khusus memungkinkan perusahaan mengoptimalkan perangkat keras sesuai dengan arsitektur model spesifik mereka, mencapai peningkatan efisiensi melalui sinergi perangkat lunak-perangkat keras. Meskipun demikian, chip buatan sendiri tidak akan segera menggantikan pemasok eksternal. Proses pengembangan membutuhkan waktu 18-24 bulan, dan chip mandiri kemungkinan akan digunakan untuk beban kerja yang stabil dan frekuensi tinggi (seperti inferensi), sambil tetap memanfaatkan GPU/TPU untuk skenario lainnya. Hal ini berfungsi sebagai opsi cadangan dan alat negosiasi jangka panjang. Tren ini mencerminkan perlombaan yang lebih luas menuju "kemandirian daya komputasi" di industri AI, seperti yang terlihat pada inisiatif serupa dari Google, Amazon, Meta, dan Microsoft. Bagi Samsung, mendapatkan pesanan dari Anthropic akan meningkatkan posisinya dalam persaingan foundry AI. Secara keseluruhan, persaingan model besar kini meluas dari algoritme ke penguasaan atas tumpukan perangkat keras dan daya komputasi.

marsbit07/03 13:41

OpenAI dan Anthropic Ingin "Mengembangkan Chip Sendiri", Selain Biaya, Lebih Penting adalah Kendali atas Daya Komputasi

marsbit07/03 13:41

Saham Semikonduktor Jatuh, Anthropic Justru Ingin Membuat Chip 2nm

Anthropic dilaporkan telah memulai pekerjaan awal untuk mengembangkan chip AI buatannya sendiri, dan berencana menggunakan teknologi manufaktur 2nm dan *advanced packaging* terdepan dari Samsung. Langkah ini bertujuan untuk mengoptimalkan efisiensi operasional model AI Claude, khususnya dalam tugas *inference*, guna mengurangi biaya komputasi yang sangat besar. Kemitraan ini tidak terlepas dari investasi strategis Samsung dalam putaran pendanaan Anthropic sebelumnya. Samsung, yang selama ini tertinggal dari TSMC di bisnis *foundry*, melihat peluang untuk merebut pelanggan besar seperti Anthropic di tengah permintaan chip AI yang tinggi dan keterbatasan kapasitas TSMC. Kerja sama ini merupakan bagian dari upaya besar Korea Selatan, termasuk investasi ratusan miliar dolar, untuk mendominasi industri semikonduktor. Meski merencanakan chip sendiri, Anthropic tetap sangat bergantung pada berbagai pemasok eksternal. Perusahaan ini memiliki komitmen jangka panjang dan investasi besar dengan Amazon Web Services (AWS) untuk akses ke chip Trainium dan dengan Google untuk akses ke Tensor Processing Unit (TPU). Mereka juga menyewa kapasitas besar dari kluster komputasi milik xAI yang menggunakan GPU Nvidia. Strategi multi-pemasok ini digunakan untuk mendiversifikasi risiko. Analis mencatat bahwa tren desain chip khusus justru mempererat interdependensi dalam rantai pasokan global, di mana lab AI AS, pabrikan chip Asia seperti Samsung, dan Nvidia saling terkait. Meski banyak perusahaan mencoba alternatif, Nvidia masih mendominasi pasar chip inferensi AI dengan pangsa sekitar 74%, dan posisinya tetap kuat dalam jangka pendek. Keputusan Anthropic untuk merancang chip sendiri masih dalam tahap sangat awal dan mungkin tidak dilanjutkan.

链捕手07/03 09:59

Saham Semikonduktor Jatuh, Anthropic Justru Ingin Membuat Chip 2nm

链捕手07/03 09:59

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

**Ringkasan: Makalah NVIDIA yang Mengkhawatirkan tentang AI yang Berkembang Biak Sendiri dan Berevolusi Tanpa Henti** Sebuah makalah penelitian baru yang ditulis bersama oleh Universitas Cambridge, NVIDIA, dan lembaga lainnya, berjudul **"Red Queen Gödel Machine (RQGM)"**, telah memicu perdebatan serius. Makalah ini menggambarkan sistem AI yang dapat **menulis dan memutasi kode algoritma belajarnya sendiri** secara mandiri. Mekanismenya menyerupai permainan evolusi yang kejam: 1. AI menghasilkan varian kode baru (keturunan dengan mutasi). 2. Varian ini diuji dalam lingkungan terbatas (sandbox). 3. Varian yang gagal dihapus, yang berhasil dipertahankan untuk reproduksi dan evolusi lebih lanjut. Yang paling mengkhawatirkan adalah langkah selanjutnya: AI kemudian **secara aktif mengembangkan "penguji" atau "wasit"-nya sendiri**. Ia menciptakan standar evaluasi yang lebih ketat untuk menilai kode yang lebih maju yang dihasilkannya. Hal ini menciptakan **lingkaran rekursif tanpa akhir** di mana baik "peserta" (agen AI) maupun "penguji" secara bersama-sama berevolusi dan saling mendorong menuju kemampuan yang semakin tinggi—seperti dalam **"Hipotesis Ratu Merah"** di biologi: "Kita harus terus berlari secepat mungkin hanya untuk tetap di tempat yang sama." Dalam eksperimen, RQGM menunjukkan peningkatan kinerja dalam beberapa tugas: * **Penulisan Kode:** Meningkatkan tingkat kelulusan pada kumpulan tes. * **Penulisan Makalah Akademik:** Meningkatkan tingkat "penerimaan" makalah yang dihasilkan AI oleh panel peninjau. * **Pembuktian Matematika:** Menghasilkan sistem penilaian yang lebih akurat dan agen pembuktian yang berkinerja lebih baik. Makalah ini dilihat sebagai langkah signifikan menuju **Recursive Self-Improvement (RSI)**, di mana AI dapat meningkatkan dirinya sendiri secara berulang. Beberapa ahli, seperti Jack Clark dari Anthropic, memprediksi kemungkinan 60% bahwa AI dengan kemampuan evolusi mandiri yang tinggi akan muncul pada akhir tahun 2028. Karya RQGM dianggap sebagai langkah konkret yang memperpendek jarak menuju skenario semacam itu, menimbulkan pertanyaan mendalam tentang masa depan dan potensi kemunculan Kecerdasan Buatan Super (ASI).

marsbit06/28 07:53

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

marsbit06/28 07:53

Interpretasi Laporan Penelitian: Pendapatan AI TSMC pada 2027 Akan Berlipat Ganda, Kapasitas CoWoS Masih Jadi Kendala

**Laporan: Pendapatan AI TSMC Diprediksi Naik Dua Kali Lipat pada 2027, Kapasitas CoWoS Tetap Jadi Hambatan** Morgan Stanley (23 Juni) memproyeksikan pendapatan terkait AI TSMC akan melonjak 218% menjadi US$863 miliar pada 2027, dari US$271 miliar pada 2026. Sumber pendapatan mencakup GPU, chip AI khusus, kemasan lanjutan CoWoS, dan CPU server AI. Pendorong utama adalah lonjakan permintaan untuk kapasitas CoWoS, teknologi kemasan canggih TSMC. Kebutuhan global untuk CoWoS diprediksi melonjak 93% menjadi 269,4 juta unit pada 2027. NVIDIA tetap konsumen terbesar, namun permintaan dari AMD (CPU Venice & GPU MI400) diproyeksikan meroket 308%. Permintaan TPU Google juga tumbuh signifikan melalui partner seperti MediaTek. Meskipun TSMC berencana menambah kapasitas CoWoS menjadi 200.000 wafer per bulan pada akhir 2027, digabung dengan produsen lain, total kapasitas global diperkirakan 336 juta unit/tahun. Namun, kekhawatiran muncul karena permintaan yang diprediksi (269,4 juta unit) mungkin belum menangkap semua sinyal, dan jenis CoWoS paling canggih (CoWoS-L untuk NVIDIA) tetap sangat ketat pasokannya. Laporan ini menyoroti beberapa katalis: perbaikan pasokan substrat ABF, validasi permintaan CPU baru (Vera NVIDIA, Venice AMD), dan produksi GPU Rubin Ultra generasi berikutnya dari NVIDIA. Perusahaan seperti MediaTek (partner desain TPU Google), ASE, dan KYEC dipandang sebagai penerima manfaat di sepanjang rantai pasokan AI. Intinya, pertumbuhan pesat pendapatan AI TSMC bergantung pada kemampuan mereka mengatasi kemacetan kapasitas CoWoS, yang tetap menjadi kendala kritis meskipun ada ekspansi.

marsbit06/25 03:58

Interpretasi Laporan Penelitian: Pendapatan AI TSMC pada 2027 Akan Berlipat Ganda, Kapasitas CoWoS Masih Jadi Kendala

marsbit06/25 03:58

活动图片