# Artikel Terkait Kecepatan

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Kecepatan", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Mengapa Zhipu AI Bisa Meroket Hampir 30% dalam Satu Hari?

Hari ini, saham "Glodon" (02513.HK), yang dijuluki "saham model besar global pertama", melonjak hampir 30%. Pemicu utamanya adalah peluncuran API "GLM-5.1-highspeed" yang menawarkan kecepatan generasi hingga 400 token per detik, mencatat rekor baru untuk API model besar. Kecepatan ini sangat penting karena pergeseran paradigma dari AI chatbot ke era Agen (Agent), di mana tugas kompleks memerlukan puluhan hingga ratusan panggilan model. Setiap penghematan latensi akan terakumulasi dan secara signifikan memengaruhi efisiensi keseluruhan. Pencapaian 400 token/detik ini kira-kira 3-5 kali lebih cepat dari rata-rata industri (OpenAI GPT-4o: 100-150, Claude Sonnet: 80-120) dan dicapai tanpa mengorbankan kemampuan model inti. Lonjakan performa ini didukung oleh tiga inovasi teknis: 1. **TileRT**: Mesin inferensi yang mengkompilasi seluruh model menjadi pipeline kontinu, menghilangkan overhead start/stop antar operator dan menerapkan "Warp Specialization" untuk paralelisasi optimal dalam GPU. 2. **Strategi Paralel Heterogen untuk MLA (Multi-head Latent Attention)**: Mengatasi tantangan komputasi sparse dalam mekanisme perhatian MLA dengan menugaskan GPU berbeda untuk tugas "pengindeksan" dan "komputasi padat", meminimalkan sinkronisasi. 3. **Arsitektur Jaringan ZCube**: Mengganti topologi jaringan standar ROFT (Fat-Tree) dengan desain datar tanpa lapisan Spine. Desain ini menciptakan "jalur tunggal optimal" antara GPU mana pun, secara fundamental menghilangkan kemacetan jaringan. Hasilnya, pada perangkat keras yang sama, ZCube meningkatkan throughput cluster sebesar 15% (setara dengan peningkatan kapasitas gratis), mengurangi latensi ekor sebesar 40,6% (meningkatkan stabilitas), dan memotong biaya perangkat jaringan hingga sepertiga. Secara jangka panjang, inovasi perangkat lunak ini berpotensi mengikis dominasi NVIDIA di ekosistem jaringan (seperti InfiniBand) dan membuka jalan bagi integrasi yang lebih mudah dengan chip AI domestik seperti Huawei Ascend.

marsbit2 hari yang lalu 01:26

Mengapa Zhipu AI Bisa Meroket Hampir 30% dalam Satu Hari?

marsbit2 hari yang lalu 01:26

YC Partner Mengungkap: Membangun Perusahaan AI-Natif dari Nol

YC mitra Diana Hu mengungkapkan bahwa perusahaan AI-native yang sejati beroperasi 1.000 kali lebih cepat daripada perusahaan besar yang sudah ada. Intinya bukan menggunakan AI sebagai alat bantu, tetapi membangun perusahaan dengan AI sebagai sistem operasi (OS) inti. Model ini memerlukan perusahaan yang sepenuhnya "dapat dikueri" oleh AI, di mana semua alur kerja, keputusan, dan proses diproses melalui lapisan cerdas yang terus belajar. Kunci implementasinya adalah membangun sistem "closed-loop", di mana AI secara konstan memantau output, menangkap informasi, dan memberikan umpan balik untuk mengoptimalkan proses. Hal ini membutuhkan transparansi digital penuh, seperti pencatatan rapat oleh AI, dashbard real-time perusahaan, dan agen AI yang terintegrasi dalam semua saluran komunikasi. Dalam pengembangan produk, paradigma "pabrik perangkat lunak AI" muncul: manusia menulis spesifikasi dan uji coba, sementara AI Agent yang menulis kode sampai lulus semua tes. Struktur organisasi menjadi lebih datar karena lapisan AI menggantikan peran manajemen menengah. Perusahaan masa depan terdiri dari kontributor individu, penanggung jawab langsung (DRI), dan pendiri AI. Perubahan kritisnya adalah memaksimalkan penggunaan token AI, bukan jumlah karyawan. Startup AI-native memiliki keunggulan besar karena dapat dirancang dari nol tanpa ketergantungan pada sistem lama. Kepercayaan pada kekuatan AI harus datang dari pengalaman langsung pendiri. Masa depan dimenangkan oleh mereka yang berani menanamkan AI ke dalam DNA perusahaan sejak hari pertama.

marsbit05/15 01:15

YC Partner Mengungkap: Membangun Perusahaan AI-Natif dari Nol

marsbit05/15 01:15

活动图片