# Artikel Terkait Inferensi

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Inferensi", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Pendiri a16z: Di Era Agent, Hal yang Benar-Benar Penting Telah Berubah

Wawancara Marc Andreessen, pendiri a16z, membahas evolusi AI dan dampak era agent. AI bukanlah fenomena baru, melainkan hasil akumulasi penelitian 80 tahun yang kini matang dengan kemampuan: LLM, reasoning, coding, dan agent yang mampu peningkatan diri. Arsitektur agent (LLM + shell + file system + markdown + cron/loop) memanfaatkan komponen perangkat lunak yang sudah ada, memungkinkan statusnya disimpan dan dipindahkan. Interaksi berbasis agent akan menggantikan GUI tradisional, di mana manusia memberikan tujuan dan agent menjalankannya. Siklus investasi AI saat ini didukung perusahaan besar dengan likuiditas kuat, berbeda dengan gelembung dot-com 2000. Kendala utama bukan hanya GPU, tetapi juga CPU, memori, dan jaringan. Sumber terbuka (open source) dan inferensi di perangkat lokal (edge) akan menjadi krusial untuk biaya, privasi, dan latensi. Tantangan nyata meliputi keamanan siber, identitas digital, infrastruktur pembayaran untuk agent, serta resistensi kelembagaan. AI tidak akan langsung diadopsi secara global, tetapi akan mengubah cara kerja dan organisasi secara fundamental.

marsbit04/20 00:08

Pendiri a16z: Di Era Agent, Hal yang Benar-Benar Penting Telah Berubah

marsbit04/20 00:08

Cloudflare Meluncurkan Serangkaian Produk dalam Seminggu: Lapisan Inferensi Terpadu Menghubungkan 70+ Model, Layanan Email Memungkinkan AI Agent Mengirim dan Menerima Email

Cloudflare meluncurkan "Agents Week 2026" dengan lebih dari 10 pembaruan produk. Dua pengumuman utama adalah: AI Platform yang menyatukan lebih dari 70 model AI dari 12+ penyedia (seperti OpenAI, Anthropic, Google) dalam satu API, memudahkan pengembang beralih model hanya dengan mengubah satu baris kode; serta Email Service yang kini dalam公测, memberikan kemampuan native bagi AI agent untuk mengirim dan menerima email. Pembaruan lain termasuk Sandboxes, penyimpanan Artifacts yang kompatibel dengan Git, dan pipa suara eksperimental. Cloudflare bertujuan menjadi infrastruktur inti di era AI agent.

marsbit04/17 07:46

Cloudflare Meluncurkan Serangkaian Produk dalam Seminggu: Lapisan Inferensi Terpadu Menghubungkan 70+ Model, Layanan Email Memungkinkan AI Agent Mengirim dan Menerima Email

marsbit04/17 07:46

Tahun Pertama Inflasi Komputasi: Semakin Murah DeepSeek, Semakin Sulit Kenaikan Harga Ini Berhenti

Dimulai dengan paradoks: biaya inferensi AI turun 80% dalam 18 bulan, namun tiga raksasa cloud China (Alibaba Cloud, Baidu Intelligent Cloud, Tencent Cloud) justru menaikkan harga 20-30% secara bersamaan pada April 2026. Ini bukan sekadar "perang harga berakhir", melainkan permainan struktural yang dipicu oleh Paradoks Jevons: efisiensi model seperti DeepSeek-R1 membuat token lebih murah, tetapi memicu ledakan permintaan—khususnya dari Agent AI dan Reasoning Model yang mengonsumsi 10-50x lebih banyak token. Penyebab lain: DeepSeek membuka bobot model, tapi tidak membagikan rekayasa inferensi canggihnya. Cloud provider unggul dalam efisiensi inferensi (3-5x lebih cepat dari deployment mandiri), sehingga mereka menetapkan harga premium untuk keunggulan teknis tersebut. Empat raksasa bertindak berbeda: Alibaba fokus pada margin tinggi, Baidu menyaring pengguna "non-inti", Tengen mengejar ROI, sementara Volcano Engine (ByteDance) berstrategi merebut pangsa pasar dengan harga lebih rendah. Efek tak terduga: kenaikan harga justru mendorong perusahaan besar (dengan tagihan bulanan >3-5 juta RMB) untuk beralih ke solusi on-premise atau penyewa GPU alternatif. Faktor struktural—seperti lonjakan permintaan Reasoning AI, kendala pasokan GPU karena embargo AS, dan efek "price ratchet" di industri cloud—akan mempertahankan tren kenaikan harga hingga 2027-2028. Kunci bertahan? Efisiensi token: mengurangi konsumsi yang tidak perlu.

marsbit04/17 01:22

Tahun Pertama Inflasi Komputasi: Semakin Murah DeepSeek, Semakin Sulit Kenaikan Harga Ini Berhenti

marsbit04/17 01:22

DeepSeek yang Anda Tunggu, Sudah Berubah

Dalam 15 bulan terakhir, DeepSeek mengalami perlambatan signifikan dalam pembaruan versi besar model AI-nya, dengan DeepSeek V4 yang ditunggu-tunggu berulang kali ditunda. Menurut analisis, perlambatan ini terkait dengan beban strategis nasional untuk beralih ke komputasi otonom. Pada awal 2025, DeepSeek didorong untuk mengadopsi prosesor Huawei Ascend daripada terus mengandalkan Nvidia. Meskipun upaya adaptasi dengan chip Ascend 910C mengalami kendala teknis, DeepSeek dikabarkan terus berupaya melakukan migrasi penuh dari CUDA ke kerangka kerja CANN Huawei, dengan target mencapai substitusi seluruh rantai pelatihan dan inferensi menggunakan perangkat keras domestik. Proses adaptasi yang memakan waktu ini diduga mengalihkan sumber daya teknis yang besar, memperlambat iterasi model. Di sisi lain, DeepSeek mulai tertinggal dalam beberapa kemampuan inti. Pada awal 2026, kemampuan generasi kodenya dilaporkan telah terlampaui oleh Claude 4, dan kemampuannya dalam pemrosesan multimodal serta sistem Agent masih tertinggal di belakang OpenAI dan Google. Selain itu, perusahaan juga menghadapi tekanan dalam mempertahankan talenta inti, dengan sejumlah peneliti kunci hengkang karena tawaran yang lebih menggiurkan dari pesaing. V4 kemungkinan tidak akan menjadi model yang mendominasi performa, tetapi lebih sebagai pencapaian simbolis yang membuktikan bahwa model AI canggih China dapat berjalan pada ekosistem perangkat keras domestik. Jawaban V4 dianggap sangat penting untuk masa depan industri AI China.

marsbit04/15 10:35

DeepSeek yang Anda Tunggu, Sudah Berubah

marsbit04/15 10:35

Jangan Hanya Fokus pada GPU, CPU Menjadi 'Hambatan Baru' di Era AI

Dalam beberapa tahun terakhir, fokus industri AI tertuju pada GPU sebagai inti komputasi. Namun, pada 2026, CPU justru menjadi hambatan baru dalam pengembangan AI. Harga server CPU naik 30% pada kuartal IV 2025, dengan permintaan melampaui pasokan. Penyebabnya adalah pergeseran beban kerja AI dari model chatbot tradisional ke sistem agen cerdas yang memerlukan banyak tugas seperti pemanggilan API, pengolahan data, dan koordinasi—sebagian besar dijalankan oleh CPU. Penelitian menunjukkan CPU menyumbang 50-90,6% dari total latensi dalam sistem agen. Perusahaan seperti Intel, AMD, dan NVIDIA merespons dengan strategi berbeda: Intel berfokus pada integrasi sistem melalui kerja sama dengan Google dan SambaNova, AMD mengalami pertumbuhan pendapatan signifikan berkat permintaan CPU, sementara NVIDIA mengoptimalkan desain CPU Grace untuk sinkronisasi efisien dengan GPU. Kesimpulannya, era agen cerdas membutuhkan infrastruktur CPU yang skalabel dan efisien. Ekspansi besar-besaran CPU—seperti dalam kerja sama AWS-OpenAI—menjadi kritis untuk mendukung perkembangan AI di masa depan.

marsbit04/13 01:01

Jangan Hanya Fokus pada GPU, CPU Menjadi 'Hambatan Baru' di Era AI

marsbit04/13 01:01

iPhone Jalankan Gemma 4 Secara Lokal Jadi Viral, Seberapa Jauhkah Era 0 Token?

Model Gemma 4 terbaru Google yang open-source telah memungkinkan pengoperasian lokal di perangkat seluler seperti iPhone dan Samsung Galaxy dengan kecepatan hingga lebih dari 40 token/detik. Model kecilnya (E2B 2.3B dan E4B 4.5B) menawarkan konteks 128K, menjadikannya alternatif portabel untuk Gemini. Meskipun mudah diakses melalui aplikasi resmi Google AI Edge Gallery dan berguna untuk tugas sederhana seperti pemrosesan gambar atau kode, model yang lebih besar (seperti Gemma 4 MoE 26B) masih mengalami kendala dalam tugas kompleks seperti pemanggilan alat dan output terstruktur. Meski kecerdasannya dianggap terbatas, kemunculan Gemma 4 berpotensi menggeser tugas-tugas harian ke perangkat lokal, mengancam model bisnis berbasis token. Ke depannya, model cloud masih unggul untuk tugas rumit, sementara model perangkat akan semakin mendominasi tugas sederhana seiring kemajuan hardware.

marsbit04/06 05:56

iPhone Jalankan Gemma 4 Secara Lokal Jadi Viral, Seberapa Jauhkah Era 0 Token?

marsbit04/06 05:56

Bagian Pasar Nvidia di China Turun di Bawah 60%, Chip AI Lokal Serahkan 1,65 Juta Unit untuk Rebut Pasar

Menurut data IDC, pangsa pasar chip AI Nvidia di China turun drastis dari 95% menjadi 55% pada 2025, dengan total pengiriman sekitar 2,2 juta unit. Sebaliknya, produsen domestik China berhasil menguasai 41% pasar dengan pengiriman 1,65 juta chip AI. Huawei memimpin dengan 812.000 unit, diikuti oleh T-Head (265.000) serta Baidu Kunlun dan Cambricon (masing-masing 116.000). Kebijakan penggantian produk impor oleh pemerintah China dan sanksi ekspor AS menjadi pendorong utama perubahan ini. Huawei meluncurkan Atlas 350 yang mengklaim kinerja inferensi 2,87x lebih cepat daripada Nvidia H20, meski dengan presisi komputasi berbeda. Meski unggul di inferensi, chip China masih tertinggal 5-10 tahun di pelatihan model AI skala besar. Kendala utama adalah ekosistem perangkat lunak, meski banyak perusahaan berupaya menciptakan kompatibilitas dengan CUDA. Perusahaan chip AI China seperti Biren, MetaX, dan Iluvatar CoreX mulai go public, sementara Huawei menargetkan produksi massal chip Ascend 950PR pada paruh kedua 2026.

marsbit04/03 05:54

Bagian Pasar Nvidia di China Turun di Bawah 60%, Chip AI Lokal Serahkan 1,65 Juta Unit untuk Rebut Pasar

marsbit04/03 05:54

Dilema Biaya AI: Bagaimana Ekonomi Infrastruktur Akan Membentuk Ulang Tahap Selanjutnya Pasar

Dibahas dalam artikel ini tentang tantangan ekonomi di balik ekspansi AI yang pesat. Biaya pelatihan model canggih seperti Claude 3.5 Sonnet mencapai puluhan juta dolar, sementara biaya inferensi (setiap kali model digunakan) terus membebani perusahaan rintisan. Tiga raksasa cloud—AWS, Azure, dan Google Cloud—menguasai dua pertiga infrastruktur komputasi global, menciptakan konsentrasi pasar yang tinggi. Ketimpangan akses terhadap GPU semakin lebar: lab-lab top mendapat harga mendekati biaya produksi ($1,30–1,90/jam), sementara perusahaan kecil membayar hingga $14/jam. Dimensi energi juga kian penting, dengan pusat data memakan 1–1,5% konsumsi listrik global. Sebagai alternatif, jaringan terdesentralisasi seperti Gonka menawarkan inferensi AI dengan biaya sangat rendah ($0,0009 per juta token) dibandingkan layanan terpusat ($1,50). Pendekatan ini tidak hanya mengurangi biaya, tetapi juga menawarkan elastisitas pasokan dan melindungi kedaulatan data. Artikel menyimpulkan bahwa masa depan AI akan ditentukan oleh ekonomi infrastrukturnya. Sementara pemain terpusat unggul dalam skala, solusi terdesentralisasi dapat menjadi penyeimbang dengan menekan biaya dan meningkatkan aksesibilitas.

marsbit03/26 08:18

Dilema Biaya AI: Bagaimana Ekonomi Infrastruktur Akan Membentuk Ulang Tahap Selanjutnya Pasar

marsbit03/26 08:18

Logika Bearish Bittensor (TAO): Gurun Pendapatan di Bawah Mitos Kekuatan Komputasi

Laporan ini menganalisis logika bearish Bittensor (TAO), yang diperdagangkan sekitar $275 dengan valuasi terdilusi penuh $5,8 miliar. Meski didukung oleh Grayscale dan CEO Nvidia, serta memiliki narasi kelangkaan mirip Bitcoin, jaringan ini menghadapi tantangan fundamental. Penyediaan TAO transparan dengan emisi harian 3.600 koin, tetapi permintaan eksternal tidak transparan. Jaringan memberikan subsidi besar-besaran kepada subnet melalui inflasi token. Subnet terbesar, Chutes (SN64), menerima subsidi tahunan ~$52 juta untuk pendapatan eksternal hanya ~$1,3-2,4 juta, menunjukkan rasio subsidi 22:1 hingga 40:1. Tanpa subsidi, biayanya 1,6-3,5x lebih mahal daripada penyedia terpusat. Pendapatan tahunan seluruh jaringan yang dapat dikonfirmasi hanya sekitar $3-15 juta, menciptakan kelipatan valuasi 175-400x yang sangat tinggi dibandingkan perusahaan AI terpusat. Valuasi saat ini didorong oleh kelangkaan, ekspektasi ETF, dan sentimen sektor AI, bukan oleh hasil ekonomi riil. Subnet terjepit di antara layanan mandiri yang murah dan cloud provider besar dengan pengeluaran modal masif. Model open-source juga menghilangkan moat tradisional seperti teknologi proprietary atau biaya peralihan. Kesimpulannya, TAO saat ini diperdagangkan berdasarkan narasi supply dan spekulasi, bukan fundamental permintaan yang berkelanjutan.

marsbit03/24 10:13

Logika Bearish Bittensor (TAO): Gurun Pendapatan di Bawah Mitos Kekuatan Komputasi

marsbit03/24 10:13

AI Agent Mendapatkan KTP dan Dompet pada Hari yang Sama｜Rewire Berita Pagi

Ringkasan Berita Teknologi Terkini: 1. **AI Agent Mendapat Identitas dan Dompet**: Sam Altman's World dan Coinbase meluncurkan integrasi verifikasi identitas dan pembayaran stablecoin untuk AI Agent dalam satu hari. World merilis AgentKit dengan autentikasi kriptografi, sementara Coinbase menghubungkan protokol pembayaran x402. Nvidia melengkapi ekosistem dengan Retail Agentic Commerce Blueprint, memungkinkan agent AI menangani proses dari pencarian hingga pembayaran. Ekonomi Agent diprediksi mencapai $3-5 triliun pada 2030. 2. **Dukungan Industri AI untuk Anthropic**: Empat asosiasi teknologi utama (didukung Google, OpenAI, Meta, dll.) membela Anthropic dalam sengketa dengan Pentagon mengenai pembatasan penggunaan AI untuk senjata otonom. Persidangan akan digelar 24 Maret. 3. **Kebijakan Fed di Tengah Perang Iran**: FOMC diperkirakan mempertahankan suku bunga 3.5%-3.75%. Konflik Iran mendorong kenaikan harga energi dan inflasi, mempengaruhi proyeksi suku bunga tahun ini. Ini menjadi konferensi pers kedua terakhir Powell sebagai ketua Fed. 4. **Nvidia Ubah Jaringan Telekomunikasi**: AI Grid architecture diluncurkan untuk mengubah infrastruktur telecom menjadi jaringan推理 terdistribusi, mengurangi biaya推理 76% dan meningkatkan efisiensi. 5. **Biaya Perang Iran Meningkat**: Operation Epic Fury menghabiskan $37 miliar dalam 100 jam pertama. Biaya total diperkirakan $40-95 miliar, berdampak pada harga pangan global. Konflik meluas ke 12 negara. **Berita Penting Lainnya**: - DLSS 5 dari Nvidia akan rilis pada 2026 dengan generasi AI grafis terbaru. - Jerman menggandakan kapasitas data center AI pada 2030 untuk kedaulatan digital. - Upvest (fintech Jerman) raised $125 juta untuk infrastruktur perbankan. - RUU crypto CLARITY Act tertunda di Senat AS. - 38% altcoin diperdagangkan di titik terendah, likuiditas terkonsentrasi di Bitcoin.

marsbit03/18 04:57

AI Agent Mendapatkan KTP dan Dompet pada Hari yang Sama｜Rewire Berita Pagi