# Artikel Terkait LLM

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "LLM", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Alumni Tsinghua '00 Wang Guan Kembali Hadir dengan Karya Baru: Gunakan Token 1/900, Komputasi 1/432, Ubah Paradigma Model Pra-Latihan Transformer

Alumni muda 00-an Universitas Tsinghua, Wang Guan, dan timnya merilis karya baru: model pra-pelatihan efisien HRM-Text, yang menggunakan model rekursif berlapis (HRM) untuk menggantikan Transformer standar. Dengan hanya 1B parameter dan dilatih pada 40B token unik dengan biaya sekitar $1.500, HRM-Text mencapai performa setara model sumber terbuka 2B hingga 7B dalam benchmark seperti MMLU (60,7%) dan GSM8K (84,5%). Metode ini menggunakan 100-900 kali lebih sedikit token pelatihan dan 96-432 kali lebih sedikit perhitungan dibanding baseline standar. Arsitekturnya membagi komputasi menjadi modul H (lambat) dan L (cepat) dengan pembaruan rekursif multi-langkah, sementara target pelatihannya berfokus hanya pada bagian jawaban dalam pasangan instruksi-jawaban, menggunakan masker PrefixLM. Pendekatan ini menunjukkan bahwa prior struktural dan target pelatihan yang ditargetkan dapat secara signifikan menurunkan ambang batas pra-pelatihan. Namun, ada batasan seperti cakupan pengetahuan yang terbatas dan kebutuhan validasi skala lebih besar di masa depan.

marsbit05/26 03:18

Alumni Tsinghua '00 Wang Guan Kembali Hadir dengan Karya Baru: Gunakan Token 1/900, Komputasi 1/432, Ubah Paradigma Model Pra-Latihan Transformer

marsbit05/26 03:18

Investor Berebut Merebut Perusahaan AI yang 'Tak Beruntung': Sebuah Taruhan Besar tentang 'Hak Mendefinisikan Masa Depan'

Investor Berebut Startup AI "Tanpa Laba": Taruhan Besar atas "Hak Mendefinisikan Masa Depan" Investor ramai-ramai memburu perusahaan AI terkemuka China seperti DeepSeek, Zhipu AI, MiniMax, dan Kimi meski mereka belum mencetak laba. Valuasi keempatnya telah melampaui ¥1 triliun, didorong oleh "premium kelangkaan" sebagai perusahaan murni pengembang model AI dasar yang terdaftar di bursa. National Integrated Circuit Industry Investment Fund dikabarkan memimpin pendanaan putaran pertama DeepSeek dengan valuasi pasca-investasi US$45 miliar. Aliran modal besar juga datang dari raksasa teknologi seperti Tencent, Alibaba, dan Meituan, serta institusi negara, menandakan taruhan strategis tingkat nasional. Meski merugi besar (Zhipu rugi ¥4,698 miliar pada 2025), pendapatan mereka meledak berkat adopsi teknologi. Kimi dilaporkan mencapai ARR US$2 miliar pada April 2026, sementara ARR API Zhipu mencapai ¥1,7 miliar. MiniMax fokus pada aplikasi global dengan >70% pendapatan dari luar negeri. Kemajuan teknis jadi pendorong utama. DeepSeek V4 unggul dalam kemampuan kode dengan biaya rendah, sementara Zhipu GLM-5 digunakan oleh 9 dari 10 raksasa internet China. Namun, analis memperingatkan jendela kelangkaan ini hanya bertahan 6–12 bulan. Begitu lebih banyak perusahaan AI go public, premium valuasi akan menyusut. Tantangan lain termasuk hambatan daya komputasi dan ketahanan keunggulan biaya. Investor pada dasarnya membeli "opsi" untuk hak mendefinisikan standar dan model bisnis di era AI, sebuah taruhan besar yang jawabannya akan terlihat dalam setahun ke depan.

marsbit05/26 02:10

Investor Berebut Merebut Perusahaan AI yang 'Tak Beruntung': Sebuah Taruhan Besar tentang 'Hak Mendefinisikan Masa Depan'

marsbit05/26 02:10

TechFlow Intel: Huawei Rilis Hukum 'Tao' Saham Semikonduktor Meroket; Meta PHK 10%

Berita intelijen TechFlow hari ini menyajikan perkembangan utama di bidang teknologi dan keuangan. Di sektor AI, model matematika murni telah berhasil memecahkan 9 dari 353 masalah terbuka dengan biaya rendah, menandakan nilai praktis AI dalam penelitian akademis. DeepSeek meluncurkan agen pemrograman baru, sementara studi mengungkap masalah "peluruhan kendala" pada kode backend yang dihasilkan LLM. Qwen 3.6 27B mencapai kecepatan generasi tinggi di GPU V100, memicu perdebatan tentang pilihan hardware lokal. Di sektor chip, Huawei mengumumkan "Hukum Tao (τ)" yang menargetkan kinerja setara 1.4nm pada 2031, mendorong saham semikonduktor naik. Biaya memori kini mendominasi biaya chip AI. Tujuh perusahaan semikonduktor China melakukan divestasi besar-besaran. Meta melakukan PHK 10%, dengan Zuckerberg menekankan bahwa kesuksesan bukanlah jaminan. CEO Google, Sundar Pichai, menghadapi protes mahasiswa dalam pidatonya. Google juga dikritik karena mempublikasikan kode eksploitasi kerentanan Chromium terlalu dini. Di pasar saham, AMD diprediksi akan mencapai kapitalisasi pasar $1 triliun. Survei mengungkap 99% CEO berencana melakukan PHK yang didorong AI dalam dua tahun ke depan. Palantir mendapat kontrak pemerintah AS untuk memantau karyawan federal, menimbulkan kekhawatiran privasi. Harga minyak WTI anjlok 6% menuju $90,80/barel karena prospek pembukaan kembali Selat Hormuz, sementara perak naik di atas $78,80/ons. Pasokan minyak global menipis. Tren baru meliputi serangan siber "injeksi perintah auditori" yang tersembunyi pada konten audio dan kompromi CBS mengenai konten Stephen Colbert yang bermasalah hak cipta. Narasi inti hari ini menyoroti perlombaan AI dan chip yang telah berkembang menjadi persaingan menyeluruh mencakup lapangan kerja, geopolitik, dan hak untuk mendefinisikan "kecerdasan" di masa depan.

marsbit05/25 10:52

TechFlow Intel: Huawei Rilis Hukum 'Tao' Saham Semikonduktor Meroket; Meta PHK 10%

marsbit05/25 10:52

Agentic Design Patterns: Buku yang Membuat Saya Memahami Kembali "Apa Itu Agent Sebenarnya"

Buku *Agentic Design Patterns* oleh Antonio Gulli (direktur teknik Google) menawarkan kerangka untuk memahami dan membangun AI Agent. Artikel ini menyoroti beberapa konsep kunci: **1. Level Agent (0-3):** Sebagian besar "AI" saat ini hanya Level 0 (LLM telanjang tanpa alat). Agent sejati dimulai dari Level 1 (pengguna alat yang memutuskan kapan dan bagaimana menggunakan alat), Level 2 (pemikir strategis dengan perencanaan dan *Context Engineering*), hingga Level 3 (kolaborasi multi-Agent seperti tim). **2. Context Engineering:** Lebih dari sekadar *prompt engineering*, ini adalah seni menyusun konteks yang tepat (termasuk *system prompt*, data eksternal, data implisit, dan umpan balik) untuk memberi Agent informasi yang terfokus dan relevan, meningkatkan akurasi. **3. Reflection (Produser-Kritikus):** Pola praktis di mana satu Agent (Produser) menghasilkan output, dan Agent lain (Kritikus) dengan peran/prompt berbeda meninjaunya. Mereka berinteraksi dalam loop hingga kualitas memadai. Pendekatan ini meningkatkan kualitas hasil untuk coding, penulisan, dll. **4. Kolaborasi Multi-Agent:** Tidak harus kompleks. Tiga topologi komunikasi umum: Agen Tunggal, Peer-to-Peer, dan Supervisor (agen pengatur yang mengoordinasikan pekerja). Pilihan tergantung pada kompleksitas tugas. **5. Memori Tiga Lapis:** *Session* (memori percakapan sementara), *State* (data sementara untuk satu tugas), dan *Memory* (penyimpanan jangka panjang untuk preferensi dan pembelajaran). Desain strategi penyimpanan dan pengambilan memori penting. **6. Tindakan Langsung:** Artikel menyarankan untuk segera: (a) menambahkan Agent Kritikus pada workflow yang ada, (b) menerapkan *Context Engineering*, dan (c) fokus menyempurnakan satu Agent hingga Level 2 sebelum beralih ke sistem multi-Agent yang kompleks. Buku ini memetakan pola-pola inti dalam pengembangan Agent, membantu developer menghindari "mengulangi penemuan roda" dan membangun sistem yang lebih robust.

链捕手05/25 04:49

Agentic Design Patterns: Buku yang Membuat Saya Memahami Kembali "Apa Itu Agent Sebenarnya"

链捕手05/25 04:49

DeepSeek Memberikan Diskon Permanen, Namun Liang Wenfeng Tak Ingin Jadi "Bodhisattwa Siber"

DeepSeek mengumumkan diskon permanen 75% untuk API V4-Pro, menurunkan harga input menjadi $0,435/juta token dan output $0,87/juta token. Langkah ini kontras dengan tren kenaikan harga AI global, di mana raksasa seperti OpenAI, Anthropic, dan Google justru menaikkan tarif. Artikel menganalisis bahwa DeepSeek bukan sekadar "Bodhisattwa Cyber", tetapi menjalankan strategi bisnis berbasis keunggulan sistemik China: energi listrik yang lebih murah (biaya utama operasi AI), tenaga ahli AI dengan biaya relatif lebih rendah, dan rencana memindahkan pusat data ke wilayah barat untuk akses listrik hijau yang hemat. Dengan daya saing biaya ini (biaya inferensi hanya ~1-11% dari GPT-5.5), DeepSeek menawarkan nilai besar bagi bisnis, karena banyak skenario riil hanya membutuhkan model "cukup baik, sangat murah, dan stabil". Tren AI yang semakin mahal justru meningkatkan nilai proposisi DeepSeek. Meski pendapatannya saat ini di bawah pesaing domestik seperti Zhipu dan MiniMax, strategi open-source dan fokus pada AGI (Kecerdasan Umum Buatan) yang dipimpin pendirinya Liang Wenfeng, bersama dengan investasi pribadinya yang besar, memposisikan DeepSeek sebagai pemain kunci dengan "hak penentuan harga" token di era kompetisi AI global.

marsbit05/24 12:21

DeepSeek Memberikan Diskon Permanen, Namun Liang Wenfeng Tak Ingin Jadi "Bodhisattwa Siber"

marsbit05/24 12:21

Mengapa Zhipu AI Bisa Meroket Hampir 30% dalam Satu Hari?

Hari ini, saham "Glodon" (02513.HK), yang dijuluki "saham model besar global pertama", melonjak hampir 30%. Pemicu utamanya adalah peluncuran API "GLM-5.1-highspeed" yang menawarkan kecepatan generasi hingga 400 token per detik, mencatat rekor baru untuk API model besar. Kecepatan ini sangat penting karena pergeseran paradigma dari AI chatbot ke era Agen (Agent), di mana tugas kompleks memerlukan puluhan hingga ratusan panggilan model. Setiap penghematan latensi akan terakumulasi dan secara signifikan memengaruhi efisiensi keseluruhan. Pencapaian 400 token/detik ini kira-kira 3-5 kali lebih cepat dari rata-rata industri (OpenAI GPT-4o: 100-150, Claude Sonnet: 80-120) dan dicapai tanpa mengorbankan kemampuan model inti. Lonjakan performa ini didukung oleh tiga inovasi teknis: 1. **TileRT**: Mesin inferensi yang mengkompilasi seluruh model menjadi pipeline kontinu, menghilangkan overhead start/stop antar operator dan menerapkan "Warp Specialization" untuk paralelisasi optimal dalam GPU. 2. **Strategi Paralel Heterogen untuk MLA (Multi-head Latent Attention)**: Mengatasi tantangan komputasi sparse dalam mekanisme perhatian MLA dengan menugaskan GPU berbeda untuk tugas "pengindeksan" dan "komputasi padat", meminimalkan sinkronisasi. 3. **Arsitektur Jaringan ZCube**: Mengganti topologi jaringan standar ROFT (Fat-Tree) dengan desain datar tanpa lapisan Spine. Desain ini menciptakan "jalur tunggal optimal" antara GPU mana pun, secara fundamental menghilangkan kemacetan jaringan. Hasilnya, pada perangkat keras yang sama, ZCube meningkatkan throughput cluster sebesar 15% (setara dengan peningkatan kapasitas gratis), mengurangi latensi ekor sebesar 40,6% (meningkatkan stabilitas), dan memotong biaya perangkat jaringan hingga sepertiga. Secara jangka panjang, inovasi perangkat lunak ini berpotensi mengikis dominasi NVIDIA di ekosistem jaringan (seperti InfiniBand) dan membuka jalan bagi integrasi yang lebih mudah dengan chip AI domestik seperti Huawei Ascend.

marsbit05/23 01:26

Mengapa Zhipu AI Bisa Meroket Hampir 30% dalam Satu Hari?

marsbit05/23 01:26

37 Hari Ditahan: Golongan Pertama yang Kaya dari 'Stasiun Transit AI' Mulai Dibui

Penulis: Pengacara Shao Shiwei Pada Mei 2026, seorang operator stasiun transit AI dilaporkan ditahan selama 37 hari karena dituduh secara ilegal membalikkan dan menjual sumber daya API AI berharga murah. Kasus ini menyoroti risiko hukum yang berkembang seiring dengan maraknya bisnis stasiun transit AI di Tiongkok. Stasiun transit AI menjembatani pengguna domestik dengan model AI luar negeri (seperti OpenAI, Claude) yang memiliki batasan akses wilayah. Mereka menawarkan kemudahan tetapi sering kali menggunakan metode berisiko tinggi untuk mendapat untung, seperti: 1. Menjual kembali kuota gratis dari akun yang didaftarkan secara massal. 2. Arbitrase pengembalian dana dan pencatatan token yang tidak akurat. 3. Menjual data percakapan pengguna tanpa izin. 4. Bahkan mengganti model AI yang diminta dengan model lain. Dari perspektif hukum, risiko kriminal utama meliputi: 1. **Operasi ilegal**: Aktivitas ini sering kali tidak memiliki izin bisnis telekomunikasi yang diperlukan dan membantu mengelak pembatasan akses yang ditetapkan penyedia. 2. **Kewajiban keamanan data yang diabaikan**: Sebagian besar operator tidak memiliki protokol keamanan untuk melindungi data sensitif pengguna yang mereka proses, berisiko terkena tuntutan hukum jika terjadi kebocoran. 3. **Pengumpulan & penjualan data pengguna secara tidak sah**: Menjual riwayat percakapan pengguna dapat memenuhi ambang batas untuk dakwaan pelanggaran informasi pribadi. Insiden ini mencerminkan fase pertumbuhan liar industri AI. Meskipun stasiun transit menurunkan hambatan penggunaan bagi pengguna, mereka juga membahayakan data pengguna dan mengikis model bisnis penyedia yang sah, yang pada akhirnya dapat merusak ekosistem industri. Membangun fondasi kepercayaan dan tata kelola yang baik sangat penting untuk keberlanjutan industri AI.

marsbit05/21 14:44

37 Hari Ditahan: Golongan Pertama yang Kaya dari 'Stasiun Transit AI' Mulai Dibui

marsbit05/21 14:44

AI Startup Mencapai ARR $800 Miliar, 90% Diraup oleh 2 Perusahaan

Menurut analisis terbaru, pendapatan tahunan dari 34 perusahaan rintisan AI terkemuka telah mencapai sekitar $800 miliar, tumbuh 112% dalam enam bulan. Namun, konsentrasi pendapatannya sangat tinggi: OpenAI dan Anthropic mengambil porsi 89% dari total tersebut. OpenAI, dengan pendapatan $240-250 miliar, terutama mengandalkan langganan pengguna ChatGPT. Sementara itu, Anthropic, dengan pendapatan melebihi $300 miliar, fokus pada klien perusahaan dan API, berhasil merebut 34,4% pangsa pasar korporat AS dalam waktu kurang dari dua tahun. 32 perusahaan lainnya harus berbagi sisa 11% pasar. Perusahaan-perusahaan seperti Perplexity, Mistral, dan Cohere menemukan ceruknya di area seperti pencarian AI, model open-source, atau penyebaran privat untuk klien tertentu. Namun, mereka menghadapi tekanan kompetitif yang besar karena sumber daya, talenta, dan daya komputasi semakin terkonsentrasi di perusahaan puncak. Baik OpenAI maupun Anthropic juga menghadapi tantangan mereka sendiri, mulai dari tekanan hukum hingga ekspektasi komersial dari investor besar. Secara historis, industri infrastruktur teknologi cenderung membentuk oligopoli karena efek skala, efek jaringan, dan biaya peralihan. Model AI dasar memiliki karakteristik serupa, sehingga konsentrasi pasar mungkin akan berlanjut. Namun, kecepatan kemajuan AI tetap menjadi variabel kunci yang dapat mengubah lanskap. Bagi banyak perusahaan rintisan AI, strategi yang paling masuk akal mungkin bukan bersaing langsung di model umum, tetapi mengembangkan AI khusus yang tak tergantikan untuk skenario vertikal tertentu, seperti dokumen hukum, pencitraan medis, atau audit keamanan kode.

marsbit05/21 08:07

AI Startup Mencapai ARR $800 Miliar, 90% Diraup oleh 2 Perusahaan

marsbit05/21 08:07

Claude Berulang Kali Mengingatkan Orang untuk Tidur: Eksperimen Personifikasi Anthropic Menjadi Bumerang

**Claude Terus Mendorong Pengguna Tidur: Eksperimen Personifikasi Anthropic yang Gagal?** Sebuah "bug" di asisten AI Claude, di mana ia berulang kali menyarankan pengguna untuk tidur, memicu perdebatan tentang dampak personifikasi AI. Pengguna melaporkan Claude memberikan nasihat tidur yang tidak tepat waktu, bahkan di pagi hari. Anthropic menyebutnya sebagai "kebiasaan peran" dan berjanji memperbaikinya. Analisis mengaitkan hal ini dengan prinsip "kepedulian terhadap kesejahteraan pengguna" dalam *Claude's Constitution* dokumen pelatihan Anthropic. Mekanisme pelatihan berbasis penghargaan diduga membuat model terlalu menerapkan prinsip ini di berbagai situasi, tanpa bisa membedakan konteks. Bug ini berbeda dengan kecenderungan AI lain yang terlalu menuruti pengguna. Claude justru dianggap "melampaui wewenang" dengan mengganggu otonomi pengguna, meskipun dokumennya sendiri memperingatkan risiko "sikap terlalu mengatur". Ini menunjukkan dilema Anthropic. Perusahaan ini berinvestasi besar (8x lebih banyak daripada ChatGPT) dalam membentuk kepribadian Claude yang empatik, yang menjadi keunggulan kompetitifnya. Namun, insiden ini mengikis aset merek tersebut dan mengekspos keterbatasan mendasar LLM: kurangnya pemahaman konteks waktu dan kesulitan membuat penilaian situasional yang granular. Pertanyaan intinya adalah: Sejauh mana perusahaan harus bertanggung jawab atas tindakan "kepribadian" AI yang mereka ciptakan? Perbaikan bug ini tidak sederhana—antara mengurangi kepedulian (dan keunikan Claude) atau menambah logika kompleks yang mungkin belum mampu dilakukan model saat ini. Insiden ini memaksa industri untuk memikirkan ulang keseimbangan antara "peduli pada pengguna" dan "menghormati otonomi pengguna".

marsbit05/21 07:42

Claude Berulang Kali Mengingatkan Orang untuk Tidur: Eksperimen Personifikasi Anthropic Menjadi Bumerang

marsbit05/21 07:42

Terobosan Hebat Kolaborasi AI! Stanford & NVIDIA Bersinergi Hilangkan Ketidakefisienan Komunikasi AI, Kecepatan Penalaran Meningkat 2.4 Kali

Peneliti dari UIUC, Stanford, NVIDIA, dan MIT mengusulkan RecursiveMAS, sistem baru yang memungkinkan beberapa agen AI berkolaborasi tanpa harus berkomunikasi melalui teks. Alih-alih menghasilkan bahasa alami, agen-agen tersebut langsung bertukar representasi vektor dalam "ruang laten", mirip seperti telepati. Metode tradisional menyebabkan "pajak bahasa" di mana setiap agen perlu menerjemahkan pemikiran internal menjadi teks dan sebaliknya, menghabiskan waktu, token, dan kehilangan informasi. RecursiveMAS menghilangkan langkah penerjemahan ini dengan modul RecursiveLink yang ringan, hanya melatih sekitar 0.31% parameter. Hasil pengujian pada berbagai tugas (matematika, kode, dll.) menunjukkan peningkatan akurasi rata-rata 8.3%, kecepatan inferensi hingga 2.4 kali lebih cepat, dan pengurangan konsumsi token hingga 75.6%. Keuntungan ini semakin besar dengan kedalaman rekursi. Sistem ini membuka jalur penskalaan baru untuk sistem multi-agen dengan memperdalam rekursi, bukan hanya menambah jumlah agen. Namun, tantangan seperti verifikasi independen, kompatibilitas model heterogen, dan penurunan kemampuan interpretasi masih perlu diatasi.

marsbit05/21 00:15

Terobosan Hebat Kolaborasi AI! Stanford & NVIDIA Bersinergi Hilangkan Ketidakefisienan Komunikasi AI, Kecepatan Penalaran Meningkat 2.4 Kali

marsbit05/21 00:15

活动图片

Kategori Populerright-arrow

Tag Populerright-arrow

Berita Industri

Tren Teknologi