Hanya $0,99 per juta Token.
Ini adalah biaya riil yang tertera di tagihan SemiAnalysis sendiri—lembaga penelitian semikonduktor paling 'hardcore' di Silicon Valley.
Tapi yang lebih mencengangkan adalah angka ini: Pengeluaran Token untuk model besar internal, telah mencapai 30% dari total gaji karyawan.
Kedengarannya besar—tapi dihitung sebaliknya, hasil yang dibeli dengan uang ini, dulu membutuhkan biaya tenaga kerja beberapa kali lipat untuk dicakup. Rata-rata per orang menghabiskan hampir 5 miliar Token per bulan, lebih dari 5 kali level rata-rata di Meta, dengan kontributor inti bahkan mengonsumsi lebih dari 100 miliar per bulan.
Transformasi model Excel dan pembuatan bagan laporan keuangan yang sebelumnya membutuhkan waktu berjam-jam dari analis junior, kini selesai dalam beberapa menit, hanya dengan beberapa dolar.
Evaluasi SemiAnalysis sendiri tepat sasaran: Ini bukan peningkatan efisiensi 10%, tapi unit ekonomi di industri jasa profesional sedang ditulis ulang.
Perusahaan riset, hedge fund, firma hukum—semua industri yang mengandalkan otak manusia, pengeluaran Token mencapai dua atau tiga puluh persen dari gaji, hanyalah masalah waktu.
CEO Nvidia, Jensen Huang, lebih gusar daripada siapa pun.
Di acara GTC tahun ini, dia secara langsung mengeluarkan pernyataan: Seorang insinyur dengan gaji $500 ribu per tahun, konsumsi Token di akhir tahun kurang dari $250 ribu?
"Saya akan benar-benar frustrasi."
Dia berencana memberikan setiap insinyur Nvidia anggaran Token setara dengan setengah tahun gaji, dan juga akan membuat 75 ribu karyawan bekerja bersama 7,5 juta agen cerdas AI.
Tidak pakai AI? Kata Jensen Huang, itu sama saja dengan desainer chip bersikeras menggunakan kertas dan pensil.
Token bukan lagi sekadar alat, ia sedang berubah menjadi "alat produksi" di era baru.
Tapi separuh Silicon Valley lainnya, sedang frustrasi dengan tagihan AI
Yang menarik, sementara SemiAnalysis menghemat uang sungguhan dengan Token, para raksasa di Silicon Valley justru pusing tujuh keliling karena tagihan AI.
Uber adalah kasus klasik.
Akhir tahun lalu perusahaan mempromosikan Claude Code kepada 5000 insinyur, bahkan membuat papan peringkat—semakin banyak digunakan, peringkatnya semakin tinggi, kompetisi internal langsung memanas.
Hasilnya terlalu sukses: Pada Februari tingkat penggunaan oleh insinyur 32%, Maret melonjak menjadi 84%, April, 95% insinyur menggunakan AI setiap bulan, 70% kode yang dikirim berasal dari hasil AI, dan anggaran tahunan—sudah habis.
CTO mengatakan "harus menyusun ulang anggaran dari awal". Kemudian lebih keras lagi—Bloomberg mengungkap, Uber memberi setiap karyawan batas Token $1500 per bulan, melebihinya butuh persetujuan khusus.
Tapi COO Andrew Macdonald dalam podcast mengatakan sebuah kebenaran: Penggunaan AI memang meningkat, tapi hubungannya dengan inovasi fitur konsumen... saat ini belum terlihat.
Situasi Microsoft lebih ajaib. Bulan lalu The Verge mengungkap, Microsoft sedang mencabut sebagian besar lisensi Claude Code, beralih ke GitHub Copilot CLI miliknya sendiri.
Alasannya sederhana: Uang keluar lebih cepat daripada hasil yang dihasilkan.
Wakil Presiden Deep Learning Terapan Nvidia, Bryan Catanzaro, pada April tahun ini mengatakan lebih langsung: "Bagi tim saya, biaya komputasi jauh melebihi biaya karyawan."
Penelitian MIT 2024: Pada posisi yang pekerjaan utamanya adalah visual, AI otomatisasi hanya hemat secara ekonomi dalam 23% skenario.
Dalam 77% kasus lainnya, mempekerjakan orang lebih murah daripada menggunakan AI.
Bahkan ada insinyur yang mengeluh agen AI dalam penggunaannya "merusak database dan jaringannya"—dia menyebutnya harga yang harus dibayar untuk "penggunaan berlebihan".
Anggaran selangit, penggunaan tak terkendali, kecelakaan beruntun—Silicon Valley sedang berada di tahap ekonomi AI yang paling terpecah.
Di satu sisi teknologi membawa produktivitas yang belum pernah ada sebelumnya, di sisi lain tagihan membengkak dengan kecepatan yang sama belum pernah terjadi sebelumnya.
Penurunan Biaya Baru Saja Dimulai
Tapi poin inti SemiAnalysis adalah: Jangan lihat harga hari ini, penurunan biaya baru saja dimulai.
Pertama lihat sisi perangkat lunak.
Menjalankan DeepSeek R1 di B300, melalui tiga lapis optimisasi perangkat lunak murni wideEP, disagg dan MTP, throughput per GPU bisa melonjak dari 1000 token/detik baseline menjadi 14000 token/detik—peningkatan 14 kali lipat, murni dari kode.
Kemudian lihat sisi perangkat keras.
Throughput GB300 NVL72 dengan konfigurasi optimal adalah 17 kali lipat H100, beralih ke presisi FP4 langsung naik menjadi 32 kali lipat.
Harga yang tertera untuk Opus 4.7 adalah $5 per juta untuk input, $25 per juta untuk output, kedengarannya tidak murah.
Tapi karena rasio input-output untuk beban kerja agen cerdas mencapai 300:1, ditambah tingkat cache hit di atas 90%, biaya campuran riil ditekan menjadi $0,99.
Bahkan kurang dari seperlima harga yang tertera.
Menyatukan perangkat lunak dan perangkat keras, satu kesimpulan sulit dihindari: Ekspansi margin kotor model besar, bukanlah kebetulan harga satu kali, melainkan tren struktural.
ARR Anthropic tahun ini melonjak dari $9 miliar menjadi di atas $44 miliar, margin kotor naik dari 38% menjadi di atas 70%—Token semakin murah, tapi orang yang menjual Token justru semakin untung.
Laporan Gartner Maret tahun ini mendukung hal ini: Pada 2030, biaya inferensi model besar dengan triliunan parameter akan turun lebih dari 90% dibandingkan 2025.
Penilaian SemiAnalysis jelas: Jika ingin memperkirakan harga Token 2027, jawabannya satu kata—turun.
Uang Dikeluarkan, Lalu Apa?
Inilah titik paling terpecah AI saat ini: Pengeluaran modal AI perusahaan teknologi global tahun ini telah diumumkan $7400 miliar, melonjak 69% dari tahun lalu; pada saat yang sama, kecepatan PHK di industri teknologi telah melebihi tahun lalu.
Uang dibakar habis-habisan, orang di-PHK, tapi Kepala Ekonom Goldman Sachs mengatakan sebuah kebenaran—Dampak riil AI terhadap ekonomi, sejauh ini hampir nol.
Ini bukan karena AI tidak bagus, melainkan sakit yang harus dialami setiap revolusi infrastruktur: Pertama bakar uang membangun pipa, lalu menunggu air mengalir.
Jaringan listrik begitu, internet begitu, AI tidak terkecuali.
Perbedaannya hanya, kali ini kecepatan pemasangan pipa, dan kecepatan air mengalir, adalah skala yang belum pernah dilihat generasi sebelumnya.
SemiAnalysis sudah berdiri di sisi tempat air mengalir—30% gaji ditukar dengan leverage hasil beberapa kali lipat, sementara kurva biaya masih turun drastis.
Adapun perusahaan lain: Menyeberangi sungai sekarang, atau mengejar setelah orang di seberang sudah membangun kota.
Referensi:
https://x.com/SemiAnalysis_/status/2070915305858007345
Artikel ini berasal dari akun WeChat "Xinzhiyuan", penulis: ASI Revelation, editor: Solomon
