Token Telan Sepertiga Gaji, Tagihan AI di Silicon Valley Tak Terkendali
**Ringkasan:** Token AI menghabiskan 30% dari gaji, tagihan AI di Silicon Valley tak terkendali.
Biaya token untuk model AI internal di SemiAnalysis mencapai 30% dari total gaji karyawan. Namun, ini justru menghasilkan efisiensi yang luar biasa, mengubah unit ekonomi di sektor jasa profesional. Sementara itu, perusahaan seperti Uber dan Microsoft berjuang dengan tagihan AI yang membengkak dan penggunaan yang tak terkendali, di mana biaya komputasi bahkan bisa melebihi biaya tenaga kerja.
Di sisi lain, biaya token diperkirakan akan turun drastis. Optimasi perangkat lunak dan keras (seperti B300 dan GB300 NVL72) dapat meningkatkan throughput hingga belasan kali lipat. Meski harga tampak mahal (misalnya, Opus 4.7), rasio input/output yang tinggi dan cache membuat biaya campuran bisa serendah $0,99 per juta token. Analis memprediksi biaya inferensi model besar akan turun lebih dari 90% pada 2030.
Intinya, dunia AI saat ini terbelah: investasi besar-besaran ($7400 miliar pada 2024) dan PHK terjadi bersamaan, namun dampak ekonomi riil masih minim. Ini adalah fase "membangun pipa" sebelum aliran manfaatnya terasa. Bagi perusahaan seperti SemiAnalysis, token sudah menjadi "alat produksi" baru yang memberikan leverage produktivitas tinggi dengan biaya yang terus menurun. Pilihannya: mulai beradaptasi sekarang atau tertinggal.
marsbit07/06 00:17
