Ketika Token Lebih Mahal daripada Manusia, 'Narasi AI' Menghadapi Masalah
Aliran uang perusahaan untuk AI menghadapi ujian ketat karena biaya token terus melonjak, namun nilai bisnis yang terukur sulit ditemukan. Eksekutif Uber dan Microsoft menyoroti kesenjangan antara peningkatan konsumsi token dan perbaikan produk nyata, menciptakan istilah "tokenmaxxing" untuk menggambarkan pemborosan.
Data dari berbagai sumber memperlihatkan gambaran mengkhawatirkan: Uber menghabiskan anggaran Claude Code tahunan dalam empat bulan, dengan tagihan per engineer mencapai $2000 per bulan. Platform Entelligence.AI menemukan bahwa dari setiap $1 biaya token AI, hanya $0,18 yang menciptakan nilai bagi pengguna, sementara sisanya habis untuk memperbaiki bug, pengerjaan ulang, dan gesekan dalam tinjauan. Harga token sendiri telah naik sekitar 65% sejak akhir Februari.
Para analis terbelah. Pandangan positif berargumen bahwa ini hanya fase transisi, dan konsumsi token akan bergeser ke metrik biaya-per-tindakan-efektif yang lebih sehat, didukung oleh tanda-tanda peningkatan produktivitas nyata. Pandangan skeptis, yang dipimpin oleh analis seperti Jim Covello dari Goldman Sachs, memperingatkan bahwa model saat ini tidak berkelanjutan. Hampir semua nilai dalam rantai pasokan AI mengalir ke perusahaan semikonduktor seperti Nvidia, sementara banyak perusahaan pengguna berjuang untuk melihat ROI. Penelitian MIT bahkan menunjukkan 95% investasi AI generatif memberi laba nol.
Kekhawatiran lain adalah struktur pendanaan melingkar antara raksasa cloud (Microsoft, Google, dll.) dan lab AI (OpenAI, Anthropic). Lab AI membayar tagihan komputasi besar ke penyedia cloud, yang juga investor utama mereka, menciptakan siklus ketergantungan. Keberlanjutan sistem ini bergantung pada aliran pendanaan eksternal yang konstan ke lab AI dan kesediaan pelanggan perusahaan membayar tagihan token yang terus naik.
Meski tidak sebanding dengan gelembung dot-com 1999 dari segi valuasi, masalahnya nyata. Teknologi AI terbukti bermanfaat bagi pengguna berat, tetapi pertanyaannya kini adalah apakah penghematan biaya di tingkat perusahaan pengguna dapat mengimbangi biaya token yang meningkat dengan cukup cepat. Narasi bahwa peningkatan konsumsi token sama dengan keberhasilan transformasi AI telah runtuh. Faktanya, tagihan AI telah jatuh tempo, tetapi masih belum jelas siapa yang akhirnya akan membayarnya.
marsbit2 hari yang lalu 01:46