Claude Borong 5 Miliar, Naik 60 Kali dalam Semalam, Tagihan Token Anda Masih Bertahan?
Sebuah perusahaan dikabarkan menghabiskan tagihan $500 juta dalam sebulan di Claude karena lupa menetapkan batas penggunaan. Kasus kebocoran biaya AI lainnya termasuk pengguna Google Cloud yang ditagih $18.000 akibat penyalahgunaan API key, serta eksperiman OpenAI internal yang menghabiskan $1,3 juta untuk 760 juta permintaan dari 100 agen Codex.
Pemicu utama lonjakan tagihan adalah peralihan model pembayaran AI dari langganan bulanan ke penggunaan berbasis token, seperti yang diterapkan OpenAI pada April dan GitHub Copilot mulai 1 Juni 2026. Perubahan ini membuat tugas berat seperti pengkodean oleh agen AI menjadi jauh lebih mahal, memicu keluhan pengguna karena biaya melonjak puluhan kali lipat.
Di sisi lain, budaya "token maxxing" atau membakar token demi peringkat internal (seperti di Amazon) juga menyia-nyiakan sumber daya. Namun, bisnis seperti Glean dan Factory AI muncul dengan solusi mengoptimalkan konteks dan merutekan tugas ke model yang tepat untuk menghemat token.
Penelitian menunjukkan konsumsi token oleh agen AI bisa ribuan kali lebih tinggi, namun biaya lebih tinggi tidak selalu menjamin akurasi lebih baik. CEO Glean Arvind Jain mencatat bahwa biaya AI kini mulai menyamai biaya tenaga kerja di beberapa perusahaan, menandai perlunya efisiensi.
Intinya: era penggunaan AI tanpa batas berakhir. Kesuksesan di masa depan akan ditentukan oleh kemampuan mengelola dan mengoptimalkan setiap token dengan bijak.
marsbit2 hari yang lalu 11:20
