Sama-Sama Rp 75 Ribu, Tagihan Beda 30%, Eksekutif OpenAI: Token Tidak Bisa Langsung Dibandingkan Harganya
Judul asli: "Harga per Token Sama $5, Tapi Tagihan Bisa Selisih 30%. Eksekutif OpenAI: Token Tidak Bisa Langsung Dibandingkan"
OpenAI Codex lead, Tibo, mengungkapkan bahwa meskipun banyak model AI menetapkan harga input yang sama (misalnya, $5 per juta token), tagihan aktual bisa sangat berbeda. Ini karena "token" bukan unit standar seperti gram atau kilowatt-jam. Setiap model memiliki "tokenizer" sendiri yang memotong teks dengan cara berbeda.
Sebagai analogi, seperti dua pizza identik: satu dipotong 8 keping ($2/keping), lainnya 16 keping ($1,25/keping). Meski harga per keping lebih murah, pizza kedua lebih mahal secara total. Demikian pula, teks yang sama bisa dipotong menjadi 766 token oleh GPT-5.6 Sol, tetapi 1170 token oleh Claude Opus 5—selisih 34,5%. Dengan harga per juta token yang sama, biaya input pun berbeda.
Perbedaan tagihan muncul dari empat faktor utama:
1. **Efisiensi Tokenizer:** Jumlah token yang dihasilkan dari teks yang sama.
2. **Cache:** Harga token cache bisa jauh lebih murah (misalnya, 1/10 harga input standar), menguntungkan untuk tugas berulang.
3. **Output:** Harga output seringkali lebih tinggi (misalnya, $30 vs $25 per juta token) dan dapat mendominasi biaya dalam alur kerja agen.
4. **Aturan Konteks Panjang:** OpenAI memberlakukan penggandaan tarif untuk seluruh permintaan jika input melebihi batas tertentu (misalnya, 272K token untuk GPT-5.6 Sol).
Bahkan dalam satu perusahaan, jumlah token dapat berubah. Anthropic menyatakan model Claude 4.7+ menggunakan tokenizer baru yang menghasilkan sekitar 30% lebih banyak token untuk teks yang sama dibandingkan model lama.
Kesimpulannya, membandingkan harga hanya berdasarkan "harga per juta token" itu menyesatkan. Metrik yang lebih berarti adalah **"harga per hasil sukses" (price per successful outcome)**. Cara terbaik untuk membandingkan biaya adalah dengan menguji model yang berbeda pada tugas spesifik Anda sendiri, memperhitungkan semua faktor di atas, dan melihat mana yang menyelesaikan pekerjaan dengan biaya total terendah.
marsbit33m yang lalu
