Model yang sama, harga resmi cuma turun 20%, tagihan Anda malah berkurang delapan puluh persen.
Pada 24 Agustus, OpenAI mempublikasikan hasil tes yang dilakukan bersama AWS:
Pada Terminal-Bench 2.1, biaya GPT-5.6 Terra untuk menyelesaikan satu tugas yang sukses di dalam Kiro, turun sekitar 82%.
Kiro adalah platform agen pengembangan perangkat lunak AWS, mencakup IDE, CLI, dan Web.
Tiga serangkai GPT-5.6, Sol, Terra, dan Luna, telah berjalan di dalamnya selama lebih dari sebulan.
Angka 82% ini, bukan berasal dari penurunan harga resmi.
Penyesuaian harga Terra terakhir adalah pada 30 Juli, sebesar 20%.
Pengumuman penyesuaian harga OpenAI tanggal 30 Juli, Terra turun 20%.
Harga per unit cuma turun 20%, tagihan malah bisa ditebang delapan puluh persen.
Enam puluh persen poin selisih yang dihemat dari mana, itulah yang patut kita perhatikan.
GPT-5.6 mendarat di Kiro adalah hal yang terjadi pada Juli tahun ini.
Pertama, pada tanggal 13, AWS mengumumkan GPT-5.6 Sol, Terra, dan Luna tersedia secara resmi di Amazon Bedrock.
Keeseokan harinya, Kiro memposting blog yang mengumumkan ketiga model tersebut tersedia di IDE, CLI, dan Web.
Ini adalah pertama kalinya model OpenAI masuk ke Kiro, tepat pada saat Kiro merayakan satu tahun pratinjau publiknya.
Pertama-tama taruh model di rak, lalu ajak kerja, lebih dari sebulan kemudian, OpenAI kembali memberikan hasil pekerjaan:
Kedua perusahaan bersama-sama menyetel lingkungan Kiro dan model OpenAI, biaya Terra untuk menyelesaikan satu tugas yang sukses, turun sekitar 82%.
Yang Dihemat
Adalah Uang untuk Jalan Memutar
Penyesuaian harga pada 30 Juli itu, Terra turun 20%, tapi dalam tes Kiro, biaya per tugas turun 82%.
Enam puluh persen ekstra yang dihemat itu, berasal dari mana?
Arahnya ya cuma beberapa ini:
Token yang dikeluarkan model lebih sedikit, jumlah pemanggilan bolak-balik alat lebih sedikit, percobaan ulang dan jalan memutar setelah gagal lebih sedikit.
Jadi sebagian besar yang dihemat ini, bukanlah uang untuk setiap pemanggilan, melainkan uang untuk pemanggilan-pemanggilan yang tadinya akan terbuang percuma.
Logikanya sederhana: Sebuah agen AI yang gagal mengerjakan tugas sekali, tagihan tetap dicatat. Di tengah jalan ia salah pilih jalur, nyasar tiga putaran lalu balik lagi, token-token ini juga tetap dibayar.
Dalam pengembangan nyata, uang seringkali bocor begini caranya.
OpenAI juga pernah menyebutkan logika yang sama di blog resminya, efisiensi berasal dari tiga lapisan:
Kerangka kerja agen yang meluncurkan permintaan dan mengorganisir konteks, sistem orkestrasi yang mengatur permintaan di tengah, dan terakhir adalah model itu sendiri yang berjalan di GPU.
OpenAI memecah sumber efisiensi GPT-5.6: Permintaan dimulai dari kerangka kerja agen, melalui sistem orkestrasi, akhirnya ke GPU untuk menjalankan model, setiap lapisan menghemat.
Menghemat uang juga bisa sampai pada pembagian tugas model.
OpenAI juga pernah memberikan contoh penggunaan: alur kerja pengkodean bisa menggunakan Sol untuk memikirkan masalah dengan jelas dan membuat rencana, lalu ganti ke Luna untuk mengimplementasikan perubahan-perubahan yang sudah jelas definisinya, menulis tes, dan menjalankan evaluasi.
Di jalur perakitan yang sama, bagian-bagian berbeda dilengkapi dengan kecerdasan level yang berbeda.
Model Hanya Menempati Setengah Tagihan
Ganti Kerangka, Ganti Harga
Soal-soal Terminal-Bench 2.1 ini, bukanlah soal yang dijawab model sendirian.
Ia memasukkan model ke dalam lingkungan terminal, memberikan satu tujuan yang ambigu, membiarkannya merencanakan jalur sendiri, memanggil alat, menulis skrip, menangani laporan error, beriterasi berulang kali.
Jadi skor yang keluar, adalah skor kombinasi "agen + model".
Papan peringkat publik Terminal-Bench 2.1, di sebelah kanan akurasi ada tambahan kolom biaya. (Sumber: Terminal-Bench)
Empat baris angka dalam papan peringkat paling bisa menjelaskan masalah:
Claude Code dengan Fable 5, 83,8%, $552,67;
Codex dengan GPT-5.5, 83,1%, $2059,19;
Codex dengan GPT-5.6 Terra, 78,4%, $421,15;
Codex dengan GPT-5.6 Luna, 75,7%, $241,45.
Dua baris pertama skornya hanya beda 0,7 poin persen, tagihannya beda hampir 4 kali lipat.
Model yang sama, dimasukkan ke kerangka kerja yang berbeda, dikombinasi dengan strategi organisasi konteks dan alat yang berbeda, harganya juga sama sekali berbeda.
Menurut data resmi dari Kiro, Terra mendapat skor 77,4 pada Coding Agent Index, hanya sedikit lebih tinggi dari Claude Fable 5 yang 77,2.
Keunggulannya bukan pada skor, melainkan pada harga yang sesuai dengan skor ini.
Fokus upaya Kiro yang berbasis spec-driven juga di sini, inti permainannya cuma satu kalimat: Jangan langsung menulis kode.
Pertama-tama ia memecah tujuan ambigu pengguna menjadi dokumen kebutuhan yang jelas, desain teknis, dan daftar tugas yang dapat dieksekusi, baru diserahkan ke model.
Dengan demikian, yang sampai ke tangan model bukan lagi kalimat yang tidak jelas, melainkan setumpuk pekerjaan yang sudah dijelaskan.
Orang yang familiar dengan Agent akan segera menyadari, langkah ini menghemat justru bagian pengeluaran yang paling mahal.
Model yang melenceng, mengulang, membongkar dan mengerjakan ulang, token yang terbakar seringkali lebih banyak daripada mengerjakan dengan benar.
Kiro juga menyisipkan dua penahan dalam alur: Sebelum kode benar-benar dimodifikasi, berhenti dulu untuk dilihat orang; setelah pekerjaan selesai, otomatis jalankan serangkaian tes untuk memverifikasi benar atau salah.
Setiap pengulangan yang dihentikan oleh dua penahan ini, dapat menghemat uang sungguhan.
Wilayah Claude di Domain Amazon
GPT Merebut Setengahnya
Satu tahun lalu, Kiro masih hanya sebuah IDE berbasis spec-driven, pemilih model adalah wilayah utama Anthropic.
Satu tahun kemudian, AWS di platform agen pengembangannya sendiri, sekaligus memasukkan tiga model OpenAI dalam sekali waktu.
Sol, Terra, Luna berdampingan dengan Claude dalam menu drop-down yang sama, gambaran ini sulit dibayangkan setahun lalu.
Meskipun GPT-5.6 kali ini "masuk seluruh keluarga", tapi tidak "terbuka sepenuhnya".
Tiga model tersebut dibuka secara bertahap dan eksperimental, ditujukan untuk pengguna Pro, Pro+, Pro Max, dan Power, wilayahnya hanya dua, Virginia Utara AS dan Frankfurt Eropa, mendukung inferensi lintas wilayah.
Ada satu hal lagi yang membuat banyak orang tidak terbiasa: Model-model ini di Kiro menggunakan jalur pemikiran tersembunyi, Anda tidak bisa melihat langkah-langkah penalarannya, hanya melihat hasil akhirnya.
Orang yang terbiasa mengawasi penalaran agen langkah demi langkah, akan merasa seperti melempar pekerjaan ke dalam kotak yang tidak transparan.
Pernyataan resmi mengatakan, ini adalah perilaku yang diharapkan, tidak mempengaruhi kualitas output.
Tiga model tersebut memiliki harga jelas di dalam Kiro.
Saat pertama kali diluncurkan tanggal 14 Juli, untuk tugas yang sama, Sol dikenakan 2,4 kali, Terra 1,2 kali, Luna 0,6 kali.
Ketika penurunan harga OpenAI pada 30 Juli diterapkan, keesokan harinya Kiro mengikutinya: Luna dipotong dari 0,6 kali menjadi 0,1 kali, Terra turun dari 1,2 kali ke 1,0 kali, hanya Sol yang tidak berubah.
Sikap AWS sudah jelas: Sebuah platform pengembangan, tidak boleh hanya terikat pada satu model.
Di dalam pemilih yang sama, dua model mutakhir mulai saling menekan harga.
Standar evaluasi model juga ikut berubah: Skor tinggi tidak lagi otomatis menang, mengeluarkan uang lebih sedikit juga bisa menang.
Bagi pengembang, memilih model dulu bertanya "model ini berapa per satu juta token", sekarang harus bertanya "untuk menyelesaikan hal ini, saya harus bayar berapa".
Referensi:
https://x.com/OpenAIDevs/status/2091966982015103068
https://openai.com/index/gpt-5-6-in-kiro/
Artikel ini berasal dari akun WeChat publik "新智元" (ID: AI_era), penulis: ASI启示录, editor: 元宇
