Saat Raksasa AS Secara Kolektif "Membelot" ke Model AI China
CEO Coinbase, Brian Armstrong, mengungkapkan bahwa perusahaan telah beralih ke model AI China, yaitu GLM-5.2 dan Kimi 2.7, yang berhasil memotong biaya AI hingga separuh, meski penggunaan token terus meningkat. Strategi penghematan mencakup sistem perutean otomatis untuk memilih model terbaik berdasarkan tugas, meningkatkan *cache hit rate* dari 5% menjadi 60%, serta *context engineering* untuk menyederhanakan informasi yang diberikan ke AI.
Tren ini juga diikuti perusahaan seperti Lindy dan Snowflake, yang melaporkan penghematan signifikan setelah beralih ke model China seperti Deepseek dan GLM-5.2. Meski ada sedikit perbedaan dalam stabilitas, perbedaan harga yang besar (model China 5-7 kali lebih murah) membuatnya menarik bagi banyak bisnis.
Bagi pengguna biasa, pelajaran utamanya adalah: jangan bergantung pada satu model, manfaatkan cache dan template untuk tugas berulang, serta berikan konteks yang ringkas dan relevan kepada AI untuk hasil yang lebih baik. Pergeseran ini menandai perubahan dalam lanskap kompetisi AI, di mana harga dan efisiensi biaya menjadi faktor penentu, mendorong persaingan harga antara penyedia seperti OpenAI dan Anthropic.
marsbit07/03 16:19
