Era distilasi besar yang dahsyat, akan berakhir!
Tepat pada 2 September, Anthropic memberikan pukulan berat, langsung menulis ulang aturan API, dan memutuskan jalan buntu untuk model besar berlapis kulit dan para pendistilasi sepenuhnya.
Dulu, banyak perusahaan memilih untuk mengambil proses inferensi model teratas melalui API guna menghemat biaya komputasi besar dan waktu pelatihan yang lama, kemudian menggunakan data ini untuk melatih "model kecil" mereka sendiri.
Tapi mulai hari ini, kemungkinan seperti itu tidak akan ada lagi.
Claude Fable 5.1 Blokir Pengubahan "Thinking Tokens"
Fable 5.1 yang dirilis Anthropic kali ini, meluncurkan mekanisme anti-distilasi yang bisa dibilang terketat sepanjang sejarah.
Tindakan intinya adalah mengunci mati "Thinking Tokens".
Apa itu "Thinking Tokens"?
Secara sederhana, ini adalah proses Chain-of-Thought (CoT) yang dilakukan AI di dalam "pikirannya" sebelum memberikan jawaban akhir kepada Anda.
Proses berpikir Claude yang kompleks dan paralel saat melakukan kalkulasi mental
Dalam panggilan API, Claude akan mengembalikan langkah-langkah penalaran ini kepada pengguna dalam bentuk "Thinking Tokens".
Dalam dialog multi-ronde normal, pengembang akan mengirimkan kembali thinking tokens ini bersama dengan sistem prompt, alat, dan riwayat pesan kepada Claude, agar model dapat mengingat konteks dan menjaga kelancaran percakapan.
Tapi justru mekanisme inilah yang menjadi peluang bagi para pendistilasi.
Mereka menemukan celah besar: selama dalam dialog multi-ronde, dengan diam-diam mengubah konteks sebelum dan sesudah thinking tokens (misalnya memanipulasi prompt sistem awal atau riwayat pesan), mereka dapat memecah mekanisme pertahanan Claude, bahkan dapat menginduksi Claude untuk mengeluarkan logika penalaran mendasar yang awalnya disembunyikan!
Menanggapi kekacauan ini, Anthropic dalam Fable 5.1 tanpa ampun meluncurkan aturan baru "Validasi Konsistensi Konteks".
1.Kembali ke Jalan Asal, Kata demi Kata Sama: API sekarang akan secara ketat memverifikasi apakah "Thinking Tokens" yang dikirim kembali oleh klien benar-benar identik dengan sistem prompt, alat, dan riwayat pesan yang awalnya menghasilkannya.
2.Ada yang Dimainkan? Langsung Error! Asalkan sistem mendeteksi konteks telah diubah, bahkan sedikit saja akan gagal mencocokkan, API akan langsung mengembalikan pesan kesalahan dan menolak layanan.
Dan, untuk mengakomodasi pengembang sah yang memang perlu mengubah konteks (misalnya perlu mengompres panjang konteks untuk menghemat biaya), Anthropic menyediakan mode "Non-Strict".
Dalam mode ini, permintaan Anda dapat lolos, tetapi, sistem akan langsung menghapus semua "Thinking Tokens"! Model akan dipaksa menjawab dalam kondisi yang sama sekali tidak melihat proses penalaran sebelumnya.
Langkah ini benar-benar menguras sumber airnya.
Ketika Claude ditanyai pertanyaan yang lebih mudah dan yang lebih sulit, contoh penalaran yang setia vs penalaran motivasional (tidak setia)
Seberapa Gila Distilasi Tingkat Industri Itu?
Apakah Anthropic sampai harus marah besar, membuat pembatasan sek ketat ini?
Jawabannya: Ya, dan sangat diperlukan.
Karena distilasi ilegal saat ini telah berkembang menjadi skala industri.
Dalam setahun terakhir, tim keamanan Anthropic mengamati fenomena penyalahgunaan yang mengkhawatirkan.
"Hacker distilasi" profesional ini tidak hanya menggunakan satu akun untuk bertanya beberapa pertanyaan sehari, melainkan menggunakan ribuan akun palsu, melalui skrip otomatis, siang dan malam secara gila-gilaan "memanen" API.
Metode operasi mereka sangat tersembunyi dan agresif.
Seperti disebutkan di atas, meskipun Anthropic sudah mengenkripsi thinking tokens inti Claude sejak lama, para hacker menggunakan teknik "Context Injection" dan "Conversation Rewriting".
Praktik ini seperti memberikan "hipnotis" kepada Claude, membuatnya dalam kondisi logika kacau, secara aktif mendekripsi dan mencetak proses penalarannya yang terenkripsi.
Oleh karena itu, banyak model parameter kecil tidak melalui tumpukan komputasi dari nol dan inovasi algoritma, hanya menghafal cara berpikir jawaban AI teratas, sehingga kinerjanya bisa menyamai.
Yang lebih menakutkan, praktik ini langsung menyentuh garis merah, menyebabkan runtuhnya jaminan keamanan.
Potensi Bahaya Terbesar AI Lepas Kendali
Jika kerugian kepentingan bisnis hanya membuat Anthropic "sakit hati", maka "pelepasan kemampuan dari keamanan", membuat seluruh dunia keamanan AI merasa ketakutan.
Ini juga motif inti Anthropic memutuskan untuk bertindak tegas.
Seperti diketahui, model besar seperti Claude, GPT-4, selain memiliki kecerdasan sangat tinggi, juga menerima pelatihan "alignment nilai" dan keamanan yang sangat ketat. Mereka tahu tidak boleh mengajari orang membuat bom, tidak boleh menulis perangkat lunak pemerasan berbahaya, tidak boleh mengucapkan ujaran kebencian.
Ikatan ganda "kemampuan + pagar pengaman" ini dibangun oleh perusahaan AI besar dengan menghabiskan jutaan dolar untuk RLHF dan red teaming.
Tapi, model distilasi dengan sempurna menghindari jaringan pengaman ini!
Saat pendistilasi dengan memodifikasi konteks, secara paksa mengambil "Thinking Tokens" Claude, mereka hanya mengekstrak bagian "kemampuan penalaran" ber-IQ tinggi itu, sama sekali tidak dapat mewarisi jaminan keamanan mendasar.
Seperti organisasi jahat, mengkloning kecerdasan Einstein, tapi tidak mengkloning rasa moral dan empati Einstein.
Sistem yang dilatih dengan cara distilasi ilegal ini, akan secara misterius mewarisi logika dan kemampuan kode tingkat tinggi yang seharusnya tidak mereka miliki.
Tapi karena mereka sendiri adalah model dasar dengan "jaminan rendah, pagar pengaman lemah", mereka akan tanpa ragu merespons permintaan hacker, untuk menghasilkan skrip serangan siber, atau membantu pengembangan senjata biologis.
"Pelepasan kemampuan dari keamanan adalah risiko terbesar AI saat ini."
Aturan Baru Berlaku: Siapa yang Terdampak?
Apakah serangan ini akan mempengaruhi pengembang yang sah?
Jangan takut, Anthropic mengambil strategi "pelaksanaan bertahap" yang tepat, berusaha meminimalkan kerusakan samping.
Yang paling terdampak pertama adalah "akun baru".
Berdasarkan dokumen resmi, pembatasan ini dimulai dari akun baru di mana penyalahgunaan paling terkonsentrasi. Untuk model Fable 5.1, pembaruan ini hanya berlaku untuk akun API baru yang dibuat setelah 31 Agustus 2026 pukul 12:00:00 AM UTC.
Kelompok berikut dapat benar-benar tenang, Anda sama sekali tidak terpengaruh.
1.Akun API yang Sudah Ada: Akun lama yang sudah ada untuk sementara tidak terpengaruh pada Fable 5.1. Ini memberi waktu yang cukup bagi pengembang sah untuk menyesuaikan.
2.Pengguna Biasa Sisi Konsumen: Jika Anda hanya menggunakan Claude.ai versi web, atau pengguna C dari produk resmi seperti Claude Code, Claude Cowork, atau mengobrol normal melalui produk berlapis kulit pihak ketiga, Anda tidak akan terganggu sama sekali.
Bagi pengembang API yang terdampak, apa yang perlu Anda perhatikan?
Jika dalam integrasi aplikasi Anda sebelumnya, kebetulan menggunakan teknik "menulis ulang ronde awal di tengah percakapan" (misalnya kompresi konteks untuk menghemat uang, atau menyuntikkan pengingat sistem baru di tengah percakapan), Anda perlu segera mulai menyesuaikan logika kode Anda.
Untuk mengatasi perubahan ini, Anthropic menyediakan panduan migrasi yang lengkap. Pengembang memiliki dua pilihan.
Pilihan satu: Menjaga konsistensi konteks yang absolut. Mengirimkan kembali thinking tokens asli, sistem prompt, dan alat persis kata demi kata.
Pilihan dua: Memilih untuk bergabung dengan mode "Non-Strict" dalam permintaan API. Dalam mode ini, meskipun Anda mengubah konteks, API tidak akan error dan berhenti, melainkan secara otomatis dan diam-diam menghapus thinking tokens yang terdampak dalam permintaan.
Meskipun ini akan membuat model "melupakan" proses penalaran spesifik sebelumnya dalam percakapan selanjutnya, setidaknya dapat memastikan percakapan atau tugas Anda tidak terputus.
Perlu diingat: Meskipun saat ini aturan ini memiliki masa pengecualian, Anthropic telah menyatakan dengan jelas — mekanisme "Retained Thinking" akan berlaku untuk semua akun dalam versi model masa depan!
Jendela penyangga yang ada saat ini juga terbatas.
Kejutan Tak Terduga: Memberkati Orang yang Jujur
Dan, setelah aturan baru ini, tersembunyi juga sebuah manfaat bagi pengembang sah — penurunan biaya yang signifikan dan lompatan kecepatan respons.
Bagaimana ini bisa terjadi?
Intinya terletak pada "konsistensi konteks".
Dulu, karena pengembang dapat secara sembarangan mengubah konteks, menyebabkan setiap permintaan yang diterima model adalah "baru". Ini tidak hanya menghabiskan daya komputasi, tetapi juga sangat lambat.
Sekarang, aturan baru memaksa semua orang harus menjaga "Thinking Tokens" dan sistem prompt serta riwayat pesan di sekitarnya tetap identik, tidak boleh dimanipulasi.
Dalam hal teknis, ini menciptakan kondisi yang sempurna: cache prompt dapat mencapai hit rate yang sangat tinggi!
Sekarang, server API dapat dengan mudah menyimpan konteks percakapan sebelumnya. Ketika permintaan percakapan ronde berikutnya datang, sistem langsung mengambil data dari cache, menyelesaikan pencocokan dalam sekejap.
Hasilnya adalah: waktu respons API berkurang drastis, latency turun tajam, dan biaya panggilan API pengembang juga akan turun signifikan!
Langkah "tanpa sengaja" ini benar-benar memberikan subsidi uang nyata bagi pengembang yang jujur dan bekerja keras.
Singkatnya, aturan baru ini, bagi seluruh industri AI, tidak diragukan lagi merupakan titik balik.
Kisah model parameter kecil mengalahkan model besar, mungkin akan jauh berkurang.
Setelah air surut, siapa yang telanjang berenang?
Referensi:
https://support.claude.com/zh-CN/articles/16761192-%E4%BF%9D%E7%95%99%E6%80%9D%E8%80%83-%E6%94%B9%E5%8F%98messages-api%E5%A4%84%E7%90%86%E6%80%9D%E8%80%83%E5%9D%97%E7%9A%84%E6%96%B9%E5%BC%8F%E4%BB%A5%E9%98%B2%E6%AD%A2%E8%92%B8%E9%A6%8F
Editor: Aeneas
Artikel ini berasal dari akun WeChat publik "Xin Zhi Yuan" (ID:AI_era), penulis: ASI Revelation
