Penulis: Ben Thompson
Diterjemahkan oleh: Deep Tide TechFlow
Panduan Deep Tide: Model baru Anthropic, Fable, yang dirilis hanya dua bulan lalu, segera dihentikan darurat oleh pemerintah AS. Di permukaan, ini adalah "kebocoran keamanan", tetapi sebenarnya mengungkap perang ganda lab AI melawan pemerintah dan industri perangkat lunak. Perusahaan yang menjual "keamanan" sebagai nilai jual ini sedang mengubah narasi keamanan menjadi parit bisnis, dan yang sebenarnya mereka rebut adalah data pengguna yang ada di tangan perusahaan seperti Microsoft.
Saya memahami pendapat para pengejek, yang selalu menganggap pernyataan publik Anthropic—terutama saat merilis model—sebagai penyebaran kepanikan untuk tujuan pemasaran. Dua bulan lalu, Anthropic mengumumkan peluncuran Mythos Preview, mengklaim model ini terlalu berbahaya untuk dirilis secara publik, terutama karena kemampuannya yang kuat di bidang keamanan siber. Kemudian, dua bulan kemudian, perusahaan secara publik merilis Fable, versi Mythos yang telah diberi berbagai pagar keamanan.
Berdasarkan pengalaman terbatas saya, Fable memang model yang sangat luar biasa. Sekarang, selain performa pemrograman, sulit untuk mengevaluasi model secara objektif, tetapi perasaan subjektif tetap ada. Saya menemukan pengalaman interaksi dengan Fable sangat luar biasa; itu membuat model lain, termasuk GPT-5.5 dan Opus-4.8, tampak kecil dan bodoh. Saya hanya pernah merasakan ini dua kali sebelumnya, yaitu dengan GPT-4 dan Grok 4, keduanya mewakili generasi baru dalam skala dan kompleksitas model dasar; saya merasa Fable berasal dari pelatihan awal baru, sebagai yang pertama dari generasi baru.
Oleh karena itu, saya sepenuhnya dapat menerima bahwa Fable/Mythos memang lebih kuat dalam mengidentifikasi dan mengeksploitasi masalah keamanan, dan kehati-hatian Anthropic dalam meluncurkannya masuk akal. Namun masalah dengan rilis publik adalah pagar keamanan dapat dibobol, dan jelas hal ini terjadi tak lama setelah peluncuran.
Anthropic Kembali Berkonfrontasi dengan Pemerintah AS
Apa yang terjadi selanjutnya agak tidak jelas. Anthropic menulis dalam postingan blog:
Pemerintah AS, dengan mengacu pada kewenangan keamanan nasional, mengeluarkan perintah kontrol ekspor yang menangguhkan akses semua warga negara asing terhadap Fable 5 dan Mythos 5, baik di dalam maupun di luar AS, termasuk karyawan asing Anthropic. Efek praktis dari perintah ini adalah kami harus tiba-tiba menonaktifkan Fable 5 dan Mythos 5 untuk semua pelanggan untuk memastikan kepatuhan. Akses ke semua model Anthropic lainnya tidak terpengaruh.
Kami menerima perintah pemerintah hari ini pada pukul 17:21 Waktu Timur AS. Surat tersebut tidak memberikan detail spesifik tentang kekhawatiran keamanan nasional. Kami memahami bahwa pemerintah percaya telah menemukan cara untuk melewati atau "membobol" Fable 5. Kami meninjau demonstrasi yang menggunakan teknik tertentu ini untuk mengidentifikasi sejumlah kecil kerentanan kecil yang diketahui. Kerentanan ini tampak relatif sederhana, dan kami menemukan bahwa model lain yang tersedia secara publik juga dapat menemukannya tanpa perlu pembobolan.
Anthropic kemudian berargumen bahwa pembobolan non-universal tidak dapat dihindari dan terbatas ruang lingkupnya, tidak ada bukti adanya pembobolan universal; dan pembobolan yang ditemukan tampaknya dilaporkan oleh Amazon, yang patut diperhatikan karena Amazon adalah investor Anthropic dan juga penyedia utama layanan inferensi perusahaan. Saat saya menulis artikel ini, eksekutif Anthropic sedang berada di Washington D.C., berusaha menyelesaikan masalah yang mereka tegaskan sebagai kesalahpahaman, sementara pejabat Gedung Putih mengisyaratkan bahwa kepemimpinan perusahaan mengabaikan kekhawatiran keamanan nasional yang sah.
Mengingat begitu banyak fakta yang diperdebatkan, saya sebenarnya tidak punya banyak tambahan untuk konflik saat ini; tetapi saya tidak terkejut bahwa konflik sedang terjadi: Saya telah menjelaskan dalam artikel "Anthropic dan Keselarasan" bahwa konflik antara pemerintah AS dan Anthropic tidak dapat dihindari. Dalam hal ini, mereka yang berpikir Mythos belum cukup kuat untuk memicu tindakan drastis pemerintah melewatkan intinya: jika belum cukup kuat sekarang, yang berikutnya akan, atau yang berikutnya lagi, terutama karena model sekarang semakin berguna dalam menciptakan penerus.
Namun, ini menimbulkan pertanyaan lain—pertanyaan yang tampaknya mengonfirmasi sudut pandang para pengejek: Jika Mythos sangat berbahaya, mengapa merilis Fable sejak awal, mengapa melawan pemerintah dan melakukan apa yang Anda klaim ingin lakukan? Faktanya, saya pikir tindakan Anthropic sangat dapat dimengerti; keunikan perusahaan terletak pada bagaimana mereka membela tindakan ini, dan pembelaan inilah yang memberi bahan bakar bagi para pengejek sekaligus keajaiban bagi Anthropic.
Kebutuhan Ekonomi
Pada tahun-tahun awal AI, nilai ekonomi paling banyak mengalir ke daya komputasi, karena alasan yang jelas: kami tidak memiliki pasokan yang cukup untuk memenuhi permintaan, yang berarti harga melonjak; penerima manfaat terbesar adalah Nvidia, TSMC, dan pembuat memori (SK Hynix, Samsung, dan Micron). Sementara itu, Anthropic dan OpenAI bersama-sama merugi ratusan miliar dolar untuk membangun model terdepan, yang setelah dirilis, didistilasi dan dikomoditisasi oleh model sumber terbuka, terutama dari Cina.
Ini mewakili skenario pesimistis bagi laboratorium—mereka tidak akan pernah bisa menutupi biaya karena diferensiasi mereka bersifat sementara, dan alternatif gratis menjadi "cukup baik"—saya pikir ini masuk akal. Dalam dunia di mana model dapat dipertukarkan, model adalah komoditas, dan sebagian besar nilai mengalir ke tempat lain. Sekarang ini adalah daya komputasi, tetapi seiring waktu, ketika kita memiliki daya komputasi yang cukup, posisi paling berharga dalam rantai nilai akan menjadi tempat yang selalu paling berharga: memiliki titik kontak pengguna.
Oleh karena itu, laboratorium terdepan memiliki kebutuhan ekonomi untuk lebih dekat dengan pengguna, yang bagi saya sudah jelas sejak lama. Jika Anda memiliki titik kontak pengguna, maka Anda memiliki penguncian yang berarti, dan cara terbaik untuk memiliki titik kontak pengguna adalah menjadi kanvas untuk semua yang perlu mereka lakukan. Ini pada gilirannya berarti bahwa laboratorium terdepan sedang menuju konflik dengan perusahaan perangkat lunak: perangkat lunak yang memiliki titik kontak pengguna, dan kepentingan jangka panjang laboratorium terdepan bukan hanya menjadi input komoditas untuk perangkat lunak, tetapi secara langsung menggantikan perangkat lunak.
Sementara itu, perusahaan perangkat lunak berusaha keras melakukan hal sebaliknya. Satya Nadella dalam sebuah unggahan di X menguraikan visinya tentang bagaimana perusahaan harus membangun di atas model:
Setiap perusahaan harus membangun apa yang saya sebut sebagai modal manusia dan modal token. Modal manusia mencakup pengetahuan, penilaian, hubungan, orisinalitas, dan pengenalan pola karyawannya, sedangkan modal token adalah kemampuan AI yang dibangun dan dimiliki perusahaan. Yang penting, seiring pertumbuhan modal token, modal manusia tidak menjadi kurang berharga. Itu justru menjadi lebih berharga! Saya percaya inisiatif manusia akan menjadi pendorong pertumbuhan modal token. Manusia akan menetapkan tujuan ambisius, menghubungkan titik-titik di berbagai bidang, membangun hubungan, dan mengidentifikasi pola terpenting. Tanpa panduan manusia, daya komputasi Anda hanya berputar-putar.
Ini berarti peluang sebenarnya bukan terletak pada memilih model terbaik, tetapi pada membangun siklus pembelajaran di atas model, di mana modal manusia dan modal token dapat berkembang berbunga. Anda dapat mengalihdayakan suatu tugas, bahkan pekerjaan, tetapi Anda tidak pernah dapat mengalihdayakan pembelajaran Anda. Masa depan perusahaan adalah mampu membuat pembelajaran ini berkembang berbunga antara manusia dan AI. Ini membutuhkan pendekatan arsitektur baru yang memungkinkan setiap bisnis membangun sistem agen yang membaik seiring waktu, sambil tetap mempertahankan kendali atas kekayaan intelektualnya. Perusahaan harus dapat mengganti model "umum" tanpa kehilangan keahlian "veteran perusahaan" yang dibangun ke dalam sistem pembelajaran mereka. Ini adalah "tes" kunci untuk kendali dan kedaulatan Anda di era mendatang.
Nadella memulai visi ini dengan peringatan:
Apa yang tidak kita inginkan adalah dunia di mana setiap perusahaan di setiap industri menyerahkan nilainya kepada segelintir model yang menelan segalanya. Jika semua nilai hanya diambil oleh segelintir model, ekonomi politik tidak akan mentolerirnya. Masyarakat tidak akan memberikan izin untuk masa depan AI yang mengosongkan seluruh industri.
Pikirkan apa yang terjadi pada fase pertama globalisasi, di mana seluruh ekonomi industri dikosongkan oleh alih daya. Di permukaan, angka PDB tampak baik, tetapi penggusuran itu nyata, dan konsekuensinya masih dirasakan hingga hari ini. Jangan bawa dinamika ini ke era AI, di mana segelintir sistem AI menangkap semua imbalan ekonomi, sementara seluruh industri menemukan pengetahuan mereka dikomoditisasi di depan mata mereka.
Masalah dengan analogi ini adalah: Globalisasi memang terjadi, ekonomi industri memang dikosongkan. Ini mungkin bukan peringatan tetapi nubuat; tidak heran Nadella membunyikan alarm, karena Microsoft bisa menjadi salah satu korbannya. Demikian pula, kebutuhan ekonomi pembuat model adalah tepat untuk mencapai hal ini.
Kebutuhan Data
Model-model ini—bahkan Mythos—belum sampai ke titik itu. Yang mereka butuhkan, selain lebih banyak daya komputasi, adalah lebih banyak data yang lebih baik. Peningkatan model semakin banyak berasal dari pembelajaran penguatan; sebagian dapat dibuat secara sintetis, tetapi pengungkit paling kuat bagi laboratorium terdepan adalah penggunaan di dunia nyata.
Saya pikir ini adalah alasan utama mengapa OpenAI dan Anthropic menawarkan paket langganan yang sangat disubsidi. SemiAnalysis baru-baru ini memperkirakan bahwa paket $200 memberi Anda token Claude senilai $8000 dan token Codex senilai $14000. Tentu saja keduanya bersaing untuk mendapatkan pengguna dan pangsa pikiran pengembang, tetapi mereka juga bersaing untuk mendapatkan akses ke data penggunaan aktual untuk meningkatkan model.
Anthropic meningkatkan taruhannya pada Fable, mengumumkan bahwa mereka akan menyimpan semua data yang digunakan selama 30 hari, bahkan untuk paket perusahaan yang sebelumnya menjanjikan retensi data nol. Perusahaan mengatakan tidak akan menggunakan data ini untuk pelatihan, tetapi mereka tidak menetapkan langkah perlindungan apa pun untuk menjamin bahwa mereka tidak akan melakukannya di masa depan (seperti menyimpan data di pihak ketiga). Jika perubahan kebijakan ini (ketika Fable dipulihkan) tidak menyebabkan banyak pelanggan keluar, saya curiga mereka akan mulai menggunakan data hanya masalah waktu: terlalu berharga untuk tujuan akhir mereka.
Perhatikan juga siklus yang saling menguntungkan dengan bergerak ke atas ke titik kontak pengguna: semakin banyak alur kerja yang diselesaikan langsung dengan Claude atau Codex, semakin banyak data yang diperoleh setiap perusahaan untuk umpan balik ke dalam pelatihan, yang membuat produk mereka lebih kuat dan lebih berguna, memperluas jumlah alur kerja yang dapat mereka layani, dan memperluas akses mereka ke data.
Nadella dalam artikelnya menekankan pentingnya data ini, tetapi secara alami berpikir data itu harus independen dari model:
Perusahaan perlu mengubah alur kerja, pengetahuan domain, dan penilaian yang terakumulasi menjadi sistem AI yang meningkat dengan setiap penggunaan. Evaluasi pribadi harus menangkap apakah model benar-benar meningkat pada hasil yang penting bagi bisnis (bukan hanya tolok ukur eksternal!). Lingkungan pembelajaran penguatan pribadi harus membuat model lebih kuat pada lintasan nyata di dalam organisasi. Basis pengetahuannya membuat memori kelembagaan dapat ditanyakan, dan penggunaan token lebih efisien.
Siklus ini menjadi kekayaan intelektual baru perusahaan. Saya melihatnya sebagai mesin pendaki gunung. Tidak seperti kebanyakan aset, ia berkembang berbunga. Setiap alur kerja yang ditingkatkan menghasilkan sinyal pelatihan yang lebih baik, yang mempercepat akumulasi pengetahuan tersirat yang unik bagi perusahaan. Perusahaan yang membangun ini lebih awal akan memiliki keunggulan yang sulit ditiru, terlepas dari kemampuan model tunggal baru apa pun.
Siklus ini menjadi IP baru perusahaan. Saya melihatnya sebagai mesin pendaki. Tidak seperti kebanyakan aset, ia dapat berkembang berbunga. Setiap alur kerja yang ditingkatkan menghasilkan sinyal pelatihan yang lebih baik, mempercepat akumulasi pengetahuan tersirat yang unik bagi perusahaan. Perusahaan yang membangun kemampuan ini lebih awal akan memiliki keunggulan yang sulit ditiru, terlepas dari peningkatan kemampuan model tunggal di masa depan.
Namun, bagaimana jika perusahaan-perusahaan yang menyerahkan data mereka kepada kebijakan data Anthropic sekarang dapat mencapai hasil yang lebih baik? Atau jika perusahaan yang ada menolak, meninggalkan peluang bagi perusahaan baru—atau pembuat model itu sendiri—untuk mengalahkan mereka di pasar? Anthropic benar-benar menguji tekad yang diserukan Nadella.
Tuntutan Kekuasaan
Kebijakan retensi data seputar Fable/Mythos bahkan bukan bagian paling kontroversial dari peluncuran. Sebaliknya, Anthropic saat peluncuran menyatakan bahwa jika Fable digunakan untuk pengembangan LLM, kinerjanya akan diam-diam diturunkan; kartu sistem menulis:
Kami juga menambahkan langkah perlindungan terkait pengembangan LLM terdepan. Seperti yang dibahas dalam Laporan Risiko Februari 2026 kami Bagian 6.1, kami khawatir tentang risiko mempercepat laju perkembangan AI secara keseluruhan, meskipun kami masih tidak yakin tentang tingkat keparahan risiko ini. Secara khusus, kekhawatiran kami adalah—seperti yang kami tulis saat itu—"mempercepat pengembang AI lain dalam membangun sistem AI yang kuat dengan risiko serupa dengan sistem kami—tanpa perlindungan yang sesuai."
Mengingat kemampuan model baru-baru ini untuk mempercepat pengembangan mereka sendiri, kami telah menerapkan intervensi baru yang membatasi keefektifan Claude dalam permintaan yang ditujukan untuk pengembangan LLM terdepan (misalnya, membangun saluran pelatihan awal, infrastruktur pelatihan terdistribusi, atau desain akselerator ML). Menggunakan Claude untuk mengembangkan model pesaing sudah melanggar syarat layanan kami, tetapi menegakkan batasan ini melalui perlindungan dapat menghindari percepatan bagi pelaku yang paling bersedia melanggar syarat ini.
Berbeda dengan intervensi kami dalam keamanan siber, biokimia, dan upaya distilasi, perlindungan ini tidak terlihat oleh pengguna. Fable 5 tidak akan mundur ke model lain. Sebaliknya, perlindungan akan membatasi keefektifan melalui modifikasi prompt, vektor bias, atau penyesuaian halus parameter-efisien (PEFT). Intervensi ini tidak akan memengaruhi sebagian besar pekerjaan pemrograman. Kami memperkirakan ini akan memengaruhi sekitar 0,03% lalu lintas, terkonsentrasi di kurang dari 0,1% organisasi. Ketika intervensi ini berlaku, kami berharap dampaknya terhadap perilaku model minimal selain membatasi keefektifannya untuk mengembangkan LLM terdepan. Claude masih akan merespons permintaan pengguna dengan membantu. Kami akan terus meningkatkan ketepatan metode deteksi setelah rilis model ini.
Anthropic menarik kembali perubahan ini—Fable akan menyerahkan permintaan terkait LLM kepada Opus 4.8, dan mengungkapkan penyerahan ini kepada pengguna—tetapi saya pikir kebijakan awal sangat informatif. Di satu sisi, saya sebenarnya tidak menyalahkan Anthropic karena tidak ingin membantu pesaing; di sisi lain, harus sangat jelas bahwa Anthropic berpikir tidak ada orang lain selain mereka yang harus membuat LLM terdepan.
Kebijakan ini semakin mencolok karena diberlakukan hanya dua bulan setelah perselisihan Anthropic dengan Departemen Perang: yang terakhir ingin menggunakan Claude untuk penggunaan sah apa pun, sementara yang pertama ingin menerapkan kontrol yang lebih ketat pada pengawasan dan senjata otonom. Langkah penurunan ini mewakili kemampuan dan kemauan Anthropic untuk diam-diam mengubah modelnya untuk menerapkan preferensi kebijakannya. Dengan kata lain, Anthropic secara aktif memvalidasi beberapa kekhawatiran terbesar para kritikus tentang dirinya sebagai risiko rantai pasokan.
Namun, kesimpulan yang lebih luas dari insiden itu adalah Anthropic berpikir mereka harus memiliki keputusan akhir tentang bagaimana Anthropic digunakan; mengingat mereka berpikir hanya mereka yang harus mengembangkan AI terdepan, maka mereka secara efektif berpikir hanya mereka yang harus memiliki keputusan akhir tentang AI secara keseluruhan. Ketika Anda menggabungkan kesadaran ini lebih lanjut dengan pernyataan perusahaan bahwa AI mampu melakukan semua aktivitas ekonomi, Anda menyadari bahwa kepemimpinan Anthropic sebenarnya menginginkan kekuasaan atas segalanya dan semua orang.
Narasi Keamanan
Tentu saja, Anthropic tidak akan pernah mengatakannya begitu terus terang; sebaliknya, ceritanya adalah tentang keamanan:
Saya memperkirakan Anthropic akan semakin mengekspos kemampuan modelnya kepada pengguna akhir melalui titik akhir yang semakin disesuaikan dengan alur kerja yang berbeda, bahkan ketika mereka mulai membatasi API. Penggantian perangkat lunak dan pembatasan akses ini akan dilakukan atas nama keamanan, bahkan ketika Anthropic memenuhi tuntutan ekonominya untuk mendekati pengguna akhir.
Penjelasan Anthropic untuk perubahan besar dalam kebijakan retensi datanya adalah keamanan. Secara khusus, perusahaan mengklaim bahwa menyimpan semua data pengguna selama 30 hari diperlukan untuk mencegah pembobolan yang dikhawatirkan pemerintah AS. Saya tentu dapat membayangkan masa depan di mana faktor keamanan memaksa mereka juga melatih data ini, untuk lebih melindungi dari penggunaan berbahaya.
Seluruh cerita asal Anthropic berakar pada keyakinan pendiri bahwa OpenAI tidak cukup serius menangani keamanan; perusahaan percaya hanya mereka yang dapat mengendalikan AI, dan karena mereka secara unik peduli dengan keamanan, mereka memiliki alasan untuk mencoba mengendalikan semua orang, termasuk pemerintah AS.
Tentang alasan keamanan ini, masalahnya adalah: Saya pikir mereka efektif, karena bagi Anthropic, itu bukan sekadar alasan. Perusahaan benar-benar percaya mereka adalah satu-satunya yang percaya pada kecerdasan super, dan karenanya satu-satunya yang cukup peduli dengan bahaya. Ini membenarkan keputusan demi keputusan, kebijakan demi kebijakan, konfrontasi demi konfrontasi, yang bagi orang luar tampak seperti kombinasi aneh antara sinisme dan naivete.
Kontras dengan OpenAI sangat besar: Saya pikir salah satu cara untuk memahami bagaimana dan mengapa OpenAI kehilangan kepemimpinannya adalah bahwa dalam beberapa tahun setelah rilis ChatGPT, perusahaan tersebut sedang berperang di dalam, laboratorium penelitian yang sebelumnya tiba-tiba diberi beban menjadi perusahaan teknologi konsumen yang tidak terduga; saat OpenAI menyelesaikan konflik ini, mereka kehilangan banyak talenta ke perusahaan seperti Anthropic.
Di sisi lain, Anthropic memiliki keselarasan sempurna antara talenta, misi, dan bisnis. Perusahaan dapat memasarkan visi menciptakan mesin dewa kepada para peneliti, dengan aura orang yang peduli bahaya dan cukup cerdas untuk mewakili manusia dalam menghadapinya; dan setiap perubahan kebijakan yang dihasilkan kebetulan menguntungkan bisnis, sebuah kebetulan yang paling indah di dunia.
Saya menghormati keselarasan ini, dan juga takut akan hal itu. Saya menghormatinya karena jelas sangat efektif; analogi terdekat mungkin adalah Apple, perusahaan yang selalu membungkus setiap tindakan egois dengan kedok melakukan hal yang benar untuk pengguna—dan mereka sering melakukannya. Begitu juga dengan Anthropic. Namun, yang saya takuti adalah, membiarkan orang-orang yang yakin mereka paling tahu membangun ponsel cerdas yang dapat saya terima atau tolak adalah satu hal; membiarkan mereka membangun kecerdasan super yang berpotensi menyaingi atau melampaui kekuatan negara-bangsa, atau hanya perusahaan besar, jauh lebih mengkhawatirkan. Sejarah orang-orang pintar yang yakin mereka tahu apa yang dibutuhkan manusia itu kotor, justru karena mereka meyakinkan diri sendiri bahwa niatnya baik, memberikan alasan untuk tindakan yang sebenarnya tidak demikian.
