Oleh: Jin Duan
Jumat lalu, sepucuk surat membuat dua AI paling kuat di dunia offline secara bersamaan. Perintah kontrol ekspor dari Departemen Perdagangan AS: larangan bagi warga negara asing mana pun untuk mengakses model Fable 5 dan Mythos 5 milik Anthropic. Karena tidak dapat mengidentifikasi kewarganegaraan pengguna secara real-time, Anthropic melakukan satu-satunya hal yang bisa dilakukan: menutup kedua model yang baru dirilis tiga hari itu untuk semua orang di seluruh dunia.
Untuk pertama kalinya dalam sejarah manusia, suatu entitas kecerdasan yang berbentuk bit dimasukkan ke dalam kerangka kontrol ekspor yang sama dengan uranium yang dipekatkan.
Skrip Uranium yang Dipekatkan, Sedang Terulang
Masalah kontrol ekspor ini, dalam sejarahnya hanya diterapkan pada dua jenis benda: perangkat keras dan formula. Seperti yang kita tahu: sentrifugal uranium pekat, mesin litografi canggih, algoritma enkripsi tingkat militer, dan sebagainya.
Kesamaan mereka adalah kelangkaan fisik. Tanpa memberikan peralatan, tanpa memberikan cetak biru, Anda tidak bisa membuatnya. Kontrol efektif karena benda yang dikontrol memiliki batas fisik, dapat dicegat di bea cukai, dapat dilacak di rantai pasokan.
Tapi Fable 5 adalah sekumpulan parameter bobot. Ia dapat disalin tanpa batas, tidak melalui bea cukai, tidak memerlukan kontainer, tidak ada tindakan fisik "penyelundupan". Secara teori, ia dapat bangkit di server mana pun di dunia. Departemen Perdagangan AS menemukan semua alat tradisional tidak berfungsi, mereka tidak dapat menghentikan Fable 5 di perbatasan, hanya bisa mematikannya dari sumbernya.
Objek yang benar-benar dikontrol adalah "kepadatan kemampuan" yang terkumpul dalam kumpulan parameter bobot ini: kemampuan menghasilkan kode, kemampuan perencanaan penalaran, kemampuan memanggil pengetahuan lintas bidang. Kemampuan-kemampuan ini, ketika tersebar di otak banyak insinyur, tidak pernah memicu kontrol. Tapi ketika mereka dikompresi ke dalam satu model, ketika satu orang dapat memanggil semua kemampuan ini dengan satu perintah prompt, kompresi itu sendiri sudah menjadi ancaman.
Ini adalah pemetaan tepat logika uranium yang dipekatkan ke dunia digital.
Bijih uranium tersebar di kerak bumi, tidak pernah dikontrol; tetapi ketika ia dipekatkan hingga tingkat kemurnian tertentu, ia menjadi materi yang paling diawasi ketat di bumi. Model AI serupa: kemampuan tunggal yang tersebar di repositori kode sumber terbuka, tanya jawab teknis, dan makalah akademis, adalah bebas. Ketika semua kemampuan ini "dipekatkan" ke dalam antarmuka yang dapat dipanggil dari satu titik, ia melintasi ambang batas, dan konsekuensi melintasi ambang batas itu adalah dimatikan.
Sejarah uranium yang dipekatkan menyediakan cermin untuk memahami hal ini.
1938, Hahn dan Strassmann menemukan fisi nuklir di Berlin. Sepuluh tahun kemudian, uranium berubah dari elemen laboratorium yang samar menjadi bahan strategis paling sensitif di bumi. 1946, AS mengesahkan "Atomic Energy Act", memasukkan semua teknologi nuklir, material nuklir, pengetahuan nuklir ke dalam kontrol pemerintah. Modal swasta diusir dari bidang tenaga nuklir, pertukaran internasional ilmuwan diputus, bahkan data fisika dasar dikategorikan rahasia. Sebuah elemen alam murni, sejak itu dibelenggu oleh politik.
Kontrol delapan puluh tahun lalu didasarkan pada logika dingin: beberapa kekuatan terlalu kuat untuk dikuasai oleh entitas mana pun yang tidak mempertimbangkan kepentingan nasional sebagai tujuan akhir. Delapan puluh tahun kemudian, logika yang sama mungkin diaktifkan kembali, targetnya beralih dari fisi inti atom, menjadi propagasi maju jaringan saraf.
Tiga Hal Akan Terjadi Dalam Satu Dekade Mendatang
Kontrol uranium yang dipekatkan pada 1950-an melahirkan struktur tata kelola internasional yang sama sekali baru: Badan Tenaga Atom Internasional, Perjanjian Non-Proliferasi Nuklir, Kelompok Negara Pemasok. Begitu kontrol teknologi ditetapkan, ia akan berjalan secara ireversibel menuju institusionalisasi, multilateralisasi, permanen.
AI tidak akan terkecuali. Dalam satu dekade mendatang, kemungkinan besar tiga hal akan terjadi.
1. Audit Kemampuan Akan Menuju Kelembagaan.
Setiap model terdepan baru sebelum dirilis, tidak hanya akan menerima pengujian tim merah keamanan, tetapi juga audit kepatuhan pihak ketiga yang diberi wewenang pemerintah. Standar audit tidak akan berasal dari internal perusahaan.
Penilaian kemampuan model, akan berubah dari "skor" menjadi "daftar". Setiap kemampuan di daftar yang berpotensi disalahgunakan, akan memicu persyaratan kontrol tambahan. "Tingkat pemekatan" model—volume parameter, kedalaman penalaran, kemampuan generalisasi lintas bidang—akan diukur secara presisi seperti konsentrasi U-235 dan ambang batas akan ditetapkan. Model yang melebihi ambang batas tertentu, secara otomatis memicu klausul kontrol ekspor.
2. Batas Yurisdiksi Akan Menuju Kabur.
Perintah untuk Fable 5 menargetkan "warga negara asing", terlepas dari lokasi geografis mereka. Kaki tangan kontrol pemerintah AS, untuk pertama kalinya merambah ke setiap pengguna global.
Seorang pengembang di Singapura, menggunakan API perusahaan AS, tunduk pada hukum kontrol ekspor AS. Sebuah perusahaan di Berlin, kewajiban kepatuhan pemasok AI-nya tidak ditentukan oleh hukum Jerman, tetapi oleh sepucuk perintah Departemen Perdagangan AS.
Ekspansi sepihak yurisdiksi semacam ini, akan memaksa perusahaan non-AS memikirkan ulang rantai pasokan AI mereka: pemasok AS yang Anda andalkan, mungkin suatu hari diminta oleh pemerintah AS untuk memutus akses Anda. Peristiwa Fable 5 memberi jawaban yang jelas: Bisa.
3. Jalur Teknologi Akan Menuju Pemisahan.
Ketika model terdepan sumber tertutup menghadapi risiko pemutusan berulang, industri AI global akan terpaksa menuju sistem dua jalur.
Satu jalur adalah model terdepan sumber tertutup AS, dikendalikan oleh kontrol ekspor, setiap rilis disertai risiko penarikan. Jalur lain adalah model sumber terbuka, model yang dijalankan secara lokal, model di bawah yurisdiksi non-AS, mungkin tidak secanggih yang pertama, tetapi tidak terancam pemutusan oleh pemerintah AS.
Bagian pasar model sumber terbuka, tidak hanya akan didorong oleh kinerja, tetapi oleh atribut keamanan "tidak akan dimatikan". Tiga tahun terakhir, model sumber terbuka terus mengejar kemampuan model sumber tertutup; satu dekade mendatang, model sumber terbuka mungkin membentuk keunggulan struktural atas model sumber tertutup dalam dimensi "keandalan".
Retakan Terdalam, Ada Pada Sistem Hak Milik
Semua proyeksi di atas, dibangun di atas pertanyaan dasar yang belum terjawab. Krisis terdalam yang terungkap oleh peristiwa Fable 5 adalah peradaban digital hingga kini belum membangun sistem hak milik untuk "kecerdasan".
Secara hukum, model diperlakukan sebagai layanan yang dijual. Anda membayar, saya menggunakan aset saya untuk melakukan pekerjaan untuk Anda. Aset saya tetap milik saya, yang Anda beli hanyalah hasilnya. Logika ini telah bekerja ribuan tahun di industri layanan tradisional, tidak pernah bermasalah.
Tapi AI berbeda. Ketika perusahaan Anda menghabiskan tiga bulan waktu, menyempurnakan semua alat internal berdasarkan pola perilaku spesifik Fable 5, melatih karyawan, menulis ratusan skrip otomatisasi yang bergantung pada format keluaran spesifik model itu, pada kenyataannya Anda telah mengubah Fable 5 menjadi alat produksi Anda.
Tapi secara hukum, ia tetap merupakan layanan Anthropic. Ia dapat ditarik kembali suatu hari, kompensasi yang Anda dapatkan, tidak melebihi biaya langganan yang Anda bayarkan bulan lalu.
Anda mengeluarkan investasi alat produksi nyata, mendapatkan perlindungan hukum tingkat layanan. Kesenjangan antara keduanya, adalah kerugian yang diderita oleh semua klien perusahaan di seluruh dunia ketika Fable 5 diturunkan. Kerugian ini tidak muncul di neraca keuangan mana pun, tidak memicu klaim asuransi, tidak ada ketentuan hukum yang dapat menjangkau.
Manusia menghabiskan tiga ratus tahun membangun sistem hukum tentang "kepemilikan". Sepetak tanah, sebuah pabrik, sebuah paten, semuanya memiliki aturan kepemilikan yang jelas, aturan transaksi, dan mekanisme arbitrase sengketa. Tapi sistem ini memiliki prasyarat default: properti itu berwujud, atau setidaknya memiliki pembawa yang dapat dilacak.
Sebuah model dimatikan, Anda tidak bisa berbuat apa-apa. Ia tidak dicuri, juga tidak dihancurkan. Ia masih ada, hanya tidak boleh Anda gunakan. Ini adalah bentuk perampasan baru: yang dirampas bukan benda, tetapi hak penggunaan. Dan hak penggunaan secara hukum, tidak pernah menjadi milik Anda.
Uranium yang dipekatkan telah dikontrol delapan puluh tahun, hingga kini tetap aset teknologi paling sensitif manusia. Kontrol AI baru saja dimulai, titik akhirnya, mungkin adalah dunia digital yang terbelah permanen. Di dunia ini, model terpintar belum tentu model yang bisa digunakan. Model yang bisa digunakan, pasti model dengan hak milik paling jelas. Tidak direbut, pada titik sejarah tertentu, jauh lebih penting daripada sementara memimpin.
