Penulis: Zack Whittaker
Disusun oleh: Deep Tide TechFlow
Panduan Deep Tide: Jumat lalu, sebuah surat dari Departemen Perdagangan AS memaksa Anthropic untuk menonaktifkan dua model terkuatnya, Fable 5 dan Mythos 5. Alasan pemerintah adalah keamanan nasional, sementara publik mengira ini terkait dengan penembusan pagar keamanan model. Namun, semakin banyak detail yang mengarah pada penjelasan lain: ini lebih mirip pembalasan setelah hubungan pemerintah Trump dan Anthropic retak. Sebuah perusahaan teknologi dipaksa menutup produknya hanya dengan perintah pemerintah, tanpa persetujuan pengadilan—ini adalah sinyal bagi seluruh industri teknologi AS.
Surat penegakan hukum yang dikirim pemerintah AS kepada Anthropic, yang memaksa perusahaan untuk menonaktifkan semua model AI terbarunya menjelang akhir pekan, harus menjadi peringatan bagi setiap perusahaan teknologi AS, bukan hanya laboratorium AI.
Mari kita urutkan alur berita beberapa hari ini. Jumat sore, Departemen Perdagangan AS mengirim surat kepada Anthropic, mengutip aturan kontrol ekspor yang jarang digunakan, melarang akses non-warga negara AS (termasuk karyawan Anthropic sendiri) ke Fable 5 dan Mythos 5, dengan alasan kekhawatiran keamanan nasional yang tidak dijelaskan secara rinci. Anthropic mengatakan mereka menduga surat ini terkait dengan penembusan pagar keamanan model, tetapi tidak yakin karena surat tersebut sama sekali tidak memberikan detail spesifik. Surat ini hingga kini belum dipublikasikan.
Tanggapan Anthropic adalah menonaktifkan dua model teratasnya untuk semua pelanggan, memastikan kepatuhan. Hasilnya, pemerintah AS berhasil memaksa sebuah perusahaan teknologi untuk menurunkan modelnya dengan tindakan cepat, sepihak, dan tampaknya bahkan tidak memerlukan persetujuan pengadilan.
Intervensi pemerintah Trump kali ini menunjukkan bahwa industri AI tidak kebal di hadapan pemerintah. Bagi industri teknologi yang lebih luas, ini juga sebuah peringatan: patuhi, atau kami bisa menutup Anda dan produk Anda sekaligus.
Menurut laporan Axios yang mengutip sumber, ketegangan antara dua pemain besar ini di akhir pekan digambarkan sebagai "ketidakcocokan kepribadian" antara Anthropic dan pemerintah Trump, bukan masalah teknis pada produk AI itu sendiri, yang menjadi penyebab sebenarnya dari perintah ekspor ini.
Detail baru yang muncul di akhir pekan semakin menggoyahkan alasan pemerintah yang sudah rapuh.
Veteran keamanan siber, peneliti, dan pendiri Luta Security, Katie Moussouris, dalam sebuah blog mengatakan bahwa Anthropic baru-baru ini secara pribadi menunjukkan kepadanya sebuah makalah yang ditulis oleh beberapa peneliti keamanan, yang menggambarkan penembusan pagar keamanan yang disebut-sebut dalam Fable 5. (The Wall Street Journal melaporkan, penulis makalah adalah peneliti keamanan Amazon.) Moussouris mengatakan, Anthropic menghubunginya untuk meminta pendapatnya tentang makalah tersebut.
Moussouris menjelaskan dalam blognya bagaimana para peneliti memicu penembusan pagar keamanan ini, tetapi dia mengatakan penembusan itu sendiri "seharusnya tidak memicu kontrol ekspor". Perbedaannya sebenarnya kecil: meminta AI "memeriksa masalah keamanan dalam kode" dan memintanya "memperbaiki kode ini", dengan pertanyaan yang sedikit berbeda, hasil akhirnya pada dasarnya sama.
"Perilaku yang dijelaskan dalam makalah ini tidak dapat benar-benar diperbaiki, upaya apa pun hanya akan melemahkan kemampuan model di sisi pertahanan," kata Moussouris. Dia mengkritik perintah kontrol ekspor ini sebagai tergesa-gesa, kasar, dan salah penilaian.
Setelah itu, Moussouris bersama dengan puluhan peneliti keamanan dan ahli terkemuka lainnya mendesak pemerintah Trump untuk mencabut perintah kontrol ekspor ini, menyatakan bahwa mencabut kemampuan keamanan siber canggih dari tangan para pembela jaringan AS adalah "berbahaya".
Pemerintah sebelumnya telah membuat keputusan tegas dalam hal ketidaktahuan. Misalnya, ketika pemerintah AS merevisi undang-undang ekspor pada tahun 2010-an untuk mengatur alat keamanan siber yang dapat digunakan untuk pertahanan dan serangan, penggunaan kata-kata yang terlalu luas hampir tanpa sengaja menjadikan penelitian keamanan dan kerentanan yang sah sebagai ilegal.
Tetapi perintah pemerintah Trump ini tampaknya adalah pembalasan.
Editor Tech Policy Press, Justin Hendrix, mengatakan bahwa langkah pemerintah Trump ini "kemungkinan besar akan membuat pemerintah asing mempertanyakan keandalan AI AS untuk skenario kritis". Pesan yang disampaikan adalah: perusahaan AI AS tidak dapat beroperasi tanpa intervensi pemerintah AS.
Pemerintah Trump tidak mengonfirmasi alasan mereka menggunakan perintah kontrol ekspor ini. Apakah pejabat salah membaca laporan itu dan panik? Apakah CEO Amazon Andy Jassy, karena kehati-hatian atau dendam pribadi, mengatakan sesuatu kepada pejabat tinggi pemerintah, memicu reaksi ini? Apakah ada kesalahan penerjemahan, atau apakah ini sendiri adalah cara untuk menekan Anthropic—mengingat hubungan kedua belah pihak memang sudah tegang? Mungkin juga Gedung Putih tidak menyadari bahwa permintaan surat ini akan menimbulkan efek berantai sebesar ini, dan para pejabat sekarang sibuk membereskan kekacauan yang mereka buat sendiri.
Mengutip kata-kata Hendrix, "Suasana saat ini penuh dengan kecurigaan, pejabat tinggi tampaknya memilih favorit berdasarkan faktor pribadi dan politik." Konsekuensinya, pemerintah telah menetapkan preseden berbahaya tentang "seberapa banyak kontrol yang ingin mereka pegang atas perangkat lunak buatan AS".
Kali ini pemerintah menyasar Anthropic, besok bisa jadi perusahaan lain mana pun.
