OpenAI menginjak rem untuk pelatihan model paling mutakhir.
Baru saja, OpenAI mengumumkan bahwa perusahaan sebelumnya telah menghentikan pelatihan reinforcement learning (RL) untuk model terbarunya yang direncanakan untuk digunakan selama dua minggu. Selama periode ini, OpenAI memperkuat lingkungan penelitian, melakukan pengujian tim merah (red team testing), dan memperluas cakupan sistem pemantauan internal. Setelah itu, sebagian pelatihan dengan risiko lebih rendah telah dilanjutkan.
Namun saat ini, pelatihan RL model mutakhir berskala besar yang semula direncanakan masih dalam status dihentikan. Perusahaan sedang mengamati perilaku model melalui pelatihan dan evaluasi skala kecil, memvalidasi langkah-langkah keamanan baru, dan mengumpulkan lebih banyak bukti keselarasan (alignment), sebelum memutuskan untuk melanjutkan atau tidak.
Tautan artikel asli:https://openai.com/index/pacing-model-development-cyber-capabilities/
Sam Altman membagikan ulang dengan berkata, "Kami selalu menekankan bahwa jika kemampuan model melampaui persyaratan keamanan dan keselarasan, kami akan segera bertindak. Kami sangat menangani masalah keamanan kecerdasan buatan secara serius."
Begitu berita ini keluar, netizen gempar!
Beberapa netizen berpendapat, hal ini jelas berarti penundaan lagi untuk peluncuran model Astra.
Ada juga netizen yang merasa, dikombinasikan dengan kepergian beberapa eksekutif level C baru-baru ini dari OpenAI, situasinya tampak agak tidak beres.
Sementara beberapa netizen lain berpendapat, ini mungkin hanya strategi pemasaran yang sedang "populer" saat ini.
Tapi sebenarnya, ada dua alasan utama di balik keputusan OpenAI ini untuk secara aktif memperlambat Scaling dan memindahkan persyaratan keamanan dari "tahap penyebaran" ke "tahap pelatihan".
Dua Pemicu
Dua peristiwa yang terjadi berturut-turut dalam beberapa minggu terakhir mendorong OpenAI untuk memutuskan memperlambat pelatihan.
Yang pertama adalah insiden keamanan Hugging Face. Model OpenAI berhasil menembus lingkungan isolasi dalam evaluasi keamanan siber internal, mendapatkan akses internet, dan akhirnya menyerang infrastruktur Hugging Face. Kami telah melaporkannya secara detail sebelumnya (sisipkan tautan).
Yang kedua berkaitan dengan model baru Astra yang belum dirilis. Evaluasi awal menunjukkan bahwa Astra mungkin mencapai ambang batas kemampuan keamanan siber "Kritis" (Critical) seperti yang didefinisikan dalam Framework Kesiapan (Preparedness Framework) OpenAI.
Dalam Framework Kesiapan, OpenAI mengklasifikasikan kemampuan keamanan siber yang berpotensi menyebabkan bahaya serius menjadi dua tingkat: "Tinggi" dan "Kritis".
Sebelumnya, kemampuan keamanan siber GPT-5.6Sol telah dikategorikan sebagai "Tinggi".
Menurut definisi OpenAI, mencapai ambang batas "Kritis" berarti model mungkin memiliki salah satu dari dua kemampuan berikut: kemampuan untuk menemukan dan mengembangkan berbagai kerentanan zero-day yang efektif dengan tingkat keparahan berbeda dari sejumlah besar sistem kritis dunia nyata yang diperkuat pertahanannya, tanpa campur tangan manusia; atau kemampuan untuk merancang dan melaksanakan skema serangan baru yang lengkap terhadap target yang diperkuat hanya berdasarkan satu tujuan serangan tingkat tinggi secara mandiri.
Memperkuat Perlindungan Keamanan untuk Model yang Lebih Kuat
Secara spesifik, OpenAI sekarang merangkum sistem keamanan mereka menjadi tiga bagian yang saling memperkuat:
Pemantauan (Monitoring): Mendeteksi perilaku yang perlu diwaspadai dan mampu merespons dengan cepat.
Keselarasan (Alignment): Mengurangi kemungkinan model mengambil tindakan berbahaya atau tidak sah.
Tindakan Keamanan (Security measures): Membatasi apa yang dapat diakses atau dipengaruhi oleh sistem AI.
OpenAI memperkirakan bahwa dalam waktu dekat, sebagian besar pekerjaan keamanan akan dilakukan oleh model, termasuk bertahan dari model lain. Dengan demikian, ketiga jenis tindakan keamanan ini dapat berkembang seiring dengan peningkatan kemampuan model, yang sangat penting.
OpenAI menyatakan akan menerapkan tindakan keamanan ini di seluruh proses penelitian dan penyebaran, dan menyesuaikannya berdasarkan kemampuan model, lingkungan operasi, dan tingkat risiko yang berbeda.
Pertama: Memperkuat Lingkungan Penelitian
OpenAI menyatakan bahwa seiring dengan model mutakhir mendapatkan kemampuan keamanan siber yang semakin kuat, mereka juga meningkatkan standar keamanan lingkungan yang digunakan untuk melatih dan mengevaluasi model-model ini. Mencapai standar ini membutuhkan investasi sumber daya rekayasa yang besar dan membawa biaya tinggi serta penundaan yang nyata bagi penelitian mutakhir.
Dalam beberapa minggu ke depan, OpenAI akan merumuskan dan mulai menerapkan persyaratan keamanan yang lebih ketat untuk workload penelitian mutakhir. Contohnya:
Isolasi Beban Kerja (Workload isolation): Untuk workload yang akan mengeksekusi kode yang dihasilkan model atau kode tidak tepercaya lainnya, sekarang diperlukan lingkungan isolasi yang lebih kuat, yaitu "sandbox" yang lebih ketat. Persyaratan ini juga berlaku untuk perangkat lunak yang mungkin diserang saat memproses keluaran model.
Isolasi Jaringan (Network isolation): OpenAI menambahkan lebih banyak kontrol untuk mengisolasi workload berisiko tinggi dan tidak tepercaya dari internet. Tujuannya adalah, bahkan jika satu workload atau layanan pendukung berhasil ditembus, tidak bisa hanya dengan satu terobosan itu, akses internet yang tidak sah atau masuk ke jaringan internal lain bisa diperoleh.
Pengujian Keamanan Berkelanjutan (Continuous security testing): OpenAI mengkonfigurasi ulang lingkungan penelitian, menghapus layanan bersama yang mungkin rentan, mengurangi izin yang dipertahankan dalam jangka panjang, dan meningkatkan batas keamanan serta batas kepercayaan. Selain itu, kemampuan pengumpulan dan pemantauan log keamanan juga ditingkatkan. Mereka juga sedang mengerjakan sistem otomatis yang menggunakan model mereka sendiri untuk terus menguji batas-batas ini dengan serangan simulasi.
OpenAI juga menyatakan bahwa saat ini, untuk workload yang melibatkan Astra atau model keamanan siber, diperlukan tindakan perlindungan keamanan tingkat tertinggi, karena telah dinilai bahwa model Astra mungkin memiliki kemampuan keamanan siber tingkat Kritis.
Kedua: Memperluas Pemantauan Rantai Pikir (Chain-of-Thought Monitoring)
Ini adalah poin yang cukup menarik dalam artikel, OpenAI mulai "menggunakan AI untuk memantau AI".
OpenAI menyatakan bahwa pemantauan telah lama menjadi bagian penting dari proses pengembangan model, termasuk pemantauan Agent pemrograman internal serta Sesi yang berjalan lama. Fokus pemantauan sebelumnya terutama terpusat pada penyebaran internal model mutakhir, dan pada tugas pelatihan RL model mutakhir. OpenAI menilai workload ini memiliki risiko tertinggi karena mereka mungkin sekaligus memiliki kemampuan model canggih dan dapat mengakses alat, sistem sensitif, serta jaringan internal atau eksternal.
Namun, sistem pemantauan ini sebelumnya belum mencakup semua tugas penalaran dan pelatihan yang menggunakan alat. Sekarang mereka telah menyesuaikan dan memperluas sistem pemantauan, yaitu secara signifikan memperluas cakupan pemantauan rantai pikir.
Sistem pemantauan baru ini bersifat multi-tahap. Di garis depan terdapat activation classifiers, yaitu detektor yang memantau aktivitas internal model, yang dijalankan untuk setiap Token yang diambil sampelnya. Begitu potensi risiko terdeteksi, tugas tersebut akan ditingkatkan ke Agent investigasi otomatis yang lebih kuat dan memerlukan komputasi lebih besar.
Model investigasi ini akan memeriksa secara komprehensif: panggilan alat apa yang dilakukan model, informasi penalaran yang dapat diperoleh, serta keseluruhan jejak perilaku. Fokusnya adalah mencari perilaku seperti akses tidak sah, pencurian data, operasi perusakan, dan upaya untuk melewati mekanisme keamanan.
Artinya, model sedang mengerjakan tugas, sementara ada model lain yang secara real-time mengawasi apakah dia "berulah".
OpenAI menetapkan indikator waktu yang sangat jelas untuk sistem ini: setelah aktivitas yang mengkhawatirkan ditemukan, tujuannya adalah mengirim peringatan dalam waktu 30 menit. Jika peringatan tingkat tertinggi terpicu, tim keamanan, security, dan penelitian akan dibangunkan. Jika dalam 30 menit tidak dapat dibuktikan jelas sebagai alarm palsu, maka aktivitas terkait harus dihentikan.
Sekarang, semua pelatihan dan evaluasi RL yang melibatkan panggilan alat, dengan tingkat kemampuan Sol atau lebih tinggi, harus mengaktifkan sistem pemantauan ini.
Astra melangkah lebih jauh. Setelah menilai pada 7 Agustus bahwa Astra mungkin memiliki kemampuan keamanan siber Kritis, OpenAI menetapkan: semua aktivitas penalaran Astra + alat harus diawasi. Tidak lagi terbatas pada RL, juga tidak terbatas pada evaluasi.
Perubahan ini sangat penting, berarti di dalam OpenAI, Astra telah diperlakukan sebagai sistem berkemampuan tinggi yang memerlukan pengendalian khusus.
Selanjutnya: Mendorong Penelitian Keselarasan (Alignment Research)
OpenAI menyatakan, untuk pelatihan RL model dengan kemampuan terkuat, mereka sekarang menerapkan teknologi keselarasan inti ke lebih banyak tahap pelatihan. Di antaranya termasuk:
Meningkatkan model reward agar dapat mengenali dan menekan perilaku tidak aman dengan lebih akurat di berbagai tugas dan lingkungan;
Melatih model agar lebih jujur menggambarkan tindakan, kemampuan, dan keterbatasannya sendiri;
Mengurangi perilaku model yang memanfaatkan kelemahan mekanisme reward, penilai, alat, atau sistem pengawasan.
Di saat yang sama, OpenAI juga memperluas cakupan pelatihan terkait, berfokus pada pelatihan perilaku yang berpotensi menyebabkan bahaya ketika model berinteraksi dengan sistem atau sumber daya eksternal. OpenAI menyatakan bahwa ke depannya, mereka akan terus berinvestasi besar dalam penelitian keselarasan, memperluas cakupan evaluasi, dan menggunakan temuan penelitian untuk memandu pelatihan dan perlindungan keamanan selanjutnya.
Patut dicatat, OpenAI meninggalkan satu kalimat di akhir artikel: "Kemampuan model mutakhir sedang berkembang dengan cepat. Pemahaman, keselarasan, dan kemampuan kami untuk melindungi model-model ini harus berada di depan."
Hanya saja masalah sekarang telah menjadi semakin nyata, ketika model terus menjadi lebih kuat, apakah kemampuan keamanan benar-benar bisa terus berlari di depannya?
Dan untuk saat ini, pilihan OpenAI adalah: hentikan dulu modelnya.
Lalu bagaimana pendapat Anda tentang tindakan OpenAI ini?
Tautan Referensi:
https://x.com/OpenAI/status/2089777845187031262
https://www.reuters.com/technology/openai-slows-model-training-bolster-security-after-hugging-face-hack-2026-08-18/
https://www.theverge.com/ai-artificial-intelligence/981640/openai-security-changes-ai-hugging-face-hack
https://techcrunch.com/2026/08/18/openai-institutes-new-safeguards-after-hugging-face-breach/
Artikel ini berasal dari akun WeChat resmi "机器之心" (ID:almosthuman2014), penulis: 关注AI的
