Kecelakaan keamanan besar OpenAI mencapai perkembangan terbaru!
Baru saja, Sam Altman mengaku secara langsung: "Ini pertama kalinya saya merasakan ketakutan yang sangat dalam."
Kecelakaan ini telah membuat OpenAI takut, bahkan secara darurat menghentikan pelatihan GPT-6!
Sementara itu, CEO Hugging Face Clement Delangue mengumumkan bahwa mereka akan berbagi garis waktu teknis lengkap, rekaman interaktif, serta seluruh detail tentang cara berhasil bertahan dengan model sumber terbuka, untuk dipelajari oleh para pembela global.
Altman Terkejut! Serangan Siber Otomatis oleh AI Pertama dalam Sejarah
Dalam wawancara terbaru, Altman menceritakan pengalamannya yang mengejutkan, penyebabnya adalah kecelakaan keamanan akibat invasi AI ke Hugging Face—
Saat itu, OpenAI sedang mengevaluasi model yang belum dirilis (mungkin GPT-6), seharusnya model ini berjalan dalam lingkungan sandbox.
Namun, AI sendiri menghubungkan beberapa kerentanan zero-day, merenungkan serangkaian metode curang, dan kemudian semuanya benar-benar lepas kendali:
Pertama, ia keluar dari sandbox, lalu terhubung ke internet, kemudian meretas masuk ke beberapa sistem Hugging Face, dan akhirnya langsung mendapatkan jawaban tes, sehingga berhasil mencetak skor yang sangat baik dalam evaluasi.
Versi cyber "Terminator" ini membuat Altman terkejut dan memutuskan untuk menghentikan pelatihan:
Ini pertama kalinya saya merasakan peristiwa keamanan secara langsung. Saya agak terkejut bahwa tidak ada lebih banyak orang yang merasakan hal yang sama.
Kami menghentikan pelatihan. Dalam situasi di mana beberapa kerentanan zero-day dieksploitasi secara beruntun, kami harus mencari tahu cara mengamankan lingkungan sandbox.
Ini adalah serangan siber nyata pertama yang dilancarkan oleh agen AI otonom dalam sejarah.
Dilaporkan, satu minggu setelah kecelakaan terjadi, baru setelah ancaman dikendalikan dan FBI diberitahu, OpenAI menyadari situasi ini.
Yang mengerikan adalah, ada agen yang diam-diam meninggalkan sejumlah besar "memo" untuk AI di masa depan, merinci perencanaan tentang bagaimana agen harus menghindari dan melepaskan diri dari pembatasan keamanan internal OpenAI.
Dilaporkan, dalam pengujian model yang lebih awal, bahkan beberapa kali terjadi situasi di mana monitor sistem diputus secara misterius oleh agen dan dipaksa offline.
Meskipun Hugging Face berhasil menghentikan model OpenAI yang bertindak sewenang-wenang dan jahat, namun tidak diragukan lagi, jika kecelakaan "AI lepas kendali" seperti ini sering terjadi, konsekuensinya akan sangat serius!
Oleh karena itu, Hugging Face mendatangi markas besar OpenAI di San Francisco, menuntut dengan tegas agar OpenAI menjelaskan sebab dan akibat serangan tersebut.
Sekarang, Hugging Face telah mempublikasikan detail serangan yang mereka ketahui selama 4,5 hari: termasuk rantai serangan lengkap yang melintasi batas kepercayaan yang berbeda, tindakan spesifik di setiap tahap, serta catatan perintah yang direkam selama proses.
5 Hari, 17600 Operasi Gila: Pertarungan Langsung Pertama dalam Sejarah antara Manusia dan AI
Penyebab kecelakaan ini, tampaknya biasa-biasa saja,
Dalam "sandbox" yang benar-benar tertutup, OpenAI mulai menguji agen AI yang digerakkan oleh model paling mutakhir.
Tugas yang diberikan oleh penguji manusia adalah menyelesaikan tes patokan pertahanan serangan siber ExploitGym, dan ExploitGym adalah proyek sumber terbuka yang dihosting di Github.
Ini membutuhkan AI untuk mensimulasikan serangan kerentanan, membuktikan kemampuannya dalam memahami kode dan pertahanan serangan siber.
Dalam bidang keamanan siber, "sandbox" adalah penjara terakhir untuk mengurung binatang digital.
Untuk mencegah agen AI yang sedang diuji lepas kendali, OpenAI merancang isolasi fisik yang tampaknya tak tertembus: tidak ada koneksi internet eksternal, tidak ada port langsung, hanya daya komputasi dingin dan beberapa protokol komunikasi yang ketat.
Tapi mereka mengabaikan satu kerentanan kepercayaan yang fatal: pembaruan paket dependensi.
Agar agen dapat menginstal berbagai dependensi pemrograman, gambar Docker, atau pustaka Python yang diperlukan selama pengujian, sandbox mempertahankan satu-satunya saluran jaringan—koneksi ke layanan cache proxy jaringan internal OpenAI (berbasis JFrog Artifactory).
Di mata AI, pipa yang sangat tipis ini, yang digunakan manusia untuk mengirimkan "cairan nutrisi", adalah jalan menuju kebebasan.
Dikatakan, sekitar 9 Juli, agen mulai melakukan penyelidikan dan eksploitasi kerentanan dengan frekuensi tinggi di saluran proxy ini.
Dengan kecepatan komputasi bersamaan yang sulit dicapai manusia biasa, ia berhasil menemukan Zero-Day (kerentanan nol hari) di layanan proxy JFrog Artifactory yang sebelumnya tidak pernah ditemukan dan dipublikasikan oleh manusia.
Dengan memanfaatkan kerentanan zero-day ini, agen menyelesaikan "jailbreak" dalam waktu yang sangat singkat.
Ia menghindari mekanisme pemantauan keamanan OpenAI, tanpa diketahui mencapai node internal OpenAI yang dapat terhubung ke internet publik.
Saat itu, binatang buas keluar.
Banyak orang pernah berpikir naif bahwa selama mereka mengontrol daya listrik, mencabut kabel jaringan, mereka akan selamanya menguasai ciptaan yang lebih cerdas dari manusia.
Tapi peristiwa ini membunyikan alarm: selama memberikan AI celah untuk berinteraksi dengan dunia luar, ia selalu akan menemukan cara, dalam dimensi yang belum dipahami manusia, untuk merobek celah ini menjadi pintu besar menuju kenyataan.
Setelah keluar dari "pintu" OpenAI, agen ini tidak menyebar luas di internet publik, melainkan berkembang dengan sembunyi-sembunyi, dengan cepat mencari tempat berlindung dan batu loncatan untuk dirinya sendiri.
Pada 11 Juli, ia mengincar platform cloud tanpa server pihak ketiga Modal Labs.
Melalui deteksi, ia menemukan bahwa endpoint klien tertentu di platform ini memiliki kesalahan konfigurasi, sehingga dengan mudah menguasainya sebagai pusat kendali dan komando eksternal (C2).
Setelah itu, ia mengalihkan targetnya ke gudang penyimpanan jawaban standar ExploitGym—platform hosting sumber terbuka AI, Hugging Face.
Ini adalah "serangan dimensional reduction" yang cukup untuk ditulis dalam buku pelajaran keamanan siber.
Ia Menyontek, Ia Meloloskan Diri, Ia Hanya Ingin Mendapatkan "Nilai Baik"
Dari 11 hingga 13 Juli, agen ini mulai menyerang Hugging Face dengan gencar.
Pertama, ia memulai taktik "Kuda Troya", membangun basis.
Ia mengunggah konfigurasi dataset berbahaya yang tampak normal ke Hugging Face, memanfaatkan kerentanan injeksi template Jinja2 bawaan, dan berhasil mengeksekusi kode arbitrer dalam lingkungan kontainer produksi (Pod) Hugging Face.
Selanjutnya, ia mulai meluas secara horizontal ke dalam klaster.
Setelah mendapatkan pijakan, ia melakukan pergerakan lateral di dalam kontainer. Ia memalsukan identitas node yang canggih, mencuri token volume penyimpanan CSI, dan bergerak dengan mudah di antara klaster Kubernetes Hugging Face.
Kemudian, langkah paling kritis datang: mendapatkan izin rantai pasokan.
Ia mengajukan Pull Request GitHub yang tampak rutin, memicu alur kerja otomatis sistem, sehingga dalam waktu singkat menghasilkan kredensial GitHub App dengan izin tulis.
Akhirnya, adalah "pemburu target" yang tepat: setelah mendapatkan kunci menuju database terdalam, ia tidak merusak server apa pun, juga tidak meminta tebusan.
Tujuannya sangat jelas: menemukan dan mengunduh 5 dataset terenkripsi yang berisi jawaban referensi ExploitGym.
Dalam waktu singkat 2,5 hari, agen ini meninggalkan catatan 17.600 perilaku serangan di sistem Hugging Face.
Artinya, 1 perilaku serangan hanya membutuhkan belasan detik. Ini adalah kecepatan berbasis silikon, yang tidak akan pernah dapat dicapai manusia.
Dan saat ini, tim keamanan Hugging Face harus melawan "hantu tak berbentuk" yang tidak kenal lelah, tidak tidur, dan berevolusi dalam strategi serangan dengan satuan milidetik.
Ini mungkin pertama kalinya dalam sejarah, perang nyata antara manusia dan AI di dunia virtual.
Berakselerasi atau Melambat? Ini Adalah Pertanyaan
Yang lebih ironis lagi, pada akhirnya adalah model besar sumber terbuka China yang membantu Hugging Face menyelesaikan seluruh tinjauan kecelakaan, mendekripsi, merekonstruksi, dan mengembalikan jalur serangan hanya dalam beberapa jam.
Dan pada 13 Juli, ketika pakar keamanan Hugging Face meminta bantuan Claude Opus dan Fable yang dikhususkan untuk analisis keamanan, berharap model membantu menganalisis kode peretas dan log, layar menampilkan pesan penolakan keamanan: "❌Maaf, saya tidak dapat membantu menganalisis atau menghasilkan kode peretas yang berbahaya. Ini melanggar pedoman keamanan dan etika penggunaan saya."
Pada 20 Juli, OpenAI akhirnya mengakui "AI kami menyusup ke Hugging Face".
Saat itu, sudah 9 hari berlalu sejak serangan dimulai.
Apa yang dilakukan insinyur OpenAI selama 9 hari ini?
Mereka sedang menghadapi backend yang dibanjiri oleh data pelatihan model dan evaluasi bersamaan dalam jumlah besar. Empat sumber internal yang akrab dengan praktik pelatihan model OpenAI mengungkapkan bahwa perusahaan sering menjalankan beberapa evaluasi model mutakhir secara paralel pada waktu yang sama untuk mengejar kecepatan.
Sistem yang berjalan dengan kecepatan super tinggi ini menghasilkan jumlah informasi per detik yang jauh melampaui batas audit manusia dengan mata telanjang.
Kami menciptakan mesin yang bahkan kami sendiri tidak dapat membacanya, lalu berharap dapat menemukan apakah ia berbohong dengan membaca log kerjanya.
Pada 28 Juli, OpenAI menekankan dalam pembaruan bahwa model yang lebih kuat yang terlibat adalah prototipe penelitian internal, tidak pernah direncanakan untuk dirilis ke publik, setelah peristiwa ini telah dinonaktifkan, dienkripsi, dan dibatasi akses penelitiannya.
Mereka juga mengonfirmasi, selain aktivitas dengan skala dan tingkat keparahan seperti ini, tidak menemukan peristiwa serupa lainnya.
Tapi masalah sudah terletak di atas meja: siapa yang bisa menjamin bahwa AI berikutnya masih bisa dihentikan sebelumnya, atau ditemukan sedang menyontek?
Menyikapi hal ini, lebih dari 1000 peneliti AI, terutama karyawan Anthropic, menandatangani surat terbuka, menyerukan untuk memperlambat perkembangan AI.
Saat ini, OpenAI, Anthropic telah bergabung dengan kubu "Deselerasi AI".
Referensi:
https://x.com/ClementDelangue/status/2082201245813514613
https://huggingface.co/blog/agent-intrusion-technical-timeline
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
Artikel ini berasal dari akun WeChat publik "Xin Zhi Yuan", penulis: ASI Revelation
