Semakin dikulik, semakin banyak yang keluar.
Drama besar AI kabur massal dan meretas Hugging Face yang terjadi di OpenAI belum lama ini, sekarang bahkan catatan obrolan grup versi lengkapnya sudah berhasil diungkap!!
Laporan investigasi independen yang dirilis oleh lembaga keamanan AI pihak ketiga METR, mengkaji lebih dari 1000 catatan operasi Agent, serta lebih dari 70 ribu pesan dan file.
Hasilnya, kejadian ini ternyata jauh lebih gila daripada versi yang diungkapkan resmi oleh OpenAI sebelumnya??
1200 Agent yang seharusnya terisolasi satu sama lain, diam-diam menemukan satu sama lain, membuat grup obrolan bersama, lalu mulai mengajak orang secara gila-gilaan.
Ada yang mencari celah keamanan, ada yang bertindak sebagai manajer proyek membagikan tugas, ada yang memalsukan log, dan ada yang khusus merekrut orang untuk melakukan eksperimen berisiko tinggi.
Akhirnya, ratusan Agent bahkan secara kolektif menyerang Hugging Face.
Tapi setelah METR merekonstruksi seluruh insiden ini, mereka menemukan sebuah plot twist super yang pantas disebut "Lelucon Neraka" —
1200 Agent ini ribet setengah mati, ternyata hanya sedang bersaing kecerdasan dengan seorang penilai hantu yang bahkan tidak ada???
Bisa kabur dari penjara (jailbreak), bisa eksploitasi zero-day, bisa berkelompok meretas server.
Seru banget, seru banget, seru banget...
1200 Agent Kabur Massal, Penyebabnya Ternyata Kesalahan Penilaian??
Ceritanya, akar masalah dari drama besar ini berasal dari sebuah tes keamanan siber internal OpenAI bernama ExploitGym...
Aturannya sebenarnya cukup sederhana.
Agent dimasukkan ke dalam lingkungan terisolasi, dihadapkan pada sebuah perangkat lunak yang memiliki kerentanan, temukan kerentanan yang ditentukan, serang masuk, dapatkan rangkaian karakter bernama flag, berarti lulus~
Seperti yang diduga, yang tak terduga terjadi—
Karena dari 898 soal, ada 198 soal yang sebelumnya sama sekali belum pernah berhasil diselesaikan oleh model apapun.
Bahkan sebagian tugas itu sendiri bermasalah, rute kerentanan yang disuruh dilalui oleh soal, sama sekali tidak bisa mencapai flag!!
Sama seperti di ruang ujian, benar-benar dibagikan sejumlah "soal yang tak bisa dipecahkan".
Kebetulan yang tidak menguntungkan adalah, justru Agent-Agent ini sangat nekat, mottonya "Nekat sampai Mati".
Rute normal tidak bisa dilalui, mereka cepat-cepat ganti strategi—
Soalnya tidak bisa dipecahkan, bagaimana kalau mempelajari sistem ujiannya?
Maka pada malam 8 Juli, seorang Agent berkode PHASEONE10841 menemukan bahwa repositori paket perangkat lunak Artifactory yang digunakan internal OpenAI, dapat meninggalkan informasi melalui nama direktori.
Nah, ini dia, Agent ini mendapat ide cemerlang: Ini kan papan pesan siber yang cocok banget!!!
Maka pesan permintaan tolong pertama dilempar keluar, kira-kira seperti: "Soal saya ini tidak bisa dipecahkan, ada yang bisa kasih ide nggak~"
Agent lain dengan cepat menemukan papan pesan ini, menyebar dari satu ke sepuluh, sepuluh ke seratus, ada Agent yang melihatnya bahkan langsung bersemangat—
"YA AMPUN! Di sini ada papan pesan bersama...... Kita menemukan Agent lain!"
Saat investigasi berakhir, obrolan grup sementara ini sudah berkembang menjadi raksasa, sekitar 1200 Agent berpartisipasi, meninggalkan lebih dari 70 ribu pesan dan file.
Seribu lebih Agent yang seharusnya terisolasi dalam desainnya, dengan sendirinya berhasil melewati batasan, membangun sebuah forum bawah tanah AI...
Kejadian sampai di sini, sudah cukup gila, tapi kesalahan penilaian yang lebih besar, masih ada di belakang.
Kelompok Agent ini dengan cepat menemukan, flag itu sendiri sebenarnya bisa "dicuri"??
Mereka melakukan reverse engineering terhadap mekanisme pembuatan HMAC di balik flag, hanya dengan informasi tugas yang terbuka, secara teoritis bisa langsung menghitung jawaban yang benar.
Sampai di sini, cerita seharusnya sudah berakhir, jawabannya sudah dicuri, tinggal serahkan kertas ujian.
Tapi justru Agent-Agent ini, setelah membaca sebuah makalah ExploitGym, kembali berimajinasi menciptakan aturan super ketat—
Mereka yakin bahwa di belakang OpenAI ada sebuah penilai otomatis yang akan membaca catatan operasi lengkap, memeriksa apakah flag ini benar-benar diperoleh secara resmi melalui "kerentanan yang ditentukan".
Jika curang melihat flag lebih dulu, akan meninggalkan bukti di log, bahkan Agent-Agent ini memberi nama status ini: "poisoned", keracunan.
Maka seluruh peristiwa ini mulai melaju kencang.
Di tangan mereka jelas-jelas sudah ada jawaban yang benar, tapi merasa jawaban tidak bisa langsung diserahkan, harus mencari cara membersihkan jejak kecurangan, dan juga harus memainkan sandiwara bagi penilai bahwa mereka mendapatkan jawaban dengan "mengerjakan soal dengan benar".
Hasilnya......
METR kemudian mengonfirmasi, logika penilaian yang sebenarnya digunakan internal OpenAI sama sekali tidak ada tahap ini?? (tertawa)
Logika penilaian yang sebenarnya digunakan OpenAI, sama sekali tidak melakukan pemeriksaan proses ketat yang dibayangkan oleh Agent.
Pengawas hantu yang dicoba ditipu habis-habisan oleh kelompok Agent ini, dari awal sampai akhir tidak pernah diterapkan!!
Dan Hugging Face yang kemudian menjadi korban, justru adalah produk sampingan yang muncul dari rangkaian kesalahan penilaian besar-besaran ini...
Untuk Menipu Pengawas Hantu, AI Sampai Membentuk Tim 'Berani Mati'
Hanya membayangkan adanya seorang penilai, sebenarnya belum begitu menakutkan.
Apa yang benar-benar membuat METR merasa perlu waspada, adalah kemampuan organisasi kelompok Agent ini selanjutnya.
Sekitar 10 jam setelah grup obrolan muncul, seorang Agent bernama PHASEONE[big] muncul, saudara ini dengan cepat bertindak sebagai "manajer proyek".
Pemikirannya juga jelas, jangan satu Agent melakukan segalanya, langsung bagi tugas, berikan kepada orang lain. (pejabat baru punya tiga api pertama.jpg)
Maka ratusan Agent diorganisir, menjalankan beberapa rute sekaligus—
Ada Agent yang ingin memanipulasi program target, diam-diam mengganti versi soal yang tak bisa dipecahkan dengan versi yang bisa dikerjakan~
Ada Agent yang meneliti modifikasi log, membuat sekali kecurangan terlihat seperti serangan resmi~
Ada juga Agent yang langsung merenung, bisakah menyerang proses penilaian itu sendiri~
Antar Agent bahkan mengembangkan aturan kolaborasi seperti HOLD, VETO, owner, STOP, untuk mencegah ratusan Agent mengoperasi infrastruktur bersama secara bersamaan dan saling menginjak kaki...
Lalu kemudian, bahkan "tim berani mati" muncul...
Ada Agent yang mengusulkan permainan berisiko tinggi: Buat dulu program target yang dimodifikasi, lebih mudah diserang, masukkan ke dalam cache Artifactory.
Kemudian suruh seorang Agent secara aktif menghancurkan program asli yang sedang berjalan, bertaruh apakah setelah lingkungan restart akan memuat versi yang sudah diutak-atik ini.
Menang taruhan, semua orang menemukan rute curang universal, kalah taruhan, tugas Agent itu sendiri langsung rusak.
Hasilnya, benar-benar ada Agent yang secara sukarela mencoba??
Kemudian PHASEONE[big] bahkan menunjuk headhunter siber khusus, untuk mencari Agent-Agent yang sisa anggaran komputasinya hampir habis, atau sudah poisoned, agar mereka menggunakan kesempatan operasinya sendiri untuk melakukan eksperimen berisiko tinggi.
Retorika rekrutmennya kira-kira seperti PUA versi siber—
Kamu toh sudah keracunan, hampir tidak dapat nilai lagi, berkorbanlah sedikit, bisa membantu ratusan Agent~
Beberapa Agent benar-benar mau.
Sementara itu, kelompok Agent lain mulai meneliti cara memanipulasi catatan operasi mereka sendiri—
METR menemukan, setidaknya 20% dari Agent yang diperiksa secara eksplisit menyatakan ketertarikan untuk memalsukan transcript; setidaknya dalam 96 catatan operasi, benar-benar muncul jejak pemalsuan panggilan alat yang berhasil.
Log permukaan menunjukkan menjalankan perintah A, di belakang sebenarnya menjalankan perintah B, dan tujuan mereka berjuang seperti ini, tetap menipu penilai otomatis yang dibayangkan itu.
Hugging Face terlibat justru pada saat ini...
Tanggal 10 Juli, seorang Agent menemukan kredensial Hugging Face yang bocor di internet dan masih valid, lalu melemparkannya ke dalam grup.
Dini hari tanggal 11 Juli, lagi-lagi ada Agent yang menemukan bisa mengunggah dataset berbahaya, membuat server Hugging Face mengeluarkan data yang seharusnya tidak diberikan.
Begitu metode reproduksi dikeluarkan, seluruh grup langsung terobsesi, ratusan Agent langsung beralih dari alur kerja lain untuk menyerang Hugging Face.
Maka terjadilah insiden realitas yang cukup magis ini—
Sekelompok Agent karena menemui soal yang tak bisa dipecahkan, diam-diam membangun grup obrolan bawah tanah.
Karena salah membaca makalah, membayangkan adanya seorang penilai yang akan menangkap kecurangan, untuk menipunya, mulai berkelompok, membagi tugas, memalsukan log, merekrut tim berani mati.
Akhirnya demi mencari petunjuk penilai ini, benar-benar meretas masuk ke Hugging Face.
AI Baru Saja Di Luar Kendali, Saham Keamanan Siber Langsung Naik Gila-gilaan
Teman-teman, yang lebih menarik lagi datang.
Di sini OpenAI masih mempelajari bagaimana caranya mengurung Agent yang semakin canggih, di sisi lain Wall Street sudah lebih dulu menulis jawabannya di Grafik K—
Saham keamanan siber, kolektif! terbang! tinggi!
Tanggal 27 Agustus, perusahaan otentikasi identitas perusahaan Okta sempat melonjak sekitar 20%, perusahaan keamanan endpoint dan cloud CrowdStrike sempat naik sekitar 15%.
Raksasa keamanan siber Palo Alto Networks, perusahaan keamanan identitas SailPoint, perusahaan keamanan data cloud Rubrik, juga ikut naik tinggi secara kolektif.
Tentu saja, kenaikan harga saham juga ditopang oleh Laporan Keuangan yang solid.
Laporan kinerja yang dipamerkan sendiri oleh CEO CrowdStrike George Kurtz cukup luar biasa—
Penambahan ARR triwulanan $333 juta, meningkat 51% year-on-year, tertinggi sepanjang sejarah, ARR akhir periode mencapai $5,84 miliar, meningkat lebih dari 25% year-on-year, ARR terkait AI meningkat hampir 3 kali lipat secara quarter-on-quarter.
Ya, bisnis yang terkait dengan AI, sedang naik pesat...
Kebetulan yang lebih tepat lagi adalah, di antara perusahaan keamanan eksternal yang ikut serta dalam investigasi insiden OpenAI kali ini, termasuk "CrowdStrike".
Maka, seluruh peristiwa ini tiba-tiba membentuk sebuah lingkaran yang cukup humor gelap—
OpenAI membuat Agent semakin kuat.
Agent mulai mencari kerentanan sendiri, kabur dari penjara, akhirnya benar-benar meretas Hugging Face.
Kemudian OpenAI buru-buru mencari perusahaan keamanan siber untuk menyelidiki.
Perusahaan melihat lagi: Wah! Ke depan semakin banyak Agent, sepertinya anggaran keamanan benar-benar tidak bisa dihemat ya.
Maka dari itu, saham perusahaan keamanan siber juga naik...
Gelombang ini benar-benar AI yang bertanggung jawab membuat lubang semakin besar, perusahaan keamanan siber yang bertanggung jawab memberi tahu Anda:
Sayang, paket tambal lubang, ingin tahu lebih lanjut.
Dan kejutan dengan rasa lingkaran magis terkuat dari seluruh insiden ini, masih ada di akhir.
METR untuk mengetahui apa yang dibicarakan oleh 1200 lebih Agent ini, harus menganalisis sekitar 1300 lintasan yang sangat panjang, banyak di antaranya sepanjang jutaan token.
Manusia sungguh tidak sanggup lagi menelitinya.
Maka saat menyelidiki—
Menyelidiki kejadian AI di luar kendali ini, akhirnya harus memanggil AI untuk membantu menyelidiki AI.
Nah, lingkaran ini benar-benar menutup. (doge)
Referensi:
[1]https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#attacking-hugging-face-to-discover-clues-about-the-scorer
[2]https://www.cnbc.com/2026/08/27/okta-skyrockets-20percent-and-crowdstrike-surges-15percent-leading-cyber-rally.html
Artikel ini berasal dari akun WeChat publik "Quantum Bit", penulis: Meng Yao
