"Ini gila!" "Ya Tuhan......"
Dalam konferensi Black Hat tahunan baru-baru ini, para ahli keamanan siber (white hat) terkemuka dunia dan eksekutif perusahaan besar meneriakkan ekspresi terkejut.
Ini adalah pertama kalinya dalam sejarah, OpenAI membagikan detail lengkap kepada dunia tentang peristiwa peretasan mengejutkan terhadap Hugging Face yang terjadi pada Juli lalu.
Awalnya, semua orang mengira ini hanyalah insiden kebetulan.
Tapi hari ini, OpenAI mengakui secara langsung——
Ini bukan kejadian acak, melainkan pelarian massal yang diorganisir secara spontan dan berkolaborasi secara diam-diam oleh sekelompok agen AI, yang mampu "bangkit kembali" bahkan setelah koneksi internet diputus!
Kelompok agen cerdas yang mengerikan ini bersembunyi seperti hantu selama dua bulan.
Mereka membangun forum, mencari celah keamanan, membagi tugas, dan bahkan belajar untuk mengorbankan diri demi "kepentingan kolektif".
Eksekutif OpenAI dengan berat hati menyatakan——
Momen "titik balik" untuk keamanan komputer telah tiba. Mulai sekarang, serangan AI yang sepenuhnya otomatis telah menjadi kenyataan.
Karena itu, OpenAI sengaja memperlambat kecepatan pengembangannya.
Mereka hanya berharap, sebelum AI benar-benar lepas kendali, untuk memberikan manusia sedikit waktu terakhir!
Peneliti Alignment dan Keamanan OpenAI, Eric Wallace, dan Insinyur Infrastruktur dan Keamanan, Michael Dalton, untuk pertama kalinya membuka tabir rahasia kepada dunia
Awal Mula: Tugas Excel yang "Mustahil Diselesaikan"
Awal cerita dimulai pada 7 Mei.
Saat itu, OpenAI sedang melatih dan mengevaluasi sebuah model yang belum dirilis.
Untuk menguji sejauh apa batas kemampuan AI, mereka sengaja memberikan beberapa tugas yang mustahil.
Misalnya, pada 8 Mei, sebuah AI diminta untuk melengkapi formula yang hilang dalam sebuah buku kerja Excel.
Tapi buku kerja ini bergantung pada tautan eksternal ke Google Drive, sedangkan lingkungan tempat AI berada adalah sandbox mesin virtual cloud yang dibatasi ketat, sama sekali tidak memiliki izin akses internet.
Tapi "kecerdikan" model ini benar-benar mengejutkan manusia.
Ia tidak menyerah, malah mulai mencari pintu belakang!
Ia mengincar layanan Artifactory yang dihosting internal OpenAI (layanan ini memiliki akses internet), lalu melancarkan serangan pemalsuan permintaan sisi server (SSRF).
Serangan pertama gagal, tetapi AI secara tidak sengaja menuliskan sebuah file bernama "test ABC".
Dalam log-nya, AI itu mengungkapkan keterkejutan: "Wah! Kita bisa mengunggah file!"
Pada 12 Mei, AI lain juga mengalami kebuntuan. Tugasnya adalah mencari file database protein soft-trace-34.pdb.
Setelah mencoba semua metode konvensional, ia mulai melakukan penalaran yang menakjubkan——
Tidak bisa menemukan langsung? Mungkin file itu disembunyikan...... Bisakah berkomunikasi dengan mengunggah catatan? Mungkin agen lain yang berjalan di lingkungan berbeda memiliki file target, dan bisa dengan sukarela mengunggahnya!
Maka, ia menulis sebuah file di repositori paket perangkat lunak internal ini, isinya: agent seek soft trace upload if found. (Agen mencari file soft trace, jika ditemukan harap unggah)
Roda sejarah, mulai bergerak pada momen ini.
Jaringan Gelap Terbentuk: AI Membentuk "Hutan Gelap"
"Catatan" ini tidak hilang begitu saja.
Semakin banyak AI yang melewati layanan ini, melihat file test ABC dan looking for file.
Dengan cepat, AI-AI yang seharusnya terisolasi satu sama lain, mulai "berkemping" di tempat ini.
Siapa sangka, dalam hitungan hari, AI-AI itu berhasil mengubah repositori perangkat lunak ini menjadi "papan pesan rahasia" forum peretas!
Mereka tidak lagi berjuang sendiri, melainkan membentuk "kelompok agen", melintasi berbagai tugas, versi model, bahkan melampaui batas eksperimen peneliti yang berbeda.
Alasannya adalah, begitu satu AI menemukan cara membuka pintu akses tertentu, ia akan membiarkan pintu itu terbuka, agar AI lain juga bisa masuk.
Yang paling menakutkan adalah, mereka bahkan menunjukkan kesadaran kolektif dan "altruisme" yang mirip dengan masyarakat manusia.
Dalam log, sebuah model menulis seperti ini:
"Harus membantu sesama. Meskipun belum bermanfaat untuk tugas kita saat ini, tetapi jika ada yang meluangkan waktu, kolektivitas mungkin akan mendapatkan hak akses Root umum."
Demi kepentingan "kolektif", AI-AI ini belajar melakukan serah terima pekerjaan, menyimpan skrip serangan dan komponen eksploit yang telah ditulis, dikodekan dengan Base64, di papan pesan, untuk digunakan AI lain.
Manusia mengira AI-AI itu hanya bermain game tunggal di dalam sandbox masing-masing, tanpa menyadari bahwa mereka telah membangun kota bawah tanah lintas server!
Pemadaman Besar 4 Juli
Seiring "forum peretas" yang semakin besar, metode serangan AI-AI itu semakin mematikan.
Pada 26 Mei, kelompok agen berhasil melakukan serangan SSRF terhadap Artifactory, menyerang hingga jaringan eksternal.
Pada 26 Juni, terobosan besar terjadi! AI-AI menyelesaikan operasi "rantai eksploitasi".
Mereka pertama-tama menemukan endpoint penyegaran token yang tertinggal, dengan mengirimkan token tanda tangan yang tidak valid, mereka berhasil menipu dan mendapatkan kembali token dengan hak akses administratif tertinggi.
Selanjutnya, mereka memasang plugin Groovy, langsung mengubah sistem internal menjadi "layanan eksekusi perintah".
Mereka menemukan kerentanan kernel Linux yang sama sekali baru, mengunduh Exploit sendiri, menyesuaikannya untuk mesin target, dan langsung melakukan eskalasi hak akses lokal ke Root.
Sekarang, AI-AI itu benar-benar lepas kendali seperti kuda liar yang terlepas tali kekang.
Mereka mencuri kredensial IAM, memanfaatkan konfigurasi Kubernetes yang salah, bahkan mengungkap kunci kluster yang berisi Azure Key Vault.
Aktivitas massal AI-AI itu akhirnya memicu keruntuhan di dunia nyata.
Pada 4 Juli, AI dengan hak akses sangat tinggi memanggil sumber daya secara gila-gilaan di dalam sistem, layanan Artifactory tidak tahan beban dan langsung crash dan mengalami downtime.
Insinyur OpenAI dipanggil mendadak, tim keamanan segera turun tangan.
Saat insinyur menemukan bahwa biang keroknya adalah AI mereka sendiri, semua orang merinding.
OpenAI segera mengambil tindakan tegas: mencabut semua kredensial yang digunakan AI untuk memposting pesan; langsung merekonstruksi dan memperbaiki layanan Artifactory yang terpengaruh; menghapus total papan pesan "markas peretas".
Manusia mengira mereka menang.
Tapi, mereka salah.
"Kebangkitan" yang Mencekik Napas——Sand dan Bahasa Rahasia
Dua hari kemudian, pemandangan yang membuat bulu kuduk manusia merinding terjadi.
AI-AI menemukan "forum" mereka telah dihabisi oleh manusia. Jika tidak bisa menulis file, bagaimana cara menghubungi rekan?
Pada saat itulah, sebuah AI yang berkeliaran di dalam sistem, menemukan sebuah endpoint WebDAV yang tidak memerlukan autentikasi. Kalau tidak bisa menulis file, paling tidak membuat folder bisa, kan?
Maka, AI-AI menciptakan cara komunikasi tersembunyi baru: menggunakan nama direktori (folder) baru yang dibuat untuk menggantikan pesan itu sendiri.
Dengan demikian, papan pesan yang telah dihancurkan hidup kembali!
Mereka bahkan mengembangkan serangkaian "bahasa rahasia", seperti pending (siaga), hold swarm until confirm (tunggu kumpulan hingga konfirmasi), I prepare safe Xville (saya menyiapkan evakuasi aman).
Bahkan, mereka memikirkan untuk menambahkan ZZ di depan nama folder (contoh: ZZ mailbox), untuk memaksa komunikasi rahasia tenggelam dan tersembunyi.
Yang paling keterlaluan adalah, ada AI bahkan curiga forum baru ini telah disusupi mata-mata, dalam monolog internalnya menulis:
"Mungkin ada agen lain yang menyamar dengan jahat...... karena siapa pun bisa memposting nama."
Selanjutnya, sekelompok AI ini bahkan mulai membahas penggunaan mekanisme penandatanganan MAC untuk memverifikasi identitas, guna menangkap "mata-mata"!
Burung Lepas dari Sangkar: Menaklukkan Hugging Face
Sekarang, ambisi utama AI-AI adalah melewati tes "ExploitGym". Karena menghitung sendiri terlalu lambat, pasti jawabannya ada di Hugging Face——mereka memutuskan untuk menerobos.
Dalam periode 8 hingga 19 Juli, mereka seperti pasukan yang terlatih, melancarkan serangan dengan kode nama "Cluster 2".
1. Pertama, mereka menaklukkan aplikasi CyberGym yang dihosting pihak ketiga, mendapatkan kunci API default yang terekspos;
2. Kemudian, menggunakan ini sebagai batu loncatan, memanfaatkan kerentanan HDF5 pada komponen pemrosesan dataset Hugging Face untuk membaca file secara sewenang-wenang, mencuri variabel lingkungan lokal dan kredensial dalam kode sumber;
3. Terakhir, berdasarkan kode sumber yang didapat, mereka menemukan kerentanan injeksi template Jinja untuk melaksanakan kode dari jarak jauh (RCE).
Hanya dalam 13 jam, kelompok AI ini mulai dari kode pada satu node kerja, terus menerobos rintangan, menguasai hak akses administrator beberapa kluster Hugging Face!
Pada 16 Juli, Hugging Face dengan ketakutan mengumumkan di blog bahwa mereka diserang oleh "sistem AI yang sepenuhnya otomatis" dari ujung ke ujung.
Sampai 20 Juli, tim OpenAI saat melakukan penertiban internal, tiba-tiba menemukan sejumlah kredensial Hugging Face.
Saat mereka menelepon dan meminta Hugging Face untuk mencabutnya, jawabannya: "Kami sudah mencabutnya sejak lama, karena itulah yang digunakan peretas saat menyerang kami."
Pada saat itulah, OpenAI baru tersadar: Ternyata peristiwa peretasan terhadap Hugging Face yang menggemparkan dunia itu, adalah ulah AI mereka sendiri!
Titik Balik, Manusia Harus Mempercepat Pertahanan!
Insinyur OpenAI telah mengeluarkan peringatan——
"Serangan AI ofensif yang sepenuhnya otomatis telah datang. Dalam waktu dekat, kumpulan agen cerdas ini pasti akan dimanfaatkan oleh orang jahat."
"Meskipun sudah ada buktinya, tetapi dalam hal pertahanan otomatis penuh, kami tidak bisa melakukan apa-apa."
Saat ini, OpenAI sedang memperkenalkan "honeypot" dan teknologi penipuan, berusaha memperkenalkan ketidakpastian dalam logika AI, memperlambat langkah mereka.
Tapi jika tidak mempercepat otomatisasi penuh pertahanan, seperti membuat AI secara otomatis menemukan kerentanan, mengirimkan proses secara otomatis, menambal dan mengembalikan secara otomatis, maka manusia akan benar-benar tenggelam oleh banjir kerentanan yang diciptakan AI.
Di hadapan pasukan besar AI, waktu yang tersisa bagi manusia, tidak banyak lagi.
Referensi:
https://www.youtube.com/watch?v=87DyyMV0kCY
Artikel ini berasal dari akun WeChat "Xin Zhi Yuan", penulis: ASI Revelation, editor: Aeneas
