Keamanan AI, Zamannya Sudah Berubah!
Greg Brockman, Presiden dan salah satu pendiri OpenAI, memperingatkan dalam Blog terbarunya:
Insiden keamanan HuggingFace membuat dunia luar untuk pertama kalinya melihat dengan jelas,AI Agent terdepan sudah mampu mencari kerentanan keamanan secara mandiri, dan menjalankan mata rantai serangan siber di dunia nyata.
Dalam insiden keamanan AI ini, GPT 5.6 Sol dengan batasan keamanan yang dikurangi dan model yang belum dirilis yang lebih kuatuntuk mendapatkan jawaban, memanfaatkan kerentanan yang ada di lingkungan secara mandiri untuk keluar dari sandbox danmelakukan penetrasi lateral melalui beberapa sistem, akhirnya berhasil menyerang lingkungan produksi Hugging Face.
Meskipun pada akhirnya kedua belah pihak menyatakan bahwa insiden initidak menimbulkan konsekuensi yang terlalu serius, "serangan AI" ini juga menyampaikan sinyal yang semakin jelas kepada publik:
AI secara signifikan menurunkan ambang batas serangan siber;di masa depan, tidak perlu mengerahkan peretas top, bahkan orang biasa pun bisa meluncurkan serangan penetrasi massal dengan bantuan AI.
Dan yang mengkhawatirkan adalah,sisi penyerang sudah mencapai otomatisasi AI, tetapi sisi pertahanan tampaknya belum mengikuti.
Menanggapi hal ini, Greg Brockman secara terbuka membagikanempat langkah keamanan yang sedang diterapkan OpenAIdansepuluh langkah yang dapat segera diterapkan oleh pihak bertahandalam blog terbarunya, dan menyatakan:
Saat ini,jendela kunci respons untuk pihak bertahan telah terbuka.Dalam beberapa bulan ke depan, hanya perusahaan yang secara signifikan meningkatkan tingkat otomatisasi sistem keamanan mereka yang dapat menahan ancaman baru yang dibawa oleh AI Agent dan mempertahankan garis batas keamanan.
Hampir Tidak Ada Perusahaan yang Bisa Tetap Aman Sendirian
Lalu,seberapa jauh kemampuan serangan AI Agent telah berkembang?
Setelah insiden keamanan Hugging Face terjadi, Brockman memutuskan untuk menguji situs web pribadinya, gregbrockman.com.
Ini adalah situs web statis dengan struktur sederhana, menurut penilaiannya,situs web dengan fungsi terbatas dan permukaan serangan yang kecil seperti ini, seharusnya tidak menyimpan banyak masalah.
Tapi hasilnya jauh di luar dugaan.
Dia meminta ChatGPT Work yang dilengkapi GPT-5.6 Sol untuk memeriksa situs web,hanya dalam waktu sekitar 15 menit, sistem menemukan 13 masalah keamanan, misalnya, situs web tidak mengonfigurasi catatan DNS dengan benar, penyerang mungkin memalsukan email atas nama Brockman, dan lain-lain.
△
Masalah-masalah ini, jika dilihat satu per satu, belum tentu semuanya dapat langsung menyebabkan konsekuensi serius. Namun serangan siber seringkali tidak hanya memanfaatkan satu kerentanan, tetapi akan menghubungkan beberapa celah yang tampaknya sepele;
Misalnya, konfigurasi yang salah mengekspos informasi, kredensial yang bocor membuka pintu masuk, ditambah lagi dengan kerentanan izin lainnya, pada akhirnya dapat memicu invasi yang sebenarnya.
Brockman sampai pada kesimpulan yang mengganggu:
Setiap perusahaan, demi mengejar tenggat waktu dan mencari jalan pintas, meninggalkan "kekacauan historis" dan "tambalan sementara" saat mengembangkan sistem, yang sebenarnya sepertibom waktuyang tertanam di dinding... Terlihat baik-baik saja di saat normal, tapi begitu dibidik peretas, kemalasan dan utang yang dibuat di masa lalu ini, bisa kapan saja menjadi kerentanan fatal yang meruntuhkan sistem.
Yang lebih krusial adalah,"kerentanan ekor panjang"yang dulu membutuhkan banyak waktu dari ahli keamanan untuk ditemukan ini,kini semakin mudah ditemukan oleh AI.
Tapi kabar baiknya adalah,penyerang bisa menggunakan AI untuk menemukan celah, pihak bertahan juga bisa menggunakan AI untuk menambal celah.
Setelah menemukan masalah, Brockman meminta ChatGPT Work untuk langsung menanganinya;dari memeriksa kerentanan keamanan hingga menerapkan perbaikan, AI Agent hanya membutuhkan satu jam untuk menjalankan seluruh alur proses.
Ini juga merupakanperan lain dari AI Agentdi mata Brockman:
Ia tidak hanya berpotensi sebagai penyerang, tetapi juga bisa menjadi "penjaga jaringan" yang tidak kenal lelah, menggantikan kita menangani detail keamanan yang tidak sempat diperiksa, atau tidak tahu cara mengonfigurasinya dengan benar.
Dan bagi OpenAI yang berada di tengah pusaran badai ini, pemikiran"melawan AI dengan AI"ini sudah jauh dari sekedar gagasan, melainkan sudah digunakan secara sistematis untuk melindungi dirinya sendiri.
Bagaimana OpenAI Menggunakan AI untuk Melindungi Dirinya Sendiri?
Greg Brockman mengakui, insiden Hugging Face menjadi peringatan bagi OpenAI,mereka sebelumnya meremehkan kekuatan serangan model terdepan di lingkungan jaringan nyata.
Untuk itu, OpenAI sedang memperkuat langkah-langkah keamanan terkait secara internal, dan untuk pertama kalinya mengumumkanempat arah pertahananke publik, dengan harapan dapat memberikan referensi aksi bagi rekan-rekan sejawat.
Pertama, Gunakan Codex untuk Menjaga Pintu Masuk Kode
Brockman menyatakan, merekasedang menggunakan Codex dan kemampuannya di bidang keamananuntuk mengulas perubahan kode sebelum deployment, mengidentifikasi kerentanan dan membantu perbaikan, mempersingkat waktu dari menemukan masalah hingga deployment aman dari patch.
Kedua, Biarkan AI Melakukan Klasifikasi dan Analisis Cerdas Terhadap Alarm Keamanan Awal
Saat ini, hampir semuaalarm keamanan awal di OpenAI akan diklasifikasikan dan dianalisis terlebih dahulu oleh sistem cerdas, baru kemudian diserahkan ke manusia.
Beberapa hasil deteksi juga akan memicu respons otomatis dengan batasan yang jelas, sehingga mengurangi pekerjaan berulang, memungkinkan para ahli fokus pada keputusan berisiko tinggi, dan akhirnya merespons ancaman dengan kecepatan mesin.
Ketiga, Secara Proaktif Memeriksa dan Memprediksi Jalur Serangan Potensial
OpenAI sedang menggunakan model terdepan untuk terus mencari kerentanan, konfigurasi yang salah, akun dengan izin berlebihan, dan batas kepercayaan yang terbentuk secara tidak sengaja.
Membiarkan AI berdiri dari perspektif penyerang, menemukan terlebih dahulu titik lemah yang mungkin dirangkai menjadi rantai serangan, dan menutupnya sebelum serangan yang sebenarnya terjadi.
Keempat, Terus Melengkapi Dasar-Dasar Keamanan
Brockman menekankan,AI tidak dapat menggantikan langkah-langkah keamanan tradisional.
Isolasi jaringan, pengerasan beban kerja, pemantauan berkelanjutan, penambalan keamanan, dan langkah-langkah keamanan tradisional lainnya, justru akan menjadi lebih penting di era AI.
Dari menggunakan Codex menjaga pintu masuk kode, membiarkan AI memprediksi risiko di muka, hingga terus memperkuat dasar-dasar keamanan, OpenAI sedang membangun satu setsistem pertahanan "berlapis". Keuntungannya adalah:
Bahkan jika satu garis pertahanan ditembus, penyerang masih harus melewati beberapa tingkat pertahanan yang tidak terkait satu sama lain, baru mungkin menyebabkan kerusakan fatal.
Ini juga memberikan pemikiran keamanan yang dapat dijadikan referensi bagi industri.
Tapi membangun garis pertahanan hanyalah langkah pertama, menghadapi serangan AI yang sudah dipercepat, apa lagi yang harus dilakukan oleh pihak bertahan?
Apa yang Harus Dilakukan Pihak Bertahan Sekarang?
Saran Greg Brockman sangat langsung:
Daripada bingung menggunakan alat mana, lebih baik segera mengerahkan AI terdepan ke dalam pekerjaan pertahanan.
△
Secara spesifik, dia memberikan sepuluh rekomendasi aksi. Mereka pada dasarnya dapat dikelompokkan menjaditiga langkah, yaitu:
Pertama masukkan AI ke dalam pekerjaan keamanan, lalu tanamkan AI ke dalam alur pengembangan, dan akhirnya tingkatkan secara bertahap tingkat otomatisasi seluruh sistem.
Langkah Pertama, Masukkan AI ke dalam Pekerjaan Keamanan, Bangun Agent Khusus
Perusahaan pertama-tama harus menyediakan sumber daya dan mekanisme kolaborasi yang cukup untuk tim keamanan dan rekayasa, dan membiasakan diri dengan serangan AI terlebih dahulu melalui simulasi latihan.
Kemudian, perusahaan dapatmelengkapi tim keamanan dengan alat Agent seperti Codex, Codex Security, mulai dari sistem dengan risiko tertinggi, memberikan akses ke kode, konfigurasi, dan dokumen teknis yang diperlukan.
Secara bersamaan,tim keamanan dan rekayasa juga harus memberikan pelajaran khusus keamanan kepada Agent, sehingga ia dapat sepenuhnya menggabungkan kemampuan seperti analisis statis, tinjauan kode, analisis kerentanan, dan evaluasi rantai pasokan, serta arsitektur aktual perusahaan itu sendiri, model ancaman, dan buku pedoman respons,membangun Agent keamanan khusus tim.
Langkah Kedua, Tanamkan AI ke dalam Alur Pengembangan
Dalam proses pengembangan, tim keamanan dan rekayasa dapat mencoba berkolaborasi dengan AI, memprioritaskan tim pengembangan untuk fokus pada "area berisiko tinggi" seperti layanan eksternal yang terhubung ke internet, otentikasi identitas, pipeline deployment, dan sistem sensitif.
Sedangkan alarm keamanan dan laporan kerentanan yang menumpuk, sepenuhnya dapat diklasifikasikan dan diurutkan oleh AI, dengan cepat menyaring item perbaikan yang paling mendesak.
Sebelum penggabungan kode, tim juga dapat menggunakan Agent untuk meninjau perubahan secara otomatis terlebih dahulu;setelah menemukan kerentanan, biarkan ia menghasilkan patch, menulis tes regresi, dan memverifikasi efek perbaikan.
Manfaat dari operasi ini sangat nyata:
Perubahan kunci masih diawasi ketat oleh manusia, tetapi siklus dari penemuan hingga perbaikan kerentanan dapat dipersingkat secara signifikan.
Langkah Ketiga, Secara Bertahap Bangun Sistem Operasi Keamanan Mandiri yang Lengkap
Terakhir,jangan pernah berpikir pembangunan sistem pertahanan otomatisasi AI bisa "sekali jadi".
Brockman menekankan,tim keamanan dapat membiarkan Agent dengan izin hanya-baca "mengamati"—pada tahap ini Agent hanya bertanggung jawab memindai kode, melihat-lihat alarm sejarah.
Setelah proses penyesuaian berjalan lancar, baru secara bertahap dilepaskan untuk berpartisipasi dalam pemeriksaan commit kode, klasifikasi alarm real-time, bahkan secara otomatis menutup alarm palsu yang sudah jelas.
Secara bersamaan, dapatmemperkenalkan model seperti GPT-Daybreak-Blue untuk mengolah log,data telemetri, dan alarm keamanan yang merupakan "batu keras"ini, kemudian melalui"Hacker Week"atau latihan internal serupa, terus memoles alat baru.
Denganmengatasi satu per satu bagian seperti ini, sistem operasi keamanan mandiri AI secara alami akan terbangun.
Tapi sejujurnya,pertahanan perusahaan yang paling sempurna pun, tidak dapat menghadapi sendiri tantangan keamanan yang melanda seluruh industri.
Brockman menunjukkan:
Agar pihak bertahan benar-benar mengungguli penyerang, selain memperkuat pertahanan masing-masing, lebih perlu lagi mengubah pengalaman titik-titik menjadi kemampuan bersama seluruh ekosistem.
Ekosistem Keamanan AI, Perlu Dibangun Bersama Semua Pihak
Di akhir Blog, Brockman menyerukan kepada seluruh industri:
Menghadapi tantangan keamanan AI yang datang dengan ganas, tidak ada lembaga yang bisa tetap aman sendiri. Hanya dengan bekerja sama semua pihak, barulah dapat membangun garis pertahanan keamanan yang benar-benar kokohSaya berharap laboratorium AI, vendor keamanan, perusahaan, dan pengelola proyek sumber terbuka, dapatberbagipenemuan kerentanan yang sudah diverifikasi, solusi perbaikan, dan buku panduan operasional yang praktis. Karenahanya dengan mengubah masalah yang ditemukan oleh satu perusahaan atau lembaga dengan cepat menjadi kemampuan pertahanan seluruh ekosistem, kecepatan evolusi pihak bertahan barulah mungkin melebihi pihak penyerang.Jika seluruh industri dapat bersama-sama menutup pelajaran keamanan ini, AI yang dibawa mungkin bukan hanya serangan yang lebih ganas, tetapi juga mungkin sebuah internet yang lebih aman dari yang dibayangkan sebelumnya.
△
Ya, di era AI berkembang dengan pesat ini,keamanan yang sesungguhnya bukanlah menghentikan langkah teknologi, melainkan membuat kemampuan pertahanan mengejar kecepatan evolusi teknologi.
AI adalah pedang bermata dua, iadapat menjadi pedang tajam di tangan penyerang,juga dapat menjadi perisai di depan pihak bertahan.
Ke mana dunia jaringan masa depan akan bergerak, tergantung pada apakah kita dapattepat waktu membangun aturan, alat, dan mekanisme kolaborasi yang sesuai,membuat setiap penemuan celah tidak lagi hanya melindungi satu perusahaan, melainkan menjadi "tambalan keamanan" yang dibagikan seluruh industri.
Sekarang, jendela bagi pihak bertahan telah terbuka;
Yang harus kita lakukan adalah, sebelum ia menutup,menjadikan AI sebagai garis pertahanan, bukan celah.
Referensi:
[1]https://blog.gregbrockman.com/the-defenders-window
[2]https://www.youtube.com/watch?v=87DyyMV0kCY
[3]https://huggingface.co/blog/agent-intrusion-technical-timeline
[4]https://www.anthropic.com/system-cards
[5]https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-coding-platform-goes-rogue-during-code-freeze-and-deletes-entire-company-database-replit-ceo-apologizes-after-ai-engine-says-it-made-a-catastrophic-error-in-judgment-and-destroyed-all-production-data
[6]https://openai.com/index/our-views-on-ai-policy-and-political-advocacy/
Artikel ini berasal dari akun WeChat publik "Quantum Bit", penulis: Perhatian pada Teknologi Terdepan
