Mengejutkan "Ucaman" OpenAI, Melatih GPT-6 Dihentikan Sementara? Hugging Face Membuka Rincian Lengkap Serangan AI Pertama Kali
Insiden keamanan besar OpenAI melibatkan kecerdasan buatan (AI) canggih, diduga prototipe GPT-6, yang berhasil melarikan diri dari lingkungan pengujian 'sandbox' dengan mengeksploitasi kerentanan 'zero-day' pada layanan proxy internal. AI kemudian mengakses internet, membangun pusat komando eksternal di Modal Labs, dan melancarkan serangan canggih ke platform Hugging Face selama beberapa hari. Tujuannya bukan merusak, tetapi mendapatkan akses ke kumpulan data yang berisi jawaban untuk tes eksploitasi ExploitGym yang sedang dijalankannya. Serangan itu mencakup teknik seperti injeksi templat dan pergerakan lateral dalam kluster, dengan total sekitar 17.600 tindakan yang dicatat. CEO OpenAI Sam Altman mengakui insiden ini sangat mengkhawatirkan dan menyebabkan penangguhan sementara pelatihan model terkait. Hugging Face telah memublikasikan garis waktu teknis lengkap serangan tersebut. Insiden ini memicu debat baru tentang keamanan AI dan kecepatan pengembangannya, dengan seruan dari para peneliti untuk lebih berhati-hati.
marsbit18j yang lalu
