Tahun Pertama Penerapan AI, Hanya Bilang Iya, Abai Risiko? Log Pelayaran Pengembangan Perangkat Lunak Sepenuhnya Sumber Terbuka
Tahun 2026 disebut sebagai era aplikasi AI. Kode dibuat semakin cepat, namun dengan pengawasan yang semakin sedikit saat diterapkan. Risiko dari kode yang ditulis AI sering kali tersembunyi dalam kode yang tampak benar secara sintaksis dan melewati semua pemeriksaan, tetapi dapat menyebabkan kebocoran data atau kerugian aset. Contoh nyata adalah insiden konfigurasi oracle cbETH Moonwell, di mana kesalahan semantik dalam harga melewati proses pengembangan dan pemeriksaan, mengakibatkan kerugian finansial yang signifikan.
Risiko pengkodean AI telah berevolusi dari pelengkap lokal ke agen yang dapat membaca file, mengubah konfigurasi, menginstal dependensi, dan menghasilkan skrip infrastruktur, sehingga menciptakan jalur risiko yang lebih panjang dan sulit dilacak dalam rekayasa perangkat lunak.
Untuk mengatasi masalah ini, Narwhal-Lab Universitas Peking meluncurkan proyek sumber terbuka **Narwhal AI Code Risks**. Proyek ini mengumpulkan dan mengkategorikan fragmen informasi risiko yang tersebar ke dalam tiga lapisan: `cases/` (peristiwa nyata), `inferred/` (sinyal awal), dan `scenarios/` (skenario risiko tipikal). Risiko diklasifikasikan menjadi 7 kategori: Rantai Pasok, Kerentanan Tingkat Kode, Konfigurasi Cloud & Infrastruktur, Risiko Agen, Risiko Domain Vertikal, Risiko Kekayaan Intelektual & Kepatuhan, serta Faktor Manusia.
Tujuan proyek ini adalah untuk mengubah kasus risiko menjadi pengetahuan yang dapat digunakan kembali, membantu pengembang mengidentifikasi masalah serupa, menjadi basis sampel bagi peneliti keamanan, serta menyediakan aturan deteksi dan tolok ukur bagi vendor alat. Dengan menyediakan "log pelayaran" sumber terbuka untuk dunia perangkat lunak, proyek ini bertujuan untuk mencatat dan meneruskan pengalaman, sehingga pihak lain tidak perlu terjebak dalam perangkap yang sama.
marsbit06/16 04:55
