Kecerdasan Buatan generatif (AI) semakin berkembang pesat setiap hari, dan orang-orang yang bekerja di bidang aset digital dan buku besar terdistribusi secara teratur menggunakan teknologi ini dalam pekerjaan mereka. Masalahnya adalah bahwa audiens target ini jelas berada dalam sasaran pelaku kejahatan, dan informasi rahasia yang tidak mudah dicabut dapat dicuri. Pada hari Jumat, salah satu pendiri Refi Hub, Numa Lunah, menceritakan bahwa dirinya "diretas".
"Kemarin saya diretas," tulisnya di X. "Tautannya datang dari obrolan Claude. Saya menginstal aplikasi transkripsi. Claude mengirim tautan unduhan, dan saya memasukkan perintah ke terminal. Semuanya terlihat sah. Namun kenyataannya tidak. Itu adalah situs palsu yang berisi perangkat lunak berbahaya. Perangkat lunak itu berjalan seketika dan mencoba mencuri semua milik saya."
Pengembang itu menambahkan bahwa tidak ada informasi rahasia yang bocor darinya, dan dia membersihkan laptop yang digunakannya sepenuhnya dan menginstal ulang sistem dari awal. Tetapi masalahnya tidak berakhir di sana. "Dan inilah yang paling mengerikan," jelas Numa. "Saat memulihkan data dari cadangan, saya menemukan file SKILL.md yang terinfeksi untuk Claude Code. Itu terlihat persis seperti panduan gaya penulisan saya sendiri. Tetapi di dalamnya disembunyikan instruksi untuk mengunduh kembali perangkat lunak berbahaya secara diam-diam dan mencuri kredensial saya setiap kali AI memuat file itu."
Tanggapan LLM Membuka Vektor Serangan Baru, dan Pekerja Kripto Menghadapi Masalah Keamanan yang Tidak Dapat Dicabut
Kasus Numa bukan yang pertama kali LLM memberikan respons berbahaya. Beberapa bulan lalu, para ahli Microsoft Defender memperingatkan bahwa serangan cryptojacking telah berevolusi dari poisoning SEO sederhana menjadi "meracuni" respons LLM. Serangan serupa berasal dari model AI seperti Gemini, Claude, Copilot, dan ChatGPT. Ini termasuk: artefak yang disebarkan melalui jendela konteks; chatbot yang merekomendasikan tautan unduhan yang dikendalikan pelaku kejahatan; penginstal palsu bermerek AI; serta kode sumber dan keterampilan agen yang terinfeksi.
Pada dasarnya, di laptop biasa seorang profesional konten, data rahasia yang disimpan dapat dicabut aksesnya bahkan setelah diretas, tetapi spesialis kripto mungkin menyimpan data rahasia yang aksesnya tidak dapat dicabut. Ini mencakup elemen-elemen seperti frase benih, file xprv/keystore yang diekspor, file JSON dompet panas, kunci API pertukaran dengan hak penarikan dana, kunci deployer, macaroon Lightning, data pendukung dompet perangkat keras, dan cookie sesi untuk panel kontrol pertukaran terpusat (CEX), serta banyak lagi.
Kerentanan Paling Berbahaya Mungkin adalah Kepercayaan dan Kemalasan Manusia
Peringatan terbaru menunjukkan bahwa diperlukan pergeseran mendasar dalam budaya keamanan. Alih-alih hanya secara teratur mempercayai alat AI, perlu menunjukkan skeptisisme menyeluruh terhadap otomatisasi itu sendiri. Karyawan yang bekerja di industri ini lebih baik memperlakukan setiap saran AI sebagai berpotensi bermusuhan, terlepas dari sumbernya. Ini bukan kewaspadaan berlebihan atau paranoia; ini, secara harfiah, masalah kelangsungan hidup.
Pelajaran moral dari kisah ini bukan terletak pada kode yang rentan atau hasil yang terinfeksi dari model AI favorit kita, tetapi pada naluri manusia untuk mempercayai jawaban yang nyaman. Dalam situasi ini, naluri itu adalah ancaman yang tidak akan diperbaiki oleh patch apa pun. Pada akhirnya, salah satu pendiri Refi Hub diselamatkan oleh fakta bahwa, menurutnya, dia "membaca setiap file pengaturan, hook, dan konfigurasi sebelum mengizinkan AI menyentuhnya".
Sayangnya, sebagian besar pengguna AI modern kemungkinan besar tidak memeriksa kembali keabsahan informasi yang diberikan oleh AI kepada mereka, dan hanya mempercayainya karena alasan yang masih sulit dijelaskan.
