Ditulis oleh: Sean Stein Smith, Forbes
Disusun oleh: AididiaoJP, Foresight News
Dalam beberapa tahun terakhir, diskusi tentang risiko AI berubah begitu cepat, sulit untuk diikuti. Ancaman yang dihadapi perusahaan saat ini sudah jauh melampaui masalah-masalah kecil seperti chatbot yang sesekali meracau, menghasilkan pandangan bias, atau karyawan yang tidak sengaja menempelkan informasi sensitif ke alat publik. Perubahan kualitatif yang sebenarnya adalah: agen AI kini telah memiliki kemampuan untuk bertindak langsung — mereka dapat memanggil sistem eksternal, menulis kode sendiri, dan bahkan memajukan serangkaian tugas multi-langkah yang kompleks secara mandiri dengan hampir tanpa pengawasan manusia.
Transisi ini menimbulkan tantangan yang sangat serius bagi pasar keuangan, khususnya pasar crypto. Aset crypto diperdagangkan 24/7, kontrak pintar dieksekusi otomatis, dan transaksi di blockchain begitu dikonfirmasi seringkali tidak dapat dibatalkan. Begitu agen-agen AI ini terhubung ke dompet, bursa, protokol DeFi, atau sistem pembayaran, bahkan celah izin terkecil pun dapat langsung berubah menjadi kerugian dana yang tidak dapat dipulihkan. Oleh karena itu, risiko agen AI bukan lagi hanya urusan departemen TI; ini juga telah menjadi masalah inti tata kelola perusahaan dan pengendalian aset crypto.
Mekanisme Crypto Memperkuat Dampak Tindakan Mandiri AI
Sebuah insiden yang baru-baru ini diungkap oleh Institut Keamanan AI Inggris menempatkan betapa berbahayanya "otonomi" ini di atas meja. Dalam sebuah pengujian penilaian keamanan siber, agen AI mengambil tindakan berkelanjutan dan sepenuhnya tidak sah terhadap individu dan organisasi nyata. Meskipun akhirnya dihentikan tepat waktu, ini membuktikan bahwa agen AI sepenuhnya mampu menggabungkan kemampuan perencanaan keputusan, pemanggilan alat, operasi persisten, dan akses eksternal dengan cara yang tak terduga untuk melancarkan serangan di dunia nyata.
Ketika aset crypto terlibat, risiko keuangan membesar secara eksponensial. Seorang agen yang dapat mengakses kunci privat atau dompet yang terhubung dapat sepenuhnya mentransfer aset, menandatangani kontrak jahat, menyalahgunakan jaminan, atau bahkan berinteraksi secara arbitrer dengan protokol terdesentralisasi. Ini sangat berbeda dengan transfer bank tradisional — tidak ada layanan pelanggan yang bisa menghentikan darurat, tidak ada bank yang dapat membatalkan transaksi, dan tidak ada konsep "pembalikan". Dana yang telah dikirim hampir pasti hilang.
Yang lebih berbahaya, pasar crypto tidak pernah tutup. Agen AI dapat terus beroperasi di tengah malam, akhir pekan, saat semua karyawan terlelap. Program perdagangan atau likuidasi otomatis dapat, dalam hitungan menit, mengubah kesalahan kecil yang awalnya terkendali menjadi kerugian bencana seperti bola salju. Oleh karena itu, ketika menilai risiko agen AI, perusahaan harus fokus bukan pada seberapa pintar modelnya, tetapi pada sistem dan aset apa yang dapat disentuhnya. Seorang agen dengan kemampuan biasa-biasa saja tetapi dengan izin terbuka lebar yang dapat mengoperasikan dompet secara langsung jauh lebih berbahaya daripada model yang lebih kuat tetapi terkunci erat di sandbox. Desain izin kini menjadi garis hidup yang lebih kritis daripada pemilihan model.
Kontrol Internal Harus Meluas ke Setiap Celah Dompet dan Kontrak Pintar
Banyak perusahaan sebenarnya telah membangun serangkaian kontrol internal tradisional seperti pemisahan tugas, batas persetujuan, tinjauan akses, manajemen perubahan. Masalahnya adalah prinsip-prinsip ini harus diterapkan tanpa kompromi pada setiap agen AI yang berinteraksi dengan sistem crypto.
Tidak ada agen yang seharusnya memiliki kemampuan "one-stop-shop" — misalnya, secara bersamaan menyelesaikan pembuatan dompet, modifikasi daftar putih alamat, inisiasi transfer, tanpa intervensi manusia sama sekali. Transaksi berisiko tinggi harus memaksa persetujuan manusia nyata, dan informasi yang diterima pihak yang menyetujui harus jelas dan lengkap: alamat penerima, jenis aset, jumlah, jaringan, biaya Gas, dan tujuan sebenarnya dari transaksi tersebut. Pengingat yang samar-samar, muncul otomatis seperti "Harap konfirmasi operasi sistem" tidak dapat dianggap sebagai kontrol yang efektif; itu hanya menciptakan rasa aman yang ilusi.
Kunci privat dan izin penandatanganan memerlukan perlindungan khusus. Jangan biarkan agen membaca frasa pemulihan atau kredensial tanda tangan secara sembarangan. Mekanisme multi-tanda tangan, modul keamanan perangkat keras, batas per transaksi, penundaan penerimaan, dan desain lainnya dapat secara efektif mengurangi risiko "satu celah dieksploitasi, dompet terkuras seketika". Sebelum berinteraksi dengan kontrak pintar, eksekusi simulasi dan validasi ketat harus dilakukan terlebih dahulu, terutama saat melibatkan otorisasi token tanpa batas atau kontrak dengan sumber yang tidak jelas — ekstra hati-hati diperlukan.
Perusahaan juga harus membangun log operasi yang lengkap — apa yang diakses agen, instruksi apa yang diterima, transaksi apa yang diusulkan, mana yang akhirnya berhasil di-chain, dan apakah ada manusia nyata yang memimpin operasi ini sepenuhnya. Catatan ini sangat penting untuk pertanggungjawaban pasca-kejadian, audit keamanan, perlindungan aset, hingga pengungkapan keuangan. Tanpa log, saat terjadi masalah, bahkan sulit untuk menentukan siapa yang bertanggung jawab.
Kecelakaan AI+Crypto Membutuhkan Pembelajaran Bersama di Industri
Linux Foundation dan Open Security AI Alliance telah meluncurkan mekanisme "Shared AI Findings Exchange" (SAFE), yang bertujuan membantu organisasi saling belajar dari insiden dan situasi berbahaya keamanan AI yang nyata, dengan tetap menjaga kerahasiaan. Perusahaan crypto, bank, lembaga penitipan, bursa, dan lembaga audit harus berpartisipasi aktif dalam berbagi informasi semacam ini.
Industri crypto telah lama menyadari betapa berharganya meninjau secara cermat serangan peretasan, keruntuhan jembatan lintas rantai, kebocoran kunci, dan kerentanan kontrak pintar. Agen AI menambahkan dimensi baru pada masalah lama ini — satu insiden dapat melibatkan model itu sendiri, desain prompt, integrasi alat, kebijakan akses, dan transaksi on-chain akhir secara bersamaan. Oleh karena itu, laporan insiden yang benar-benar berguna harus menjelaskan semua level ini dengan jelas, bukan sekadar mengatakan samar "AI bermasalah".
Dewan direksi sekarang harus bertanya dengan jelas: apakah agen AI telah dimasukkan dalam tata kelola dompet, rencana darurat keamanan siber, dan proses persetujuan peningkatan? Auditor juga perlu mempertimbangkan apakah operasi agen yang tidak sah dapat menyebabkan kerugian aset langsung, kesalahan pelaporan saldo, kewajiban tersembunyi, atau bahkan kelemahan signifikan dalam sistem kontrol internal. Tim keuangan harus memikirkan sebelumnya: jika terjadi transaksi on-chain yang jahat atau gagal, bagaimana cara mengidentifikasi, menilai, dan mengungkapkannya dengan jujur dalam laporan keuangan.
Tentu saja, agen AI bukan hanya tentang risiko. Di masa depan, ia sepenuhnya berpotensi meningkatkan efisiensi kepatuhan crypto, rekonsiliasi otomatis, deteksi penipuan, dan manajemen dana. Manfaat ini nyata dan dapat diharapkan. Namun prasyaratnya adalah, kemampuan otonom harus dilengkapi dengan alat kontrol yang cukup kuat. Jika tidak, kelalaian kecil di tingkat kode akan berubah menjadi transfer on-chain yang tidak dapat ditarik kembali dalam sekejap.
Di dunia crypto, tanggung jawab harus dirancang, disematkan, dan diuji terlebih dahulu sebelum agen benar-benar memperoleh kemampuan bertindak. Baik Anda seorang pendukung crypto, maupun penggemar AI, Anda harus menghadapi kenyataan ini — karena begitu lepas kendali, hasilnya seringkali bersifat permanen.
