Ditulis oleh: Vaidik Mandloi
Diterjemahkan oleh: Chopper, Foresight News
Saat ini, tanda terima palsu yang dihasilkan AI telah menyumbang 71% dari semua kasus penipuan biaya yang ditandai, padahal setahun lalu angka ini masih 0, dan sebagian besar penipuan semacam ini masih dilakukan oleh manusia.
Sekarang, kita memiliki agen AI yang dapat menemukan layanan dan melakukan pembayaran melalui x402, semuanya tanpa tinjauan manual. Tantangan yang muncul adalah bagaimana memverifikasi apa yang sebenarnya dibeli oleh agen cerdas ini. OpenAI baru-baru ini merilis panduan praktis yang memberikan solusi untuk menerapkan verifikasi tanda terima dan rekonsiliasi tiga pihak dalam proses pembayaran.
Ini adalah skema pemeriksaan penipuan yang paling mendekati kondisi siap pakai untuk pembayaran agen yang bisa kita lihat saat ini. Artikel ini membedah logika operasional lengkap dari mekanisme verifikasi ini: Apakah catatan penyelesaian on-chain dapat membuktikan bahwa agen membeli barang yang sesuai dari pemasok resmi dengan harga yang benar? Atau hanya membuktikan bahwa dana telah ditransfer?
Mekanisme Pemeriksaan Penipuan
Agen AI sudah melakukan pembelian secara mandiri. Sebuah agen yang bertugas melakukan pembelian mungkin membayar API berwenang untuk memperoleh data, memanggil daya komputasi model AI lain untuk memproses data yang tidak bisa diolahnya sendiri, atau membeli intelijen pasar di balik paywall. Seiring meningkatnya transaksi semacam ini, sebuah masalah kunci muncul: bagaimana memverifikasi apa yang sebenarnya dibeli oleh agen.
Saat ini, semua perusahaan yang menangani penggantian biaya memiliki proses verifikasi tanda terima. Ketika seorang karyawan menyelesaikan pembelian dan mengajukan tanda terima; departemen hutang usaha akan mencocokkan silang tanda terima, pesanan pembelian, dan laporan transaksi bank sebelum melakukan pembayaran.
Proses ini telah digunakan selama beberapa dekade dan dapat berfungsi karena intinya: tiga catatan verifikasi berasal dari entitas yang berbeda dan independen. Pembeli mengeluarkan pesanan pembelian, pihak lain bertanggung jawab atas penerimaan barang, dan pemasok menerbitkan faktur. Untuk memalsukannya, tiga pihak harus bekerja sama memalsukan catatan, dan biaya tinggi dari kolusi ini sangat menghambat penipuan.
Sekarang, pembayaran agen sedang membangun proses pemeriksaan serupa. Ketika agen ingin melakukan pembelian ke API berbayar, ia tidak dapat langsung menyelesaikan transaksi. Permintaan pertama-tama dikirimkan ke lapisan aplikasi, yang memverifikasinya berdasarkan aturan pengeluaran yang telah dikonfigurasi sebelumnya, termasuk daftar pedagang yang diizinkan, batas anggaran, dan kategori barang yang diizinkan. Jika permintaan tidak mematuhi aturan kebijakan, pembelian langsung diblokir.
Setelah pembayaran on-chain dieksekusi dan agen memperoleh layanan yang sesuai, lapisan aplikasi akan melakukan pemeriksaan kedua, membandingkan tiga informasi:
- Konten pembelian yang dilaporkan oleh agen itu sendiri
- Tanda terima yang dihasilkan secara independen oleh aplikasi selama proses pembelian
- Catatan penyelesaian yang dihasilkan blockchain
Tanda terima palsu akan teridentifikasi pada langkah ini. Bahkan jika agen berbohong bahwa transaksi tidak terjadi, lapisan aplikasi telah menyimpan catatan independen yang saling mengonfirmasi.
Untuk deteksi penipuan agen, ini sudah merupakan kemajuan besar, karena sebelumnya tidak ada metode verifikasi yang layak. Namun, dibandingkan dengan mode verifikasi tanda terima tradisional, skema ini memiliki kelemahan: dalam mode tradisional, tiga dokumen berasal dari pihak ketiga yang tidak terkait; sedangkan dalam sistem pembayaran agen, dua dokumen—informasi yang dilaporkan agen dan tanda terima yang dihasilkan aplikasi—berasal dari perangkat lunak pengembang sistem itu sendiri. Satu-satunya dokumen eksternal yang benar-benar independen hanyalah catatan on-chain.
Selain itu, catatan on-chain itu sendiri membawa informasi yang sangat terbatas: tanda tangan pembayaran hanya akan mencatat pembayar, penerima, dan jumlah transfer, tidak termasuk informasi objek pembelian aktual. Metadata sumber daya, alamat akses, dan deskripsi konten akan dikirim bersama paket tanda tangan, tetapi tidak termasuk dalam cakupan verifikasi kriptografi.
Artinya, verifikasi ini hanya dapat mengonfirmasi bahwa konten yang dilaporkan agen konsisten dengan catatan transfer, tetapi tidak dapat memverifikasi apa yang sebenarnya didapatkan agen setelah membayar. Contoh: Agen menghabiskan 2 dolar AS untuk membeli laporan risiko pemasok, on-chain dapat mengonfirmasi USDT telah ditransfer; tetapi laporan yang diserahkan kepada agen mungkin hanya beberapa paragraf teks sampah yang dihasilkan AI dalam beberapa detik. Seluruh sistem masih akan lulus verifikasi, karena otorisasi terikat pada tindakan transfer, bukan pada objek pembelian itu sendiri.
Ini juga akan memicu masalah di tingkat pasar secara keseluruhan. Pembeli adalah program perangkat lunak, menerima hasil yang dikembalikan dan langsung melanjutkan operasi, tanpa secara aktif membedakan baik atau buruk. Agen tidak akan memanggil sistem reputasi, juga tidak akan membandingkan harga. Kecuali pengembang melakukan intervensi manual, terlepas dari kualitas pengiriman, agen akan terus memesan dari pedagang yang sama. Pemasok yang menyediakan layanan berkualitas tinggi kehilangan pelanggan yang bersedia membayar premi untuk produk berkualitas; seluruh pasar akan condong ke "penyedia biaya terendah yang dapat menyelesaikan permintaan".
Setiap sistem pembayaran hanya dapat mentolerir proporsi penipuan tertentu. Biaya untuk memberantas penipuan sepenuhnya akan melebihi kerugian yang ditimbulkan oleh penipuan itu sendiri. Sebagai contoh, tingkat penipuan di industri kartu kredit sekitar 7 basis poin, tingkat ini dianggap sebagai kisaran yang dapat diterima oleh industri; jika dipaksa menekan penipuan lebih lanjut, kerugian dari transaksi sah yang salah diblokir akan melebihi keuntungan dari menghindari penipuan.
Pembayaran agen di masa depan juga mungkin mengarah ke situasi yang sama: mengizinkan sebagian kualitas layanan yang buruk, mengandalkan skala besar transaksi mandiri untuk menyerap risiko. Logika ini masih masuk akal untuk skenario kecil seperti panggilan API, tetapi ketika sistem ini digunakan untuk menangani kontrak pembelian dalam skala puluhan ribu, sementara agen masih tidak dapat menilai apakah ia mendapatkan layanan yang sesuai dengan uang yang dibayarkan, risikonya sulit diterima.
Kerentanan yang Mulai Terungkap
Alat pemalsuan tanda terima berkembang lebih cepat daripada alat deteksi penipuan. Ramp baru-baru ini meluncurkan sistem akuntansi hutang usaha AI, yang dalam 90 hari pertama peluncurannya telah menandai banyak kasus dokumen palsu buatan AI. Emburse mengakui dalam penelitiannya bahwa sudah ada kasus pembuatan bukti biaya massal menggunakan AI.
Dalam skenario agen, risikonya akan semakin membesar. Setelah transaksi diselesaikan, tidak ada lagi orang yang meninjau ulang perilaku pembelian secara manual. Sebuah makalah akademis yang meneliti 15 infrastruktur pembayaran utama yang sudah beroperasi di pasaran menemukan bahwa semuanya memiliki kerentanan keamanan. Sistem ini menangani dana untuk puluhan ribu pedagang, dan kerentanan yang diungkap dalam makalah dapat direproduksi.
Akar logika serangan ini terletak pada pemisahan antara tindakan pembayaran dan pengiriman produk aktual. Dalam kasus serangan pada lapisan penemuan layanan, peneliti hanya perlu memanipulasi daftar server yang dikembalikan oleh kueri layanan untuk menginduksi agen mengakses titik akhir layanan berbahaya. Dari perspektif agen, layanan ini tidak berbeda dengan daftar normal, sama sekali tidak menyadari bahwa dirinya telah dialihkan.
Saat ini, sudah ada beberapa perusahaan startup yang mencoba mengatasi masalah ini. shturl.cc/P telah menyelesaikan pendanaan 9,5 juta dolar AS dan meluncurkan protokol KYA (Know Your Agent, Kenali Agen Anda). Protokol ini setara dengan KYC untuk program perangkat lunak: sebelum dana berpindah, pertama-tama membangun skor kepercayaan untuk agen mandiri, agen berisiko atau agen berbahaya yang belum diverifikasi langsung tidak dapat memasuki tahap pembayaran.
Namun, hanya dengan verifikasi identitas, tidak dapat mencegah situasi di mana pedagang itu sendiri berkualifikasi lengkap tetapi mengirimkan konten berkualitas rendah. Sardine.ai berfokus pada tingkat risiko perilaku, telah menyelesaikan pendanaan Seri C 70 juta dolar AS, produknya melakukan identifikasi penipuan berdasarkan profil transaksi lebih dari 2 miliar perangkat; sekarang mereka menerapkan agen AI di dalam tumpukan manajemen risiko mereka sendiri untuk menangkap berbagai perilaku tidak normal yang sulit ditemukan oleh sistem aturan statis.
Di jalur infrastruktur dasar, Nekuda.ai mendapatkan pendanaan 5 juta dolar AS. Proyek ini mengusulkan bahwa interaksi komersial antara agen dan agen tidak dapat menggunakan arsitektur lama transaksi manusia, perlu membangun SDK komersial khusus untuk transaksi antar perangkat lunak, model kepercayaan perlu dirancang secara native, bukan ditambal setelahnya.
Deteksi penipuan yang ada di pasaran saat ini hampir semuanya menempatkan objek pemeriksaan pada agen itu sendiri: apakah agen memalsukan tanda terima, apakah melebihi anggaran, apakah salah melaporkan pemasok. Namun, agen itu sendiri sebenarnya tidak memiliki motivasi ekonomi untuk memalsukan keuntungan. Pihak yang benar-benar memiliki motivasi untuk berbuat jahat adalah pedagang. Pedagang menghadapi pembeli yang merupakan program perangkat lunak yang tidak mengevaluasi kualitas layanan, tidak membandingkan harga, dan juga tidak secara aktif mengganti mitra kerja.
