Perusahaan teknologi Australia, Apate, mengerahkan sejumlah besar karakter bot AI di seluruh dunia yang berperan sebagai korban penipuan yang mudah tertipu untuk membuang jutaan jam waktu para penipu setiap bulannya.
Yang lucunya, salah satu metrik kinerja bulanan perusahaan ini adalah berapa kali para penipu yang frustrasi memaki ‘korban’ bodoh yang berpura-pura bodoh dan mempermainkan mereka.
"Saya pikir kami satu-satunya perusahaan di dunia yang benar-benar memasukkan jumlah kata-kata makian (F-word) yang diucapkan para penipu kepada mereka sebagai bagian dari KPI mereka," kata pendiri Apate, Dali Kaafar, kepada Majalah dengan sedikit tertawa.
Perusahaan ini memiliki sekitar hampir 200.000 karakter AI yang mampu melakukan percakapan telepon yang meyakinkan serta mengobrol di platform media sosial dan perpesanan.
"Saya bisa katakan bahwa pada dasarnya kami melayani, sebutlah, ratusan ribu panggilan sehari, dan hampir ratusan ribu percakapan di saluran-saluran lainnya," katanya.
Setiap jam waktu penipu yang mereka buang adalah satu jam lagi di mana mereka tidak menipu anggota masyarakat. Dalam enam minggu menjelang akhir 2025, bot-bot Apate terlibat dalam 600.000 panggilan penipuan untuk satu penyedia telekomunikasi bernama TPG di Australia.
"Intinya, kami membuang lebih dari lima ratus hari waktu para penipu," jelasnya. "Itu kira-kira setara dengan penghematan sekitar tiga belas juta dolar."
Tujuan lain bot-bot ini adalah untuk mendapatkan intelijen yang dapat ditindaklanjuti bagi bank dan penyedia telekomunikasi untuk memerangi jaringan penipuan di seluruh Australia, Asia, Afrika, Inggris, dan Eropa.
Bot Apate berurusan dengan penipu melalui obrolan. Sumber: Apate
Memancing penipu dalam skala besar dengan korban AI
Kaafar mengatakan dia mendapatkan ide ini ketika menerima panggilan penipuan saat sedang piknik bersama keluarganya di Sydney pada November 2021.
Meski mengesalkan bagi istrinya, namun menyenangkan bagi anak-anaknya, dia mempermainkan si penipu selama 44 menit dengan berpura-pura menjadi orang bodoh yang mudah tertipu.
"Apa yang terjadi selanjutnya benar-benar seperti pertunjukan komedi penuh untuk anak-anak saya," katanya, menambahkan bahwa selama panggilan itu dia juga belajar banyak informasi yang berpotensi berguna tentang mekanisme penipuan dan taktik yang digunakan.
"Saat saya menutup panggilan itu, saya ingat berpikir dengan sangat jelas: jika saya bisa melakukan itu hanya untuk bersenang-senang, bayangkan apa yang bisa dilakukan teknologi dalam skala besar."
Bekerja sebagai profesor di Macquarie University saat itu, dia mengemukakan ide tersebut kepada beberapa mahasiswa doktoralnya yang sedang mengerjakan AI dan keamanan.
"Saya berkata, 'Teman-teman, pasti ada cara yang jauh lebih baik untuk melakukan ini. Mari kita bangun sesuatu yang benar-benar mengotomatisasi seluruh proses keterlibatan dengan penipu dalam skala besar, tetapi juga, mungkin yang paling penting, mengekstrak segala macam intelijen dari percakapan-percakapan ini.' Dan begitulah awalnya."
Terkait: Bot bertenaga AI mewakili kandidat yang absen dalam debat Virginia
Dalam beberapa bulan mereka telah mendapatkan pendanaan dari Kantor Intelijen Nasional untuk meneliti ide tersebut, dan proyek itu dipisahkan dari universitas menjadi Apate pada tahun 2023. Perusahaan kini bekerja dengan sebagian besar bank besar di Australia, serta banyak bank di Inggris, Afrika Selatan, dan Asia Tenggara.
Apate bukanlah satu-satunya perusahaan yang memancing penipu menggunakan bot AI — meskipun mereka melakukannya dalam skala yang lebih besar daripada kebanyakan. Penyedia telekomunikasi Inggris, O2, meluncurkan kampanye Nenek AI tahun lalu, yang membuat frustrasi para penipu dengan menghabiskan berjam-jam waktu mereka berbicara tentang 28 kucingnya. Itu juga merupakan kampanye iklan untuk memperingatkan masyarakat tentang bahaya panggilan penipuan.
Nenek AI O2 yang sangat menghibur. Sumber: 02
Menciptakan korban AI yang sempurna
Apate diluncurkan dengan 120 persona berbeda melintasi berbagai jenis kelamin, usia, dan kepribadian, dan sekarang memiliki 197.000 persona dengan kebiasaan vokal, aksen yang dapat dikenali, dan mereka membuat suara-suara yang sama seperti yang dilakukan orang ketika sedang berpikir apa yang akan dikatakan.
"Kami menghabiskan banyak waktu menyempurnakan dan membangun bot AI ini yang terdengar persis seperti Anda dan saya dan tetangga kita," katanya.
Model AI dilatih dengan "ratusan dan ratusan" jam rekaman percakapan antara pemancing penipu manusia dan para penipu, sehingga mereka dapat menggunakan strategi balasan.
"Mereka tahu bahwa mereka sedang berbicara dengan orang jahat, jika Anda mau, dan mereka benar-benar mengarahkan percakapan sehingga terdengar sangat, sangat realistis bagi penipu mana pun di luar sana, bahkan jika seorang penipu skeptis terhadap hal-hal tertentu."
Bot-bot itu dikirim ke WhatsApp dan Telegram untuk bertindak sebagai umpan (honeypot) bagi para penipu. Meskipun klise lama bahwa Anda tidak bisa menipu orang yang jujur tidak benar, masih sangat mungkin untuk mengeksploitasi keinginan penipu akan uang.
"Mereka adalah penjahat siber, sungguh. Saya pikir kita sering melupakan bahwa mereka adalah penjahat siber yang berusaha mendapatkan tabungan hidup orang. Jadi, unsur keserakahan itu terkadang juga dieksploitasi oleh bot kami."
Bot mengumpulkan intel berharga dari setiap panggilan penipuan
Di industri kripto, Apate bekerja untuk "salah satu pemimpin dalam analisis blockchain," yang mungkin atau mungkin bukan Chainalysis. Mereka tidak tertarik untuk membuang waktu para penipu — mereka menginginkan intelijen tentang dompet dan metode apa yang digunakan penipu sehingga mereka dapat melacak aliran dana.
"Bot-bot ini, saat mereka terlibat dalam berbagai percakapan, mengekstrak alamat dompet kripto baru dengan jumlah ratusan dan ribuan," katanya. "Ini adalah data dan intelijen yang datang tepat sebelum kerusakan mereka terjadi."
Penipuan adalah bisnis besar, dan pusat panggilannya "hampir seperti organisasi korporat," jelas Kaafar.
"Data ini sangat, sangat penting karena, secara harfiah, itulah akun baru atau dompet baru di mana Anda benar-benar perlu memberi perhatian ekstrem. Karena di sinilah... kompleks penipu ini mengumpulkan uang atau dana mereka."
"Bayangkan saja seperti selalu berada di depan taktik penipu. Dan semakin banyak yang Anda ketahui sebelum uang ditransfer, semakin baik."
Pada bulan Juli, bot-bot Apate mengungkap pasar untuk para broker yang mencari rekening bank terverifikasi di India, menawarkan komisi hingga 5% yang dibayar dalam USDT atas hasil penipuan yang melewati rekening-rekening tersebut.
Staf manusia Apate di Sydney. Sumber: Apate
Perlombaan senjata AI antara pihak baik dan jahat
Para penipu semakin banyak menggunakan bot AI sendiri, dan tidak akan lama lagi sebelum penipu AI menjadi seumum email spam. Menipu orang adalah bisnis senilai $1,24 triliun, jadi industri ini mampu membeli daya komputasi yang dibutuhkan untuk meningkatkan skala operasi.
Penelitian Apate menunjukkan bahwa sekitar 20% hingga 30% percakapan teks penipuan sudah menggunakan AI, tetapi Kaafar tidak terlalu khawatir dengan hasil pertarungan bot anti-penipu melawan bot penipu.
Dia mengatakan para peneliti mereka percaya bahwa bot AI yang bermain bertahan memiliki keunggulan, menurut teori permainan, karena mereka berusaha mengekstrak intelijen, sementara bot penipu berusaha membuat AI lainnya melakukan suatu tindakan.
"Anda juga bisa membuktikan secara matematis bahwa itu adalah keuntungan bagi pihak bertahan karena menjadi lebih mudah untuk mengekstrak intelijen dari model AI penyerang," katanya.
"Kita bisa membayangkan dunia di mana para penipu menjadi jauh lebih canggih dan menggunakan teknologi seperti itu. Tetapi itu juga berarti bahwa jika mereka melakukannya, mereka sebenarnya ditakdirkan kalah dalam permainan ini, yang merupakan kabar baik dalam memerangi penipuan."
Majalah: Agen membuang 14 jam waktu penipu, LLM 'dirusak' oleh Iran — AI Eye
