Công ty công nghệ Úc Apate triển khai một mạng lưới rộng lớn các nhân vật bot AI trên toàn cầu, đóng vai những nạn nhân dễ bị lừa để lãng phí hàng triệu giờ thời gian của bọn lừa đảo mỗi tháng.
Thú vị thay, một trong các chỉ số hiệu suất hàng tháng của công ty là số lần những kẻ lừa đảo bực tức chửi thề những ‘nạn nhân’ ngốc nghếch đang giả vờ khờ khạo và câu giờ chúng.
"Tôi nghĩ chúng tôi là công ty duy nhất trên thế giới thực sự đưa số lần những kẻ lừa đảo thốt ra những từ chửi thề vào chỉ số KPI của mình," người sáng lập Apate Dali Kaafar nói với Tạp chí với một tiếng cười khúc khích.
Công ty có một đội ngũ gần 200.000 nhân vật AI có khả năng duy trì các cuộc trò chuyện điện thoại thuyết phục và trò chuyện trên các nền tảng mạng xã hội và nhắn tin.
"Tôi có thể nói với bạn rằng về cơ bản chúng tôi đang xử lý, như cách chúng tôi gọi, hàng trăm nghìn cuộc gọi mỗi ngày, và cũng gần như hàng trăm nghìn cuộc trò chuyện trên các kênh khác," ông nói.
Mỗi giờ thời gian của một kẻ lừa đảo bị lãng phí là thêm một giờ chúng không thể lừa đảo một người dân. Trong sáu tuần tính đến cuối năm 2025, các bot của Apate đã tham gia 600.000 cuộc gọi lừa đảo cho riêng một nhà mạng tên là TPG tại Úc.
"Về cơ bản, chúng tôi đã lãng phí hơn năm trăm ngày thời gian của bọn lừa đảo," ông giải thích. "Con số đó tương đương với việc tiết kiệm được khoảng mười ba triệu đô la."
Mục tiêu khác của các bot là thu thập thông tin tình báo có thể hành động cho các ngân hàng và nhà mạng để chống lại các đường dây lừa đảo trên khắp Úc, Châu Á, Châu Phi và Vương quốc Anh cũng như Châu Âu.
Các bot Apate xử lý bọn lừa đảo qua chat. Nguồn: Apate
Đánh lừa lừa đảo quy mô lớn với nạn nhân AI
Kaafar nói ông nảy ra ý tưởng này khi nhận được một cuộc gọi lừa đảo trong lúc đang đi dã ngoại với gia đình ở Sydney vào tháng 11 năm 2021.
Để sự khó chịu của vợ nhưng là niềm vui của các con, ông đã câu giờ kẻ lừa đảo suốt 44 phút bằng cách giả vờ là một gã ngốc dễ tin đang sa bẫy lừa đảo.
"Điều tiếp theo thực sự đã trở thành một chương trình hài kịch trọn vẹn cho lũ trẻ nhà tôi," ông nói, đồng thời cho biết thêm rằng trong cuộc gọi, ông cũng đã học được rất nhiều thông tin có thể hữu ích về cơ chế của vụ lừa đảo và các chiến thuật được sử dụng.
"Khi tôi cúp máy cuộc gọi đó, tôi nhớ mình đã suy nghĩ rất rõ ràng: nếu tôi có thể làm điều đó chỉ để giải trí, hãy tưởng tượng xem công nghệ có thể làm được gì ở quy mô lớn."
Lúc đó đang làm giáo sư tại Đại học Macquarie, ông đã đề xuất ý tưởng này với một số nghiên cứu sinh tiến sĩ của mình đang làm việc về AI và an ninh.
"Tôi nói, 'Các bạn, phải có một cách tốt hơn nhiều để làm việc này. Hãy xây dựng một thứ gì đó thực sự tự động hóa toàn bộ quy trình thu hút bọn lừa đảo ở quy mô lớn, nhưng cũng, có lẽ quan trọng nhất, là trích xuất tất cả các loại thông tin tình báo từ những cuộc trò chuyện này.' Và đó chính xác là cách nó bắt đầu."
Liên quan: Bot hỗ trợ AI thay thế ứng cử viên vắng mặt trong cuộc tranh luận ở Virginia
Chỉ trong vài tháng, họ đã đảm bảo được tài trợ từ Văn phòng Tình báo Quốc gia để nghiên cứu ý tưởng, và dự án đã được tách ra từ trường đại học để thành lập Apate vào năm 2023. Công ty hiện làm việc với hầu hết các ngân hàng lớn ở Úc, cũng như nhiều ngân hàng ở Vương quốc Anh, Nam Phi và Đông Nam Á.
Apate không phải là công ty duy nhất dùng bot AI để đánh lừa bọn lừa đảo — mặc dù họ đang thực hiện điều đó trên quy mô lớn hơn hầu hết. Nhà mạng Vương quốc Anh O2 đã triển khai chiến dịch "Bà nội AI" vào năm ngoái, chiến dịch này làm bọn lừa đảo bực bội bằng cách chiếm hàng giờ thời gian của chúng để nói về 28 con mèo của bà. Nó cũng là một chiến dịch quảng cáo để cảnh báo công chúng về sự nguy hiểm của các cuộc gọi lừa đảo.
Bà nội AI rất thú vị của O2. Nguồn: 02
Tạo ra những nạn nhân AI hoàn hảo
Apate ra mắt với 120 nhân vật khác nhau thuộc các giới tính, độ tuổi và loại tính cách khác nhau, và hiện có 197.000 nhân vật với các tật giọng nói, giọng điệu có thể nhận dạng, và chúng tạo ra những âm thanh giống như con người khi đang cố nghĩ xem nên nói gì.
"Chúng tôi đã dành rất nhiều thời gian để tinh chỉnh và xây dựng những bot AI này sao cho nghe giống hệt bạn và tôi và hàng xóm của chúng ta," ông nói.
Các mô hình AI được huấn luyện dựa trên "hàng trăm và hàng trăm" giờ ghi âm các cuộc trò chuyện giữa những người đánh lừa lừa đảo bằng tay và bọn lừa đảo, để chúng có thể sử dụng các chiến lược phản công.
"Chúng biết rằng chúng đang nói chuyện với kẻ xấu, nếu bạn muốn, và chúng thực sự điều hướng các cuộc trò chuyện sao cho nghe rất, rất thực tế đối với bất kỳ kẻ lừa đảo nào ngoài kia, ngay cả khi một kẻ lừa đảo tỏ ra hoài nghi về mọi thứ."
Các bot được gửi đến WhatsApp và Telegram để đóng vai bẫy mật cho bọn lừa đảo. Trong khi câu nói sáo mòn rằng bạn không thể lừa một người trung thực là không đúng, thì vẫn rất có thể khai thác ham muốn kiếm tiền của kẻ lừa đảo.
"Chúng thực sự là tội phạm mạng. Tôi nghĩ chúng ta chỉ rất thường quên rằng chúng là tội phạm mạng đang cố gắng chiếm đoạt tiền tiết kiệm cả đời của mọi người. Và vì vậy yếu tố tham lam đó đôi khi cũng là thứ mà các bot của chúng tôi khai thác."
Bot thu thập thông tin tình báo giá trị từ mỗi cuộc gọi lừa đảo
Trong ngành công nghiệp tiền mã hóa, Apate làm việc cho "một trong những công ty dẫn đầu trong phân tích blockchain," có thể là hoặc không phải là Chainalysis. Họ không quan tâm đến việc lãng phí thời gian của bọn lừa đảo — họ muốn thông tin tình báo về ví nào và phương pháp nào bọn lừa đảo đang sử dụng để có thể theo dõi dòng tiền.
"Những bot này, khi tham gia vào các cuộc trò chuyện khác nhau, sẽ trích xuất hàng trăm và hàng nghìn địa chỉ ví tiền mã hóa mới," ông nói. "Đó là dữ liệu và thông tin tình báo đến ngay trước khi thiệt hại của chúng xảy ra."
Lừa đảo là một ngành kinh doanh lớn, và các trung tâm cuộc gọi "gần như là các tổ chức doanh nghiệp," Kaafar giải thích.
"Dữ liệu này rất, rất quan trọng bởi vì, chính xác mà nói, đó là tài khoản mới hoặc ví mới mà bạn thực sự cần phải chú ý cực kỳ. Bởi vì đây là nơi những... khu phức hợp lừa đảo đang thu thập tiền hoặc quỹ của chúng."
"Hãy nghĩ về nó chính xác là luôn luôn đi trước các chiến thuật của kẻ lừa đảo. Và bạn càng biết nhiều trước khi tiền được chuyển đi, thì càng tốt."
Vào tháng 7, các bot của Apate đã phát hiện ra một thị trường dành cho các nhà môi giới chào mời tài khoản ngân hàng đã xác minh ở Ấn Độ, đề xuất hoa hồng lên đến 5% được trả bằng USDT trên số tiền thu được từ các vụ lừa đảo đi qua các tài khoản này.
Nhân viên con người của Apate ở Sydney. Nguồn: Apate
Cuộc chạy đua vũ trang AI giữa phe tốt và phe xấu
Bọn lừa đảo ngày càng sử dụng chính các bot AI, và sẽ không quá lâu nữa trước khi những kẻ lừa đảo AI trở nên phổ biến như thư rác. Lừa đảo mọi người là một ngành kinh doanh trị giá 1,24 nghìn tỷ đô la, vì vậy ngành công nghiệp này có đủ khả năng trang trải lượng điện toán cần thiết để mở rộng quy mô hoạt động.
Nghiên cứu của Apate cho thấy khoảng 20% đến 30% cuộc trò chuyện lừa đảo qua tin nhắn văn bản đã sử dụng AI, nhưng Kaafar không quá lo lắng về kết quả của việc bot chống lừa đảo đấu với bot lừa đảo.
Ông nói các nhà nghiên cứu của họ tin rằng các bot AI đóng vai phòng thủ có lợi thế, theo lý thuyết trò chơi, bởi vì chúng đang cố gắng trích xuất thông tin tình báo, trong khi các bot lừa đảo đang cố gắng khiến AI kia thực hiện một hành động.
"Bạn cũng có thể chứng minh bằng toán học rằng điều đó có lợi cho người phòng thủ vì việc trích xuất thông tin tình báo từ mô hình AI của kẻ tấn công trở nên dễ dàng hơn," ông nói.
"Chúng ta có thể tưởng tượng một thế giới nơi bọn lừa đảo trở nên tinh vi hơn rất nhiều và triển khai công nghệ như vậy. Nhưng điều đó cũng có nghĩa là nếu chúng làm vậy, chúng thực sự bị coi là thua cuộc, đó là tin tốt trong cuộc chiến chống lừa đảo."
Tạp chí: Đặc vụ lãng phí 14 giờ thời gian của bọn lừa đảo, LLM bị 'đầu độc' bởi Iran — AI Eye
