Tác giả:Vaidik Mandloi
Biên dịch:Chopper,Foresight News
Ngày nay, các biên lai giả do AI tạo ra đã chiếm 71% trong tổng số các trường hợp gian lận chi phí bị đánh dấu, trong khi một năm trước, con số này là 0, và hiện phần lớn các hành vi gian lận này vẫn do con người thực hiện.
Giờ đây, chúng ta đã có các đại lý AI có thể phát hiện dịch vụ và thanh toán thông qua x402, tất cả đều không cần bất kỳ sự kiểm duyệt thủ công nào. Một vấn đề nan giải theo sau đó là làm thế nào để xác minh những gì các tác nhân thông minh này thực sự đã mua. Gần đây, OpenAI đã phát hành một hướng dẫn thực hành, đề xuất giải pháp để thực hiện xác minh biên lai và đối chiếu ba bên cho quy trình thanh toán.
Đây là giải pháp kiểm tra gian lận khả dụng nhất mà chúng ta có thể thấy hiện nay dành cho thanh toán đại lý. Bài viết này phân tích logic hoạt động hoàn chỉnh của cơ chế xác minh này: Bản ghi thanh toán trên chuỗi có thể chứng minh đại lý đã mua được sản phẩm tương ứng với đúng giá, từ nhà cung cấp chính thức không? Hay chỉ đơn giản chứng minh rằng tiền đã được chuyển đi?
Cơ chế kiểm tra gian lận
Các đại lý AI đã tự chủ thực hiện hành vi mua sắm. Một đại lý thông minh phụ trách nhiệm vụ mua hàng có thể trả phí cho API được ủy quyền để lấy dữ liệu, gọi khả năng tính toán của các mô hình lớn khác để xử lý dữ liệu mà bản thân không thể xử lý, hoặc mua thông tin tình báo thị trường đằng sau bức tường trả phí. Khi các giao dịch như vậy ngày càng nhiều, một câu hỏi then chốt nổi lên: Làm thế nào để xác minh thứ mà đại lý thực sự đã mua.
Ngày nay, tất cả các doanh nghiệp xử lý hoàn trả chi phí đều có một quy trình xác minh biên lai. Khi nhân viên hoàn tất việc mua hàng, họ nộp biên lai; bộ phận phải trả sẽ đối chiếu chéo ba tài liệu: biên lai, đơn đặt hàng và bảng sao kê ngân hàng, sau đó mới hoàn tất việc thanh toán.
Quy trình này đã được sử dụng trong nhiều thập kỷ, và lý do cốt lõi khiến nó hiệu quả là: Ba bản ghi xác minh đến từ các chủ thể độc lập khác nhau. Bên mua xuất đơn đặt hàng, bên kia phụ trách nhận hàng, nhà cung cấp xuất hóa đơn. Để làm giả, cần phải thông đồng để ba bên cùng tạo hồ sơ giả, và chi phí cao của sự thông đồng này đã ngăn chặn gian lận ở mức độ lớn.
Hiện tại, thanh toán đại lý thông minh đang xây dựng một quy trình kiểm tra tương tự. Khi một đại lý thông minh muốn thực hiện mua hàng từ một API trả phí, nó không thể trực tiếp hoàn tất giao dịch. Yêu cầu trước tiên sẽ được chuyển đến tầng ứng dụng, tầng ứng dụng kiểm tra dựa trên các quy tắc chi tiêu được cấu hình trước, bao gồm danh sách nhà cung cấp được phê duyệt trước, giới hạn ngân sách, danh mục hàng hóa tiêu dùng được phép. Một khi yêu cầu không tuân thủ quy tắc chính sách, giao dịch mua đó sẽ bị chặn ngay lập tức.
Sau khi thanh toán trên chuỗi được thực thi hoàn tất và đại lý thông minh nhận được dịch vụ tương ứng, tầng ứng dụng sẽ thực hiện vòng kiểm tra thứ hai, so sánh ba thông tin:
- Nội dung mua hàng do chính đại lý thông minh tự báo cáo
- Biên lai do ứng dụng tạo ra độc lập trong quá trình mua hàng
- Bản ghi thanh toán được tạo ra bởi chuỗi khối
Biên lai giả sẽ bị phát hiện ở bước này. Ngay cả khi đại lý thông minh khai báo sai rằng giao dịch đã không xảy ra, tầng ứng dụng đã lưu giữ bản ghi độc lập để đối chứng chéo.
Đối với việc phát hiện gian lận đại lý thông minh, đây đã là một bước tiến lớn, vì trước đó hoàn toàn không có phương pháp xác minh khả thi. Nhưng so với mô hình xác minh biên lai truyền thống, giải pháp này có điểm yếu: trong mô hình truyền thống, ba chứng từ đến từ các bên thứ ba không liên quan lẫn nhau; còn trong hệ thống thanh toán đại lý thông minh, hai chứng từ - thông tin báo cáo của đại lý, biên lai do ứng dụng tạo, đều đến từ phần mềm của chính nhà phát triển hệ thống này. Chứng từ bên ngoài thực sự độc lập duy nhất chỉ là bản ghi trên chuỗi.
Đồng thời, bản thân bản ghi trên chuỗi mang thông tin rất hạn chế: Chữ ký thanh toán chỉ ghi lại bên trả, bên nhận, số tiền chuyển, không bao gồm thông tin về đối tượng mua hàng thực tế. Siêu dữ liệu tài nguyên, địa chỉ truy cập, mô tả nội dung sẽ được truyền cùng với thông điệp chữ ký, nhưng không thuộc phạm vi được xác minh bằng mật mã.
Nói cách khác, việc xác minh này chỉ có thể xác nhận nội dung đại lý báo cáo và bản ghi chuyển tiền là nhất quán, nhưng không thể xác minh sau khi tiêu tiền, đại lý thực sự đã nhận được gì. Ví dụ: một đại lý tiêu 2 USD để mua một báo cáo rủi ro nhà cung cấp, trên chuỗi có thể xác nhận USDT đã được chuyển; nhưng báo cáo giao cho đại lý, có thể chỉ là vài đoạn văn bản vô nghĩa do AI tạo ra trong vài giây. Toàn bộ hệ thống vẫn sẽ kiểm tra thông qua, vì sự ủy quyền được ràng buộc với hành vi chuyển tiền, chứ không phải bản thân đối tượng mua hàng.
Điều này còn gây ra vấn đề ở cấp độ toàn thị trường. Người mua là một chương trình phần mềm, nhận được kết quả trả về là tiếp tục chạy, không chủ động phân biệt tốt xấu. Đại lý thông minh sẽ không gọi hệ thống uy tín, cũng không so sánh giá giữa các nhà cung cấp. Trừ khi nhà phát triển can thiệp thủ công, nếu không, bất kể chất lượng giao hàng cao hay thấp, đại lý thông minh sẽ tiếp tục đặt hàng từ cùng một nhà cung cấp. Nhà cung cấp dịch vụ chất lượng cao mất đi khách hàng sẵn sàng trả thêm cho sản phẩm chất lượng; toàn bộ thị trường sẽ nghiêng về phía "bên cung cấp có chi phí thấp nhất có thể hoàn thành yêu cầu".
Bất kỳ hệ thống thanh toán nào cũng chỉ có thể chịu đựng một tỷ lệ gian lận nhất định. Muốn loại bỏ hoàn toàn gian lận, chi phí bỏ ra sẽ cao hơn tổn thất do gian lận gây ra. Ví dụ, tỷ lệ gian lận trong ngành thẻ tín dụng vào khoảng 7 điểm cơ bản, mức này được ngành coi là khoảng chấp nhận được; nếu cố gắng giảm gian lận hơn nữa, thiệt hại do các giao dịch hợp pháp bị chặn nhầm sẽ vượt quá lợi ích thu hồi được từ việc tránh gian lận.
Thanh toán đại lý thông minh trong tương lai cũng có thể đi đến tình huống tương tự: cho phép tồn tại một phần thiếu sót về chất lượng dịch vụ, dựa vào quy mô khối lượng giao dịch tự chủ khổng lồ để tiêu hóa rủi ro. Logic này đặt trong các bối cảnh số tiền nhỏ như gọi API còn có thể chấp nhận được, nhưng khi hệ thống này được sử dụng để xử lý các hợp đồng mua sắm với quy mô hàng ngàn hàng vạn, trong khi đại lý thông minh vẫn không thể đánh giá liệu mình có mua được dịch vụ xứng đáng với giá tiền hay không, thì rủi ro rất khó chấp nhận.
Lỗ hổng đang lộ diện
Công cụ tạo biên lai giả đang phát triển với tốc độ vượt xa công cụ phát hiện gian lận. Gần đây, Ramp đã ra mắt một hệ thống phải trả bằng AI, trong 90 ngày đầu tiên đã đánh dấu một số lượng lớn trường hợp chứng từ giả do AI tạo ra. Emburse thừa nhận trong một nghiên cứu rằng đã xuất hiện tình trạng sử dụng AI để sản xuất hàng loạt chứng từ chi phí.
Đặt vào bối cảnh đại lý thông minh, rủi ro sẽ còn được phóng đại thêm. Sau khi giao dịch được thanh toán, sẽ không còn người xem xét lại hành vi mua hàng một cách thủ công. Một bài báo học thuật nghiên cứu về 15 cơ sở hạ tầng thanh toán chính đang hoạt động trên thị trường, tất cả đều tồn tại lỗ hổng bảo mật. Các hệ thống này xử lý tiền cho hàng chục ngàn nhà cung cấp, các lỗ hổng được tiết lộ trong bài báo đều có thể tái tạo.
Căn nguyên của logic tấn công này nằm ở việc hành vi thanh toán và việc giao hàng sản phẩm thực tế bị tách rời nhau. Trong trường hợp tấn công tầng phát hiện dịch vụ, các nhà nghiên cứu chỉ cần thay đổi danh sách máy chủ được trả về từ truy vấn dịch vụ, là có thể dụ đại lý thông minh truy cập vào điểm cuối dịch vụ độc hại. Từ góc nhìn của đại lý thông minh, dịch vụ này không có gì khác biệt so với danh sách bình thường, hoàn toàn không thể nhận ra mình đã bị chuyển hướng chiếm quyền.
Hiện đã có một số công ty khởi nghiệp thử giải quyết vấn đề này. shturl.cc/P đã huy động được 9,5 triệu USD, ra mắt giao thức KYA (Know Your Agent, hiểu đại lý của bạn). Giao thức này tương đương với KYC dành cho chương trình phần mềm: trước khi tiền được chuyển đi, trước tiên thiết lập điểm tin cậy cho đại lý tự chủ, các đại lý độc hại có rủi ro hoặc chưa được xác minh sẽ không thể bước vào giai đoạn thanh toán.
Nhưng chỉ dựa vào xác minh danh tính, không thể ngăn chặn trường hợp nhà cung cấp bản thân đủ tư cách nhưng giao hàng nội dung kém chất lượng. Sardine.ai tập trung vào khía cạnh rủi ro hành vi, đã hoàn tất vòng tài trợ Series C 70 triệu USD, sản phẩm dựa trên hồ sơ giao dịch từ hơn 2 tỷ thiết bị để nhận dạng gian lận; hiện họ triển khai đại lý AI trong ngăn xếp quản lý rủi ro của chính mình, dùng để phát hiện các hành vi bất thường khác nhau mà hệ thống quy tắc tĩnh khó phát hiện.
Trong lĩnh vực cơ sở hạ tầng nền tảng, Nekuda.ai đã nhận được 5 triệu USD tài trợ. Dự án này đề xuất rằng tương tác thương mại giữa đại lý thông minh với đại lý thông minh không thể tiếp tục sử dụng kiến trúc cũ của giao dịch giữa con người, cần xây dựng riêng SDK thương mại dành cho giao dịch giữa phần mềm, mô hình tin cậy cần được thiết kế gốc, thay vì vá lỗi và bổ sung sau.
Việc phát hiện gian lận hiện có trên thị trường hầu như đều đặt đối tượng kiểm tra vào chính đại lý thông minh: đại lý có làm giả biên lai không, có vượt chi không, có khai sai nhà cung cấp không. Nhưng bản thân đại lý thông minh, thực ra không có động cơ kinh tế để làm giả kiếm lời. Người thực sự có động cơ làm ác, là nhà cung cấp. Nhà cung cấp đối mặt với người mua là chương trình phần mềm không đánh giá chất lượng dịch vụ, không so giá, cũng không chủ động thay đổi đối tác.
