【Dẫn nhập】Rùng mình! Một hot girl Úc có gần 3 triệu người theo dõi, lại dùng AI để bịa đặt ra cả một trại trẻ mồ côi. Giải thưởng giả, người tị nạn giả, hành thiện giả, một vụ lừa đảo từ thiện bằng AI đúng chuẩn giáo khoa, đang điên cuồng cướp đi lòng tốt của đám đông.
Một tài khoản Instagram, gần 3 triệu người theo dõi.
Trong ống kính, một phụ nữ tóc vàng đội khăn trùm đầu cười tươi như hoa, xung quanh là một nhóm trẻ em châu Phi, mỗi đứa cầm trên tay một chiếc kẹo mút.
Cô ấy reo hò trước ống kính, "Tạ ơn Allah, trại trẻ mồ côi đã khai trương"!
Cô ấy từng xây dựng nhà thờ Hồi giáo, phát bánh mì cho người tị nạn Gaza, xây nhà mới cho trẻ mồ côi tại Uganda - trên tấm biểu ngữ phía sau, logo "Quỹ Lily Jay" nổi bật một cách đặc biệt.
Hàng triệu tín đồ Hồi giáo coi cô như thần tượng, rút tiền thật, ủng hộ cô "làm việc thiện khắp nơi".
Và sau đó thì sao?
Người phụ nữ tuyên bố khai trương trại trẻ mồ côi đó, không phải Lily Jay thật. Những đứa trẻ cầm kẹo mút kia, là giả. Tấm biểu ngữ quỹ phía sau cô, cũng là giả.
Từng khung hình một, đều được AI tạo ra.
Gần đây, chuyên mục kiểm chứng ABC NEWS Verify của đài ABC, đã lột trần dây chuyền sản xuất làm giả bằng AI đằng sau lớp vỏ "nữ thần từ thiện" này.
Nữ thần thiện nguyện, hút 300 vạn fan
Lily Jay, một hot girl người Úc.
Trên mạng xã hội, cô ghi lại rất ồn ào quá trình cải đạo sang Hồi giáo của mình.
Mái tóc vàng thường xuyên được quấn trong chiếc khăn trùm đầu, kèm theo những video nói về đức tin với giọng điệu đầy nhiệt huyết, đã thu hút gần 3 triệu fan cứng trong cộng đồng Hồi giáo toàn cầu.
Tiếp theo đó, cô thành lập "Quỹ Lily Jay", cũng một hô trăm ứng.
Quỹ này tuyên bố, từ tháng 9 năm ngoái, họ đã và đang làm việc thiện tại bốn địa điểm: Nepal, Gaza, Uganda, Sudan: xây nhà thờ Hồi giáo, phát thức ăn, mở trường học.
Cuối mỗi video, cô đều kêu gọi công chúng quyên góp.
Nhân vật hoàn hảo - một tín đồ yêu đạo, yêu làm việc thiện, thân chinh ra tiền tuyến - đã được dựng lên như vậy.
Hiện trường thiện nguyện, sơ hở trăm bề
Nhưng giấy không thể gói được lửa.
Trong video về trại trẻ mồ côi ở Uganda kia, người phụ nữ reo hò, những đứa trẻ cầm kẹo mút, tấm biểu ngữ phía sau, tất cả đều do AI bịa đặt ra.
Để lộ hơn nữa, phía sau áo phông của một "nhân viên quỹ", bỗng nhiên xuất hiện thêm một chữ cái L. Đây chính là lỗi đánh vần điển hình nhất của hình ảnh do AI tạo ra.
Lần theo sợi chỉ, sơ hở càng ngày càng nhiều.
Tại Uganda, việc mở trại mồ côi mà không đăng ký là bất hợp pháp.
Cơ quan đăng ký địa phương ban đầu đã trả lời ABC rõ ràng: Không tìm thấy trại đó, dù dùng tên quỹ, hay tên trại mồ côi "Ada Nur" trên trang web chính thức.
Vài ngày sau khi ABC gửi thắc mắc đi, mới đột nhiên xuất hiện một đăng ký "Công ty TNHH Quỹ Lilly", nhưng tình trạng lại là - "Không tuân thủ".
Nhìn lại chiếc cúp lấp lánh kia.
Tháng 5 năm nay, một thông cáo báo chí thông báo Lily Jay giành được "Giải thưởng Xuất sắc Nhân đạo Austral-Global 2026", kèm theo hai bức ảnh cô nhận giải.
Phân tích phát hiện, cả hai bức ảnh đều mang dấu hiệu nhận biết vô hình SynthID của ChatGPT - hoàn toàn do AI tạo ra.
Còn công ty PR Real Media Group đăng thông cáo này, một mặt gọi cô là "khách hàng", mặt khác lại liệt kê cô vào mục "đồng sáng lập" trong trang nhóm của họ.
Về cái gọi là "tiệm bánh mì" mở ở Gaza, chuyên cung cấp hàng hóa nhân đạo, ABC vừa không định vị được, cũng không tìm thấy bất kỳ chứng cứ nào.
Các tổ chức nhân đạo làm việc lâu năm ở Gaza, hoàn toàn chưa từng nghe nói đến nó.
Một vụ lừa đảo được thiết kế tinh vi
Nếu bạn nghĩ đây chỉ là vài cảnh dàn dựng, thì bạn đã quá ngây thơ.
Ở góc khuất nhất của trang web chính thức của quỹ, giấu một lời thú nhận: nó hoàn toàn không phải là một tổ chức từ thiện.
Và Lily Jay thật sự - tên thật Lily Jay Hinson, 31 tuổi, đến từ Úc.
Trước đây từng làm âm nhạc và múa, sau này mới chuyển hướng thành hot girl Hồi giáo. Tài khoản mạng xã hội cá nhân của cô khoe khoang khoang hạng thương gia, xe sang và đồ trang sức đắt tiền, một cuộc sống giàu có bay vòng quanh thế giới.
Điều khả nghi hơn là, tài khoản cá nhân của cô hoạt động tại Síp, còn tài khoản quỹ thì đặt tại Kosovo.
Lục tung hồ sơ công ty, cô thậm chí không phải là giám đốc của quỹ.
Ba vị giám đốc khác là người khác, một trong số đó còn có liên quan đến công ty PR Real Media Group kia. ABC gọi điện đến, ông ta thừa nhận là giám đốc, sau đó cúp máy, không lâu sau trang web công ty cũng âm thầm tắt.
Điều đáng suy ngẫm nhất là thao tác sau khi ABC gửi thắc mắc: Khách truy cập từ Úc bị chuyển hướng đến trang địa phương, nút quyên góp và tuyên bố miễn trừ trách nhiệm "tổ chức này không phải từ thiện", cùng biến mất.
Tuy nhiên khi truy cập từ nước ngoài, kênh quyên góp vẫn mở cửa như cũ. Video trại mồ côi, trang giải thưởng giả, thì bị xóa một cách âm thầm.
Tim Costello, cựu CEO World Vision Australia, chỉ ra đúng trọng tâm: Hình ảnh trẻ em trong trại mồ côi, có sức lay động mạnh nhất trái tim của người quyên góp.
Tại sao tư cách từ thiện chưa đăng ký lại nguy hiểm? Bởi vì theo luật, tổ chức từ thiện chính quy phải công khai từng khoản thu chi, để công chúng yên tâm giao đi lòng tốt của mình.
Quy tắc này, lại chính là điều kẻ lừa đảo muốn tránh nhất.
Đây mới là điểm đáng sợ nhất. Ngày nay, AI chỉ được dùng để bịa đặt một trại mồ côi, lừa một khoản tiền thiện.
Nhưng khi phương thức deepfake lan rộng đến những lĩnh vực mềm yếu nhất như từ thiện, lòng tin - cảnh quay thật, chèn vào giả, bối cảnh thật được đóng gói chung trong một video, ngay cả nền tảng cũng khó phân biệt thật giả.
Lòng tốt của bạn, đang bị AI định giá rõ ràng
Điểm nguy hiểm nhất của Quỹ Lily Jay, nằm ở việc có hàng triệu người sẵn sàng tin nó là thật đến nhường nào.
AI không lừa ai cả.
AI chỉ tạo ra một ảo ảnh khớp với mong muốn "muốn tin vào điều thiện" của mọi người - một tín đồ ngoan đạo, một nhóm trẻ em đang chờ đợi cứu trợ, một cuộc giải cứu xuyên biên giới.
Tất cả những điều này "cảm giác quá tuyệt vời", vì vậy phán đoán lý tính đồng loạt tắt nguồn.
Costello nói rất nặng: Mọi người tự nguyện quyên góp, là đang bày tỏ tình yêu. Vì vậy, bạn không bao giờ nên phụ lòng nó, không bao giờ nên.
"Lily Jay" tiếp theo có thể đang trên đường.
Cô ấy có thể không tên này, không trùm khăn đầu, không bàn về đức tin.
Nhưng cô ấy chắc chắn sẽ xuất hiện chính xác ở nơi bạn sẵn sàng tin vào điều thiện nhất, dùng câu chuyện bạn muốn nghe nhất, đổi lấy thứ quý giá nhất của bạn - sự tin tưởng của bạn.
Trong thời đại AI có thể sản xuất hàng loạt "sự thật" này, phòng tuyến duy nhất, là hỏi thêm một câu: Đây có thật không?
Tài liệu tham khảo: https://www.abc.net.au/news/2026-07-05/lily-jay-foundation-posts-ai-generated-misleading-videos/106866422
Bài viết từ tài khoản công chúng WeChat "Tân Trí Nguyên", tác giả: ASI Khải Thị Lục; Biên tập: Đào Tử
