【Introduction】 C'est glaçant ! Une influenceuse australienne avec 3 millions d'abonnés a utilisé l'IA pour inventer de toutes pièces un orphelinat entier. Faux trophées, faux réfugiés, fausses bonnes actions, une arnaque caritative de manuel par IA, qui exploite intensément la générosité du public.
Un compte Instagram, près de 3 millions d'abonnés.
À l'écran, une femme blonde portant un voile sourit, entourée d'enfants africains, chacun tenant une sucette.
Elle crie joyeusement à la caméra, « Loué soit Allah, l'orphelinat est ouvert ! »
Elle a construit une mosquée, envoyé du pain à des réfugiés de Gaza, construit une nouvelle maison pour des orphelins en Ouganda — la bannière derrière elle affiche clairement le logo de la « Fondation Lily Jay ».
Des millions de musulmans l'ont prise pour idole, donnant de l'argent réel pour soutenir ses « bonnes œuvres à travers le monde ».
Et ensuite ?
La femme qui annonçait l'ouverture de l'orphelinat n'était pas la vraie Lily Jay. Les enfants tenant les sucettes étaient faux. La bannière de la fondation derrière elle était également fausse.
Chaque image était générée par IA.
Récemment, ABC NEWS Verify, le service de vérification de l'ABC, a démantelé toute la chaîne de production de faux par IA derrière ce « masque de déesse de la charité ».
La déesse de la charité, aspirant 3 millions d'abonnés
Lily Jay, une influenceuse australienne.
Sur les réseaux sociaux, elle a documenté avec éclat sa conversion à l'islam.
Ses cheveux blonds souvent couverts d'un voile, accompagnés de vidéos passionnées sur sa foi, lui ont valu près de 3 millions de fans fidèles parmi les musulmans du monde entier.
Puis, elle a fondé la « Fondation Lily Jay », qui a également reçu un écho massif.
La fondation affirmait, depuis septembre dernier, mener des actions caritatives dans quatre endroits : Népal, Gaza, Ouganda, Soudan : construire des mosquées, distribuer de la nourriture, organiser l'éducation.
À la fin de chaque vidéo, elle lançait des appels aux dons.
C'est ainsi qu'une image parfaite, croyante, charitable et sur le terrain, a été construite.
Sur le terrain des bonnes œuvres, les incohérences abondent
Mais le papier finit par se déchirer.
Dans cette vidéo de l'orphelinat ougandais, la femme qui crie, les enfants tenant des sucettes, la bannière derrière eux, tout était inventé par IA.
Plus flagrant, au dos du t-shirt d'un « membre du personnel de la fondation », une lettre L est apparue comme par magie. C'est précisément le type d'erreur orthographique typique des images générées par IA.
En suivant les pistes, les incohérences se multiplient.
En Ouganda, ouvrir un orphelinat sans enregistrement est illégal.
L'agence locale d'enregistrement a d'abord clairement répondu à l'ABC : cet orphelinat n'existe pas, que ce soit sous le nom de la fondation ou sous celui, « Ada Nur », indiqué sur le site web officiel.
Quelques jours après l'enquête de l'ABC, un enregistrement pour « Lilly Foundation Limited » est soudainement apparu, avec pour statut — « non conforme ».
Regardons maintenant ce trophée brillant.
En mai de cette année, un communiqué de presse annonçait que Lily Jay avait remporté le « Austral-Global Humanitarian Excellence Award 2026 », accompagné de deux photos d'elle recevant le prix.
L'analyse a révélé que les deux images portaient le filigrane invisible SynthID de ChatGPT — générées de bout en bout par IA.
Et l'agence de relations publiques Real Media Group, qui a publié ce communiqué, la qualifie tantôt de « cliente », tantôt la liste comme « cofondatrice » sur sa page équipe.
Quant à cette « boulangerie » supposément située à Gaza et spécialisée dans l'aide humanitaire, l'ABC n'a pu ni la localiser, ni trouver de preuve de son existence.
Les organisations humanitaires travaillant régulièrement à Gaza n'en avaient jamais entendu parler.
Une arnaque soigneusement conçue
Si vous pensez qu'il s'agissait seulement de quelques mises en scène, vous vous trompez lourdement.
Dans le coin le plus discret du site web de la fondation, se cache un aveu : ce n'est pas du tout une œuvre de bienfaisance.
Et la vraie Lily Jay — de son vrai nom Lily Jay Hinson, 31 ans, originaire d'Australie.
Elle a d'abord fait de la musique et de la danse, avant de se reconvertir en influenceuse islamique. Ses comptes sociaux affichent une vie de luxe : classe affaires, voitures de marque et bijoux coûteux, un train de vie mondain de globe-trotteuse.
Plus étrange encore, son compte personnel est géré depuis Chypre, tandis que le compte de la fondation est basé au Kosovo.
En fouillant les archives des entreprises, elle n'est même pas administratrice de la fondation.
Trois autres personnes occupent ce poste, dont l'une est liée à l'agence de relations publiques Real Media Group. L'ABC l'a appelé, il a reconnu être administrateur avant de raccrocher, et le site web de la société a rapidement été mis hors ligne.
L'action la plus révélatrice après l'enquête de l'ABC : les visiteurs australiens étaient redirigés vers une page locale où le bouton de don et la clause de non-responsabilité « cet organisme n'est pas une œuvre de bienfaisance » avaient disparu.
Cependant, depuis l'étranger, le canal de don restait ouvert. La vidéo de l'orphelinat et la page des faux prix ont été discrètement supprimées.
Tim Costello, ancien PDG de World Vision Australie, a mis le doigt dessus : Les photos d'enfants dans un orphelinat sont ce qui touche le plus le cœur des donateurs.
Pourquoi un statut caritatif non enregistré est-il dangereux ? Parce que la loi exige que les œuvres de bienfaisance régulières rendent publiques toutes leurs recettes et dépenses, pour que le public donne son argent en toute confiance.
C'est précisément cette règle que les escrocs veulent contourner.
C'est là que réside le plus grand danger. Aujourd'hui, l'IA n'est utilisée que pour inventer un orphelinat et soutirer des dons.
Mais quand les techniques de deepfake s'étendent à des domaines aussi sensibles que la charité et la confiance — des images réelles, des insertions fausses, des arrière-plans authentiques emballés dans une même vidéo, même les plateformes auront du mal à distinguer le vrai du faux.
Votre générosité a un prix, fixé par l'IA
Le plus dangereux dans la Fondation Lily Jay, c'est à quel point des millions de personnes étaient prêtes à croire qu'elle était authentique.
L'IA n'a trompé personne.
L'IA a simplement créé une illusion qui correspond parfaitement au désir des gens de « croire en la bonté » — une croyante pieuse, des enfants en attente de secours, une opération de sauvetage transfrontalière.
Tout cela « semble trop beau pour être vrai », alors le jugement rationnel s'est éteint collectivement.
Costello le dit avec gravité : les gens donnent volontairement, c'est une expression d'amour. Donc, vous ne devriez jamais la trahir, jamais.
La prochaine « Lily Jay » est peut-être déjà en route.
Elle ne s'appellera peut-être pas ainsi, ne portera pas de voile, ne parlera pas de foi.
Mais elle apparaîtra précisément là où vous êtes le plus disposé à croire en la bonté, avec l'histoire que vous voulez le plus entendre, en échange de ce que vous avez de plus précieux — votre confiance.
À une époque où l'IA peut produire en masse de la « réalité », la seule défense est de se poser une question de plus : est-ce que c'est vrai ?
Références : https://www.abc.net.au/news/2026-07-05/lily-jay-foundation-posts-ai-generated-misleading-videos/106866422
Cet article provient du compte WeChat public « 新智元 », auteur : ASI启示录 ; éditeur : 桃子
