# 深度伪造的所有文章

在 HTX 新闻中心浏览与「深度伪造」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

300万粉女神全是AI合成，伪造孤儿院，跨国「假慈善」一夜塌房

澳洲网红Lily Jay（本名Lily Jay Hinson）被曝利用AI技术伪造跨国慈善活动，骗取公众捐款。其运营的“Lily Jay基金会”在社交媒体拥有近300万粉丝，发布大量在尼泊尔、加沙、乌干达等地行善的视频，包括建造孤儿院、清真寺和发放物资。调查发现，多个关键视频内容为AI生成。例如，乌干达孤儿院开张视频中的人物、儿童及横幅均为伪造，图像中出现AI典型的拼写错误。所谓的孤儿院在当地并无合法注册。基金会官网曾隐晦声明自己并非慈善机构。此外，其宣称获得的人道主义奖项及领奖照片也被检测出AI生成水印。在加沙的“面包房”项目无法被当地机构证实。基金会的运营架构也存在疑点，个人账号与基金会账号分处不同国家，且Lily Jay本人并非基金会董事。事件曝光后，相关网页对澳大利亚访问者隐藏了捐款按钮和免责声明，但海外通道仍开放。专家指出，此类骗局利用人们行善的愿望和AI制造的逼真幻象，规避正规慈善的财务透明要求，严重透支社会信任。报道警示，随着AI伪造技术发展，公众需对过于完美的慈善叙事保持警惕，多方核实信息真伪。

marsbit07/21 12:57

marsbit07/21 12:57

惊天巨骗，一夜刷爆全球榜单的「神秘实验室」，竟然是假的

2026年7月18日，一个名为“Basalt Labs”的神秘中国AI实验室突然宣称发布了世界第一的Monolith-1.0模型，其公布的参数规模（1.6万亿）和多项基准测试成绩（如HLE 99.44%）均极为惊人，迅速引发全球AI圈轰动。然而，狂欢仅持续数小时便被反转。开发者们发现，其Hugging Face仓库中的权重文件实为重复填充的虚假文件，网页演示则被证实是套用了DeepSeek的API。项目背后的操盘手Max Scherf随后发布视频承认，这是一场精心策划的“社会实验”。他通过微调Qwen2.5-7B模型“背诵”公开测试集答案来刷榜，并伪造了官网、论文、团队背景等全套物料进行病毒式营销，旨在讽刺AI行业盲目崇拜参数和跑分、缺乏实质审查的现状。这场骗局虽然揭穿了行业泡沫，但被用作“替身”的Qwen和DeepSeek等中国AI模型，其真实的推理能力也因此得到了另类印证。

marsbit07/20 02:48

marsbit07/20 02:48

刚刚，DeepMind经典巨作再封神，ICML 2026大奖公布

ICML 2026大奖公布，两篇扩散模型研究获得杰出论文奖。其中一篇来自清华团队，指出扩散语言模型的“任意顺序生成”优势在实际中可能成为降低性能的“灵活性陷阱”；另一篇提出了针对扩散模型和对数凹分布的高精度采样方法，提升了技术天花板。这表明扩散模型研究正进入深入审视和夯实基础的阶段。一篇关于AI安全的立场论文获得杰出论文奖，尖锐指出当前的对齐研究（如RLHF）无意中正在构建一套可能被用于内容审查的工具箱，引发了学界对技术伦理的反思。另有五篇研究获得杰出论文荣誉提名，涉及主题包括：探测模型中诚实性的涌现位置、视频生成的运动归因、语言模型的记忆能力、扩散模型一致性的随机矩阵理论解释，以及在岭回归中严格证明“顿悟”现象。一篇关于深度伪造研究忽视AI生成非自愿亲密图像的论文也获得立场论文荣誉提名。时间检验奖授予了DeepMind团队2016年的经典论文《深度强化学习的异步方法》（A3C），其异步训练思想影响深远。整体来看，ICML 2026获奖名单显示，扩散模型是当前研究焦点，同时AI安全与伦理问题获得了前所未有的严肃审视，标志着AI研究从快速扩张转向深度反思与夯实基础的新阶段。

marsbit07/06 02:37

marsbit07/06 02:37

如何判断AI视频真假？综述动态、可溯源、可解释的检测体系

随着AI生成视频技术（如Sora、Veo等模型）的飞速发展，生成内容的逼真度已大幅提升，对虚假视频的检测变得日益困难且紧迫。传统仅输出“真假”二分类的检测方法已无法满足需求，检测目标应重新定义为“事实保真度验证”，即核查视频内容在感知和认知层面是否与真实世界一致。本文综述了AI生成视频检测领域的最新进展。首先，将AI生成视频分为三类范式：局部操控视频、跨模态音视频编辑和端到端生成式视频合成。针对检测，提出了一个从低层到高层的四层方法框架： 1. 底层视觉线索分析：检测像素异常、生理信号等底层伪迹。 2. 时空一致性分析：核查视频在时间和空间上的连续性与合理性。 3. 跨模态一致性分析：验证视频内画面、声音、文字等多模态信息是否对齐。 4. 语言引导的世界级推理：引入外部知识，判断视频内容是否符合常识、物理规律和事实。检测方法的演进趋势是从依赖视觉线索（第1、2层）逐步转向结合语言和多模态推理（第3、4层）。评测体系也需相应发展，不仅评估分类准确率，更要关注模型判断的可解释性、证据的可靠性以及在真实复杂环境下的鲁棒性。未来的可信检测系统需要协同视觉与语言双视角，建立“识别-定位-解释”的清晰推理路径，并将内容分析与来源追溯相结合。这需要计算机视觉、自然语言处理、多模态理解等领域的共同努力，构建动态、可溯源、可解释的检测体系，以应对日益严峻的AI生成视频挑战。

marsbit06/26 07:27

marsbit06/26 07:27

AI已经开始伪造地方媒体了

美国调查媒体《佛罗里达论坛报》披露，南佛罗里达一家名为《南佛罗里达标准报》的地方新闻网站实为由AI批量生成的伪媒体。该网站配有AI生成的虚假记者头像、履历和邮箱，内容则取自真实媒体经AI改写后发布。调查发现，该网站并非孤例，其幕后运营方在全美共搭建了至少17个类似AI新闻站，生成超3500个网页，吸引约4.4万名访客。调查追溯至费城在线声誉管理公司“发现力公司”及其创始人德鲁·查平。查平曾因欺诈罪被定罪，现业务包括帮助客户用“反向叙事”掩盖网络负面记录。他承认这些网站是建立“搜索引擎权威”的实验，并演示了仅用10美元域名和AI提示词，就能在15分钟内生成一个包含虚假团队和文章的“新闻网站”。专家指出，这类被称为“粉红泥”的虚假网站在美国数量已超过本地日报，它们利用传统新闻业衰落留下的真空，意图操纵舆论。AI技术加剧了此问题，不仅威胁原创媒体生存，若下一代AI模型用此类低质信息训练，还将污染整个互联网信息生态。该事件凸显了AI滥用对新闻真实性和公共讨论的严重威胁。

marsbit05/16 03:39

marsbit05/16 03:39

这一次，OpenAI干掉了90%人类设计师

OpenAI发布新一代图像生成模型GPT-Image 2，标志着AI绘图从“画得像”迈入“逻辑对”的新阶段。该模型具备思维建模能力，能在生成图像前进行逻辑推理，例如准确计算里程、匹配地理信息并遵循UI规范。其图像质量在多项评测中登顶，可生成包含精准中文、复杂构图和商业级设计的图像，成本仅需几美元。模型支持多轮对话修改，通过Responses API实现自然交互，显著提升了汉字渲染能力，几乎杜绝了以往常见的乱码问题，但仍存在小字模糊等技术局限。尽管在处理极端复杂任务时可能出现延迟，且面临深度伪造的伦理挑战，GPT-Image 2已被视为可直接投入商业应用的生产力工具，可能对90%的设计师岗位造成冲击。

marsbit04/23 10:03

marsbit04/23 10:03

20 美元一张脸，加密KYC的「地下」生意经

本文揭露了加密行业中围绕KYC（了解你的客户）验证形成的地下产业链。由于地区限制或审核延迟，许多用户无法通过正规途径完成验证，催生了黑市KYC账号交易。据安全公司报告，地下KYC市场参与者超50万人，涉及Coinbase、Kraken等主流平台，账号售价20-500美元不等。攻击手段包括屏幕伪造、摄像头劫持和AI换脸，成本低至10美元。调查者通过Telegram联系到一名KYC中间商，其TRON地址两年处理600笔交易，流水约6万美元。另一名经营五年的“生意人”猫鲤透露，其服务覆盖数十个平台，客户包括专业团队，通过招募“老外”完成认证并支付少量报酬。他称此为“三方共赢”，但承认存在账号被找回或法律风险。尽管KYC旨在合规，但地下市场表明其实际效果有限，反而成为筛选工具而非安全屏障。行业面临系统性漏洞，需平衡合规成本与风控实效。

marsbit03/30 07:36

marsbit03/30 07:36

加拿大加强选举安全措施，加密货币捐赠面临禁令

加拿大政府提出《强大而自由的选举法案》，禁止政党及第三方选举团体接受加密货币、汇票和预付卡等政治捐款，理由是这些支付方式难以追踪，可能被外国势力利用以秘密资金干预选举。违规者将面临高额罚款，个人最高罚2.5万加元，企业最高10万加元，并需退还或上缴资金。该法案还针对AI生成的深度伪造内容，限制误导选民的虚假信息传播。这是加拿大第二次推动此类禁令，此前类似法案于2024年未能通过。法案需经议会多轮审议和总督批准才能生效。英国同日也宣布了类似措施，反映西方民主国家对匿名数字支付影响选举的担忧加剧。

bitcoinist03/30 00:02