谷歌加大力度打击搜索结果中的AI Deepfakes

这家技术和搜索巨头周三表示，在遏制未经授权的人工智能生成的深度伪造的最新举措中，谷歌正在采取新措施，删除和降级据报道包含非法图像的搜索网站。

AI deepfake是使用生成式AI创建的媒体，用于制作看起来真实的视频、图片或音频片段。许多这些假照片描绘了女演员斯嘉丽·约翰逊等名人、美国总统乔·拜登等政客，以及更阴险的儿童。

谷歌在一篇博客文章中表示：“多年来，人们一直可以根据我们的政策要求从搜索中删除未经同意的虚假露骨图像。”。“我们现在已经开发了使这一过程更容易的系统，帮助人们大规模解决这个问题。”

谷歌发言人进一步向Decrypt解释说，此类报告将影响网站在其搜索结果中的可见性。

发言人说：“根据这项政策，如果我们收到一个网站的大量删除请求，这将被用作向我们的排名系统发出信号，表明该网站不是一个高质量的网站——我们将把它纳入我们的排名体系，以降级该网站。”。“从广义上讲，这不是我们限制搜索内容可见性的唯一方法。”

随着谷歌的新更新，当收到删除搜索中发现的未经同意的deepfake网站的请求时，谷歌还将努力过滤包含被冒充者姓名的类似搜索结果。

发言人说：“这意味着，当你根据我们的政策从搜索中删除结果时，此外，我们将对任何包含你的名字的查询——或者可能从搜索中显示该页面的查询——所有明确的结果都将被过滤。”。“因此，并非所有显式结果都会被删除，但所有显式的结果都会在这些搜索中过滤，这会阻止它们出现在可能出现的搜索中。”

除了过滤搜索结果外，谷歌表示，它还将降级那些“因虚假露骨图像而被大量删除”的网站

谷歌表示：“这些保护措施已被证明在处理其他类型的非自愿图像方面是成功的，我们现在也为虚假露骨图像建立了同样的功能。”。“这些努力旨在让人们更加安心，特别是如果他们担心未来会出现类似的内容。”

谷歌承认，新政策的一个挑战是确保双方同意或“真实内容”，如电影中的裸体场景，不会与非法的人工智能深度伪造一起被删除。

谷歌表示：“虽然区分这些内容对搜索引擎来说是一个技术挑战，但我们正在不断改进，以更好地展示合法内容，并降低显性虚假内容的排名。”。关于CSAM，谷歌发言人表示，该公司非常重视这个问题，并专门成立了一个团队来打击这种非法内容。

发言人说：“我们有散列技术，在技术上我们有能力主动检测CSAM。”。“这是一种全行业标准，我们能够阻止它出现在搜索中。”

今年4月，谷歌与Meta、OpenAI和其他生成性人工智能开发人员一起承诺实施护栏，防止各自的人工智能模型生成儿童性虐待材料（CSAM）。

随着谷歌努力删除并使deepfake网站更难找到，音频取证公司Media Medic的首席执行官本·克莱顿等deepfake专家表示，随着技术的发展，这种威胁仍将存在。

克莱顿告诉《解密》杂志：“打击深度假货是一个不断变化的目标。”。“虽然谷歌的更新是积极的，但它需要持续的警惕和对算法的改进，以防止有害内容的传播。在这与言论自由的需求之间取得平衡是棘手的，但保护弱势群体至关重要。”

Clayton表示，虽然深度造假会影响隐私和安全，但该技术也可能对法律案件产生影响。

他说：“Deepfakes可能被用来伪造证据或误导调查，这对我们的法律客户来说是一个严重的问题。”。“deepfakes干扰司法的可能性是一个关键问题，突显了先进检测技术和媒体道德标准的重要性。”

政策制定者还采取措施打击深度假货。7月，华盛顿州民主党参议员Maria Cantwell提出了《编辑和深度伪造媒体内容来源保护和完整性法案》（COPIED），该法案呼吁采用标准化的方法对人工智能生成的内容进行水印处理。

民主党参议员克里斯·库恩斯在一份声明中说：“每个人都有权拥有和保护自己的声音和肖像，无论你是泰勒·斯威夫特还是其他任何人。”。“生成型人工智能可以被用作培养创造力的工具，但这不能以未经授权利用任何人的声音或肖像为代价。”

娱乐业领袖和科技公司庆祝谷歌对其政策的更新。

SAG-AFTRA在一份对该措施表示赞赏的声明中表示：“从工作室和主要唱片公司到工会和艺术家倡导团体，整个娱乐行业都支持《禁止伪造法案》。”。“将所有这些团体聚集在一起实现同一个紧迫目标是一个里程碑式的成就。”

“游戏结束了，人工智能骗子，”SAG-AFTRA总裁Fran Drescher补充道。“将对未经授权的数字复制品的保护作为联邦知识产权，将使我们在这个勇敢的新世界中受到保护。”

由Ryan Ozawa编辑。