微软呼吁国会通过针对人工智能生成的deepfakes的新立法。微软副主席兼总裁Brad Smith强调，立法者迫切需要解决deepfake技术日益增长的威胁。
在最近的一篇博客文章中，Smith强调了调整法律以解决深度伪造欺诈和防止利用的重要性。史密斯认为，应该有一项法规，可以用来指控深度伪造的骗局和欺诈行为。
微软提出联邦深度伪造欺诈法规
根据微软的报告，可以采取几种法律干预措施来防止滥用deepfake技术。其中一项建议是制定联邦“深度伪造欺诈法规”这项新法律将处理合成内容欺诈的民事和刑事层面，并可能采取以下措施：刑事指控、民事扣押和禁令。
该报告还支持合成内容识别的要求。通过对先进来源工具使用的监管，公众将因此了解他们在网上收到的内容的来源。这对于数字信息的可信度和阻止假新闻的传播非常重要。
“国会应该要求人工智能系统提供商使用最先进的来源工具来标记合成内容。这对于建立对信息生态系统的信任至关重要，并将帮助公众更好地了解内容是人工智能生成还是操纵的。”Brad Smith
此外，微软建议修改目前关于剥削儿童和未经同意的露骨图像的法律，以涵盖人工智能生成的图像。这将保证法律框架与技术发展保持同步，从而保护易受影响的人群。
美国参议院最近在这方面采取了措施，通过了一项针对露骨色情deepfakes的法案。这项新法律允许非自愿性露骨AI deepfakes的受害者起诉内容的创作者。
美国联邦通信委员会对人工智能语音机器人电话说“不”
微软还对人工智能的滥用做出了回应，并加强了其产品的安全措施。该公司最近增强了Designer AI图像创建者，此前该漏洞被用来制作名人的淫秽照片。史密斯表示，私营部门需要采取措施确保人工智能不被滥用，而技术公司则有责任确保用户不受伤害。
美国联邦通信委员会已经采取行动，禁止在自动电话中使用人工智能语音，以防止人工智能的滥用。尽管如此，生成式人工智能在生成虚假音频、图像和视频方面仍在不断改进。最近，美国副总统卡玛拉·哈里斯的deepfake视频加剧了这一问题，该视频在社交媒体上传播，说明了deepfake技术日益增长的危险。
其他非营利组织，如民主与技术中心（CDT），也参与了打击deepfake滥用。正如CDT高级政策分析师Tim Harper所指出的那样，2024年标志着人工智能在选举中的关键转折点，人们需要为此做好准备。目前对deepfakes的抵制是可能是对技术操纵长期斗争的早期形式。
