旧金山市检察官David Chiu宣布，他的办公室正在对16家网站提起诉讼，这些网站使用人工智能开发和分发非安全深度伪造的女性和女孩裸体图像。这是在人们更加关注人工智能非自愿图像的创建和分发之际发生的。
这是旧金山首例此类诉讼，指控网站运营商违反了州和联邦法律，这些法律谴责深度伪造色情、儿童色情和报复性色情材料，以及加州的不公平竞争法。
邱想对这种不良行为发出警告
据《纽约时报》报道，该倡议是首席副检察官Yvonne Mere的想法，她召集同事们起草了一份诉讼，该诉讼应导致16个网站关闭。
周四向公众提供的诉讼副本中，这些网站的名称受到了审查。
虽然检察官办公室尚未确定大多数网站的所有者，但该办公室的官员对找到网站所有者的姓名并追究其责任表示乐观。
在周四的新闻发布会上，邱说，这些网站在没有照片中人物共识的情况下制作了“色情”材料。
邱暗示，该诉讼旨在关闭这些网站，并对这种形式的“性虐待”发出警报，并结束这种行为。
“这项调查把我们带到了互联网最黑暗的角落，我对那些不得不忍受这种剥削的妇女和女孩感到非常震惊。”邱。
在上述网站上，用户上传穿着得体的真人照片，然后人工智能会改变照片以模仿这个人裸体的样子。
正如诉讼所指出的那样，其中一个网站宣传了这些图像的非自愿性质，声称：“想象一下，当你可以使用[编辑后的网站名称]来获取她的裸体时，浪费时间带她出去约会。”
开源人工智能模型的可用性和可访问性意味着任何人都可以根据自己的目的访问和调整人工智能引擎。这导致创建了可以从头开始生成deepfake裸体或以逼真的方式“裸体”现有照片的网站和应用程序，通常需要付费。
旧金山并不是见证这一挑战的唯一地方
今年1月，泰勒·斯威夫特的假裸照在网上疯传，deepfake应用程序成为头条新闻。斯威夫特前后，许多其他不太受欢迎的人都受到了迫害。
邱承认，从名人到中学生，“这些照片的泛滥已经剥削了全球数量惊人的妇女和女孩”。
通过自己的调查，市检察官办公室发现，今年上半年，这些网站的访问量超过2亿次。该办公室表示担心，一旦图像上传到网上，受害者就很难确定哪些网站被用来“裸体”他们的照片。
这是因为这些图像没有任何独特的或可识别的标记，人们可以参考这些网站。此外，受害者也很难从互联网上删除照片，这会影响他们的自尊和数字足迹。
今年早些时候，五名比佛利山庄八年级学生因生成和分享16名八年级女孩的deepfake裸体图像，将女孩的脸叠加到人工智能生成的身体上而被开除。
邱的办公室表示，在加利福尼亚州、新泽西州和华盛顿州的其他学校也发现了类似的事件，这些照片被用来羞辱、欺凌和威胁妇女和女孩。
律师办公室表示，对受害者的净影响是破坏他们的声誉，遭受心理健康，失去自尊，在某些情况下，导致个人自杀。
