OpenAI因担忧推迟发布AI检测工具

OpenAI推迟了其备受期待的工具的发布，该工具旨在检测其ChatGPT模型生成的文本。据报道，由于可能影响用户体验和生态系统的问题，发布已被推迟。

《华尔街日报》称，OpenAI在过去的一年里一直在准备发布该工具，但由于风险和各种问题，它还没有这样做。推迟工具发布的选择似乎也与用户的输入有关。在OpenAI进行的一项民意调查中，他们发现，近三分之一的忠实ChatGPT用户可能会被反作弊技术的引入所吓倒。

反作弊工具的功能

根据民主与技术中心的数据，59%的中学和高中教师认为学生在作业中使用了人工智能，比上一年有所增加。

反作弊工具的工作原理是在人工智能编写的文本中嵌入水印。即使这个水印肉眼不可见，OpenAI的检测技术也能检测到它。该工具提供了一个分数，表示给定文本由ChatGPT编写的概率。据说这种水印技术几乎是完美的，因为内部文件显示它有99。当ChatGPT产生大量内容时，效率为9%。

然而，关于该工具提出了一些问题。一个主要问题是，这可能对那些不是英语母语的人不利。有些人担心水印可能没有达到应有的效率，或者可能会将英语技能较差的作者的其他作品标记为抄袭。此外，批评者表示担心，通过翻译或插入和删除表情符号，水印可能会被擦除或操纵。

另一个问题是应该允许谁使用检测工具。限制访问可能会降低水印方法的适用性；然而，允许自由访问可能会使该方法无效。

其他科技巨头也开发了类似的解决方案

尽管OpenAI尚未实现文本反作弊工具，但该公司已经开始在音频和视频输出中应用水印。这些多媒体格式被该公司视为优先事项，因为人工智能生成的deepfakes比基于文本的内容具有更高的风险。

其他科技公司也在开发类似的解决方案。例如，谷歌还推出了自己的水印解决方案SynthID，目前仍处于测试阶段。然而，OpenAI将音频和视觉水印置于文本之上，因为前者的影响更为严重，可能发生在选举年等关键时期。

这一消息发布之际，埃隆·马斯克（Elon Musk）再次出庭起诉OpenAI，指控该公司及其创始人萨姆·奥特曼（Sam Altman）和格雷格·布罗克曼（Greg Brockman）偏离了创造人工智能以改善人类的最初目标。