(记者郑典编译报道) 据《Engadget》2024年8月5日（周一）。
示意图。(图片来源 : Jernej Furman from Slovenia/Wikimedia/CC BY-SA 2.0)
《华尔街日报》报导OpenAI开发了一款可以高精度识别ChatGPT撰写的文章的工具，随后该公司分享了一些有关其文本水印研究的信息，以及为什么它没有这样做没有公布其检测方法。尽管该工具已经「准备就绪」，但关于是否应该发布该工具的争论使其未能面世。TechCrunch发现，OpenAI在周日发布的5月份部落格文章的更新中表示，「我们的团队已经开发了一种文字水印方法，我们在研究替代方案时将继续考虑该方法。」
该公司表示，水印是包括分类器和元数据在内的多种解决方案之一，它已将其视为「文本来源领域广泛研究」的一部分。根据OpenAI的说法，它在某些情况下「非常准确」，但在面对某些形式的篡改时表现不佳，「例如使用翻译系统、用另一个生成模型重新措辞，或者要求模型插入特殊的文字。每个单字之间都有一个字符，然后删除该字符。」OpenAI 写道，文字水印可能「对某些群体产生不成比例的影响。例如，它可能会污蔑人工智能作为非英语母语人士的有用写作工具的使用。」
根据其博客文章，OpenAI一直在权衡这些风险。该公司还写道，已优先发布视听内容的身份验证工具。OpenAI发言人在给 TechCrunch 的声明中表示，该公司正在对文本来源采取「深思熟虑的方法」，因为「涉及的复杂性及其可能对OpenAI之外更广泛的生态系统产生影响」。
原文连结
