OpenAI在欧盟上线文本水印，编辑可降低检测率

10月6日消息，据TechCrunch报道，OpenAI 于周一在一篇博客文章中表示，为遵守《欧盟人工智能法案》，该公司将在欧盟地区为 ChatGPT 和 Codex 生成的文本添加隐形水印。 OpenAI 称，未来几周内，该水印功能将面向欧盟范围内所有套餐符合条件的 ChatGPT、Codex 用户逐步上线。全球其他地区调用 OpenAI 应用程序接口（API）的开发者，从即日起可针对指定模型手动开启该功能；功能默认处于关闭状态。OpenAI 表示，本次推出时不会将文本水印设置为全球默认选项。 该水印并非看得见的符号，而是通过微妙调控模型选词逻辑形成一种人类肉眼不可见、但检测器可以识别的模式。水印内嵌于文本本身，复制粘贴之后会随文本一同流转。OpenAI 强调，这套水印不会识别用户身份；开启水印后，模型性能没有出现明显变化。 发布公告的同时，OpenAI 还公开了这套名为textGrain水印方案的技术报告。报告由宾大和耶鲁大学研究人员联合撰写，演示了如何利用密钥对下一词预测进行排序来完成句子生成。经过数百次这类微调，检测器仅凭文本与密钥，就能够识别 AI 生成内容。 编辑操作能否去除水印？ OpenAI 测试给出的答案是可以。一项测试显示，将 10% 词汇替换为同义词后，检测准确率从约 92% 下降至 66%。官方同时提到，短文本、数学答案以及翻译文本的识别难度更高。 公司表示：“正是存在这些局限，所以初期仅向经过审核的研究人员与专业机构开放检测器权限，由他们协助评估可靠性以及合规使用场景。” OpenAI 同时作出提示：没有检测到水印，并不能证明内容由人类撰写。有可能是文本过短、经过大量改写，抑或是内容出自别家 AI 产品。 “水印仅能够提示某段文本部分内容由 OpenAI 系统生成或处理，但无法体现其中包含多少人类判断、人工编辑以及创造性加工。” 该公司如是说。 就在两个月前，Anthropic 宣布将为 Claude 生成文本添加水印，并在全球落地该功能。这一举措遭到部分 Claude 用户的反对，用户认为提示词、上下文、决策逻辑都是由人提供，Claude 仅仅只是工具。 据《华尔街日报》2024 年报道，OpenAI 此前就开发过一套文本水印系统，但迟迟没有对外发布，部分顾虑在于用户会转投不加水印的竞品。