OpenAI 将为欧盟地区 ChatGPT 和 Codex 生成文本添加不可见水印，以符合欧盟 AI 法案；API 开发者可选择开启。
OpenAI 周一在一篇博客文章中表示，为遵守欧盟《人工智能法案》，将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印。
欧盟《人工智能法案》的透明度规则于 8 月 2 日生效，要求 AI 公司以其他系统能够识别的方式标记 AI 生成内容。
OpenAI 表示，水印将在未来几周内陆续向欧盟符合条件的 ChatGPT 和 Codex 用户推出，覆盖所有套餐。全球各地使用 OpenAI API 的开发者从今天起可在部分模型中开启该功能，但默认关闭。OpenAI 表示，发布之初不会把文本水印设为全球默认功能。
水印不是实际可见的符号，而是通过微妙地调整模型的选词，在文本中留下读者看不见、检测器却能识别的模式。由于水印存在于文字本身，文本复制粘贴后它也会一同保留。OpenAI 表示，水印不会识别用户身份，开启后模型性能也没有出现明显变化。
OpenAI 还同步发布了该方法的技术报告，将其称为 textGrain。报告由宾夕法尼亚大学和耶鲁大学的研究人员共同撰写，并以一个例子说明如何利用密钥对下一个词的预测结果排序，从而完成句子。累积数百次这样的微调后，检测器只凭文本和密钥就能识别 AI 生成内容。
编辑文本能否移除水印？OpenAI 的测试结果表明可以。在一项测试中，将 10% 的词替换为同义词后，检测率从约 92% 降至 66%。该公司还表示，短文本、数学答案和翻译文本更难检测。
该公司表示：“这些局限促使我们只向获批的研究人员和专业机构开放初期检测器访问权限，以便他们帮助我们评估其可靠性和负责任的使用方式。”
OpenAI 也提醒，缺少水印“并不能证明内容由人类创作”。文本可能太短、经过大量编辑，也可能来自其他公司的 AI。
该公司表示：“水印可以表明某段文本的部分内容由 OpenAI 系统生成或处理，但无法说明其中投入了多少人类判断、编辑或创造力。”
这项公告发布前两个月，Anthropic 曾表示将为 Claude 生成的文本加水印，并计划在全球实施。该决定引发了一些 Claude 用户反弹，他们认为自己提供了“指令、上下文和决策”，Claude 只是“工具”。
《华尔街日报》在 2024 年报道称，OpenAI 此前已开发过文本水印，但曾暂缓发布，部分原因是担心用户会转向不加水印的竞争产品。
Anthropic、Google、Meta、Microsoft 和 OpenAI 等公司已承诺遵循相关自愿承诺。
来源：TechCrunch
