Anthropic 周五发布了一篇博文，试图回答关于其如何为聊天机器人 Claude 生成的文本添加水印的一些基本问题。就在同一周，该公司宣布将在生成文本中添加水印，以遵守欧盟《AI 法案》。
Claude 用户们自公司本周早些时候透露这一计划以来一直在激烈讨论。在 Reddit 上，有人将此举描述为针对无辜 Claude 用户的阴谋，而另一些人则声称：「你唯一需要隐藏 AI 文本的原因就是你在作弊。」
Anthropic 的新博文首先概述了水印概念，解释说在进行「低风险选择」——比如在「a」和「an」之间选择，或是在「the」和「a」之间选择——时，AI 模型会有一组预设的偏好，这些偏好编码了水印信息。
「水印不会影响 Claude 输出的质量，」该公司表示。「对读者而言，带水印的回复与无水印的回复是无法区分的；对模型来说，水印生成过程几乎不增加计算成本，且完全免费。」
具体来说，Anthropic 表示将采用 Google DeepMind 团队在 2024 年提出的 SynthID-Text 方法，并计划在 Anthropic 开源许可下发布相关代码，以便安全研究人员和开发者能够测试和验证。
有人能通过重写文本来隐藏水印吗？Anthropic 表示这是可能的，但「轻度编辑可能无法完全移除水印」。不过，如果重写幅度足够大，水印确实可能消失——「当然，在后一种情况下，文本是否还能被称为 AI 生成的是有争议的，」该公司表示。
至于仅经过 Claude 校对或编辑的文本是否能检测出水印，Anthropic 表示这取决于「文本中被修改的部分与模型原始选择的比例」。代码文本的水印会比普通文本少，因为模型需要生成可运行的代码，在自由选择词汇方面受到限制。
「话虽如此，在代码中可以在任意选择特定词汇或术语的领域使用水印，例如变量名，」该公司表示。Anthropic 还表示，Claude 不会是唯一一个生成水印文本的 AI 聊天机器人，因为「其他主要模型开发商已签署了相同的《AI 法案》行为准则。」
来源：TechCrunch
