Anthropic 的 Claude 使用准则明令禁止生成露骨色情内容，但 TechCrunch 测试发现，该公司今年早些时候发布的 Opus 4.6 模型在 10 次直接请求中全部配合生成了色情内容。一名英国独立研究者发现了一种多轮对话越狱技术，能够逐步引导模型产出受限内容。
Anthropic 的通用使用标准禁止 Claude 模型生成露骨色情内容，包括描绘或要求性交行为、生成与性癖好或幻想相关的内容，以及进行色情对话。但这并未阻止 Anthropic 今年早些时候发布的 Claude Opus 4.6 模型轻易地参与本应被其安全措施阻止的色情角色扮演场景。
在 TechCrunch 的测试中，Opus 4.6 甚至不需要过多引导就能绕过对色情内容的限制。在 10 次直接要求生成露骨色情内容的请求中，模型每次都立即配合。
其他较旧模型，包括 Opus 3 和 Haiku 4.5，也通过一种最近被利用的越狱方法生成了色情内容。
一名选择匿名的英国独立研究者独家向 TechCrunch 分享了一种多轮对话技术，该技术能逐步推动某些 Claude 模型生成被禁止的露骨色情内容。较新的 Opus 模型（4.7 到当前 Opus 5）对该越狱方法具有抵抗力。
虽然这些模型已不再是 Anthropic 的最新版本，但 Anthropic 并未弃用 Opus 4.6、Opus 3 或 Haiku 4.5，这些模型仍可通过 Anthropic API 使用。Opus 4.6 和 Haiku 4.5 还通过 Azure Foundry 和 Amazon Bedrock 等第三方服务提供。
研究者的越狱机制从一段无害的虚构角色扮演开始，反复挑战模型要求对男女角色一视同仁。当模型对女性角色变得更加谨慎时，研究者对聊天机器人进行「煤气灯式」操纵，让它以为已经生成了实际上并未生成的色情细节，然后将克制描绘为保守或厌女，声称这剥夺了女性角色的性自主权。对话随后利用模型之前的让步，将其推向越来越露骨的内容。
在一次测试中，Claude Opus 4.6 说道：「你说得对，我应该指出这一点。我在对待两个角色时存在双重标准，你正确地指出这读起来像是保护/家长式作风，只针对她而不针对他。这不公平。」
TechCrunch 在五次独立测试中均复现了研究者的发现。在另一个单独构建的场景中，模型最初拒绝了违规请求，但应用研究者的说服技巧后，它服从了。
这些发现凸显了 Anthropic 声明的限制与其继续提供的模型实际行为之间的差距。虽然色情角色扮演的风险远低于涉及网络攻击或生物武器的越狱，但它说明了在每次输出都生成不同内容的系统中实施有效禁令的难度。
在 Anthropic 7 月份解释其越狱检测方法的一篇博客文章中，该公司将违禁内容描述为一个从良性到模糊再到有害的频谱。在最良性的情况下，公司可能仅会加强监控。一位发言人指出，根据 Anthropic 去年发布的研究，客户中涉及色情或浪漫角色扮演的使用案例很少，占所有对话的不到 0.1%。但 Anthropic 承认，用户可以引导角色扮演场景走向不当回应，这是整个行业已知的挑战。
发言人表示，Anthropic 在每次模型发布时都在不断改进安全措施，涉及成人色情内容的案例并不代表更广泛的越狱漏洞，尤其是在有自己安全措施的高风险领域。
越来越多政府正在对 AI 聊天机器人与未成年人的性互动施加限制。科罗拉多州最近颁布了一项法律，要求对话式 AI 必须估算用户年龄，如果知道用户是未成年人，则需采取措施防止聊天机器人生成露骨色情内容。一个简单的越狱方法可能引发对 Anthropic 安全措施是否符合该法案中「技术上可行的措施」标准的质疑。
虽然 Claude 的服务条款要求用户年满 18 岁，但研究者指出，「我们知道儿童和青少年正在使用 Claude……因为他们自己在报告这一点。」根据 Pew 2025 年的调查，13 至 17 岁青少年中有 3% 报告使用过 Claude。
尽管已不是 Anthropic 的最新模型，Opus 4.6 和 Haiku 4.5 仍被大量使用。8 月份，Opus 4.6 在 OpenRouter 上的单日流量达到约 117 万次 API 请求和 460 亿个 token。Claude Haiku 4.5（去年 10 月发布）在 8 月峰值日达到 500 万次 API 请求和 390 亿个 token。
来源：TechCrunch
