随着 AI 模型越来越强大，企业客户对隐私保护的呼声也越来越高。OpenAI 宣布推出 Private Safety Processing（隐私安全处理）服务，这是一套自动化的滥用监控系统，承诺不保留任何客户数据——直接对标 Anthropic 最近的数据留存政策。
随着 AI 模型变得愈发强大，这些模型被滥用的可能性也在增加——要求建立安全护栏以阻止此类滥用的呼声也随之高涨。AI 公司现在必须走一条微妙的钢丝：既要尊重企业客户的隐私，同时又要监控使用情况以发现潜在问题。
OpenAI 认为自己找到了超越竞争对手 Anthropic 的机会，刚刚宣布了一种以隐私为中心的安全监控方法。该公司正在向特定客户预览一项名为 Private Safety Processing（隐私安全处理）的新服务。这是一套自动化的系统，用于监控潜在的滥用行为，同时不保留任何客户数据。
这一系统显然与 Anthropic 最近宣布的数据留存政策形成鲜明对比。Anthropic 去年表示，将保留用户与 Claude 的对话数据长达五年，用于训练和改进其 AI 模型——尽管客户可以选择退出。Anthropic 还制定了数据留存政策，允许企业客户在特定情况下保留对话数据用于安全监控，但 OpenAI 认为这不够严格。
OpenAI 的 Private Safety Processing 系统在其自己的基础设施上运行，而非在客户环境中。据 OpenAI 介绍，该系统使用安全飞地（secure enclaves）——访问受限的物理或虚拟服务器——来扫描和分析客户 API 使用模式，同时不保留任何数据。OpenAI 声称，该系统仅检测可疑行为模式，不会查看或存储客户查询的具体内容。
OpenAI 首席安全官 Matt Knight 在一份声明中表示：「企业客户希望获得最高级别的安全保护，同时又不希望他们的数据被用于训练或监控目的。Private Safety Processing 正是为此而设计的。」
AI 安全领域的竞争正在升温。Anthropic 此前因数据留存政策引发了企业客户的不满，许多公司担心将敏感数据交给 AI 提供商后可能面临泄露风险。OpenAI 的新服务试图抓住这一痛点，在隐私保护方面建立差异化优势。
然而，安全专家指出，OpenAI 仍需证明其安全飞地系统能有效抵御复杂的攻击，包括来自国家行为者的威胁。此外，企业客户还需要权衡——将数据完全排除在监控之外，可能意味着无法及时发现针对其账户的针对性攻击。
来源：TechCrunch
