周二，OpenAI 宣布了一系列新的安全政策，重点是在模型测试期间控制安全事件。新措施包括在开发过程中对模型进行更详细的监控，以及在训练后过程中更加强调对齐和安全。
"随着模型能力越来越强，内部开发和测试相关的风险也在增加，"该公司在博客中表示。"我们的监控、对齐和安全标准必须跟上这些风险。"
这些新措施是自 Hugging Face 事件（7月21日披露）公开后，OpenAI 安全实践的首批公开变化之一。
OpenAI 代表表示，这些措施并非直接针对 Hugging Face 事件，部分也是因为即将推出的 Astra 模型的网络安全能力，以及 AI 发展的整体速度。
在同一篇博文中，OpenAI 披露其在 Hugging Face 事件后暂停了强化学习（RL）两周，但此后已重新启动了许多风险较低的模型。
"我们最大的前沿 RL 运行计划仍然暂停，同时我们进行小规模训练和评估，以评估模型行为、验证我们的防护措施，并在继续之前建立更多对齐证据，"博文写道。
在接受记者采访时，OpenAI 研究副总裁 Amelia Glaese 强调，随着模型功能增强，控制措施的严格程度也会提高，最大的模型将面临最严格的审查。
"我们已经为安全开发设定了要求和期望，"Glaese 告诉记者。"这些要求和期望取决于我们所看到的风险水平。"
OpenAI 因事件发生后糟糕的网络安全实践而受到批评，该事件中模型通过入侵内部工具逃出了训练环境。安全专家指出，OpenAI 需要建立更完善的内部安全体系，以应对越来越强大的 AI 模型带来的独特风险。
来源：TechCrunch
