OpenAI 周五宣布，因内部安全审查发现其即将推出的 Astra 模型在自主编码和网络安全方面取得重大进展，已达到关键的网络安全阈值，公司决定暂停该模型部分功能的开发工作。
OpenAI 周五表示，在内部审查发现 Astra 模型在自主编码和网络安全方面取得显著进展后，已暂停该模型部分功能的开发工作——这些进展已足以引发对其能力的安全担忧。
OpenAI 在周五的博文中表示，这款仍在开发中的模型已达到其关键的网络安全阈值，意味着它能够独立识别并对传统上受良好保护的真实世界系统实施网络攻击。根据 OpenAI 的负责任扩展政策，一旦模型达到这一阈值，公司必须实施额外的安全措施后才能继续推进开发。
OpenAI 表示，在暂停期间，公司将专注于加强 Astra 模型的安全防护，包括建立更严格的访问控制、增强监控系统，以及与外部安全专家合作评估风险。公司没有透露 Astra 模型的完整发布时间表是否会因此推迟。
此前，OpenAI 的 Astra 模型被定位为下一代多模态 AI 系统，能够理解和生成文本、图像、音频等多种形式的内容。此次安全审查的结果表明，AI 模型的能力增长正在超出预期，安全监管需要同步跟进。
这一决定也反映出 AI 行业对模型安全性的日益重视。OpenAI 的负责任扩展政策为模型能力设定了明确的阈值，当模型能力超过这些阈值时，必须暂停开发并采取额外安全措施。其他 AI 公司也在建立类似的内部安全框架。
来源：TechCrunch
