BaseTen 与 Hugging Face、Goodfire AI 合作，为开放权重模型建立安全评估与监控基础设施。
周三，Baseten 旗下研究部门 Base Labs 推出了一项新的安全基础设施标准，并与 Hugging Face 和 Goodfire AI 合作，为开放权重模型建设安全评估与监控基础设施。
这一消息发布之际，开放权重模型的安全问题正受到热议。通过一种日益流行的“去护栏”技术，模型的安全限制可能被移除并变得危险。问题规模相当大：托管开源 AI 模型的 Hugging Face 目前列出了超过 6000 个经过“去护栏”处理的模型。
Base Labs 是 Baseten 今年早些时候成立的研究团队，负责开发并公开训练和监控开放模型的方法。公司希望把未来的工作打造为开放模型的“标准”：安全机制要透明，并内置于模型训练和部署流程，而不是事后再打补丁。
公司在 X 上表示：“我们相信，开放性有利于 AI 安全。开放性让人们能够更清楚地了解模型行为，更重要的是，相比闭源系统，它更能把安全研究转化为可执行、透明的控制措施。”
几家公司没有透露合作的技术细节。不过，Goodfire 在回复 Baseten 的帖子时概括了目标：“安全必须内置于开放模型，并由提供这些模型服务的一方负责。” Goodfire 专注于打开 AI 的“黑箱”，解释模型如何做出决策，因此很可能负责其中的“内置”部分。
Baseten 是一家 AI 推理服务商，今年 6 月刚完成 15 亿美元 F 轮融资，估值跃升至 130 亿美元。合作伙伴 Goodfire AI 的资金实力同样不弱：今年早些时候，它完成了由 B Capital 领投的 1.5 亿美元 B 轮融资，用于推进模型可解释性平台。
展望未来，Baseten 正向更广泛的开发者生态开放征集，希望大家参与这一框架的建设。公司表示：“我们正在共同打造一个安全且人人可用的开放模型生态。”
来源：TechCrunch
