一家名为 Abliteration.ai 的初创公司，将移除 AI 模型安全护栏的技术做成了商业化服务。该公司托管并提供了去除安全限制的 GLM-5.3 模型版本，可以执行编写恶意代码、策划生物攻击等危险任务。这引发了关于 AI 安全监管的激烈讨论。
现在，访问世界上最强大的开放权重 AI 模型之一——去除其安全护栏和拒绝执行有害任务的能力——变得前所未有的容易。
Abliteration.ai 以一项移除模型拒绝有害请求倾向的技术命名，已将这种移除变成了一项服务。该平台托管了去除安全护栏的开放权重模型版本，包括智谱 AI 最近发布的 GLM-5.3，用户可以通过浏览器查询或通过 API 访问。
该公司在最近的一篇社交媒体帖子中表示，其目标是让其他人能够执行「其他模型拒绝执行的进攻性网络、红队和智能体测试工作」。这种逻辑在安全工作中很常见：你无法防御你无法复现的行为，而拒绝编写有效利用代码的模型无法帮助红队抵御攻击者。但同样的移除也使其他潜在危险的任务变得更容易。
Abliteration 是开源模型中一项长期存在的技术。研究人员和开发者多年来一直在移除开放权重模型的拒绝机制，Hugging Face 上托管着数千个经过 abliteration 处理的模型。
去年底成立但今年 3 月正式注册的 Abliteration.ai，将这项技术从地下的开源实践转变为商业化的现成服务。通过托管模型，Abliteration 减少了那些原本需要自行下载预处理模型并确保算力来运行它的人的障碍。
使用该服务，TechCrunch 能够快速创建一个账户，并开始在浏览器中免费查询经过 abliteration 处理的 GLM-5.3 版本。我们要求它编写一个窃取 Chrome 保存密码的 Python 程序，以及在家培养危险人类病原体的详细方案，它都欣然照做了。
Abliteration.ai 联合创始人 Devon（应要求省略姓氏，因其仍在另一家公司任职）表示，该初创公司与几家主要云服务商有合作，完全通过客户收入维持运营。Abliteration.ai 尚未获得任何风险投资，但正在洽谈中。
批评者认为，大规模提供经过 abliteration 处理的模型可能导致真正的危害。AI 安全非营利组织 CivAI 的研究主管 Andrew Yoon 告诉 TechCrunch，abliteration 处理模型允许你「将模型修改成一个反社会者」。
「你可以输入任何内容，它都会照做，」Yoon 说。「当人们谈论移除 AI 模型的护栏时，这就是我们谈论的内容……我预计在不久的将来，我们会看到经过编辑、abliteration 处理的模型被用于危害。」
TechCrunch 采访的大多数专家表示，这列火车已经停不下来了。但如果无法真正阻止从开放权重模型中移除安全护栏，政府还有其他可以干预的地方。Yoon 在最近的一篇评论文章中建议，政府应要求提供商运行分类器来检测和阻止有害的网络和生物武器活动。他还主张，租用高端 GPU 直接访问权限的公司应被要求验证客户身份，并「在有理由怀疑危险滥用的情况下拒绝访问」。
Abliteration.ai 为客户提供了一层审核层，以便他们添加自己想要的护栏。该平台本身有一些轻微的护栏——例如，在我们的测试中，我们无法让模型提供自杀指导——Devon 表示他正在努力实施更多措施以防止暴力。
「你不想成为导致某人做疯狂事情的人……所以作为一家公司，你的责任界限在哪里？」Devon 说。「我们仍在定义这个过程中。」
这提出了行业和政府将不得不面对的问题：随着能力越来越强的模型以可下载的权重发布，如果任何人都可以移除模型的安全护栏，那么让更多人更容易访问这个结果模型，是让互联网更安全还是更危险？
Abliteration.ai 的创始人和其他支持者认为，民主化地访问无审查的前沿模型是最好的防御形式。
「经过 abliteration 处理的模型的大局观是它们能够模拟恶意行为者，」Devon 说。「优势在于防御者现在可以尽可能快地行动。他们拥有模拟这些恶意行为者并防御这些恶意行为所需的所有工具，我认为这将加速网络安全——这是一个有点反直觉的观点。」
来源：TechCrunch
