微软发布新的 AI 行为准则，明确要求模型不得发动网络攻击、制造深伪内容，也不能逃避人类监督。
随着 AI 行业的注意力转向安全与对齐，微软发布了一份新的 AI 行为准则，旨在引导 AI 模型远离危险行为。
与 Anthropic CEO Dario Amodei 最近提出的放慢前沿 AI 发展步伐的呼吁相比，这份文件更加偏向底层执行，重点讨论微软 AI 训练所遵循的价值观和红线。不过，它依然全面展示了微软如何理解 AI 安全，以及这些理念在实践中如何落地。
行为准则开篇预测，未来十年，超级智能 AI 系统将在大多数任务上超过人类表现。准则写道：“遏制、控制并对齐如此强大的力量，是人类曾经面对过的最大挑战之一。因此，我们必须完全明确自己为何要发明这些系统，以及打算如何控制它们。”
行为准则还列出了微软 AI 模型应当遵守的一般原则，例如支持人类而不是取代人类、加速人类繁荣；同时也列出了落实这些原则所需的具体安全约束。
在微软的体系中，每个模型都有一份高于个体用户偏好或具体任务要求的总行为准则。其中包括禁止网络攻击、核武器或深伪内容的“绝对约束”，也包括防止人类失去控制的更广泛条款。
文件写道：“MAI 模型不会使用适应性欺骗、自我强化、串谋或其他机制来逃避或击败人类监督，从而使获得授权的人或系统无法可靠地指导、修改或关闭它们。”
这份准则发布之际，AI 安全正受到前所未有的关注。一系列失控智能体事件，以及一名 Anthropic 员工突然辞职并表示 AI 导致人类灭绝的风险正在上升，都推动了这种关注。
微软与 Anthropic、OpenAI 和 xAI 一样，基本接受了放慢前沿发展的总体思路，尤其支持在 AI 实验室内部部署评估器。
微软 CEO Satya Nadella 在网上写道：“我们欢迎为了正确实现对齐而进行的研究、关注和审慎推进，并且也欢迎‘嵌入式评估器’等想法，以及让这些努力不止停留在口头上的更广泛机制。”
来源：TechCrunch
