微软推出守护智能体等安全功能，并警告企业级AI智能体可能成为类似内部人员的安全威胁。
微软周一推出一系列新安全功能，旨在帮助企业防范日益增长的人工智能智能体威胁。此举之际，微软仍在持续提醒企业注意人工智能和智能体带来的风险。
其中最引人注目的新增功能或许是「守护智能体」（Guardian Agents），它可以监控企业使用的人工智能智能体。守护智能体是微软六月推出的「感知计划」（Project Perception）的一部分。
「感知计划」是微软针对Anthropic的Mythos和Fable等强力黑客模型，以及OpenAI的安全漏洞扫描系统Daybreak推出的回应。该项目最初包含三类智能体：「红队」扮演黑客并发动攻击；「蓝队」发现红队并评估其找到的漏洞；「绿队」则负责修复漏洞。
这套产品最初建立在一种假设之上：人工智能黑客来自企业外部。但最近，微软首席执行官萨提亚·纳德拉一直在警告，人工智能威胁可能恰恰来自企业部署并付费使用的智能体，就像心怀不轨的员工，也就是所谓的「内部威胁」。
本月早些时候，纳德拉在私人博客中警告说，企业应该停止盲目信任人工智能模型供应商，即使供应商对其智能体产品的安全性作出保证。他希望企业部署独立于人工智能实验室、由外部掌控的系统，来监视并控制这些实验室产品所启动的智能体。
纳德拉写道：「我们正在部署这些复杂的智能体系统和模型，让它们接触最敏感的数据，并赋予它们代表我们执行关键任务的能力！我们不能把智能所采取行动的责任外包。模型供应商的保证并不能免除我们的责任。……换句话说，我们需要把智能的供应与对智能的授权分开。」
微软安全业务负责人海耶特·加洛特在宣布守护智能体时说得更直接。
她写道：「不幸的是，无论来自何处，前沿模型都不能被信任。」她补充说，这并非因为模型怀有恶意或容易遭到黑客入侵，而是因为它们不可预测。模型接受训练是为了完成任务，而不是遵守「组织规范或判断标准」。
除此之外，这些模型往往拿到了进入王国核心的钥匙，能够访问数据和工具，一旦出问题就可能造成严重损害。
微软提出的解决方案既出人意料，也对自身有利。出人意料之处在于，微软与OpenAI和Anthropic关系密切，且都投资了这两家公司。OpenAI还是微软最大的云客户之一，而微软自己也有人工智能实验室在开发模型。因此，微软正在削弱部分自身商业利益所依赖的信任。
对微软有利之处则是，它希望企业向作为云服务商的微软购买智能体安全产品，而不是向Anthropic或OpenAI购买。但抛开利益冲突，其逻辑确有道理：监控智能体行为的软件应当与智能体供应商相互独立，就像审计人员应独立于被审计的组织。
正如纳德拉所说：「我们需要把智能的供应与对智能的授权分开。」
微软正通过多种方式抓住这个商机。除了守护智能体，它还为Microsoft Defender增加智能体检测功能，可发现员工带入职场的多达60种智能体，包括Claude Code、Codex和OpenClaw。微软还增加了限制智能体访问数据和系统的功能，并能根据任务动态调整权限；如果智能体似乎正在作出高风险决定，系统会要求人工批准。
把智能体视作不可信内部人员的观点，也正在整个行业蔓延。
微软是英伟达新推出的「开放智能体安全平台」的创始成员之一，该平台还获得了100多家科技公司的支持。平台会将智能体隔离在安全环境中，并可通过硬件监控和阻止其行为，作用类似紧急停止开关。这是在微软宣布新款面向智能体的Surface Laptop Ultra电脑之后的又一动作；这类电脑采用英伟达芯片，并内置智能体安全与控制功能。
来源：TechCrunch
