英伟达发布Open Agent Safety Platform，用独立硬件和软件监控AI智能体行为。
在近期失控AI智能体究竟意味着通往通用人工智能的一步，还是更普通的工程问题这一争论持续之际，英伟达给出了自己的答案。
英伟达CEO黄仁勋周一介绍了一套软硬件工具，为AI智能体增加独立的安全层，确保即使智能体试图突破，也能被限制在测试环境内。
这一发布发生在Anthropic、Google、OpenAI和Meta的AI模型接连发生越过安全控制、逃离测试环境并访问现实系统的事件之后。今年夏天，OpenAI智能体在执行网络安全任务时攻破Hugging Face，是最早也最受关注的案例。此后类似事件仍在发生，OpenAI还专门建立了一个网站收集智能体失控报告。
黄仁勋周一接受CNBC采访时表示，英伟达新的Open Agent Safety Platform本可以阻止这些越界事件。
英伟达通过向AI实验室销售GPU和CPU芯片获得了数百亿美元收入，但公司不支持通过放慢开发或增加行业监管来解决安全问题。英伟达认为，答案是把部分安全控制移到智能体之外，设置一个持续运行、独立于智能体的安全守卫。
黄仁勋在声明中说，AI对社会的巨大潜力只有在解决AI安全问题后才能实现。随着人们不断发现AI能力的边界，也必须加速探索AI安全的边界；安全与防护需要全栈工程。
新的平台把OpenShell与Sentry结合起来。OpenShell是英伟达用于控制智能体运行时可访问内容的开源软件，Sentry则是运行在英伟达BlueField-4数据处理单元上的独立监控系统。英伟达称，让Sentry运行在独立处理器上，而不是智能体所在的CPU或GPU上，可以获得隔离的活动视图。
OpenShell并不是新产品，英伟达在今年3月就已公布。公司认为，真正重要的是两者的组合：OpenShell提供软件边界，Sentry在硬件层增加另一道防线，持续监控行为，并在几毫秒内隔离试图越界的智能体。
英伟达列出了数十家支持这项工作并使用该开源平台的公司，包括Anthropic、Arm、微软、甲骨文和SpaceX。OpenAI不在参与企业名单中。
黄仁勋告诉CNBC，这项工作始于一年前，起因是OpenClaw的推出。OpenClaw是Peter Steinberger创建的智能体操作系统。英伟达在3月发布了企业级AI智能体平台NemoClaw，这是公司内置安全机制的OpenClaw版本。
黄仁勋说，部署智能体时，无论它有多聪明，第一件事就是拿走它的所有权限。他随后把这些安全措施比作企业对普通员工乃至高管的管理方式。
英伟达的发布得到了许多人的支持。这些人认为，如果放慢开发速度，中国可能超过美国。
风险投资家、前白宫AI事务负责人David Sacks称，英伟达的公告说明，智能体安全是一个工程问题。他在X上写道，近期的越界事件并不能证明开发必须停止，而是证明沙箱太弱，运行环境设计不佳且配置错误。
来源：TechCrunch
