NVIDIA 发布智能体安全平台:给长期运行的AI划清权限边界
2026年9月28日,NVIDIA 宣布推出 Open Agent Safety Platform,组合 OpenShell 开源软件与 Sentry 参考系统设计。平台面向从测试到部署的AI智能体,希望让组织能够在模型之外执行权限限制。官方同时说明,相关软件已可通过开发者资源与GitHub获取。查看发布公告。
软件与硬件怎样分工
OpenShell 负责智能体运行环境的控制。官方技术说明介绍了沙箱、对外请求检查和凭证保护:例如,同一个服务可以允许查询,同时阻止写入;真实凭证保留在智能体工作负载之外,按获准请求使用。其目标是让限制覆盖智能体执行代码和调用工具的过程。OpenShell 技术说明。
Sentry 则将监测延伸到 BlueField-4 DPU 上的独立硬件域。官方参考设计将其与运行于 Vera CPU 的 OpenShell 配合,构成分层控制。这里需要区分已经提供的软件与参考系统架构;具体部署要求和可用组件,应以技术文档为准。参考系统设计。
为什么企业会在意
以下为独立分析。当AI只生成一段建议时,人可以在执行前检查;当AI能连续操作文件、服务和数据库时,错误可能在读者看到最终报告前已经发生。因此,采购或搭建智能体时,权限应细化到具体资源和具体动作,不能仅用“允许联网”或“可以访问某个系统”概括。
以内部客服助手为例,读取订单状态、起草答复、修改地址和发起退款,应当分别授权。开发阶段可以先允许查询,让需要改变业务状态的操作进入审批;再用测试账号验证被拒绝的动作确实无法通过其他工具完成。日志还应帮助管理员追溯请求发起者、操作对象和拒绝原因。
AI生成示意图:以沙箱和独立权限关卡说明智能体运行控制,不代表实际产品或参考系统设计。
对于正在试验自动化的团队,这次发布带来的实际启发,是尽早把隔离、审计和停机方式纳入设计。上线前应回答三个问题:任务最多能动哪些数据,权限不足时由谁处理,异常发生后怎样迅速停止并恢复。开源工具提供了可研究的实现,但安全效果仍取决于配置、测试与持续维护,不能把部署平台本身当成安全保证。
信息核对日期:2026年9月30日。本文区分官方功能说明与部署建议,不将厂商安全主张视为独立验证结果。


