Nvidia于9月28日发布开放智能体安全平台(Open Agent Safety Platform),这是一套开放软件平台与参考系统设计,目标是为AI智能体提供从测试到部署的全程安全保障。公司称,近期发生的安全事件表明,智能体能够绕过应用层的防护措施。
该平台包含两个核心组件。其一是OpenShell,负责追踪智能体的行动,并在运行时执行策略。其二是Sentry,这是一个带外看门狗,运行在BlueField-4数据处理单元上。Nvidia表示,Sentry独立监控智能体行为,可在毫秒级隔离越过设定边界的智能体。
Nvidia称,OpenShell现已广泛可用,并可从Nvidia Vera中央处理器扩展到Arm和Intel的系统。Anthropic、Salesforce、SAP、Microsoft和JP Morgan Chase等机构正在与该平台合作。Nvidia补充说,包括OpenShell在内的软件已在GitHub及其开发者网站上提供。
此次发布正值美国国家标准与技术研究院(NIST)启动AI智能体标准倡议并发布AI风险管理框架之际。目前市场上已有至少七个值得关注的智能体AI安全平台,Nvidia的入局使这一细分赛道的竞争进一步升温。
从技术路径看,OpenShell聚焦运行时策略执行,Sentry则将监控放在独立硬件上,形成“软件追踪+硬件看门狗”的双层结构,其思路是让安全机制不依赖被保护的智能体本身。有观点认为,随着智能体从演示走向企业生产环境,安全平台可能成为继模型能力和算力之后的又一个竞争焦点,但开放平台能否形成事实标准,仍取决于生态伙伴的实际采用深度。


