Anthropic 携手英伟达推出企业级 AI 智能体安全管控平台

企业对 AI 智能体的依赖正在从简单的信息查询转向跨业务单元的复杂任务执行。智能体需要访问专有数据、代表用户采取行动，获得的系统权限也越来越高。权限越大，企业对智能体行为的管控需求就越迫切。正是在这一背景下，Anthropic 与英伟达展开合作，共同构建一套面向生产环境的多层安全体系。

英伟达发布的 Open Agent Safety Platform 是一个开放软件平台与参考系统设计，旨在从基础架构层面强化 AI 安全。其核心组件 OpenShell 是一款开源安全运行时软件，采用默认拒绝策略——除非规则明确允许，否则一切操作均被拦截。OpenShell 对智能体尝试调用的每个工具、访问的每个文件、发起的每个网络连接都进行规则校验，并完整记录每一条允许或拒绝的决策日志，供团队审查和优化权限配置。

Anthropic 推出的 Claude Managed Agents 在架构上将智能体运行循环与沙箱环境分置于不同服务器，凭证（包括密码和访问密钥）则存储在独立的保险库中，智能体在执行任务时始终无法直接获取这些敏感信息。此外，Managed Agents 还内置审计追踪功能，完整记录每个智能体的操作历史，并支持与企业现有访问控制系统集成，企业可自行选择沙箱部署方式和运行位置。

两套方案的结合形成了模块化的分层防护架构。每一层独立执行自身的安全策略，整体防护效果不依赖于任何单一层级。团队可以从最小权限集合出发，通过查看 OpenShell 日志逐步收紧规则，再借助 Claude 辅助优化策略，最终由 OpenShell 的策略证明器通过数学方法验证智能体在当前规则下实际可访问的资源范围，确保策略落地的可信度。

多家企业已在实际业务中部署了 Managed Agents。Notion 让团队在工作区内直接将任务交给 Claude 处理，工程师用它提交代码，其他员工用它生成网站和演示文稿，数十个任务可并行运行。Rakuten 在工程、产品、销售、市场和财务等部门分别部署了专属智能体，每个智能体的上线周期不超过一周。Asana 则基于 Managed Agents 构建了 AI Teammates，让智能体作为协作伙伴参与项目，承接任务并起草交付物，显著加快了高级功能的落地速度。

Claude Managed Agents 现已正式上线，支持在企业自有基础设施或托管服务商环境中运行受控沙箱。NVIDIA OpenShell 以 Apache 2.0 协议开源，代码已发布至 GitHub 及英伟达开发者资源页面。随着 AI 智能体在企业中的渗透持续加深，这一合作所建立的安全管控框架，或将成为行业部署生产级智能体的重要参考标准。

要点

• Anthropic 与英伟达合作推出分层智能体安全体系，模型内置护栏之外新增外部策略执行层，各层独立运作互不依赖
• Claude Managed Agents 将凭证隔离于独立保险库，智能体执行任务时无法直接接触密码或访问密钥，同时提供完整审计追踪
• 英伟达 OpenShell 采用默认拒绝策略，通过数学证明验证权限规则的实际效果，为企业提供可量化的安全保障
• Notion、Rakuten、Asana 等企业已在生产环境中落地 Managed Agents，验证了其在并行任务、跨部门部署和人机协作场景中的可行性
• OpenShell 以 Apache 2.0 协议开源，Managed Agents 即日起可用，企业可灵活选择自托管或托管服务商两种部署模式