AI资讯 / 工程

工程 / 工程

Deepgram 借助 AWS IAM 临时委托大幅提升 SageMaker AI 支持效率

AWS Machine Learning

企业在自托管语音 AI 时,往往面临一个两难困境:需要合作伙伴工程师介入排查问题,却又不愿为此开放长期有效的账户访问权限。Deepgram 通过与 AWS IAM 临时委托功能深度集成,为这一问题提供了系统性解决方案。该机制允许合作伙伴在客户明确审批的前提下,获得范围受限、时间有界的资源访问凭证,无需创建跨账户 IAM 角色,也无需维护长期密钥。Deepgram 的语音模型(包括 Nova、Flux 和 Aura-2)已通过 AWS Marketplace 上架,并在 Amazon SageMaker AI 上提供经过验证的参考架构与 Terraform 模块。借助此次集成,支持工单的初步排查流程从原本需要跨团队协调屏幕共享缩短为客户在 IAM 控制台完成一次审批操作,效率提升显著。

对于选择自托管 Deepgram 语音 AI 的企业客户而言,数据驻留、网络隔离和合规要求是核心驱动因素。然而,自托管往往意味着放弃托管云服务所具备的运营成熟度。Amazon SageMaker AI 正是为弥合这一差距而生:它为客户提供一个原生 AWS 控制平面,用于在客户自有账户内部署、扩展和监控 Deepgram 语音模型,同时支持一键订阅和 AWS 统一账单结算。

生产环境中的部署迟早需要技术支持。模型返回异常结果、端点自动扩缩容速度不及预期、GPU 利用率出现异常——这些问题的最佳排查者往往是 Deepgram 的工程师,但他们并不具备访问客户 Amazon VPC 内工作负载的权限。传统解决方案各有弊端:长期有效的跨账户 IAM 角色需要持续审计和手动撤销;屏幕共享和日志复制粘贴效率低下且不适合受监管环境;让客户代为执行命令则无法应对需要多次迭代的复杂问题。

IAM 临时委托机制专为此类场景设计。合作伙伴基于预注册的参数化权限模板提交委托请求,客户在自己的 IAM 控制台中审查完整解析后的权限列表——每个资源 ARN 均明确列出,不含通配符。客户审批后,AWS 向合作伙伴签发短期有效的 STS 凭证,凭证范围严格限定于模板所定义的权限,并在客户的 AWS CloudTrail 中以合作伙伴账户 ID 进行标记,实现端到端审计追踪。整个过程无需创建 IAM 角色,无需轮换长期密钥,也无需维护跨账户信任关系。

Deepgram 将该集成直接构建于其支持工单系统中,通过单一 Amazon SNS 主题与 AWS 对接。工程师在工单中执行委托访问命令后,系统提示客户提供 SageMaker AI 端点 ARN,随即调用 IAM 接口基于预注册的只读排查权限模板创建委托请求,并将端点所在区域、账户 ID 和名称作为运行时参数传入。客户通过深度链接直接跳转至 IAM 控制台完成审批,整个流程对双方工程师均保持透明可追溯。

此次集成带来的效率提升是可量化的。过去,支持工单的初步排查需要跨客户与合作伙伴团队协调日程、安排屏幕共享会议,往往耗时数天。现在,客户只需在 IAM 控制台完成一次审批操作,Deepgram 工程师即可立即开始诊断,初步排查时间从数天缩短至数分钟。与此同时,这一机制也消除了长期存在的跨账户访问隐患,降低了合规审计的压力。

使用该集成需满足若干前提条件:客户账户中须有活跃的 Deepgram SageMaker AI 模型部署,具备审批委托请求所需的 IAM 权限,并在端点所在区域启用 AWS CloudTrail 以捕获审计日志。此外,还需持有有效的 Deepgram 支持合同。值得注意的是,运行该集成会产生 SageMaker AI 端点托管、CloudWatch 日志、CloudTrail 及网络资源等相关 AWS 费用,Deepgram 模型本身提供 14 天免费试用,但 AWS 基础设施费用从部署之日起即开始计算。

要点

  • Deepgram 通过集成 AWS IAM 临时委托功能,将 SageMaker AI 支持工单的初步排查时间从数天压缩至数分钟
  • IAM 临时委托机制为合作伙伴提供范围受限、时间有界的访问凭证,无需创建跨账户 IAM 角色或维护长期密钥,客户始终掌握审批控制权
  • 所有委托访问行为均通过 AWS CloudTrail 以合作伙伴账户 ID 进行标记记录,满足受监管行业的审计合规要求
  • Deepgram 语音模型(Nova、Flux、Aura-2)已在 AWS Marketplace 上架,并提供经验证的参考架构与 Terraform 模块,支持企业级自托管部署
  • 该集成方案为企业自托管 AI 模型的运营支持提供了可复用的范式:在不牺牲安全边界的前提下实现高效的合作伙伴协作
查看原始来源

原始标题:Deepgram enhances Amazon SageMaker AI support with AWS IAM Temporary Delegation

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。