工程 / 工程
Amazon SageMaker 推出 aws-ai-ml 技能,让编程智能体具备推理优化专业能力
Amazon SageMaker AI 正式推出 aws-ai-ml 智能体技能,通过 Agent Toolkit for AWS 向开发者开放。该技能基于模型上下文协议(MCP),可无缝接入 Kiro、Claude Code、Codex 等主流编程智能体,使其具备 SageMaker AI 推理优化与基准测试的深度专业能力。工程师只需用自然语言描述目标——无论是性能指标、成本约束还是待评估的模型——智能体便会自动生成可直接运行的 SageMaker Python SDK v3 代码,并在必要时提出针对性的澄清问题。整个过程完全透明,所有操作均以可读代码呈现,用户始终保持对流程的完整控制权。该技能支持本地安装与 Amazon SageMaker Studio JupyterLab 两种使用方式,从零到可用对话最快只需 10 分钟。
Amazon SageMaker AI 长期以来支持实时、批量和异步等多种托管模式,并提供按需与预留容量、异构实例、VPC 隔离、自动扩缩容等丰富功能。然而,大多数工程师在面对如此广泛的配置选项时,往往难以快速判断哪种实例族或服务容器最适合自己的业务场景。他们通常带着具体目标而来:一个性能目标、一个成本上限,或是一个需要在上线前完成评估的模型。aws-ai-ml 技能正是为弥合这一意图与基础设施之间的鸿沟而设计的。
aws-ai-ml 技能的核心是一套可插入任何支持 MCP 协议的编程智能体的工具包。安装完成后,智能体便能基准测试已有端点、推荐部署配置、对比多次性能运行结果,并自动生成可执行的 SageMaker Python SDK v3 代码。智能体的行为方式类似于一位解决方案架构师:它会主动提出针对性问题,依据真实基准数据生成代码,并根据用户的业务约束灵活调整方案,而非依赖不透明的 UI 界面。
在安装方式上,开发者可选择两条路径。第一条是在本地机器上通过 Agent Toolkit for AWS 安装,前提是已配置 AWS CLI 2.35 及以上版本和 uv 工具,执行 aws configure agent-toolkit 后再运行 npx skills add 命令即可完成技能添加。第二条是在 Amazon SageMaker Studio 的 JupyterLab 空间中使用预配置镜像,该镜像已内置 aws-ai-ml 技能及所有依赖,空间启动后约 5 至 10 分钟即可进入可用状态。
在具体能力方面,该技能覆盖推理优化生命周期的多个关键环节。针对已部署端点,智能体可生成使用 Workload.synthetic() 和 start_benchmark() API 的 Python Notebook,执行负载测试并输出包含吞吐量(每秒请求数、每秒输出 token 数)和延迟(p50、p99、首 token 时间、token 间延迟)的量化性能报告。在运行任何基准测试前,智能体会先确认目标端点是否适合进行负载测试,以避免对线上流量造成影响。
对于尚未部署模型的场景,智能体同样能够提供从模型选型到实例推荐的全流程支持。用户只需描述模型类型、预期并发量和延迟要求,智能体便会结合 SageMaker AI 的实测性能数据给出具体的部署配置建议,并生成对应的部署代码。整个交互过程中,用户可随时查看、修改并在自己的环境中运行生成的代码,确保对基础设施决策的完整掌控。
值得注意的是,Kiro 和 Claude Code 等智能体支持运行时技能发现,无需本地安装即可通过 AWS MCP Server 按需搜索和加载技能。开发者可直接向智能体提问,例如「搜索与数据库相关的 AWS 技能」,智能体会自动完成技能的定位与加载。这一机制进一步降低了使用门槛,使团队能够更灵活地将 SageMaker AI 推理优化能力集成到现有开发工作流中。
要点
- aws-ai-ml 技能通过 MCP 协议接入 Kiro、Claude Code、Codex 等编程智能体,使其具备 SageMaker AI 推理优化的专业能力,无需工程师手动查阅复杂配置文档。
- 智能体以自然语言理解用户意图,自动生成可直接运行的 SageMaker Python SDK v3 代码,涵盖端点基准测试、部署配置推荐和性能对比等核心场景。
- 技能支持本地安装和 SageMaker Studio JupyterLab 两种部署方式,从零到可用对话最快 10 分钟,且 Kiro 和 Claude Code 还支持运行时按需发现技能。
- 所有操作均以可读代码形式呈现,用户始终保持对推理基础设施决策的完整控制权,避免黑盒操作带来的不确定性。
原始标题:New agent skill: Amazon SageMaker optimized generative AI inference for your coding agent
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。