工程 / 工程
AgentCore Observability 实战
随着企业将 AI 智能体部署到越来越多样化的环境中——包括本地服务器、Google Cloud Platform、Microsoft Azure 乃至开发者个人机器——如何对这些分散的智能体进行统一监控成为关键挑战。Amazon Bedrock AgentCore Observability 原生支持在 AWS 云上运行的智能体,但对于 AWS 之外的环境,需要额外配置才能将遥测数据路由至统一仪表板。本文介绍的方案以 AWS Distro for OpenTelemetry(ADOT)为核心,结合 IAM 凭证与 SigV4 认证机制,实现跨平台的追踪链路、指标与日志采集,并将其统一汇聚至 AgentCore Observability 仪表板。该方案适用于基于 Strands Agents、LangGraph、CrewAI 等主流框架构建的智能体,帮助团队在多云与混合环境中获得对智能体推理链、工具调用、模型输出及 Token 用量的全面可见性,为负责任 AI 的落地提供可观测性基础。
Amazon Bedrock AgentCore 是一个用于大规模构建、连接和优化 AI 智能体的平台,支持任意框架与模型。其中,AgentCore Observability 提供原生的追踪、监控与分析能力,但默认仅支持部署在 AgentCore 运行时(即 AWS 云内)的智能体。对于运行在本地数据中心、GCP 虚拟机、Azure 实例或开发者本地机器上的智能体,需要额外的配置步骤,才能将遥测数据发送至同一个可观测性仪表板,实现跨环境的统一视图。
该方案的核心架构由三个组件构成:ADOT 自动插桩、IAM 凭证以及 OpenTelemetry 环境变量。ADOT 以进程内方式与智能体应用共同运行,通过 opentelemetry-instrument 命令自动注入 Python 运行时,对 boto3 和 Strands 框架进行插桩,捕获符合 OpenTelemetry 生成式 AI 语义规范的 Span 数据。IAM 用户的访问密钥与私钥则通过 SigV4 认证机制,确保遥测数据安全地从外部环境传输至 Amazon CloudWatch 的 OTLP 端点。
在整体架构中,Amazon CloudWatch 承担遥测数据的摄取与存储职责,AgentCore Observability 在其之上提供面向 AI 智能体的专项监控仪表板。ADOT 导出的日志通过 OTEL_EXPORTER_OTLP_LOGS_HEADERS 头部字段指向特定的 AgentCore 日志组,CloudWatch 据此将数据索引至生成式 AI 可观测性仪表板。这一设计使得来自不同云平台和本地环境的遥测数据能够在同一界面中集中呈现,无需为每个环境单独搭建监控体系。
部署前需满足若干前提条件:AWS 账户需已配置 Amazon Bedrock 模型访问权限(示例使用 Claude Haiku),并已开启 CloudWatch Transaction Search(每个账户仅需配置一次)。IAM 用户需具备 bedrock:InvokeModel、logs 相关权限、xray 追踪权限以及 cloudwatch:PutMetricData 权限。非 AWS 环境还需确保能够通过 HTTPS 访问 AWS 端点。开启 Transaction Search 只需执行一条 AWS CLI 命令,将追踪段目标设置为 CloudWatchLogs 即可。
实际配置流程分为三步:首先通过 pip 安装 aws-opentelemetry-distro、boto3 及 strands-agents[otel] 等依赖包;其次将 IAM 用户的 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY 设置为环境变量,并配置 OTLP 相关的路由与认证环境变量;最后使用 opentelemetry-instrument 命令启动智能体应用。ADOT 将自动完成插桩并开始向 AgentCore Observability 仪表板推送追踪数据、Span 指标与 Token 用量信息。
从负责任 AI 的视角来看,跨环境的统一可观测性具有重要意义。通过将所有环境的遥测数据汇聚至 AgentCore Observability,团队可以检测幻觉输出、监控有害或偏题响应、追踪 Token 用量以实现成本治理,并对智能体行为进行跨环境审计。对于运行在 AWS 之外的智能体而言,若缺乏集中式可观测性,问题输出极易被忽视,而本方案正是填补这一空白的关键工程实践。
要点
- AgentCore Observability 原生仅支持 AWS 云内智能体,本地及多云环境需通过 ADOT 与 IAM 凭证进行额外配置才能接入统一仪表板。
- ADOT 以进程内自动插桩方式运行,无需修改智能体业务代码,即可捕获符合 OpenTelemetry 生成式 AI 语义规范的追踪、指标与日志数据。
- SigV4 认证机制确保外部环境的遥测数据能够安全传输至 Amazon CloudWatch OTLP 端点,IAM 权限配置是方案落地的关键前提。
- 该方案支持 Strands Agents、LangGraph、CrewAI 等主流智能体框架,适用于本地服务器、GCP、Azure 及开发者机器等多种非 AWS 环境。
- 集中式可观测性有助于检测幻觉、监控有害输出、追踪 Token 成本,是负责任 AI 在多云混合部署场景下的工程基础。
原始标题:Monitor on-premises and multi-cloud AI agents with AgentCore Observability
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。