将多模型医疗AI智能体迁移至Amazon Bedrock AgentCore运行时

构建多模型智能体应用的团队面临日益增长的基础设施复杂度。在Amazon ECS加AWS Fargate上自托管智能体框架时，开发者需要自行配置容器编排、弹性伸缩策略、IAM身份管理与可观测性，这些运维工作往往占据了本应用于智能体逻辑开发的时间。Amazon Bedrock AgentCore作为一个可与任意框架和模型配合使用的智能体构建平台，其托管运行时能力将上述运维职责统一接管，使团队得以将注意力集中在业务逻辑层面。

本次迁移的核心是一个医疗AI智能体，它在单个AgentCore托管容器内协调三个模型后端共同处理医疗查询。专科生物医学问题由部署在Amazon SageMaker AI上的BioM-ELECTRA-Large-SQuAD2模型负责，该模型支持托管端点与自动弹性伸缩；复杂医学推理任务则交由Amazon Bedrock上的Llama 3.1 70B Instruct处理，通过AWS API实现无服务器访问；此外还保留了一个可部署在ECS、EKS或其他容器环境中的自托管容器化模型服务器。三个后端均实现了Hugging Face Messages API兼容接口，确保请求与响应格式的一致性。

向量增强知识检索是该智能体的重要能力之一，由Amazon OpenSearch Service提供支持。系统对医学知识进行索引，通过向量相似度匹配为模型提供上下文信息，从而提升回答的准确性与相关性。这一检索增强生成（RAG）机制在迁移过程中得到完整保留，智能体在AgentCore运行时环境下的知识检索行为与原有自托管版本保持一致。

迁移的技术实现采用了AgentCore运行时装饰器模式。原有基于Hugging Face smolagents框架编写的智能体代码无需重写，只需通过装饰器将其包裹，AgentCore运行时即可自动接管容器生命周期、会话管理、身份认证与可观测性等运维层面的工作。这种自带智能体（BYO Agent）方式意味着现有代码资产可以直接复用，迁移成本显著降低。值得注意的是，本文将原版中的Claude 3.5 Sonnet V2替换为Llama 3.1 70B Instruct，进一步验证了AgentCore运行时的模型无关性。

从架构角度看，客户端Web界面直接连接Amazon Bedrock AgentCore运行时，运行时托管医疗智能体容器并提供内置身份认证与可观测性。整个部署流程通过AgentCore CLI完成，依赖AWS CDK进行基础设施编排。生产环境中处理医疗等敏感查询时，AWS建议结合Amazon Bedrock Guardrails进行内容过滤与接地验证，以满足合规要求。完整实现代码已开源发布于GitHub仓库，框架无关的迁移模式同样适用于金融服务、制造业等其他行业的多模型智能体场景。

要点

• AgentCore运行时通过装饰器模式接管容器生命周期、弹性伸缩、身份管理与可观测性，开发者无需修改现有智能体代码即可完成迁移
• 三模型后端编排架构在迁移后完整保留：SageMaker AI负责专科生物医学查询，Bedrock处理复杂推理，容器化服务器支持自托管场景
• Amazon OpenSearch Service提供的向量增强知识检索能力在迁移过程中不受影响，RAG机制行为与原自托管版本一致
• AgentCore运行时具备模型无关性与框架无关性，支持任意模型和智能体框架，该迁移模式可推广至医疗以外的金融、制造等行业