OneAdvanced如何在英国主权AWS上部署超过50个AI智能体

OneAdvanced的客户每天处理患者病历、法律案卷和合规文档等高度敏感的数据，对AI工具的数据驻留、安全性和隐私保护有严苛要求。公司CTO Andrew Henderson明确指出，数据主权对于公共部门和高度监管行业的客户而言是硬性前提——他们需要清楚地知道数据存放在哪里、谁有权访问，以及数据是否完全处于英国法律和监管框架之内。这一要求直接决定了技术路线的选择方向。

OneAdvanced最初曾使用Amazon Bedrock进行原型验证，在两周冲刺中快速实现了聊天补全、英国法规查询智能体、Snowflake数据集成和图表生成等功能。然而，彼时其目标模型Llama 4 Maverick和Llama Guard 4尚未在英国区域的AWS托管服务中上线，团队因此转向完全自托管路线，在自有的英国AWS账户中部署、服务并扩展这些模型，同时围绕其构建内容审核、文档检索、智能体编排及面向非技术用户的无代码智能体构建器。

在模型部署层面，OneAdvanced使用vLLM在Amazon SageMaker AI端点上服务Llama 4 Maverick（FP8量化版）和Llama Guard 4，运行于伦敦区域的p5.48xlarge实例之上，并结合AWS深度学习容器与Hugging Face模型权重。团队最初在p4d.24xlarge实例上进行测试，后迁移至p5.48xlarge以满足生产级吞吐需求，同时利用预留实例折扣降低GPU计算成本。目标上下文窗口长度为120K至128K token，以支持大型文档分析和多轮对话等场景。

内容安全方面，Llama Guard 4在每次用户请求到达主推理模型之前串行运行，对输入内容进行有害性筛查。该模型替换了此前部署的Llama Guard 3，原因是旧版本存在较高的误拒率。文档处理流程则将上传至Amazon S3的文件转换为Markdown格式，经分块和向量化后写入pgvector，供智能体在推理时按需检索相关内容，形成完整的RAG管道。

智能体库是OneAdvanced方案最具特色的部分。超过50个面向特定任务的智能体覆盖医疗、法律、人力资源、市场营销、物流等多个垂直领域，包括护理事件响应助手、临床安全公告生成器、教育课程方案生成器、绩效评估助手和文档对比工具等。在框架选型上，团队评估了LangChain、LangGraph等多个方案后最终选择Strands Agents SDK，核心原因在于其以模型为中心的设计理念更契合自托管场景的灵活性需求。每个智能体拥有独立的系统提示、工具配置和可选输入表单，配置信息统一存储于Amazon DynamoDB中。

从架构整体来看，OneAdvanced的这套方案将数据主权合规、生产级模型服务与快速智能体交付有机结合。三周内从零到50余个智能体的交付速度，验证了该架构在企业规模下的可复制性。该方案同时支持ISO 42001 AI治理认证，为医疗、法律等受监管行业的企业提供了一个在严格数据驻留约束下落地生成式AI的可参考范本。

要点

• 当目标模型尚未在特定区域的托管服务中上线时，自托管开源模型是满足数据主权要求的可行替代路径。
• Llama Guard 4在主推理模型之前串行运行，可有效降低误拒率，是生产环境内容安全的关键组件。
• 结合Strands Agents SDK与Amazon ECS，OneAdvanced在三周内构建了超过50个专业化智能体，大多数智能体单日即可完成开发。
• pgvector与Amazon Aurora PostgreSQL的组合为RAG管道提供了向量检索能力，无需引入额外的专用向量数据库。
• p5.48xlarge实例配合vLLM可支持120K至128K token的长上下文推理，满足大型文档分析场景的需求。