工程 / 工程
Deep Insight 代码实战解析
在生产环境中部署 AI 智能体时,上下文管理往往是最核心的瓶颈。以数据分析与报告生成为例,一个看似简单的任务——加载数据、分类分析、生成图表、统计验证、输出报告——在 15 分钟内就可能消耗超过 15 万个 Token,逼近 Claude Sonnet 4.5 提供的 20 万 Token 上限。上下文溢出会导致智能体中途失败、精度下降,并在按 Token 计费的模式下显著推高成本。AWS 机器学习团队基于 Strands Agents SDK 与 Amazon Bedrock AgentCore 构建的开源多智能体项目 Deep Insight,将 Anthropic 发布的上下文工程最佳实践归纳为四个层次:架构层的上下文隔离、提示层的输出控制、工具层的文件外化,以及验证层的独立核查。实测数据显示,单一写入执行工具可将每段脚本新增的 Token 量削减约 95%,按需加载技能则可将系统提示规模压缩约 97%。
上下文工程并非单一技巧的堆砌,而是横跨架构设计、提示编写、工具实现与验证机制的分层学科。Anthropic 在其《面向 AI 智能体的有效上下文工程》一文中指出,随着上下文窗口中 Token 数量的增加,模型从中准确召回信息的能力会持续下降,这一现象被称为「上下文腐化」。Deep Insight 将应对这一问题的实践整理为四个层次,每一层都用于弥补前一层的不足,共同构成一道完整的防线。
第一层是架构层的上下文隔离。Deep Insight 采用协调者、规划者、计划审核者、监督者以及工具智能体(编码、验证、报告、追踪、审计)的多层级架构,让每个专职智能体拥有独立的上下文窗口,仅将压缩后的结果传递给编排者。即便是上下文消耗最多的编码智能体,其总 Token 量也被控制在 2.5 万以内。智能体之间通过共享状态字典 shared_state 传递信息,其中只保存前一智能体的最终消息、压缩摘要、任务清单和简短日志,而非完整的对话历史。
第二层是提示层的输出控制。即便实现了架构隔离,单个智能体内部的上下文仍可能因冗余输出而膨胀。通过在系统提示中明确规定输出格式、长度限制和行为规则,可以从源头约束上下文的增长速度。Deep Insight 还采用按需加载技能的机制,仅在智能体实际需要某项能力时才将对应的提示片段注入上下文,从而将系统提示的体积压缩约 97%。这一做法与 Anthropic 推荐的「最小化共享信息」原则高度一致。
第三层是工具层的文件外化。对于数据集、图表、中间计算结果等体积庞大的内容,Deep Insight 将其写入文件系统而非保留在上下文中。智能体通过单一的写入执行工具完成脚本的生成与运行,执行结果以文件路径的形式返回,而非将完整内容塞回上下文。这一设计使每段脚本新增的 Token 量减少约 95%,有效延长了智能体在单次任务中的有效工作时长,同时降低了因上下文过长导致的注意力分散问题。
第四层是验证智能体与安全防护。前三层可以大幅压缩上下文规模,但无法完全消除错误风险。Deep Insight 引入独立的验证智能体,对编码智能体的输出进行交叉核查,并设置防护机制以拦截可能导致上下文溢出的异常行为。这一层作为最后一道防线,确保即便前序层次出现疏漏,系统仍能在可控状态下运行,而不会因单点失败导致整个分析流程崩溃或需要从头重跑。
Deep Insight 作为基于 Strands Agents SDK 和 Amazon Bedrock AgentCore 构建的开源项目,将上述四层实践落地为可直接参考的工作代码。该系列文章共三篇,第一篇聚焦多智能体系统的五大生产挑战,本篇(第二篇)详解四层上下文工程的具体实现,第三篇将介绍如何在 Amazon VPC 私有网络中完成从开发到生产的完整部署。对于正在构建生产级 AI 智能体的工程团队而言,这套框架提供了一条从理论到代码的清晰路径。
要点
- 200K Token 上下文窗口在真实生产任务中极易耗尽,上下文管理是多智能体系统的核心瓶颈,而非边缘问题。
- 四层上下文工程框架——架构隔离、提示控制、文件外化、验证防护——各层相互补充,缺一不可,需组合使用才能发挥最大效果。
- 文件外化工具可将每段脚本新增的 Token 量削减约 95%,按需加载技能可将系统提示压缩约 97%,两者是最具杠杆效应的优化手段。
- 多智能体架构中,智能体之间应只传递压缩摘要而非完整对话历史,共享状态字典是实现最小化信息共享的有效模式。
- Deep Insight 以开源代码形式提供了上述实践的完整参考实现,工程团队可直接基于 Strands Agents SDK 和 Amazon Bedrock AgentCore 进行复用。
原始标题:Four layers of context engineering for production AI agents: How Deep Insight applies them in working code
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。