工程 / 工程
让 AI 智能体学会遗忘
随着 AI 智能体在生产环境中长期运行,其积累的记忆数据会不断膨胀,导致响应质量下降并引发合规隐患。亚马逊云科技在 Amazon Bedrock AgentCore 的基础上,提出了一套系统化的记忆生命周期管理框架,涵盖基于存活时间的自动过期、相关性衰减评分以及记忆整合三项核心策略。该方案通过 AWS Step Functions 构建每夜定时执行的工作流,并以 AWS CDK 堆栈形式提供可部署的完整代码。框架将智能体记忆划分为情节记忆、语义记忆和程序记忆三类,针对不同类型设置差异化的保留周期与处理优先级,帮助客服机器人、销售顾问、IT 服务台等高交互量场景的智能体,在保留关键知识的同时及时清除冗余信息,实现记忆资源的精细化管理。
在实际生产部署中,记忆管理不善的问题往往在数月后才逐渐暴露。亚马逊云科技的工程团队观察到,某客服智能体曾将四个月前已解决的账单纠纷当作活跃问题重新提及;另一个智能体则因记忆中仍保存着已被废弃的操作手册,持续向用户提供过时的部署建议。这些案例表明,若不主动管理智能体的记忆,过时上下文的积累将直接损害用户体验,并在涉及数据合规的场景中带来法律风险。
为应对上述挑战,该方案首先建立了一套统一的记忆分类体系。情节记忆记录具体对话内容,具有时间戳和会话绑定特性,数量庞大但随时间推移价值递减,应优先纳入过期处理。语义记忆则是从多次交互中提炼出的持久性事实与用户偏好,例如用户惯用的云区域配置,这类记忆紧凑且价值高,适合长期保留并作为整合的主要对象。程序记忆编码了智能体习得的工作流与工具调用模式,数量最少但价值最高,拥有最长的保留周期。
在三类记忆分类的基础上,方案设计了三项互补的生命周期策略。第一项是基于存活时间的自动过期策略:情节摘要记忆默认保留 30 至 60 天,语义记忆保留 6 至 12 个月,程序记忆则可不设上限。由于 AgentCore 本身不提供内置的自动删除机制,方案通过系统生成的时间戳字段配合 BEFORE 过滤器,在 ListMemoryRecords 接口中筛选出超龄记录并执行删除,确保过期数据在进入评分或整合流程之前就被清除,避免浪费计算资源。
第二项策略是相关性衰减评分。并非所有记忆都以相同速率老化,昨天被访问的记忆显然比数周未被触及的记忆更具价值。方案采用三项加权公式对每条记忆打分,综合考量创建时间的新近度、最近访问时间的新近度以及访问频率三个维度,得分区间为 0.0 至 1.0。工程师只需配置一个直观参数 pruneDays,即可控制未被访问的记忆在多少天后分数降至阈值以下,系统随即将其标记为待整合或待删除状态。指数衰减函数使得分数在前几周快速下降,之后趋于平稳,而高频访问的老旧记忆仍可维持较高得分。
第三项策略是记忆整合,即将多条情节记忆中反复出现的观察合并为单条权威性语义记忆,从而在压缩存储体积的同时提升记忆质量。整个生命周期工作流通过 AWS Step Functions 编排,每夜自动执行过期清理、评分计算和整合操作,并以 AWS CDK 堆栈形式提供完整的可部署代码,工程团队可直接将其集成到现有的 Amazon Bedrock 项目中,所有阈值参数均支持按需调整以适配不同业务场景。
该方案主要面向客服智能体、销售顾问和 IT 服务台机器人等在数周乃至数月内积累大量交互数据的高频场景。对于个人助手类低频智能体,仅依赖存活时间过期与 GDPR 合规删除即可满足基本需求。随着 AI 智能体在企业中的部署周期不断延长,将记忆视为需要主动管理的受控资源,而非任其自由增长的被动数据,将成为保障智能体长期稳定运行的关键工程实践。
要点
- 长期运行的 AI 智能体若不主动管理记忆,会因积累过时上下文而降低响应质量并引发合规风险
- 记忆应按情节、语义、程序三类分别设置差异化的保留周期,程序记忆价值最高、保留最久
- 相关性衰减评分综合考量创建时间、最近访问时间和访问频率,避免单纯依赖时间阈值误删高价值记忆
- 整合策略可将多条重复情节记忆压缩为单条语义记忆,在降低存储成本的同时提升记忆质量
- 完整方案以 AWS CDK 堆栈形式开源,可直接部署到 Amazon Bedrock AgentCore 项目中
原始标题:Designing lifecycle policies for AgentCore memory
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。