通过抑制关键FFN层让RAG模型更忠实于检索内容

RAG 系统的可靠性长期受到「知识冲突」问题的困扰：当检索到的外部证据与模型参数中存储的知识相矛盾时，模型往往倾向于忽视上下文、坚持自身「记忆」，导致输出内容与检索结果不符。这一现象在开放域问答、新闻摘要等场景中尤为突出，严重削弱了 RAG 系统的实用价值。OpenBMB 团队将这一问题定义为「不忠实生成」，并从模型内部机制入手寻找根源。

研究团队通过对比忠实与不忠实响应时模型各层的激活差异，发现了一个关键规律：位于模型相对深度 70%–90% 区间的前馈网络（FFN）层，在模型产生不忠实输出时会出现显著的过度激活。这些层被命名为「不忠实关联FFN」（UA-FFNs）。以 LLaMA3-8B-Instruct 为例，研究者选取激活差异最大的 8 层（第 19–26 层）作为抑制目标，并通过因果分析验证了这些层与不忠实生成之间的强相关性。

ParamMute 的核心流程分为两步：首先可视化各层激活差异，筛选出 Top-K 个 UA-FFN 层；随后在知识增强适配（微调）阶段，通过修改后的 Transformers 库对这些层施加激活抑制，抑制强度由 inhibit_strength 参数控制。训练模式支持标准监督微调（SFT）和输入对比偏好优化两种策略，后者在需要更高忠实度的场景下表现更优。推理阶段同样可动态调整抑制系数，灵活平衡参数知识与检索知识的权重。

为配套评估，团队同步发布了 CoConflictQA 基准数据集，专门针对 LLaMA3-8B-Instruct 内部知识与准确外部证据存在冲突的场景设计。实验结果显示，ParamMute 在该基准上将上下文召回率提升 6.17 个百分点，在 ConFiQA 基准上更是提升高达 54.63 个百分点，远超原始 RAG 基线。这一成绩充分验证了针对性抑制特定 FFN 层对提升检索忠实度的有效性。

目前，ParamMute 的完整代码已在 GitHub（OpenBMB/ParamMute）开源，训练数据、测试数据及两个微调版本模型（ParamMute-8B-SFT 和 ParamMute-8B-KTO）均已上传至 Hugging Face。该框架基于修改版 Transformers 库实现，支持通过简单配置参数快速集成到现有 LLaMA 系列模型的推理与微调流程中，具备较强的实用落地潜力。该论文此前还在 YSSNLP 2025 获得最佳海报奖提名。

要点

• ParamMute 通过可解释性分析定位模型深层（70%–90%深度）中导致不忠实生成的特定FFN层，并在训练和推理阶段主动抑制其激活。
• 在 CoConflictQA 和 ConFiQA 两个基准上，上下文召回率分别提升 6.17 和 54.63 个百分点，显著优于原始 RAG 方法。
• 框架支持 SFT 和输入对比偏好优化两种训练模式，推理时可动态调整抑制系数，灵活适配不同忠实度需求。
• 配套发布的 CoConflictQA 数据集专为知识冲突场景设计，可作为评估 RAG 忠实度的标准化基准。
• 代码、模型与数据集均已开源，基于修改版 Transformers 库实现，便于研究者和工程师快速复现与集成。