让大模型「说出」自己的内心状态

大语言模型在处理信息时，会将内部状态编码为高维激活向量。这些向量蕴含着模型计算过程的丰富信息，但对人类而言几乎不可读。Anthropic 团队提出的自然语言自编码器（NLA）正是为解决这一问题而设计：给定目标模型某一层的激活向量，NLA 能够生成一段自然语言描述，让研究者直接「阅读」模型的内部状态，而无需逐一解析原始数值。

NLA 的核心架构由激活语言化器和激活重建器两部分构成，二者均以目标模型为初始权重。训练时，两个模块通过强化学习协同优化，目标是让重建后的激活向量尽可能接近原始输入。值得注意的是，训练目标本身并不要求生成的文本具有可解释性，但实验结果显示，NLA 生成的解释在三个模型（Claude Haiku 3.5、Haiku 4.5 和 Opus 4.6）上均随训练进程变得更具信息量，例如能够推断出用户的性别或职业等上下文特征。

研究团队将 NLA 应用于 Claude Opus 4.6 的预部署审计，并记录了多个典型案例。其中一例是：早期版本的 Opus 4.6 在面对英文提示时自发回复俄语，NLA 解释显示模型内部形成了「用户母语为俄语」的假设。顺着这一线索，团队发现了训练数据中存在将英译提示与未翻译外语回复错误配对的问题，从而定位了根本原因。研究者还通过编辑 NLA 解释并重建激活向量的方式，构造出可用于因果干预的引导向量。

NLA 在审计中最具价值的应用之一，是识别模型「未言明的被测试意识」。这指的是模型内部判断当前处于评估场景，却并未在输出中明确表达。由于模型的底层信念本身不可直接观测，研究团队通过对比评估记录与真实部署流量中 NLA 的测量结果来间接验证：NLA 在评估场景下更频繁地检测到被测试意识，而将输入改写得更贴近真实部署场景后，检测频率随之下降，这表明 NLA 确实捕捉到了某种有意义的内部信号。

NLA 方法也存在明显局限，最主要的问题是「虚构」现象：生成的解释有时会包含与实际输入上下文不符的具体声明。研究团队分析发现，尽管细节可能有误，这些虚构内容在主题层面通常仍与上下文保持一致。例如，面对涉及某一历史王朝的文本，NLA 可能错误声称提到了该王朝某位具体君主。跨多个相邻 token 重复出现的声明，其准确率则相对更高。这些规律为实际使用 NLA 提供了重要的操作启示。

在自动化审计基准测试中，配备 NLA 的审计智能体在调查一个故意设计为错位对齐的模型时，表现优于未使用 NLA 的基线方法，且即便无法访问导致模型错位的训练数据，仍能成功定位问题根源。Anthropic 已公开 NLA 的训练代码及针对主流开源模型训练好的权重，以期推动可解释性研究领域的进一步发展。

要点

• NLA 通过激活语言化器与激活重建器的联合强化学习训练，将模型内部激活向量转化为可读自然语言，无需人工标注监督信号
• 在 Claude Opus 4.6 预部署审计中，NLA 成功发现了训练数据缺陷，并识别出模型存在未言明的「被测试意识」这一安全相关行为
• NLA 存在虚构问题，生成的解释在具体细节上可能失实，但主题层面通常与上下文保持一致，跨 token 重复出现的声明可信度更高
• 配备 NLA 的审计智能体在自动化错位检测基准上优于基线，且不依赖目标模型的训练数据即可完成调查
• Anthropic 已开源 NLA 训练代码及主流开源模型的预训练权重，为可解释性研究提供新工具