LLM根本不会推理——别被它的流利表达骗了

2016年3月，AlphaGo在首尔与李世石的围棋对决中走出第37手，落子位置出人意料，部分解说员甚至以为是程序出错。李世石赛后感叹，这一手让他改变了对机器的看法，认为AlphaGo具备了创造力。然而，这一手并非来自机器直觉，而是AlphaGo推理能力的体现——一种当今主流AI系统普遍缺失的能力。

AlphaGo由两套系统构成：策略网络负责模拟人类棋手的直觉判断，搜索机制则显式构建并遍历包含数千条分支的博弈树，评估每一步棋的长远后果。第37手在策略网络眼中不过是万分之一概率的冷门选择，正是搜索机制的深度推演让AlphaGo最终选择了它。这与行为科学中卡尼曼提出的系统1与系统2思维框架高度吻合：直觉提供线索，推理加以验证。

相比之下，大语言模型的运作方式截然不同。LLM通过反复预测下一个词元来生成文本，本质上是快速、联想式的系统1思维。「思维链」技术虽然让模型在回答前生成中间步骤，看似引入了逐步推理，但这些步骤仍由同一个词元预测过程产生，并非独立的推理机制，与AlphaGo的搜索系统有着本质区别。

研究人员指出，当前LLM的推理存在三大根本缺陷：其一，模型没有显式、持久且可检查的认知状态，无法追踪正在考虑的假设、证据权重与未解问题；其二，模型的知识与推理过程深度耦合于神经网络权重之中，无法分离；其三，研究表明模型常常先得出答案，再倒推出看似合理的推理链条，而非真正按步骤推导。

这些缺陷在医疗、工程、科学研究等高风险领域尤为危险。当AI系统出现错误时，我们需要能够追溯问题根源——是推理逻辑有误、引用了无效证据，还是预设了错误假设。如果推理过程本身不透明、不可信，错误就无从纠正，后果也难以预判。

文章作者、前谷歌DeepMind研究员因此离职，呼吁业界借鉴AlphaGo的架构思路，为AI构建能够维护显式认知状态的推理系统。这一状态应清晰记录已确认的结论、存疑的假设与尚未解决的问题，并随新信息的到来系统性地更新。尽管开放世界的推理远比围棋复杂，但他认为当前神经网络的进展已为这一方向提供了可行基础。

要点

• AlphaGo第37手的创造性来自显式博弈树搜索，而非神经网络直觉，这与当今LLM的工作机制有本质区别。
• LLM的思维链本质上仍是词元预测的延伸，缺乏独立的推理机制，模型常在得出答案后才倒推推理过程。
• 真正的推理系统需要维护可检查的显式认知状态，并将知识存储与推理过程清晰分离。
• 在医疗、科学等高风险领域，推理过程的可追溯性与结论本身同等重要，当前LLM的不透明性构成实质风险。
• 前DeepMind研究员呼吁以AlphaGo架构为蓝本，开发具备真正推理能力的下一代AI系统。