英伟达 SoL-Pi 系统通过优化控制层将编程智能体 Token 用量削减近半

随着 AI 智能体执行任务的时间越来越长，其 Token 消耗也呈指数级增长。单次预测演变为漫长的推理链、工具调用与反馈循环，成本随之急剧攀升。英伟达研究团队将目光投向了一个此前鲜少被关注的优化对象——harness，即智能体与运行环境之间的控制层。Codex、Claude Code 等主流编程智能体系统均依赖这一层来管理状态感知、动作执行与反馈处理。

SoL-Pi 的核心思路是让一个研究型 AI 自动分析另一个智能体的运行轨迹，提出控制层的改动方案，并通过能力与效率双重检验筛选出有效候选方案。整个搜索过程横跨 535 个可执行环境，涵盖 495 个来自 GitHub issue 与 pull request 配对的真实任务，以及 40 个合成测试用例，累计产生超过 6 万次智能体与环境的交互记录。研究人员将 EdgeBench 基准测试完全隔离于搜索过程之外，以防止过拟合。

搜索过程最终提炼出四种机制。Action Fusion 将连续两步操作合并为一步，直接省去一次语言模型调用；Online Context Compact 在每次规划步骤后自动裁剪冗余上下文；ObservationPack 将冗长的工具输出归档并以摘要替代，避免重复传输全文；Evidence-Preserving Reducer 则将大型错误日志路由至更廉价的模型进行提炼，并通过自动验证步骤确保关键信息不丢失。

在 EdgeBench 的 51 个公开任务上，SoL-Pi 最高效配置将 Token 用量压缩 49%，性能保留率达 93.7%。若用户优先追求性能，选择单一最强机制可在节省 Token 的同时超越原始 Pi 系统 5.3%。以实际费用计算，完整配置将单次测试成本从 1339 美元降至 894 美元，与原生 Codex 和 Claude Code 控制层相比每小时可节省 8.75 至 13.50 美元。

SoL-Pi 在其他基准测试上的表现则较为复杂。在 Terminal-Bench 4 的 63 个 CPU 任务中，SoL-Pi 仅解决 15 个，而 Codex 和 Pi 各解决 18 个，尽管总成本仍比 Pi 低约四分之一。在 IMO 2026 数学奥林匹克的 Lean 4 形式化验证任务中，系统以最低单题成本解出六题中的三题。研究人员将跨任务泛化能力不足归因于控制层仅在 GPT-5.6 Sol 的轨迹上进行了优化。

这项研究的背景是 AI 智能体 Token 消耗的爆炸式增长。据 OpenRouter 分析师 Peter Walker 统计，自 2026 年 2 月以来，智能体 Token 用量已增长 14 倍。工具公司 Composio 的测试也印证了控制层对成本的巨大影响——同一模型在不同智能体框架下运行，单任务成本差异接近 3 倍。英伟达研究人员展望未来，提出可将控制层优化类比为模型预训练，通过跨任务预训练 harness 进一步提升泛化能力，并将这一思路称为「递归效率改进」。

要点

• SoL-Pi 通过优化智能体控制层而非模型本身，在 EdgeBench 上将 Token 用量最高削减 49%，性能保留率达 93.7%。
• 系统自动提炼出四种机制：动作融合、在线上下文压缩、观测打包与证据保留压缩器，分别从不同环节减少冗余 Token 消耗。
• 与原生 Codex 和 Claude Code 控制层相比，SoL-Pi 每小时可节省 8.75 至 13.50 美元的 API 费用。
• 跨基准泛化能力仍是挑战，在 Terminal-Bench 4 上 SoL-Pi 解题数量少于对比系统，说明控制层优化存在过拟合风险。
• 随着智能体 Token 用量自 2026 年 2 月以来增长 14 倍，控制层优化正成为降低 AI 运营成本的重要新方向。