工程 / 官方
NVIDIA Nemotron 的开放数据方法论
NVIDIA 通过 Nemotron 项目阐述了构建 AI 智能体所面临的数据挑战，核心观点是：真正可用的智能体必须能处理工具调用失败、多步推理与未知工作流，这本质上是一个数据问题。Nemotron 已发布超过 10 万亿预训练 token 和数百万后训练样本，覆盖软件工程、推理、代码等场景，配套推出 Post-Training v3 Prompt Atlas 可视化工具来探索数据分布。合成数据是开放数据策略的关键支柱，既能帮助企业保留核心数据资产，也能构建本地化的人格数据，确保智能体在多语言、多文化场景下的服务质量。
真正可用的 AI 智能体需要能够处理工具调用失败、从未见过的工作流以及多步推理等复杂场景，这本质上是一个数据问题。NVIDIA 通过 Nemotron 开放数据产品线应对这一挑战，已发布超过 10 万亿预训练 token 和数百万后训练样本，涵盖软件工程轨迹、工具调用、检索、安全、用户模拟和物理交互等多个领域。
合成数据是 Nemotron 生态系统的核心支柱。Nemotron-CC 利用合成数据增强 Common Crawl 预训练集，Nemotron-MATH 通过合成数学问题提升推理能力，Nemotron-CLIMB 则提供专门的合成代码数据。在 ICML 2025 上，约有 145 篇论文引用了 Nemotron 模型和数据集，显示出开放数据在推动 AI 研究方面的广泛影响。
对于企业而言，数据是核心竞争力所在。合成数据提供了一种平衡：既能保留有价值的数据信号，又不会暴露底层数据源。通过公开合成数据，可以打破数据孤岛，让更多参与者共同丰富 AI 生态。Nemotron Post-Training v3 Prompt Atlas 作为交互式可视化地图，让开发者能够探索数据分布、检查特定区域（如编码算法、安全、数学或智能体行为）的代表性样本，从而更好地进行数据策展、构建评估集和理解模型行为。
智能体还需要理解其所服务的人群，这要求数据质量具有本地化特征。一个在英语互联网数据上训练的有害内容分类器，可能会忽略韩语或日语中通过礼貌程度编码的攻击性信号。Nemotron-Personas 正是为此设计的合成人格数据集，使用 NeMo Data Designer 构建，镜像各地区人口统计和地理统计数据，目前已覆盖代表 24 亿人口的十个国家。
合成数据并非万能解药，必须与真实数据源、人类反馈、模型生成的轨迹和模拟用户共同构成完整的数据系统。'合成阈值'是一个关键概念：当数据不再能被视为纯粹真实时，需要明确文档化生成内容、基础来源、审查流程和测试目标。推理数据需要更难的题目和更清晰的轨迹，人格数据需要分布保真度和本地审查，智能体工作流则需要任务多样性和失败覆盖能力。在这个领域，开放方法比封闭公式更有价值。
要点
- 真正可用的 AI 智能体本质上是一个数据问题，需要覆盖工具调用失败、多步推理、检索、安全和未知工作流等场景的训练数据。
- NVIDIA Nemotron 已发布超 10 万亿预训练 token 和数百万后训练样本，并通过 Prompt Atlas 等可视化工具帮助开发者理解和策展数据。
- 合成数据是开放数据策略的核心，既能帮助企业保留核心数据资产，又能打破数据孤岛，推动更丰富的共享数据生态。
- 数据质量具有本地化特征，Nemotron-Personas 通过合成人格数据覆盖多语言、多文化场景，目前已代表全球 24 亿人口。
- 合成数据需与真实数据源、人类反馈和评估机制结合使用，'合成阈值'和透明文档化是确保数据可信度的关键。