大模型后训练系统工程师
岗位摘要
构建基础训练与推理引擎,保障精度并优化效率;优化低精度训练与推理效率,建设训练推理一致性;设计并优化大规模强化学习框架,面向下一代长程任务训练进行深度优化;建设系统稳定性,提升大规模训练过程中的容错定位及恢复效率
岗位职责
- 构建基础训练与推理引擎,保障精度并优化效率
- 优化低精度训练与推理效率,建设训练推理一致性
- 设计并优化大规模强化学习框架,面向下一代长程任务训练进行深度优化
- 建设系统稳定性,提升大规模训练过程中的容错定位及恢复效率
- 进行算法与工程协同设计,共同优化系统易用性并提升算法效果
- 提升系统可观测性,支持细粒度指标建设与生命周期追溯管理
任职要求
- 熟悉PyTorch分布式训练与推理原理,熟悉Megatron/FSDP、vLLM/Sglang者优先
- 熟悉PPO原理及各变种强化学习算法,熟悉verl、slime等框架者优先
- 熟悉性能分析与问题排查相关工具,具备独立定位并解决复杂问题的能力
- 熟悉AI Coding,有使用或建设代码助手、自动化研发工具、Coding Agent的经验
- 本科及以上学历,1-3年相关工作经验
工作地址
北京海淀区大恒科技大厦南座12层