返回岗位列表

大模型训练框架工程师

查看原岗位

地点：北京薪资：薪资未公开日期：2026-01-29

岗位摘要

基于 PyTorch、DeepSpeed、Megatron-LM 等技术，参与大模型训练框架的设计、开发与优化；提升模型训练的效率、稳定性与扩展性，支撑大规模模型的高效训练和部署；解决万卡集群中大模型训练中的关键技术难题，包括分布式训练通信、内存显存优化、数据加载与预处理加速等

岗位职责

基于 PyTorch、DeepSpeed、Megatron-LM 等技术，参与大模型训练框架的设计、开发与优化
提升模型训练的效率、稳定性与扩展性，支撑大规模模型的高效训练和部署
解决万卡集群中大模型训练中的关键技术难题，包括分布式训练通信、内存显存优化、数据加载与预处理加速等
保障训练高效稳定，降低资源消耗
开展大模型框架性能评估和调优工作，构建并完善性能监控体系
通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能

任职要求

1–5 年高性能计算 / 分布式训练 / 深度学习系统研发经验
熟练阅读并修改 PyTorch/DeepSpeed/Megatron-LM 核心源码，有线上调优案例
熟练使用 nsight/NCCL profiler 分析任务训练性能瓶颈
熟悉 InfiniBand/RoCEv2 网络拓扑，能独立调优 DP/TP/PP/EP 切分策略，解决大规模下通信-计算重叠问题
具备 Python/C++ 混合开发能力，代码洁癖＋CI/CD 意识