大模型基础设施工程师(训练方向)
岗位摘要
研究并实现超大规模GPU集群分布式训练技术,提升MOE大模型与强化学习训练吞吐;调研并实现大模型前沿算法;研发并调优大模型训练与推理框架;熟悉Python或C++,具备扎实算法与计算机基础,编程规范良好
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 研究并实现超大规模GPU集群分布式训练技术,提升MOE大模型与强化学习训练吞吐
- 调研并实现大模型前沿算法
- 研发并调优大模型训练与推理框架
任职要求
- 熟悉Python或C++,具备扎实算法与计算机基础,编程规范良好
- 熟悉深度学习及大模型训练相关算法
- 熟练使用PyTorch/JAX/Paddle等深度学习框架
- 责任心强,学习、沟通与自驱能力优秀
加分项
- 有大规模GPU集群性能优化和训练经验优先
- 熟悉大模型训练框架和推理框架,包括不限于Megatron/DeepSpeed/ColossalAI/torchtitan/sglang/vllm等
- 熟悉大模型算法,如大模型基础架构/强化学习/多模态/视频生成等
- 在顶级会议发表论文或有竞赛经验优先考虑
- 熟悉cuda相关开发
- 汪伟 刚刚活跃
福利待遇
- 优先参与顶级GPU集群性能优化项目
- 深入掌握Megatron、DeepSpeed、vLLM等主流训练推理框架
- 接触大模型基础架构、强化学习、多模态、视频生成等前沿算法
- 顶级会议论文发表及竞赛机会
- CUDA开发技能提升与专家指导
工作地址
北京朝阳区望京国际研发园l座3层
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。