大模型推理优化工程师
岗位摘要
负责主流大模型（GLM/V4/KIMI/Minimax等）在摩尔线程芯片上的端到端性能优化；负责端到端优化过程中的框架优化、模型特征分析、算子及底层软件优化；负责模型PD同构及PD异构优化方案，提升端到端吞吐至硬件规格极限
岗位职责
- 负责主流大模型（GLM/V4/KIMI/Minimax等）在摩尔线程芯片上的端到端性能优化
- 负责端到端优化过程中的框架优化、模型特征分析、算子及底层软件优化
- 负责模型PD同构及PD异构优化方案，提升端到端吞吐至硬件规格极限
- 针对新模型开发领先于开源框架的优化特性
任职要求
- 计算机科学相关专业，硕士及以上学历，3年以上相关工作经验，工程能力强
- 熟悉C++/Python，具备优秀的编程能力
- 熟悉大模型推理框架，包括但不限于Sglang、Vllm、Pytorch等，具有大模型推理方向的开发及深度优化经验
- 熟悉GPU架构及底层硬件原理，具备CUDA并行编程和算子开发经验者优先
- 具备出色的分析和解决问题的能力，热衷于攻克极具挑战性的技术难题
- 具备优秀的沟通与表达能力，具有团队合作精神，能够自我驱动，并在快节奏环境中高效成长
福利待遇
- 薪资范围：45,000–50,000元/月，共16薪
工作地址
北京朝阳区望京国际研发园I座