AI infra测试开发工程师(推理、算子方向)
岗位摘要
负责基于摩尔线程GPU及MUSA软件栈的大模型推理服务(SGLang、vLLM、Triton等)的全流程测试,包括精度、延迟、吞吐、长稳及多卡推理的端到端验证;针对MUSA生态中的关键算子(Attention、FlashAttention、MoE、量化算子等)设计精度对比方案与性能基准,开发自动化…
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责基于摩尔线程GPU及MUSA软件栈的大模型推理服务(SGLang、vLLM、Triton等)的全流程测试,包括精度、延迟、吞吐、长稳及多卡推理的端到端验证
- 针对MUSA生态中的关键算子(Attention、FlashAttention、MoE、量化算子等)设计精度对比方案与性能基准,开发自动化对比工具
- 开发面向摩尔线程推理和算子的自动化测试框架,支持回归测试、模糊测试、性能回归分析、异常注入等能力
- 将测试方案集成到CI/CD流水线(Jenkins/GitLab CI),建立质量门禁,设计可复用的测试数据集与场景库
- 分析推理瓶颈(算子耗时、显存占用、调度延迟),配合研发定位并回归验证优化点,利用MUSA Profiler进行深度性能分析
任职要求
- 本科及以上学历,计算机相关专业,3年以上测试开发或软件开发经验,至少1年从事AI推理或底层算子相关测试/开发工作
- 扎实的开发能力:熟练掌握Python,熟悉C/C++或CUDA/MUSA编程基础,能独立开发测试脚本、Mock服务或自动化测试平台
- 熟悉主流推理框架(SGLang、vLLM、TGI等)及常见算子逻辑(FlashAttention等),有实际的大模型推理或算子测试/调优经验
- 熟悉精度对比(相对误差、余弦相似度)、性能基线管理、长稳与压力测试设计,有从0到1搭建测试流程的经历
- 有将测试工具集成到CI/CD并作为发布卡点的实践,熟悉Docker/K8s环境下的测试部署,具备监控告警对接能力
加分项
- (务实版) · 有实际的项目落地经历:例如为推理引擎或算子库开发过完整的测试框架、性能回归系统或质量平台,并投入业务使用
- · 开发能力突出:能快速编写高质量的测试工具(如算子精度对比工具、推理压测工具、自动化回归分析脚本等)
- · 工程化经验丰富:熟悉CI/CD集成、容器化测试环境部署、复杂矩阵(多模型/多配置/多卡数)下的持续测试实践
- · 熟悉常见量化方法(INT8/FP8等)或有相关测试经验
- · 有SGLang、vLLM等推理引擎的适配或测试经验
- 王女士 今日活跃
- 摩尔线程 · 部门负责人
福利待遇
- 具有竞争力的薪酬:30-35K·16薪
- 加入摩尔线程,参与国产GPU生态建设
- 有机会接触大模型推理和算子优化前沿技术
工作地址
北京朝阳区望京国际研发园I座
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。