返回岗位列表

大模型推训测试开发

查看原岗位

地点：北京薪资：30-50K 日期：2026-05-22

岗位摘要

负责基于摩尔线程GPU及MUSA软件栈的大模型推理服务（SGLang、vLLM、Triton等）的全流程测试，包括精度、延迟、吞吐、长稳及多卡推理的端到端验证；针对摩尔线程MUSA生态中的关键算子（Attention、FlashAttention、MoE、量化算子等）设计精度对比方案与性能基准，开…

岗位职责

负责基于摩尔线程GPU及MUSA软件栈的大模型推理服务（SGLang、vLLM、Triton等）的全流程测试，包括精度、延迟、吞吐、长稳及多卡推理的端到端验证
针对摩尔线程MUSA生态中的关键算子（Attention、FlashAttention、MoE、量化算子等）设计精度对比方案与性能基准，开发自动化对比工具
开发面向摩尔线程推理和算子的自动化测试框架，支持回归测试、模糊测试、性能回归分析、异常注入等能力，提升测试效率与覆盖度
将测试方案集成到CICD流水线（Jenkins/GitLab CI），建立质量门禁，设计可复用的测试数据集与场景库，支撑多种模型在摩尔线程平台上的持续验证
分析推理瓶颈（算子耗时、显存占用、调度延迟），配合研发定位并回归验证优化点，利用摩尔线程性能工具（如MUSAProfiler）进行深度分析

任职要求

本科及以上学历，计算机相关专业，3年以上测试开发或软件开发经验，至少1年从事AI推理或底层算子相关测试开发工作
熟练掌握Python，熟悉C/C++或CUDA编程基础，能独立开发测试脚本、Mock服务或自动化测试平台
熟悉主流推理框架（SGLang、vLLM、TGI等）及常见算子逻辑（FlashAttention等），有实际的大模型推理或算子测试/调优经验
熟悉精度对比（相对误差、余弦相似度）、性能基线管理、长稳与压力测试设计，有从0到1搭建测试流程的经历
有将测试工具集成到CICD并作为发布卡点的实践，熟悉Docker/K8s环境下的测试部署，具备监控告警对接能力

加分项

有实际的项目落地经历:例如为推理引擎或算子库开发过完整的测试框架、性能回归系统或质量平台，并投入业务使用
开发能力突出:食能快速编写高质量的测试工具(如算推理压测工具、自动化回归分析脚本子精度对比工具、#等) 工程化经验丰富:熟悉CICD集成、容器化测试环境部署、复杂矩阵(多模型/多配置/多卡数)下的持续测试实践
熟悉常见量化方法(INT8/FP8等)或有相关测试经验
有SGLang、vLLM等推理引擎的适配或测试经验
汪伟刚刚活跃

福利待遇

具有竞争力的薪酬，13薪以上，上不封顶
参与前沿GPU技术生态建设，深入接触大模型推理全链路技术
与优秀研发团队紧密协作，共同攻克复杂技术难题
完善的五险一金及商业保险福利
带薪年假及节日福利

工作地址

北京朝阳区望京国际研发园l座3层