AI算子测试工程师
岗位摘要
建立多层级性能Benchmark体系,涵盖端到端模型推理吞吐/延迟、算子级微基准(Roofline分析)及系统软件性能指标(Kernel Launch开销、内存带宽);建立精度验证体系,覆盖FP32/FP16/BF16/INT8/INT4等多种精度模式下的数值正确性验证,定义Cosine Simi…
岗位职责
- 建立多层级性能Benchmark体系,涵盖端到端模型推理吞吐/延迟、算子级微基准(Roofline分析)及系统软件性能指标(Kernel Launch开销、内存带宽)
- 建立精度验证体系,覆盖FP32/FP16/BF16/INT8/INT4等多种精度模式下的数值正确性验证,定义Cosine Similarity、相对误差阈值等精度判定标准
- 设计性能与精度回归监控体系,建立每日/每周自动化基线报告,实现异常自动告警并触发问题追踪
- 建设Profiling工具链,集成GPU Profiler(Nsight、rocprof)和系统级Profiler(perf、VTune),支持性能瓶颈快速定位
- 与Compiler、Runtime团队协同进行性能调优和精度问题定位,产出优化建议和效果评估报告
- 输出竞品性能对比分析报告和版本迭代精度合规报告,为产品发布决策提供数据支撑
任职要求
- 本科及以上学历,5年及以上软件开发、测试开发或性能优化经验
- 扎实的C/C++、Python开发能力,具备性能测试或基准开发经验
- 熟悉Linux开发环境及Git、Shell、Docker等工具链
- 熟悉PyTorch、TensorFlow、ONNX等至少一种AI框架的推理部署流程
- 具备性能分析基础,熟练使用至少一种Profiling工具(perf、Nsight、VTune、rocprof等)
- 【优先】有AI推理引擎(ONNX Runtime、TensorRT、vLLM)性能优化或精度验证实际经验
- 【优先】熟悉GPU软件栈(CUDA、ROCm、MUSA)性能特性和优化技巧
- 【优先】有量化感知训练(QAT)或训练后量化(PTQ)精度验证经验
- 【优先】有Benchmark标准化(MLPerf Inference、AI Benchmark)参与经验
- 【加分】有AI芯片性能调优或精度对齐经验
- 【加分】熟悉混合精度(AMP)训练或推理相关技术
- 【加分】有性能建模(Roofline Model)或性能预测经验
加分项
- 有 AI 推理引擎(ONNX Runtime、TensorRT、vLLM)性能优化或精度验证实际经验
- 熟悉 GPU 软件栈(CUDA、ROCm、MUSA)性能特性和优化技巧
- 有量化感知训练(QAT)或训练后量化(PTQ)精度验证经验
- 有 Benchmark 标准化(MLPerf Inference、AI Benchmark)参与经验
- 有 AI 芯片性能调优或精度对齐经验
- 熟悉混合精度(AMP)训练或推理相关技术
- 有性能建模(Roofline Model)或性能预测经验
- 卜先生 刚刚活跃
- 摩尔线程 · 资深研发工程师
福利待遇
- 薪资范围:20,000至40,000元,共16薪
- 工作地点:成都武侯区天府软件园E区
工作地址
成都武侯区天府软件园E区E5-1栋12楼