AI应用推理引擎研发工程师（2027届校招）
岗位摘要
负责端侧大模型推理框架（如vLLM、llama.cpp、MNN等）的性能优化与加速，提升吞吐量并降低推理延迟；负责端侧语音、Embedding、OCR、AIGC、自动驾驶等模型在推理框架（如ONNXRuntime、MNN等）中的性能调优与部署适配
岗位职责
- 负责端侧大模型推理框架（如vLLM、llama.cpp、MNN等）的性能优化与加速，提升吞吐量并降低推理延迟
- 负责端侧语音、Embedding、OCR、AIGC、自动驾驶等模型在推理框架（如ONNXRuntime、MNN等）中的性能调优与部署适配
- 与算子团队、编译器团队紧密协作，共同完成端侧高性能推理框架的集成、验证与交付
- 深入分析推理链路性能瓶颈，设计并实现系统级优化方案，推动框架在真实场景中的高效稳定运行
任职要求
- 计算机、电子信息等相关专业，本科及以上学历，欢迎基础扎实的在读同学投递
- 了解vLLM、llama.cpp、ONNXRuntime至少一种推理框架的架构与工作机制，有阅读源码经历者优先
- 了解大模型推理主流加速技术（Flash Attention、Paged Attention、Speculative Decoding、Continuous Batching等），有实践复现经历者优先
- 了解GPU并行编程，能使用Triton/Cutlass完成Kernel开发调优，理解CUDA内存管理与性能优化思路
- 能使用Nsight等性能剖析工具，了解CUDA Graph、Torch AOT等优化技术
- 【加分项】深入掌握算子优化、编译器优化（MLIR、TVM）或GPU硬件架构知识
- 【加分项】有端侧量化（W4A16、W4A8）调优及模型部署相关项目实践经验
加分项
- 深入掌握算子优化、编译器优化（MLIR、TVM）或 GPU 硬件架构知识 有端侧量化（W4A16、W4A8）调优、模型部署相关项目实践
- 刘女士 今日活跃
福利待遇
- 薪资范围25K–50K，共16薪，薪酬竞争力强
- 工作地点位于北京朝阳区望京国际研发园，地理位置优越
- 加入摩尔线程，参与前沿AI推理引擎研发，技术成长空间广阔
- 与算子、编译器等顶尖技术团队紧密协作，提升系统级工程能力
工作地址
北京朝阳区望京国际研发园I座