端侧模型推理系统研发工程师
岗位摘要
负责端侧模型推理系统的研发与优化，服务于公司各个算法产品的端侧化；优化LLM、VLM、Omni等核心算法业务；与公司各算法部门深度合作，分析端侧算法业务的性能瓶颈和系统架构特征；使用软硬件结合的优化思想，实现极致性能
岗位职责
- 负责端侧模型推理系统的研发与优化，服务于公司各个算法产品的端侧化
- 优化LLM、VLM、Omni等核心算法业务
- 与公司各算法部门深度合作，分析端侧算法业务的性能瓶颈和系统架构特征
- 使用软硬件结合的优化思想，实现极致性能
任职要求
- 熟练掌握C/C++、Python语言，能够使用主流深度学习框架
- 熟悉端侧模型的推理框架，例如QNN、NeuroPilot、MNN等
- 熟悉主流深度学习模型及其应用场景，如Qwen-LLM、QwenVL、DeepSeek等系列模型
- 对模型推理调试、调优有实操经验
- 能分析与优化算法系统实际推理时的算力、IO等瓶颈
- 研发端侧推理加速系统
加分项
- 熟悉大模型的推理加速方案，例如混合低 Bit QAT/PTQ量化、推测解码、异构存算、条件计算、KVCache 共享等
- 理解端侧硬件架构特点，具备端侧 GPU/NPU 异构性能分析与调优的经验
- 熟悉各类深度学习模型和算子底层实现细节，并能实现优化
- 熟悉 Gemma3N、RWKV 、混合Attention等新架构模型特点