端侧AI推理框架高级开发工程师
岗位摘要
主导端侧AI推理框架的整体架构设计与核心模块开发，支持多模态大模型在资源受限设备上的高效运行；深度优化模型推理性能，包括算子融合、内存复用、图优化、量化（INT8/INT4）、稀疏化、编译优化（如MLIR/TVM）等关键技术
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 主导端侧AI推理框架的整体架构设计与核心模块开发，支持多模态大模型在资源受限设备上的高效运行
- 深度优化模型推理性能，包括算子融合、内存复用、图优化、量化（INT8/INT4）、稀疏化、编译优化（如MLIR/TVM）等关键技术
- 针对主流芯片平台（如高通、地平线、MTK、NVIDIA、华为昇腾）进行定制化适配与性能调优，实现低延迟、低功耗、高吞吐的推理能力
- 构建端侧多模态任务调度与资源管理机制，支持语音识别、视觉理解、对话生成等多模型并发执行与协同推理
- 与算法、系统、硬件及客户解决方案团队紧密协作，推动从模型训练到端侧部署的端到端Pipeline打通
- 跟踪业界前沿技术（如WebNN、ONNX Runtime Mobile、TensorRT-LLM、ExecuTorch等），引入先进工具链与优化策略
任职要求
- 计算机科学、电子工程、自动化或相关专业硕士及以上学历，3年以上端侧AI系统或高性能计算相关工作经验
- 精通C/C++，熟悉Python，具备扎实的系统编程与底层优化能力
- 深入理解主流AI推理框架（如TensorRT、ONNX Runtime、TFLite、MNN、NCNN、MindSpore Lite等）的架构与实现原理
- 有实际的大模型（LLM/VLM/SLM）端侧部署经验，熟悉量化感知训练（QAT）、动态批处理、KV Cache优化、FlashAttention移动端适配等技术
- 有AI手机、智能座舱、车载IVI系统、IoT边缘设备等ToB产品量产落地经验
- 具备良好的跨团队协作能力、问题定位能力和技术方案抽象能力，能将复杂性能瓶颈转化为可执行优化路径
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。