端侧大模型部署优化工程师

查看原岗位

地点：北京薪资：40-70K 日期：2026-03-05

岗位摘要

负责端侧场景（手机、驾舱、各类智能硬件）大模型的部署落地工作，参与推理框架开发、核心算子优化、硬件适配调试等相关实操工作，确保模型稳定运行；跟踪端侧大模型前沿优化技术，完成技术调研、方案测试与落地执行，将成熟的优化方法应用到实际项目中，提升部署效率与模型性能

熟悉Linux操作系统的使用与基础操作，熟练掌握C/C++/Python编程语言，具备规范、整洁的编程风格，能独立完成代码编写与调试
熟悉主流LLM（大语言模型）、VLM（视觉语言模型）的基本架构，掌握Continous-Batching、Speculative-Decoding、Quantization（量化）等常用LLM优化技术，能运用相关技术进行模型优化
熟悉GAN、Diffusion、Flow-Matching等生成式技术，了解DiT等代表性生成模型架构，能配合完成生成式模型的端侧适配工作
掌握ASR（语音识别）、TTS（语音合成）核心技术，熟悉Whisper、Tacotron等语音模型架构，具备语音模型端到端工业级落地的实操经验
熟悉至少一款主流推理引擎框架（llama.cpp、MNN、vLLM、TensorRT等），能熟练使用框架完成模型推理与基础优化
熟悉OpenCL、CUDA等并行编程技术，能运用并行计算知识完成端侧算子优化，提升模型运行效率
具备异构系统开发相关经验，熟悉QualComm NPU（高通神经网络处理器）的开发流程，能独立完成硬件适配、调试与优化工作
有系统领域顶会（OSDI、NSDI、MLSys）第一作者发表经历者优先考虑

北京海淀区大恒科技大厦00