端侧大模型部署优化工程师
岗位摘要
负责端侧(手机/驾舱/智能硬件)大模型的部署,包括但不限于框架开发、算子优化、硬件适配;负责端侧大模型的前沿优化技术调研与落地;参与模型、系统与硬件的协同优化与联合设计;熟悉Linux,熟悉C/C++/Python,具有良好的编程风格
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责端侧(手机/驾舱/智能硬件)大模型的部署,包括但不限于框架开发、算子优化、硬件适配
- 负责端侧大模型的前沿优化技术调研与落地
- 参与模型、系统与硬件的协同优化与联合设计
任职要求
- 熟悉Linux,熟悉C/C++/Python,具有良好的编程风格
- 熟悉主流的LLM、VLM模型架构以及常用的LLM优化技术,例如Continuous-Batching、Speculative-Decoding、Quantization等
- 熟悉GAN、Diffusion、Flow-Matching多种生成式技术与DiT等代表性模型架构
- 掌握语音核心技术(ASR、TTS)与模型架构(Whisper、Tacotron),具备端到端的工业级落地经验
- 熟悉至少一款主流的推理引擎框架,如llama.cpp、MNN、vLLM、TensorRT
- 熟悉OpenCL、CUDA等并行编程
- 有异构系统开发经验,熟悉QualComm NPU开发流程
- 有系统顶会(OSDI、NSDI、MLSys)一作优先
工作地址
上海徐汇区西岸凤巢AI PLAZA30楼
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。