端侧大模型部署优化工程师
岗位摘要
负责端侧场景（手机、座舱、各类智能硬件）大模型的部署落地，参与推理框架开发、核心算子优化、硬件适配调试，确保模型稳定运行；跟踪端侧大模型前沿优化技术，完成技术调研、方案测试与落地执行，将成熟优化方法应用到实际项目，提升部署效率与模型性能
岗位职责
- 负责端侧场景（手机、座舱、各类智能硬件）大模型的部署落地，参与推理框架开发、核心算子优化、硬件适配调试，确保模型稳定运行
- 跟踪端侧大模型前沿优化技术，完成技术调研、方案测试与落地执行，将成熟优化方法应用到实际项目，提升部署效率与模型性能
- 配合团队完成模型、软件系统与底层硬件的协同优化及联合设计，参与跨环节技术对接，解决协同过程中的实操问题
任职要求
- 硕士学历，具备3-5年相关工作经验
- 熟悉Linux操作系统的使用与基础操作，熟练掌握C/C++/Python编程语言，具备规范、整洁的编程风格，能独立完成代码编写与调试
- 熟悉主流LLM（大语言模型）、VLM（视觉语言模型）的基本架构，掌握连续批处理（Continuous-Batching）、推测解码（Speculative-Decoding）、量化（Quantization）等常用LLM优化技术，能运用相关技术进行优化
工作地址
上海徐汇区东航滨江中心-T3座8楼