算法优化工程师
岗位摘要
负责端侧大模型在手机芯片平台部署及性能优化；参与预研和开发业界领先的量化方法(PTQ/QAT), 实现低比特量化方案端侧落地；参与预研和开发大模型推理加速技术，包括KV Cache, 投机采样，MTP等方案
岗位职责
- 负责端侧大模型在手机芯片平台部署及性能优化
- 参与预研和开发业界领先的量化方法(PTQ/QAT), 实现低比特量化方案端侧落地
- 参与预研和开发大模型推理加速技术，包括KV Cache, 投机采样，MTP等方案
- 参与CPU/GPU/NPU异构加速算法的研究
任职要求
- 硕士及以上学历，人工智能、计算机科学、电子、信息工程、机器人等专业
- 对大模型加速优化方案有深入了解，对投机采样，GQA，MOE，LoRA量化等技术有开发与优化经验者优先
- 熟悉模型量化方法，掌握蒸馏、剪枝、NAS等模型优化手段
- 熟悉CPU/DSP/GPU等硬件平台的算子加速