算法优化工程师
岗位摘要
负责端侧大模型在手机芯片平台部署及性能优化;参与预研和开发业界领先的量化方法(PTQ/QAT), 实现低比特量化方案端侧落地;参与预研和开发大模型推理加速技术,包括KV Cache, 投机采样,MTP等方案
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责端侧大模型在手机芯片平台部署及性能优化
- 参与预研和开发业界领先的量化方法(PTQ/QAT), 实现低比特量化方案端侧落地
- 参与预研和开发大模型推理加速技术,包括KV Cache, 投机采样,MTP等方案
- 参与CPU/GPU/NPU异构加速算法的研究
任职要求
- 硕士及以上学历,人工智能、计算机科学、电子、信息工程、机器人等专业
- 对大模型加速优化方案有深入了解,对投机采样,GQA,MOE,LoRA量化等技术有开发与优化经验者优先
- 熟悉模型量化方法,掌握蒸馏、剪枝、NAS等模型优化手段
- 熟悉CPU/DSP/GPU等硬件平台的算子加速
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。