大模型推理优化算法工程师
岗位摘要
开展高效模型结构设计与推理性能验证，评估对模型精度的影响；探索模型稀疏化、蒸馏、fast decoding等后训练优化技术，提升推理效率并推动落地；与多模态模型团队协作，支持推理效率需求并促进技术集成
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 开展高效模型结构设计与推理性能验证，评估对模型精度的影响
- 探索模型稀疏化、蒸馏、fast decoding等后训练优化技术，提升推理效率并推动落地
- 与多模态模型团队协作，支持推理效率需求并促进技术集成
- 跟踪业界前沿技术，探索超长序列、o1等新方向的优化机会
- 对接内部与开源推理框架，完成模型接入与性能调优
任职要求
- 具备LLM量化、蒸馏、剪枝或稀疏化等相关研究或工业落地经验
- 动手能力强，能独立完成算法验证与模型训练
- 熟悉vLLM、SGLang等主流推理框架，具备框架级验证或优化能力
- 技术追求强烈，务实高效，致力于产出高影响力成果
加分项
- 对 LLM 的推理有深入认知，可以做训练、推理的联合设计以提升全链路效率
- MLSys 方向的知名开源项目（vLLM、SGlang等）贡献者
- ACM 等编程竞赛获奖者
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。