具身世界模型推理加速工程师
岗位摘要
负责具身世界模型推理阶段的加速优化；适配Multi-Token-Prediction在推理端的应用；实现张量并行和专家并行在推理框架的适配；完成CFG并行的适配工作；进行模型的FP8量化和NVF4量化
岗位职责
- 负责具身世界模型推理阶段的加速优化
- 适配Multi-Token-Prediction在推理端的应用
- 实现张量并行和专家并行在推理框架的适配
- 完成CFG并行的适配工作
- 进行模型的FP8量化和NVF4量化
- 与算法团队协作，优化最终上线或开源模型的推理速率
任职要求
- 硕士及以上学历
- 丰富的Diffusion模型和多模态AR大模型推理加速经验
- 参与过多模态大模型或视频模型的推理加速和商业化落地
福利待遇
- 参与前沿具身世界模型研发
- 与顶尖算法团队协作
- 推动模型商业化落地
- 优化开源模型性能