大模型训练系统实习生
岗位摘要
参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案;针对大语言模型等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量;针对大语言模型等场景,开展端到端推理精度分析,提升模型精度
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案
- 针对大语言模型等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量
- 针对大语言模型等场景,开展端到端推理精度分析,提升模型精度
- 开发和维护大语言模型量化工具等
任职要求
- 计算机、电子工程、自动化、数学等相关专业优先
- 精通Python/C++
- 深入理解LLM或者视觉生成模型框架和原理
- 深入理解量化、kvcache、多机多卡并行等加速技术
- 至少实习6个月,每周出勤4天及以上
加分项
- 参与过LLM或者视觉生成端到端推理优化项目,并实际落地
- 了解torch.
- compile/CUDAGraph/Triton
- 了解vllm, sglang, megatron, verl等
福利待遇
- 提供有竞争力的日薪200-250元
- 参与行业领先的大模型推理优化项目
- 深入学习量化、并行加速等核心技术
- 表现优秀者有转正机会
工作地址
北京海淀区北航致真大厦D座16层
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。