AI基础设施实习生
岗位摘要
参与预训练的性能优化与新模型结构探索工作,提升预训练的探索效率;开发领先的RL Infra框架,支持最前沿的RL算法探索工作;提升LLM推理引擎的计算效率;实验并落地探索创新性的推理方案,实现数量级级别的成本下降
岗位职责
- 参与预训练的性能优化与新模型结构探索工作,提升预训练的探索效率
- 开发领先的RL Infra框架,支持最前沿的RL算法探索工作
- 提升LLM推理引擎的计算效率
- 实验并落地探索创新性的推理方案,实现数量级级别的成本下降
任职要求
- 熟练掌握Python、C++,擅长分析性能问题
- 熟练掌握CUDA,或拥有3年以上的计算密集型优化经验优先
- 同时拥有分布式系统设计经验者优先
- ISC / ACM / NOI等竞赛获奖者优先
福利待遇
- 实习薪资400-660元/天
- 接触最新的大模型研究工作
- 解决万卡规模的训练/推理当中的效率问题
- 一同探索各类创造性的解决思路,并在真实的场景中精细打磨并落地实践
- 有机会参与Mooncake、MoBA、Moonlight等前沿项目
工作地址
北京海淀区京东科技大厦13F