大模型训推框架工程师(实习/校招)
岗位摘要
建设分布式训练推理系统,包括模型并行、长上下文、MoE、低精度训推等;建设强化学习训练系统,包括异步RL、Agent RL、OPD等;建设多模态训练系统,包括模型结构搭建、性能显存优化、数据读取加速等
岗位职责
- 建设分布式训练推理系统,包括模型并行、长上下文、MoE、低精度训推等
- 建设强化学习训练系统,包括异步RL、Agent RL、OPD等
- 建设多模态训练系统,包括模型结构搭建、性能显存优化、数据读取加速等
- 设计和开发大规模推理服务的KV Cache磁盘缓存、负载均衡等策略
- 与算法团队协作,支持新模型、新算法快速落地
任职要求
- 基础扎实,学习能力强,愿意深入复杂系统和底层细节
- 代码能力强,代码品味好,擅长与Code Agent合作
- 对大模型训练、推理、强化学习、多模态系统优化有强烈兴趣
- 熟悉Python/C++/Rust之一,了解PyTorch
加分项
- 在大型开源软件中有深度贡献,或有优秀个人开源项目
- 在高性能计算相关赛事(SC / ASC / ISC / PAC 等)或算法竞赛(IOI / NOI / ICPC 等)中取得优异成绩
- 熟悉 CUDA / Triton / TileLang / Ascend C 等算子开发
- 熟悉 RDMA 编程,CPU / IO 优化
- 在校成绩排名前 10%
- 复现过 LLM、RL、多模态相关论文 / 项目
- (我们欢迎没有大模型经验,但计算机基础素质扎实、对 AGI 有热情的同学加入)
- 深度求索 · 人力招聘专员
福利待遇
- 薪资30-60K,14薪
- 实习/全职岗位可选
- 参与AGI基础设施构建,与前沿团队协作
工作地址
北京海淀区融科资讯中心融科大楼