大模型训练/推理框架工程师
岗位摘要
建设分布式训练推理系统，包括模型并行、长上下文、MoE、低精度训推等；建设RL训练系统，包括异步RL、Agent RL、OPD等；建设多模态训练系统，包括模型结构搭建、性能显存优化、数据读取加速等
岗位职责
- 建设分布式训练推理系统，包括模型并行、长上下文、MoE、低精度训推等
- 建设RL训练系统，包括异步RL、Agent RL、OPD等
- 建设多模态训练系统，包括模型结构搭建、性能显存优化、数据读取加速等
- 设计和开发大规模推理服务的KV Cache磁盘缓存、负载均衡等策略
- 与算法团队协作，支持新模型、新算法快速落地
任职要求
- 基础扎实，学习能力强，愿意深入复杂系统和底层细节
- 代码能力强，代码品味好，擅长与Code Agent合作
- 对大模型训练、推理、RL、多模态系统优化有强烈兴趣
- 熟悉Python/C++/Rust之一，了解PyTorch
加分项
- 在大型开源软件中有深度贡献，或有优秀个人开源项目
- 在高性能计算相关赛事（SC / ASC / ISC / PAC 等）或算法竞赛（IOI / NOI / ICPC 等）中取得优异成绩
- 熟悉 CUDA / Triton / TileLang / Ascend C 等算子开发
- 熟悉 RDMA 编程，CPU / IO 优化
- 在校成绩排名前 10%
- 复现过 LLM、RL、多模态相关论文 / 项目
- （我们欢迎没有大模型经验，但计算机基础素质扎实、对 AGI 有热情的同学加入
- 丁先生 刚刚活跃
福利待遇
- 薪资范围35-65K，16薪
- 实习/全职岗位可选
工作地址
杭州拱墅区汇金国际A座