大模型算法工程Co-Design专家
岗位摘要
深入理解大模型算法(架构、训练/推理技术),评估其工程可行性、性能瓶颈与成本;主导设计下一代训练/推理框架或核心组件,确保原生支持高效算法实现(如高效Attention、通信优化);系统性解决训练/推理工作负载的性能瓶颈(计算、通信、存储)
岗位职责
- 深入理解大模型算法(架构、训练/推理技术),评估其工程可行性、性能瓶颈与成本
- 主导设计下一代训练/推理框架或核心组件,确保原生支持高效算法实现(如高效Attention、通信优化)
- 系统性解决训练/推理工作负载的性能瓶颈(计算、通信、存储)
- 设计并实现高性能核心(如定制Kernel)、优化通信与数据流水线
- 设计构建大规模分布式训练系统(DeepSpeed/Megatron-LM/FSDP)
- 设计构建高并发、低延迟的大模型推理服务平台
- 跟踪领域前沿,探索验证新技术
任职要求
- 本科及以上学历
- 经验不限,但需具备深度理解大模型算法和系统工程设计能力
福利待遇
- 工作地点位于上海徐汇区新研大厦
工作地址
上海徐汇区新研大厦11层