大模型AI算力工程师
岗位摘要
基于Kubernetes建设和运营万卡级GPU集群,负责GPU适配、拓扑感知调度、Gang调度、GPU故障自愈、全链路可观测等核心能力;统一纳管小米GPU资源,推进GPU调度优化、资源池化、GPU虚拟化、训推混部等关键技术研发,持续提升全集团GPU资源利用率
岗位职责
- 基于Kubernetes建设和运营万卡级GPU集群,负责GPU适配、拓扑感知调度、Gang调度、GPU故障自愈、全链路可观测等核心能力
- 统一纳管小米GPU资源,推进GPU调度优化、资源池化、GPU虚拟化、训推混部等关键技术研发,持续提升全集团GPU资源利用率
- 持续探索前沿GPU芯片的技术特性,包括国产卡适配、混合精度、模型量化、显存优化等技术,将芯片能力转化为业务竞争力
任职要求
- 熟悉主流GPU训练和推理芯片,熟悉CUDA生态,有大模型训练和推理优化经验优先
- 熟悉Kubernetes和GPU算力管理,有万卡集群建设和GPU利用率提升经验优先
- 熟练Go/Python/C++至少一门语言,有PyTorch/Volcano/Megatron/SGLang框架熟悉者优先
- 计算机相关专业,本科及以上学历