AI/HPC计算系统——异构计算与存储(北京/上海)
岗位摘要
从计算系统全局视角(包括计算单元子系统、SoC芯片、多卡、超节点、数据中心、分布式集群)对顶层架构、编程模型、指令集、异构系统进行软硬协同设计;对多GPU系统、CPU-GPU协同、异构多芯片系统的AI工作负载性能进行建模与分析
岗位职责
- 从计算系统全局视角(包括计算单元子系统、SoC芯片、多卡、超节点、数据中心、分布式集群)对顶层架构、编程模型、指令集、异构系统进行软硬协同设计
- 对多GPU系统、CPU-GPU协同、异构多芯片系统的AI工作负载性能进行建模与分析
- 研究AI/HPC算法、CUDA编程,分析AI/HPC在多GPU系统上的可扩展性能、稳定性、功耗及总拥有成本(TCO)等问题
- 对接产品经理、客户支持工程师、算法工程师、框架工程师、软件栈工程师,深入理解客户底层需求,提炼架构优化方向及具体设计需求,制定相关架构的SPEC
任职要求
- 硕士学历且6年以上工作经验,或博士学历且3年以上工作经验
- 具备计算机系统结构知识,理解GPU架构及多GPU系统架构
- 具有编程模型、内存模型、软硬接口、指令集架构(ISA)、操作系统等方面的知识和经验
- 熟悉CPU、GPU等处理器的内存管理、存储管理、页表、地址管理、总线系统、存储系统等
- 理解AI或HPC算法及其在多GPU系统上的部署和运行时数据流
- 了解现代MoE模型架构、LLM部署及其在训练、推理集群上的运行原理
- 了解大模型向多GPU系统部署的并行策略,如数据并行、流水线并行、张量并行、专家并行、上下文并行等
- 能针对大量性能数据进行综合分析,识别计算瓶颈,提出架构建议
- 熟练的C++或Python编程能力及AI编程能力
- 熟悉现代KV Cache在各种部署场景下在多卡系统中的存储管理、部署与运行时数据流动
- 能够分析AI模型源代码,并针对目标硬件架构进行高层次性能建模
- 加分项:具备Megatron、Zero、VERL、vLLM、SGLang等方面的知识或经验
- 加分项:具备NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验
- 加分项:具备PTX、nvcc、CUDA C++、CUTLASS、cuTile、cuBLAS、cuDNN、TensorRT、Triton、TileLang、PyTorch等方面的知识或经验
工作地址
北京朝阳区望京国际研发园I