AI/HPC计算系统架构师—网络与超节点架构
岗位摘要
从计算系统整体视角(含计算单元子系统、SoC芯片、多卡、超节点、数据中心、分布式集群)对多GPU系统的顶层架构、编程模型、指令集及异构部署进行软硬协同设计;聚焦scale up域内的通讯协议、交换机、在网计算及超节点架构进行深入设计
岗位职责
- 从计算系统整体视角(含计算单元子系统、SoC芯片、多卡、超节点、数据中心、分布式集群)对多GPU系统的顶层架构、编程模型、指令集及异构部署进行软硬协同设计
- 聚焦scale up域内的通讯协议、交换机、在网计算及超节点架构进行深入设计
- 对多GPU系统及异构多芯片计算系统的AI性能进行建模与分析
- 研究AI/HPC算法与CUDA编程,分析AI/HPC在多GPU系统上的可扩展性、稳定性、功耗及TCO等问题
- 对接产品经理、客户支持工程师、算法工程师、框架工程师及软件栈工程师,深入理解客户底层需求,提炼架构优化方向及具体设计需求,制定相关架构规范(SPEC)
任职要求
- 硕士学历且8年以上工作经验,或博士学历且5年以上相关经验
- 具备计算机系统结构知识,理解GPU架构及多GPU系统架构
- 熟悉CPU、GPU等处理器的内存管理与地址管理
- 熟悉主流总线系统及互联协议
- 熟悉Message Passing、Shared Memory等多卡编程模型,如MPI、SHMEM、PGAS等
- 理解AI或HPC算法及其在GPU和系统上的部署与运行时数据流
- 了解现代MoE模型架构、LLM部署及其在训练与推理集群上的运行原理
- 了解大模型向多GPU系统部署的并行策略,如数据并行、流水线并行、张量并行、专家并行、上下文并行等
- 能针对大量性能数据进行综合分析,识别计算瓶颈并提出架构建议
- 熟练掌握C++或Python编程及AI编程能力
- 了解最新互联技术,如CPO、光交换机等
- (加分)熟悉现代KV Cache在多卡系统中的存储管理、部署与运行时数据流动
- (加分)能够分析AI模型源代码并针对目标硬件架构进行高层次性能建模
- (加分)具备Megatron、Zero、VERL、vLLM、SGLang等相关知识或经验
- (加分)具备NVSHMEM、NCCL、MPI、PGAS等相关知识或经验
- (加分)具备PTX、nvcc、CUDA C++、CUTLASS、cuDNN、TensorRT、Triton、PyTorch等相关知识或经验
加分项
- 熟悉现代KV Cache在各种部署场景下在多卡系统的存储管理、部署、与运行时数据流动
- 能够分析AI模型源代码,并针对目标硬件架构作高层次性能建模
- Megatron、Zero、VERL、vLLM、SGLang等方面的知识或经验
- NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验
- PTX、nvcc、CUDA C++、CUTLASS、cuTile、cuBLUS、cuDNN、TensorRT、Triton、tileLang、PyTorch等方面的知识或经验
- 梅女士 刚刚活跃
福利待遇
- 薪资范围:35,000–65,000元/月,共16薪
- 工作地点位于北京朝阳区望京国际研发园,办公环境优越
工作地址
北京朝阳区望京国际研发园I