高性能通信专家
岗位摘要
从通信视角参与到模型设计和大规模推理系统的设计构建中,尝试逼近硬件理论极限;关注超大集群的构建问题,从原理层面解决大规模集群下出现的高性能通信问题;负责大模型训练/推理场景下的集合通信性能优化(NCCL/自研通信库)
岗位职责
- 从通信视角参与到模型设计和大规模推理系统的设计构建中,尝试逼近硬件理论极限
- 关注超大集群的构建问题,从原理层面解决大规模集群下出现的高性能通信问题
- 负责大模型训练/推理场景下的集合通信性能优化(NCCL/自研通信库)
- 参与RoCE、InfiniBand网络架构设计与调优,解决大规模集群通信瓶颈
- 分析并优化计算-通信overlap策略,提升端到端训练/推理吞吐
任职要求
- 精通RDMA网络技术(RoCE v2 / InfiniBand),有大规模GPU集群通信调优经验
- 熟悉NCCL原理及源码,有定制或替代集合通信库的经验优先
- 了解主流并行策略(TP/PP/DP/CP)中的通信模式与性能特征
- 熟悉GPU架构及NVLink/NVSwitch/PCIe拓扑对通信的影响
- 有网络拥塞控制(DCQCN/TIMELY)、流量调度或交换机侧调优经验者优先
- 参与过大规模训练集群或推理集群通信优化者优先
- 对主流LLM推理系统(如vLLM、SGLang、TRT-LLM)的通信路径有认知