AI基础设施工程师
岗位摘要
负责大模型人工智能基础设施的架构设计与系统优化，覆盖芯片间高速互联、算力全局调度、训练框架定制与推理服务加速；深入GPU/NPU硬件与软件栈交互底层，开展内核优化、通信库调优、算子优化和性能瓶颈分析
岗位职责
- 负责大模型人工智能基础设施的架构设计与系统优化，覆盖芯片间高速互联、算力全局调度、训练框架定制与推理服务加速
- 深入GPU/NPU硬件与软件栈交互底层，开展内核优化、通信库调优、算子优化和性能瓶颈分析
- 参与训练与推理框架的深度定制，优化分布式训练和推理服务的延迟、吞吐与资源利用率
- 构建和维护机器学习平台，支持大规模训练与推理任务的调度、监控、稳定性和可观测性
- 承担站点可靠性工程相关工作，保障AI基础设施的高可用、高性能与低功耗运行
- 针对RDMA和高性能网络进行调优，提升分布式训练与推理的通信效率
任职要求
- 硕士及以上学历，经验不限
- 在HPC、RDMA网络、训推框架、算子优化、机器学习平台或SRE等至少一个方向有深入专长
- 具备将不同技术融会贯通的架构思维，能够聚焦特定领域并钻透技术难点
- 熟悉GPU/NPU硬件与软件栈，具备内核优化、通信库调优或性能分析经验
- 理解大模型训练与推理系统，关注延迟、吞吐、功耗等核心指标
- 具备较强的问题定位、工程实现与跨团队协作能力
工作地址
上海徐汇区西岸智塔AI Tower30