AI 软硬件协同设计工程师
岗位摘要
深入研究并描绘最先进的AI/ML工作负载特性,包括大型语言模型、生成式AI、计算机视觉模型和基于Transformer的模型等,理解其计算模式、内存需求和数据流;对最先进的训练技术(如分布式训练、数据/模型并行、优化器内存缩减)和推理方法(如量化、稀疏注意力、内核融合、推测解码)进行深入分析
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 深入研究并描绘最先进的AI/ML工作负载特性,包括大型语言模型、生成式AI、计算机视觉模型和基于Transformer的模型等,理解其计算模式、内存需求和数据流
- 对最先进的训练技术(如分布式训练、数据/模型并行、优化器内存缩减)和推理方法(如量化、稀疏注意力、内核融合、推测解码)进行深入分析
- 提出并评估微架构特性(如新的指令集、专用计算单元或内存系统优化),以最大程度加速关键AI内核的运行
- 利用并改进GPU仿真器和性能模型,精确预测所提出的硬件特性在不同AI工作负载下的性能和功耗影响
- 开发和维护关键的工作负载、微基准测试和性能分析工具,以隔离和量化架构瓶颈
- 担任GPU架构团队、内部编译器/软件团队以及直接外部AI客户之间的主要技术联络人,收集并分析需求和限制,直接影响硬件功能定义
- 进行严格的功耗、性能和面积(PPA)权衡分析,提供数据驱动的建议,指导GPU架构的长期发展路线图
任职要求
- 计算机科学、计算机工程、电气工程或相关技术领域的硕士或博士学位
- 3年以上系统架构、性能分析或硬件设计经验,重点关注高性能计算或AI加速领域
- 精通Python和C/C++,用于性能建模工作
- 对计算机架构(特别是并行处理、缓存层次结构和内存系统原理)有深刻理解
- 对深度学习模型架构有扎实理解,具备大型语言模型训练和推理技术的相关知识
- 熟悉GPU编程模型(CUDA或等效)
- 具备分析和优化DL框架(PyTorch/TensorFlow)内性能的经验
- 具有架构级仿真器(特别是GPU性能模型)的实际经验者优先
- 具备对现代加速器和异构计算(CPU/GPU/XPU)原理的深入了解者优先
- 具备针对AI加速器硬件实现或优化LLM特定算子(如FlashAttention)的经验者优先
- 拥有完整的硬件开发生命周期(从架构定义到硅后验证)经验者优先
加分项
- ) (Preferred Qualifications)
- 具有架构级仿真器(特别是 GPU 性能模型)的实际经验
- 具备对现代加速器和异构计算 (CPU/GPU/XPU) 原理的深入了解
- 具备针对AI加速器硬件,实现或优化 LLM 特定算子(例如,FlashAttention)的经验
- 拥有完整的硬件开发生命周期(从架构定义到硅后验证)经验
- 肖玉 刚刚活跃
福利待遇
- 薪资范围:30-60K·16薪
- 工作地点:北京朝阳区望京国际研发园
- 与顶尖GPU架构团队合作的机会
- 参与定义下一代GPU及加速器硬件特性
工作地址
北京朝阳区望京国际研发园
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。