机器学习工程师（推理与优化方向）
岗位摘要
领导并实施先进的推理加速技术，包括注意力优化和量化，以实现高效的模型服务；设计并优化GPU策略，涵盖张量并行、序列并行和流水线并行，以最大化效率和可扩展性；使用CUDA和NCCL开发并优化高性能计算内核和分布式工作负载
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 领导并实施先进的推理加速技术，包括注意力优化和量化，以实现高效的模型服务
- 设计并优化GPU策略，涵盖张量并行、序列并行和流水线并行，以最大化效率和可扩展性
- 使用CUDA和NCCL开发并优化高性能计算内核和分布式工作负载
- 与研究及工程团队合作，将最先进的视频生成和大语言模型投入生产
- （加分项）在部署生命周期中，为模型训练速度、稳定性和资源利用率的改进做出贡献
- 推动严格的代码审查，参与技术讨论，并指导工程师在推理和GPU编程方面的最佳实践
任职要求
- 5年以上工程经验，在推理加速和大规模模型部署方面有良好记录
- 在推理优化方面有深厚专长，包括量化、注意力加速和深度学习编译器栈
- 深入了解GPU编程（CUDA、NCCL），并具备序列并行、张量并行、流水线并行及其他分布式推理并行形式的经验
- 熟悉视频生成模型和大语言模型
- 具备强大的跨学科沟通能力，能够推动研究和工程团队之间的共同目标
- 具有自驱力、以解决方案为导向，能够在快节奏的初创环境中管理不确定性
- （加分项）有提升大型模型训练效率、稳定性或资源优化的经验
福利待遇
- AI行业具有竞争力的薪资
- 在快速成长的初创公司中获得股权，塑造AI的未来
- 全面的健康福利、月度津贴、公司团建活动
- 支持性和协作性的办公室文化——我们共同构建和发布产品
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。