返回岗位列表

AI系统工程师（模型推理与优化）

查看原岗位

地点：美国薪资：$180,000-$440,000 日期：2026-01-29

岗位摘要

优化模型推理的延迟和吞吐量；构建可靠且高性能的生产服务系统，以服务数十亿用户；加速扩展测试时间计算和强化学习训练中 rollout 的研究；为下一代架构进行模型-硬件协同设计；具备模型服务系统优化经验，如批处理、缓存、负载均衡和并行处理

岗位职责

优化模型推理的延迟和吞吐量
构建可靠且高性能的生产服务系统，以服务数十亿用户
加速扩展测试时间计算和强化学习训练中 rollout 的研究
为下一代架构进行模型-硬件协同设计

任职要求

具备模型服务系统优化经验，如批处理、缓存、负载均衡和并行处理
具备推理低层优化经验，如GPU内核和代码生成
具备推理算法优化经验，如量化、蒸馏、推测解码和低精度数值计算
具备大规模推理引擎或强化学习框架工作经验
具备大规模、高并发生产服务经验
具备推理服务的测试、基准测试和可靠性经验
具备出色的沟通能力，能够简洁准确地与团队成员分享知识
工作积极主动，注重工程卓越，具备强大的工作伦理和优先级排序能力
候选人需位于湾区附近或愿意搬迁

福利待遇

全面的医疗、视力和牙科保险
401(k)退休计划
短期和长期残疾保险
各种其他折扣和福利