返回岗位列表

高级AI推理与加速工程师

查看原岗位

地点：美国薪资：$180,000-$275,000 日期：2026-07-20

岗位摘要

负责机载推理架构——根据延迟、功耗和内存预算，将模型映射到可用的加速器（NPU、GPU、DSP、CPU）上；在异构计算资源间划分推理工作负载，平衡实时性能与功耗和热约束；定义并维护机器人上所有推理任务的系统级计算预算

岗位职责

负责机载推理架构——根据延迟、功耗和内存预算，将模型映射到可用的加速器（NPU、GPU、DSP、CPU）上
在异构计算资源间划分推理工作负载，平衡实时性能与功耗和热约束
定义并维护机器人上所有推理任务的系统级计算预算
评估下一代加速硬件，并为未来计算平台需求的制定做出贡献
端到端优化推理工具链——从模型导出到运行时执行——针对目标硬件进行优化
应用量化（INT8、INT4、混合精度）、剪枝、算子融合及其他压缩技术，减少计算、内存和功耗占用
分析推理流水线，识别并消除延迟、内存带宽和功耗方面的瓶颈
优化内核调度、内存布局以及计算层级间的数据移动
与AI/ML团队紧密合作，从初始阶段定义对硬件友好的模型架构约束
与平台软件团队合作，进行运行时集成、调度和电源管理
与硅供应商和研究团队保持沟通，跟踪加速器发展动态并影响硬件路线图

任职要求

计算机工程、电气工程、计算机科学或相关领域的硕士或博士学位，或同等行业经验
至少8年硬件加速、机器学习系统或计算架构方面的行业经验
深入了解AI/ML推理——模型格式（ONNX、TFLite等）、推理运行时和部署流水线
具备使用量化、剪枝和算子级调优优化边缘或嵌入式硬件模型的实际经验
扎实的计算机架构知识——内存层次结构、数据移动和异构计算
具备在CPU、GPU、NPU、DSP上分析和基准测试推理工作负载的经验
熟悉底层工具链和编译框架（如TVM、MLIR、TensorRT、Torch、SNPE/QNN、JAX、CUDA、ROCm）
扎实的C++和Python软件工程技能
强大的跨职能沟通能力——能够与硬件、软件和AI/ML团队有效协作
加分项：了解实时操作系统约束及其对推理调度的影响
加分项：有与ML团队共同设计模型架构以满足硬件约束的记录

福利待遇

美国全职岗位基本年薪范围：180,000 - 275,000美元
薪资可能根据个人知识、技能和经验等因素有所调整
总薪酬方案可能包括其他组成部分/福利，具体视职位而定