资深AI推理与加速工程师
岗位摘要
负责车载推理架构，根据延迟、功耗和内存预算，将模型映射到可用的加速器（NPU、GPU、DSP、CPU）；在异构计算资源之间划分推理工作负载，在实时性能与功耗和散热限制之间取得平衡；定义并维护机器人上所有推理任务的系统级计算预算
岗位职责
- 负责车载推理架构，根据延迟、功耗和内存预算，将模型映射到可用的加速器（NPU、GPU、DSP、CPU）
- 在异构计算资源之间划分推理工作负载，在实时性能与功耗和散热限制之间取得平衡
- 定义并维护机器人上所有推理任务的系统级计算预算
- 评估下一代加速硬件，并参与定义未来计算平台需求
- 针对目标硬件端到端优化推理工具链，涵盖从模型导出到运行时执行的整个过程
- 应用量化（INT8、INT4、混合精度）、剪枝、算子融合及其他压缩技术，降低计算、内存和功耗占用
- 对推理流水线进行性能分析，识别并消除延迟、内存带宽和功耗方面的瓶颈
- 优化内核调度、内存布局以及跨计算层级的数据移动
- 与AI/ML团队紧密合作，从一开始就定义硬件友好的模型架构约束
- 与平台软件团队合作，进行运行时集成、调度和电源管理
- 与芯片供应商和研究团队合作，跟踪加速器发展格局并影响硬件路线图
任职要求
- 计算机工程、电气工程、计算机科学或相关领域硕士或博士，或同等行业经验
- 至少8年硬件加速、机器学习系统或计算架构领域的行业经验
- 深入理解AI/ML推理——模型格式（ONNX、TFLite等）、推理运行时和部署流水线
- 具备使用量化、剪枝和算子级调优，为边缘或嵌入式硬件优化模型的实践经验
- 深入理解计算机体系结构——内存层次、数据移动和异构计算
- 具备在CPU、GPU、NPU、DSP上对推理工作负载进行性能分析和基准测试的经验
- 熟悉底层工具链和编译框架（如TVM、MLIR、TensorRT、Torch、SNPE/QNN、JAX、CUDA、ROCm）
- 扎实的C++和Python软件工程能力
- 出色的跨职能沟通能力，能够高效协同硬件、软件和AI/ML团队
- 加分项：了解实时运行约束及其对推理调度的影响
- 加分项：有与ML团队共同设计模型架构以满足硬件约束的过往业绩
福利待遇
- 美国全职岗位基本年薪范围为180,000至275,000美元
- 该职位提供的薪酬可能因岗位相关知识、技能和经验等个人因素而有所不同
- 总薪酬方案可能根据具体职位包含额外组成部分/福利
- 相关信息将在发出录用通知时提供