AI推理框架开发工程师
岗位摘要
基于AI芯片完成AI推理框架的开发和交付,适配CPU/GPU/NPU多后端,支持CV/NLP/大模型等端侧落地;负责框架与AndroidNN/Tensorflow/Pytorch/Onnx等FrameWork的对接
岗位职责
- 基于AI芯片完成AI推理框架的开发和交付,适配CPU/GPU/NPU多后端,支持CV/NLP/大模型等端侧落地
- 负责框架与AndroidNN/Tensorflow/Pytorch/Onnx等FrameWork的对接
- 开发框架相关工具链,包括Memory/PerformanceProfiling和量化工具
- 对CV/NLP/大模型等算法业务进行端到端性能优化以满足商用需求
任职要求
- 硕士及以上学历,计算机/电子/信息/通信/自动化/软件等相关专业,有AI工程优化经验者优先
- 精通C/C++,精通算法与数据结构,熟悉Python
- 深入了解PADDLE/MNN/TVM/MLIR等框架中的一种或多种,熟悉算子性能优化、算子融合、graph遍历等技术
- 熟悉NPU或其他AI芯片工具链开发,熟悉模型量化技术者优先
- 了解主流AIGC算法模型原理,有AIGC模型加速优化经验者优先
- 熟悉Android NN/TensorFLow/Pytorch/Caffe中一种神经网络框架