大模型端侧推理工程师
岗位摘要
负责大模型在端侧推理的SDK研发；负责大模型与端侧平台的高效适配与推理优化；参与端侧大模型研发的整体规划，协同配合大模型端侧落地；硕士学历（优秀者本科亦可），计算机类专业，基础知识扎实；有较强的工程能力、创新能力、学习能力
岗位职责
- 负责大模型在端侧推理的SDK研发
- 负责大模型与端侧平台的高效适配与推理优化
- 参与端侧大模型研发的整体规划，协同配合大模型端侧落地
任职要求
- 硕士学历（优秀者本科亦可），计算机类专业，基础知识扎实
- 有较强的工程能力、创新能力、学习能力
- 熟悉C++编程，掌握Git、CMake等常见工具，有良好的软件工程习惯
- 熟悉一种或多种端侧部署框架或工具链，如QNN、llama.cpp、Metal等
- 熟练阅读英文文档
- 有端侧算法落地、移动端开发经验优先
工作地址
北京海淀区搜狐网络大厦11层