小米家庭AI框架大模型推理引擎研发工程师
岗位摘要
主导小米家庭AI框架的大模型推理引擎研发和多芯片适配工作，聚焦Nvidia 40/50系列GPU、AMD GPU、Mac M系列芯片、Intel CPU等主流消费级芯片，构建高效的大模型部署能力
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 主导小米家庭AI框架的大模型推理引擎研发和多芯片适配工作，聚焦Nvidia 40/50系列GPU、AMD GPU、Mac M系列芯片、Intel CPU等主流消费级芯片，构建高效的大模型部署能力
- 牵头开展端侧大模型推理加速关键技术攻关，实现大模型多平台的高性能推理
- 推进小米家庭AI基础框架在业务端的落地应用，深度对接米家生态、小爱同学等核心场景
任职要求
- 计算机、人工智能、软件工程等相关专业方向，硕士及以上学历
- 熟练掌握C++编程语言，具有扎实的C++基础和优秀的实战编程能力
- 熟悉业界主流开源大模型算法结构，比如Qwen3、DeepseekV3、Gemma等
- 熟悉大模型的推理流程，具备大模型推理框架开发经验，比如llama.cpp、vllm、sglang等
- 掌握大模型推理优化技术，包括但不限于低比特量化、Eagle-3/Medusa等并行解码优化、Cuda算子编程、GPU显存管理等优化技术
- 具备良好的自我学习能力、自驱力，优秀的沟通与团队协作能力，喜欢尝试新技术，关注新思维，有较强推动力
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。