端云大模型首席科学家
岗位摘要
负责端侧大模型的训练与优化，参与基座模型的后训练、蒸馏、量化（INT4/INT8）、稀疏化等关键技术攻关；负责端侧推理性能与体验指标的优化（首字延迟、吞吐、内存占用、功耗），落地投机解码、长上下文、KV Cache优化等方案
岗位职责
- 负责端侧大模型的训练与优化，参与基座模型的后训练、蒸馏、量化（INT4/INT8）、稀疏化等关键技术攻关
- 负责端侧推理性能与体验指标的优化（首字延迟、吞吐、内存占用、功耗），落地投机解码、长上下文、KV Cache优化等方案
- 联合芯片、系统、平台团队完成模型在NPU/GPU上的异构部署与深度调优，支撑手机、汽车、IoT多形态设备
- 参与端云协同方案设计，实现端侧与云端模型的任务分流、能力对齐与降级策略
- 支撑核心业务场景的模型能力交付，包括系统级智能助手、Agent与工具调用、多模态输入理解等
- 负责所在技术子方向的方案设计与技术评审，与产品、业务线协作推动能力上线
任职要求
- 硕士及以上学历，计算机、人工智能、数学等相关专业，3年以上算法研发经验（优秀者可放宽）
- 熟悉大模型技术链路，具备LLM/VLM训练或微调的实战经验，熟悉主流开源模型架构与训练/推理框架（Megatron/DeepSpeed/vLLM/SGLang等）
- 具备端侧模型落地经验，熟悉至少一类移动端推理框架（llama.cpp/MNN/NCNN/QNN/ExecuTorch等），了解SoC NPU算力特性
- 参与过AI功能从研发到上线的完整过程，能对自己负责的模块的交付质量负责
- 扎实的代码功底与工程能力，熟练使用PyTorch
- 良好的技术判断力，能在算力受限条件下做出合理取舍；有跨团队沟通协作意识