大模型算法专家
岗位摘要
参与端侧大模型架构设计、预训练、后训练、端侧部署和推理加速，通过算法与硬件芯片协同设计，在较低功耗和内存预算下实现模型效果与推理效率的平衡；负责LLM和VLM在端侧场景下的继续预训练（CPT）、后训练（SFT、OPD、RL等）及量化感知训练（QAT），构建从数据清洗处理到模型部署落地的全链路pip…
岗位职责
- 参与端侧大模型架构设计、预训练、后训练、端侧部署和推理加速，通过算法与硬件芯片协同设计，在较低功耗和内存预算下实现模型效果与推理效率的平衡
- 负责LLM和VLM在端侧场景下的继续预训练（CPT）、后训练（SFT、OPD、RL等）及量化感知训练（QAT），构建从数据清洗处理到模型部署落地的全链路pipeline
- 针对端侧芯片和内存特性，设计新型模型结构，探索参数共享与稀疏化方案
- 负责模型压缩算法开发，如剪枝、量化、蒸馏等常用技术方案实现；实施低比特量化（如INT4/INT8），在保证精度的前提下压缩模型体积与显存占用
- 负责推理加速算法实现，如投机解码、MTP等
- 建立端侧模型评测体系，不仅关注准确率，更关注首字延迟（Prefill）、生成速度（Decoding）、功耗峰值等硬性指标
- 前沿技术探索与成果产出，建立Agentic OS的算法创新壁垒，推动顶级会议论文与核心专利产出
任职要求
- 硕士及以上学历，人工智能、计算机科学、电子信息技术等相关专业
- 具备以下至少一到两个方向的深入研究或实践经验：大语言模型、多模态大模型、大模型后训练、大模型预训练、强化学习
- 深入掌握Transformer架构，了解主流dense和MoE开源模型（Qwen、Deepseek等）的结构设计原理
- 具备复杂系统建模能力，能够从系统角度设计完整闭环
- 在ICML/NeurIPS/ICLR/AAAI/ACL/CVPR/EMNLP等顶级会议发表论文者优先
- 具备较强的独立研究能力与创新能力