Stepstar实习-端侧LLM/VLM算法研究员
岗位摘要
负责多模态大模型（Vision-Language Model，VL/Omni）的研发与优化，重点面向端侧设备（移动端）；设计与实现下一代的端侧友好的模型结构，针对特定芯片进行算法与系统的co-design
岗位职责
- 负责多模态大模型（Vision-Language Model，VL/Omni）的研发与优化，重点面向端侧设备（移动端）
- 设计与实现下一代的端侧友好的模型结构，针对特定芯片进行算法与系统的co-design
- 研究并落地低比特量化（w4a8、w2a16、fp8），协助完成异构硬件（如NPU）的模型部署
- 支持下游多模态Agent、端云Agent协同、场景对话、实时感知等业务需求
- 探索VLM在端上实时场景中的新应用
任职要求
- 国内外计算机、数学、人工智能等相关专业学生
- 熟悉主流LLM、VLM、Diffusion Model的原理与实现，深度学习基础扎实
- 熟悉LLM、VLM的预训练与后训练，熟悉模型压缩与加速技术（QAT、PTQ、fp8、蒸馏等）
- 熟悉主流训练、推理、部署框架：Megatron、Deepspeed、vLLM、llama.cpp、TNN/MNN等，有实际的项目经验
福利待遇
- 实习薪资500-1000元/天
- 每周工作4天，实习期3个月
工作地址
北京海淀区大恒科技大厦12F