量化算法研究员
岗位摘要
研发及改进PTQ(训练后量化)、QAT(量化感知训练)、混合精度量化等核心算法,针对LLM/VLM设计定制化量化方案,持续优化模型精度与推理效率的平衡;探索并实践低比特量化(如INT8/INT4/FP8/FP4)、权重稀疏化、知识蒸馏等协同压缩技术,提升压缩率同时控制精度损失
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 研发及改进PTQ(训练后量化)、QAT(量化感知训练)、混合精度量化等核心算法,针对LLM/VLM设计定制化量化方案,持续优化模型精度与推理效率的平衡
- 探索并实践低比特量化(如INT8/INT4/FP8/FP4)、权重稀疏化、知识蒸馏等协同压缩技术,提升压缩率同时控制精度损失
- 开发及优化量化工具链,完成对GLM系列模型的转换、量化校准及部署集成
- 跟踪学术界与工业界前沿量化技术,通过论文复现、实验对比推动技术迭代
任职要求
- 计算机科学、电子工程、数学等相关专业硕士及以上学历,3年以上模型量化或推理加速经验;或优秀本科生具备扎实项目履历
- 深入理解Transformer架构及LLM推理流程,精通Python,熟悉常见的开源LLM推理框架(sglang/vllm/trtllm等)
- 掌握量化原理(校准策略、量化粒度、误差分析)及主流算法(如GPTQ、AWQ)
- 具有CUDA/Triton编程经验,能自主实现高性能算子或优化内核计算加分
工作地址
北京海淀区智谱华章科技有限公司11111111111
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。