返回岗位列表

AI Infra工程师

查看原岗位

地点：北京薪资：35-65K 日期：2026-05-08

岗位摘要

大模型与多模态模型的量化方案设计与实现；权重量化、激活量化及混合精度策略的工程化落地；量化过程中异常值的分析与处理，包括对精度影响的评估与策略选择；KV Cache、Attention、FFN等核心模块的量化与验证

岗位职责

大模型与多模态模型的量化方案设计与实现
权重量化、激活量化及混合精度策略的工程化落地
量化过程中异常值的分析与处理，包括对精度影响的评估与策略选择
KV Cache、Attention、FFN等核心模块的量化与验证
量化模型在主流推理框架中的部署与问题排查
跟进主流模型架构与量化技术演进，为团队提供技术储备

任职要求

熟练使用Python，能够进行模型分析、量化实验与验证
理解Transformer系列模型的基本结构与推理流程
具备一定C++工程基础，可配合推理框架完成量化模型集成
熟悉常见量化方法或工具（如GPTQ、AWQ、PTQ、QAT等之一）
了解量化中的异常值问题，如权重或激活分布长尾、极值放大等，并有实际处理经验
能评估量化对模型精度、稳定性和可部署性的影响

加分项

有大模型或多模态模型量化实战经验
熟悉低比特量化
了解量化误差传播、分层量化或结构化量化思路
对前沿量化技术有持续关注和研究习惯
夏女士今日活跃

福利待遇

薪资范围35-65K，15薪
硕士学历要求，经验不限
五险一金、带薪年假等基础福利
技术氛围浓厚，团队专注于大模型前沿技术

工作地址

北京海淀区科建大厦4层