大模型评测工程师
岗位摘要
跟进学术界和企业界前沿的评测基准,持续健全世界级SOTA模型的观测榜单(如AIME、GPQA、MMMU等);开发评测基建,联合模型训练框架共同开发评测体系,保证评测体系与开源社区和头部闭源模型可对比
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 跟进学术界和企业界前沿的评测基准,持续健全世界级SOTA模型的观测榜单(如AIME、GPQA、MMMU等)
- 开发评测基建,联合模型训练框架共同开发评测体系,保证评测体系与开源社区和头部闭源模型可对比
- 日常维护评测榜单,健全评测工程体系,提高评测的效率与可靠性
- 发现模型迭代中在榜单中所反映的能力欠缺问题,分析主流SOTA模型间的评测差异点
任职要求
- 熟悉大模型相关研究前沿进展,了解市面上主流benchmarks,具备大模型评测经验
- 对数据有敏感度,熟知开源社区各数据渠道源,具备数据处理的经验和认知
- 具有大模型各流程或全流程的研发/客观指标评测/Agent指标评测经验、模型训练/推理框架工程经验者优先
- 具备扎实的编程基础,有优秀的工程能力,具有NOI、ACM/ICPC等编程竞赛金牌获奖者优先
- 有一定的相关研究经历,发表过顶级会议论文者优先
福利待遇
- 具有竞争力的薪酬体系:30-60K·16薪
- 参与世界级SOTA模型评测榜单的建设工作,与头部闭源模型对标
- 技术氛围浓厚,接触大模型最前沿的研究进展与评测基准
- 工作地点位于北京海淀区大恒科技大厦,交通便利
工作地址
北京海淀区大恒科技大厦12层
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。