大模型评测工程师
岗位摘要
跟进学术界和企业界前沿的评测基准(如AIME、GPQA、Codeforces、MMMU等),持续健全世界级SOTA模型(如OpenAI、Anthropic模型)的观测榜单;保证建设的评测体系与开源社区及头部闭源模型可对比,具备完善的对点机制,保障评测结果的可靠性
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 跟进学术界和企业界前沿的评测基准(如AIME、GPQA、Codeforces、MMMU等),持续健全世界级SOTA模型(如OpenAI、Anthropic模型)的观测榜单
- 保证建设的评测体系与开源社区及头部闭源模型可对比,具备完善的对点机制,保障评测结果的可靠性
- 日常维护评测榜单,健全评测工程体系,提高评测效率
- 发现模型迭代中在榜单所反映的能力欠缺问题,分析主流SOTA模型间在评测中体现的差异点
任职要求
- 熟悉大模型相关研究前沿进展,了解市面主流benchmarks,具备大模型评测经验
- 对数据敏感,熟知开源社区各数据渠道源,有数据处理的经验和认知
- 具有大模型后训练研发经验或模型训练/推理框架工程经验者优先
- 具备扎实的编程基础和优秀的工程能力;具有NOI、ACM/ICPC等编程竞赛金牌获奖者优先
- 有一定的相关研究经历,发表过顶级会议论文者优先
- 具备基础的团队协作能力和沟通能力,追求极致、自我驱动
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。