前沿风险评测研究科学家
岗位摘要
设计并创建评测指标、测试框架和数据集，用于衡量前沿AI系统带来的风险；设计并构建测试框架，评估AI模型和系统（包括智能体）是否具备安全漏洞利用、CBRN能力提升及其他高风险活动的危险能力
岗位职责
- 设计并创建评测指标、测试框架和数据集，用于衡量前沿AI系统带来的风险
- 设计并构建测试框架，评估AI模型和系统（包括智能体）是否具备安全漏洞利用、CBRN能力提升及其他高风险活动的危险能力
- 与政府机构或其他实验室合作，共同界定并设计评测，以衡量和缓解先进AI系统带来的风险
- 发布评测方法论，并为政策制定者撰写技术报告
任职要求
- 致力于推动安全、可靠、可信的AI部署，以应对前沿AI能力的持续进步
- 具备协作开展技术研究的实践经验，能够构建和配置机器学习流水线、编写评测框架，并快速将研究文献中的新想法转化为可运行原型
- 拥有机器学习领域的研究发表记录，尤其是生成式AI方向
- 至少三年解决复杂机器学习问题的经验，研究环境或产品开发均可
- 具备出色的书面和口头沟通能力，能够在跨职能团队中工作
- 加分项：有设计评测和基准的经验，或具备与LLM技术相关的数据科学背景
- 加分项：有对AI系统进行红队测试或对抗性测试的经验
- 加分项：熟悉AI安全政策框架（如NIST AI RMF、EU AI Act、Korea AI Basic Act）
福利待遇
- 提供包含基本工资、股权和福利的薪酬方案
- 符合条件岗位的员工可获得股权激励，具体须经董事会批准
- 招聘人员可提供关于首选地点具体薪资范围的更多信息