研究科学家，人工智能控制与监控
岗位摘要
开发监控技术与可观测性方法，实时跟踪人工智能行为，识别并标记偏差、涌现能力或异常输出；研究分层控制机制，包括故障保护、监督协议和干预方法，以便在检测到风险时暂停或重定向人工智能系统；设计红队模拟，探查监督与控制机制中的薄弱环节，并构建缓解措施以弥补已发现的缺口
岗位职责
- 开发监控技术与可观测性方法，实时跟踪人工智能行为，识别并标记偏差、涌现能力或异常输出
- 研究分层控制机制，包括故障保护、监督协议和干预方法，以便在检测到风险时暂停或重定向人工智能系统
- 设计红队模拟，探查监督与控制机制中的薄弱环节，并构建缓解措施以弥补已发现的缺口
- 与政策制定者、工程师和其他研究人员合作，制定人工智能监控与升级响应的标准和基准
任职要求
- 致力于推动使命：随着前沿人工智能能力不断发展，促进业界安全、可靠和可信的人工智能部署
- 具备协作开展技术研究的实践经验，能够为人工智能系统设计控制与监控实验、构建原型系统，并快速将研究文献中的新想法转化为可运行原型
- 拥有机器学习领域的已发表研究成果，尤其是生成式人工智能方向
- 至少三年处理复杂机器学习问题的经验，无论是在研究环境还是产品开发中
- 具备出色的书面和口头沟通能力，能够在跨职能团队中工作
- 加分项：具备机器学习系统运行时监控、异常检测或可观测性经验
- 加分项：熟悉人工智能控制或对齐研究，例如可扩展监督、可解释性、辩论
- 加分项：具备后训练和强化学习技术经验，例如基于人类反馈的强化学习、直接偏好优化、组相对策略优化及类似方法
福利待遇
- 符合条件的职位提供包含基本工资、股权和福利的薪酬方案
- 薪资范围会在面试过程中根据工作地点、技能、经验、资格、面试表现及相关教育或培训等因素确定
- 研究面试侧重实际机器学习原型与调试能力、研究概念理解以及与组织文化的契合度，不会询问编程刷题类问题