多模态安全模型政策经理
岗位摘要
设计并维护针对音频、图像、视频及全模态行为的模型安全政策；将危害理论和威胁模型转化为行为安全政策、评估标准、评分指南及安全防护措施；识别并分析安全回归问题和失败模式，发现现有政策的不足并推动政策迭代
岗位职责
- 设计并维护针对音频、图像、视频及全模态行为的模型安全政策
- 将危害理论和威胁模型转化为行为安全政策、评估标准、评分指南及安全防护措施
- 识别并分析安全回归问题和失败模式，发现现有政策的不足并推动政策迭代
- 开发支持模型训练、评估和部署的政策文档，包括行为指令、人工数据采集方案、黄金数据集及评估体系
- 与AI研究人员、领域专家及产品团队合作，将政策落实为可量化的模型行为指标
任职要求
- 对先进多模态AI系统的现实风险具备强烈的判断力
- 具备将模糊安全问题转化为清晰的数据驱动政策、行为边界及可量化评估标准的经验
- 能够将政策视为端到端可测量的系统，验证其是否产生预期模型行为，并诊断政策、数据、评分及防护措施中的差距
- 具备较强的技术判断力，能够围绕可实际训练、测量和大规模监督的模型行为设计政策
- 具备较强的技术能力，善用AI工具加速政策开发、评估模型行为、分析失败模式并将发现转化为可行改进措施
- 能够熟练处理模型数据和评估结果，包括检查样本、分析失败模式、评估数据质量，并区分政策失败与评分器、模型或系统失败
- 适应快节奏、协作型研究环境，能够随模型、证据和风险变化灵活调整优先级
- 以务实、循证的方式降低风险，同时保留AI的有益用途
- 具备在模糊领域推动共识与行动的实践经验
福利待遇
- 提供员工搬迁补助
- 采用混合办公模式，每周三天在旧金山办公室办公
- 加入致力于安全AI研究与部署的全球领先团队