安全防护执行分析师（暴力与极端主义）
岗位摘要
设计并构建可有效扩展且保持高准确率的自动化执法系统与审核工作流；开发并维护评测，用于衡量模型在这些政策领域的表现、发现性能回退，并为政策与模型改进提供依据；与工程和数据科学团队合作，优化针对潜在政策违规的检测与自动化执法系统
岗位职责
- 设计并构建可有效扩展且保持高准确率的自动化执法系统与审核工作流
- 开发并维护评测，用于衡量模型在这些政策领域的表现、发现性能回退，并为政策与模型改进提供依据
- 与工程和数据科学团队合作，优化针对潜在政策违规的检测与自动化执法系统
- 审核被标记内容以推动执法决策并发现政策空白，特别关注新型或技术复杂的滥用尝试以及新兴极端主义运动、意识形态和动员策略
- 通过基于真实执法场景提供关于政策空白和执法模糊点的结构化反馈，支持安全防护政策设计团队
- 制定并维护执法指南和审核人员文档，确保在广泛内容范围内实现准确、一致的执法
- 跟踪新兴威胁、恐怖主义和极端主义运动、监管变化及AI政策执法最佳实践，并将其应用于工作流和评测
- 识别并上报新兴滥用模式、新型攻击向量以及协同暴力极端主义活动的迹象
任职要求
- 在政策执法、威胁情报、反恐、政府或密切相关领域有经验，并直接接触过有害内容、危险技术、暴力极端主义或身体伤害便利化
- 有建立并扩展政策执法或内容审核工作流的经验
- 熟练使用SQL和/或其他数据分析工具，从大型数据集中提取洞察并监控执法工作流健康状况
- 有识别新兴风险和威胁行为者的经验，并能向产品、政策、工程和法律等多元化利益相关方沟通发现
- 有使用生成式AI产品的经验，包括为内容审核和执法编写有效提示词
- 理解大规模实施产品政策所面临的挑战，包括在内容审核领域
- 在一个或多个高风险危害领域具备专业知识，如武器与危险技术、暴力极端主义、恐怖主义、自主系统或关键基础设施保护
- 熟悉管辖危险技术、关键基础设施或国内/国际恐怖主义的相关法律和监管框架