常规武器安全防护执行分析师
岗位摘要
设计并架构可有效扩展且保持高准确率的自动执行系统和审查流程；开发并维护评估，衡量模型在这些政策领域的表现，发现性能回退，并为政策与模型改进提供依据；与工程和数据科学团队合作，优化针对潜在政策违规的检测和自动执行系统
岗位职责
- 设计并架构可有效扩展且保持高准确率的自动执行系统和审查流程
- 开发并维护评估，衡量模型在这些政策领域的表现，发现性能回退，并为政策与模型改进提供依据
- 与工程和数据科学团队合作，优化针对潜在政策违规的检测和自动执行系统
- 审查被标记内容以推动执行决策并揭示政策缺口，特别关注新型或技术复杂的滥用尝试及新出现的手法
- 通过基于真实执行场景提供关于政策缺口和执行模糊之处的结构化反馈，支持安全防护政策设计团队
- 制定并维护执行指南和审查员文档，确保在广泛内容范围内实现准确、一致的执行
- 跟进新兴武器趋势与应用、监管变化以及人工智能政策执行最佳实践，并应用于改进工作流程和评估
- 识别并上报新兴滥用模式、新型攻击途径以及协调暴力活动的迹象
任职要求
- 在武器系统方面拥有深入且实际应用的专业知识，能够将复杂技术证据转化为执行决策
- 具有政策执行、威胁情报、反恐、政府或密切相关领域经验，直接接触过有害内容、危险技术或促成身体伤害的行为
- 具有建立并扩展政策执行或内容审查工作流程的经验
- 熟练使用SQL和/或其他数据分析工具，从大型数据集中提取洞见并监控执行工作流程健康状况
- 具有识别新兴风险和威胁行为者的经验，并能向产品、政策、工程和法律等多样化利益相关者传达发现
- 具有使用生成式人工智能产品的经验，包括为内容审查和执行编写有效提示词
- 理解大规模实施产品政策所涉及的挑战，包括内容审核领域
- 在常规武器与危险技术、自主系统或关键基础设施保护方面具备主题专业知识
- 熟悉管辖危险技术、常规武器和关键基础设施的相关法律与监管框架