生物危害安全防护执法分析师
岗位摘要
执行平台使用政策，重点检测并缓解AI系统可能带来的生物风险及有害使用；负责生物危害领域的执法监测工作流，持续改进端到端的检测、调查、分诊与升级流程；监控并分析平台活动，识别与生物及相邻的化学、放射、核和爆炸威胁相关的新兴模式，判断是否需要更新政策或采取执法行动
岗位职责
- 执行平台使用政策，重点检测并缓解AI系统可能带来的生物风险及有害使用
- 负责生物危害领域的执法监测工作流，持续改进端到端的检测、调查、分诊与升级流程
- 监控并分析平台活动，识别与生物及相邻的化学、放射、核和爆炸威胁相关的新兴模式，判断是否需要更新政策或采取执法行动
- 设计并构建可规模化且在高技术复杂度内容场景中保持高准确率的自动化执法系统与审核工作流
- 对潜在违规进行深入调查，收集并记录证据以支持执法决策
- 主动发现趋势，并提出检测方法与审核工作流的改进建议
- 与工程和数据科学团队合作，优化针对生物相关违规的检测模型和自动化执法系统
- 与政策和威胁情报团队合作，理解潜在漏洞并参与风险评估框架，同时与迭代安全系统的工程师协作
- 基于执法实践反馈政策缺口，并处理与潜在生物相关使用政策违规有关的升级和时间敏感情况
任职要求
- 拥有生物相关领域学位（如微生物学、分子生物学、生物化学、公共卫生）和/或相关领域的专业经验
- 具备平台规模的可信与安全、内容审核或政策执法经验，包括使用生成式AI工具优化内容审核与执法工作流
- 具备利用AI工具开发数据仪表盘以收集指标、支持持续改进的经验