用户福祉保障执行分析师
岗位摘要
支持干预措施的设计与执行，定义关键指标，并策划评估数据集；与工程和数据科学团队合作，为自动干预系统构建、调优和验证检测模型，包括设定阈值以及权衡精确率与召回率；持续监控干预措施和检测系统在时间推移中的表现
岗位职责
- 支持干预措施的设计与执行，定义关键指标，并策划评估数据集
- 与工程和数据科学团队合作，为自动干预系统构建、调优和验证检测模型，包括设定阈值以及权衡精确率与召回率
- 持续监控干预措施和检测系统在时间推移中的表现
- 审核被标记的内容，以推动执行和政策改进
- 支持开发将用户连接至危机资源的产品内功能，与产品、法律及外部合作伙伴就转介路径和面向用户的内容开展合作
- 通过基于真实场景提供政策缺口的详细反馈，支持安全保障政策设计团队
- 跟踪新出现的人工智能政策和关于人工智能与心理健康关系的外部研究，并用其指导决策和工作流程
任职要求
- 在信任与安全、产品政策、内容审核或相关领域有经验，并直接接触过心理健康、自杀与自残或相关福祉伤害领域
- 有设计或运行实验、评估或测量研究以判断干预是否有效的经验
- 有将政策定义转化为可衡量形式（如由人工审核员或自动系统应用的评分标准、审核指南或分类标准）的经验
- 有管理或协调内容审核运营的经验，包括质量保证和工作流管理
- 熟练使用SQL和/或其他数据分析工具，以衡量干预效果、监控工作流健康状况并发现政策缺口
- 有使用生成式人工智能产品的经验，包括为内容审核、分类或评估编写有效提示词
- 有将开放性问题与数据转化为简洁且有洞察力的分析的经验
- 有识别新兴风险并向跨职能合作伙伴传达发现的经验