产品经理，安全与安保
岗位摘要
作为Cohere安全研究团队与North之间的产品桥梁，确保模型评估、红队测试和行为研究的发现转化为产品级的防护措施、控制和安全保障；负责Cohere和North的安全产品路线图，根据研究结果、观察到的滥用模式、不断演变的威胁向量和客户需求，优先安排功能开发
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 作为Cohere安全研究团队与North之间的产品桥梁，确保模型评估、红队测试和行为研究的发现转化为产品级的防护措施、控制和安全保障
- 负责Cohere和North的安全产品路线图，根据研究结果、观察到的滥用模式、不断演变的威胁向量和客户需求，优先安排功能开发
- 与建模团队合作，定义和解读安全评估，了解Cohere基础模型在面对对抗性输入、边缘情况和高风险用例时的行为表现
- 定义并推动评估框架，以衡量模型和产品能力演进过程中安全属性的保持情况，确保在问题影响客户之前发现回归
- 协调防护措施和干预机制的开发，与研究、工程和政策团队合作，确定在North产品层中实施安全控制的位置和方式
- 监控AI安全研究领域的最新动态，包括提示注入、越狱攻击以及代理系统中新兴的滥用模式，确保North的路线图反映研究成果
- 建立流程以扩展安全审查，随着North产品覆盖面的扩大，确保新功能在发布前经过安全风险评估
任职要求
- 5年以上产品管理或研究运营经验，曾在科技或AI公司与研究或机器学习团队密切合作
- 具备足够的技术深度，能够与安全研究人员进行可信的交流：不需要亲自运行评估，但需要理解评估的含义并提出正确的问题
- 对AI安全和模型行为有真正的兴趣，包括在企业环境中部署大型语言模型的实际影响
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。