红队专家（网络安全方向）
岗位摘要
设计并执行严格的模型网络能力与防护评估，包括策略遵循、正确拒答、过度拒答，以及对越狱和其他对抗性技术的韧性；开展实操测试，以了解经验丰富的安全从业者使用模型时能实现哪些操作，包括任务特定测试框架、脚手架和多步骤工作流
岗位职责
- 设计并执行严格的模型网络能力与防护评估，包括策略遵循、正确拒答、过度拒答，以及对越狱和其他对抗性技术的韧性
- 开展实操测试，以了解经验丰富的安全从业者使用模型时能实现哪些操作，包括任务特定测试框架、脚手架和多步骤工作流
- 区分基准测试或政策失误与会造成重大现实风险的行为，综合考虑可行性、攻击者能力提升、可靠性以及别处已可获得的能力
- 构建并改进自动化测试基础设施，支持跨模型和产品界面的可重复测量、快速迭代和基于统计的分析
- 测试智能体系统中的新型滥用风险，包括间接提示注入、智能体劫持，以及对手操纵使用工具或依据外部信息行动的系统等其他方式
- 将发现转化为清晰的风险评估，并为安全、研究、产品、政策与工程合作伙伴提供可操作建议
- 投入部分时间参与安全漏洞赏金工作，尤其是在报告需要网络安全专业知识时
任职要求
- 在以下至少一个领域具备深厚专长：网络安全，如应用安全、渗透测试、漏洞研究、对手模拟或红队行动；能够评估所展示能力是否可靠、可行且具有重大危险性
- 在以下至少一个领域具备深厚专长：人工智能模型评估，如设计与运行评估、构建智能体测试框架、自动化对抗测试、构建数据集或大规模分析模型行为；能够将模糊风险问题转化为可复现的测试方法
- 无论侧重哪一方向，都应具备网络安全与模型评估的跨领域工作素养，并有兴趣在主要领域之外继续深入
- 能够编写代码并构建实用测试工具，尤其是用于自动化实验、编排模型或分析结果
- 具备攻击者思维，并有兴趣发现标准评估可能遗漏的失败模式
福利待遇
- 采用混合办公模式，每周需到岗3天
- 为新员工提供搬迁协助
- 工作地点可选择旧金山或西雅图