红队工程师，安全保障
岗位摘要
对Anthropic产品界面进行全面对抗测试，开发结合多种利用技术的创造性攻击场景；研究和实施针对新兴能力的创新测试方法，包括智能体系统、工具使用和新型交互范式；设计并执行“完整杀伤链”攻击，模拟现实世界威胁行为者实现特定恶意目标
岗位职责
- 对Anthropic产品界面进行全面对抗测试，开发结合多种利用技术的创造性攻击场景
- 研究和实施针对新兴能力的创新测试方法，包括智能体系统、工具使用和新型交互范式
- 设计并执行“完整杀伤链”攻击，模拟现实世界威胁行为者实现特定恶意目标
- 构建和维护系统化测试方法，评估系统各个方面
- 开发自动化测试框架，以支持大规模持续评估
- 与产品、工程和政策团队合作，将发现转化为具体改进
- 帮助建立衡量新型滥用检测有效性的指标
任职要求
- 具有渗透测试、红队或应用安全经验
- 具有模型越狱以及测试大规模代理工作流中非显而易见提示注入向量的经验
- 具备扎实的Web应用安全技术能力，包括安全测试工具（如Burp Suite、Metasploit、自定义脚本框架）的实操专长
- 具有构建自定义自动化的经验，包括针对LLM的测试框架
- 有发现新型攻击向量并以创造性方式串联漏洞的记录
- 有公开成果，如CVE、博客文章或披露的漏洞赏金报告
- 出色的书面和口头沟通能力，能够向不同受众解释技术概念
- 具有AI/ML安全或对抗性机器学习经验（优先）
- 理解传统安全之外的AI安全考量，包括针对越狱的现代防护栏（优先）
- 具有测试API安全和速率限制系统的经验（优先）
- 具有测试业务逻辑漏洞和授权绕过技术的背景（优先）
- 具有反欺诈、信任与安全或滥用预防系统的背景（优先）
- 熟悉分布式系统和基础设施安全（优先）
- 熟悉滥用检测机制并能够设计新型绕过方法（优先）
- 能够适应理解并围绕直接专业领域之外的新兴威胁构建工作（优先）