返回岗位列表

Anthropic

技术规模化滥用威胁调查员

地点:远程 薪资:$230,000-$290,000 日期:2026-01-29

岗位摘要

检测和调查大规模滥用模式,包括模型蒸馏、未经授权的API访问、账户农场、欺诈计划和诈骗操作;开发滥用信号和跟踪策略,以主动识别规模化对抗性活动和协调的滥用网络;使用SQL、Python和数据科学方法进行技术调查,分析大型数据集并发现复杂的滥用模式

岗位职责

  • 检测和调查大规模滥用模式,包括模型蒸馏、未经授权的API访问、账户农场、欺诈计划和诈骗操作
  • 开发滥用信号和跟踪策略,以主动识别规模化对抗性活动和协调的滥用网络
  • 使用SQL、Python和数据科学方法进行技术调查,分析大型数据集并发现复杂的滥用模式
  • 创建关于针对AI系统的新攻击向量、漏洞和威胁参与者TTP的可操作情报报告
  • 利用调查结果,对我们的安全方法进行系统性改进并减轻危害
  • 研究内部和更广泛生态系统中的趋势,预测AI系统可能被利用的方式,生成并发布报告
  • 与外部威胁情报合作伙伴和信息共享社区建立并维护关系
  • 跨职能合作,建立我们的威胁情报计划,制定流程、工具和最佳实践
  • 预测滥用行为者将如何利用AI技术的进步,并为安全设计策略提供信息

任职要求

  • 精通SQL和Python,并具备数据科学背景
  • 具有大型语言模型经验,并了解AI技术如何被大规模利用
  • 在滥用用户行为检测、欺诈模式、账户滥用或平台完整性方面具备专业知识
  • 具有在表层网络、深层网络和暗网环境中追踪威胁参与者的经验
  • 能够从大型数据集中获取洞察,以做出关键决策和建议
  • 具有威胁参与者分析和利用威胁情报框架的经验
  • 具备强大的项目管理技能和从零开始建立流程的能力
  • 具备出色的沟通技巧,能够与跨职能团队合作并向领导层汇报