网络安全评估工程师
岗位摘要
设计并运行能力、提升与安全性评估，以评估新模型中与网络相关的风险；在重大模型发布前，执行每次发布的防护稳健性测试；分析评估结果，并向团队和相关方清晰传达发现；设计、制作原型并调优针对网络滥用的检测探针
岗位职责
- 设计并运行能力、提升与安全性评估，以评估新模型中与网络相关的风险
- 在重大模型发布前，执行每次发布的防护稳健性测试
- 分析评估结果，并向团队和相关方清晰传达发现
- 设计、制作原型并调优针对网络滥用的检测探针
- 与网络政策团队合作，将政策界线转化为分层、稳健的滥用检测架构，并长期衡量其精确率与覆盖率
- 构建并维护用于运行评估和评分的内部工具
- 与政策和工程合作伙伴协作，将评估发现转化为防护改进
任职要求
- 有为软件或机器学习系统构建或运行评估、基准或测试套件的经验，包括在短而固定的期限内交付结果
- 具备网络安全实操经验，例如参加CTF、漏洞研究、漏洞利用开发或安全研究
- 熟练掌握Python
- 具备向多个跨职能相关方或潜在政策相关方沟通评估结果的强大能力
- 具备深度攻击性安全或安全研究经验，包括构建AI安全基准的经验
- 具备分析对抗性或滥用数据的经验，例如越狱、提示绕过、入侵或欺诈遥测数据
- 具备与政府合作伙伴现场合作进行测试或评估项目的经验
- 熟悉AI/ML评估框架
- 熟悉协同漏洞披露实践
- 具备在保密限制下测试预发布或预部署软件或模型的经验
- 具备编写检测内容（例如Sigma、YARA、Suricata、SIEM规则）或构建基于ML的滥用检测的经验
- 持有有效的秘密安全许可或更高级别许可，或有资格获得该许可