前沿网络安全风险研究员
岗位摘要
在高级技术和风险领导指导下，设计并实现针对模型助长的网络安全滥用的缓解组件，涵盖预防、监控、检测和执法；与产品和工程团队合作，将防护措施集成到各产品界面，帮助确保保护措施一致、低延迟，并能随使用量和模型新能力扩展
岗位职责
- 在高级技术和风险领导指导下，设计并实现针对模型助长的网络安全滥用的缓解组件，涵盖预防、监控、检测和执法
- 与产品和工程团队合作，将防护措施集成到各产品界面，帮助确保保护措施一致、低延迟，并能随使用量和模型新能力扩展
- 评估网络安全风险领域的技术权衡，包括覆盖范围、延迟、模型效用和用户隐私，并提出务实且可测试的解决方案
- 与风险和威胁建模伙伴紧密协作，使缓解设计与预期攻击者行为和高影响滥用场景保持一致
- 执行严格的测试和红队演练流程，针对不断演变的威胁以及不同产品界面对缓解堆栈进行压力测试，并根据发现的问题迭代
任职要求
- 对人工智能安全充满热情，并有动力让前沿人工智能模型在现实应用中更安全
- 具备深度学习和Transformer模型的实践经验
- 熟练使用PyTorch或TensorFlow等框架
- 在数据结构、算法和软件工程原理方面有扎实基础
- 熟悉大语言模型的训练和微调方法，包括蒸馏、监督微调和策略优化
- 擅长与研究、安全、政策、产品和工程等跨职能团队协作
- 拥有设计和部署大规模滥用预防、检测和执法技术防护的丰富经验
- 加分项：具备网络安全或相关领域的背景知识