Agent 安全专家
岗位摘要
搭建公司 Agent 产品和平台的安全体系，覆盖 Agent 设计、开发、上线、运行全过程，制定 Agent 安全架构规范和安全基线；研究并防御 Agent 面临的主要风险，包括直接和间接提示注入（攻击指令藏在网页、文档、邮件、工具返回结果里）、越狱、记忆投毒（往 Agent 的记忆里写入恶意内容…
岗位职责
- 搭建公司 Agent 产品和平台的安全体系，覆盖 Agent 设计、开发、上线、运行全过程，制定 Agent 安全架构规范和安全基线
- 研究并防御 Agent 面临的主要风险，包括直接和间接提示注入（攻击指令藏在网页、文档、邮件、工具返回结果里）、越狱、记忆投毒（往 Agent 的记忆里写入恶意内容）、目标劫持、敏感信息泄露等
- 负责 Agent 执行环节的安全，包括工具调用、MCP、插件和 Skills 的权限控制，代码执行和浏览器操作的沙箱隔离，高风险操作的人工确认，以及调用次数、资金额度等使用上限的控制
- 设计 Agent 的身份和授权体系，包括 Agent 自身的身份、用户授权 Agent 代为操作、凭证和密钥的管理、多个 Agent 协作时彼此之间的信任边界，确保 Agent 只拿到完成任务所需的最小权限
- 负责 Agent 生态的供应链安全，对第三方 MCP Server、插件、Skills 做安全审核和风险监测
- 搭建 Agent 安全红队和自动化评测能力，建立攻击场景库和评测基准，持续评估 Agent 产品的安全水平
- 落地 Agent 运行时的防护和监控能力，包括输入输出检测、行为审计、异常行为发现和阻断，把安全能力集成到 Agent 平台中
- 跟踪 Agent 安全的前沿研究和业界实践，把研究成果用到实际业务中
任职要求
- 本科及以上学历，计算机、人工智能、信息安全等相关专业；3 年以上安全相关工作经验
- 熟悉大模型和 Agent 的技术原理，包括 Function Calling（函数调用）、MCP、RAG、记忆机制、多 Agent 协作等，了解主流 Agent 框架
- 熟悉 Agent 和大模型的主要攻击和防御方法，了解 OWASP LLM Top 10、OWASP Agentic AI 威胁模型、MITRE ATLAS 等框架
- 安全基础扎实，熟悉 Web 安全、权限模型、身份认证与授权（如 OAuth）、沙箱隔离等，能从系统架构层面分析 Agent 可能被攻击的地方
- 熟练使用 Python，工程能力强，能独立开发评测工具、防护组件或安全中间件
- 学习能力和钻研精神强，能跟上 Agent 安全快速变化的攻防动态；能和算法、产品、研发团队紧密合作，推动方案落地
- 有 Agent 产品或平台安全建设的实战经验，比如 Coding Agent、浏览器或电脑操作类 Agent、企业级 Agent 平台的安全设计
- 研究过 MCP、工具调用、提示注入等方向的安全问题，或做过 AI 红队实战；在安全或 AI 顶级会议发表过论文，发现过知名产品漏洞，或有相关开源项目
- 有大模型安全对齐、内容安全、护栏模型等方向的经验
工作地址
北京海淀区大恒科技大厦12F