岗位职责： 面向公司大模型、RAG、AI Agent及相关AI产物，参与AI安全防护、安全测评和工程能力建设，帮助团队识别并治理AI系统在数据、模型、应用和智能体运行过程中的安全风险。【方向1：AI安全防护方向】 1、 参与AI产品及Agent系统的安全架构分析、威胁建模和防护方案建设，推动安全能力在研发及运行阶段落地； 2、 围绕提示注入、越狱、敏感数据泄露、知识库污染、模型滥用等风险，研发检测、拦截和风险处置能力； 3、 参与Agent身份权限、工具调用、MCP、记忆、沙箱及外部数据访问等AI Agent关键环节的安全机制建设； 4、 探索LLM、RAG、Agent等技术在安全组件设计、开发、落地和运营等场景中的应用，提升安全防护效率； 5、 持续跟踪研究AI安全前沿技术和AI引入的新型安全风险，结合业务需求推动研究成果转化为关键安全技术竞争力。【方向2： AI安全测评方向】 1、 参与各类AI系统与应用、AI相关部署平台与AI工具产物等AI能力开展漏洞攻防与安全测试； 2、 研究提示注入、越狱、敏感信息泄露、知识库污染、记忆污染、工具滥用及越权执行等攻击方式； 3、 分析和挖掘AI能力与Web、API、身份权限、数据访问及第三方组件结合后形成的全链路安全风险； 4、 设计并实现LLM与Agent的安全评测Benchmark和攻击样本自动化迭代，对模型、应用等开展系统性实证研究； 5、 跟踪前沿AI动态，总结攻防经验，并探索利用LLM、Agent等技术提升AI漏洞发现、攻击证据链证明效率。 任职要求： 1、本科及以上学历，计算机、信息安全、人工智能、软件工程等相关专业，其他专业但具备相关实践能力者也欢迎投递； 2、熟悉至少一种编程语言，如Python、Java、Go、C/C++或Rust，能够独立完成小型工具、实验程序或项目模块； 3、了解常见AI Agent调用链路与技术架构及相关安全风险，如RAG、Tool Calling、MCP、Skill、Sandbox、OWASP GenAI Security、MITRE ATLAS等； 4、对AI安全有持续兴趣，愿意主动研究提示注入、越狱、数据安全、Agent安全等新型风险； 5、具备良好的问题分析、快速学习、文档表达和团队协作能力。【加分项】 1、参与过大模型安全、AI Red Team、Agent安全、Guardrail或AI安全评测相关项目； 2、参与过RAG、Agent、MCP Server、沙箱、自动化测试或安全检测工具的设计与开发； 3、参加过CTF、SRC、攻防演练、AI安全竞赛或其他技术竞赛； 4、参与顶级会议/期刊论文、国际发明专利、开源贡献、安全Benchmark。

微信扫一扫，及时了解投递状态

您目前还没有登录：立即登录