小红书
【2027校招】AI安全算法工程师
【2027校招】AI安全算法工程师
发布于 大约 1 小时前普通员工/个人贡献者
全职员工仅现场办公信息安全
信息安全
Ai Agent
Ai安全
Rag
大模型
提示注入
攻防对抗
机器学习
深度学习
算法实验
值不值得投
75综合评分
综合评分 75
前沿AI安全技术岗，成长空间巨大，但工作强度与生活平衡存在不确定性。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
25K
比信息安全中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1410 个在招 · 其中信息安全 6 个
市场机会
选择面较广
北京 · 信息安全 · 84 个在招
职位详情
关于这个职位
这是小红书面向2027届校园招聘的AI安全算法工程师岗位
该职位聚焦于大模型、RAG和AI Agent等前沿技术的安全防护与测评，你需要参与从威胁建模、风险算法研发到自动化攻击评测的全链路工作，致力于构建智能化的AI安全能力，识别并治理系统在运行过程中的各类安全风险
最低要求
本科及以上学历，计算机、信息安全、人工智能、软件工程等相关专业，其他专业但具备相关实践能力者也欢迎投递
熟悉Python及常用数据处理方法，了解机器学习、深度学习或自然语言处理基础，能够独立完成算法实验和原型验证
了解大模型、RAG和AI Agent的基本原理，具备数据集构建、指标设计、对照实验和实验结果分析的基础能力
了解AI Agent调用链路及相关安全风险，如Tool Calling、MCP、Skill、Sandbox、OWASP GenAI Security、MITRE ATLAS等
对AI安全有持续兴趣，愿意主动研究提示注入、越狱、数据安全、Agent安全等新型风险
具备良好的问题分析、快速学习、文档表达和团队协作能力
工作职责
面向公司大模型、RAG、AI Agent及相关AI产物，参与AI安全算法、安全评测方法和智能化安全能力建设，帮助团队识别并治理AI系统在数据、模型、应用和智能体运行过程中的安全风险
【方向1：AI安全防护方向】
参与AI产品及Agent系统的威胁建模，将安全风险转化为可检测的特征、样本、规则和算法任务
围绕提示注入、越狱、敏感数据泄露、知识库污染、模型滥用等风险，研发内容分类、异常检测、风险判定和安全决策算法
面向Agent身份权限、工具调用、MCP、记忆、沙箱及外部数据访问等关键环节，研究行为建模、调用链分析和异常行为识别方法
探索LLM、RAG、Agent等技术在风险检测、策略生成、结果验证及风险研判等场景中的应用，提升安全防护效果
建设防护算法的训练与评测数据，持续优化攻击检出率、误报率、漏报率及不同业务场景下的泛化能力
持续跟踪AI安全前沿技术和AI引入的新型安全风险，结合业务需求推动算法研究成果转化为关键安全能力
【方向2：AI安全测评/测试方向】
研究面向模型、RAG、Agent及AI应用的自动化攻击与风险发现方法，提升安全测评的覆盖率和有效性
研究提示注入、越狱、敏感信息泄露、知识库污染、记忆污染、工具滥用及越权执行等攻击方法与样本生成技术
分析AI能力与Web、API、身份权限、数据访问及第三方组件结合后形成的全链路风险，研究攻击路径生成和漏洞判定方法
设计LLM与Agent安全评测Benchmark、攻击数据集和指标体系，建设攻击样本自动生成、变异与迭代算法
跟踪前沿AI动态，总结攻防经验，探索利用LLM、Agent等技术提升AI漏洞发现、攻击路径生成和证据链分析效率
优先资格
参与过大模型安全、AI Red Team、Agent安全、Guardrail或AI安全评测相关项目
具备模型微调、RAG检索优化、文本分类、异常检测、攻击样本生成或大模型评测相关实践
参与过安全或AI数据集、评测指标、Benchmark的设计与建设
参加过AI安全竞赛、算法竞赛、CTF、SRC或攻防演练
有顶级会议/期刊论文、国际发明专利、开源算法项目或安全Benchmark贡献
AI 洞察
优缺点分析
优点
- 直接切入AI安全这一前沿且至关重要的交叉领域，技术成长天花板高
- 工作内容涉及最新的大模型和Agent技术，能紧密跟踪技术发展最前沿
- 大厂平台资源丰富，有成熟的业务场景和数据支持安全算法的验证与落地
- 技术难度高，需要同时理解复杂的AI技术原理和网络安全攻防知识
- AI安全领域发展迅速，需要持续高强度学习以应对不断涌现的新型攻击手法
- 作为新兴交叉学科，部分解决方案可能没有成熟范式，需要较强的探索和创新能力
- 适合对人工智能和网络安全都有浓厚兴趣，具备扎实编程和算法基础，乐于钻研攻防技术、解决复杂问题的应届毕业生
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路线：深耕AI安全算法，成为细分领域（如Agent安全、对抗攻击）的技术专家
- 架构师路线：向AI安全体系架构设计演进，负责整体安全策略与平台规划
- 跨界发展：结合AI与安全背景，可转向AI产品经理（安全方向）或安全咨询顾问
- 负责研发针对大模型、RAG和AI Agent的攻击检测与风险识别算法，构筑AI系统的安全防线
- 设计并执行自动化安全测评，通过模拟攻击（如提示注入、越狱）来发现AI应用中的漏洞和弱点
- 构建和优化安全评测数据集与Benchmark，量化评估AI系统的安全性能，并推动算法能力落地
- 扎实的算法与编程基础，特别是Python、机器学习和自然语言处理（NLP）知识
- 对大语言模型（LLM）、RAG、AI Agent等技术有深入理解，并知晓其潜在安全风险
- 具备安全思维，了解网络安全攻防概念，并对AI安全前沿技术有浓厚兴趣和研究意愿
申请策略
- 仔细研读小红书的主要产品，思考其中可能存在的AI安全风险点，并在面试中表达你的见解
- 关注OWASP、MITRE等机构发布的AI安全指南和框架，展现出你的行业视野
- 重点突出与AI/ML、NLP相关的课程项目、竞赛经历或开源贡献，展示算法实践能力
- 详细描述任何与安全相关的项目、CTF/SRC经历、或对AI安全问题的独立研究
- 清晰阐述对LLM、Agent安全风险的理解，即使来自个人学习或分析报告
- 系统学习大语言模型（Transformer）和主流Agent框架（如LangChain）的技术细节
- 深入研究已知的AI攻击方法（如Prompt Injection、Jailbreak）和防御思路
- 动手实践，尝试使用开源工具或数据集进行简单的安全评测或攻击模拟实验
面试指南
- 采用“定义-原理-示例-思考”的结构回答技术概念题，体现深度和条理
- 回答项目问题时，使用STAR法则（情境、任务、行动、结果），并重点突出你在技术决策和问题解决中的思考
- 对于开放性问题，先给出你的核心观点，再从不同维度（如技术可行性、业务影响）展开阐述，并保持批判性思维
- 请解释什么是提示注入（Prompt Injection）攻击？你认为有哪些可能的防御思路？
- 如何评估一个大模型或AI Agent的安全性？你会设计哪些测试用例或指标？
- 请描述一个你参与过的、与AI或安全相关的项目
- 你在其中遇到了什么技术挑战，如何解决的？
- 你如何看待AI Agent带来的安全新风险（如工具调用、记忆污染）？
职位点评
薪资福利70
成长发展95
工作生活45
使命价值80
薪资福利
70中等
作为大厂校招岗位，薪资具有市场竞争力，但具体待遇需结合绩效评定。
薪资信号市场水准 (18K-32K/月)
成长发展
95较高
该职位处于AI与安全交叉的前沿技术领域，提供从理论到业务落地的完整技术成长路径，挑战与机遇并存。
技术前沿前沿/新兴技术
技术栈大模型、RAG、AI Agent、提示注入、安全评测、MCP、OWASP GenAI Security、MITRE ATLAS
成长机会参与...能力建设、持续跟踪AI安全前沿技术、推动算法研究成果转化为关键安全能力
业务类型ambiguous
工作生活
45较低
工作地点位于一线城市，工作模式未明确说明，考虑到岗位涉及前沿研究和安全攻防，可能需要投入较多精力，WLB存在不确定性。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
AI安全是保障人工智能健康发展的关键环节，工作具有明确的技术价值和社会意义，能参与到构建更可信AI的事业中。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号帮助团队识别并治理AI系统...安全风险
创新程度开拓性创新（行业首创）
小红书 的其他在招职位
相似职位推荐
Watch Jobs