小红书
【2027校招】AI安全研发工程师
【2027校招】AI安全研发工程师
发布于 33 分钟前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Agent
Go
Llm
Mcp
Owasp
Rag
安全测试
漏洞攻防
值不值得投
73综合评分
综合评分 73
前沿AI安全校招岗位，技术成长性强，行业前景好，但办公与WLB信息未明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
24K
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1330 个在招 · 其中人工智能 8 个
市场机会
选择面较广
北京 · 人工智能 · 约 360 个在招
职位详情
关于这个职位
这是一面向2027届应届生的校招岗位，负责小红书大模型、RAG及AI Agent等AI系统的安全防护与测评工作
你将参与AI安全防护体系、自动化安全测评平台的设计与开发，致力于提升公司AI产品的安全性和可靠性
最低要求
本科及以上学历，计算机、信息安全、人工智能、软件工程等相关专业，其他专业但具备相关实践能力者也欢迎投递
熟悉Python、Java、Go、C/C++或Rust中的至少一种，具备基本的数据结构、计算机网络和软件工程基础，能够独立完成工具、服务或项目模块开发
了解大模型、RAG和AI Agent的调用链路与技术架构，如模型接入、Tool Calling、MCP、Skill、知识库、状态管理及Sandbox等
了解AI系统相关安全风险及基础知识，如提示注入、越狱、权限控制、数据安全、OWASP GenAI Security、MITRE ATLAS等
对AI安全和工程建设有持续兴趣，愿意主动研究并解决系统集成、稳定运行和安全机制落地中的实际问题
具备良好的问题分析、快速学习、文档表达和团队协作能力
工作职责
面向公司大模型、RAG、AI Agent及相关AI产物，参与AI安全防护系统、安全测评平台和基础设施建设，推动安全能力在研发、测试及运行阶段工程化落地
【方向1：AI安全防护方向】
参与AI产品及Agent系统的安全架构分析、威胁建模和防护方案设计，推动安全能力在研发及运行阶段接入落地
围绕提示注入、越狱、敏感数据泄露、知识库污染、模型滥用等风险，开发安全网关、检测服务、策略引擎、拦截及风险处置组件
建设Agent身份认证、权限控制、工具调用、MCP接入、记忆隔离、沙箱执行及外部数据访问等安全机制
探索LLM、RAG、Agent等技术在安全组件开发、策略运营、告警研判和自动化处置等场景中的工程应用
沉淀可复用的AI安全组件和工程规范，建设日志、监控、告警及审计能力，保障防护系统稳定、可观测和可扩展
【方向2：AI安全测评/测试方向】
参与各类AI系统与应用、AI部署平台及AI工具产物的漏洞攻防和安全测试，建设自动化安全测评平台
围绕提示注入、越狱、敏感信息泄露、知识库污染、记忆污染、工具滥用及越权执行等攻击方式，开发攻击执行与漏洞验证工具
对AI能力与Web、API、身份权限、数据访问及第三方组件的结合场景开展全链路测试，实现调用链追踪和风险验证
建设LLM与Agent安全评测执行框架，实现Benchmark管理、样本管理、任务编排、结果判定、回归测试和报告生成
探索利用LLM、Agent等技术提升测试任务生成、漏洞验证及攻击证据链构建效率，沉淀可复用的测评工具和工程能力
优先资格
参与过RAG、Agent、MCP Server、沙箱、工作流编排或大模型应用的设计与开发
参与过AI安全防护平台、自动化测试系统、安全检测工具或漏洞验证工具的建设
参加过CTF、SRC、攻防演练、AI安全竞赛或其他技术竞赛
有开源项目贡献、国际发明专利、安全工具、安全Benchmark或高水平论文成果
AI 洞察
优缺点分析
优点
- 直接投身于AI安全这一前沿交叉领域，技术成长性强，能接触最前沿的AI安全攻防技术
- 作为大厂校招，提供系统化的培养体系和规范的工程实践平台
- 工作内容兼具攻防两端，既能构建防护体系，也能进行漏洞挖掘，技术视野全面
- 岗位要求同时理解AI技术与安全领域，需要具备较强的跨领域知识整合能力
- 作为新兴领域，工程实践与最佳实践仍在探索中，可能面临标准和规范不明确的问题
- 对人工智能技术有浓厚兴趣，并希望从安全视角切入，有志于保障AI系统安全性的计算机相关专业应届生
- 需要具备快速学习能力和主动解决问题的意愿
缺点 / 挑战
- AI技术迭代极快，安全风险也随之快速演变，需要持续高强度地学习新知识
角色解读
- 初级AI安全工程师：专注于特定安全组件或测评工具的开发与维护
- 高级AI安全工程师/专家：负责复杂安全系统的架构设计，成为AI安全领域的攻防专家
- 技术负责人/架构师：领导AI安全团队，规划公司整体AI安全战略与技术方向
- 针对大模型、RAG及AI Agent等系统，进行安全威胁分析、防护方案设计与安全组件开发
- 建设针对AI特定攻击（如提示注入、越狱）的检测、拦截和自动化处置平台
- 对AI应用进行全链路安全测评与漏洞挖掘，构建自动化安全评测框架与工具
- 探索将AI技术应用于安全运营，提升安全防护与测试的效率
- 掌握至少一门编程语言（如Python, Go），具备扎实的编程与工程开发能力
- 理解大模型、RAG、AI Agent等技术的核心原理、调用链路与常见架构
- 熟悉AI安全领域的特定风险与知识，如提示注入、越狱、OWASP GenAI Top 10等
- 具备良好的问题分析、快速学习及将安全需求工程化落地的能力
申请策略
- 深入研究小红书的产品形态（如社区内容、AI功能）与可能面临的安全挑战，在面试中展现业务理解
- 准备一个关于AI安全的小型研究报告或漏洞分析案例，作为个人技术热情的证明
- 突出与AI（如大模型应用、Agent开发）或信息安全相关的项目经历、竞赛（CTF/安全攻防）或论文
- 详细描述使用Python、Go等语言独立完成的项目，体现工程能力
- 对于加分项（如开源贡献、安全工具开发）应重点展示
- 系统性地学习LLM、RAG、Agent的技术架构，并动手实践搭建简单应用
- 深入学习AI安全核心概念，如OWASP for LLM Applications、常见攻击手法及其防御原理
- 提升编程与系统设计能力，熟悉云原生、微服务等工程架构知识
面试指南
- 对于技术概念题：先给出准确定义，再结合实例或攻击场景进行解释，最后提出系统性的防御思路（技术+管理）
- 对于项目经验题：使用STAR法则（情境-任务-行动-结果），重点描述你的技术决策、遇到的难点以及最终成果
- 对于设计与思考题：从攻击者和防御者双重视角出发，考虑功能、安全、性能、可观测性等多个维度，展示系统性思维
- 请解释一下什么是提示注入攻击，你可以想到哪些防御方法？
- 你如何看待大模型、RAG、AI Agent三者的技术关系？它们各自可能引入哪些新的安全风险？
- 请描述一个你参与过的与安全或AI相关的项目，你在其中负责什么？遇到了什么挑战？如何解决的？
- 如果要设计一个针对Agent工具调用的权限控制系统，你会考虑哪些核心要素？
- 你对我们AI安全岗位的哪个方向（防护/测评）更感兴趣？为什么？
职位点评
薪资福利60
成长发展85
工作生活65
使命价值80
薪资福利
60中等
校招岗位薪资福利体系通常规范，但JD未披露具体薪资与福利细节。
薪资信号未披露（AI估算：18K-30K/月）
福利待遇五险一金、年终奖
成长发展
85较高
处于AI安全前沿领域，技术栈先进，校招培养体系明确，有清晰的技术成长路径。
技术前沿前沿/新兴技术
技术栈LLM、RAG、AI Agent、MCP、OWASP、安全测试、Python、Go
成长机会持续兴趣、主动研究、沉淀可复用的AI安全组件和工程规范
业务类型profit_center
工作生活
65中等
工作模式未在JD中明确，校招入职通常需现场办公。位于一线城市，但具体办公环境未知。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
AI安全是保障人工智能健康发展的关键环节，行业增长迅速，工作具有重要的社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号安全防护
创新程度积极采用新技术
小红书 的其他在招职位
相似职位推荐
Watch Jobs