小红书
AI安全测试工程师
AI安全测试工程师
发布于 大约 2 个月前普通员工/个人贡献者
北京市 / 上海市
中级经验
全职员工
仅现场办公
本科
研究与开发 (研发)
Fuzzing
Prompt注入
大模型
渗透测试
越狱攻击
AI Agent
AI安全
LLM
RAG
AI 估算 · 25k–45k
AI安全岗位紧缺，技术门槛高，一线互联网公司薪资竞争力强，综合市场行情估算。
职位详情
关于这个职位
该职位主要负责小红书AI产品、大模型及AI Agent系统的安全漏洞挖掘与风险自动化测评
你将深入LLM、RAG等前沿技术，从黑盒、灰盒到白盒全面测试AI特有攻击向量，同时利用LLM和Agent技术提升安全测试效率
适合对AI安全有浓厚兴趣、具备渗透测试经验的技术人才
最低要求
）本科及以上学历，信息安全、计算机、人工智能或相关专业
具备安全测试、渗透测试或AI安全研究经验，对AI安全测试技术有浓厚兴趣
）深入了解AI系统架构，熟悉LLM、RAG、AI Agent工作原理及主流Agent框架
）熟悉AI安全攻击技术，包括但不限于Prompt Injection、Jailbreak、对抗样本生成、模型逆向等
）具备扎实的编程能力，能独立编写自动化安全测试脚本、Fuzzing工具及PoC利用代码
）了解机器学习模型评估方法（精确率/召回率/AUC/F1等），能解读AI模型安全测评结果并输出量化分析报告
工作职责
一、AI安全测评与渗透测试（Security for AI）
）对AI产品、LLM API服务、RAG系统、AI Agent系统开展系统性和现网安全测试，覆盖黑盒、灰盒、白盒多种测试模式
）设计并执行针对AI特有漏洞的渗透测试和自动化测评方案，重点测试Prompt注入、越狱攻击、数据窃取、错误推理利用、越权任务执行、Tool权限隔离等AI特有攻击向量
）对AI应用开展蓝军测评，开发自动化测试工具模拟真实攻击者视角，评估AI产品面临的特有攻击场景（Prompt Injection、越狱攻击等）
）开展AI模型数据安全测试，验证训练数据隐私保护、差分隐私机制、模型逆向攻击防护的有效性
）设计AI安全自动化评测框架，支持Prompt攻击、工具滥用、权限绕过、数据泄露等场景的批量化测试与持续评估
二、AI赋能安全测评（AI for Security）
）利用LLM、AI Agent等技术提升安全测试效率，构建智能化的Fuzzing框架、Prompt攻击自动生成器、自动化漏洞挖掘工具、AI辅助代码审计、AI辅助现网安全渗透等
）基于大模型能力实现测试用例的自动化生成与扩充，提升测试覆盖率并降低人工编写测试用例的成本
）建立并持续维护AI安全测评基准库（AI Benchmark），结合AI能力实现测试数据集的自动化更新与评估指标优化
）跟踪分析业界最新的大模型安全对抗技术及新型安全风险，引入业界AI安全验证优秀实践，安全测试标准、方法、技术、工具和独立创新，持续提升团队的安全验证测试能力
优先资格
）有大模型安全研究、AI Red Team项目、AI安全靶场构建经验，或在SRC/CVE中有AI相关漏洞挖掘记录
）参与过CTF竞赛（特别是AI安全赛题方向）、开源安全工具贡献
☆对AI安全方向有持续研究兴趣，具备快速学习能力
具备传统安全、AI平台、AI应用开发等相关背景者也欢迎投递
AI 洞察
优缺点分析
优点
- 前沿技术领域：深度接触LLM、Agent等最新AI技术，技能壁垒高
- 大厂平台：小红书技术氛围浓厚，安全团队重视创新，资源充足
- 行业前景广阔：AI安全是新兴刚需，市场需求持续增长
- 技术迭代快：需持续学习最新的大模型安全和对抗技术
- 攻击面复杂：AI系统涉及模型、数据、应用多层，测试难度大
- 适合对AI安全有浓厚兴趣、具备渗透测试基础、喜欢钻研前沿攻防技术且能适应快速学习节奏的技术人才
缺点 / 挑战
- 工作内容有挑战性：既有攻防对抗的刺激，又有自动化工具建设的成就感
- 可能面临应急响应压力：安全漏洞需及时修复，工作节奏较快
角色解读
- 技术纵深发展：成为AI安全领域专家，深入模型安全、数据安全、对抗攻防
- 横向拓展：向AI研发、安全架构、安全产品经理等方向转型
- 管理路径：带领AI安全团队，负责公司级安全体系建设
- 对AI产品、大模型、RAG和Agent系统进行系统性安全测试，覆盖黑盒、灰盒、白盒多种模式
- 设计并执行针对AI特有漏洞的渗透测试，如Prompt注入、越狱攻击、数据窃取等
- 利用LLM和Agent技术构建智能化安全测试工具，提升自动化测试效率
- 跟踪业界最新AI安全对抗技术，持续优化安全测试方法论和工具链
- 深入理解LLM、RAG、AI Agent原理及主流框架
- 精通AI安全攻击技术，包括Prompt注入、越狱攻击、对抗样本等
- 扎实的编程能力，能独立编写自动化测试脚本、Fuzzing工具和PoC
- 了解机器学习评估指标，能输出量化安全分析报告
申请策略
- 准备一个AI安全相关的技术demo或分析报告，展示动手能力
- 关注小红书安全团队的技术博客，了解其技术方向和文化
- 突出AI安全相关项目经验，如LLM红队测试、漏洞挖掘、CTF AI赛题
- 展示自动化工具开发能力，如Fuzzing框架、PoC、安全扫描器
- 强调对大模型原理和攻击技术的理解，可附上技术博客或开源贡献
- 如有SRC/CVE漏洞记录，务必突出展示
- 深入学习LLM、RAG、Agent框架（如LangChain、AutoGPT）
- 练习AI安全攻击手法，复现Prompt注入、越狱攻击等案例
面试指南
- STAR法则：情境-任务-行动-结果，结构化描述项目经验
- 攻击-防御框架：先分析攻击向量，再提出多层防御策略
- 对比分析：比较传统安全与AI安全的异同，展现系统理解
- 请详细解释一次你挖掘的AI安全漏洞，包括攻击原理和修复建议
- 如何设计一个自动化测试框架来批量检测Prompt注入？
- 大模型RAG系统有哪些独特的安全风险？如何防御？
- 你如何评估一个AI模型的安全性？有哪些指标？
- 请描述LLM Agent中tool权限隔离的重要性及实现思路
职位点评
68
综合评分
大厂AI安全岗位，前沿技术栈，成长空间大，但WLB一般需现场办公。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、愿意投入时间学习前沿AI安全技术、能接受现场办公和一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展90
工作生活40
使命价值60
薪资福利
70中等
薪资未明确但预计较高，小红书作为大厂福利齐全，但需现场办公且未提及弹性工作。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
90较高
岗位涉及前沿AI安全技术，成长空间大，但JD未明确晋升通道或导师制。
技术前沿前沿/新兴技术
技术栈LLM、RAG、AI Agent、Prompt注入、越狱攻击、Fuzzing
业务类型ambiguous
工作生活
40较低
明确要求现场办公，未提及弹性工作或WLB，可能有加班压力。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
60中等
AI安全有社会价值，但JD未强调使命或创新方向，行业属于高速增长。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs