蚂蚁集团
蚂蚁集团-AI安全攻防工程师-杭州
蚂蚁集团-AI安全攻防工程师-杭州
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公网络安全
网络安全
Agent安全
Ai攻防
Llm安全
网络安全
值不值得投
76综合评分
综合评分 76
前沿AI安全技术岗，高成长高挑战，适合技术极客
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比网络安全中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 800 个在招
市场机会
选择适中
杭州 · 网络安全 · 13 个在招
职位详情
关于这个职位
负责LLM及Agent应用的运行时安全防护体系建设，针对提示词注入、越狱、数据泄露等风险进行检测与处置
设计并落地AI原生攻防对抗体系，跟踪前沿攻击技术并探索防御方案，实现从评测到补防的闭环管理
最低要求
本科及以上学历、网络安全、AI安全等相关专业，具备扎实的网络安全/算法专业背景基础和较强的学习能力优先
有LLM/Agent 安全对抗或研究相关背景和经历
对 LLM/Agent 工作原理有真实认知，有 LLM 微调/评测/Guard 模型训练经验优先
具有良好的沟通协调能力、较强的团队合作精神、优秀的执行能力
具备强烈的进取心、求知欲有技术热情，具备良好的数据洞察及问题分析能力
工作职责
负责 LLM/Agent 应用的运行时安全防护体系建设：提示词注入（直接/间接/多轮渐进）、越狱、越权调用、工具/记忆/ RAG 投毒、数据外泄等风险的检测、拦截与处置
设计并落地AI原生攻防对抗体系，以AI对抗AI，实现"评测-感知-处置-溯源-补防"对抗闭环
跟踪和研究LLM/Agent 应用面临的各类攻击技术和安全风险，并基于业务实际落地场景探索、设计、落地防御对抗方案
跟踪国内外 Agent 攻防前沿，将新技术快速转化为行业实践
AI 洞察
优缺点分析
优点
- 处于AI安全最前沿领域，技术壁垒高，职业发展空间大
- 依托大厂平台，接触海量真实业务场景
- AI攻击手段迭代极快，需要持续高强度学习
- 对AI安全有浓厚兴趣，具备扎实网络安全基础且热衷于钻研新技术的技术型人才
缺点 / 挑战
- 攻防对抗压力大，需应对复杂多变的新型攻击向量
角色解读
- 可向AI安全专家、首席安全架构师方向发展，或转向更广泛的AI治理与安全策略制定角色
- 构建大语言模型（LLM）和智能体（Agent）的安全防护体系，防止提示词注入、越狱等攻击
- 深入理解LLM/Agent原理，掌握红队测试（Red Teaming）技巧，具备Guard模型训练或微调经验
申请策略
- 准备展示你对最新AI安全论文或CVE漏洞的理解，体现技术敏锐度
- 突出LLM/Agent安全相关的实战项目，如具体的漏洞挖掘、Guard模型训练细节或红队测试报告
- 补充RAG架构安全知识、多模态LLM攻击面分析能力，熟悉主流LLM安全框架（如Microsoft AI Red Team）
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点阐述在特定攻击场景下的技术选型、实施细节及最终的安全效果量化指标
- 如何检测和处理间接提示词注入？
- 请描述你设计的AI原生攻防闭环体系
- Guard模型训练中如何处理误报和漏报？
- 面对未知的Agent越狱攻击，你的应急响应流程是什么？
- 复习LLM常见攻击向量（如Prompt Injection, Jailbreaking, Data Poisoning），准备1-2个深入的技术案例进行拆解
职位点评
薪资福利85
成长发展95
工作生活40
使命价值70
薪资福利
85较高
作为头部互联网大厂的核心技术岗，提供具有竞争力的薪酬和完善的福利体系，满足度高。
薪资信号偏高 (3.0千–6.0万/月)
成长发展
95较高
AI安全是极具前瞻性的领域，公司提供前沿技术环境和成长空间，发展性动机满足度极高。
技术前沿前沿/新兴技术
技术栈LLM、Agent、Guard Model、RAG、Prompt Injection
业务类型profit_center
工作生活
40较低
互联网大厂核心技术岗通常工作节奏较快，JD未提及弹性工作制，WLB可能面临挑战。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
保障AI应用安全具有重要的社会价值和技术意义，但商业属性较强，使命感适中。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
蚂蚁集团 的其他在招职位
相似职位推荐
Watch Jobs