阿里巴巴
集团安全部-大模型攻防平台-杭州
集团安全部-大模型攻防平台-杭州
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公信息安全
信息安全
Go
Jailbreak
全栈开发
大模型安全
安全运营
漏洞挖掘
红队测试
风控策略
值不值得投
76综合评分
综合评分 76
前沿 LLM 攻防方向、复合技能成长快、薪酬福利与工作节奏需面试确认。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
与信息安全中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4100 个在招 · 其中信息安全 57 个
市场机会
选择面较广
杭州 · 信息安全 · 约 100 个在招
职位详情
关于这个职位
在阿里集团安全部负责大模型（LLM）及其上层应用的安全研究与攻防体系建设：通过分析海量请求、日志与业务数据发现模型与系统漏洞，复现提示词注入、越狱、数据泄露、Agent 劫持等新型攻击，并设计从网络层到应用层的端到端防护方案，同时承担安全工具与检测平台的全栈开发
最低要求
基础能力：计算机、网络安全、人工智能等相关专业本科及以上学历，具备扎实的安全与工程功底
熟练掌握至少一门后端语言（Python / Go / Java / C++ 等）及主流前端技术，具备独立完成全栈项目的能力
具备实际的漏洞挖掘、端逆向与利用经验
熟练使用 AI，并构建过属于自己的 AI Native
安全研究与运营：有大模型安全、AI 安全、红蓝对抗或安全研究相关经验，熟悉主流 LLM 的调用方式与典型攻击面
具备安全运营思维，思路清晰，能够基于数据（日志分析、指标建模、异常检测）推导漏洞成因与风控策略，而非依赖直觉
熟悉常见风控、限流、认证鉴权、加密签名等安全机制的设计与落地
问题发现与解决：具备敏锐的问题嗅觉与系统性思维，能够像挖漏洞一样主动发现隐藏的缺陷、逻辑漏洞与攻击路径
面对复杂、模糊、无先例的问题，能够快速拆解、定位根因并给出可工程化落地的解决方案
有较强的自驱力、责任心与跨团队协作沟通能力，能独立推进从 0 到 1 的研究与建设项目
工作职责
大模型安全研究与攻防：开展大模型安全前沿研究，覆盖提示词注入（Prompt Injection）、越狱（Jailbreak）、数据泄露、模型滥用、Agent/工具调用劫持、供应链投毒等攻击面
复现与挖掘新型攻击手法，构建可量化的攻防评测集与红队测试能力，输出漏洞分析报告与修复建议
跟踪学术界与工业界最新研究成果，沉淀为团队可复用的检测规则、防御策略与知识文档
安全运营与数据驱动风控：从安全运营视角出发，对网关流量、请求日志、渠道调用、Token 消耗等多维数据进行分析，定位异常行为、欺诈滥用与策略盲区
设计并迭代风控策略（限流、封禁、灰度、异常检测、行为画像等），持续评估策略有效性与误杀率
建立安全事件的监测、告警、响应与复盘闭环，形成可度量的运营指标体系
全栈安全能力建设：负责安全工具、检测平台、可视化看板等系统的架构设计与全栈开发，独立完成从前端到后端、从数据采集到分析展示的完整链路
深入网络层（TCP/HTTP/HTTP2、TLS、代理、网关、负载均衡）到应用层（模型服务、Agent 框架、API 编排）的实现细节，识别各层的安全风险并加以加固
保障所交付系统在高并发、大流量场景下的稳定性、性能与可扩展性
AI 洞察
优缺点分析
优点
- 方向处于 AI 安全这一快速演进的前沿领域，研究与实践结合，技术积累稀缺性强
- 岗位覆盖研究、运营、全栈工程三类能力，成长面宽，不易被单一技能路径锁死
- 背靠大型集团的真实海量流量与业务场景，攻防数据与实战样本丰富
- 职责跨度大，既要安全研究又要全栈开发与数据风控，对复合能力与自我驱动要求极高
- 大模型攻防领域变化快、无先例可循，很多问题需要自行拆解与定义，难以依赖成熟方法论
- 适合具备安全攻防背景、同时又愿意写代码做平台、对 LLM 安全有强烈兴趣且能独立推进项目的复合型工程师
缺点 / 挑战
- 需要跨团队协作推进从 0 到 1 的平台建设，落地周期与协调成本较高
角色解读
- 可沿安全研究方向纵深发展，成长为 LLM/AI 安全领域的资深专家或红队负责人
- 也可向安全平台与安全工程方向延展，负责更大规模的攻防平台与风控中台架构
- 具备 0 到 1 项目经验后，有机会转向安全团队管理或安全策略/治理岗位
- 以安全运营与红队视角研究大模型及其上层应用的安全风险，复现提示词注入、越狱、Agent 工具调用劫持等新型攻击手法，并输出漏洞报告与修复建议
- 基于网关流量、请求日志、Token 消耗等数据做异常检测与风控策略迭代（限流、封禁、灰度、行为画像），构建从监测、告警到复盘的安全运营闭环
- 从网络层到应用层设计端到端防护方案，并独立完成安全检测平台、工具与可视化看板的前后端全栈开发
- 扎实的安全功底：实际漏洞挖掘、逆向与利用经验，熟悉常见风控、限流、认证鉴权、加密签名机制
- 后端至少精通 Python/Go/Java/C++ 之一，同时具备主流前端开发能力，能独立交付全栈系统
- 熟悉主流 LLM 调用方式与典型攻击面，具备数据驱动的日志分析与异常检测思维
- 熟练使用 AI 工具，有 AI Native 应用构建经验，了解 TCP/HTTP2/TLS、代理、网关等网络层细节
申请策略
- 提前了解阿里集团安全部的业务范围与对外披露的安全研究成果，面试时能对上具体场景
- 准备一个能讲透的攻防实战故事，覆盖发现问题、还原攻击链、落地防护的完整闭环
- 突出真实漏洞挖掘、逆向与利用案例，写明漏洞类型、发现过程与修复方案
- 展示全栈项目经历，特别是安全工具、检测平台或可视化看板从 0 到 1 的完整交付
- 列举与 LLM 相关的实践，如提示词注入测试、红队评测集构建、Agent 调用安全加固
- 用数据说明成果，例如风险检出率提升、误杀率下降、异常行为识别覆盖范围等
- 系统梳理 OWASP Top 10 for LLM 等大模型安全知识体系，熟悉主流攻击面与缓解措施
- 强化日志分析、异常检测与风控策略设计能力，练习基于数据推导漏洞成因
面试指南
- 漏洞类问题用「背景—发现路径—攻击链还原—修复与验证」四段式结构，突出方法论而非运气
- 策略类问题先定义风险指标与评测方法，再谈检测规则、灰度上线与误杀率评估的闭环
- 平台类问题先讲清目标与约束，再讲架构选型、数据链路和性能/稳定性保障措施
- 请描述一次你独立完成的漏洞挖掘或红队攻防经历，你是如何发现、复现并推动修复的？
- 针对提示词注入或越狱攻击，你会如何设计一套可量化的评测集与防御策略？
- 如何通过网关流量、请求日志和 Token 消耗数据识别模型滥用或异常调用？
- 你如何从网络层到应用层分析一个大模型服务的攻击面？
- 介绍一个你从 0 到 1 搭建的安全平台或全栈系统，架构如何设计、如何保障高并发稳定性？
职位点评
薪资福利70
成长发展92
工作生活58
使命价值85
薪资福利
70中等
职位描述中未披露薪资与福利信息，薪资吸引力需在面试环节确认；岗位为集团级安全方向，整体薪酬预期处于市场较好水平。
薪资信号未披露（AI估算：3.0千–6.0万/月）
成长发展
92较高
岗位聚焦大模型安全这一前沿方向，同时覆盖安全研究、数据风控与全栈平台建设，明确要求从 0 到 1 推进项目，技能成长空间很大。
技术前沿前沿/新兴技术
技术栈LLM、Prompt Injection、Jailbreak、Agent、红队测试、Python、Go、Java、C++、HTTP2、TLS、全栈开发、异常检测
成长机会跟踪学术界与工业界最新研究成果，沉淀为团队可复用的检测规则、防御策略与知识文档、能独立推进从 0 到 1 的研究与建设项目、构建可量化的攻防评测集与红队测试能力
业务类型ambiguous
工作生活
58较低
职位描述未提及办公模式、弹性工时或加班情况，工作地点为杭州园区类办公场所，实际工作节奏需与招聘方确认。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
大模型安全直接关系到 AI 系统的可靠与可信，属于 AI 产业发展的关键配套方向，岗位本身带有较强的技术守护价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs