阿里巴巴
前沿Agent安全能力预研-阿里星
前沿Agent安全能力预研-阿里星
发布于 16 小时前普通员工/个人贡献者
全职员工仅现场办公信息安全
信息安全
Agent安全
Devsecops
Llm
Prompt注入
数据安全
沙箱逃逸
漏洞挖掘
值不值得投
74综合评分
综合评分 74
前沿AI安全技术预研岗，成长天花板极高，适合技术极客，但办公与WLB情况未知。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.8万
比信息安全中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 2800 个在招 · 其中信息安全 38 个
市场机会
选择面较广
杭州 · 信息安全 · 74 个在招
职位详情
关于这个职位
该职位是“阿里星”人才计划下的前沿安全研究岗位，专注于Agentic AI系统的安全能力建设
你将深入研究并构建企业级智能体在应用全过程中的安全防护体系，应对Prompt注入、工具链攻击等新型威胁，并开发智能化的安全工具链，推动AI安全领域的技术演进
最低要求
熟悉 Java、Golang、Python、C/C++ 等语言中的至少一种，有良好的编程习惯
对算法、数据结构、操作系统、网络通信等计算机专业基础有较好的掌握和理解
热爱安全攻防，对网络安全和 AI 安全均有一定了解，理解传统攻防手法与防御思路（如 Web 安全、网络协议安全、系统安全等），同时关注 Prompt 注入、越狱攻击、数据泄露等 AI 时代的新型安全风险
对 AI/LLM 技术有浓厚兴趣，了解大模型、Agent、RAG 等相关技术概念，理解 Agent 系统的基本架构（工具调用、规划、记忆、多 Agent 协作等）
学习能力强，对新事物抱有好奇心，有良好的沟通能力和团队协同能力，善于独立思考和反思总结
工作职责
驱动Agentic攻防体系升级：将大模型能力嵌入威胁检测、异常识别、漏洞挖掘与自动响应场景，打造具备自学习、自适应能力的智能安全引擎
构建Agent全生命周期防护体系：针对企业级Agent应用在多轮对话、工具调用、插件集成、多Agent协作等场景下的安全风险，研究并构建覆盖需求定义、开发测试、部署运行、推理调用、行为审计全阶段的安全防护体系
重点防范Prompt注入与越权调用、工具链攻击与沙箱逃逸、上下文敏感数据泄露、Agent行为失控与幻觉执行等新型威胁，确保企业级Agent系统在可控范围内安全运行
保障企业级Agent应用的数据与隐私安全：研究Agent在访问企业知识库、调用外部API、处理多租户业务数据等场景下的数据安全风险
设计Agent系统的数据访问控制、敏感信息脱敏、跨系统数据流转审计等机制，防范企业核心数据通过Agent交互链路泄露或被滥用
结合差分隐私、联邦学习等技术，在保障Agent智能化能力的同时实现数据最小化使用原则
开发高效安全工具链：参与漏洞扫描、代码审计、配置检测等能力平台的研发，提升DevSecOps体系的智能化与自动化水平
跟踪行业趋势，参与攻防实践：关注AI安全前沿研究，参与攻防演练、漏洞分析、开源共建等项目，推动行业安全能力演进
优先资格
有 ACM、超算、CTF、安全攻防等编程或安全类竞赛获奖者优先
有项目开发经验，参与过开源项目者优先
熟悉云场景和相关中间件者优先
有 LLM 应用开发、Agent / Multi-Agent 系统构建经验者优先，有将 Agent 技术应用于安全场景（如自动化威胁检测、智能告警研判、攻击溯源等）的实践经验更佳
对应用层漏洞原理、代码审计、漏洞利用与防御方式有扎实基础，或在 AI 安全方向（如大模型红队测试、Agent 安全沙箱、对抗攻防）有研究或实践经验
发现过真实场景的安全问题，在工业界或学术会议上发表过研究成果者优先
AI 洞察
优缺点分析
优点
- 作为“阿里星”计划成员，通常能获得系统的培养、资深导师指导和快速的职业发展通道
- 研究成果有直接转化为保护核心业务价值的机会，成就感强
- 技术难度高，需要同时掌握安全和AI两大领域的知识，学习曲线陡峭
- 作为前沿预研岗位，工作成果可能需要较长周期验证，且技术方向可能快速变化
- 对工程化落地能力要求高，需要将研究成果转化为可执行、可扩展的安全工具或体系
- 适合对AI安全抱有强烈好奇心、具备扎实安全攻防和编程基础、乐于解决未知复杂技术问题、并希望将技术深度与前沿研究相结合的工程师
缺点 / 挑战
- 处于AI与安全交叉的前沿领域，技术挑战大，成长天花板高
- 依托阿里巴巴的平台、数据和业务场景，能接触到最真实的工业级挑战和先进的技术基础设施
角色解读
- 技术专家路线：深耕AI安全领域，成为Agent安全、LLM安全或数据安全方向的顶级专家，主导技术方案
- 架构师路线：向安全架构师发展，负责设计大型复杂AI系统的整体安全架构
- 管理路线：凭借技术影响力和项目经验，转向技术团队管理岗位
- 研究并构建针对AI Agent全生命周期的安全防护体系，防范如Prompt注入、工具链攻击等新型安全威胁
- 将大模型能力与安全场景结合，开发智能化的威胁检测、漏洞挖掘与自动响应工具
- 保障企业级Agent应用的数据隐私安全，设计访问控制、脱敏和审计机制
- 参与攻防实践和前沿研究，推动AI安全领域的技术演进
- 扎实的编程能力（Java/Golang/Python等）和计算机基础（算法、网络、系统）
- 具备网络安全和AI安全的双重知识体系，理解传统攻防和AI新型风险
- 对大模型、Agent、RAG等AI技术有深入理解和浓厚兴趣
- 优秀的学习能力、沟通协作能力和独立解决问题的能力
申请策略
- 研究阿里巴巴在云计算、大数据和AI安全方面的公开技术博客、论文和开源项目（如阿里云安全相关），了解其技术栈和关注点
- 在简历或求职信中，清晰表达你对“AI Agent安全”这一交叉领域的独特见解或兴趣点，展示你的思考深度
- 突出你在编程语言、算法和计算机基础方面的扎实功底
- 详细描述任何与安全攻防（特别是Web安全、漏洞挖掘）相关的项目或竞赛（如CTF）经历
- 重点展示你对AI/LLM技术的理解和实践，例如参与的相关项目、阅读的论文或对Agent架构的思考
- 强调你的学习能力和对新技术的热情，可以举例说明快速掌握某个复杂技术领域的经历
- 深入学习Agent系统的架构原理（工具调用、规划、记忆等），并思考其安全风险点
- 研究LLM应用安全的最新论文和攻击案例（如Prompt Injection, Jailbreaking），理解技术前沿
面试指南
- 对于安全风险类问题，采用“风险点列举 -> 具体场景 -> 危害分析 -> 防护思路/解决方案”的框架进行回答，展现系统思维
- 对于技术实践类问题，使用STAR原则（情境、任务、行动、结果），清晰描述项目背景、你的角色、具体行动（技术选型、难点攻克）和最终成果/收获
- 对于开放性和动机类问题，结合对岗位要求的理解和个人职业规划，强调技术热情、学习意愿和与岗位的匹配度
- 你认为针对一个企业级AI Agent应用，最重要的安全风险有哪些？请举例说明并描述防护思路
- 请描述一个你参与过的最具挑战性的安全漏洞挖掘或攻防项目，你是如何分析和解决问题的？
- 你如何理解Prompt注入攻击？如果让你为一个对外的Agent服务设计防御方案，你会考虑哪些层面？
- 请解释一下Agent系统中“工具调用”的安全风险，并描述一个简单的安全调用流程
- 你对‘阿里星’计划和这个岗位有什么期待？你认为自己能为团队带来什么？
职位点评
薪资福利70
成长发展95
工作生活50
使命价值75
薪资福利
70中等
作为一线互联网巨头的“阿里星”计划岗位，薪酬福利体系具有市场竞争力。但JD未明确披露具体薪资和福利细节，存在不确定性。
薪资信号面议 (2.5千–5万/月)
成长发展
95较高
该岗位是核心的技术预研岗，直接切入AI与安全的前沿交叉领域，技能含量高。公司平台大，有“阿里星”培养体系，技术成长和职业发展路径清晰，发展性动机满足度极高。
技术前沿前沿/新兴技术
技术栈Agent安全、LLM、RAG、Prompt注入、Golang、Python、漏洞挖掘、DevSecOps、差分隐私、联邦学习
成长机会阿里星、跟踪行业趋势、参与攻防实践、开源共建
业务类型profit_center
工作生活
50较低
JD未提及任何关于工作模式、办公地点灵活性或工作生活平衡的信息，无法判断。此类前沿研究岗位在业界通常存在较高的工作投入预期。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
AI安全是支撑人工智能产业健康发展的关键基础，具有重要的技术和社会价值。但岗位描述更侧重于企业级应用安全，直接的社会影响力表述有限。
行业发展新兴领域（暂难判断）
社会影响中性/一般
使命信号确保企业级Agent系统在可控范围内安全运行、推动行业安全能力演进
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs