阿里巴巴
前沿安全工具能力预研-阿里星/A Star
前沿安全工具能力预研-阿里星/A Star
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Agent架构
Ai安全
Devsecops
Java/Golang/Python
大模型(Llm)
对抗样本
漏洞挖掘
网络安全
值不值得投
82综合评分
综合评分 82
顶尖人才专项、前沿AI安全技术、高薪酬高成长、高强度挑战
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4490 个在招 · 其中AI算法 2 个
市场机会
选择不多
北京 · AI算法 · 10 个在招
职位详情
关于这个职位
该职位隶属于阿里星计划，专注于前沿安全工具的能力预研
核心工作是将大模型（LLM）技术应用于智能攻防体系升级，构建覆盖训练、部署全生命周期的AI安全防护体系，并开发智能化的DevSecOps工具链，以应对Prompt注入、数据泄露等新型安全风险
最低要求
热爱编程，熟悉 Java、Golang、Python、C/C++ 等语言中的至少一种，有良好的编程习惯
对算法、数据结构、操作系统、网络通信等计算机专业基础有较好的掌握和理解
热爱安全攻防，对网络安全和 AI 安全均有一定了解，理解传统攻防手法与防御思路（如 Web 安全、网络协议安全、系统安全等），同时关注 Prompt 注入、越狱攻击、数据泄露等 AI 时代的新型安全风险
对 AI/LLM 技术有浓厚兴趣，了解大模型、Agent、RAG 等相关技术概念，理解 Agent 系统的基本架构（工具调用、规划、记忆、多 Agent 协作等）
学习能力强，对新事物抱有好奇心，有良好的沟通能力和团队协同能力，善于独立思考和反思总结
工作职责
驱动智能攻防体系升级：将大模型能力嵌入威胁检测、异常识别、漏洞挖掘与自动响应场景，打造具备自学习、自适应能力的智能安全引擎
构建AI安全全生命周期防护体系：深入研究模型对抗样本、提示注入、滥用检测、防窃取等关键问题，建立覆盖训练、部署、推理、调用全阶段的安全技术体系
保障数据与模型的隐私安全：结合可信执行环境（TEE）、机密计算等先进技术，保护多租环境下的模型和数据安全
开发高效安全工具链：参与漏洞扫描、代码审计、配置检测等能力平台的研发，提升DevSecOps体系的智能化与自动化水平
跟踪行业趋势，参与攻防实践：关注AI安全前沿研究，参与攻防演练、漏洞分析、开源共建等项目，推动行业安全能力演进
优先资格
有 ACM、超算、CTF、安全攻防等编程或安全类竞赛获奖者优先
有项目开发经验，参与过开源项目者优先
熟悉云场景和相关中间件者优先
有 LLM 应用开发、Agent / Multi-Agent 系统构建经验者优先，有将 Agent 技术应用于安全场景（如自动化威胁检测、智能告警研判、攻击溯源等）的实践经验更佳
对应用层漏洞原理、代码审计、漏洞利用与防御方式有扎实基础，或在 AI 安全方向（如大模型红队测试、Agent 安全沙箱、对抗攻防）有研究或实践经验
发现过真实场景的安全问题，在工业界或学术会议上发表过研究成果者优先
AI 洞察
优缺点分析
优点
- 处于AI与安全交叉的前沿赛道，技术壁垒高，职业发展空间大
- 阿里星计划提供极高的资源支持和自由度
- 对候选人的综合素质要求极高，需兼具深厚的安全功底和AI技术视野
- 工作内容具有高度探索性，缺乏成熟路径可循
- 热衷于前沿技术研究、具备极强自学能力和创新思维的资深技术人员或优秀博士毕业生
缺点 / 挑战
暂无明显挑战项
角色解读
- 成为AI安全领域的专家级研究员或技术负责人，主导前沿安全技术的落地与行业标准制定
- 负责将大模型技术融入网络安全领域，研发智能攻防工具和自动化安全引擎
- 扎实的编程基础（Java/Go/Python等），深入理解AI安全原理（如Prompt注入、对抗样本）及传统网络安全知识
申请策略
- 准备详细的技术作品集或GitHub链接，展示在AI+安全领域的实际动手能力或研究成果
- 突出在AI安全、大模型应用或网络安全领域的具体项目经验，特别是涉及Agent、对抗攻击/防御的技术细节
- 补充大模型安全相关的前沿论文阅读，熟悉主流LLM框架及安全测试工具（如LangChain安全模块）
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目经历，重点阐述技术选型的理由、遇到的瓶颈及解决方案，体现深度思考
- 请介绍一个你参与的AI安全相关项目，你解决了什么核心难点？
- 如何看待大模型在代码审计或漏洞挖掘中的应用前景与挑战？
- 如何设计一个针对LLM的Prompt注入防御机制？
- 你对Agent系统在安全场景落地的理解是什么？
- 复习AI安全经典攻击向量（如Jailbreaking、Data Poisoning）及防御策略，了解最新的LLM安全研究进展
职位点评
薪资福利85
成长发展95
工作生活60
使命价值80
薪资福利
85较高
阿里星计划作为顶尖人才项目，通常提供极具竞争力的薪酬包和股权激励，远超市场平均水平。
薪资信号偏高 (3.0千–6.0万/月)
成长发展
95较高
该职位聚焦AI安全这一新兴且高价值的领域，拥有极高的技术成长空间和行业影响力，符合顶级人才的职业发展诉求。
技术前沿前沿/新兴技术
技术栈LLM、Agent、AI安全、TEE、DevSecOps
业务类型profit_center
工作生活
60中等
虽然阿里星计划可能提供一定的灵活性，但作为核心研发岗位，仍需面对高强度的技术攻关压力，WLB取决于具体团队文化。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
致力于构建AI时代的安全防护体系，保护数据和模型隐私，具有显著的社会价值和行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号保障数据与模型的隐私安全、推动行业安全能力演进
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs