阿里巴巴
算法工程师-AI安全
算法工程师-AI安全
发布于 大约 14 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Pytorch
Tensorflow
内容风控
多模态
大模型
安全
对抗机器学习
数据安全
漏洞挖掘
值不值得投
83综合评分
综合评分 83
大厂AI安全前沿岗位，技术挑战大，薪资优厚，但工作强度可能较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
55K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1870 个在招 · 其中人工智能 约 120 个
市场机会
选择面较广
杭州 · 人工智能 · 约 130 个在招
职位详情
关于这个职位
加入阿里巴巴AI安全团队，你将专注于大模型与Agent在安全领域的应用，包括漏洞挖掘、威胁检测、多模态内容风控等
你将参与安全大模型的训练与优化，研发前沿的对抗安全算法，并推动算法在实际安全产品中落地
这是一个技术挑战大、成长空间广阔的岗位，适合对AI与安全交叉领域充满热情的你
最低要求
基础背景
●计算机、网络安全、人工智能、数学或相关专业本科及以上学历
●具备扎实的算法功底与数据结构基础，熟练掌握 Python、C/C++、Go 等至少一种语言
专业能力
●大模型与智能体：熟练掌握至少一种深度学习框架（PyTorch、TensorFlow 等），熟悉 Transformer 及大语言模型 / 多模态模型主流架构，有模型训练、微调或 Agent 算法研究的项目经验
了解 RAG、工具调用、任务规划、评测方法等实践者优先
●安全攻防基础：熟悉至少一个安全细分方向（网络安全、数据安全、业务风控、内容安全、身份安全、云安全、终端安全等），能理解相关业务数据的形态、特征与攻防对抗逻辑
有漏洞挖掘、渗透测试、CTF、威胁检测经验者优先
●多模态与对抗：了解多模态表征、跨模态对齐、对抗机器学习、模型鲁棒性等方向者优先
能力特质
●对 AI 与安全攻防交叉领域有浓厚兴趣，紧跟 SOTA 论文与技术动态，乐于挑战行业未解难题
●能快速跟进前沿方法并把想法落为可运行的代码或模型
●出色的逻辑分析、协作与沟通能力，乐于在跨团队场景下推动事情落地
工作职责
安全数据集构建与表征学习：设计并构建高质量安全领域训练数据（漏洞库、攻击流量、终端日志、代码、图文音视、伪造样本、风险内容等），解决安全数据稀缺与类别不均衡问题
研究多模态统一表征与跨模态对齐方法，使模型能够跨数据形态理解安全语义
模型训练与领域适配：研究面向安全垂直领域的大模型继续预训练、SFT、偏好对齐与轻量化微调方法，提升模型对安全任务的理解与推理能力
针对具体场景（检测、识别、生成对抗等）研发端到端的专用模型，使安全大模型在漏洞理解、威胁研判等任务上逼近资深安全分析师的推理水平
多模态感知与检测算法：研发面向图像、音视频、文档等多模态数据的检测与识别模型（深度伪造检测、活体判别、文档防伪、内容风险分类、敏感信息识别等），研究跨模态融合、细粒度特征提取与鲁棒判别方法
应对 AIGC 持续进化带来的"生成 vs 检测"持续对抗，始终让检测能力领先于生成攻击一个身位
Agent 推理与规划算法：研究面向安全任务（威胁狩猎、漏洞挖掘、应急响应、日志分析等）的 Agent 决策、推理与任务规划算法，使智能体能够自主完成多步骤安全任务，达到资深安全工程师的威胁处置效率
研究 Prompt Injection / Jailbreak 攻防、安全对齐与 Agent 行为约束
对抗安全与评测体系：研究模型在对抗样本、数据投毒、物理攻击、规避攻击下的鲁棒性，利用对抗训练、增量学习、自监督等方法持续加固模型
研究对抗生成、跨域迁移与零日攻击场景下的检测泛化能力，确保模型在真实对抗环境中持续可用
搭建安全领域评测体系与 Benchmark，覆盖攻防对抗、漏洞理解、伪造检测、风险识别、Agent 任务规划等维度，持续优化检出率、误报率等核心指标，驱动模型迭代
优先资格
●有安全攻防经验（CTF、红蓝对抗、渗透测试、应急响应、实战攻防演练等），或 AI 安全攻防 / AIGC 攻防赛、Kaggle、信息安全大赛、安全类 AI 竞赛优异成绩
●有 CVE 漏洞挖掘经验，或在主流手机系统、知名开源项目有过安全贡献
●在网络安全（S&P、USENIX Security、CCS、NDSS 等）或人工智能（NeurIPS、ICML、ICLR、CVPR 等）顶会有论文或相关专利
●有开源贡献，或主导过安全大模型 / 安全 Agent / 风控算法的实际项目
●有大模型领域适配（SFT/DPO/RLHF/LoRA）、Agent 推理与规划算法、RAG、安全对齐与红队评测、对抗机器学习等任一方向的研究或实战经验
●熟悉多模态大模型（文本+代码+图+流量+图像/音视频）在安全场景下的应用
AI 洞察
优缺点分析
优点
- 阿里巴巴平台大，资源丰富，能接触真实业务场景
- 薪资福利优厚，有股票期权
- 团队协作，与安全研究、工程、产品紧密合作
- 技术难度高，需要持续学习前沿知识
- 工作强度可能较大，需要应对快速迭代
- 安全领域对抗性强，需要不断适应新威胁
缺点 / 挑战
- AI安全是前沿领域，技术挑战大，成长空间广阔
- 适合对AI与安全交叉领域有浓厚兴趣，具备扎实算法基础，乐于挑战技术难题的求职者
角色解读
- 从算法工程师成长为安全AI领域专家，主导核心算法研发
- 可向技术管理方向发展，带领团队
- 有机会参与行业顶会，发表论文，提升影响力
- 构建安全领域的大模型与Agent，用于漏洞挖掘、威胁检测等场景
- 研发多模态检测算法，如深度伪造检测、内容风险分类
- 研究对抗安全，提升模型在对抗环境下的鲁棒性
- 搭建安全评测体系，持续优化模型性能
- 扎实的算法与数据结构基础，熟练掌握Python、C/C++等语言
- 熟悉大模型架构与训练，有SFT/RLHF等经验
- 了解安全攻防知识，如漏洞挖掘、渗透测试
- 具备多模态和对抗机器学习知识
申请策略
- 关注阿里巴巴安全团队的技术博客，了解业务方向
- 在面试中展示对AI安全领域的热情和思考
- 突出大模型训练或微调项目经验，如SFT、LoRA
- 强调安全相关经历，如CTF、漏洞挖掘
- 展示多模态或对抗学习项目成果
- 如有顶会论文或开源贡献，务必突出
- 补充Agent相关技术，如RAG、工具调用
- 学习安全攻防知识，如渗透测试
面试指南
- 用STAR法则回答项目经验，突出挑战和成果
- 展示对算法原理的深入理解，结合具体场景
- 体现逻辑思维和问题解决能力
- 请介绍你在大模型微调方面的项目经验
- 如何设计一个检测深度伪造的模型？
- 你如何应对对抗样本攻击？
- 描述一个你解决过的复杂算法问题
- 你对AI安全领域的发展趋势有何看法？
职位点评
薪资福利85
成长发展95
工作生活60
使命价值90
薪资福利
85较高
阿里巴巴提供有竞争力的薪资和福利，作为上市公司，薪酬体系完善，但具体薪资需面议。
薪资信号面议 (40K-70K/月)
成长发展
95较高
该职位处于AI安全前沿，技术挑战大，能快速提升技能，且有明确的成长路径。
技术前沿前沿/新兴技术
技术栈大语言模型、Agent、多模态、对抗机器学习、SFT、RLHF
业务类型profit_center
工作生活
60中等
工作地点在北京/杭州/上海，现场办公，未提及弹性工作，但阿里巴巴通常有弹性工时。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
90较高
AI安全具有重要的社会价值，保护用户数据安全，行业前景广阔。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs