阿里巴巴
阿里控股-大模型安全架构师 / 资深专家-杭州/北京
阿里控股-大模型安全架构师 / 资深专家-杭州/北京
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Alignment
Pytorch
Rag
Rlhf
大模型安全
Adversarial Ml
Llm Security
值不值得投
77综合评分
综合评分 77
顶尖技术平台、前沿研究方向、高社会价值，但工作强度大、WLB一般
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
9.0万
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4290 个在招 · 其中人工智能 约 410 个
市场机会
选择面较广
杭州 · 人工智能 · 约 470 个在招
职位详情
关于这个职位
作为阿里大模型安全体系的核心专家，负责构建覆盖“数据-训练-推理-应用”全生命周期的安全防御架构
重点设计内生安全机制与自动化评测平台，对抗提示注入、越狱等新型AI威胁，确保大模型在高风险场景下的可信可控与合规
最低要求
基础能力：
● 硕士及以上学历，计算机、信息安全、人工智能等相关专业，博士优先
● 5年以上安全或AI领域研发或研究经验，近期经历专注大模型/生成式AI安全
● 精通大模型技术栈（Transformer架构、RLHF、PEFT、RAG、Agent）
● 深入理解对抗机器学习、差分隐私、鲁棒优化、安全对齐、因果与可解释性等核心安全理论
专业能力：
● 评测方向：精通主流大模型安全评测基准（如SafetyBench, Do-Not-Answer, AdvBench等），并有自主构建高覆盖度、高难度评测集的实际项目经验
● 攻防方向：熟练掌握提示注入、越狱、后门攻击等攻击原理，并能设计有效的防御策略（如输入过滤、输出检测、模型硬化等）
● 对齐方向：对“安全-性能平衡”有深刻洞见，具备在模型训练或推理阶段无损或低损植入安全机制的成功案例
● 工程能力：扎实的编程能力（Python/C++），熟悉PyTorch/TensorFlow
有大规模分布式训练或推理服务（vLLM, TensorRT-LLM）性能调优经验者优先
工作职责
【核心职责】
安全评测体系建设
● 主导构建面向大模型和智能体（LLM/VLM/Agent）的多维度、自动化安全评测平台，覆盖鲁棒性、合规性、偏见歧视、隐私保护、有害内容生成等关键维度
● 设计并维护动态更新的对抗性测试集与红队（Red Teaming）攻击库，包括但不限于提示注入、越狱攻击、多轮对话诱导等高级攻击手法
● 研究前沿性AI的风险滥用和失控问题，例如CBRN、伦理、多智能体失控、AI发展提升网络攻击威胁等问题并进行科学和有效的检测度量
● 建立客观、可量化的安全评分体系及安全等级认证标准，支撑模型上线准入、灰度发布及持续监控
跟踪前沿对抗攻击与防御技术，定期组织针对内部模型的实战对抗演练
内生安全机制设计
● 从架构层面推动“安全左移”，将安全机制内生融入模型预训练、微调（SFT/RLHF）、检索增强生成（RAG）及智能体（Agent）等环节
● 研发并落地可插拔的安全对齐技术，如指令鲁棒性增强、安全向量控制、动态系统提示词硬化、自我反思（Self-Correction）机制等
设计针对模型参数、中间激活及梯度的安全检测和隐私保护方案等
● 探索可解释性安全方法，构建模型决策的内部监控与预警机制，实现安全风险的早期发现与自动响应
标准制定与生态合作
● 主导或参与阿里巴巴在制定企业级大模型安全开发规范、评测标准等方面的工作
● 代表阿里巴巴参与国内外AI安全标准组织的研讨与标准制定
● 建立与学界、业界安全社区的联动机制，持续引入前沿攻击防御技术，输出安全白皮书或专利
优先资格
亮点与加分项：
● 在顶级安全/AI会议（S&P, CCS, USENIX Security, NeurIPS, ICML, ACL）上发表过多篇大模型安全相关论文
● 主导过国家级或行业级AI安全攻防竞赛并取得优异成绩，或相关产品和项目获得国内国际同行的认可
● 拥有大模型安全相关专利或开源项目核心贡献，关键标准的核心贡献者
AI 洞察
优缺点分析
优点
- 处于AI安全最前沿，接触顶级技术资源与海量真实数据
- 有机会参与国家及国际标准制定，职业影响力巨大
- 平台资源丰富，能接触到最先进的算力与算法设施
- 对学术成果与技术落地的双重高标准要求
- 适合在AI安全领域有深厚积累、追求技术极致、具备强烈科研兴趣与工程落地能力的资深专家
缺点 / 挑战
- 技术迭代极快，需持续保持高强度的学习与研究压力
- 安全攻防是动态博弈，面临不断涌现的新型攻击手段，挑战性强
角色解读
- 可向首席安全科学家、AI安全领域技术总监方向发展，成为行业标准制定的核心参与者
- 也可转向更广泛的AI治理与伦理研究领域，引领行业安全规范
- 负责设计和实施大模型全生命周期的安全防护体系，包括构建自动化评测平台和红队攻击库
- 研发内生安全机制，将安全能力嵌入模型训练和推理环节，确保模型的可控性与合规性
- 参与制定行业安全标准，推动学术界与产业界的合作
- 精通大模型架构（Transformer, RLHF, RAG）与安全理论（对抗机器学习、差分隐私）
- 具备强大的攻防实战能力，能设计复杂的对抗样本与防御策略
- 拥有扎实的编程功底（Python/C++）及大规模分布式系统调优经验
申请策略
- 准备详细的技术作品集，包括代码仓库、论文列表或系统设计文档
- 深入了解阿里在大模型安全方面的最新布局与战略方向
- 面试中展现对行业趋势的深刻洞察与前瞻性思考
- 突出在大模型安全领域的具体研究成果，如发表的顶会论文、获得的专利或主导的攻防竞赛成绩
- 详细列举构建过的安全评测平台或防御系统的技术指标与实际效果
- 强调在复杂场景下解决安全与性能平衡问题的成功案例
- 持续关注最新的大模型安全漏洞与防御技术，如最新的越狱技巧与缓解措施
- 加强在可解释性AI与形式化验证方面的深度学习
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目经验，突出技术深度与业务价值
- 对于理论性问题，结合最新研究与实际案例进行论证，展现批判性思维
- 对于架构设计题，清晰阐述权衡取舍（Trade-off）的依据
- 请详细描述你构建的大模型安全评测平台的架构与核心难点
- 面对最新的提示注入攻击，你认为最有效的防御策略是什么？为什么？
- 如何在保证模型性能的前提下，实现安全机制的内生融合？
- 请分享一个你主导的AI安全攻防竞赛或项目的成功经验与挑战
- 你对大模型安全标准的制定有何见解？阿里在其中应扮演什么角色？
职位点评
薪资福利85
成长发展95
工作生活40
使命价值80
薪资福利
85较高
作为资深专家岗位，薪资水平极具竞争力，且阿里提供的福利体系完善，能满足高收入预期。
薪资信号未披露（AI估算：6.0千–12.0万/月）
成长发展
95较高
该职位处于AI安全最前沿，提供极高的技术成长空间与行业影响力，是发展的绝佳平台。
技术前沿前沿/新兴技术
技术栈LLM Security、Red Teaming、RLHF、RAG、Adversarial ML、Differential Privacy
成长机会研究前沿性AI的风险滥用、跟踪前沿对抗攻击与防御技术、参与国内外AI安全标准组织的研讨与标准制定
业务类型profit_center
工作生活
40较低
大厂核心研发岗位通常工作强度较大，虽可能有弹性工作制，但高压环境可能影响WLB。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
80较高
致力于确保大模型的安全可控与合规，具有显著的社会价值与行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号确保大模型在高风险业务场景下的可信、可控与合规
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs