阿里巴巴
集团安全部-阿里控股-大模型安全-大模型安全算法
集团安全部-阿里控股-大模型安全-大模型安全算法
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Agent
Pytorch
内容安全
多模态算法
大模型安全
强化学习
模型压缩
端云协同
值不值得投
80综合评分
综合评分 80
大模型安全前沿技术岗，成长空间巨大，技术挑战性强，薪资有竞争力，但工作生活平衡可能受限。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
45K
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2740 个在招 · 其中人工智能 约 300 个
市场机会
选择面较广
北京 · 人工智能 · 约 490 个在招
职位详情
关于这个职位
本职位隶属于阿里巴巴集团安全部，专注于大模型安全领域
您将负责端侧大模型的内容安全算法研发与架构设计，构建覆盖文本、图像等多模态输入的违规内容识别与拦截体系
工作内容包括设计基于AI Agent的模型自动迭代系统，以及端云协同的算法解决方案，旨在实现内容安全模型的自助进化、持续调优与高效落地
最低要求
计算机、数学、人工智能等相关专业硕士及以上学历，3年以上算法研发经验，有内容安全或风控领域背景者优先
精通Python/C++/Java中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，熟悉深度学习框架（如PyTorch、TensorFlow）
熟悉机器学习、深度学习及强化学习算法，对多模态处理（文本、图像）有实践经验
具备端侧模型开发经验，熟悉模型压缩（如量化、剪枝）及端云协同推理优化技术，能应对资源受限环境下的算法部署挑战
具备AI Agent开发与模型自动迭代系统落地经验，熟悉LangChain、AutoGen、CrewAI等主流Agent框架，掌握ReAct、Reflection等推理范式，能够利用Agent实现Badcase挖掘、数据回流、增量训练、效果验证的全流程自动化编排
有将Agent与MLOps/LLMOps平台集成、构建无人值守模型自进化闭环的实战经验者优先
有较强的问题分析与解决能力，能够针对新型攻击手段快速设计防御方案，并具备良好的技术洞察力与业务敏感度
良好的团队协作与跨部门沟通能力，能推动算法与产品、工程团队的高效协同
持续学习与技术输出能力 ，在顶会（如CVPR、NeurIPS、CCS等）发表过相关论文或申请专利者优先，能通过技术分享带动团队能力提升
工作职责
负责端侧大模型内容安全算法架构设计与研发，构建覆盖文本、图像等多模态输入的违规内容识别体系，实现对用户违规输入及模型违规输出的风险实时拦截与精准识别
设计并落地基于Agent的模型自动迭代系统，利用Agent自主完成线上Badcase挖掘、对抗样本生成、数据回流、增量训练与效果验证的全流程编排，实现内容安全模型的自助进化与持续调优，大幅降低人工干预成本，提升模型对新型违规内容的响应速度
设计端云协同的算法解决方案，结合端侧轻量化模型与云端高精度模型的联合优化，提升内容安全检测的实时性与准确性
主导核心能力建设，包括但不限于大模型端侧化、模型压缩加速、加密传输、攻防对抗技术研究，并将Agent能力深度嵌入算法研发与运维全流程，推动算法在业务场景中的高效落地、自动迭代与持续进化
优先资格
有内容安全或风控领域背景者优先
有将Agent与MLOps/LLMOps平台集成、构建无人值守模型自进化闭环的实战经验者优先
在顶会（如CVPR、NeurIPS、CCS等）发表过相关论文或申请专利者优先
AI 洞察
优缺点分析
优点
- 技术前沿性极高，直接参与大模型安全、AI Agent等热点方向的研发，能积累稀缺的实战经验
- 平台资源丰富，背靠阿里巴巴集团，拥有海量的业务场景和数据支持算法迭代与验证
- 问题定义清晰且价值巨大，解决的是保障大模型安全这一行业核心痛点，技术影响力强
- 需快速跟进安全领域的攻防动态，对技术洞察力和学习能力要求持续且高
- 需与产品、工程团队紧密协同，在复杂的业务场景中推动技术落地，对综合能力要求高
- 对AI安全、大模型技术有浓厚兴趣，具备扎实算法与工程基础，喜欢解决复杂系统性问题，并希望技术能产生直接社会价值的算法工程师或研究员
缺点 / 挑战
- 技术难度高，需要同时攻克多模态安全、模型压缩、Agent系统设计等多个硬核技术挑战
角色解读
- 技术专家路线：深耕大模型安全、AI Agent或端云协同技术，成为该领域的顶尖算法专家或架构师
- 技术管理路线：随着项目经验积累，可能带领小团队负责特定安全方向或产品线
- 跨界发展：安全技术背景可拓展至更广泛的AI平台、可信AI或隐私计算等交叉领域
- 设计和研发面向多模态（文本、图像）输入输出的大模型内容安全算法与识别体系
- 构建基于AI Agent的模型自动迭代系统，实现从Badcase挖掘、数据回流到模型训练验证的全流程自动化
- 主导端侧轻量化模型与云端高精度模型的协同优化，解决实时性与准确性挑战
- 深入研究模型压缩、攻防对抗等关键技术，推动安全算法在业务场景中的高效落地与持续进化
- 扎实的机器学习/深度学习算法功底，尤其是多模态处理（CV、NLP融合）和强化学习
- 熟练的Python/C++工程能力，熟悉PyTorch/TensorFlow等主流框架
- AI Agent开发经验，熟悉LangChain等框架及ReAct等推理范式，并具备系统设计能力
- 端侧模型优化经验，掌握量化、剪枝、端云协同推理等技术
申请策略
- 在申请材料中，清晰阐述你对大模型安全挑战的理解，以及你过往经验如何与该岗位要求契合
- 研究阿里巴巴在AI安全方面的产品和公开技术分享，了解其业务背景和技术侧重
- 突出在内容安全、风控或相关领域的算法项目经验，尤其是多模态识别、模型部署优化方面的成果
- 重点描述AI Agent相关项目，展示你对Agent框架的理解、系统设计能力及自动化流程落地的实际案例
- 列举在模型压缩（量化、剪枝）、端侧部署或端云协同方面的实践经验
- 如有顶会论文或相关专利，务必在简历醒目位置列出
- 系统学习并实践主流AI Agent框架（如LangChain, AutoGen），尝试搭建自动化流水线
- 深入研究模型轻量化技术，并在实际项目或开源任务中进行端侧部署练习
面试指南
- 技术设计问题：采用“问题分析 - 方案设计 - 关键技术点 - 权衡与优化 - 结果验证”的框架进行回答
- 项目经验问题：使用STAR法则（情境、任务、行动、结果），重点突出你承担的核心职责、技术决策和最终量化或质化成果
- 开放性问题：从理解威胁本质出发，提出多层次、可迭代的防御思路，并说明如何监控和评估防御效果
- 请介绍一个你主导的多模态内容安全算法项目，你如何设计架构来平衡实时性和准确性？
- 如何设计一个AI Agent来自动化地进行Badcase挖掘和数据回流？请描述关键步骤和技术选型
- 端侧模型部署会遇到哪些资源约束（算力、内存、功耗）？你通常采用哪些压缩和优化手段？
- 针对一种新型的（如对抗样本攻击）大模型违规输出，你会如何设计防御方案？
- 你如何评估一个内容安全模型在上线后的持续表现和有效性？
职位点评
薪资福利82
成长发展95
工作生活50
使命价值88
薪资福利
82较高
该职位为已上市巨头企业的核心技术岗位，薪资水平预计在市场上有竞争力，且能提供完整的薪酬福利体系。
薪资信号偏高 (3–6万/月)
福利待遇年终奖
成长发展
95较高
职位涉及大模型安全、AI Agent等前沿技术领域，要求从算法设计到工程落地的全流程能力，并提供将技术深度嵌入核心业务的机会，成长空间巨大。
技术前沿前沿/新兴技术
技术栈大模型安全、AI Agent、多模态算法、模型压缩、端云协同、PyTorch、LangChain
成长机会主导核心能力建设、推动算法在业务场景中的高效落地、自动迭代与持续进化
业务类型profit_center
工作生活
50较低
JD未明确提及办公模式和工作强度，但作为集团安全部的核心技术岗位，可能需要应对紧急安全事件，工作节奏可能较快，工作生活平衡存在不确定性。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
88较高
从事大模型安全工作，直接关系到AI技术的安全可信应用，社会价值高；行业处于高速增长阶段，创新性强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs