阿里巴巴
千问事业部-安全大模型算法专家-VLM方向
千问事业部-安全大模型算法专家-VLM方向
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Ai Agent
Dpo
Pytorch
Rlhf
Sft
Vlm
内容安全
多模态大模型
值不值得投
76综合评分
综合评分 76
核心大模型安全算法岗，技术前沿且成长空间大，但工作节奏快、抗压要求高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
5万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2990 个在招 · 其中算法优化工程师 约 120 个
市场机会
选择面较广
北京 · 算法优化工程师 · 约 300 个在招
职位详情
关于这个职位
该职位负责构建集团级多模态内容安全防控体系，研发基于VLM的内容审核与大模型安全对齐算法
你需要深耕多模态大模型安全领域，突破跨模态表征、AI Agent安全防御等关键技术，并设计端到端的多模态风控解决方案，保障核心产品的业务安全
最低要求
计算机、人工智能等相关专业硕士及以上学历，具备2年以上算法研发经验
具备多模态检测大模型的后训练实战经验
熟练掌握SFT、RLHF/DPO等技术，能针对安全场景进行高效的模型对齐与优化
精通Python，熟悉PyTorch等主流深度学习框架
深入理解Transformer架构，在大模型后训练、多模态检索或AI Agent任一领域有扎实实践
具备极强的工程落地与应急处理能力
责任心强，抗压能力强，具备良好的沟通协作意识，能在高压环境下快速定位问题并输出解决方案
工作职责
负责构建集团级多模态内容安全防控体系，研发基于VLM的内容审核与大模型安全对齐算法，保障通义千问、夸克AI等核心产品的业务安全
深耕多模态大模型安全领域，重点突破跨模态通用表征、AI Agent安全防御、AIGC生成内容检测及大模型后训练安全调优等关键技术
利用大模型能力构建自动化风险挖掘系统，通过合成对抗样本、长尾场景泛化及自我博弈，主动发现线上潜在的安全盲区与新型攻击模式，实现从“被动拦截”到“主动治理”的转变
建立高危风险内容的快速识别与拦截机制（紧急止血方案），针对突发舆情或新型攻击手段，能在小时级内完成策略迭代与模型热更新，确保业务零重大安全事故
设计并落地端到端的多模态风控解决方案，平衡安全性与用户体验，解决复杂场景下的全模态风险问题
跟踪业界大模型安全最新进展，持续迭代算法策略，保持技术领先性
优先资格
有大规模多模态数据集处理经验者优先
熟悉大模型红队测试方法论，有利用LLM/VLM自动生成对抗样本或挖掘长尾风险案例的经验者优先
有内容安全、对抗样本攻击/防御等相关经验者优先
有通过快速迭代模型或策略解决线上紧急安全问题的实际案例者优先
在CVPR, ICCV, ACL, ICML等顶级会议/期刊发表过论文，或在权威算法竞赛中获得名次者优先
AI 洞察
优缺点分析
优点
- 核心业务线：直接参与通义千问、夸克AI等集团核心产品的安全保障，业务影响力大
- 技术前沿：深耕多模态大模型安全、AI Agent防御等前沿领域，技术壁垒高，个人成长空间大
- 适合具备扎实大模型后训练经验、抗压能力强，且对AI安全与多模态技术有浓厚兴趣的算法工程师
缺点 / 挑战
- 平台资源：依托集团的海量数据与算力资源，能够接触并解决业界最复杂的AI安全挑战
- 高压环境：需应对突发舆情与新型攻击，要求小时级内完成策略迭代，工作节奏快、压力大
- 技术难度：大模型安全属于新兴交叉领域，长尾场景泛化与对抗样本挖掘具有极高的技术挑战性
角色解读
- 纵向可发展为首席算法科学家或安全领域技术专家，引领大模型安全前沿技术
- 横向可拓展至AI安全合规、大模型商业化安全架构等方向，成为AI安全领域的复合型领军人才
- 负责构建多模态内容安全防控体系，研发基于VLM的内容审核与安全对齐算法
- 突破跨模态表征、AI Agent安全防御等关键技术，构建自动化风险挖掘系统
- 设计端到端多模态风控方案，建立高危风险快速识别与拦截机制，保障核心产品业务安全
- 精通Python与PyTorch，深入理解Transformer架构，具备大模型后训练（SFT/RLHF/DPO）实战经验
- 在多模态检索、AI Agent或大模型红队测试领域有扎实实践，能自动生成对抗样本
- 具备极强的工程落地与应急处理能力，能在高压环境下快速迭代模型解决线上安全问题
申请策略
- 了解通义千问及夸克AI的产品特性与潜在安全风险，在面试中展现对业务场景的深刻理解
- 准备好高压环境下的应急响应思路，体现自己在快速定位问题和输出解决方案方面的能力
- 突出大模型后训练经验：详细列出SFT、RLHF/DPO在安全对齐场景的具体应用与效果
- 展示红队测试与攻防成果：提供利用LLM/VLM生成对抗样本、挖掘长尾风险的实际案例
- 强调应急处理与工程落地能力：列举快速迭代模型解决线上紧急安全问题的成功案例
- 深入学习大模型红队测试方法论与自动化风险挖掘技术，提升对抗样本生成能力
- 关注多模态大模型安全领域的最新顶会论文，跟进跨模态表征与Agent安全防御前沿
面试指南
- STAR法则：针对具体案例，清晰阐述情境、任务、行动和结果，突出技术深度与业务收益
- 技术深度+业务思考：不仅讲算法原理与实现细节，还要结合业务场景说明方案设计的权衡与考量
- 请分享一个你利用大模型进行安全对齐或红队测试的实际案例，遇到了什么挑战？
- 面对突发的新型攻击手段，你如何在小时级内完成策略迭代与模型热更新？
- 在多模态内容安全中，如何平衡安全性与用户体验？
- 请介绍你在跨模态通用表征或AI Agent安全防御方面的技术探索与成果
- 复习大模型后训练核心技术（SFT/RLHF/DPO）及多模态安全对齐的最新研究进展
- 梳理过往项目中的应急响应案例，总结快速定位问题与模型热更新的标准流程与经验教训
职位点评
薪资福利85
成长发展90
工作生活40
使命价值80
薪资福利
85较高
核心算法岗，薪资具备较强市场竞争力，福利体系完善，但工作强度较大。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
90较高
处于大模型安全这一前沿领域，能接触核心产品，技术成长与行业视野拓展空间极大。
技术前沿前沿/新兴技术
技术栈VLM、多模态大模型、SFT、RLHF、DPO、Transformer、AI Agent、PyTorch
成长机会保持技术领先性、持续迭代算法策略
业务类型cost_center
工作生活
40较低
JD明确要求在高压环境下工作，需具备极强的应急处理能力，工作节奏快，WLB较难保证。
工作模式未明确
办公地点未明确
加班情况JD含高强度暗示词
使命价值
80较高
保障核心AI产品的安全，防止大模型被滥用，具有较高的社会价值与行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号保障通义千问、夸克AI等核心产品的业务安全、确保业务零重大安全事故
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs