Alibaba logo
阿里巴巴
集团安全部-AIGC多模态大模型专家-杭州

集团安全部-AIGC多模态大模型专家-杭州

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 6.0–10.0万 · AI 参考估算
高级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Aigc安全
Gpt-4V
Llava
Pytorch
Tensorflow
多模态大模型

值不值得投

76综合评分

综合评分 76

杭州AIGC多模态安全专家岗,技术前沿、成长性强,安全治理价值突出,办公灵活性未披露。

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

8.0万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 5110 个在招 · 其中AI算法 96 个

市场机会

选择面较广

杭州 · AI算法 · 约 110 个在招

职位详情

关于这个职位

该岗位聚焦AIGC多模态内容安全,负责图文音视及跨模态风险识别、审核、解释与合规控制能力建设

你将参与多模态安全大模型、安全Agent、Guardrails、红队评测与端侧轻量化部署,面向复杂生成式AI场景提升模型安全性、鲁棒性与工程落地能力

最低要求

学历背景:计算机科学、人工智能、网络安全等相关专业

算法基础:熟悉 Transformer 结构,深入理解主流多模态大模型架构(如 LLaVA, GPT-4V, Gemini, Stable Diffusion 等)及其训练/推理机制
编程能力:熟练掌握 Python 及 PyTorch/TensorFlow 框架,具备良好的代码实现能力,能快速复现 Paper 中的算法

工作职责

负责 AIGC 场景下多模态内容安全核心能力的研发与迭代,覆盖图文音视及跨模态组合内容,构建贯穿用户输入、生成过程与输出分发的风险识别、审核、解释和合规控制能力,保障生成内容与业务应用安全

探索并构建多模态安全大模型,推进其在AIGC内容安全场景的训练与落地
围绕跨模态语义理解、隐式风险识别、风险定位与解释等能力,结合指令微调、偏好优化、知识增强、强化学习及对抗训练等,持续提升模型对新型风险和复杂业务场景的泛化性、鲁棒性与可控性
探索基于 Agent 的多模态安全审核与治理方案,结合风险知识检索、工具调用、任务规划与多模型协同,构建复杂内容分析、风险证据核验、策略匹配及人机协同处置流程
同时面向 AIGC 与 Agent 应用,建设输入输出防护、上下文与工具调用检查等 Guardrails 能力,防范提示词注入、越狱诱导、敏感信息泄露及不安全工具调用等风险
负责多模态安全模型及安全 Agent 的推理优化与工程落地,开展模型量化、剪枝、蒸馏、稀疏化及推理加速,构建轻重模型分级审核、动态路由与端云协同机制
推进端侧 VLM 轻量化部署,在低时延、低功耗、弱网及隐私约束下,平衡安全效果、处理效率与部署成本
建设面向 AIGC 的跨模态风险本体、策略标签体系与标注规范,沉淀高质量训练数据、难例库及对抗样本生成工具
搭建覆盖模型、Agent 与端到端业务链路的评测及红队测试体系,评估风险召回、误杀、跨模态一致性、对抗鲁棒性、延迟与成本,结合线上监控和人工反馈,推动数据、模型与安全策略持续迭代

优先资格

攻防经验:了解对抗攻击(Adversarial Attacks)经典算法(如 PGD, FGSM),或有大模型越狱(Jailbreak)、Prompt Engineering 相关研究经验者优先

学术能力:在 AI 安全、CV、NLP 等领域的顶级会议(CVPR, ICCV, ACL, NeurIPS, CCS, USENIX Security 等)发表过论文者优先

AI 洞察

优缺点分析

优点

  • 岗位处于AIGC、多模态大模型和AI安全交叉方向,技术前沿性强,能积累稀缺的模型安全与内容治理经验
  • 工作内容覆盖算法研究、Agent系统、推理优化、端侧部署和红队评测,能力成长面较完整
  • 多模态安全同时要求模型能力、攻防知识、工程优化和业务合规理解,技术跨度大,学习曲线陡峭
  • 适合具备多模态大模型、AI安全或对抗攻防研究背景,同时愿意深入工程落地和复杂业务治理的资深算法人才

缺点 / 挑战

  • 集团级安全场景通常业务复杂、数据规模大,有利于接触真实高风险问题和大规模落地挑战
  • 对有论文、攻防竞赛或大模型安全研究背景的候选人,岗位匹配度和专业壁垒较高
  • 风险类型持续变化,需要长期跟进越狱、提示词注入、对抗样本等新型攻击方式,并保持模型和策略迭代
  • 需要在安全效果、误杀率、延迟、成本和端侧部署约束之间做平衡,落地复杂度较高

角色解读

  • 可向多模态安全算法专家、AI安全研究专家方向深入,主导核心模型、攻防方法和评测体系建设
  • 可向技术管理或跨团队治理方向发展,负责安全大模型平台、内容安全中台或AIGC治理体系
  • 由于同时覆盖模型、Agent、工程部署和业务合规,未来也可拓展到AI治理、可信AI、平台安全架构等高价值方向
  • 研发AIGC多模态内容安全能力,覆盖图文音视及跨模态组合内容,围绕输入、生成、输出链路做风险识别、审核、解释和合规控制
  • 构建多模态安全大模型,结合指令微调、偏好优化、知识增强、强化学习和对抗训练,提升模型对隐式风险、新型风险和复杂业务场景的识别能力
  • 设计安全Agent与Guardrails方案,利用风险知识检索、工具调用、任务规划和多模型协同,处理提示词注入、越狱诱导、敏感信息泄露等风险
  • 推进模型推理优化和端云协同部署,包括量化、剪枝、蒸馏、稀疏化、动态路由和端侧VLM轻量化,同时建设评测、红队测试和标注体系
  • 需要扎实的Transformer和多模态大模型基础,理解LLaVA、GPT-4V、Gemini、Stable Diffusion等模型的训练与推理机制
  • 需要熟练使用Python和PyTorch/TensorFlow,具备快速复现论文算法、开展模型训练和工程落地的能力
  • 需要掌握AI安全、对抗攻击、大模型越狱、Prompt Engineering、Guardrails和红队测试等相关方法
  • 需要具备数据体系与评测体系构建能力,包括风险本体、策略标签、标注规范、难例库、对抗样本和线上反馈闭环

申请策略

  • 申请前建议梳理阿里集团AIGC业务和安全治理场景,思考如何平衡风险召回、误杀率、延迟和成本
  • 面试中尽量用具体项目说明你如何定义问题、构建数据、选择模型、评测效果并推动线上迭代
  • 重点突出与多模态大模型相关的项目经历,包括模型结构、训练数据、微调方法、评测指标和上线效果
  • 突出AI安全相关经验,如对抗攻击、越狱防御、Prompt Injection、Guardrails、红队测试或内容风控策略建设
  • 展示工程能力,尤其是Python、PyTorch/TensorFlow、模型量化、蒸馏、推理加速、端侧部署或大规模服务化经验
  • 如有CVPR、ICCV、ACL、NeurIPS、CCS、USENIX Security等论文或开源项目,应在简历中明确列出贡献和结果
  • 提前准备多模态安全案例,熟悉图文音视风险识别、跨模态语义理解、风险定位和解释方法
  • 补充Agent安全与Guardrails知识,重点理解工具调用检查、上下文防护、提示词注入防御和多模型协同审核

面试指南

  • 系统设计类问题可按“风险定义—数据体系—模型方案—评测指标—线上闭环”展开,强调可落地和可迭代
  • 算法问题建议先说明问题本质,再比较可选方案,最后结合指标说明取舍,如召回、误杀、鲁棒性、延迟和成本
  • 项目经历建议使用STAR框架,重点讲清楚个人贡献、技术难点、实验设计和最终业务效果
  • 如何设计一个覆盖用户输入、生成过程和输出分发的多模态内容安全体系?
  • 多模态大模型中隐式风险识别为什么困难?你会如何构建训练数据和评测集?
  • 面对提示词注入、越狱诱导和不安全工具调用,Agent Guardrails应如何设计?
  • 如何在低时延、低功耗和弱网约束下部署端侧VLM安全模型?
  • 请介绍一个你复现或改进过的多模态/AI安全论文算法,包括关键创新和实验结果

职位点评

薪资福利82
成长发展92
工作生活45
使命价值78

薪资福利

82较高

JD未披露薪资和福利信息,但岗位为专家级算法岗,且要求多模态大模型、AI安全和工程落地复合能力,通常对薪资动机具有较强吸引力。福利方面仅能基于未披露信息判断,缺少明确证据。

薪资信号未披露(AI估算:6.0千–10.0万/月)

成长发展

92较高

岗位明确涉及多模态安全大模型、Agent、Guardrails、对抗训练、模型压缩和红队测试,技术前沿且成长空间大。JD未提及晋升通道或培训机制,发展性主要来自技术挑战和业务复杂度。

技术前沿前沿/新兴技术
技术栈AIGC、多模态大模型、Transformer、LLaVA、GPT-4V、Gemini、Stable Diffusion、指令微调、偏好优化、知识增强、强化学习、对抗训练、Agent、Guardrails、模型量化、剪枝、蒸馏、稀疏化、推理加速、VLM
业务类型ambiguous

工作生活

45较低

JD仅明确地点为杭州,未提及远程、弹性办公、双休或加班情况,因此生活化动机满足程度难以判断。岗位涉及模型研发、工程落地和线上迭代,但JD未直接说明工作强度。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

78中等

岗位直接面向AIGC内容安全、合规控制和风险治理,目标是保障生成内容与业务应用安全,具有较明确的安全治理价值。JD未提及更广泛的社会使命表述,但AI安全本身具备较强正向影响潜力。

行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号保障生成内容与业务应用安全
创新程度积极采用新技术
Watch Jobs