
集团安全部-AIGC多模态大模型专家-杭州
发布于 1 小时前普通员工/个人贡献者
值不值得投
综合评分 76
杭州AIGC多模态安全专家岗,技术前沿、成长性强,安全治理价值突出,办公灵活性未披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
8.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 5110 个在招 · 其中AI算法 96 个
市场机会
选择面较广
杭州 · AI算法 · 约 110 个在招
职位详情
关于这个职位
该岗位聚焦AIGC多模态内容安全,负责图文音视及跨模态风险识别、审核、解释与合规控制能力建设
最低要求
学历背景:计算机科学、人工智能、网络安全等相关专业
工作职责
负责 AIGC 场景下多模态内容安全核心能力的研发与迭代,覆盖图文音视及跨模态组合内容,构建贯穿用户输入、生成过程与输出分发的风险识别、审核、解释和合规控制能力,保障生成内容与业务应用安全
优先资格
攻防经验:了解对抗攻击(Adversarial Attacks)经典算法(如 PGD, FGSM),或有大模型越狱(Jailbreak)、Prompt Engineering 相关研究经验者优先
AI 洞察
优缺点分析
优点
- 岗位处于AIGC、多模态大模型和AI安全交叉方向,技术前沿性强,能积累稀缺的模型安全与内容治理经验
- 工作内容覆盖算法研究、Agent系统、推理优化、端侧部署和红队评测,能力成长面较完整
- 多模态安全同时要求模型能力、攻防知识、工程优化和业务合规理解,技术跨度大,学习曲线陡峭
- 适合具备多模态大模型、AI安全或对抗攻防研究背景,同时愿意深入工程落地和复杂业务治理的资深算法人才
缺点 / 挑战
- 集团级安全场景通常业务复杂、数据规模大,有利于接触真实高风险问题和大规模落地挑战
- 对有论文、攻防竞赛或大模型安全研究背景的候选人,岗位匹配度和专业壁垒较高
- 风险类型持续变化,需要长期跟进越狱、提示词注入、对抗样本等新型攻击方式,并保持模型和策略迭代
- 需要在安全效果、误杀率、延迟、成本和端侧部署约束之间做平衡,落地复杂度较高
角色解读
- 可向多模态安全算法专家、AI安全研究专家方向深入,主导核心模型、攻防方法和评测体系建设
- 可向技术管理或跨团队治理方向发展,负责安全大模型平台、内容安全中台或AIGC治理体系
- 由于同时覆盖模型、Agent、工程部署和业务合规,未来也可拓展到AI治理、可信AI、平台安全架构等高价值方向
- 研发AIGC多模态内容安全能力,覆盖图文音视及跨模态组合内容,围绕输入、生成、输出链路做风险识别、审核、解释和合规控制
- 构建多模态安全大模型,结合指令微调、偏好优化、知识增强、强化学习和对抗训练,提升模型对隐式风险、新型风险和复杂业务场景的识别能力
- 设计安全Agent与Guardrails方案,利用风险知识检索、工具调用、任务规划和多模型协同,处理提示词注入、越狱诱导、敏感信息泄露等风险
- 推进模型推理优化和端云协同部署,包括量化、剪枝、蒸馏、稀疏化、动态路由和端侧VLM轻量化,同时建设评测、红队测试和标注体系
- 需要扎实的Transformer和多模态大模型基础,理解LLaVA、GPT-4V、Gemini、Stable Diffusion等模型的训练与推理机制
- 需要熟练使用Python和PyTorch/TensorFlow,具备快速复现论文算法、开展模型训练和工程落地的能力
- 需要掌握AI安全、对抗攻击、大模型越狱、Prompt Engineering、Guardrails和红队测试等相关方法
- 需要具备数据体系与评测体系构建能力,包括风险本体、策略标签、标注规范、难例库、对抗样本和线上反馈闭环
申请策略
- 申请前建议梳理阿里集团AIGC业务和安全治理场景,思考如何平衡风险召回、误杀率、延迟和成本
- 面试中尽量用具体项目说明你如何定义问题、构建数据、选择模型、评测效果并推动线上迭代
- 重点突出与多模态大模型相关的项目经历,包括模型结构、训练数据、微调方法、评测指标和上线效果
- 突出AI安全相关经验,如对抗攻击、越狱防御、Prompt Injection、Guardrails、红队测试或内容风控策略建设
- 展示工程能力,尤其是Python、PyTorch/TensorFlow、模型量化、蒸馏、推理加速、端侧部署或大规模服务化经验
- 如有CVPR、ICCV、ACL、NeurIPS、CCS、USENIX Security等论文或开源项目,应在简历中明确列出贡献和结果
- 提前准备多模态安全案例,熟悉图文音视风险识别、跨模态语义理解、风险定位和解释方法
- 补充Agent安全与Guardrails知识,重点理解工具调用检查、上下文防护、提示词注入防御和多模型协同审核
面试指南
- 系统设计类问题可按“风险定义—数据体系—模型方案—评测指标—线上闭环”展开,强调可落地和可迭代
- 算法问题建议先说明问题本质,再比较可选方案,最后结合指标说明取舍,如召回、误杀、鲁棒性、延迟和成本
- 项目经历建议使用STAR框架,重点讲清楚个人贡献、技术难点、实验设计和最终业务效果
- 如何设计一个覆盖用户输入、生成过程和输出分发的多模态内容安全体系?
- 多模态大模型中隐式风险识别为什么困难?你会如何构建训练数据和评测集?
- 面对提示词注入、越狱诱导和不安全工具调用,Agent Guardrails应如何设计?
- 如何在低时延、低功耗和弱网约束下部署端侧VLM安全模型?
- 请介绍一个你复现或改进过的多模态/AI安全论文算法,包括关键创新和实验结果
职位点评
薪资福利
JD未披露薪资和福利信息,但岗位为专家级算法岗,且要求多模态大模型、AI安全和工程落地复合能力,通常对薪资动机具有较强吸引力。福利方面仅能基于未披露信息判断,缺少明确证据。
成长发展
岗位明确涉及多模态安全大模型、Agent、Guardrails、对抗训练、模型压缩和红队测试,技术前沿且成长空间大。JD未提及晋升通道或培训机制,发展性主要来自技术挑战和业务复杂度。
工作生活
JD仅明确地点为杭州,未提及远程、弹性办公、双休或加班情况,因此生活化动机满足程度难以判断。岗位涉及模型研发、工程落地和线上迭代,但JD未直接说明工作强度。
使命价值
岗位直接面向AIGC内容安全、合规控制和风险治理,目标是保障生成内容与业务应用安全,具有较明确的安全治理价值。JD未提及更广泛的社会使命表述,但AI安全本身具备较强正向影响潜力。
阿里巴巴 的其他在招职位