阿里巴巴
集团安全部-全模态内容安全算法专家-杭州
集团安全部-全模态内容安全算法专家-杭州
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Llm
Pytorch
Tensorflow
内容安全
多模态大模型
强化学习
知识蒸馏
风险识别
值不值得投
80综合评分
综合评分 80
前沿大模型内容安全算法专家岗，技术成长空间大、业务挑战高，薪资竞争力强，WLB未明确。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3100 个在招 · 其中机器学习工程 约 180 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 260 个在招
职位详情
关于这个职位
该职位负责直播及视频场景下的内容安全算法研发，聚焦实时互动流中的风险识别与大模型审核
你需要构建圈流决策引擎与自进化闭环系统，探索大小模型协同的工业化路径，应对复杂的实时对抗环境
最低要求
学历背景：计算机、数学、统计学或相关专业硕士及以上学历，具备扎实的理论基础
编程能力：熟练掌握 Python，熟悉 PyTorch / TensorFlow，具备良好的工程落地能力（能写能调能上线）
机器学习基础：熟悉序列建模（Transformer / GRU / LSTM）、图神经网络、多实例学习（MIL）、弱监督学习中的至少两项
沟通协作：具备良好的团队协作与跨部门沟通能力，能够独立承担复杂算法任务并推动落地
工作职责
围绕直播间多主体行为序列（主播口播、观众互动、水军协同等），设计并优化风险识别模型与策略体系，实现从"单条内容审核"到"整场行为理解"的能力跃迁
构建圈流-识别-审核三阶段决策引擎，在召回率≥95%的约束下持续降低误报率，实现审核链路的大模型自动化完结，平衡审核成本与安全效果
设计自进化闭环系统，通过agentic/skill技术链路实现规则挖掘、识别点自动迭代与OOD鲁棒策略，应对攻击者持续变换话术/脚本的对抗环境
参与内容安全大模型在直播/视频场景的落地，探索大小模型协同（线上小模型推理+大规模LLM训练/蒸馏/RL）的工业化路径
优先资格
大模型经验：有 LLM/VLLM/Omni/Audio在多模态内容理解、文本分类、Prompt Engineering 或知识蒸馏方面的实际应用经验
研究能力：具备优秀的分析与问题解决能力，熟悉数据挖掘、信息检索、NLP、异常检测等领域，有相关研究成果
学术成果：在 KDD、SIGIR、NeurIPS、ICML、WWW、AAAI、ACL、CPVR、ICCV、MM 等顶级会议或期刊发表过论文
竞赛经历：参加过 ACM、Kaggle、天池等数据挖掘或机器学习竞赛并取得优异成绩
有内容安全、反作弊、反欺诈、直播风控、视频审核等相关项目经验
熟悉多模态理解（视觉语言模型 / OCR / ASR / 图片标签 / Audio / Omni）在安全场景的应用
熟悉分布偏移（OOD）检测、对抗鲁棒性、反事实推理等前沿方法
有"圈流+识别"两阶段决策、自动化策略迭代、知识驱动规则挖掘的工程经验
熟悉强化学习、博弈论在安全对抗场景中的应用
具备内容自动审核、多模态内容治理、跨平台风控经验者优先
AI 洞察
优缺点分析
优点
- 公司提供强大的数据与算力支持，并鼓励顶会发表与开源，利于个人技术影响力的提升
- 面对复杂的实时对抗场景，技术深度与广度都能得到极大锻炼
- 攻击者话术和脚本持续变换，系统需要不断自进化，对算法的鲁棒性和迭代速度要求极高
- 适合具备扎实大模型与多模态算法基础，热衷于在复杂对抗场景中解决实际问题，并追求技术深度与业务价值并重的资深算法人才
缺点 / 挑战
- 业务场景极具挑战，覆盖数十亿级日活互动流，能接触到行业领先的大模型体系建设
- 需要在召回率、误报率与审核成本之间寻找极致平衡，业务落地压力大
角色解读
- 纵向可深耕内容安全与大模型算法领域，成长为行业顶尖的算法科学家或技术专家
- 横向可拓展至更广泛的AI安全、风控策略或大模型工业化落地方向，提升技术影响力
- 负责直播和视频场景下的内容安全算法研发，构建风险识别模型与策略体系
- 设计圈流-识别-审核三阶段决策引擎，实现审核链路的大模型自动化完结
- 探索大小模型协同的工业化路径，应对实时对抗环境中的复杂攻击
- 扎实的机器学习与深度学习基础，精通序列建模、图神经网络及多模态大模型技术
- 熟练掌握Python及PyTorch/TensorFlow，具备将算法从论文到生产落地的工程能力
- 具备优秀的复杂问题分析与解决能力，能独立推动跨部门复杂算法任务落地
申请策略
- 提前了解阿里在直播/视频内容安全领域的最新技术动态与大模型应用案例，展现对业务的深刻理解
- 重点突出在LLM/VLLM/Omni等多模态大模型内容理解、知识蒸馏或Prompt Engineering方面的实际落地经验
- 详细展示在序列建模、图神经网络或异常检测等领域的研究成果，特别是顶会论文或知名竞赛获奖经历
- 强调在内容安全、反作弊或直播风控等垂直领域的项目经验及带来的业务指标提升
- 深入学习分布偏移（OOD）检测、对抗鲁棒性及反事实推理等前沿方法，提升模型在对抗环境下的稳定性
- 了解强化学习与博弈论在安全对抗场景中的应用，补充自动化策略迭代与知识驱动规则挖掘的工程经验
面试指南
- STAR法则：针对项目经验，清晰阐述情境、任务、行动和结果，重点突出技术难点与业务收益
- 权衡分析：在涉及召回率、误报率、成本等指标权衡的问题时，展现系统性思考，说明如何通过策略组合或模型优化达到最优解
- 请介绍一个你主导过的多模态大模型在内容理解或安全场景的落地项目，遇到了哪些挑战及如何解决？
- 在构建圈流-识别-审核决策引擎时，如何在保证召回率≥95%的前提下有效降低误报率并控制成本？
- 面对攻击者持续变换话术和脚本的对抗环境，你如何设计自进化闭环系统来提升模型的OOD鲁棒性？
- 请谈谈你对大小模型协同（线上小模型推理+大规模LLM训练/蒸馏）在工业化路径中的理解与实践经验
- 复习并梳理自己在序列建模、多实例学习、弱监督学习及大模型微调/蒸馏方面的核心技术细节
- 准备1-2个在复杂对抗场景下通过算法创新解决实际业务问题的深度案例，体现技术深度与业务Sense
职位点评
薪资福利85
成长发展90
工作生活60
使命价值80
薪资福利
85较高
作为算法专家岗位，薪资水平在市场中具有较强竞争力，且背靠成熟业务体系，整体薪酬福利满足度较高。
薪资信号未披露（AI估算：4.5千–7.5万/月）
成长发展
90较高
岗位涉及前沿大模型与复杂对抗场景，提供强大的算力支持并鼓励顶会发表与开源，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈LLM、VLLM、Omni、Transformer、PyTorch、TensorFlow、多模态理解、知识蒸馏、强化学习
成长机会明确的技术成长路径、鼓励在顶会发表、参与开源
业务类型cost_center
工作生活
60中等
JD未明确提及工作模式与WLB相关信息，无法准确评估工作生活平衡状况。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
岗位致力于维护数十亿级日活互动流的内容安全，具有较高的社会价值与行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs