阿里巴巴
千问事业部-安全大模型运营高级专家-北京
千问事业部-安全大模型运营高级专家-北京
发布于 2 小时前中层管理(经理/总监)
全职员工仅现场办公AI算法
AI算法
Ai安全
Prompt工程
内容风控
合规管理
大模型安全
监管合规
策略运营
值不值得投
80综合评分
综合评分 80
阿里核心AI安全专家岗，技术前沿、薪资优厚、发展迅速，但工作强度与合规压力较大
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4960 个在招 · 其中AI算法 70 个
市场机会
选择面较广
北京 · AI算法 · 约 210 个在招
职位详情
关于这个职位
负责千问大模型安全运营体系规划与策略设计，搭建端到端的内容安全闭环
重点覆盖多模态场景下的风险识别、审核标准制定及自动化处置，确保模型内容安全水位并满足国内监管合规要求
最低要求
本科及以上学历，8年以上互联网安全、内容安全、风控安全、AI安全或大模型运营相关经验
其中至少3年以上大模型安全、AIGC安全、内容治理或安全运营体系搭建经验
熟悉内容安全审核体系，具备风险标签设计、审核标准制定、人机协同审核、策略运营、质量评估、误判漏判复盘等实战经验
对色情、暴恐、违法、隐私、未成年人保护等风险场景有深度理解
熟悉大模型训练、微调、推理、评测与安全对齐流程
了解SFT、DPO、RLHF、RAG、Agent、Prompt工程等关键技术
具备越狱、提示词注入、数据投毒、AIGC违规生成等风险识别与处置经验
熟悉国内大模型、AIGC、数据安全、个人信息保护、网络内容治理等相关监管要求
具备监管检查应对、合规报告输出、审计留痕、风险事件处置与监管沟通经验
具备跨部门战略协同能力，能够拆解复杂业务问题，制定可落地方案，推动产研、算法、业务、GA等多方达成共识并拿结果
有带团队或主导大型安全项目经验者优先
工作职责
负责千问大模型安全运营体系规划、策略设计、自动化运营与监管协同，建设“策略—模型—评测—处置—自动迭代”的端到端运营闭环，保障千问大模型及相关AI应用的内容安全水位及用户体验
面向文本、图像、音视频、多模态对话、Agent工具调用等场景，搭建风险识别与治理策略体系
重点覆盖色情、暴恐、违法、隐私泄露、越狱、提示词注入、幻觉诱导、恶意生成等内容风险
建设并持续优化内容安全审核体系，包括风险标签体系、审核标准、策略规则、人机协同机制、误判/漏判复盘机制
推动审核策略模型化、规则结构化、处置流程自动化
建立内容安全运营指标体系，覆盖风险拦截率、误判率、漏判率、处置时效、策略覆盖率、自动化率、人工审核成本、模型安全水位、合规响应时效等
通过数据驱动持续优化运营效率与模型效果
负责对接监管要求，建立大模型安全合规运营机制
完成监管检查、指令处置、风险报告、审计留痕与整改闭环
沉淀面向网信办等监管场景的标准化汇报材料、合规报告与运营看板
优先资格
加分项：有头部大模型厂商、内容平台安全风控经验者优先
熟悉红蓝对抗演练，有实际大模型攻防实战经验者优先
AI 洞察
优缺点分析
优点
- 处于AI安全前沿领域，技术含量高
- 依托阿里千问大模型平台，资源充足，行业影响力大
- 需平衡安全与用户体验，处理复杂的跨部门协同问题
- 适合在网络安全、内容风控或AI安全领域有深厚积累，且具备宏观视野和抗压能力的资深专家
缺点 / 挑战
- 监管政策变化快，合规压力大
角色解读
- 可向AI安全架构师、首席安全官(CSO)或大模型产品负责人方向发展，成为AI治理领域的专家
- 构建和维护千问大模型的安全运营体系，制定内容安全策略和审核标准
- 精通大模型安全原理（如越狱、提示词注入），熟悉内容风控全流程，具备监管合规对接能力
申请策略
- 准备关于如何平衡‘安全’与‘创新’的案例，展现解决复杂业务冲突的能力
- 突出大模型安全专项经验，展示从策略制定到自动化落地的完整闭环案例，强调监管合规成果
- 深入理解LLM底层安全机制（如RLHF安全对齐），提升对最新攻击手法（如越狱）的防御策略研究
面试指南
- 采用STAR法则（情境-任务-行动-结果），结合具体数据（如拦截率、误判率）说明策略的有效性，并强调合规性与技术先进性的平衡
- 如何设计一个针对多模态大模型的内容安全审核体系？
- 面对最新的Prompt Injection攻击，你的防御策略是什么？
- 如何向监管机构汇报大模型的安全合规情况？
- 如何处理安全策略导致的误判率上升与用户体验下降之间的矛盾？
- 复习大模型安全知识图谱，了解最新网信办监管政策，准备1-2个主导的大型安全项目复盘案例
职位点评
薪资福利85
成长发展90
工作生活60
使命价值75
薪资福利
85较高
作为上市巨头企业的资深专家岗，薪资水平处于市场中高位，福利体系完善，稳定性强。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
90较高
身处AI大模型安全这一前沿且高速发展的领域，技术挑战性强，职业成长空间巨大。
技术前沿前沿/新兴技术
技术栈大模型安全、AIGC、RLHF、Prompt工程、Agent
业务类型profit_center
工作生活
60中等
大厂核心业务部门工作节奏较快，虽未明确提及加班，但高压力的合规与安全运营通常伴随高强度工作。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
75中等
致力于保障AI应用的内容安全与合规，具有显著的社会价值和行业责任感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs