阿里巴巴
ATH事业群-大模型安全运营专家-杭州
ATH事业群-大模型安全运营专家-杭州
发布于 大约 10 小时前普通员工/个人贡献者
信息安全
Aigc
Llm
Prompt攻防
内容安全
多模态模型
大模型安全
监管合规
知识产权合规
风险治理
AI 估算 · 30k–50k
职位详情
关于这个职位
该职位负责阿里巴巴大模型平台的安全运营，包括平台风险治理、算法安全管控和知识产权合规
你将深入理解监管要求，制定安全方案，平衡风险与业务发展，并跟进AIGC领域的最新动态
适合有内容安全或AI安全经验的专业人士
最低要求
本科及以上学历，计算机、人工智能、信息安全、数理统计等相关专业
年以上内容安全、平台风险治理或 AI 安全领域从业经验，有完整国内外安全治理项目主导经验优先
熟悉国内外 AI 主要监管框架，能够将监管要求有效转化为可执行的平台规范和操作实践
具备大模型产品认知，理解 LLM 推理机制、Prompt 攻防及多模态模型基本工作原理
能够动手使用大模型服务做简单的应用
善于跨文化沟通与多项目并行管理，积极主动，以结果导向，心态开放，持续关注AI行业及监管动态，乐于学习提升
工作职责
平台风险治理：深入理解监管合规要求与平台业务发展节奏，结合产品实际能力与行业竞对情况，制定切实可落地的平台安全方案
并具备在业务快速迭代环境中动态调整安全策略的能力，推动安全与业务协同发展而非相互掣肘
算法安全管控：结合大模型的新能力与新风险特征，系统性设计安全管控框架，综合平衡风险召回率、用户体验、产品性能与稳定性、行业整体水位等多维目标
知识产权合规：持续跟进国内外 AIGC 领域知识产权重点案例与监管走向，开展系统性合规调研，结合平台业务场景输出具备实操性的治理判断与风险应对建议，协助平台建立主动、前瞻的知识产权合规机制
AI 洞察
优缺点分析
优点
- 大模型安全是新兴领域，技能稀缺，竞争力强
- 薪资福利优厚，有完善的发展体系
- 工作强度可能较大，需要快速响应监管变化
- 跨部门沟通多，需平衡多方利益
- 适合有安全背景、对AI感兴趣、善于沟通和解决问题的人
缺点 / 挑战
- 阿里巴巴平台大，能接触前沿AI安全挑战
角色解读
- 可向安全专家或管理岗发展，负责更大范围的安全治理
- 随着AI监管趋严，该领域人才需求增长，职业前景广阔
- 制定平台安全方案，确保业务符合监管要求，并动态调整策略
- 设计大模型安全管控框架，平衡风险、体验和性能
- 跟进AIGC知识产权案例，输出合规建议
- 熟悉AI监管框架，能将法规转化为实践
- 理解LLM原理和Prompt攻防，能动手使用大模型
- 具备内容安全或风险治理经验，项目管理能力
申请策略
- 了解阿里巴巴的业务和产品，特别是大模型相关
- 准备案例展示如何平衡安全与业务
- 突出内容安全或AI安全项目经验，尤其是主导过的项目
- 强调对监管框架的理解和转化能力
- 展示大模型应用或攻防相关技能
- 学习国内外AI法规，如生成式AI管理办法
- 动手实践大模型API，了解Prompt注入等攻击方式
面试指南
- 使用STAR法则，结合具体项目经验
- 强调数据驱动和跨部门协作
- 展示对行业动态的关注
- 如何制定一个平台安全方案？
- 如何平衡风险召回率和用户体验？
- 谈谈你对AIGC知识产权合规的理解
- 如何将监管要求转化为可执行的规范？
- 复习AI安全基础知识，如对抗样本、数据投毒
职位点评
77
综合评分
大厂前沿AI安全岗位，技术成长快，但工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长和职业发展，能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展90
工作生活50
使命价值70
薪资福利
85较高
阿里巴巴提供有竞争力的薪资和福利，但具体薪资未披露，整体补偿性较好。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
90较高
大模型安全是前沿领域，技能成长空间大，阿里巴巴提供丰富的学习资源和挑战。
技术前沿前沿/新兴技术
技术栈LLM、Prompt攻防、多模态模型、AIGC
业务类型ambiguous
工作生活
50较低
工作地点在杭州，但未提及远程或弹性工作，互联网公司通常工作强度较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
该岗位涉及安全合规，对社会有正面影响，但主要是商业驱动。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs