小米
AI安全策略产品专家
AI安全策略产品专家
发布于 大约 15 小时前普通员工/个人贡献者
武汉市 / 北京市
专家级经验
全职员工
仅现场办公
本科
AI产品经理
Ai Agent
Aigc
Ai安全
Dpo
Rlhf
内容安全
多模态
大模型
小爱同学
AI 估算 · 40k–70k
职位详情
关于这个职位
这是一个负责小米AIGC业务（特别是小爱同学）安全策略的产品专家岗位
你将主导从模型安全评估、安全对齐到内容审核策略的全链路安全体系搭建，并推动自研安全模型的产品化落地
该岗位需要深厚的大模型安全知识、策略制定经验和跨团队协同能力，是AI安全领域的关键角色
最低要求
学历：本科及以上，计算机科学、信息安全、人工智能等相关专业优先
经验：5年以上内容安全/AI安全/策略产品相关经验，有大模型或AIGC安全领域经验者，特别是车载/IoT端侧大模型、跨境多语言内容安全合规经验、安全大模型（Llama Guard、ShieldGemma等）评测或适配经验优先
基模安全能力：熟悉LLM安全风险体系（有害内容、Prompt注入、越狱、数据泄露、幻觉等），有基座模型安全评测与Safety Alignment实际经验
安全策略能力：具备内容审核策略制定与迭代经验，能基于数据分析驱动优化
熟悉安全分类/标签体系设计，有多语言/多模态场景经验者优先
安全模型与对齐能力：有自研安全模型的策略设计经验，理解ML/DL基本原理
了解RLHF/DPO等对齐方法论，有安全数据飞轮建设经验者优先
新兴安全能力：了解AI Agent安全风险（Tool调用、多Agent协作、行为边界等）
熟悉多模态生成安全（文生图/视频安全边界、多模态幻觉检测等）
综合素质：逻辑分析与数据驱动思维强，善于从复杂问题中抽象可落地方案
跨团队沟通协调能力好，英语读写良好
工作职责
安全策略体系搭建：负责小米内部AIGC生成业务特别是小爱同学业务的安全策略产品规划，建立覆盖输入-生成-输出全链路的安全防控体系，持续迭代审核标准与策略规则
基座模型安全治理：参与基座大模型安全评估与对齐工作，包括安全评测体系设计、Red Teaming、安全边界定义，推动模型安全能力提升
安全价值观对齐：主导安全价值观对齐工作，制定安全偏好标准，协同算法团队完成RLHF/DPO对齐训练的数据标注规范与效果评估
安全模型自研落地：主导安全侧自研模型的策略规划与产品化落地，包括内容安全分类、Prompt注入防御、幻觉检测等模型，推动从0到1建设
多模态与Agent安全：覆盖文本/图像/视频/音频全模态安全策略，制定AI Agent行为边界策略与Tool调用安全规范，防范新型安全风险
安全风险运营闭环：搭建风险发现→研判→刻画→标准执行完整运营机制，基于数据驱动与badcase分析持续迭代策略
跨团队协同与合规：与算法、工程、法务、合规等团队协作推动策略落地，跟踪国内外AIGC安全法规与前沿动态，确保业务合规
AI 洞察
优缺点分析
优点
- 处于AI安全前沿领域，能接触到最先进的大模型安全技术，个人技能成长快
- 小米平台大，业务场景丰富，能积累多模态、多语言、端侧大模型等宝贵实战经验
- 岗位重要性高，负责核心业务的安全保障，在公司内话语权高，职业发展空间大
- AI安全领域技术迭代快，需要持续学习，保持技术敏感度
- 跨团队协同复杂，需要与算法、工程、法务等多方沟通，对协调能力要求高
- 适合对AI安全有深厚热情，具备大模型安全实战经验，且善于在复杂环境中推动策略落地的资深产品专家
缺点 / 挑战
- 安全对抗是动态过程，需要应对不断出现的新型攻击手段，工作压力较大
角色解读
- 可以成长为AI安全领域的资深专家，主导公司级安全战略规划
- 有机会向技术管理方向发展，带领安全策略团队
- 随着AIGC和AI Agent的普及，该领域人才稀缺，职业前景广阔
- 负责小爱同学等AIGC业务的安全策略体系规划，构建从输入到输出的全链路安全防控机制
- 参与基座大模型的安全评估与对齐，设计评测体系，进行Red Teaming，定义安全边界
- 主导自研安全模型的产品化落地，如内容安全分类、Prompt注入防御、幻觉检测等
- 制定AI Agent的安全行为边界和Tool调用规范，并跟踪国内外AIGC安全法规，确保业务合规
- 需要5年以上内容安全或AI安全策略经验，深刻理解LLM安全风险体系
- 熟悉RLHF/DPO等对齐方法论，有安全数据飞轮建设经验者优先
- 具备强大的逻辑分析和数据驱动思维，能基于badcase分析持续优化策略
- 优秀的跨团队沟通协调能力，能与算法、工程、法务等团队高效协作
申请策略
- 在简历中明确写出你对AI安全领域的独特见解和职业规划，体现专业深度
- 可以提前了解小米小爱同学的业务特点，思考其可能面临的安全挑战，并在面试中提出见解
- 重点突出在AI安全领域的项目经验，特别是大模型安全评测、对齐或安全策略制定的实际案例
- 强调数据驱动策略优化的成果，例如通过badcase分析提升了安全拦截率等量化指标
- 展示对LLM安全风险体系、RLHF/DPO等技术的深入理解，以及自研安全模型的产品化经验
- 突出跨团队协作和推动复杂项目落地的能力，以及英语读写能力
- 系统梳理LLM安全知识体系，包括Prompt注入、越狱、幻觉等风险及防御方案
- 了解AI Agent安全、多模态内容安全等新兴领域，并思考其产品化落地方案
面试指南
- 对于策略设计类问题，可以采用'目标-框架-细节'的结构，先明确安全目标，再提出整体框架，最后阐述具体细节和评估方法
- 对于案例分析类问题，采用STAR法则（情境-任务-行动-结果），清晰展示你如何发现问题、制定策略、推动落地并量化成果
- 对于技术理解类问题，先阐述核心概念，再结合具体业务场景说明其应用和挑战
- 如何设计一个针对大模型生成内容的安全评测体系？
- 请描述一次你通过数据驱动优化内容安全策略的案例
- 如何定义和防范AI Agent的越权行为？
- 谈谈你对RLHF和DPO在安全对齐上的理解与区别
- 如何平衡安全策略的严格性与用户体验？
职位点评
79
综合评分
前沿技术、核心岗位、发展空间大，但工作强度可能较高，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
该职位最适合追求前沿技术挑战、渴望在AI安全领域深耕、看重职业发展空间的产品专家。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展95
工作生活50
使命价值85
薪资福利
80较高
小米作为上市大厂，薪资福利具有竞争力，但具体薪酬结构需面议，稳定性高。
薪资信号面议 (40K-70K/月)
成长发展
95较高
该岗位处于AI安全前沿，技术含量高，涉及大模型、多模态、AI Agent等新兴领域，个人成长空间巨大。
技术前沿前沿/新兴技术
技术栈LLM、AIGC、RLHF、DPO、Red Teaming、AI Agent、多模态
业务类型profit_center
工作生活
50较低
职位要求现场办公，且未提及弹性工作，工作地点在武汉或北京，通勤情况需视具体位置而定。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
该岗位负责保障AIGC业务的安全合规，对推动AI技术健康发展有积极意义，行业前景广阔。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs