网易
资深安全策略（AI模型）
资深安全策略（AI模型）
发布于 大约 15 小时前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
本科
产品管理
Ai安全
Nlp
Prompt工程
Sql
内容治理
多模态大模型
大模型应用
模型微调
风险策略
AI 估算 · 25k–45k
北京大厂资深策略岗，AI+安全方向人才稀缺，薪资具备竞争力，综合月薪约25-45k。
职位详情
关于这个职位
该职位负责网易云音乐AI虚拟人及AI Agent对话场景的内容安全策略设计，需要结合业务增长与合规治理双重目标，利用Prompt工程、模型微调等技术手段优化风险识别与治理效果
适合有内容安全和大模型实战经验的候选人
最低要求
：本科及以上学历，计算机、统计学等相关专业，2年及以上互联网内容安全&内容治理相关经验，有大模型/AI对话/虚拟人产品治理经验者优先
：熟练使用Python、SQL，具备独立数据分析、风险数据复盘、策略落地验证的能力，了解NLP、多模态大模型基础原理，有AI策略落地、模型效果调优实战经验
：熟悉大模型应用落地核心能力，包括Prompt工程、模型微调、多模型融合策略等，懂AI场景内容风险（生成式违规、诱导内容、价值观风险等）治理逻辑
：具备良好的业务理解力、问题拆解能力，能够结合业务场景输出落地的安全策略方案
有社区产品、社交聊天、AI虚拟人、大模型内容风控相关从业经验者优先
工作职责
：负责云音乐AI虚拟人、AI Agent对话场景的内容安全&负向治理全链路策略设计，搭建适配AI对话场景的风险治理体系，覆盖违规内容识别、风险拦截，保障AI产品内容安全合规
：深度拆解AI虚拟人业务特性、用户对话数据特征与核心风险痛点，结合业务增长与合规治理双重目标，设计可落地的AI安全解决方案
：通过Prompt工程优化、大小模型协同调度、模型微调适配等方式，提升AI对话场景违规内容识别、风险理解、智能治理的效果，持续优化业务治理流程与效率
：基于AI治理能力，反向赋能社交治理场景（社区、一起听等），通过AI智能化策略，提升整体社区治理效率和水位
优先资格
有社区产品、社交聊天、AI虚拟人、大模型内容风控相关从业经验者优先
AI 洞察
优缺点分析
优点
- 网易大厂平台，音乐业务稳定，项目资源丰富
- AI+安全属于前沿交叉领域，技术积累价值高
- 参与AI虚拟人等创新产品，紧跟行业趋势
- 需在业务增长与合规之间寻找平衡，决策复杂度高
- 技术迭代快，需要不断学习新模型和工具
- 适合有内容安全经验并希望转向AI安全方向的产品型人才，乐于解决复杂问题、拥抱技术变化
缺点 / 挑战
- 内容安全压力大，需持续应对新型违规手段，工作强度可能较高
角色解读
- 深耕AI安全策略方向，成为行业专家，主导前沿治理方案设计
- 横向拓展至社区安全治理，积累多场景策略经验
- 有机会向安全团队管理方向发展，带领团队推动治理创新
- 设计AI虚拟人对话场景的内容安全策略，包括违规内容识别与风险拦截
- 通过Prompt工程和模型微调优化AI对违规内容的识别理解能力
- 将AI治理能力应用到社区等社交场景，提升整体治理水位
- 扎实的Python和SQL数据分析能力，能独立完成风险数据复盘与策略验证
- 熟悉内容安全治理逻辑和大模型基础原理，有AI策略落地经验
- 掌握Prompt工程、模型微调、多模型融合等大模型应用技能
申请策略
- 提前了解网易云音乐的产品特点，思考AI虚拟人场景下的安全痛点
- 在简历中突出对AI安全治理的热情和持续学习能力
- 突出你在内容安全策略设计、风险治理方面的项目成果
- 详细描述你使用Prompt工程或模型微调优化安全效果的案例
- 展示数据分析能力，如SQL和Python在实际治理中的运用
- 强化大模型微调和Prompt engineering的动手实践，掌握主流框架
- 学习生成式AI特有的风险类型，如诱导输出、价值观偏移等
面试指南
- 结合业务场景分析风险点，先规则后模型，多策略融合
- 用具体案例展示技术方案（如Prompt模板、微调数据构建）和效果提升
- 如何设计AI对话场景的违规内容识别策略？
- 请举例说明你是如何通过Prompt优化提升安全治理效果的
- 如何平衡用户体验与内容合规？
- 你对生成式违规风险有哪些了解？如何治理？
- 准备2-3个AI安全项目案例，涵盖问题分析、方案设计、效果评估
- 熟悉当前主流大模型的内容安全机制，如OpenAI的Moderation API
职位点评
71
综合评分
网易北京AI安全策略岗，前沿技术栈，薪资竞争力，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、热爱前沿AI安全领域，且能接受一定工作压力的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展85
工作生活50
使命价值75
薪资福利
70中等
网易作为上市公司提供有竞争力的薪酬福利，但JD中未明确薪资和具体福利，需面试沟通。综合考虑北京市场和岗位稀缺性，薪资处于市场水准偏上。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
85较高
该岗位涉及AI虚拟人、大模型安全等前沿技术，有大量机会接触和实践Prompt工程、模型微调等核心技能，成长空间很大。
技术前沿前沿/新兴技术
技术栈大模型、Prompt工程、模型微调、NLP、多模态
业务类型ambiguous
工作生活
50较低
北京仅现场办公，未提及弹性工作或远程，且互联网大厂安全岗位通常有加班可能，WLB一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
内容安全直接关乎用户信息安全和清朗网络环境，具有积极社会影响力，且AI安全是高速增长赛道。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
网易 的其他在招职位
相似职位推荐
Watch Jobs