美团
大模型服务安全策略专家
大模型服务安全策略专家
发布于 1 天前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
本科
合规
多模态
红队测试
内容安全
政策解读
大模型安全
风控策略
Aigc安全
安全评测
Prompt攻击检测
AI 估算 · 30k–50k
AI安全专家稀缺，美团大厂平台，5年以上经验，薪资竞争力强，月薪3-5万合理。
职位详情
关于这个职位
该职位负责美团大模型服务的内容安全与合规，包括跟踪政策、设计风控策略、进行安全评测，确保大模型产品符合法律法规
你将与多团队协作，从0到1搭建安全防护体系，适合对AI安全有热情的技术专家
最低要求
）本科以上学历，5年以上运营经验，有大模型内容安全相关行业、产品运营经历、数据处理分析能力的经验优先
）对风险理解较深，对行业保持关注和洞见，能够敏锐的把握政策及风险的动态变化
）熟悉大模型产品，熟悉大模型安全评测框架（如红队测试、安全基准测试）、了解Prompt Engineering及常见攻击向量，具备与产研技术团队沟通协调的能力
）优秀的逻辑思维能力与数据敏感性，思路开阔，有创新的想法，能持续学习
）具备良好的职业道德，认真负责，主动担当
工作职责
)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询
)基于语言类、多模态类大模型风险防控要求，运用Prompt攻击检测和大模型输出安全评测工具，量化风控效果
在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡
)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地
)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量
)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求
)风险发生时快速响应，协同产品技术团队，推动安全问题解决
AI 洞察
优缺点分析
优点
- 站在AI安全前沿，参与大模型安全防护从0到1搭建，技术视野广阔
- 美团平台提供高并发、多业务复杂场景，实战经验极具价值
- 公司已上市，岗位重要且受重视，职业稳定性高
- 大模型安全领域发展迅速，需要持续学习最新攻击和防御技术
- 适合对AI安全有浓厚兴趣、具备风控或内容安全背景、喜欢解决复杂问题并推动落地的技术型人才
缺点 / 挑战
- 跨部门协作要求高，需平衡安全与业务体验，沟通压力较大
- 风险发生时需快速响应，可能面临紧急事件处理压力
角色解读
- 从0到1搭建安全体系，成为大模型安全领域专家，可向安全架构师或安全负责人发展
- 积累跨业务视角，未来可转向AI治理、合规总监或产品安全负责人
- 在美团多业务场景下，有丰富的技术挑战和晋升机会
- 跟踪大模型风控趋势，输出政策解读和合规方案，为公司大模型内容提供合规咨询
- 运用Prompt攻击检测和安全评测工具，量化大模型内容安全风险，设计并落地风控策略
- 与业务、法律、内容安全等多团队协作，确保大模型产品合规，并在风险发生时快速响应
- 熟悉大模型安全评测框架和Prompt Engineering，了解常见攻击向量
- 具备数据分析能力，能通过数据优化安全策略
- 优秀的沟通协调能力，能与产研、法务等多方高效合作
申请策略
- 在面试中展示对AI安全趋势的独到见解，并准备一个从0到1设计安全策略的案例
- 了解美团业务生态，思考不同业务线（外卖、到店、出行等）的大模型安全需求差异
- 突出大模型安全相关项目经验，如红队测试、安全评测平台搭建
- 强调数据分析能力，展示通过数据优化风控策略的案例
- 体现跨团队协作成果，特别是与法务、产品、技术等多方合作完成合规方案的经历
- 深入学习Prompt Engineering和常见攻击向量，如越狱攻击、提示注入
- 了解AIGC内容安全法规，如《生成式人工智能服务管理暂行办法》
- 熟悉大模型安全评估工具，如LangChain安全评估、NeMo Guardrails等
面试指南
- 针对风险评估问题，可以采用“威胁建模-风险识别-策略设计-效果评估”的框架
- 对于安全事件响应，可按照“检测-分析-抑制-根因-复测”的流程展开
- 在平衡安全与体验时，强调通过A/B测试和数据反馈迭代优化策略
- 你如何评估一个大模型服务的安全风险？请描述你的方法论
- 请举例说明你曾经设计并落地过的一个大模型安全策略
- 如果发现大模型产生了不合规内容，你会如何快速响应？
- 你如何看待当前大模型安全领域的主要挑战和趋势？
- 如何平衡大模型的安全性与用户体验？
匹配度报告
74
综合匹配度
大厂AI安全专家岗，前沿技术栈，高成长性，但可能需要应对高强度响应和加班。
适合人群
最适合追求前沿技术成长和职业发展机会，对薪资和工作稳定性有较高期望，能接受一定工作压力的求职者。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利80
成长发展90
工作生活50
使命价值75
薪资福利匹配
80较高
美团作为已上市巨头，薪资福利有竞争力，JD虽未明确数字但行业水平较高，稳定性强。
薪资信号未披露（AI估算：30K-50K/月）
成长发展匹配
90较高
大模型安全是前沿领域，参与从0到1搭建安全体系，技能成长空间巨大。
技术前沿前沿/新兴技术
技术栈大模型、Prompt攻击检测、AIGC、多模态、红队测试、安全评测
成长机会从0到1搭建
业务类型ambiguous
工作生活匹配
50较低
JD未提及弹性办公或WLB，作为大厂安全岗可能面临较强响应压力，工作生活平衡一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值匹配
75中等
大模型安全关乎合规与用户信任，具有正向社会价值，但JD未直接提及使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs