腾讯
微信安全-大模型安全工程师
微信安全-大模型安全工程师
发布于 大约 14 小时前普通员工/个人贡献者
广州市
中级经验
全职员工
仅现场办公
本科
信息技术与基础设施
数据分析
红队测试
内容安全
大模型安全
数据投毒
Agent安全
提示词注入
安全对齐
Aigc风险
AI 估算 · 25k–40k
腾讯大厂安全岗位，大模型安全方向稀缺且技术难度高，薪资竞争力强，结合广州互联网薪酬水平估算
职位详情
关于这个职位
作为微信安全团队的大模型安全工程师，你将专注于大模型内容安全风控策略的研发与优化，研究并防御针对大模型的安全攻击（如提示词注入、数据投毒），建设自动化红队评测体系，推动安全方案从实验到全量上线的闭环
这个职位需要你结合AI安全技术与工程化能力，保护微信生态的AI应用安全
最低要求
计算机科学、人工智能、信息安全、网络空间安全、数学等相关专业本科及以上学历
年以上互联网内容安全、AI安全或风控策略相关经验，了解AIGC相关风险（如幻觉、合规、滥用、对抗攻击等）
了解大语言模型关键技术（SFT、DPO、RAG、Agent等），有模型训练或微调经验优先
了解大模型安全攻防技术，包括提示词注入防御、安全对齐、红队测试、对抗样本等方向
具备独立完成实验验证与工程化开发的能力
具备良好的逻辑思维与数据分析能力，自驱力强，善于学习新技术，能够高效协作推动方案落地
工作职责
安全策略研发与优化：参与大模型内容安全风控策略的研发落地，负责风险识别规则的配置与调优，持续跟踪策略效果并推动迭代优化
安全技术研究与应用：研究大模型及智能体的安全风险，针对提示词注入、数据投毒等攻击手法开展分析与防御方案设计，推动研究成果在实际场景中落地
红队评测与安全评估：参与自动化红队评测体系的建设，开发安全评估工具与测试用例，对模型安全能力进行持续评估与回归测试
安全策略全链路运营：通过数据分析驱动安全策略优化，监控线上策略表现，完成策略从实验验证到灰度、全量上线的运营闭环
安全方案落地支持：参与大模型安全方案的落地实施，包括Agent调用链路安全检测、模型水印与溯源技术验证等
前沿跟踪与知识沉淀：持续关注大模型安全领域的技术动态与合规政策变化，参与技术调研与方案评估
AI 洞察
优缺点分析
优点
- 属于前沿技术方向，大模型安全需求旺盛，职业发展前景广阔
- 腾讯平台资源丰富，能接触海量真实业务场景，技术积累深厚
- 团队专注微信安全，影响力大，工作成果直接保护数亿用户
- 大模型安全领域知识更新快，需要持续学习保持技术领先
- 安全攻防对抗强度大，需要快速响应新型攻击手法
- 适合对AI安全有浓厚兴趣、具备扎实工程能力和学习自驱力的技术型人才
缺点 / 挑战
- 策略运营涉及大量数据分析，对逻辑思维和耐心要求较高
角色解读
- 在AI安全领域深耕，成为大模型安全专家，负责核心安全策略架构
- 向安全团队技术Leader发展，带领团队构建完整安全体系
- 跨领域拓展，结合AI安全与合规、隐私保护等方向，成为综合性安全专家
- 设计和优化大模型内容安全风控策略，配置风险识别规则并持续迭代
- 研究提示词注入、数据投毒等攻击手法，设计防御方案并推动落地
- 建设自动化红队评测体系，开发安全评估工具和测试用例，对模型进行持续安全评估
- 通过数据分析监控策略效果，完成从实验到全量上线的运营闭环
- 掌握大语言模型关键技术（SFT、DPO、RAG、Agent等），有模型训练或微调经验
- 熟悉大模型安全攻防技术：提示词注入防御、安全对齐、红队测试、对抗样本
- 具备工程化开发能力，能独立完成实验验证与代码实现
- 良好的逻辑思维与数据分析能力，善于学习新技术
申请策略
- 关注微信安全公众号或技术博客，了解团队技术方向，面试中展示对产品的理解
- 突出AI安全相关项目经验，如提示词注入防御、红队测试或安全对齐项目
- 展示模型训练或微调经历，尤其是SFT、DPO、RAG等技术的实际应用
- 强调数据分析驱动的策略优化案例，展示逻辑思维与工程化能力
- 系统学习大模型安全攻防知识，如Owasp LLM Top 10、红队方法论
- 动手实践开源红队工具（如Garak、PromptInject），积累测试经验
- 补充AIGC相关风险知识，了解合规政策（如生成式AI管理办法）
面试指南
- 对于防御类问题，可以采用分层防御思路：输入过滤、模型微调对齐、输出检测
- 对于测评类问题，从测试用例覆盖（攻击手法）、自动化流程、评估指标（攻击成功率、误报率）入手
- 如何检测和防御针对大模型的提示词注入攻击？请给出具体方案
- 设计一个自动化红队评测体系，你会如何构建测试用例和评估指标？
- 描述一次你通过数据分析优化风控策略的案例，如何衡量效果？
- 你对大模型安全对齐（RLHF/DPO）的理解？如何评估对齐效果？
- 如何平衡大模型的安全性与用户体验？举例说明
- 准备一个完整的红队测试项目案例，包括攻击手法、测试结果和防御改进
职位点评
71
综合评分
腾讯大厂大模型安全岗，前沿技术栈、高成长性，但WLB一般。
更适合这类人
最适合追求技术前沿和职业成长、愿意接受一定工作强度和学习挑战的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活50
使命价值70
薪资福利
75中等
腾讯大厂薪资福利有竞争力，但未在JD中明确薪资和具体福利，补偿性动机满足程度中等偏上。
薪资信号未披露（AI估算：25K-40K/月）
成长发展
90较高
大模型安全是前沿技术领域，岗位涉及研究、工程、运营全链路，成长空间巨大。
技术前沿前沿/新兴技术
技术栈大模型、AIGC、提示词注入、数据投毒、红队测试、安全对齐、Agent
成长机会持续跟踪、技术调研、方案评估
业务类型ambiguous
工作生活
50较低
JD未提及远程或弹性工作，腾讯通常要求现场办公，且安全岗位可能需要应对突发事件，WLB较难保障。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
大模型安全具有较高社会价值，保护用户免受AI风险，但岗位更偏向技术实现而非直接的社会使命驱动。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
腾讯 的其他在招职位
相似职位推荐
Watch Jobs