微信安全-大模型安全工程师

优缺点分析

角色解读

• 在AI安全领域深耕，成为大模型安全专家或技术负责人
• 横向拓展到整个微信生态的安全架构设计，或转向AI算法与安全结合的方向
• 积累红队评测和风控策略经验，未来可向安全团队管理岗发展
• 负责大模型内容安全策略的研发与持续优化，配置风险识别规则并跟踪效果
• 研究提示词注入、数据投毒等攻击手法，设计防御方案并推动落地
• 参与自动化红队评测体系建设，开发评估工具和测试用例
• 通过数据分析监控策略表现，完成从实验验证到全量上线的运营闭环
• 扎实的AI安全知识，熟悉大模型安全攻防技术（提示词注入、红队测试等）
• 掌握大语言模型关键技术（SFT、DPO、RAG、Agent等），有模型训练或微调经验优先
• 具备数据分析能力，能通过数据驱动策略优化
• 良好的工程化开发能力，能独立完成实验验证与落地

申请策略

• 在简历和面试中强调对微信业务安全的理解，以及如何应对实际风险场景
• 关注腾讯安全团队的技术博客或公开分享，了解团队技术方向和文化
• 突出大模型安全相关项目经验，如红队测试、对抗样本防御、提示词注入检测等
• 强调模型训练或微调经验（SFT、RLHF等），以及实际落地效果
• 展示数据分析能力，例如通过数据驱动策略优化的案例
• 若有发表安全相关论文或参与安全竞赛经历，务必列出
• 深入学习大模型安全攻防技术，如提示词注入、数据投毒、模型窃取等
• 熟悉至少一种深度学习框架（PyTorch/TF），并动手实践模型微调

面试指南

• 采用STAR法则（情境-任务-行动-结果）清晰描述项目经历
• 对于安全技术问题，先定义问题边界，再分步骤给出方案（检测-防御-验证）
• 结合实际业务场景，说明方案的可落地性和权衡
• 请描述你过去参与的AI安全项目，遇到的最大挑战是什么？如何解决的？
• 如何防御大模型提示词注入攻击？请给出具体方案和评估指标
• 解释一下SFT、RLHF和DPO的区别，在安全对齐中如何应用？
• 你如何设计一个自动化红队评测系统？需要考虑哪些维度？
• 面对新型数据投毒攻击，你会如何检测和防御？