千问事业部-安全大模型算法专家-LLM方向

优缺点分析

角色解读

• 在AI安全方向深耕，成为大模型安全领域的专家，可向技术专家或架构师方向发展
• 横向拓展至整个LLM生命周期管理，包括数据处理、模型训练、部署监控，成为全栈AI安全负责人
• 在阿里巴巴平台上有机会跨团队协作，积累大规模业务场景经验，向管理或技术双通道晋升
• 构建大模型内容安全防控体系，包括风险识别、越狱检测、安全代答等能力，保障业务与模型应用安全
• 参与审核模型的post-training，使用SFT/DPO/GRPO等技术提升模型对风险内容的细粒度识别能力
• 搭建应急响应机制，实现分钟/小时级闭环处理新增风险，并自动化迭代流程（数据生成、评估、训练、攻击测试）
• 扎实的LLM后训练经验，熟悉SFT/DPO/GRPO等微调方法，以及Chain-of-Thought、LLM蒸馏等落地技术
• 熟悉RAG、Agent等LLM应用方法，能够解决复杂场景下的安全问题
• 具备内容安全或大模型安全领域经验，Understanding of adversarial attacks and defense mechanisms

申请策略

• 在简历中详细描述一个完整的大模型安全项目，展示从问题定义到方案落地的全过程
• 了解阿里巴巴千问的业务动态和安全挑战，在面试中提出有针对性的见解
• 突出LLM后训练项目经验，特别是SFT/DPO/GRPO实际案例，量化安全效果提升
• 展示内容安全或对抗性攻防相关项目，体现对安全风险的理解
• 强调发表论文或竞赛成绩，增强学术背书
• 系统学习LLM后训练方法，动手实践微调开源模型，掌握DPO/GRPO等算法细节
• 关注大模型安全前沿论文与工具，熟悉常见的红队攻击与防御策略
• 补充Agent和RAG知识，理解其在安全场景中的应用

面试指南

• 采用STAR法则：情境-任务-行动-结果，强调具体的技术细节和量化成果
• 对于系统设计问题，先明确安全目标，再拆解模块（数据、模型、护栏），最后说明工程落地
• 对于趋势题，结合自身经验和行业动态，给出有观点的答案，体现深度思考
• 请介绍你在LLM后训练方面最成功的项目，如何通过SFT/DPO/GRPO提升模型安全能力？
• 如何设计一个识别越狱攻击的检测系统？请描述整体架构和技术选型
• 遇到突发安全事件（如大规模不良内容生成）时，你如何快速响应和处置？
• 如何平衡大模型的安全性和用户体验？请举例说明
• 你如何看待大模型安全未来的技术趋势和挑战？