微信搜索-AI Infra工程师-大模型后训练与RL方向（北京）（深圳）

优缺点分析

角色解读

• 技术专家路线：深耕大模型训练框架，成为AI Infra核心贡献者
• 架构师路线：转向分布式系统架构设计，主导大规模训练集群建设
• 管理路线：带团队负责AI训练平台，走向技术管理岗位
• 设计并优化大模型后训练框架（如PPO、GRPO等），确保LLM训练高效稳定
• 开发强化学习训练系统，追踪并集成如Verl、ROLL等开源技术
• 与搜索算法团队协作，将最新大模型技术落地到AI搜索场景
• 精通Python，具备扎实的系统编程和Debug能力
• 深入理解大模型分布式训练原理，熟练使用Megatron-LM、DeepSpeed、PyTorch FSDP等框架
• 熟悉大模型后训练与对齐技术（PPO、GRPO、DPO），并有实际部署经验
• 了解最新模型结构及软硬件架构，能进行深度训练优化

申请策略

• 关注腾讯微信搜索团队的业务方向，面试中展示对AI搜索的思考
• 准备一个完整的训练优化案例，从问题分析到解决方案，展示系统性思维
• 突出大模型分布式训练项目经验，特别是使用Megatron-LM/DeepSpeed等框架的优化成果
• 强调后训练或RL相关实战经验，如PPO/GRPO的部署调优
• 展示系统编程和Debug能力，可附上复杂问题解决案例
• 补充强化学习理论知识，如PPO、GRPO、DPO的数学原理
• 实践Verl、ROLL等开源框架，熟悉其架构和部署流程
• 了解最新大模型结构（如MoE、Multi-Query Attention）对训练的影响

面试指南

• 对于技术原理问题，先阐述基本概念，再结合项目实际说明选择理由和优化经验
• 对于工程问题，按问题定位-分析-解决-验证的步骤回答
• 对于开放性设计问题，先明确需求再给出多方案对比
• 请解释PPO和GRPO的区别，你在项目中如何选择？
• 如何优化Megatron-LM中的通信效率？遇到过哪些问题？
• 描述一次你解决大模型训练中OOM或性能瓶颈的经历
• Verl框架的架构是怎样的？如何与Deepspeed集成？
• 如何评估后训练效果？常用的对齐指标有哪些？