LLM Posttrain研究员

优缺点分析

角色解读

• 技术方向：成长为LLM领域专家，主导核心算法研发
• 管理方向：带领团队负责大模型后训练或相关研究方向
• 产品方向：结合业务需求，将技术成果转化为实际产品功能
• 探索并应用RLHF/RLAIF等后训练方法，优化大语言模型的拟人化和创意表现
• 参与预研项目，与产品、策划、工程团队协作，设计算法解决方案并推动交付
• 构建数据处理与评估流程，包括数据清洗、合成、混合以及模型能力边界分析
• 扎实的机器学习/NLP基础，熟悉Transformer架构和大语言模型训练
• 精通PyTorch等深度学习框架，具备良好的代码能力
• 具备分布式训练经验，了解性能调优和资源管理
• 良好的沟通协作能力，能跨团队推动技术落地

申请策略

• 深入了解米哈游的游戏和AI产品，思考LLM在其中的应用场景
• 准备一个技术提案，展示你对后训练方法的独特见解
• 突出LLM相关项目经验，特别是RLHF、数据合成、模型评估等
• 强调顶会论文、竞赛获奖或开源贡献
• 展示分布式训练和大规模模型训练经历
• 描述跨团队协作和技术落地的实际案例
• 系统学习RLHF/RLAIF原理，阅读相关论文并尝试复现
• 熟悉数据合成和清洗工具，如MassiveText、datasets库

面试指南

• 对于技术问题，先阐明核心概念，再结合自身经验举例，最后总结关键点
• 对于设计类问题，遵循“目标-方案-评估”三步法，给出多方案比较
• 对于经验问题，使用STAR法则（情境、任务、行动、结果）结构化回答
• 请详细解释RLHF的流程和关键挑战
• 如果给一个预训练模型，你如何设计post-training方案来提升角色扮演能力？
• 描述你处理过大模型训练数据的一个案例，包括数据清洗和混合策略
• 你如何评估生成模型的拟人化和趣味性？设计一个评估指标
• 在大规模分布式训练中，你遇到过哪些性能瓶颈？如何调优？