【提前批-大模型】LLM预训练数据算法研究员（Agentic Models）

优缺点分析

角色解读

• 可向大模型算法专家或技术负责人方向发展，主导预训练数据策略
• 积累Agent、Reasoning等前沿领域经验，成为AI领域稀缺人才
• 在米哈游内部有机会接触游戏AI、多模态等扩展方向
• 设计和生成合成数据，用于训练大模型在代码、数学、推理等场景的表现
• 构建和优化数据合成流程，规模化生产高质量训练数据
• 搭建Agent任务环境和评测体系，评估模型在智能体场景下的能力
• 精通Python编程，具备扎实的工程能力以搭建数据管道
• 深入理解大模型训练全流程（预训练、中段训练、后训练）
• 有Agent模型训练和评测的实际经验，熟悉推理、代码等任务设计

申请策略

• 了解米哈游在AI方面的布局（如《崩坏：星穹铁道》的AI应用），在面试中展现对业务结合的理解
• 突出在大模型数据研发、合成数据或Agent训练方面的项目经验
• 展示你主导或参与的数据流程、评测体系的设计成果
• 强调Python编程能力，附上GitHub或相关代码仓库
• 深入理解SFT、RLHF等后训练技术，以及数据质量对模型的影响
• 学习常见的Agent框架（如ReAct、AutoGPT）和评测方法
• 阅读最新LLM预训练数据处理论文，提升对数据分布的理解

面试指南

• 对于流程设计题，可按照“需求分析-方案设计-实现细节-效果评估”的结构回答，突出关键决策和权衡
• 对于观点题，结合前沿论文和实际经验，展现思考深度，同时承认不确定性
• 请描述你设计过的一个合成数据生成流程，包括数据来源、过滤策略和效果验证
• 如何评估预训练数据质量？有哪些指标和方法？
• 你如何构建一个Agent评测环境？请举例说明
• 谈谈你对Agentic Models和Reasoning模型未来发展的看法
• 如果让你优化一个推理任务的训练数据，你会怎么做？
• 复习大模型训练流程，特别是数据侧的处理方法（如去重、质量过滤、合成数据）