【LongCat大模型人才校招】大模型预训练数据算法专家

优缺点分析

角色解读

• 在数据工程领域深耕，成为大模型预训练数据方向的专家，主导数据体系建设
• 向AI Infra全栈发展，涉足训练框架、模型架构优化等方向，成为技术领导者
• 积累顶级会议发表经验后，可转型为研究科学家，或晋升为技术管理岗带领团队
• 构建从数据采集、处理到价值评估的完整预训练数据流水线，确保万亿级数据的高效利用
• 设计多维度数据质量指标，包括多样性、困惑度、有用性等，并建立数据筛选与清洗策略
• 通过消融实验和归因分析，量化不同数据源对模型能力的影响，优化数据配比以提升模型效果
• 跟踪学术界在Data Selection、Data Pruning等方向的前沿进展，将最新方法落地到实际工程中
• 深入理解大模型预训练原理，熟悉LLM的结构和训练流程，具备数据敏感度
• 掌握数据处理与分析方法，能够设计和实现大规模数据处理的分布式框架
• 具备扎实的机器学习基础，了解Scaling Law和模型评估方法论
• 有强烈的自驱力和好奇心，能够从全局视角思考数据与模型的关系

申请策略

• 美团龙猫基座大模型强调"更懂生活"，简历中可体现对业务应用的关注，展示数据与场景结合的能力
• 面试前了解美团在本地生活领域的数据优势，思考如何利用这些数据提升模型在垂直场景的效果
• 突出大模型相关项目经验，尤其是预训练数据处理、数据质量评估或数据筛选方面的实践
• 如有顶会论文（NeurIPS、ICML等）需重点展示，特别是第一作者论文
• 强调数据处理和分析能力，如处理TB/PB级数据、设计分布式数据流程等
• 展示对数据与模型关系的深入理解，可附上相关博客或开源贡献
• 系统学习大模型预训练流程，阅读LLaMA、GPT等经典论文的数据处理部分
• 实践数据清洗、去重、质量评估等常用工具和框架（如Datasketch、Spark）

面试指南

• 结构清晰：先说目标，再列方法，最后给出结论和反思
• 结合具体案例：用实际项目经验支撑观点，突出数据规模和处理流程
• 展现深度：不仅说出方法名称，还要解释原理、适用场景和局限性
• 如何评估预训练数据质量？请设计一套评估指标体系
• 你如何理解Scaling Law？在实践中如何利用它指导数据配比？
• 请介绍一个你亲身参与的预训练数据处理项目，遇到的最大挑战是什么？如何解决的？
• Data Selection和Data Pruning有哪些主流方法？各自的优缺点是什么？
• 如何通过消融实验确定某个数据源对模型下游任务的具体影响？