【LongCat大模型人才校招】基础模型 - 数据策略与数据科学

优缺点分析

角色解读

• 从数据策略工程师向数据科学家或算法研究员发展，深入数据驱动模型优化
• 可进入大模型核心团队，参与模型架构和训练全链路的决策
• 随着大模型行业发展，成为稀缺的预训练数据专家，可向技术专家或架构师方向成长
• 研究数据分布与模型能力的关系，建立数据-训练-效果的归因框架
• 设计自动化的数据质量评估、筛选、去重和污染检测方法
• 探索数据配比、课程学习等策略，提升训练效率和模型性能
• 构建数据实验闭环，推动数据策略的持续迭代
• 扎实的Python和PyTorch编程能力，能够高效实现数据处理和模型训练脚本
• 深入理解大模型训练流程，熟悉预训练数据的关键问题和处理方法
• 优秀的实验设计能力，能够提出假设并通过实验验证
• 良好的工程实现和跨团队协作能力，有相关论文或开源项目经验更佳

申请策略

• 在简历和面试中展示对数据驱动模型提升的深刻理解和创新想法
• 关注美团基础研发平台的技术报告，了解团队在原生多模态方向的积累
• 突出大模型相关的项目或研究经历，尤其是预训练数据处理、数据配比、合成数据等方向
• 强调Python和PyTorch的实际应用能力，以及在实验设计和分析方面的成果
• 如有顶会论文、开源贡献或大模型相关比赛获奖，务必显著展示
• 补充数据去重、污染检测、课程学习等预训练数据方向的经典论文和开源工具
• 加强分布式训练和数据处理框架（如DeepSpeed、Megatron）的动手能力
• 提前了解美团的业务场景和大模型应用方向，思考数据策略如何与业务结合

面试指南

• 对于数据相关的问题，建议从问题定义、现有方法、优缺点分析入手，结合实际项目经验
• 对于实验设计问题，明确假设、变量控制、评估指标和结论迭代的闭环
• 对于经验类问题，清晰描述场景、挑战、解决方案和量化成果
• 请谈谈你对预训练数据质量评估方法的理解，有哪些指标和工具？
• 如何设计实验来验证数据配比策略对模型能力的影响？
• 你如何处理预训练数据中的重复和污染问题？
• 合成数据在预训练中的有效性和局限性是什么？
• 你有在大规模集群上处理数据或训练模型的经验吗？