中国移动
算法开发岗（语言模型·训练策略）-金种子（北京）
算法开发岗（语言模型·训练策略）-金种子（北京）
发布于 3 天前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Deepspeed
Megatron-Lm
Pytorch
分布式训练
大模型训练
数据工程
知识蒸馏
课程学习
值不值得投
70综合评分
综合评分 70
央企AI研发岗，技术前沿、成长性好，但WLB可能一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
43K
比机器学习工程中位数低
发布情况
新岗位 · 3 天前发布
公司情况
这家公司招聘很活跃
约 110 个在招 · 其中机器学习工程 2 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 410 个在招
职位详情
关于这个职位
该职位负责大语言模型的训练策略研究与算法开发，涉及跨领域数据配比、课程学习、自蒸馏等方向，旨在提升模型性能、解决训练中的问题，并推动研究成果在实际场景中落地应用
最低要求
博士学历，计算机、人工智能、机器学习、应用数学、自然语言处理等相关专业
扎实深度学习与优化理论基础，深入理解 Transformer 架构，精通大模型预训练、后训练完整流程
熟练使用 Python 与 PyTorch，了解 TensorFlow，掌握 Megatron-LM、DeepSpeed、FSDP 等分布式训练框架，具备多机多卡调优经验
熟悉各类知识蒸馏范式，掌握自蒸馏、多教师蒸馏等前沿方向
精通数据混合、课程学习、动态采样、数据质量评估相关方法
具备大规模预训练数据 Pipeline 搭建经验，熟练开展多领域语料清洗、去重、分类与配比调优
具备端到端工程落地能力，能够独立完成算法设计、实验验证，可通过 loss、梯度、评测指标诊断训练瓶颈
具备良好问题解决、团队协作与跨部门沟通能力
工作职责
研究跨领域（代码、数学、科学、多语言等）数据分布特性，设计数据混合配比、课程学习、动态采样策略，缓解能力跷跷板、灾难性遗忘等问题
搭建“数据配比→能力画像”可解释框架，实现模型能力精细化调控，开展数据采集、清洗、配比相关实验，保障训练数据质量
开展自蒸馏与模型自演进方向研究，基于模型不同训练阶段、多粒度表征构建蒸馏信号，搭建无标注自监督蒸馏流水线，探索模型自我迭代增强的可持续演进方案
设计并优化大模型相关算法，开发适配海量数据的训练与推理方案，持续提升模型实际场景效果
跟踪大模型训练策略、知识蒸馏、数据工程前沿方法，完成论文复现、算法验证与创新落地
持续跟进 MiniLLM、DataComp、DoReMi 等领域前沿成果，探索原创训练与蒸馏范式，推动研究成果落地，配合跨部门开展协同研发工作
优先资格
在 NeurIPS、ICML、ICLR、ACL 等顶会发表训练策略 / 知识蒸馏 / 数据工程相关论文、参与千亿级模型训练蒸馏项目、拥有知名开源项目贡献者优先
AI 洞察
优缺点分析
优点
- 直接参与大语言模型前沿研究，技术含量高，成长空间大
- 公司平台大，资源丰富，有利于开展大规模实验和项目落地
- 团队专注AI领域，技术氛围浓厚，可与优秀同事合作
- 研究成果可能产生行业影响力，推动技术发展
- 博士学历和高技能要求，入职门槛高，竞争激烈
- 适合拥有博士学位、深厚AI研究背景、热衷于大模型技术创新、并具备较强工程能力的求职者
缺点 / 挑战
- 大模型训练涉及复杂工程问题，需要解决技术挑战
- 工作强度可能较高，需跟进前沿研究并快速迭代
角色解读
- 成为大模型训练领域的专家，推动技术突破和产品落地
- 可能转向技术管理或研究领导角色，带领团队开展前沿研究
- 通过发表顶会论文和参与重大项目，提升个人影响力
- 研究跨领域数据分布特性，设计数据混合配比和课程学习策略，解决模型训练中的问题
- 开展自蒸馏与模型自演进研究，构建蒸馏信号，搭建自监督蒸馏流水线
- 设计和优化大模型算法，开发训练与推理方案，提升模型实际效果
- 跟踪前沿成果，复现论文，推动算法创新落地
- 扎实的深度学习理论基础，精通Transformer架构和大模型预训练流程
- 熟练使用Python、PyTorch，掌握分布式训练框架如Megatron-LM、DeepSpeed
- 熟悉知识蒸馏范式和数据工程方法
- 具备端到端工程落地能力和团队协作沟通能力
申请策略
- 研究中国移动在AI领域的布局和九天大模型的具体应用
- 准备好展示算法设计思维和实验验证过程的案例
- 突出博士研究期间在训练策略、知识蒸馏或数据工程方面的成果
- 列举使用PyTorch、分布式框架进行大模型训练的项目经验
- 展示在顶会发表的论文或参与的大型AI项目
- 强调解决复杂技术问题的能力和团队协作经历
- 深入学习最新大模型训练技术，如MiniLLM、DataComp等
- 练习分布式训练框架的实际操作，提升多机多卡调优技能
面试指南
- 使用STAR法则（情境、任务、行动、结果）描述项目经验
- 结合理论基础和实践经验，展示对技术原理的深入理解
- 强调问题解决思路和工程实现能力
- 请描述你过去在大模型训练中的经验，如何解决数据配比或训练稳定性问题？
- 你对自蒸馏和模型自演进有什么理解？能否举例说明？
- 如何诊断大模型训练中的瓶颈，如loss震荡或梯度问题？
- 你如何跟进和复现前沿论文如DataComp或DoReMi？
- 如何与跨部门团队协作推动研究成果落地？
职位点评
薪资福利65
成长发展85
工作生活50
使命价值80
薪资福利
65中等
职位未明确薪资和福利信息，但作为大型企业岗位，可能提供标准福利包。
薪资信号未披露（AI估算：35K-50K/月）
成长发展
85较高
职位涉及大模型前沿研究，技术挑战性强，有利于技能深度发展。
技术前沿前沿/新兴技术
技术栈大模型、Transformer、知识蒸馏、分布式训练、数据工程
业务类型profit_center
工作生活
50较低
职位未提及工作模式和WLB，工作强度可能较高。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
大模型研发是AI领域热点，具有较高社会价值和行业前景。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs