阿里巴巴
超大规模训练关键技术-阿里星/A Star
超大规模训练关键技术-阿里星/A Star
发布于 不到 1 分钟内普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Gpu优化
Megatron
Moe
Pytorch
分布式训练
显存优化
高性能计算
Flashmoe
值不值得投
77综合评分
综合评分 77
顶尖技术岗位，前沿技术栈，高薪高成长，但工作强度大，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
55K
与机器学习工程中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1730 个在招 · 其中机器学习工程 约 150 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 270 个在招
职位详情
关于这个职位
该职位是阿里巴巴的超大规模训练关键技术岗位，专注于MoE模型的分布式训练优化，包括Expert并行通信、显存优化和异构硬件性能调优
你将参与FlashMoE等框架的优化，支撑万卡级训练场景，并推动学术影响力
适合对分布式系统和深度学习有深入研究的资深工程师
最低要求
熟悉深度学习基本原理、主流深度学习算法及应用、以及至少一种主流框架(PyTorch、TensorFlow等)
熟悉Megatron、TrasformerEngine、DualPipe等框架技术，并在研究或实习项目中有相应的实践经历
具备扎实的计算机基础知识、C++/Python编程能力，熟悉常见数据结构和设计模式
具有很强的学习能力、复杂问题归纳梳理能力、沟通和团队协作能力，具备能够深度钻研技术的耐心
工作职责
参与FlashMoE等分布式训练框架的优化,重点攻关MoE模型的Expert并行通信优化、负载动态均衡和稀疏激活下的高效训练
负责显存优化技术创新(激活重计算、梯度检查点、ZeRO变体),支持万亿参数MoE模型在有限显存下的稳定训练
探索多种异构硬件设备(A100/H100/H800/PPU)上的训练性能优化,通过算子融合、通信重叠、显存管理等手段提升MFU
支撑集团内部或云上客户万卡级MoE模型训练场景,将技术成果沉淀为PAI-DLC训练平台核心特性
推动超大规模训练优化方向的学术影响力产出
优先资格
有很强的学术研究能力和优秀的学术成果(AI领域顶会/顶刊论文)
熟悉体系结构，并有扎实的高性能计算/AI编译器/推理框架/模型优化经验
作为核心贡献者参与开发或者负责维护AI领域的流行开源项目
AI 洞察
优缺点分析
优点
- 阿里巴巴平台资源丰富，有万卡级集群和顶尖团队支持
- 阿里星项目提供高薪资和快速晋升通道，职业前景广阔
- 有机会发表学术论文，提升个人影响力
- 技术难度极高，需要深厚的分布式系统和深度学习知识
- 工作强度大，可能面临长时间加班和高压环境
- 竞争激烈，需要持续学习新技术，保持领先
缺点 / 挑战
- 参与前沿技术研究，接触万亿参数模型训练，技术挑战大，成长快
- 适合对分布式训练有浓厚兴趣、具备扎实技术基础、渴望挑战技术难题的资深工程师或研究员
角色解读
- 成为分布式训练领域的专家，主导超大规模模型训练优化
- 晋升为技术专家或架构师，负责核心训练框架的设计与演进
- 有机会发表顶会论文，提升学术影响力，或转向技术管理岗位
- 优化分布式训练框架，如FlashMoE，专注于MoE模型的通信和负载均衡
- 实现显存优化技术，如激活重计算和ZeRO变体，支持万亿参数模型训练
- 在多种GPU硬件上调优性能，通过算子融合和通信重叠提升MFU
- 支撑万卡级训练场景，并将技术沉淀到PAI-DLC平台
- 精通深度学习框架（PyTorch/TensorFlow）和分布式训练原理
- 熟悉Megatron、TransformerEngine等框架，有实际项目经验
- 扎实的C++/Python编程能力，熟悉数据结构和设计模式
- 具备高性能计算、AI编译器或模型优化经验者优先
申请策略
- 了解阿里巴巴PAI平台和FlashMoE项目，展示对业务的理解
- 准备技术深度面试，可能涉及系统设计、算法原理和实际案例
- 突出分布式训练项目经验，如使用Megatron或自研框架优化MoE模型
- 强调C++/Python编程能力，展示高性能计算或GPU优化成果
- 如有顶会论文或开源项目贡献，务必重点提及
- 量化成果，如提升MFU百分比、支持模型参数规模等
- 深入学习Megatron、TransformerEngine源码，理解其设计
- 熟悉GPU架构和CUDA编程，掌握算子融合和通信优化技巧
面试指南
- 结合项目经验，用STAR法则描述问题、行动和结果
- 展示对底层原理的理解，如通信拓扑、显存管理
- 强调数据驱动的优化方法，如性能分析工具和实验对比
- 请描述你在分布式训练中如何优化MoE模型的通信瓶颈？
- 解释ZeRO-Offload的原理，并说明如何应用于万亿参数模型？
- 如何设计一个高效的All-to-All通信方案？
- 你如何评估和提升MFU？请举例说明
- 谈谈你对FlashMoE的理解，以及如何改进？
职位点评
薪资福利85
成长发展95
工作生活40
使命价值80
薪资福利
85较高
该职位薪资水平高，阿里星项目提供有竞争力的薪酬和福利，但具体薪资未在JD中披露。
薪资信号未披露（AI估算：40K-70K/月）
成长发展
95较高
职位涉及前沿技术，如MoE和万亿参数训练，技术挑战大，成长空间广阔，且有学术影响力产出要求。
技术前沿前沿/新兴技术
技术栈FlashMoE、MoE、Megatron、ZeRO、分布式训练、GPU优化
成长机会学术影响力产出
业务类型profit_center
工作生活
40较低
工作地点在杭州，需现场办公，未提及弹性工作，互联网大厂通常工作强度大，WLB可能一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI训练优化是热门领域，对推动大模型发展有重要意义，社会价值较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs