
阿里巴巴
千问Qwen基础大模型训练调度与框架协同优化-阿里星
千问Qwen基础大模型训练调度与框架协同优化-阿里星
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai Infra
Deepspeed
Gpu调度
Megatron-Lm
Pytorch
分布式系统
高性能计算
值不值得投
82综合评分
综合评分 82
顶尖大厂核心AI Infra岗位,高薪高成长,技术挑战极大,WLB一般
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4680 个在招 · 其中AI算法 44 个
市场机会
选择适中
杭州 · AI算法 · 43 个在招
职位详情
关于这个职位
负责千问Qwen大模型训练的基础设施研发,设计智能调度系统与训练框架深度协同,优化集群资源利用率与训练稳定性
核心工作包括构建高可用弹性运行机制、全链路监控诊断以及支持PyTorch/Megatron等主流框架在Kubernetes环境下的高效运行,解决万卡级训练中的故障恢复与性能瓶颈问题
最低要求
具备扎实的计算机基础知识和分布式系统研发经验,C++/Python编程能力强,对操作系统原理、计算机网络、分布式一致性等系统领域知识有较好的理解和项目应用经验
熟悉深度学习基本原理和主流深度学习框架(PyTorch),了解分布式训练的基本并行策略(DP/TP/PP/EP)和通信原语(NCCL、AllReduce、P2P)
熟悉Megatron-LM、DeepSpeed、TransformerEngine、DualPipe等训练框架技术,并在研究或实习项目中有相应的实践经历
具有很强的学习能力、复杂问题归纳梳理能力,沟通和团队协作能力,具备能够深度钻研技术的耐心
工作职责
设计和开发面向大规模模型训练的任务智能调度系统,实现调度器与训练框架的深度协同,使资源分配能够感知并行策略拓扑、通信模式和显存需求,提升集群级训练效率和资源利用率
负责大模型训练引擎与运行时系统的核心架构设计与研发,支持 PyTorch、Megatron-LM、DeepSpeed、FSDP、MoE 等主流训练框架在 Kubernetes 环境下的高性能运行
建设统一的训练任务生命周期管理、分布式启动、资源隔离与训练编排能力,支撑大规模预训练、SFT 与 RL 等场景
研究和实现面向超大规模卡级大模型训练的高可用与弹性运行机制,构建支持节点故障感知、训练任务自动恢复、弹性扩缩容及并行拓扑动态重构的训练体系
优化分布式 checkpoint、故障恢复与重调度链路,降低大规模训练中的中断、重启与资源等待开销,提升长周期训练任务的稳定性、资源可用性与整体 Goodput
研究和实现面向大规模训练任务的智能诊断与自动容错能力,建设覆盖 GPU、网络、NCCL、存储及训练框架的全链路监控与异常检测机制
支持断点续训、Pod 级快速拉起、节点自愈、训练任务局部恢复与动态降级,缩短故障定位与恢复时间,降低因异常导致的训练 Badput 与有效算力损耗
探索前沿技术,对平台演进中的技术需求(如多阶段训练流水线编排、训练-推理混合调度、异构集群适配等)进行预研和设计
优先资格
有很强的学术研究能力和优秀的学术成果(分布式系统/AI系统/高性能计算领域顶会/顶刊论文)
熟悉集群调度系统(Kubernetes、YARN、自研调度器)的设计与实现
有万卡级大模型训练实战经验,了解训练中的故障模式和稳定性优化
作为核心贡献者参与开发或负责维护AI领域的流行开源项目
AI 洞察
优缺点分析
优点
- 接触行业最前沿的大模型训练基础设施,技术壁垒极高
- “阿里星”计划提供顶尖的薪酬待遇和资源支持
- 在万卡级集群上解决实际问题,简历含金量极高
- 团队技术氛围浓厚,有机会发表顶会论文
- 技术难度极大,需同时精通系统底层与AI框架
- 面对的是超大规模集群,故障排查极其复杂
- 可能需要应对高强度的研发节奏
- 适合拥有扎实计算机系统功底、对AI基础设施有强烈兴趣、且具备极强抗压能力和钻研精神的资深工程师或优秀博士毕业生
缺点 / 挑战
- 业务迭代快,对新技术的跟进压力较大
角色解读
- 成为AI基础设施领域的资深专家,主导核心调度引擎架构
- 向AI系统架构师方向发展,负责更广泛的云原生AI平台建设
- 转向AI算法工程化方向,深入理解模型训练与推理的全链路优化
- 研发大模型训练的智能调度系统,优化GPU等资源分配效率
- 构建高可用的训练引擎,支持PyTorch等框架在K8s上的稳定运行
- 解决万卡级集群训练中的故障恢复、弹性伸缩及性能瓶颈问题
- 建立全链路监控与自动容错机制,保障长周期训练的稳定性
- 精通C++/Python,具备深厚的分布式系统与操作系统底层知识
- 熟练掌握PyTorch及Megatron-LM、DeepSpeed等主流训练框架
- 熟悉Kubernetes容器调度及GPU资源管理
- 具备处理大规模分布式训练故障的实战经验
申请策略
- 关注阿里通义实验室的最新技术博客,了解其技术栈偏好
- 准备具体的系统设计案例,展示如何解决复杂的分布式一致性问题
- 体现对AI Infra领域的深刻洞察,而不仅仅是工具的使用
- 突出分布式系统项目经验,特别是涉及资源调度、高可用设计的案例
- 强调对PyTorch/Megatron等框架的源码级理解或二次开发经历
- 展示在Kubernetes环境下部署大规模应用的实战成果
- 如有相关顶会论文或开源项目贡献,务必重点标注
- 深入学习Kubernetes Scheduler扩展机制及GPU插件
面试指南
- STAR法则:情境-任务-行动-结果,重点突出技术难点和你的解决方案
- 底层原理优先:从操作系统、网络协议、编译器优化等底层角度解释问题
- 数据驱动:用具体的性能指标(如Goodput提升百分比、延迟降低毫秒数)证明效果
- 系统性思维:考虑可扩展性、容错性、可观测性等非功能性需求
- 请描述你设计的一个分布式调度系统的架构,如何处理资源碎片和冲突?
- 在大规模分布式训练中,如何优化NCCL通信性能?
- 当Kubernetes集群中节点发生故障时,你的训练任务如何实现秒级恢复?
- 对比Megatron-LM和DeepSpeed,它们在并行策略上有何优劣?
职位点评
薪资福利92
成长发展95
工作生活45
使命价值85
薪资福利
92较高
阿里星计划作为顶级人才项目,提供极具竞争力的薪资包和福利,远超市场平均水平,对补偿性动机满足度极高。
薪资信号偏高 (4.0千–7.0万/月)
成长发展
95较高
岗位涉及AI Infra最前沿技术,拥有万卡级集群实战机会,技术成长空间巨大,对发展性动机满足度极高。
技术前沿前沿/新兴技术
技术栈Kubernetes、PyTorch、Megatron-LM、DeepSpeed、FSDP、MoE、NCCL、C++、Python
业务类型profit_center
工作生活
45较低
互联网大厂核心研发岗位通常伴随较高工作强度,JD未提及弹性工作制或不加班,推测WLB一般,生活化动机满足度有限。
工作模式未明确
办公地点科技园/产业园
加班情况未提及(无法判断)
使命价值
85较高
参与国家层面的人工智能基础设施建设,推动大模型技术发展,具有显著的行业影响力和技术使命感,意义感动机满足度高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新(行业首创)
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs