阿里巴巴
智能引擎-大模型训练基础架构研发高级专家-AI Infra
智能引擎-大模型训练基础架构研发高级专家-AI Infra
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Mlir
Nccl
Pytorch
分布式训练
大模型架构
性能优化
算子开发
值不值得投
77综合评分
综合评分 77
顶尖大厂核心AI Infra岗、技术栈前沿、薪酬丰厚，但工作强度较高，适合深耕底层技术的硬核工程师
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3670 个在招 · 其中机器学习工程 约 200 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 530 个在招
职位详情
关于这个职位
负责百亿至万亿参数大模型的分布式训练架构设计与性能优化
通过软硬协同、算子开发与编译优化技术挖掘GPU算力，结合LLM与多模态框架演进提升训练效率
作为算力基座支撑AI创新应用落地，解决大规模分布式训练中的稳定性与性能瓶颈问题
最低要求
计算机相关专业背景，有极佳的工程实现能力，精通 C/C++ 与 Python
具备扎实的数据结构与算法功底，熟练掌握 GDB / Nsight 等调试与性能分析工具
有大规模分布式系统开发和优化经验
对现代 GPU 集群通信机制及 NCCL 等通信库原理有深刻理解，有大模型分布式训练工程经验者优先
熟悉异构计算体系结构，包括但不限于现代 GPU 并行架构、CUDA 编程、Triton 和 Cutlass 等硬件 DSL 以及高性能网络技术
精通 PyTorch / JAX / Megatron-LM 等业界主流大模型引擎的内核实现机制
精通 XLA / MLIR 等编译优化技术者优先
工作职责
超大规模训练架构：负责百亿至万亿参数模型的分布式训练架构设计与演进
针对数千卡 GPU 互联场景，通过自顶向下的性能分析，利用 5D 并行以及通信优化策略，消除大规模分布式训练瓶颈，提升训练效率和线性加速比
极致性能优化与算子开发：深入软硬协同层，通过手写 CUDA / Triton 算子、算子融合及 XLA / MLIR 等编译优化技术，挖掘 GPU 硬件极致算力，打造一流的执行引擎，追求业界SOTA的 MFU
训练框架演进：结合前沿的大语言模型（LLM）与多模态模型结构，协同算法团队进行框架级优化（如 Checkpointing、显存优化、Overlap 通信掩盖），优化单位算力的模型效果
AI 创新应用落地支撑：作为算力基座的核心支撑，支持行业顶尖的 GPT、AIGC、多模态模型在 AI 创新应用场景的业务落地，解决实际业务中的大规模与稳定性挑战，确保模型从训练到应用的顺畅衔接
优先资格
对 LLM、多模态等大模型结构及其核心算法流程有深入理解者优先
精通 XLA / MLIR 等编译优化技术者优先
加分项：对钻研技术有热情，勤于动手，善于动脑，不惧困难
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型训练架构与硬件协同优化技术，技术壁垒极高
- 依托阿里集团海量算力与真实业务场景，项目影响力大且成长空间广阔
- 底层优化工作枯燥且调试难度高，对工程细节要求极其严苛
- 适合热爱底层技术、具备极强工程落地能力与抗压能力的资深工程师，追求技术深度而非纯管理路线的候选人
缺点 / 挑战
- 需应对超大规模分布式系统的复杂性与稳定性挑战，技术迭代快，持续学习压力大
角色解读
- 可向AI基础设施首席架构师或技术专家方向发展，深耕底层算力平台
- 也可横向拓展至AI编译器、云原生AI服务或转向算法工程化负责人角色
- 设计并优化千亿/万亿参数大模型的分布式训练架构，解决千卡/万卡集群的性能瓶颈
- 开发底层CUDA/Triton算子与编译优化技术，最大化GPU算力利用率
- 协同算法团队推进训练框架演进，保障AI业务大规模稳定运行
- 精通C++/Python及数据结构算法，掌握GDB/Nsight等性能调优工具
- 深入理解GPU架构、CUDA编程、NCCL通信库及Megatron-LM等主流框架内核
- 具备大规模分布式系统开发与异构计算优化实战经验
申请策略
- 提前研究阿里达摩院/通义实验室近期开源项目与技术博客，面试时准备详细的性能剖析报告或底层优化思路
- 突出大模型分布式训练实战经验，量化GPU算力提升比例或通信优化成果
- 详细列出CUDA算子开发、框架内核修改及性能调优的具体案例
- 强化对Megatron-LM、DeepSpeed等框架源码的阅读能力，补充XLA/MLIR编译栈知识
- 加强高性能网络（RoCE/InfiniBand）与GPU互联拓扑的理解
面试指南
- 采用STAR法则描述项目背景、技术选型、具体优化手段（如算子融合、通信计算重叠）、量化结果与复盘反思
- 强调系统性思维与底层原理结合
- 请分享一次你通过CUDA算子优化或通信重叠显著提升训练吞吐量的经历
- 如何设计一个支持万亿参数模型的检查点保存与恢复机制？
- 面对千卡集群的NCCL通信瓶颈，你的排查与优化思路是什么？
- 复习GPU并行计算模型、内存层次结构与常见性能陷阱
- 准备1-2个完整的分布式训练故障排查案例，梳理主流训练框架的调度与数据流图机制
职位点评
薪资福利85
成长发展92
工作生活45
使命价值78
薪资福利
85较高
阿里资深专家岗提供极具竞争力的薪酬包与长期激励，福利体系完善，能充分满足高薪与稳定性诉求。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
92较高
岗位聚焦大模型训练底层架构与前沿软硬协同优化，技术栈极度前沿，能带来显著的技术成长与行业影响力。
技术前沿前沿/新兴技术
技术栈CUDA、Triton、PyTorch、Megatron-LM、MLIR、NCCL、分布式训练
业务类型ambiguous
工作生活
45较低
互联网大厂核心研发岗通常节奏较快，JD未明确提及弹性工时或WLB保障，高强度攻坚属性明显。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
78中等
直接支撑行业顶尖AI创新应用落地，推动大模型技术商业化与产业智能化，具有显著的行业价值与社会意义。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs