
阿里巴巴
阿里妈妈-AI infra(Training方向)-北京
阿里妈妈-AI infra(Training方向)-北京
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Ai Infra
Deepspeed
Mlir
Mlsys
Pytorch
Tensorflow
Tvm
Xla
分布式训练
值不值得投
79综合评分
综合评分 79
前沿AI Infra与大模型训练系统岗位,技术成长强,办公与生活平衡信息未明确
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
8.5万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 5250 个在招 · 其中机器学习工程 约 240 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 540 个在招
职位详情
关于这个职位
该岗位面向阿里妈妈广告与GenAI场景,负责超大规模Sparse-Dense模型及Dense/MoE/DiT/ViT等大模型的训练架构设计与生产落地
重点聚焦分布式训练、异构硬件性能优化、AI编译优化以及算法-训练-推理-硬件协同设计,适合AI Infra和MLSys方向资深工程师
最低要求
我们希望你:
计算机/人工智能/软件工程/电子信息/自动化/数学等相关专业背景,博士优先
有超大规模分布式机器学习系统设计、开发经验与Training System经验,了解MLSys相关前沿技术并能推动创新实践
熟悉TensorFlow/PyTorch/XLA/MLIR/TVM/TRT-LLM/DeepSpeed/Megatron等业界主流AI框架或编译器优先
具备一线的C++/Python工程能力,精通数据结构和常用算法,掌握各种编译、调试、性能分析工具,有CPU/GPU/ASIC系统软件或硬件背景,熟悉计算机体系结构,熟悉并行编程(CUDA/OpenCL等)
有代码生成和优化背景,熟悉GCC/LLVM等主流编译器的实现的优先
工作职责
负责超大规模Sparse-Dense模型(for 广告)和Dense/MoE/DiT/ViT大模型(for GenAI/AI Agent应用)的训练架构设计优化并推动生产落地
负责大规模异构硬件系统Training的计算性能与效率优化
Algorithm-Training-Inference-Hardware co-design,整体提升模型效率
优先资格
博士优先
熟悉TensorFlow/PyTorch/XLA/MLIR/TVM/TRT-LLM/DeepSpeed/Megatron等业界主流AI框架或编译器优先
有代码生成和优化背景,熟悉GCC/LLVM等主流编译器的实现的优先
AI 洞察
优缺点分析
优点
- 服务广告推荐与GenAI/AI Agent应用,业务场景复杂且对系统能力要求高,容易积累生产级经验
- 团队涉及分布式系统、异构计算、AI编译优化等前沿课题,适合希望深耕底层系统的人
- 阿里妈妈与淘天业务场景规模大,能接触到超大规模模型训练和生产落地问题
- 技术栈跨度大,需要同时理解模型训练、分布式系统、硬件体系结构和编译优化
- 生产级平台建设要求高,既要前沿创新,也要保证稳定性、性能和业务落地效果
缺点 / 挑战
- 岗位处于大模型训练、AI Infra和MLSys核心方向,技术挑战强,成长密度高
- 岗位门槛较高,博士优先且强调一线工程能力,竞争会集中在资深AI系统人才之间
角色解读
- 可向AI Infra资深专家、MLSys架构师或大模型训练系统负责人方向发展
- 可横向拓展到推理引擎、AI编译器、异构计算平台、推荐系统基础设施等方向
- 长期可发展为技术专家路线负责人,主导大规模训练平台或AI基础平台的技术规划
- 设计和优化面向广告业务的超大规模Sparse-Dense模型训练架构,并推动其在生产环境落地
- 针对Dense、MoE、DiT、ViT等大模型训练场景,优化异构硬件系统上的计算性能与训练效率
- 参与算法、训练、推理和硬件的协同设计,从系统层面提升模型整体效率
- 围绕MLSys、AI编译优化、分布式计算与存储等方向进行前沿技术探索与工程化实践
- 需要具备扎实的C++/Python工程能力,熟悉数据结构、算法、编译调试和性能分析工具
- 需要掌握超大规模分布式机器学习系统、Training System和MLSys相关技术
- 需要熟悉主流AI框架和训练/编译工具,如PyTorch、TensorFlow、XLA、MLIR、TVM、DeepSpeed、Megatron等
- 需要理解CPU/GPU/ASIC体系结构、并行编程和编译优化,具备软硬件协同视角
申请策略
- 面试前了解阿里妈妈广告业务中搜推广模型、Embedding学习和Sparse-Dense模型的技术特点
- 准备用量化结果说明优化贡献,如训练吞吐提升、通信开销下降、显存占用降低或成本下降
- 突出参与过的大规模分布式训练系统、训练平台或推理平台项目,说明模型规模、集群规模和性能收益
- 重点展示C++/Python工程能力,以及性能优化、编译调试、Profiling、CUDA/OpenCL等实践经验
- 写明对PyTorch、TensorFlow、XLA、MLIR、TVM、DeepSpeed、Megatron等工具的熟悉程度,并配具体项目案例
- 如果有CPU/GPU/ASIC系统软件、代码生成、LLVM/GCC或计算机体系结构相关经历,应放在显眼位置
- 补强大模型训练体系知识,尤其是数据并行、张量并行、流水线并行、MoE训练和混合精度训练
- 提升性能分析能力,熟悉NVIDIA Nsight、Profiler、编译优化和瓶颈定位方法
面试指南
- 先描述问题规模和约束条件,再讲系统架构、关键瓶颈、优化方案和最终量化收益
- 对技术选型类问题,用“业务目标—技术权衡—实现路径—验证结果”的结构回答
- 对项目经历类问题,重点说明个人贡献、难点判断、失败尝试和可复用方法论
- 如何设计一个面向超大规模Sparse-Dense模型的分布式训练系统?
- 在大模型训练中,如何定位并优化计算、通信、存储或I/O瓶颈?
- 你对PyTorch、DeepSpeed、Megatron或XLA/MLIR等框架和编译栈有哪些实践经验?
- 如何理解Algorithm-Training-Inference-Hardware co-design?请举一个实际优化案例
- 面对CPU/GPU/ASIC异构硬件,如何做性能建模、算子优化和工程落地?
职位点评
薪资福利82
成长发展92
工作生活55
使命价值78
薪资福利
82较高
JD未披露薪资和福利信息,但岗位属于高门槛AI Infra方向,要求分布式训练、编译优化和异构硬件能力,通常对资深技术人才具备较强吸引力。
薪资信号未披露(AI估算:6.0千–11.0万/月)
成长发展
92较高
岗位明确涉及MLSys前沿技术、超大规模训练系统、AI编译优化和Algorithm-Training-Inference-Hardware co-design,技术成长空间非常强。JD未提及明确晋升路径或培训机制。
技术前沿前沿/新兴技术
技术栈AI Infra、GenAI、AI Agent、Sparse-Dense模型、Embedding、LLM、MLLM、VLM、VLA、MLSys、TensorFlow、PyTorch、XLA、MLIR、TVM、TRT-LLM、DeepSpeed、Megatron、CUDA、OpenCL、GCC、LLVM
业务类型profit_center
工作生活
55较低
JD仅明确地点为北京,未提及远程、弹性办公、双休或加班信息,因此生活化动机满足程度无法充分判断。
工作模式未明确
办公地点未明确
加班情况未提及(无法判断)
使命价值
78中等
岗位服务淘天电商广告核心业务,并面向GenAI与AI Agent应用建设生产级AI Infra平台,技术影响面较大。JD未直接描述社会使命或公共价值导向。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
模型部署工程师(智驾方向)
初速度 · 北京市
AI 估算 · 3.0–5.5万1 天前发布
AI Engineer I
施耐德 · 上海市
AI 估算 · 1.8–2.8万1 天前发布
训练引擎研发工程师(J105074)
百度 · 北京市
AI 估算 · 3.5–6.5万1 天前发布
Ai Infra开发工程师
滴滴出行 · 北京市
AI 估算 · 3.5–6.5万3 天前发布
Ai Infra开发工程师
滴滴出行 · 北京市
AI 估算 · 3.5–6.5万3 天前发布
机器学习工程师
顺丰速运 · 上海市
AI 估算 · 3.0–5.0万5 天前发布
Senior Principal Machine Learning Engineer (Fulfilment)
格步 · 北京市
AI 估算 · 8.0–15.0万11 天前发布
Machine Learning Engineer - AI, Search & Knowledge Platform
苹果 · 北京市
AI 估算 · 6.0–12.0万12 天前发布
Watch Jobs