Alibaba logo
阿里巴巴
阿里妈妈-AI infra(Training方向)-北京

阿里妈妈-AI infra(Training方向)-北京

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 6.0–11.0万 · AI 参考估算
高级经验
博士
全职员工仅现场办公机器学习工程
机器学习工程
Ai Infra
Deepspeed
Mlir
Mlsys
Pytorch
Tensorflow
Tvm
Xla
分布式训练

值不值得投

79综合评分

综合评分 79

前沿AI Infra与大模型训练系统岗位,技术成长强,办公与生活平衡信息未明确

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

8.5万

比机器学习工程中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 5250 个在招 · 其中机器学习工程 约 240 个

市场机会

选择面较广

北京 · 机器学习工程 · 约 540 个在招

职位详情

关于这个职位

该岗位面向阿里妈妈广告与GenAI场景,负责超大规模Sparse-Dense模型及Dense/MoE/DiT/ViT等大模型的训练架构设计与生产落地

重点聚焦分布式训练、异构硬件性能优化、AI编译优化以及算法-训练-推理-硬件协同设计,适合AI Infra和MLSys方向资深工程师

最低要求

我们希望你:

计算机/人工智能/软件工程/电子信息/自动化/数学等相关专业背景,博士优先
有超大规模分布式机器学习系统设计、开发经验与Training System经验,了解MLSys相关前沿技术并能推动创新实践
熟悉TensorFlow/PyTorch/XLA/MLIR/TVM/TRT-LLM/DeepSpeed/Megatron等业界主流AI框架或编译器优先
具备一线的C++/Python工程能力,精通数据结构和常用算法,掌握各种编译、调试、性能分析工具,有CPU/GPU/ASIC系统软件或硬件背景,熟悉计算机体系结构,熟悉并行编程(CUDA/OpenCL等)
有代码生成和优化背景,熟悉GCC/LLVM等主流编译器的实现的优先

工作职责

负责超大规模Sparse-Dense模型(for 广告)和Dense/MoE/DiT/ViT大模型(for GenAI/AI Agent应用)的训练架构设计优化并推动生产落地

负责大规模异构硬件系统Training的计算性能与效率优化
Algorithm-Training-Inference-Hardware co-design,整体提升模型效率

优先资格

博士优先

熟悉TensorFlow/PyTorch/XLA/MLIR/TVM/TRT-LLM/DeepSpeed/Megatron等业界主流AI框架或编译器优先
有代码生成和优化背景,熟悉GCC/LLVM等主流编译器的实现的优先

AI 洞察

优缺点分析

优点

  • 服务广告推荐与GenAI/AI Agent应用,业务场景复杂且对系统能力要求高,容易积累生产级经验
  • 团队涉及分布式系统、异构计算、AI编译优化等前沿课题,适合希望深耕底层系统的人
  • 阿里妈妈与淘天业务场景规模大,能接触到超大规模模型训练和生产落地问题
  • 技术栈跨度大,需要同时理解模型训练、分布式系统、硬件体系结构和编译优化
  • 生产级平台建设要求高,既要前沿创新,也要保证稳定性、性能和业务落地效果

缺点 / 挑战

  • 岗位处于大模型训练、AI Infra和MLSys核心方向,技术挑战强,成长密度高
  • 岗位门槛较高,博士优先且强调一线工程能力,竞争会集中在资深AI系统人才之间

角色解读

  • 可向AI Infra资深专家、MLSys架构师或大模型训练系统负责人方向发展
  • 可横向拓展到推理引擎、AI编译器、异构计算平台、推荐系统基础设施等方向
  • 长期可发展为技术专家路线负责人,主导大规模训练平台或AI基础平台的技术规划
  • 设计和优化面向广告业务的超大规模Sparse-Dense模型训练架构,并推动其在生产环境落地
  • 针对Dense、MoE、DiT、ViT等大模型训练场景,优化异构硬件系统上的计算性能与训练效率
  • 参与算法、训练、推理和硬件的协同设计,从系统层面提升模型整体效率
  • 围绕MLSys、AI编译优化、分布式计算与存储等方向进行前沿技术探索与工程化实践
  • 需要具备扎实的C++/Python工程能力,熟悉数据结构、算法、编译调试和性能分析工具
  • 需要掌握超大规模分布式机器学习系统、Training System和MLSys相关技术
  • 需要熟悉主流AI框架和训练/编译工具,如PyTorch、TensorFlow、XLA、MLIR、TVM、DeepSpeed、Megatron等
  • 需要理解CPU/GPU/ASIC体系结构、并行编程和编译优化,具备软硬件协同视角

申请策略

  • 面试前了解阿里妈妈广告业务中搜推广模型、Embedding学习和Sparse-Dense模型的技术特点
  • 准备用量化结果说明优化贡献,如训练吞吐提升、通信开销下降、显存占用降低或成本下降
  • 突出参与过的大规模分布式训练系统、训练平台或推理平台项目,说明模型规模、集群规模和性能收益
  • 重点展示C++/Python工程能力,以及性能优化、编译调试、Profiling、CUDA/OpenCL等实践经验
  • 写明对PyTorch、TensorFlow、XLA、MLIR、TVM、DeepSpeed、Megatron等工具的熟悉程度,并配具体项目案例
  • 如果有CPU/GPU/ASIC系统软件、代码生成、LLVM/GCC或计算机体系结构相关经历,应放在显眼位置
  • 补强大模型训练体系知识,尤其是数据并行、张量并行、流水线并行、MoE训练和混合精度训练
  • 提升性能分析能力,熟悉NVIDIA Nsight、Profiler、编译优化和瓶颈定位方法

面试指南

  • 先描述问题规模和约束条件,再讲系统架构、关键瓶颈、优化方案和最终量化收益
  • 对技术选型类问题,用“业务目标—技术权衡—实现路径—验证结果”的结构回答
  • 对项目经历类问题,重点说明个人贡献、难点判断、失败尝试和可复用方法论
  • 如何设计一个面向超大规模Sparse-Dense模型的分布式训练系统?
  • 在大模型训练中,如何定位并优化计算、通信、存储或I/O瓶颈?
  • 你对PyTorch、DeepSpeed、Megatron或XLA/MLIR等框架和编译栈有哪些实践经验?
  • 如何理解Algorithm-Training-Inference-Hardware co-design?请举一个实际优化案例
  • 面对CPU/GPU/ASIC异构硬件,如何做性能建模、算子优化和工程落地?

职位点评

薪资福利82
成长发展92
工作生活55
使命价值78

薪资福利

82较高

JD未披露薪资和福利信息,但岗位属于高门槛AI Infra方向,要求分布式训练、编译优化和异构硬件能力,通常对资深技术人才具备较强吸引力。

薪资信号未披露(AI估算:6.0千–11.0万/月)

成长发展

92较高

岗位明确涉及MLSys前沿技术、超大规模训练系统、AI编译优化和Algorithm-Training-Inference-Hardware co-design,技术成长空间非常强。JD未提及明确晋升路径或培训机制。

技术前沿前沿/新兴技术
技术栈AI Infra、GenAI、AI Agent、Sparse-Dense模型、Embedding、LLM、MLLM、VLM、VLA、MLSys、TensorFlow、PyTorch、XLA、MLIR、TVM、TRT-LLM、DeepSpeed、Megatron、CUDA、OpenCL、GCC、LLVM
业务类型profit_center

工作生活

55较低

JD仅明确地点为北京,未提及远程、弹性办公、双休或加班信息,因此生活化动机满足程度无法充分判断。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

78中等

岗位服务淘天电商广告核心业务,并面向GenAI与AI Agent应用建设生产级AI Infra平台,技术影响面较大。JD未直接描述社会使命或公共价值导向。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs