天猫
阿里妈妈-AI infra（Training方向）-北京
阿里妈妈-AI infra（Training方向）-北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai Infra
Cuda
Llvm
Mlsys
Pytorch
分布式系统
高性能计算
值不值得投
78综合评分
综合评分 78
顶级大厂核心AI Infra岗，技术前沿挑战大，薪资丰厚，但工作强度可能较高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 170 个在招
职位详情
关于这个职位
负责淘天集团阿里妈妈工程平台团队的生产级AI Infra平台建设，专注于广告场景及GenAI/AI Agent应用的超大规模模型训练架构设计与优化
核心职责包括异构硬件系统Training性能优化、Algorithm-Training-Inference-Hardware协同设计，以提升模型效率并推动生产落地
最低要求
计算机/人工智能/软件工程/电子信息/自动化/数学等相关专业背景，博士优先
有超大规模分布式机器学习系统设计、开发经验与Training System经验，了解MLSys相关前沿技术并能推动创新实践
熟悉TensorFlow/PyTorch/XLA/MLIR/TVM/TRT-LLM/DeepSpeed/Megatron等业界主流AI框架或编译器优先
具备一线的C++/Python工程能力，精通数据结构和常用算法，掌握各种编译、调试、性能分析工具，有CPU/GPU/ASIC系统软件或硬件背景，熟悉计算机体系结构，熟悉并行编程（CUDA/OpenCL等）
有代码生成和优化背景，熟悉GCC/LLVM等主流编译器的实现的优先
工作职责
负责超大规模Sparse-Dense模型（for 广告）和Dense/MoE/DiT/ViT大模型（for GenAI/AI Agent应用）的训练架构设计优化并推动生产落地
负责大规模异构硬件系统Training的计算性能与效率优化
Algorithm-Training-Inference-Hardware co-design，整体提升模型效率
AI 洞察
优缺点分析
优点
- 处于AI Infra最前沿，接触业界顶级的超大规模模型训练场景
- 依托淘天集团核心广告业务，资源投入充足，技术落地价值高
- 对候选人学历（博士优先）和底层系统功底要求极高，入门门槛高
- 涉及多模态、大模型等前沿领域，技术迭代快，需持续高强度学习
- 适合拥有深厚计算机系统背景、热衷于底层性能优化、追求技术极致且具备博士学历或同等科研能力的资深工程师
缺点 / 挑战
- 技术挑战极高，能深入底层系统优化，积累极具竞争力的硬核技术栈
- 生产级系统稳定性要求严苛，优化压力巨大
角色解读
- 成为AI Infra领域的资深专家，主导下一代训练平台的架构演进
- 向AI系统架构师方向发展，解决更复杂的异构计算与大规模分布式难题
- 在GenAI基础设施领域建立行业影响力，推动技术创新与落地
- 设计和优化超大规模AI模型（如广告Sparse-Dense模型、GenAI大模型）的训练架构
- 针对异构硬件（GPU/CPU/ASIC）进行Training系统的计算性能与效率深度优化
- 执行Algorithm-Training-Inference-Hardware的协同设计（Co-design），从底层到上层全面提升模型运行效率
- 扎实的C++/Python工程能力，精通数据结构与算法，熟悉编译原理（GCC/LLVM）
- 深入理解计算机体系结构、并行编程（CUDA/OpenCL）及分布式系统
- 熟练掌握主流AI框架（PyTorch/TensorFlow）及编译器（XLA/MLIR/TVM）和训练库（DeepSpeed/Megatron）
申请策略
- 准备详细的技术作品集或GitHub链接，展示底层代码能力
- 面试中重点体现对‘软硬协同’优化的深刻理解
- 突出博士期间的研究成果或大型分布式系统项目经验
- 详细列举在AI框架、编译器或高性能计算方面的具体优化案例和量化成果
- 强调C++/Python双语言能力及对CUDA/LLVM等底层工具的熟练程度
- 深入研读MLSys最新论文，了解前沿训练系统架构
- 强化对主流AI编译器（如TVM、MLIR）的原理与实践
- 提升对异构硬件（GPU/NPU）架构特性的理解
面试指南
- STAR法则：情境(Situation)、任务(Task)、行动(Action)、结果(Result)，重点突出Action中的技术细节和Result中的量化指标
- 底层思维：从操作系统、编译器、硬件架构等多维度分析问题，展现系统性思考
- 前沿视野：结合最新论文或业界最佳实践，展示对技术趋势的把握
- 请描述你优化过的一个最复杂的分布式训练系统，遇到了哪些瓶颈？如何解决的？
- 对比PyTorch和TensorFlow在训练效率上的差异，你更倾向于哪个？为什么？
- 如何利用LLVM或MLIR进行算子优化？请举例说明
- 在异构硬件环境下，如何进行Kernel级别的性能调优？
- 如何看待Algorithm与Hardware的Co-design？请结合具体场景谈谈
职位点评
薪资福利90
成长发展95
工作生活40
使命价值70
薪资福利
90较高
作为顶级互联网巨头核心研发岗，提供极具竞争力的薪酬包和完善的福利体系，满足高补偿性动机。
薪资信号偏高 (4.0千–8.0万/月)
成长发展
95较高
岗位处于AI Infra最前沿，涉及超大规模模型训练与异构计算优化，技术成长空间极大，完美契合发展性动机。
技术前沿前沿/新兴技术
技术栈AI Infra、Training System、Sparse-Dense Model、GenAI、AI Agent、LLM、MoE、DiT、ViT、VLM、VLA、GPGPU、CPU、ASIC、XLA、MLIR、TVM、TRT-LLM、DeepSpeed、Megatron、TensorFlow、PyTorch、C++、Python、CUDA、OpenCL、GCC、LLVM
业务类型profit_center
工作生活
40较低
核心研发岗位通常伴随较高工作强度，JD未提及弹性工作制或不加班政策，WLB可能面临挑战。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
通过赋能淘天集团核心广告业务及GenAI应用，间接创造商业价值和社会影响力，具有一定的意义感。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
天猫 的其他在招职位
相似职位推荐
Watch Jobs