阿里巴巴
智能引擎-大模型训练平台研发工程师-AI Infra
智能引擎-大模型训练平台研发工程师-AI Infra
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Go
Mlops
Pytorch
Tensorflow
分布式训练
异构计算
深度学习
调度系统
值不值得投
78综合评分
综合评分 78
核心AI Infra研发岗，聚焦大模型万卡级训练平台，技术前沿且成长空间极大，薪资竞争力强，但工作强度与系统稳定性压力较高。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3430 个在招 · 其中机器学习工程 约 190 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 270 个在招
职位详情
关于这个职位
该职位负责大模型训练平台的底层系统研发，包括万卡级集群调度、分布式训练框架优化及MLOps平台建设
你需要解决超大规模训练中的软硬件缺陷，为深度学习模型提供高性能算力基座，支撑多模态生成模型的AIGC落地
最低要求
有扎实的工程算法基础，精通数据结构和常用算法，熟练掌握各种编译、调试、性能分析工具
有极佳的工程实现能力，精通Java、Go、Python之一
工作职责
基于阿里云原生底座，设计实现数万卡规模的多租户、多种异构硬件、高性能计算集群的调度系统
研发轻量级的训练重启、故障备份迁移、代码-依赖分发系统，面向有效训练时间极致优化
针对基座模型训练，打造全面的可观测、可视化系统，洞察全生命周期软硬件故障动态
结合大规模分布式训练框架、前沿的异构硬件，分析并解决预训练、后训练过程中软硬件缺陷
构建大模型的模型训练、模型评测、模型管理、模型交付在内的MLOps平台
平台化的支撑多模态生成模型的训练、迭代，以及在AIGC场景的生产化落地应用
优先资格
有调度系统开发经验者优先，有MLOps系统开发经验者优先
有AI服务器架构、异构计算系统、网络系统优化经验者优先
有TensorFlow/PyTorch全链路算法开发、交付经验者优先
勤于动手，善于动脑，乐于挑战的同学优先
AI 洞察
优缺点分析
优点
- 处于大模型与AIGC爆发的核心赛道，接触万卡级超大规模训练场景，技术视野与实战经验极具稀缺性
- 依托头部公司的算力资源与业务场景，能深度参与前沿异构硬件与分布式框架的优化
- 超大规模集群的软硬件故障排查与性能调优难度极高，需要极强的底层系统功底与抗压能力
- 适合具备扎实底层系统开发能力、对大模型训练架构有浓厚兴趣，且渴望在AI基础设施领域深耕的资深技术人才
缺点 / 挑战
- 大模型训练任务通常对时效性要求极高，可能面临紧急故障处理与较高的工作强度
角色解读
- 从底层算力调度到上层MLOps平台，全面掌握AI Infra核心技术栈
- 成长为大模型训练系统架构师或AI基础设施技术专家
- 负责数万卡规模异构计算集群的调度系统设计与实现，保障大模型训练的高效运行
- 研发训练重启、故障迁移及可观测系统，优化有效训练时间并洞察软硬件故障
- 构建涵盖模型训练、评测、管理与交付的MLOps平台，支撑多模态生成模型的AIGC落地
- 精通Java、Go或Python，具备扎实的数据结构与算法基础及极佳工程实现能力
- 熟悉大规模分布式训练框架，了解AI服务器架构、异构计算及网络系统优化
- 具备调度系统或MLOps系统开发经验，熟悉TensorFlow/PyTorch全链路开发
申请策略
- 提前了解阿里云原生底座及在AI Infra领域的开源项目，在面试中展现对业务的熟悉度与技术热情
- 突出在分布式系统、调度系统或MLOps平台方面的实际项目经验与性能优化成果
- 强调对Java/Go/Python的精通程度，以及在编译、调试、性能分析工具上的熟练使用
- 展示在TensorFlow/PyTorch等框架上的全链路开发经验，或对异构计算、网络优化的深入理解
- 深入学习Kubernetes及云原生调度机制，了解主流大模型分布式训练框架的底层原理
- 补充AI服务器硬件架构、RDMA网络优化及GPU异构计算的相关知识
面试指南
- 采用STAR法则，结合具体项目背景，详细说明系统架构设计、遇到的技术难点及最终的量化收益
- 对于系统设计题，从需求分析、核心模块划分、高可用与容灾设计、性能优化等维度逐步展开
- 如何设计一个支持数万卡规模、多租户且包含多种异构硬件的调度系统？
- 在分布式训练过程中，如何定位和解决软硬件缺陷以最大化有效训练时间？
- 请描述你过往在MLOps或调度系统开发中，遇到的最大性能瓶颈及解决思路
- 针对大模型训练，如何设计轻量级的训练重启与故障备份迁移机制？
- 复习分布式系统理论及云原生调度原理，准备至少两个深度的底层性能优化案例
- 了解当前主流大模型训练框架的通信机制与显存优化策略，以便在技术深度上对答如流
职位点评
薪资福利85
成长发展95
工作生活40
使命价值85
薪资福利
85较高
作为核心AI Infra研发岗，技术门槛高，薪资水平在市场中具备较强竞争力，且上市公司福利体系相对完善。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
95较高
岗位聚焦大模型训练平台与万卡级集群调度，接触最前沿的AI基础设施技术，技术成长空间与行业前景极佳。
技术前沿前沿/新兴技术
技术栈Java、Go、Python、调度系统、MLOps、分布式训练、TensorFlow、PyTorch、异构计算
业务类型ambiguous
工作生活
40较低
JD未提及工作模式与WLB相关信息，无法判断具体工作强度与办公灵活性。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
岗位致力于大模型算力基座与AIGC生产化落地，处于人工智能高速发展的核心赛道，具有较强的技术使命感与行业推动力。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs