阿里巴巴
阿里云智能-AI工程平台研发技术专家-杭州/北京
阿里云智能-AI工程平台研发技术专家-杭州/北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公软件工程
软件工程
Ai Infra
Cicd
Deepspeed
Go
Pytorch
Vllm
分布式系统
性能评测
值不值得投
79综合评分
综合评分 79
顶尖大厂、前沿AI技术栈、高薪激励，但工作强度大，WLB较弱
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比软件工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4290 个在招 · 其中软件工程 3 个
市场机会
选择面较广
杭州 · 软件工程 · 约 740 个在招
职位详情
关于这个职位
负责阿里云大模型训练与推理的工程平台建设，涵盖CI/CD流水线、自动化验证及性能评测体系
通过任务编排、环境部署与版本管理，实现模型迭代的可复现与可追溯，提升研发效率与交付可靠性
最低要求
具备扎实的软件工程与后端研发能力，熟练使用 Python 或 Go，能够独立完成服务设计、开发、测试及故障排查
具备复杂系统建设经验
熟悉 Linux、容器及 Kubernetes，具备 CICD、工作流编排或任务调度系统的研发经验，理解任务依赖、并发控制、重试、幂等和可观测性设计
了解大模型训练与推理的基本流程，在 PyTorch、Megatron-LM、DeepSpeed、SGLang、vLLM 等框架或引擎中至少具备一类实际使用经验
理解分布式执行、GPU 资源及常见性能指标
具备自动化验证或性能评测经验，能够设计可复现的实验、识别环境与配置差异，并结合日志、指标和 Profile 数据定位问题
能够将跨团队需求转化为清晰的系统设计与实施方案，兼顾可维护性、可靠性和交付效率
技术专家需具备整体方案设计、技术取舍及复杂项目推进能力
工作职责
负责 AI Infra 工程平台的设计与研发，建设任务编排、算力资源接入、状态管理、失败恢复及结果追踪能力，将构建、部署、验证和发布环节串联为 CICD 流程，支持多模型、多框架、多硬件环境的持续集成与交付
建设训练与推理自动化验证体系，覆盖功能正确性、精度一致性、分布式运行、稳定性及性能回归
建立可复现的评测方法、基线和质量门禁，及时发现版本退化
建设性能评测与分析能力，围绕训练吞吐、收敛表现、推理吞吐与时延、显存占用等指标，管理评测配置、历史数据及日志与 Profile 产物，支持版本对比、性能回归分析和问题定位
完善镜像、依赖、模型及配置的版本管理，打通测试环境到交付环境的部署、验证、灰度发布与回滚流程，确保代码、运行环境、评测结果和交付版本之间可追溯，提高环境一致性和发布可靠性
与训练框架、推理引擎、算力平台及业务团队协作，将研发验证和交付需求沉淀为可复用的平台能力，持续改善流水线效率、算力利用率和问题闭环效率
优先资格
加分项：
有 GPU 集群或异构加速器适配验证经验
有大模型训练或推理平台、性能评测平台、研发效能平台建设经验
有开源框架贡献或训练与推理问题定位实践
AI 洞察
优缺点分析
优点
- 处于AI大模型风口，技术栈前沿（涉及GPU集群、分布式训练优化），平台影响力大，能接触核心算法团队
缺点 / 挑战
- 技术难度极高，需解决复杂的分布式系统稳定性与性能瓶颈，对底层原理要求深，工作压力较大
- 具备深厚后端功底、对AI基础设施感兴趣、追求技术深度与挑战的高级工程师或技术专家
角色解读
- 可向AI基础设施架构师、技术总监方向发展，或在通用大模型平台、高性能计算领域成为行业专家
- 构建和维护支撑大模型训练与推理的基础设施平台（AI Infra），包括CI/CD流水线、自动化测试及性能监控体系
- 精通Python/Go后端开发，深入理解Kubernetes与容器化技术，熟悉主流大模型框架（如PyTorch, DeepSpeed）及分布式训练原理
申请策略
- 准备详细的项目案例，重点阐述如何解决高并发、资源调度或性能瓶颈问题，体现技术选型与落地能力
- 突出大型分布式系统架构设计经验，强调在CI/CD、自动化测试或性能优化方面的具体成果，展示对AI训练/推理流程的理解
- 深入学习Kubernetes高级特性，掌握主流LLM框架（如Megatron-LM, vLLM）的内部机制与调优技巧
面试指南
- 采用STAR法则（情境、任务、行动、结果），结合具体项目背景，详细说明技术选型理由、遇到的难点、解决方案及最终带来的效率提升或成本节约
- 如何设计一个支持多框架、多硬件的大模型训练CI/CD平台？
- 在分布式训练中，如何检测和定位性能瓶颈？
- Kubernetes在大规模任务调度中的挑战及解决方案？
- 如何实现训练任务的自动化验证与回归测试？
- 复习分布式系统理论、容器编排原理，梳理自己参与过的复杂系统重构或性能优化案例，了解当前大模型训练的主流技术栈
职位点评
薪资福利90
成长发展95
工作生活40
使命价值80
薪资福利
90较高
作为上市巨头企业的专家级岗位，提供极具竞争力的薪酬包（高薪+股票），满足度高。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
95较高
处于AI大模型最前沿，技术栈极度前沿，能接触到核心算法与基础设施，成长空间巨大。
技术前沿前沿/新兴技术
技术栈AI Infra、PyTorch、Megatron-LM、DeepSpeed、SGLang、vLLM、Kubernetes、CICD
业务类型profit_center
工作生活
40较低
大厂核心研发部门，通常工作强度较大，WLB一般，未提及弹性或远程办公福利。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
80较高
致力于推动AI基础设施建设，提升研发效率，具有显著的技术价值和社会影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs