阿里巴巴
智能引擎-PostTrain框架研发工程师-AI Infra
智能引擎-PostTrain框架研发工程师-AI Infra
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Megatron-Lm
Pytorch
大模型分布式训练
开源贡献
强化学习
推理加速
系统优化
顶会论文
值不值得投
77综合评分
综合评分 77
顶尖AI Infra技术岗、前沿大模型训练框架研发、强学术工业结合、高压高成长
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3720 个在招 · 其中机器学习工程 约 210 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 540 个在招
职位详情
关于这个职位
负责大模型后训练系统的研发与优化，支持千亿至万亿参数规模的强化学习训练与对齐算法实现
通过5D并行训练、推理加速及训推一体化技术，在千卡以上异构集群上实现高效训练，并将成果开源及发表顶会，推动AI创新场景落地
最低要求
有扎实的工程算法基础，精通数据结构和常用算法，熟练掌握GDB / Nsight等调试和性能分析工具
精通Python、C/C++语言
精通PyTorch / Megatron-LM等业界主流深度学习引擎内核
有大模型分布式训练经验者，对训练系统中精度、性能、效果问题排查有经验者优先
工作职责
支持百亿～万亿规模的稠密 / MoE大模型的强化学习训练，实现多种对齐算法，增强大模型对齐人类模态、数学、代码、推理等方面的能力
极致的通过5D并行训练、推理加速、训推一体复用等技术，与前沿的强化学习算法团队和阿里硬件团队进行协同设计，在前沿异构系统上实现高效的大规模（千卡以上）强化学习训练
使用强化学习、蒸馏、量化等后训练技术，在AIGC、实时生成等场景达到极致的模型效果-性能平衡点
将成熟的系统与算法成果发表于顶会，并回馈开源社区（如 ROLL），持续提升在学术界与产业界的影响力
支持业界前沿的LLM、多模态、图/视频生成模型在AI创新场景的业务落地
优先资格
精通ROLL / VeRL / Slime等强化学习框架实现者优先，精通vLLM / SGLang / TensorRT-LLM等大模型推理引擎优化者优先
有大模型对齐/RL算法相关经验优先，包括但不限于：PPO / DPO / GRPO等
有AIGC模型加速从数据到训练经验优先，包括但不限于：蒸馏、量化、稀疏Attention等
有优秀开源项目开发经验优先，特别是业界主流深度学习训练/推理引擎
有系统顶会发表优先
包括但不限于: OSDI / SOSP / NSDI / ATC / EuroSys / MLSys;
AI 洞察
优缺点分析
优点
- 接触业界最前沿的千亿/万亿参数大模型训练场景
- 拥有充足的算力资源与顶尖算法团队协同
- 成果可直接开源并冲击系统顶会，学术与工业影响力双丰收
- 业务迭代快，对系统稳定性与交付质量要求极高
- 适合具备深厚计算机体系结构功底、追求技术极致、且有顶会发表经验的资深AI系统研发工程师
缺点 / 挑战
- 技术栈极深，需同时兼顾系统工程与算法原理，调试千卡集群性能瓶颈难度极大
角色解读
- 向首席AI系统架构师或AI Infra技术专家发展
- 可横向拓展至大模型预训练、推理服务化或底层芯片协同设计领域
- 长期可向技术总监或AI基础设施负责人演进
- 负责大模型后训练系统（PostTrain）的架构设计与核心代码开发
- 优化千亿级参数的强化学习与对齐算法在千卡集群上的训练效率
- 调优推理引擎以实现模型效果与性能的极致平衡
- 精通C++/Python底层编程与高性能计算
- 深入掌握PyTorch/Megatron-LM等训练框架内核
- 熟悉分布式训练通信、调度与故障排查
- 具备系统级优化与顶会科研转化能力
申请策略
- 提前了解阿里通义实验室或PAI平台的技术栈，准备针对千卡训练稳定性、显存优化或通信压缩的具体案例进行阐述
- 突出大规模分布式训练实战经验、底层框架二次开发/源码修改经历、以及系统顶会论文或高星开源项目贡献
- 深入研读Megatron-LM/vLLM等主流框架源码，掌握NCCL/RDMA等高速通信协议
- 补充强化学习对齐算法（PPO/DPO）的系统实现细节
面试指南
- 采用STAR法则，重点说明问题背景、定位手段（如Nsight/GDB）、根因分析、优化方案及最终性能收益（FLOPS利用率/吞吐提升百分比）
- 请描述一次你解决千卡分布式训练OOM或通信瓶颈的经历
- 如何设计一个支持动态MoE路由的训练框架？
- 在PyTorch中如何实现自定义算子以提升推理延迟？
- 复习操作系统与计算机网络底层知识，梳理大模型训练/推理的完整Pipeline
- 准备1-2个深度参与过的开源项目或顶会论文的Technical Deep Dive
职位点评
薪资福利85
成长发展95
工作生活40
使命价值75
薪资福利
85较高
该岗位聚焦大模型后训练核心系统，技术要求极高且涉及顶会发表，属于稀缺型高端研发岗，整体薪酬包预计处于行业领先水平。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
95较高
岗位直接对接百亿参数大模型与系统顶会发表，技术栈处于AI Infra绝对前沿，成长空间与行业话语权极强。
技术前沿前沿/新兴技术
技术栈PyTorch、Megatron-LM、Roll、VeRL、vLLM、SGLang、TensorRT-LLM、强化学习、5D并行
业务类型profit_center
工作生活
40较低
JD未明确提及弹性工时或加班政策，但千卡集群调试与大模型业务落地通常伴随较高的系统稳定性要求与交付压力，工作强度可能偏大。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
致力于突破智能体能力上限与AIGC算力基座，推动开源社区发展，具有显著的行业技术引领价值与社会正向外溢效应。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号为提升智能体能力上限、AIGC应用提供算力基座、回馈开源社区
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs