阿里巴巴
阿里健康-AI infra专家（训练方向）-杭州/北京
阿里健康-AI infra专家（训练方向）-杭州/北京
发布于 10 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Deepspeed
Gpu
Llm
Megatron
Pytorch
分布式训练
大模型
高性能计算
值不值得投
77综合评分
综合评分 77
阿里健康大模型AI Infra专家岗，技术前沿、薪资偏高、发展天花板极高，但工作强度与优化压力较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
6万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3000 个在招 · 其中高性能计算 16 个
市场机会
选择适中
杭州 · 高性能计算 · 13 个在招
职位详情
关于这个职位
该职位主要负责医学大模型分布式训练框架的设计与优化，涵盖预训练、微调及强化学习对齐全流程
你需要构建高效的训练数据Pipeline，并优化大规模分布式训练的性能与稳定性，涉及多种并行策略与混合精度训练
最低要求
精通代码编写，包括但不限于C/C++/Python/Rust/Java等，熟悉Linux/Unix开发环境，具备良好的工程实现能力，有较强的代码调试和解决技术问题的能力
熟悉计算机系统相关知识，包括计算机网络、操作系统、计算机体系结构、数据库等
对AI Infra相关技术有浓厚兴趣
有较强的团队精神和沟通交流能力，能够跨团队协作推动项目落地
熟悉业界主流的分布式训练框架，包括但不限于PyTorch/Megatron/DeepSpeed/verl等，有大规模预训练、微调或RL训练（如GRPO/PPO）的实战经验
具备分布式训练的高性能计算经验，如并行策略调优（数据并行/张量并行/流水线并行/序列并行）、MoE架构与专家并行（Expert Parallelism）、FP8/BF16混合精度训练、长上下文训练、梯度累积与通信拓扑优化、弹性Checkpoint等
工作职责
负责分布式训练框架的设计与优化，支撑医学大模型（LLM及多模态）的预训练、SFT微调、Post-Training（RLHF/GRPO/PPO等强化学习对齐）全流程训练任务
构建高效稳定的训练数据Pipeline，包括数据预处理、数据加载与调度、Checkpoint管理（异步快照、分布式Checkpoint、断点续训）等基础设施
优化大规模分布式训练的性能与稳定性，包括并行策略设计与调优（数据并行/张量并行/流水线并行/序列并行）、MoE架构训练与专家并行（Expert Parallelism）、FP8/BF16混合精度训练、长上下文训练（Ring Attention/Context Parallelism）、通信拓扑优化等
优先资格
熟悉Nvidia GPU及相关生态者优先
对医疗健康领域有兴趣，了解医疗AI行业的特殊要求（如数据合规、模型可靠性、循证医学等）者加分
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型训练技术（如MoE、RLHF、长上下文），技术壁垒极高
- 依托阿里健康的业务场景，能将底层技术与医疗AI结合，具有极高的行业稀缺性与不可替代性
- 大模型训练涉及海量算力调度与极端性能优化，技术难度极大，需持续跟进业界最新论文与框架迭代
- 适合对底层系统、高性能计算有浓厚兴趣，具备扎实C++/Python功底及大规模分布式训练实战经验的资深技术极客
缺点 / 挑战
- 跨团队协作与推动底层基础设施落地需要极强的沟通与抗压能力，面临较高的交付压力
角色解读
- 可向AI Infra架构师、大模型底层系统专家方向发展，成为底层算力优化领域的顶尖技术人才
- 在医疗AI这一垂直领域深耕，成为兼具底层系统能力与行业Know-how的复合型专家
- 负责医学大模型分布式训练框架的设计与优化，支撑预训练、微调及强化学习对齐全流程
- 构建高效稳定的训练数据Pipeline及Checkpoint管理基础设施
- 优化大规模分布式训练性能，涉及多种并行策略、MoE架构及混合精度训练
- 精通C/C++/Python等编程语言，熟悉Linux/Unix环境及底层系统架构
- 深入理解计算机系统、网络及体系结构，熟悉Nvidia GPU生态
- 熟练掌握PyTorch/Megatron/DeepSpeed等主流分布式训练框架及并行策略调优
申请策略
- 了解阿里健康在医疗大模型领域的业务布局，思考AI Infra如何赋能医疗场景的特殊需求（如数据合规、模型可靠性）
- 突出在PyTorch/Megatron/DeepSpeed等框架上的深度定制与源码级优化经验
- 详细列举参与过的大规模预训练或RL训练项目，特别是并行策略调优、显存优化或通信拓扑优化的具体成果指标
- 深入研读Megatron-LM、DeepSpeed等框架源码，了解最新的MoE训练优化及长上下文并行技术（如Ring Attention）
- 复习CUDA编程与GPU体系结构，提升底层性能调优的直觉与实战能力
面试指南
- 采用STAR法则：情境（模型规模/算力规模）-> 任务（性能瓶颈/稳定性问题）-> 行动（具体优化策略/源码级修改）-> 结果（吞吐量提升/显存降低的具体指标）
- 在大规模分布式训练中，你是如何设计并调优张量并行与流水线并行策略的？
- 针对MoE架构训练，你遇到过哪些专家并行（Expert Parallelism）的性能瓶颈，是如何解决的？
- 在长上下文训练中，Ring Attention或Context Parallelism的实现原理是什么？
- 如何设计一个高可用、支持断点续训的分布式Checkpoint管理系统？
- 复习分布式系统、GPU体系结构及CUDA编程基础，确保底层原理扎实
- 准备1-2个自己主导的底层性能优化或训练框架开发的深度技术案例，能够讲透技术细节与权衡取舍
职位点评
薪资福利85
成长发展95
工作生活40
使命价值75
薪资福利
85较高
专家级AI Infra岗位，大模型方向属于当前市场高薪赛道，薪资竞争力强。
薪资信号偏高 (4千–8万/月)
成长发展
95较高
处于大模型与医疗AI交叉的最前沿，技术深度与广度极高，能积累极强的底层技术壁垒。
技术前沿前沿/新兴技术
技术栈分布式训练、PyTorch、Megatron、DeepSpeed、LLM、MoE、RLHF、CUDA
业务类型ambiguous
工作生活
40较低
大模型底层基础设施研发通常面临较高的性能优化压力与项目交付节点，工作强度较大。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
赋能医疗健康领域，推动医疗AI发展，具有较高的社会价值与行业前景。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs