阿里巴巴
异构算力下的大模型后训练加速与效果调优-阿里星/A Star
异构算力下的大模型后训练加速与效果调优-阿里星/A Star
发布于 大约 14 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Deepspeed
Dpo
Grpo
Megatron
Pytorch
Rlhf
分布式训练
异构算力
值不值得投
76综合评分
综合评分 76
顶尖博士舞台，前沿技术深熬，薪资顶级，但需牺牲生活平衡。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
50K
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1580 个在招 · 其中机器学习工程 约 150 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 270 个在招
职位详情
关于这个职位
该职位聚焦大模型后训练加速与效果调优，涵盖高质量SFT数据工程、多阶段对齐（DPO/RLHF/GRPO）以及参数高效微调，同时负责异构算力（NVIDIA、昇腾、沐曦等）的适配与系统级性能优化
你将加入阿里星计划，面向金融、政务、能源等垂直行业落地工业化后训练方案，并参与千卡级分布式训练系统的架构设计
最低要求
教育背景：计算机/AI/分布式系统等相关专业博士
技术能力：精通Transformer架构与PyTorch源码级开发
有大模型微调或对齐相关研究经历（SFT/RLHF/DPO/KTO/GRPO等至少熟悉一种）
有分布式训练实战经验（DeepSpeed/Megatron/FSDP至少熟悉一种）
了解训练系统优化技术（混合精度、梯度累积、通信优化、显存管理等）
编程能力：熟练掌握Python
其他要求：具备系统性思维和独立解决复杂问题的能力，良好的沟通协作精神，对大模型后训练技术有浓厚兴趣
工作职责
行业模型后训练算法：跟踪并落地前沿后训练技术：高质量SFT数据工程与课程学习、多阶段对齐（DPO/PPO/GRPO/在线RLHF）、参数高效微调（LoRA/QLoRA/DoRA），针对金融、政务、能源等垂直场景产出可复用的后训练Recipe
异构算力适配：针对NVIDIA、昇腾、沐曦、壁仞等不同架构设计后训练统一适配层，进行算子融合与硬件级性能调优，推动训练框架（ms-swift/LLaMA-Factory/DeepSpeed）的多硬件兼容与性能基线建设
后训练系统优化：设计面向70B+模型的混合并行策略（DP+TP+PP+SP），优化跨节点通信（梯度压缩、计算通信重叠），实现千卡级后训练任务的弹性伸缩、故障自愈与Checkpoint异步持久化
探索MoE Expert并行与长序列（128K+）后训练系统优化
客户支持：将后训练技术封装为平台能力，参与重点项目交付，解决实际后训练中的效率与稳定性问题
优先资格
编程能力（优先部分）：有CUDA/C++高性能计算经验者优先，有自定义算子开发经验者加分
经验要求：有大模型后训练（SFT/对齐/领域适配）完整项目经验者优先
多硬件适配经验、开源框架贡献（ms-swift/LLaMA-Factory/DeepSpeed/Megatron等）者加分
顶会/顶刊（NeurIPS/ICML/ICLR/ACL/EMNLP/OSDI/ATC等）论文者优先
AI 洞察
优缺点分析
优点
- 站在AI最前沿，主导大模型后训练技术落地，技术含量高
- 阿里星计划提供顶级导师、资源和快速晋升机会
- 涉及多硬件生态，积累稀缺的异构计算经验
- 薪资和福利在行业内极具竞争力
- 工作强度大，需要面对复杂系统和严苛的性能要求
- 跨硬件适配涉及多厂商，协调多方资源，推进难度高
缺点 / 挑战
- 技术迭代极快，需要持续学习，心理压力较大
- 适合对大模型底层技术有强烈好奇心、能承受高强度研发挑战、希望在AI基础设施领域成为顶尖专家的博士毕业生
角色解读
- 从技术专家方向深耕，成为大模型训练优化领域的权威
- 转向技术管理，带领团队负责完整的训练平台建设
- 依托阿里星培养体系，快速获取顶级项目资源和晋升通道
- 负责行业模型的后训练算法研究，包括SFT数据工程、多阶段对齐技术（DPO/RLHF/GRPO）和参数高效微调，输出可复用的训练Recipe
- 设计异构算力适配层，针对NVIDIA、昇腾、沐曦等不同芯片架构进行算子融合和硬件级性能调优
- 优化千卡级分布式训练系统，实现混合并行策略、通信优化、故障自愈和长序列训练支持
- 将后训练技术封装为平台能力，参与重点客户项目交付，解决实际效率与稳定性问题
- 精通Transformer架构和PyTorch源码级开发，具备大模型微调或对齐研究经历
- 熟悉DeepSpeed/Megatron/FSDP等分布式训练框架，能进行混合并行和通信优化
- 熟练掌握Python，有CUDA/C++或自定义算子开发经验者更佳
- 具备系统性思维、独立解决复杂问题和跨团队协作能力
申请策略
- 了解阿里星计划的具体要求，准备好展示创新潜力的案例
- 主动联系内部师兄师姐获取内推和面经，提前了解团队动向
- 突出大模型后训练的完整项目经历，如SFT/RLHF的实施细节和效果数据
- 强调分布式训练调优经验，如并行策略、通信优化、故障处理案例
- 展示开源贡献或顶会论文，证明技术深度与创新能力
- 量化成果，如训练速度提升百分比、显存节省等
- 补齐多硬件适配经验，可上手昇腾/沐曦等工具链进行实践
- 深入阅读ms-swift/LLaMA-Factory源码，尝试提交PR
面试指南
- 分步骤结构化回答：先复述问题，再给出方法或设计思路，最后用具体案例或数据支撑
- 强调系统性思维：从算法、系统、工程多维度分析，展示全栈能力
- 遇到不确定的问题，坦诚交流思路，展示快速学习能力
- 你如何设计针对金融领域的高质量SFT数据？
- 描述你在分布式训练中遇到的最大性能瓶颈及如何优化
- 如何让PyTorch训练代码兼容昇腾和NVIDIA？
- DPO和RLHF的优缺点及适用场景？
- 如何实现千卡训练的故障自愈和弹性伸缩？
职位点评
薪资福利78
成长发展92
工作生活45
使命价值80
薪资福利
78中等
作为阿里星职位，薪资和福利预计处于行业顶尖水平，但JD未披露具体数字。
薪资信号未披露（AI估算：40K-60K/月）
成长发展
92较高
职位涉及最前沿后训练技术和异构算力，成长空间极大，并有阿里星培养体系加持。
技术前沿前沿/新兴技术
技术栈PyTorch、Transformer、SFT、RLHF、DPO、GRPO、DeepSpeed、异构算力、分布式训练
业务类型ambiguous
工作生活
45较低
工作地点为北京/杭州，现场办公，JD未提及WLB，大厂高节奏研发，生活平衡挑战较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型赋能金融、政务、能源等行业，技术影响面广，但JD未强调社会使命，更多是技术驱动。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs