阿里巴巴
Token Foundry-大模型训练Infra研发工程师-北京/上海/杭州
Token Foundry-大模型训练Infra研发工程师-北京/上海/杭州
发布于 大约 8 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Deepspeed
Gpgpu
Jax
Megatron
Moe
Pytorch
Rlhf
分布式训练
值不值得投
75综合评分
综合评分 75
大厂高薪、前沿技术栈，但工作强度大，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
参考估算薪资
根据职位描述推断，供对比参考
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1820 个在招 · 其中高性能计算 5 个
市场机会
选择不多
北京 · 高性能计算 · 4 个在招
职位详情
关于这个职位
作为阿里巴巴Token Foundry团队的大模型训练Infra研发工程师，你将专注于大模型训练框架的工程优化，包括MoE、多模态和RLHF等训练框架，提升训练吞吐和稳定性
你将与顶尖团队合作，解决超大规模训练任务中的性能瓶颈和可靠性问题，推动AI基础设施的演进
最低要求
● 熟悉计算机体系结构基础知识，有扎实异构计算优化(GPGPU/x86/ARM等)、高性能网络架构通信优化、分布式训练策略优化等方面的经验
● 扎实的工程能力，优良的编程风格，熟悉Python/C++语言和常用设计模式，具备复杂系统的设计开发调试能力
● 熟悉深度学习的基础理论概念，熟悉Transformer架构，熟悉主流大语言模型、多模态模型等模型特点
● 熟练PyTorch等领域常用框架，掌握Megatron、DeepSpeed、JAX等不同训练框架的各自特点和细节
● 优良的沟通表达能力、团队合作意识和经验
具备快速学习的能力，以及深入钻研技术问题的耐心
工作职责
● 负责主流深度学习框架在Token Foundry大模型场景下的工程优化，包括但不局限于MoE模型大规模训练框架、多模态训练框架、RLHF训练框架等，参与包括基模型Pretrain、SFT等多个阶段的训练任务优化
● 致力于提升不同阶段模型训练负载的极限吞吐，能够针对不同模型负载系统化的分析不同阶段耗时并提供相应的优化手段，优化手段包括但不局限于算子优化、通信优化、分布式策略优化等
● 负责超大规模训练任务的稳定性的设计，通过各种手段来提升训练任务的有效吞吐，构建更可靠的故障检测系统和自愈系统，提供超大规模训练任务的丝滑体验
AI 洞察
优缺点分析
优点
- 阿里巴巴作为头部互联网公司，技术平台和资源丰富，能接触前沿的大模型训练技术
- 大模型训练基础设施是当前AI领域最热门的赛道之一，职业前景广阔
- 团队技术氛围浓厚，有机会与顶尖工程师合作，快速提升技术能力
- 工作强度较大，可能需要应对紧急任务和长时间加班
- 技术难度高，需要持续学习，保持技术领先
缺点 / 挑战
- 大模型训练任务复杂，需要处理各种突发问题，压力较大
- 适合对AI基础设施有浓厚兴趣，具备扎实的分布式系统和高性能计算背景，愿意挑战技术难题的工程师
角色解读
- 技术专家路线：在AI基础设施领域深耕，成为大模型训练优化专家
- 管理路线：带领团队负责大规模训练基础设施的研发
- 横向发展：可转向AI平台架构、云原生AI服务等方向
- 负责大模型训练框架的工程优化，包括MoE、多模态、RLHF等，提升训练吞吐和效率
- 深入分析训练负载的性能瓶颈，通过算子优化、通信优化、分布式策略优化等手段提升性能
- 设计并构建超大规模训练任务的稳定性保障体系，包括故障检测和自愈系统
- 扎实的计算机体系结构知识，熟悉GPGPU/x86/ARM等异构计算优化
- 精通Python/C++，具备复杂系统的设计开发能力
- 熟悉PyTorch、Megatron、DeepSpeed、JAX等深度学习框架，了解其内部机制
- 具备分布式训练、高性能网络通信优化经验
申请策略
- 关注阿里巴巴技术博客，了解团队技术方向
- 在面试中展示对大规模训练稳定性问题的思考
- 突出分布式训练框架优化经验，如Megatron、DeepSpeed等
- 强调在异构计算、通信优化方面的项目成果
- 展示对Transformer架构和主流大模型的理解
- 如有开源项目或技术博客，可增加亮点
- 深入学习PyTorch源码，理解其分布式训练机制
- 熟悉NCCL等通信库的原理和优化方法
面试指南
- 结合具体项目经验，用STAR法则描述问题、行动和结果
- 展示对系统性能瓶颈的分析思路，从计算、通信、存储等多维度考虑
- 强调对分布式训练框架的深入理解，如数据并行、模型并行、流水线并行等
- 如何优化大规模MoE模型的训练吞吐？
- 描述一次你解决分布式训练中通信瓶颈的经历
- 如何设计一个故障自愈系统来保证训练任务的稳定性？
- PyTorch的DDP和DeepSpeed ZeRO有什么区别？
- 如何优化GPU利用率，减少训练中的空闲时间？
职位点评
薪资福利80
成长发展90
工作生活50
使命价值70
薪资福利
80较高
阿里巴巴作为头部大厂，薪资水平高，福利完善，但具体薪资未披露，需面议。
薪资信号面议 (40K-70K/月)
成长发展
90较高
该岗位涉及前沿的大模型训练技术，技术栈先进，成长空间大，但JD中未明确提及晋升通道。
技术前沿前沿/新兴技术
技术栈PyTorch、Megatron、DeepSpeed、JAX、GPGPU、分布式训练、MoE、RLHF
业务类型profit_center
工作生活
50较低
职位要求现场办公，未提及弹性工作，互联网大厂工作强度可能较大，WLB一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
大模型训练基础设施是AI发展的重要支撑，具有较高的技术价值，但社会影响力中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs