智元机器人
优才-训练AI Infra系统优化工程师
优才-训练AI Infra系统优化工程师
发布于 大约 2 小时前普通员工/个人贡献者
上海市 / 北京市
高级经验
全职员工
仅现场办公
学历未注明
软件工程
Cann
Cuda
Deepspeed
Go
Megatron-Lm
Opencl
Pytorch
分布式训练
性能分析
AI 估算 · 30k–60k
高级AI Infra工程师岗位稀缺，技术栈前沿，市场薪资竞争力强，参考上海/北京高级工程师水平。
职位详情
关于这个职位
该职位负责构建和优化大规模分布式训练系统，支持具身大模型的预训练与微调
你将解决千卡级集群上的训练稳定性、数据加载流水线等核心问题，确保训练任务高效稳定运行
适合对AI基础设施和系统性能有深入理解的技术专家
最低要求
熟练掌握C/C++/Python/Go至少一种编程语言，具备CUDA/OpenCL/CANN优化经验
熟悉PyTorch 分布式训练机制(DDP/FSDP)，熟悉DeepSpeed或Megatron-LM等大规模训练框架的原理与使用
熟悉并行策略：深入理解 多维并行(DP/TP/PP/EP/CP等)的实现原理与适用场景，能够根据模型特点设计最优并行策略
具备性能分析与调优能力：熟练使用 PyTorch Profiler、NVIDIA Nsight 等工具进行性能分析，能够定位并解决计算、通信、I/O 瓶颈
深刻理解典型预训练、持续训练、RL训练等算法原理以及在技术实现时软硬件系统层面挑战
工作职责
大规模分布式训练系统：在千卡级GPU/NPU集群上构建稳定、高效的分布式训练系统，支持VLA、WM等具身大模型的预训练与微调
训练数据加载流水线：构建从存储到GPU/NPU显存的高吞吐数据流水线，实现高效的数据预取、采样与加载，消除训练过程中的I/O Stall
训练稳定性保障：解决大规模训练中的故障恢复、Checkpoint 管理、梯度异常等问题，确保长时间训练任务的稳定运行
AI 洞察
优缺点分析
优点
- 前沿技术领域，接触大规模分布式训练和具身智能，技术积累价值高
- 公司处于B轮阶段，成长空间大，有机会参与核心系统从0到1的建设
- 薪资竞争力强，稀缺技能带来高议价能力
- 技术栈深且更新快，需持续学习CUDA、新框架等
- 对硬件和系统层面理解要求高，调试困难
- 适合对系统性能极致追求、热爱底层优化、愿意在AI基础设施领域深耕的技术专家
缺点 / 挑战
- 工作强度可能较高，大规模训练系统问题排查复杂，需要极强的抗压能力
角色解读
- 可向AI基础设施架构师或分布式系统专家方向发展，负责更大规模集群的设计
- 也可转向具身智能算法研究，结合系统理解推动算法创新
- 创业公司技术合伙人或大型企业AI技术负责人等管理岗位
- 设计和优化千卡级GPU/NPU集群上的分布式训练系统，确保大模型训练的高效运行
- 构建高吞吐数据流水线，消除I/O瓶颈，提升训练效率
- 解决大规模训练中的稳定性问题，包括故障恢复、Checkpoint管理和梯度异常处理
- 精通C/C++/Python/Go，具备CUDA/OpenCL/CANN等GPU编程经验
- 深入理解PyTorch分布式训练机制及DeepSpeed、Megatron-LM等框架
- 熟悉多种并行策略（DP/TP/PP/EP/CP）并能根据模型特点设计最优方案
- 熟练使用性能分析工具（如PyTorch Profiler、Nsight）进行系统调优
申请策略
- 面试前深入了解具身大模型（VLA、WM）的训练流程，体现领域热情
- 准备一个完整的系统调优案例，从问题定位到解决方案的详细过程
- 突出大规模分布式训练项目经验，如管理过的GPU集群规模、使用的并行策略
- 强调CUDA优化、性能调优的具体案例和量化成果（如训练速度提升百分比）
- 展示对DeepSpeed、Megatron-LM等框架的深入理解和实际应用
- 补充CANN（华为）优化经验，增加NPU相关技能
- 学习RL训练（如PPO）的分布式实现，扩展算法理解
面试指南
- 对任何问题，先明确场景和约束（模型大小、集群规模、硬件类型），然后对比不同方案优劣，最后给出可落地的具体步骤
- 强调数据驱动，通过Profiler量化瓶颈
- 请描述你如何设计一个千卡级分布式训练系统的并行策略？
- 如何诊断和解决训练中的I/O瓶颈？请举例说明
- DeepSpeed的ZeRO-3与Megatron-LM的TP有什么异同？适用场景是什么？
- 当训练任务频繁挂起，你如何定位故障并设计恢复机制？
- 你如何评估一个训练系统的整体效率？哪些指标最重要？
- 复习分布式训练经典论文和框架源码，理解底层实现
职位点评
71
综合评分
前沿AI Infra岗位，技术成长空间大，薪资竞争力强，但工作强度高且需现场办公。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最看重技术成长和职业发展的求职者，愿意接受高强度工作以换取前沿技能积累。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值70
薪资福利
75中等
薪资水平偏高，B轮公司福利可能中等，整体补偿性较好但不如大厂。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
90较高
技术栈前沿，涉及分布式训练、GPU优化等核心技术，成长空间大，是公司核心岗位。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、PyTorch、DeepSpeed、Megatron-LM、分布式训练
业务类型profit_center
工作生活
40较低
仅现场办公，北上一线城市通勤成本高，未提及WLB，推测强度较大。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
具身智能是高速增长赛道，但职位偏技术实现，社会影响力间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
智元机器人 的其他在招职位
相似职位推荐
Watch Jobs