具身大模型训练框架工程师

优缺点分析

角色解读

• 在具身智能和AI Infra领域成为技术专家，主导训练框架架构演进
• 向AI系统架构师方向发展，负责更大规模、更高效的分布式训练系统设计
• 横向拓展至算法研究，结合工程经验推动VLA、世界模型等前沿技术的突破
• 建设具身智能统一训练框架，支撑VLA、世界模型等大模型的预训练与后训练，覆盖十亿至千亿参数规模
• 设计和优化大规模分布式训练系统，包括数据并行、流水线并行、混合并行及MoE等，确保万卡GPU集群稳定训练
• 构建规模化后训练与强化学习系统，涵盖模仿学习、在线/离线RL、真机RL及云边协同架构
• 与算法团队协作，快速复现并工程化落地VLA、世界模型、flow matching、RL等前沿算法
• 扎实的计算机基础和系统设计能力，能深入底层细节并作出合理取舍
• 精通Python/C++/Rust之一，熟悉PyTorch、Megatron、DeepSpeed等训练框架
• 具备分布式系统、大模型训练或强化学习系统的经验或强烈兴趣
• 熟悉CUDA算子开发、性能分析工具（如Nsight Systems）及分布式通信优化

申请策略

• 关注智元机器人的技术博客或开源项目，提前了解其技术栈和团队文化
• 在面试中除了展示技术能力，也可表达对具身智能在机器人领域应用前景的热情
• 突出分布式训练系统设计经验，尤其是大规模GPU集群（如千卡以上）的实践
• 展示对PyTorch、Megatron、DeepSpeed等框架的深入理解或源码贡献
• 强调在强化学习系统（如RLHF、真机RL）或具身智能相关项目的工程落地经验
• 附加开源贡献、竞赛成绩或复现论文的项目，体现技术深度
• 系统学习CUDA编程、Triton算子开发，以及Nsight Systems等性能分析工具
• 深入研究Megatron-LM和DeepSpeed的源码，理解混合并行和MoE的实现细节

面试指南

• 采用STAR原则（情境、任务、行动、结果）描述过往项目，突出系统设计和问题解决能力
• 对于系统设计问题，先明确约束条件和目标，再分模块讨论数据流、并行策略、通信拓扑和容错机制
• 对于底层优化问题，从Profiling出发，分析瓶颈，再逐步提出优化方案（如算子融合、计算通信overlap）
• 请描述你在大规模分布式训练中遇到的性能瓶颈及优化经验
• 如何设计一个支持MoE和长上下文的训练框架？请从并行策略和通信角度展开
• 解释强化学习中的PPO算法，并说明在分布式训练中如何实现异步rollout
• 你如何调试CUDA kernel的访存和计算效率？请举例说明
• 如果需要在万卡集群上训练一个100B参数模型，你会考虑哪些系统层面的挑战？