具身世界模型训练INFRA工程师 - XiaomiRobotics

优缺点分析

角色解读

• 可向AI Infra架构师或技术负责人方向发展，主导大规模训练集群的设计与优化
• 也可转向具身智能算法方向，利用对底层的理解驱动模型设计与训练策略创新
• 在AI Infra领域积累经验后，可横向迁移至其他大模型训练平台的岗位
• 维护和优化具身世界模型训练的基础设施，确保预训练、后训练和强化学习任务在千卡级集群上稳定运行
• 针对训练过程中的故障和瓶颈进行容错设计与优化，提升训练效率与稳定性
• 与算法团队沟通合作，及时更新对新模型结构的并行支持（如模型并行、数据并行、流水线并行等）
• 熟悉分布式训练框架（如Megatron-LM、DeepSpeed、PyTorch Distributed等）及大规模集群调度
• 具备大模型训练基础设施的开发和运维经验，熟悉容错、断点续训、资源调度等关键技术
• 了解常见的并行策略（数据并行、张量并行、流水线并行、序列并行等）及其优缺点

申请策略

• 了解小米Robotics团队的研究方向和成果，在面试中展示你的兴趣和匹配度
• 强调你的沟通协作能力，因为该职位需要与算法团队密切沟通
• 突出你参与过的大规模训练项目，特别是千卡规模以上的经验，并具体描述你在其中负责的Infra部分
• 强调你对分布式训练框架的掌握，如DeepSpeed、Megatron等，以及你对并行策略的理解和实际应用案例
• 展示你在容错、故障恢复、性能优化方面的成果，尽量用数据量化（如训练效率提升百分比）
• 如果有开源项目经历，务必列出，这会是加分项
• 如果对强化学习训练了解不够，可以补充RLHF或RL相关的训练流程知识，因为职位明确提到强化学习训练
• 熟悉常用的集群调度和监控工具（如Slurm、K8s、Prometheus）会有帮助

面试指南

• 对于经验类问题，采用STAR法则：说明情境、任务、行动和结果，并突出你的贡献和学到的经验
• 对于技术方案类问题，可以从目标出发，列出可能的方案，权衡利弊，再给出推荐，并解释为什么
• 请描述你在过去项目中如何设计大规模训练任务的容错机制
• 谈谈你对世界模型（World Model）的理解以及训练这类模型可能遇到的Infra挑战
• 如何优化分布式训练中的通信瓶颈？请举例说明
• 你熟悉哪些并行策略？在什么场景下你会选择使用张量并行或流水线并行？
• 在处理千卡训练时，如何高效管理和运维训练集群？
• 复习分布式训练的基础概念，包括同步/异步训练、梯度累积、混合精度等