具身AI Infra 工程师/专家

优缺点分析

角色解读

• 从工程师向技术专家发展，成为分布式训练或推理系统的权威
• 有机会晋升为技术负责人，带领团队建设AI基础设施
• 在具身智能领域深耕，成为AI系统架构师，参与前沿技术研究
• 构建和优化大规模分布式训练系统，支持多模态大模型和强化学习模型的训练，提升训练效率和稳定性
• 开发高性能推理系统，确保大模型在高并发场景下的低延迟推理，并支持大规模实验
• 设计自动化评测基础设施，整合训练、推理和仿真评测，加速模型迭代
• 管理超大规模GPU集群，优化计算、通信、网络和调度，提升资源利用率
• 扎实的计算机系统基础，熟悉分布式系统、并行计算和性能优化
• 深入理解大模型训练和推理框架，如PyTorch、TensorFlow，熟悉模型并行、数据并行等技术
• 熟悉GPU集群管理和调度，了解Kubernetes、Slurm等，有CUDA编程经验者优先
• 具备优秀的工程能力，能解决复杂系统问题，有大规模集群运维经验

申请策略

• 关注智元机器人的技术博客和开源项目，了解其技术栈
• 在面试中展示对具身智能领域的热情和对系统优化的独到见解
• 突出大规模分布式训练或推理系统的项目经验，量化成果（如吞吐提升、GPU利用率）
• 强调对深度学习框架（如PyTorch）的深入理解，以及模型并行、通信优化等经验
• 展示CUDA编程、GPU集群调度或性能调优的实践经验
• 提及参与过百卡/千卡级训练或大规模集群管理，体现工程能力
• 学习最新的分布式训练技术，如DeepSpeed、Megatron-LM
• 熟悉Kubernetes和GPU调度工具，了解集群管理最佳实践

面试指南

• 结合具体项目经验，用STAR法则描述问题、行动和结果
• 展示系统思维，从计算、通信、存储等角度分析问题
• 强调数据驱动，用指标量化优化效果
• 如何优化大规模分布式训练的性能？请举例说明
• 谈谈你对模型并行和数据并行的理解，以及如何选择
• 如何设计一个高吞吐、低延迟的推理系统？
• 在GPU集群调度中，如何平衡资源利用率和任务公平性？
• 你如何评估和优化GPU利用率？