优才-训练与推理优化工程师-灵犀业务部

优缺点分析

角色解读

• 从训练优化工程师起步，逐步深入分布式系统、高性能计算领域，成为技术专家
• 可向AI系统架构师方向发展，负责大规模训练和推理系统的整体设计
• 积累具身智能领域经验，有机会转向算法研究或产品技术管理岗位
• 参与具身大模型分布式训练系统的建设，支持预训练、微调和强化学习任务，确保训练高效稳定
• 优化训练过程中的计算、通信、显存和数据加载效率，提升GPU利用率和训练稳定性
• 负责模型量化、算子优化和推理引擎适配，提升端侧推理性能，并开展性能分析定位瓶颈
• 建设训练与推理性能基线、自动回归及模型部署工具链，实现自动化优化
• 精通Python和C++，熟悉PyTorch等深度学习框架，能进行模型开发和优化
• 熟悉分布式训练技术如DDP、FSDP、DeepSpeed、Megatron-LM，能进行大规模训练
• 熟悉CUDA、TensorRT、vLLM、SGLang、Triton或模型量化技术，能进行推理优化
• 具备性能分析能力，能定位并解决计算、通信、显存等瓶颈

申请策略

• 关注智元机器人的技术博客和开源项目，了解其技术栈
• 在面试中展示对性能优化的热情和解决问题的能力
• 突出分布式训练相关项目经验，如使用DeepSpeed或FSDP进行大规模训练
• 强调CUDA或TensorRT优化经验，展示性能优化能力
• 提及开源项目或竞赛经历，体现动手能力和技术热情
• 如有论文发表，突出在机器学习、系统等领域的成果
• 深入学习分布式训练框架，如DeepSpeed、Megatron-LM，并动手实践
• 掌握CUDA编程和TensorRT推理优化，尝试优化小型模型

面试指南

• 使用STAR法则：情境、任务、行动、结果，清晰描述项目经历
• 对于技术问题，先阐述基本原理，再结合实际经验，展示深度
• 对于开放性问题，展现逻辑思维和知识广度，结合具体技术点
• 请描述一次你优化模型训练性能的经历，具体做了什么？
• DDP和FSDP的区别是什么？在什么场景下选择哪种？
• 如何优化一个推理模型的延迟？请给出具体步骤
• 你如何分析训练过程中的显存瓶颈？
• 谈谈你对具身智能的理解，以及它面临的挑战