训练推理系统工程师

优缺点分析

角色解读

• 在团队内深耕系统性能优化，成为分布式训练/推理领域的顶级专家
• 随着业务扩展，有机会主导更大规模的计算集群优化或跨团队技术决策
• 积累Agent-native工作范式，未来可转型为AI Infra架构师或技术负责人
• 独立负责训练/推理模块的完整生命周期：从设计、编码、性能优化到线上监控，确保模块高效稳定运行
• 使用Agent工具（如LLM）辅助代码分析、profiling脚本生成和优化方案推演，提升研发效率
• 与算法团队紧密协作，将系统加速的原理和效果清晰传达，推动整体模型训练与推理性能提升
• 精通PyTorch框架源码，熟悉FSDP、DeepSpeed或Megatron等分布式训练方案之一
• 具备扎实的GPU编程能力（CUDA、NCCL），能通过profiling定位系统瓶颈并实施算子融合、量化、编译等优化
• 具备Agent使用和判断力：能利用AI工具但不过度依赖，有独立思考和验证能力

申请策略

• 提前了解地平线的机器人业务方向，思考你的经验如何与机器人训练/推理结合
• 准备一个完整的性能优化故事：从问题发现、方案设计、实现到效果验证，体现系统思维
• 突出分布式训练/推理的量化成果，如“训练吞吐提升X倍，显存降低Y%”
• 展示你对PyTorch或DeepSpeed等框架的源码理解，可附上PR或博客链接
• 强调CUDA/NCCL等底层能力和profiling优化案例
• 如有Agent使用经验（如用LLM辅助调试或代码生成），请明确说明
• 系统学习torch.compile或TensorRT的编译优化流程
• 动手实践Agent编程：尝试用ChatGPT辅助复现一个优化案例，并验证结果正确性

面试指南

• STAR法则：情境(Situation)、任务(Task)、行动(Action)、结果(Result)，突出量化结果
• 原理+实践：先讲清楚理论基础（如通信拓扑、显存复用），再展开你的具体实现和调优过程
• 批判性思维：认可Agent的价值，同时强调你如何验证和修正其输出，体现独立判断力
• 请描述一次你通过算子融合或量化提升训练/推理性能的经历，具体数值是多少？
• 你如何理解PyTorch的FSDP？请从通信和显存角度解释其工作原理
• 当你用Agent辅助优化时，如何确保Agent的输出正确？举一个你发现Agent错误的例子
• 如何profiling一个分布式训练任务中的通信瓶颈？你通常用什么工具和思路？
• 为什么选择地平线？你对机器人领域的训练/推理系统有什么看法？