【REDstar】AI Infra工程师

优缺点分析

角色解读

• 技术纵深发展：从分布式训练/推理到AI编译器，成为系统性能优化专家
• 开源社区影响力：通过贡献Megatron、DeepSpeed等知名项目，积累行业声誉
• 横向扩展：可转向AI框架开发、异构硬件架构设计等上下游方向
• 研发千卡级分布式训练和推理框架，优化大规模模型的通讯、计算和内存瓶颈
• 使用Triton、CUDA等工具开发高性能算子，最大化利用GPU/NPU等异构硬件算力
• 参与AI编译器的开发，探索MLIR/TIR等前沿编译优化技术
• 支撑小红书推荐、语言、视觉等核心模型的落地部署
• 精通C++和CUDA编程，具备扎实的系统底层能力（内存、并发、网络）
• 熟悉分布式训练框架（如Megatron、DeepSpeed）和推理框架（如vLLM、TensorRT-LLM）
• 掌握MLIR/TVM/Triton等异构计算编译工具链
• 对深度学习模型结构有基本了解

申请策略

• 面试前系统复习分布式训练论文（如Megatron-LM、DeepSpeed ZeRO），了解主流并行策略
• 关注小红书技术博客和开源项目，面试中展现对团队技术方向的理解
• 突出C++/CUDA编程经验和系统编程项目（如内存管理、并发控制）
• 展示在分布式训练/推理框架上的使用或贡献经历（如Megatron、DeepSpeed）
• 如果有开源贡献或技术博客，重点强调
• 如有相关实习或科研项目，详细描述性能优化部分
• 深入练习CUDA编程和GPU性能调优，学习NVIDIA官方文档和案例
• 动手搭建小规模分布式训练实验，熟悉NCCL通信库和ZeRO优化器

面试指南

• 对于技术原理题：先给出定义，再画图或举例说明，最后总结优缺点
• 对于优化题：先定位瓶颈（通-计算-显存），再列举可选方案，最后选最优并解释原因
• 对于设计题：先分解需求（规模、硬件、数据），再提出架构图，最后讨论权衡
• 请解释ZeRO优化器的三个阶段原理及适用场景
• 如何优化大模型训练中的通信瓶颈？（如Ring AllReduce、分桶等）
• 请描述一次你优化CUDA kernel性能的经历，用了哪些工具？
• MLIR中的Dialect是什么？如何自定义一个Dialect并实现lowering？
• 设计一个支持混合并行的训练系统（如数据并行+张量并行+流水线并行）