基础设施与稳定性工程-AI Infra高性能异构优化工程师-北京/杭州

优缺点分析

角色解读

• 技术专家路线：深耕GPU优化或AI编译器领域，成为架构师或领域技术专家
• 技术管理路线：带领团队负责更大规模的AI基础设施优化，影响集团技术战略
• 开发和优化用于大模型训练与推理的GPU算子库和通信库，提升硬件利用率和计算效率
• 设计分布式计算方案，解决大规模模型训练和推理中的性能瓶颈
• 探索和实现新的AI编译优化技术，将优化方案落地到实际框架中
• 具备深厚的C++/CUDA编程能力和对GPU硬件架构的深刻理解
• 熟悉AI编译技术栈（如MLIR、TVM），有算子或编译器优化实战经验
• 了解主流大模型结构和推理框架（如vLLM），具备性能调优或部署经验

申请策略

• 在简历或面试中，准备一个能清晰展示从问题定位、方案设计到最终性能提升闭环的深度技术案例
• 可以关注和思考异构计算、混合专家模型（MoE）等前沿领域的性能优化挑战
• 重点展示在GPU编程（CUDA/ROCm）、并行计算和高性能计算方面的项目经验与成果
• 详细描述开发过的具体算子（如GEMM、Attention）或参与过的AI编译器优化工作
• 列出熟练使用的相关工具链，如PyTorch、Triton、NCCL等，并说明在其中的具体贡献
• 系统学习和实践AI编译器相关技术（MLIR， TVM），尝试参与开源项目
• 深入研究一种最新的大模型推理框架（如SGLang）的源码和设计

面试指南

• 性能优化类问题：采用“问题定位-分析瓶颈-提出假设-设计方案-验证结果”的框架回答，体现系统性思维
• 技术原理类问题：结合实际经验，从硬件特性（如内存层次、计算单元）和软件设计（如算法、调度）两个层面解释
• 项目经验类问题：使用STAR法则（Situation, Task, Action, Result）清晰阐述，突出个人贡献和量化结果
• 如何优化一个矩阵乘法（GEMM）算子的性能？请从内存访问、并行策略等角度分析
• 在分布式大模型训练中，通信是主要瓶颈之一，你有哪些优化思路？
• 如果让你为一个特定的LLM算子设计一个AI编译优化Pass，你会如何入手？
• vLLM等推理框架是如何实现高效批处理的？其核心机制是什么？
• 请介绍一个你过去优化高性能计算任务的具体案例，遇到了什么难点，如何解决的？