Senior GPU Kernel Optimization Engineer

优缺点分析

角色解读

• 技术专家路径：成为GPU计算与AI系统性能优化领域的顶尖专家，解决最具挑战性的技术难题
• 架构师路径：深入参与AI系统或GPU软件栈的架构设计，从更高层面定义技术方向
• 跨领域融合：结合AI与高性能计算，可向AI编译器、芯片协同设计、自动化系统等更广阔领域发展
• 负责为AI大模型训练和推理开发、优化高性能GPU内核，追求极致的计算效率
• 深入分析GPU底层架构，通过内存管理、指令优化、并行策略等手段突破性能瓶颈
• 参与构建AI驱动的自动化开发工具链，探索用AI技术提升内核开发与优化效率的前沿实践
• 与上下游团队紧密协作，确保内核优化能切实提升整个AI系统的端到端性能
• 必须精通CUDA或HIP等GPU编程语言，深刻理解GPU内存层次结构（共享内存、全局内存、常量内存等）与执行模型
• 需要扎实的性能分析能力，熟练使用Nsight等工具定位内核性能瓶颈
• 需要具备AI算子知识，熟悉GEMM、Attention等核心算子的计算模式与优化方法
• C++和Python编程能力是基础，同时需要对计算机体系结构有深入理解

申请策略

• 研究AMD最新的GPU架构（如CDNA/RDNA）和软件生态（ROCm），在面试中体现你对AMD技术的了解
• 准备一个能体现你系统性优化思维的项目案例，从问题定义、性能剖析到方案实施与验证的全过程
• 重点突出使用CUDA/HIP进行GPU内核开发与优化的项目经验，并尽量量化性能提升百分比或具体指标
• 详细描述对GPU内存层次、并行计算模式的理解和应用案例，展示底层优化能力
• 如有使用AI工具（如代码生成、Copilot类工具）提升开发效率的实践，或参与相关项目，应着重描述
• 展示对GEMM、Attention等AI算子的深入理解和优化成果，这是本岗位的核心
• 深入学习LLM训练与推理流程，理解SFT、RLHF等后训练技术对计算内核的特定需求
• 系统学习GPU性能分析工具（如Nsight Compute/System）的高级用法，提升瓶颈定位效率

面试指南

• 对于性能优化案例，采用STAR原则：描述场景(Situation)、任务(Task)、采取的分析优化行动(Action)和最终可量化的结果(Result)
• 对于技术原理问题，结构清晰地阐述概念，结合实际应用场景（如训练vs推理）说明选择不同配置的考量
• 对于系统设计类问题，从需求分析、核心组件设计、关键技术挑战、可行性权衡等方面进行系统性阐述
• 请描述一个你优化过的最复杂的GPU内核案例，遇到了什么性能瓶颈，是如何分析和解决的？
• 请解释GPU中共享内存、全局内存和寄存器的区别与使用场景，以及如何避免共享内存的Bank Conflict？
• 你对Triton这样的高级GPU编程语言怎么看？它相比直接用CUDA编程有哪些优势和局限？
• 如何设计和构建一个用于自动生成高性能GEMM内核的AI Agent？需要考虑哪些关键模块？
• 请谈谈你对LLM推理中Attention算子性能优化的理解，有哪些常见的优化方向？