Senior GPU Kernel Optimization Engineer

优缺点分析

角色解读

• 纵向可发展为GPU架构专家或AI系统性能优化首席工程师，主导下一代芯片的软件栈优化
• 横向可向AI基础设施架构师或AI编译器/框架研发方向拓展，参与大规模分布式训练系统的底层设计
• 负责AI训练和推理场景下的高性能GPU内核与算子（如GEMM、Attention、MoE）的设计、开发与优化
• 利用CUDA、HIP、Triton等框架编写底层代码，并通过性能分析工具（Nsight、rocprof）进行内存、并行和架构级调优
• 探索并构建AI驱动的编码代理（Coding Agents）和自动化工作流，提升内核生成与验证的效率
• 精通C++/Python编程，具备扎实的底层系统开发能力
• 深入理解GPU架构（内存层次、寄存器压力、共享内存等），熟练使用Nsight/rocprof等性能分析工具
• 熟悉主流AI算子（GEMM、Attention等）的计算逻辑及优化策略（如Kernel Fusion、通信计算重叠）

申请策略

• AMD非常看重ROCm生态的建设，建议在面试前了解AMD GPU架构（如CDNA/RDNA）与NVIDIA的差异及ROCm的优化特点
• 重点突出在CUDA/HIP/Triton等框架下的实际Kernel开发经验，以及具体的性能提升数据（如提升XX%吞吐量）
• 详细列举优化过的AI算子（如GEMM、Attention），说明使用的优化策略（如Kernel Fusion、Shared Memory优化）
• 若有AI Coding Agent、自动化工作流或开源社区（如Triton、vLLM）的贡献经历，务必放在显眼位置
• 深入学习GPU内存层次结构和并行计算模型，熟练掌握Nsight Compute/Systems等高级Profiling工具
• 了解当前大模型推理框架（如vLLM、TensorRT-LLM）的底层实现，补充LLM后训练（SFT/RLHF）的基础知识

面试指南

• 性能优化问题：采用‘背景-瓶颈定位-优化策略-量化收益’的STAR框架，重点突出Profiling数据和硬件原理分析
• 系统设计问题：从‘需求分析-架构设计-核心模块-评估与迭代’展开，体现全局观和工程落地能力
• 请详细描述你优化过的最复杂的GPU Kernel，遇到了什么瓶颈，是如何通过Profiling工具定位并解决的？
• 在优化Attention或GEMM算子时，你是如何处理内存带宽瓶颈和计算单元利用率之间的平衡的？
• 谈谈你对Kernel Fusion的理解，在什么场景下融合Kernel收益最大，又有哪些潜在风险？
• 如果让你设计一个AI驱动的Coding Agent来辅助Kernel生成，你会如何设计其工作流和评估指标？
• 复习GPU体系结构核心概念（如Warp调度、Memory Coalescing、Bank Conflict），并准备1-2个深度的性能优化实战案例
• 了解AMD ROCm生态及HIP编程模型，对比其与CUDA的异同，展现对目标公司技术栈的熟悉度