AI framework Eng.

优缺点分析

角色解读

• 深耕 GPU Kernel 与编译器优化，可成长为 AI 系统性能领域的资深/首席工程师，这类人才在 AI 芯片与框架生态中非常稀缺
• 也可横向拓展到 AI 框架架构、异构计算平台或系统软件方向，承担技术负责人角色
• 由于直接面向开源社区，长期积累的 upstream 贡献会成为个人技术品牌的重要资产
• 你主要负责把 TensorFlow、PyTorch 等主流深度学习框架在 AMD GPU 上跑得更快：从算子级 GPU Kernel 编写与调优，到模型和端到端流水线的性能优化
• 工作会横跨单机多卡与多机多节点场景，还要把优化代码提交并合入上游开源仓库
• 日常需要与内部 GPU 库团队、编译器团队以及开源社区维护者频繁沟通对齐
• 核心是 Linux 下的 C++ 硬功底加上 GPU 底层能力：熟悉 CUDA/HIP 编程、AMD GCN/RDNA 架构、汇编与 CK/CUTLASS/Triton 等 Kernel 工具链
• 需要理解深度学习框架内部机制，能把 Kernel 级优化落到框架训练/推理路径上
• 编译器方向需要了解 LLVM、ROCm 与图编译器，分布式场景还需熟悉异构集群的大规模负载调优

申请策略

• 投递前先了解 AMD 在 MI 系列加速卡与 ROCm 软件栈上的最新进展，面试中能结合具体版本/工具谈优化会显著加分
• 简历中可附上 GitHub 或开源贡献链接，方便面试官直接核验代码能力
• 重点突出 GPU Kernel 开发与优化经历，写清楚优化前后的性能指标（吞吐、延迟、加速比）以及所用工具链（HIP/CUDA、CUTLASS、Triton、CK）
• 列出参与过的深度学习框架相关贡献，尤其是合入上游开源仓库的 PR 或 commit
• 展示分布式训练/推理的规模场景（多少卡、多少节点、遇到什么瓶颈、如何解决）
• C++ 与 Linux 系统级调试能力（perf、nsys、rocm-profiler 等）也要单独体现
• 如果缺少 AMD 生态经验，可提前熟悉 ROCm、HIP 编程模型与 GCN/RDNA 架构差异，做几个 Kernel 优化小项目
• 补强编译器相关知识，理解 LLVM IR 与图编译器在框架中的作用

面试指南

• 性能类问题建议用“场景—瓶颈定位—方案对比—量化结果—经验沉淀”的结构回答，务必带上具体指标和工具
• 框架类问题建议从调用栈自上而下讲：Python 前端 → 图/编译层 → 算子库 → Kernel，说明你在哪一层做了什么
• 协作类问题可按“先对齐需求与约束 → 用数据说话 → 拆小 PR 分步合入 → 持续跟进反馈”的思路展开
• 请介绍一次你在 AMD GPU 或 NVIDIA GPU 上做 Kernel 优化的完整案例，瓶颈是如何定位的，最终提升了多少？
• 在 PyTorch 中新增或优化一个算子，从框架层到 Kernel 层需要改动哪些地方？如何保证与上游兼容？
• 多卡/多节点训练时常见的性能瓶颈有哪些？你会怎么用 profiling 工具定位通信与计算的重叠问题？
• 你对 LLVM/图编译器在深度学习框架中的作用怎么理解？有过哪些相关的调优经验？
• 与开源社区维护者意见不一致时，你会如何推动你的改动被合入上游？