AI Framework Engineer

优缺点分析

角色解读

• 沿 AI Infra 与高性能计算方向深耕，成长为 GPU 性能与框架优化方向的专家
• 通过持续向开源社区提交高质量改动积累影响力，有机会成为框架的活跃贡献者或维护者
• 进一步可向系统架构师或技术团队负责人方向发展，负责更大范围的技术决策
• 为 AMD GPU 优化深度学习框架，提升大模型训练与推理的吞吐和延迟表现
• 在 vLLM、SGLang 等主流框架上做端到端分布式推理（P/D 分离、Large-EP）与 RL 方案优化
• 与内部 GPU 库团队及开源社区维护者协作，分析瓶颈并把优化代码合入上游
• 借助 LLVM/ROCm 等编译器技术与图编译器，优化完整的深度学习流水线
• Linux 环境下扎实的 C++ 开发能力，并熟练使用 Python 做调试与性能调优
• GPU kernel 开发与优化经验，熟悉 HIP/CUDA/ASM，了解 GCN、RDNA 等 AMD 架构
• 熟悉 PyTorch/TensorFlow、vLLM、SGLang 等框架及其分布式并行机制
• 理解编译器原理与 LLVM/ROCm，具备异构集群上运行大规模负载的经验

申请策略

• 附上 GitHub 主页或 PR 链接展示开源贡献，这比简历描述更有说服力
• 提前了解 AMD 在 AI 加速卡与 ROCm 软件栈上的最新进展，便于面试中展开讨论
• 重点突出 GPU kernel 优化经历，用量化指标说明吞吐、延迟或算力利用率的提升
• 写明在 vLLM、SGLang、PyTorch 等框架上的二次开发或上游贡献经历
• 展示多卡多机分布式训练/推理实战经验，如专家并行、P/D 分离等方案落地
• 列出编译器与算子库相关经验，如 LLVM、Triton、CUTLASS、ROCm
• 补强 HIP/ROCm 生态与 AMD GPU 架构知识，缩小与 CUDA 经验之间的迁移成本
• 阅读 vLLM 与 SGLang 源码，理解调度、KV cache 管理与并行策略的实现细节

面试指南

• 讲性能案例时用「场景—瓶颈—方案—量化结果」的结构，突出你的判断依据
• 回答技术细节先讲原理再讲取舍（trade-off），体现对系统的整体理解
• 遇到不熟悉的领域坦诚说明，并展示你的分析思路与可迁移经验
• 请介绍一次你做过的 GPU kernel 优化，你是如何定位瓶颈并验证效果的？
• vLLM 中的 P/D 分离是如何实现的？落地时会遇到哪些性能挑战？
• 多机多卡推理时，你如何做通信与计算的重叠优化？
• 你如何理解 LLVM 在 AI 编译器链路中的作用？
• 为什么选择 AMD？你如何看待 ROCm 生态的现状与前景？