AI Software System Design Engineer

优缺点分析

角色解读

• 技术方向：从GPU内核专家成长为AI系统架构师，主导大规模训练/推理系统设计
• 管理方向：可逐步带领技术团队，担任技术负责人或团队经理
• 行业影响：参与定义AMD GPU的AI软件生态，成为AI基础设施领域的核心贡献者
• 负责为AMD服务器GPU开发机器学习端到端定制软件解决方案，包括内核算子（如Attention、MOE）的设计与实现
• 与顶级客户合作，提供技术支持并推动PoC（概念验证）项目的成功
• 从GPU内核到AI框架及分布式方案，全面优化训练和推理的性能与稳定性
• 分析竞争对手方案，提炼技术优势以支持产品价值主张
• 精通GPU内核编程，如Triton/DSL、CUDA/HIP、PTX/ASM，以及相关库（Cutlass/CK）
• 扎实的C++和Python编程能力，具备调试和性能分析经验
• 熟悉主流AI推理/训练框架（如vLLM、Megatron-LM、TensorRT-LLM）及分布式策略
• 掌握模型优化流程（GEMM调优、图优化、算子融合）和编译器相关知识

申请策略

• 在简历中用量化数据（如延迟降低、吞吐提升）体现具体贡献
• 提前了解AMD ROCm生态和GPU架构（如MI300），在面试中展现对硬件的理解
• 突出GPU内核优化项目，包括使用Triton/CUDA实现的Attention、MOE等算子的性能提升数据
• 强调端到端AI系统优化经验，如从算子到框架的推理加速案例
• 展示分布式训练/推理项目，说明参与的技术方案和成果
• 提及与客户或跨团队协作的经历，体现沟通和技术推动能力
• 复习Triton语言和CUDA最新特性，可实际编写优化内核
• 熟悉vLLM、TensorRT-LLM等推理框架的源码和调优手段

面试指南

• STAR法则（情境、任务、行动、结果）：先描述项目背景和目标，然后说明你的技术方案和实现细节，最后用数据展示效果
• 对比分析法：在解释技术选型时，列出不同方案的优缺点，并结合实际约束（如显存、带宽）给出推荐
• 分层排查法：对于性能问题，从应用层到驱动层逐层分析，使用profiler定位瓶颈
• 请详细介绍一个你优化过的GPU内核，你是如何分析和提升性能的？
• 如何实现Flash Attention在AMD GPU上的移植？会遇到哪些挑战？
• 在分布式训练中，如何选择并行策略（TP/PP/DP）？请结合具体场景说明
• 你使用过哪些AI推理框架？请对比它们的性能差异和适用场景
• 如果一个客户模型在AMD GPU上性能不佳，你如何系统地排查和优化？