Sr. Software System Designer

优缺点分析

角色解读

• 技术深耕方向：成为GPU计算和AI系统工程领域的专家，主导核心内核优化和框架设计
• 架构演进方向：从软件系统设计扩展至系统架构师，负责整体AI计算平台的设计和规划
• 管理方向：逐步带领技术团队，从技术负责人晋升为工程经理，负责团队管理和项目交付
• 负责AMD服务器GPU上机器学习端到端定制软件解决方案的开发、调试和优化
• 与顶级客户合作，提供技术提案和概念验证支持，确保客户成功
• 分析并优化训练和推理工作负载，涵盖从底层内核到上层框架的全栈性能
• 参与AI软件性能和稳定性的定制需求，推动从POC到产品发布的流程
• 精通GPU内核算子开发，如MHA、MLA、MOE等，掌握Triton/DSL、CUDA/HIP、PTX/ASM等编程语言
• 扎实的C++和Python编程能力，具备调试和性能分析经验
• 熟悉AI推理优化流程，包括GEMM/卷积调优、图优化和算子融合
• 了解主流AI框架和分布式解决方案，如vLLM、TensorRT、Megatron-LM等

申请策略

• AMD非常看重技术深度和实际解决问题的能力，在简历和面试中多用量化数据和具体案例展示你的贡献
• 了解AMD的GPU产品（如MI300系列）和ROCm生态，体现对公司和技术的热情
• 突出GPU内核开发经验，列举具体项目（如Attention算子的优化、MOE实现等），并提及使用的工具和框架
• 强调C++和Python编程能力，展示在性能调优和调试方面的成果，例如性能提升百分比
• 列出熟悉的AI框架和分布式解决方案，特别是vLLM、TensorRT、Megatron-LM等，并说明实际应用场景
• 如果对Triton/DSL或CUDA/HIP不够熟练，建议通过官方文档和开源项目（如Flash Attention）进行实战练习
• 补充AI框架相关的知识，尤其是推理优化（如TensorRT-LLM）和分布式训练（如DeepSpeed）

面试指南

• 对于技术类问题，采用STAR法则（情境、任务、行动、结果），突出量化结果和技术细节
• 对于架构设计类问题，从需求分析开始，逐层拆解，说明权衡和选择依据
• 对于开放性讨论类问题，展示系统思维，结合实际经验，给出有洞察力的观点
• 请详细描述你优化过的一个GPU内核，你是如何分析性能瓶颈并实现优化的？
• 如何实现在vLLM中集成一个新的注意力算子？需要考虑哪些方面？
• 请解释分布式推理中TP（张量并行）和PP（流水线并行）的优缺点及适用场景
• 你如何处理客户提出的一个非常规的AI性能需求？请举例说明
• CUDA和ROCm的主要区别是什么？你在移植CUDA代码到ROCm时遇到过哪些问题？