AI Framework Engineer

优缺点分析

角色解读

• 技术专家路线：深耕AI框架底层优化，成为GPU计算和编译器领域的权威
• 架构师路线：从模块优化扩展到系统架构设计，主导下一代AI计算平台
• 管理路线：带领优化团队，负责关键项目交付和技术决策
• 开发和优化AI推理框架（如vllm、sglang），提升大模型在AMD硬件上的性能
• 设计和实现GPU内核（CUDA/Triton），进行算子融合和流水线优化
• 使用性能分析工具（Nsight、ROCprofiler）进行roofline分析，定位性能瓶颈并改进
• 利用AI Agent工具辅助测试和分析，提高开发效率
• 精通C/C++和Python，具备扎实的系统编程能力
• 深入理解大语言模型推理框架（vllm、sglang）及社区贡献经验
• 熟悉GPU编程模型（CUDA/Triton）和AI算子库（flashInfer、CUTLASS等）
• 具备性能分析和优化的系统思维，熟悉roofline模型及profiling工具

申请策略

• 提前研究AMD的AI战略和ROCm生态，在面试中展现对齐的业务理解
• 准备一个完整的性能优化案例，从问题定义到量化结果，体现系统思维
• 突出大语言模型框架（vllm/sglang）的贡献经历，展示开源参与度
• 详细描述GPU内核优化项目，包括性能提升数据和使用的技术栈
• 强调C++/Python编程能力，展示复杂系统中的调试和优化案例
• 深入学习Triton编译器后端和LLIR汇编，尝试实现自定义调度策略
• 熟练使用Nsight或ROCprofiler进行性能分析，完成至少一个端到端优化案例
• 关注AMD ROCm生态，了解Aiter库并尝试提交PR

面试指南

• 结构化回答：问题定义→分析工具→优化方案→量化结果，展示系统思维
• 技术深度：从理论到实践，结合具体代码和性能数据，体现对底层细节的掌握
• 协作沟通：强调跨团队合作和代码评审经验，契合AMD的协作文化
• 请描述你如何优化一个LLM推理框架中的性能瓶颈？
• 解释Triton编译器中的流水线优化原理？
• 你如何分析一个GPU kernel的roofline模型？
• 你有过哪些开源社区贡献？请举例说明
• 如何处理C++中的内存管理和并发问题？