基础设施与稳定性工程-AI软硬件性能剖析与优化专家-杭州

优缺点分析

角色解读

• 在AI基础设施领域深耕，成为GPU性能优化与系统架构专家
• 可向技术管理方向发展，带领团队构建大规模AI集群性能优化体系
• 随着AI硬件演进，可拓展至AI ASIC芯片适配与优化，成为硬件与软件协同设计专家
• 设计并实现大规模AI集群的GPU微架构采集工具链，覆盖NVIDIA、AMD及国产GPGPU等多厂商芯片
• 构建AI continuous profiling系统，关联GPU kernel数据与算子执行、框架调度、通信原语等，提供全栈性能瓶颈画像
• 结合Roofline分析与仿真方法，建设集群级软硬件协同的性能分析体系，支撑AI训练与推理负载的系统级优化
• 参与AI基础设施规划，跟踪GPU架构演进，建立硬件性能建模与TCO评估能力，支持多元GPU/AI ASIC芯片适配
• 深入理解GPU微架构、体系结构与性能特性，熟悉NVIDIA、AMD等主流GPU架构
• 掌握C++、Python、CUDA编程，有高性能算子优化经验，熟悉Cutlass、Triton等工具
• 熟悉PyTorch、TensorFlow等AI框架底层实现，了解大模型计算特性（GEMM、Attention等）
• 具备跨团队协作与沟通能力，能够推动性能优化方案落地

申请策略

• 关注阿里巴巴AI基础设施团队的技术博客和开源项目，了解其技术方向
• 在面试中展示对GPU性能优化的热情和实际案例，突出解决问题的能力
• 突出GPU kernel profiling和性能分析的实际项目经验，展示具体优化成果
• 强调对NVIDIA/AMD GPU架构的理解，以及使用CUPTI、nsys等工具的经验
• 展示在AI框架（PyTorch、TensorFlow）底层优化方面的实践，如算子优化、训练推理性能提升
• 深入学习GPU微架构和性能分析工具，如CUPTI、nsys、ncu
• 掌握Cutlass、Triton等高性能算子优化库，理解算子编译优化与硬件特性关系
• 了解大模型训练推理框架（Megatron、DeepSpeed、vLLM）的性能优化技巧

面试指南

• 使用STAR法则（情境、任务、行动、结果）描述项目经验，突出技术细节和量化成果
• 从系统角度分析问题，先定位瓶颈，再提出优化方案，并说明权衡
• 展示对GPU架构和AI框架的深入理解，结合具体工具和案例
• 请描述一次你如何通过GPU profiling定位并优化性能瓶颈的经历
• 如何设计一个无侵入的kernel级采集工具链？
• 解释Roofline模型在GPU性能分析中的应用
• 如何将GPU kernel数据与框架调度、通信性能关联起来进行全栈优化？
• 面对多厂商GPU（NVIDIA、AMD、国产）的架构差异，如何制定统一的性能优化策略？