智能引擎-多模态模型优化专家-GPU/NPU/XPU

优缺点分析

角色解读

• 技术专家路线：在算子优化和异构计算领域深耕，成为公司内顶尖的性能优化专家
• 架构师路线：从单一算子优化扩展到整个推理系统的架构设计，负责大规模pipeline的优化
• 管理路线：带团队负责核心优化项目，逐步走向技术管理岗位
• 主导或参与算子平台化优化，使用Triton、TileLang、MLIR等技术栈，定制和优化模型结构，缩短新卡型适配周期
• 使用Profiling工具对模型在异构硬件上的端到端性能进行分析，定位Kernel执行、数据搬运、通信等瓶颈，提出优化方案
• 深入分析华为昇腾、AMD MI系列等异构芯片的指令集和存储层级，使用原生语言手写和优化核心算子，实现极致性能
• 精通至少一种异构计算平台及编程模型，如CUDA、ROCm、OpenCL、SYCL、CANN等
• 熟悉现代AI模型中关键算子的计算原理和优化方法，有MLIR/LLVM或Triton/TVM开发经验
• 具备扎实的计算机体系结构知识，深入理解指令集、存储层级（HBM/Cache）和计算单元特性

申请策略

• 了解阿里巴巴离线推理团队的业务方向，以及千问、百炼等合作项目
• 准备一个你主导的性能优化案例，展示你的技术深度和解决问题的能力
• 突出GPU/NPU/XPU高性能计算优化经验，详细描述在异构计算平台上的项目成果
• 强调MLIR/LLVM或Triton/TVM开发经验，展示对编译技术的深入理解
• 如果有针对AMD、华为、Intel等特定AI芯片的调优经验，务必重点提及
• 深入学习Triton、TileLang等算子开发框架，掌握其核心原理和最佳实践
• 熟悉MLIR/LLVM的架构和优化pass，了解编译优化流程
• 了解华为昇腾CANN、AMD ROCm等平台的特性和优化技巧

面试指南

• 使用STAR法则（情境、任务、行动、结果）描述项目，突出你的技术决策和量化成果
• 展示你的分析思路：从Profiling数据出发，定位瓶颈，提出优化方案，并验证效果
• 强调你的技术深度和解决问题的能力，展示你对底层原理的理解
• 请介绍一个你使用Triton或MLIR进行算子优化的项目，具体优化了哪些性能指标？
• 如何分析一个模型在异构硬件上的性能瓶颈？请描述你的分析流程
• 针对华为昇腾或AMD MI系列芯片，你会如何设计一个核心算子的优化方案？
• 你如何理解编译技术在AI推理加速中的作用？
• 复习CUDA、ROCm等编程模型，熟悉其核心概念和优化技巧