阿里云智能-AI性能优化技术专家-软硬协同加速-杭州

优缺点分析

角色解读

• 技术专家路线：在AI性能优化领域深耕，成为软硬协同优化方向的权威专家
• 技术管理路线：未来可带领团队，负责更大规模AI基础设施的性能优化和架构设计
• 业务影响力路线：通过性能优化直接提升云产品竞争力，对商业化产生核心影响
• 负责AI算法（尤其是大模型）在GPU等硬件上的性能优化，解决算力和访存瓶颈，提升部署效率
• 研发业界领先的计算性能优化算法，并推动其工程落地，为云业务创造核心价值
• 构建高性能AI基础设施，通过软硬协同设计，挖掘组合优化潜力，实现性能和成本优势
• 精通深度学习算法和主流AI技术栈，对大模型训练和推理流程有深入理解
• 具备扎实的工程能力，能独立进行性能分析、优化和落地，熟悉常见性能分析工具
• 熟悉GPU硬件架构和算子优化，有CUDA、Triton等编程经验者优先
• 具备出色的学习和研究能力，能快速掌握新技术，并有良好的沟通表达能力

申请策略

• 了解阿里云在AI基础设施和性能优化方面的布局，如PAI、灵骏等产品
• 在面试中多展示对软硬协同优化的理解，以及如何将技术转化为业务价值
• 突出GPU算子优化、CUDA编程、性能分析等具体项目经验，量化性能提升成果
• 强调对大模型推理引擎（如vLLM、TensorRT-LLM）的优化经验
• 展示在深度学习算法和系统架构方面的综合能力，以及独立解决复杂问题的能力
• 如有相关论文、开源项目或技术博客，务必在简历中体现
• 系统学习CUDA编程和GPU架构，掌握NVIDIA Nsight等性能分析工具
• 深入研究大模型推理优化技术，如量化、蒸馏、算子融合、KV Cache优化等

面试指南

• STAR法则：清晰描述项目背景、任务、行动和结果，突出量化指标
• 结构化思维：从算法、算子、系统、硬件等多个层面系统性地分析问题
• 强调软硬结合：在回答中体现对硬件架构的理解，以及如何与算法结合进行优化
• 请详细描述你做过的一个GPU算子优化项目，包括性能瓶颈分析、优化方案和最终效果
• 如何优化一个Transformer模型在GPU上的推理性能？请从算法、算子、系统层面分别阐述
• 你对CUDA中的内存访问模式、共享内存、Warp调度等概念的理解？
• 如何分析一个AI模型的性能瓶颈？你常用哪些性能分析工具？
• 谈谈你对大模型时代AI性能优化挑战和机遇的看法