资深优化专家（天津）(J13633)

优缺点分析

角色解读

• 可成为AI编译器、异构计算框架或特定领域（如LLM推理）的深度优化专家
• 有机会参与定义下一代AI计算基础软件标准，成为技术架构师
• 在AI基础设施领域积累深厚经验，可向技术管理或首席科学家方向发展
• 负责为AI（特别是大模型）和科学计算任务开发底层高性能计算库与算子
• 分析软件性能瓶颈，针对GPU等加速硬件进行深度算法调优，提升计算效率
• 参与从单个算子到模型端到端的全链路性能优化，探索并实现前沿的推理加速技术
• 精通C++编程和GPU并行计算模型（如CUDA/OpenCL），有扎实的计算机体系结构和操作系统知识
• 深入理解深度学习框架（如PyTorch、TensorRT）原理及AI模型（CNN/Transformer）的计算特点
• 具备丰富的性能分析和调优经验，熟悉内存优化、算子融合、量化等关键技术

申请策略

• 研究中科曙光在高性能计算和AI芯片（如海光DCU）领域的产品与技术路线，理解其生态需求
• 在面试中，准备一个你过去最复杂的性能优化案例，清晰阐述问题分析、优化思路、实现细节和最终效果
• 详细描述你在GPU优化、CUDA/OpenCL开发以及具体算子（如GEMM、Attention）性能优化方面的项目经验与成果（如具体提升了多少倍性能）
• 突出你对深度学习框架原理的理解，以及你参与或主导的与模型推理/训练性能优化相关的项目
• 列出你熟悉的底层计算库（如cuDNN）、编译器技术（如TVM）或参与的开源项目贡献
• 系统复习并行算法与计算机体系结构知识，针对GPU架构（如NVIDIA Ampere/Hopper）进行深入学习
• 尝试为常见的深度学习算子（如FlashAttention）实现一个高性能的CUDA kernel，或优化一个开源AI框架的组件
• 跟踪前沿的大模型推理优化技术（如量化、投机解码），阅读相关论文并尝试复现核心思路

面试指南

• 对于优化案例类问题，使用STAR法则（情境、任务、行动、结果）结构化回答，重点突出你的分析方法和技术手段
• 对于算法优化类问题，先理解算法核心，再从计算访存比、并行度、硬件特性匹配等角度分析优化方向
• 对于框架和工具类问题，结合实际使用经验，阐述其原理、适用场景以及你在实际项目中的取舍
• 请描述一个你优化过的最复杂的GPU算子或程序，你是如何定位性能瓶颈并最终提升性能的？
• 对于大语言模型推理中的Attention机制，你认为有哪些性能优化的关键点？如果让你实现，你会考虑哪些方面？
• 如何评估一个计算密集型算法在特定GPU上的性能潜力？你会用到哪些工具和方法？
• 谈谈你对CUDA内存层次结构的理解，以及如何根据算法特点进行内存优化
• 你了解或使用过哪些AI编译器或推理优化框架（如TensorRT, TVM）？它们的核心思想和优缺点是什么？