腾讯游戏-高性能算子优化工程师/专家

优缺点分析

角色解读

• 向GPU计算专家或系统架构师方向发展，主导大规模AI基础设施的优化
• 横向拓展至分布式训练框架或编译器优化领域，成为全栈系统优化人才
• 技术管理路线：可逐步带领算子优化团队，或转向AI基础设施技术总监
• 设计并实现用于大模型训练/推理的高性能GPU算子，优化计算瓶颈
• 使用CUDA、CUTLASS、Triton等框架进行算子开发，并利用性能分析工具（如Nsight）进行调优
• 与分布式系统团队协作，优化通信算子并实现计算与通信的重叠，提升整体训练效率
• 扎实的C/C++编程功底，熟悉高性能计算和并行编程
• 精通CUDA及GPU体系结构，能深入理解SM、Warp、内存层次等概念
• 熟悉算子开发框架（CUTLASS/Triton）以及分布式并行原理
• 熟练使用性能分析工具进行瓶颈定位与优化

申请策略

• 提前了解腾讯游戏AI方向的具体业务（如游戏大模型应用），在面试中展现对业务场景的理解
• 准备好一两个深入的技术案例，能清晰讲述问题、分析思路和优化效果
• 突出GPU相关项目经验，尤其是使用CUDA/CUTLASS/Triton的优化案例，附性能提升数据
• 强调C/C++编程能力，如参与过大型系统或底层库开发
• 如有分布式训练或通信优化经验，务必详细描述方案与成果
• 若实战经验不足，可学习CUDA编程（如《CUDA编程：基础与实践》），并尝试复现常见算子优化
• 熟悉NVIDIA Nsight系列工具的使用，能在简历中体现性能调优方法论

面试指南

• 针对性能优化问题，采用“问题分析→性能瓶颈定位→优化策略→验证结果”的框架，突出数据驱动的思考
• 对于设计类问题，先明确需求假设，再给出Base方案，然后逐步提出优化点（如减少访存、增加并行度）
• 请解释GPU的warp调度机制和occupancy如何影响性能？
• 设计一个softmax kernel的CUDA实现，并考虑如何优化？
• 你如何在大规模分布式训练中减少通信开销？请举例说明
• 对CUTLASS或Triton的理解，它们各自的优缺点？
• 用Nsight发现kernel的瓶颈是memory-bound，你会如何优化？
• 复习GPU体系结构（如CUDA编程指南、NVIDIA白皮书），熟悉常用优化技巧