游戏AI-高性能推理系统研发工程师

优缺点分析

角色解读

• 技术深耕：成为AI系统优化专家，领导更大规模的高性能计算项目
• 架构升级：转向AI基础设施架构师，设计下一代训练/推理平台
• 管理方向：带领高性能计算团队，负责技术方向与团队建设
• 负责腾讯开悟平台的AI模型训练与推理系统的底层优化，提升GPU计算效率
• 优化vLLM、SGLang等推理框架的核心模块，实现高性能算子与算法
• 深入分析GPU硬件架构，利用CUDA/ROCm进行内核调优，解决性能瓶颈
• 探索MoE、动态计算图等前沿技术，推动AI工程化落地
• 精通CUDA/ROCm编程和GPU底层优化，包括PTX指令调优、显存带宽优化
• 熟悉Megatron-LM、DeepSpeed等分布式训练框架，具备千亿参数模型并行经验
• 掌握大模型训练全流程优化，能使用Profiling工具定位性能瓶颈
• 了解vLLM、SGLang等推理框架原理，有扩展和优化经验者优先

申请策略

• 在面试中展示对性能调优的实战案例，包括定性和定量分析
• 了解腾讯开悟平台的应用场景，思考如何提升其AI推理效率
• 突出GPU内核优化项目经验，量化性能提升（如吞吐量、延迟改善百分比）
• 详细描述参与过的大模型训练/推理优化工作，包括使用的框架和具体优化点
• 展示对NVIDIA/AMD硬件架构的理解，如Tensor Core、显存带宽等
• 如果有开源贡献（如vLLM、DeepSpeed），重点列出
• 深入复习CUDA编程模型，包括PTX指令和内存管理
• 学习Megatron-LM和DeepSpeed的源码，理解并行策略

面试指南

• STAR法则：描述情境、任务、行动、结果，重点突出量化的性能提升
• 对比分析法：在解释优化技术时，对比优化前后的效果，说明原理
• 系统思维：从硬件、框架、算法等多维度综合回答性能问题
• 请详细描述一次GPU内核优化的经历，你如何识别和解决性能瓶颈？
• 解释Megatron-LM中的张量并行和流水线并行是如何工作的？
• 在大模型训练中，如何处理显存不足的问题？请列出至少三种技术
• 你对vLLM的PagedAttention了解多少？它与传统attention相比有哪些优势？
• 如何优化大模型的推理延迟？请从系统和算法层面分别讨论