腾讯游戏-大模型推理性能优化工程师/专家

优缺点分析

角色解读

• 向大模型系统架构师或AI芯片性能优化专家方向发展，成为团队核心技术骨干
• 可横向扩展至分布式计算、异构计算等方向，成为全栈性能优化专家
• 未来可担任技术团队Leader，带领团队攻克复杂性能难题
• 与算法团队深度合作，针对LLM/VLM/DiT等模型进行推理引擎优化，实现高效部署
• 进行PD分离、低比特计算、并行优化、算子优化等，提升分布式推理系统效率
• 支持主流GPU和异构AI芯片，优化大模型推理性能，降低部署成本
• 精通C/C++和Python编程，具备优秀的调试和性能分析能力
• 熟悉vllm、sglang、tensorrt-llm等主流推理框架，有大模型大规模部署经验
• 掌握数据并行、流水线并行等并行策略，了解NVLINK、GPU RDMA通信
• 具备GPU/AI芯片体系结构知识，能进行系统级性能调优

申请策略

• 关注腾讯游戏AI业务方向，了解大模型在游戏中的应用场景，在面试中体现业务理解
• 准备一两个技术深度够的项目案例，展示从问题定位到方案实施的全过程
• 突出大模型推理优化或类似高性能计算项目的具体成果，如推理速度提升、成本降低等量化指标
• 强调熟悉vllm、tensorrt-llm等框架的部署和优化经验，以及并行策略的实际应用
• 展示对GPU架构或AI芯片的深入理解，以及性能分析和调优的实际案例
• 深入学习NVIDIA GPU架构（如Hopper、Blackwell）及CUDA编程，掌握算子编写和优化
• 熟悉主流大模型结构（如LLaMA、LLaVA）的推理特点，了解vllm、tensorrt-llm的源码
• 补充分布式系统和网络通信知识，如NVLINK、RDMA的使用和优化

面试指南

• 采用STAR法则（情境-任务-行动-结果）描述项目经验，突出技术难点和量化改进
• 对于优化类问题，从问题分析、方案设计、实验验证三个步骤展开，体现系统性思维
• 回答技术原理时，先阐述基础概念，再结合具体实践，展示深度和广度的平衡
• 如何优化vllm推理引擎的吞吐量和延迟？请给出具体方案
• 解释PD分离（Prefill-Decode分离）的原理及优势，你如何实现？
• 如何诊断GPU性能瓶颈？请举一个实际调优的例子
• 在分布式推理中，数据并行和流水线并行各有什么优缺点？你会如何选择？
• 你对主流GPU架构（如A100、H100）的算力和带宽如何理解？如何针对其特性优化算子？