腾讯游戏-大模型推理性能优化工程师/专家

优缺点分析

角色解读

• 在技术层面，可成长为推理性能优化领域的专家，主导关键技术创新
• 可转型为分布式系统架构师，负责设计下一代AI基础设施
• 在管理路径上，可作为技术负责人带领团队，或向技术总监方向发展
• 与算法团队协作，对LLM/VLM/DiT等大模型进行推理性能优化，包括算子、并行策略和低比特计算等
• 基于vLLM、TensorRT-LLM等框架，设计并实现高效的大规模分布式推理引擎
• 针对主流GPU和异构AI芯片进行适配和调优，平衡推理速度与成本
• 精通C/C++和Python，具备扎实的编码和调试能力
• 深入理解大模型推理框架（如vLLM、sglang、TensorRT-LLM），有大规模部署经验
• 熟悉GPU体系结构（如NVIDIA、AMD）及并行编程模型（CUDA、NCCL、RDMA等）
• 了解深度学习网络和算子的底层实现，能进行性能分析和调优

申请策略

• 面试前准备一个完整的推理优化项目复盘，从问题定义到优化方案再到最终效果
• 了解腾讯游戏的大模型应用场景（如游戏NPC、对话系统），展示业务理解
• 突出在大模型推理框架（vLLM、TensorRT-LLM等）上的实际优化案例和性能数据
• 强调GPU编程（CUDA、NCCL）和并行策略（数据并行、流水线并行）的项目经验
• 展示在算子优化、低比特量化、PD分离等具体方向上的成果
• 如果没有量产经验，建议通过开源项目（如vLLM）贡献代码来积累实践
• 深入学习GPU体系结构文档（如NVIDIA的CUDA C++ Best Practices Guide）

面试指南

• 对于优化类问题，采用'问题 → 瓶颈分析 → 解决方案 → 实验验证'的结构
• 对于架构对比类问题，采用'功能对比 → 性能差异 → 适用场景'的框架
• 请描述你在推理优化项目中使用的具体并行策略，以及为什么选择这种策略？
• 如何实现一个高性能的自定义Attention算子？从内存访问和计算角度分析
• 在vLLM框架中，你如何解决显存管理（PagedAttention）的问题？有什么改进想法？
• 当批量推理时，如何平衡延迟和吞吐量？请给出具体方案
• 对比TensorRT-LLM和vLLM，它们的优缺点分别是什么？在什么场景下选用哪个？
• 深入阅读vLLM和TensorRT-LLM的源码，了解其核心设计思想和优化细节