【提前批-大模型】大模型推理系统工程师

优缺点分析

角色解读

• 可向AI系统架构师方向发展，负责大型推理系统的设计与架构决策
• 深耕技术领域，成为推理优化、模型部署等方面的专家
• 也可结合算法背景，转向AI算法研究或全栈AI工程岗位
• 负责AI模型的推理系统研发与性能优化，包括模型部署、资源调度和可观测性搭建
• 与算法团队合作，进行算法与系统的联合设计，如量化、稀疏注意力和投机采样等优化
• 跟踪行业前沿技术，开展创新研究以提升推理系统的效率与能力
• 精通Linux环境下的C/C++和Python编程，具备高性能计算能力
• 深入了解至少一种推理引擎（如vLLM、SGLang）的底层设计
• 掌握GPU硬件架构和软件栈，熟练使用性能分析工具进行调优

申请策略

• 提前了解米哈游的AI业务方向，尤其是游戏中的AI应用场景，可在面试中展示匹配度
• 准备一个完整的推理系统优化案例，从问题分析到方案实现再到效果评估
• 突出推理引擎相关项目经验，如使用vLLM、TensorRT等部署模型的经历
• 强调性能优化成果，例如吞吐量提升、延迟降低的具体数据
• 展示对GPU架构的理解，包括CUDA编程、内核优化等
• 如有论文或开源贡献，务必列出，尤其是AI系统方向
• 深入学习至少一种推理引擎的源码（如vLLM），理解其调度机制和内存管理
• 加强CUDA编程和GPU性能分析能力，熟悉NVIDIA Nsight等工具

面试指南

• 对于系统设计类问题，采用“现状-问题-方案-效果”的结构，先说明系统背景，再指出瓶颈，然后提出优化措施，最后量化收益
• 对于技术原理类问题，先阐述基本概念，再结合实际经验举例说明，最后总结对业务的影响
• 请分析vLLM的调度机制，与传统的推理框架相比有哪些优势？
• 如何优化一个批处理推理请求的吞吐量？请给出具体方案
• 解释GPU的内存层次结构，并说明如何利用共享内存优化kernel
• 在大模型推理中，量化（如INT8/FP8）如何影响精度和性能？
• 描述一次你解决的推理系统性能瓶颈问题，解决思路是什么？
• 复习推理引擎的经典论文（如vLLM、TensorRT-LLM），理解其核心创新点