顶尖实习-大模型推理加速研究员-AI平台-实习

优缺点分析

角色解读

• 实习表现优秀可转正为正式员工，进入小米AI平台核心研发团队
• 可向大模型推理架构师或AI系统专家方向发展，成为行业稀缺人才
• 积累前沿技术经验（如模型量化、蒸馏），为后续学术研究或工业界深造打下基础
• 参与开源推理引擎vLLM/SGLang的核心功能开发，编写高性能C++和CUDA代码
• 负责大模型推理系统的性能调优，解决高并发、低延迟场景下的系统瓶颈
• 调研并实现模型量化、蒸馏等轻量化技术，提升推理效率
• 精通C/C++和Python，具备扎实的数据结构与算法基础
• 熟悉NVIDIA GPU架构和CUDA编程，有实际性能优化经验
• 了解深度学习推理框架（如vLLM、TensorRT）或训练框架（PyTorch）者优先

申请策略

• 在简历中强调对大规模分布式系统或GPU编程的热情，可附上技术博客链接
• 投递前可尝试提交一些vLLM的小修复或功能PR，增加通过率
• 突出C++和CUDA项目经验，尤其是性能优化相关（如矩阵乘优化、显存优化等）
• 如果有开源项目贡献（尤其vLLM、PyTorch等），务必列出
• 量化展示调优成果，如延迟降低X%、吞吐量提升Y%
• 提前学习vLLM或SGLang的源码结构，理解推理引擎的核心流程
• 熟悉NVIDIA Nsight等性能分析工具，练习CUDA内核编写与优化

面试指南

• 对于性能优化问题，可套用'测量-定位-优化-验证'的框架，结合具体工具（如nvidia-smi、Nsight）和数据
• 对于系统设计问题，先阐述核心概念，再讨论trade-off，最后给出实际案例
• 请解释CUDA中grid、block、thread的层次结构，并举例如何优化内存访问
• 描述你在项目中遇到过的一个性能瓶颈，你是如何分析和解决它的？
• 简述vLLM的PagedAttention原理，以及它如何减少显存浪费？
• 如何在推理过程中实现动态batch（continuous batching）？
• 复习CUDA内存模型、共享内存、流并行等概念，并准备手写简单的kernel
• 阅读vLLM论文和代码，理解PagedAttention、continuous batching等关键技术