顶尖实习-大模型推理加速研发研究员-AI基建

优缺点分析

角色解读

• 在AI基础设施与大模型底层优化领域积累深厚的技术壁垒，成为推理加速专家
• 未来可向大模型架构师、AI基建技术负责人或高性能计算专家方向发展
• 参与开源推理引擎（如vLLM/SGLang）的核心功能开发与维护
• 针对大语言模型线上推理框架进行深度性能调优，解决高并发与低延迟问题
• 调研并落地模型量化、蒸馏等前沿轻量化技术，提升整体服务吞吐量
• 精通C/C++与Python，具备扎实的数据结构与算法基础
• 深入理解NVIDIA GPU架构，熟练掌握CUDA编程及显存管理、多流并发等底层优化技术
• 熟悉主流深度学习框架（如PyTorch）及大模型推理框架（如vLLM、SGLang）

申请策略

• 提前了解小米大模型业务的最新进展及AI基建团队的技术博客，在面试中展现对公司技术方向的关注
• 重点突出C/C++与CUDA编程经验，以及在GPU性能调优、显存管理方面的实际项目成果
• 展示在vLLM、SGLang或PyTorch等框架上的源码阅读、二次开发或贡献经历
• 若有ACM/ICPC等算法竞赛获奖经历，或大模型量化/蒸馏相关的研究论文，务必放在显著位置
• 深入学习CUDA编程模型与NVIDIA GPU架构，尝试手写并优化一些基础的算子（如Attention、FlashAttention）
• 阅读vLLM和SGLang的官方文档与核心源码，理解其PagedAttention等核心机制的实现原理

面试指南

• STAR法则：针对项目经验题，清晰阐述背景、任务、具体行动（技术细节）和最终量化收益
• 原理+实践：针对技术原理题，先准确描述底层机制（如GPU内存层级、KV Cache管理），再结合实际代码或调优经验说明如何应用
• 请详细讲解CUDA中核函数的执行模型，以及如何进行显存管理和多流并发优化？
• vLLM中的PagedAttention机制是如何解决显存碎片化问题的？请描述其核心原理
• 在C++项目中，你是如何定位并解决内存泄漏或高并发下的性能瓶颈的？
• 模型量化（如PTQ、QAT）和蒸馏在实际推理加速中是如何权衡精度与性能的？
• 请分享一个你主导的底层性能优化项目，遇到了什么困难，最终如何解决的？
• 复习CUDA编程基础、GPU硬件架构以及C++11/14/17的高级特性，准备手写简单算子的代码