Solution Architecture Intern, AI Infra - 2026

优缺点分析

角色解读

• 技术深潜：成为高性能计算和AI系统优化专家，未来可从事AI编译器、分布式系统等方向
• 架构转型：积累系统级设计经验，转向AI解决方案架构师或系统架构师
• 学术衔接：实习经历为攻读更高学位或进入顶级AI实验室奠定基础
• 你将深入开源推理框架（SGLang、vLLM）的底层，贡献代码并优化算子性能
• 设计和实现CUDA内核（如GEMM、attention），提升LLM推理和训练的效率
• 开发KV-cache卸载框架，突破显存限制，加速大模型推理
• 研究分布式训练中的计算瓶颈，提出并实施性能优化方案
• 扎实的编程基础（C/C++、Python），熟悉数据结构和计算机体系结构
• 对GPU编程和并行计算有深入理解，CUDA编程经验为重要加分项
• 熟悉机器学习框架（PyTorch等）和常见模型结构（Transformer）
• 具备性能分析和调优经验，能使用工具定位瓶颈

申请策略

• 在简历和面试中展现对英伟达技术的热情，提及具体使用过的工具或参与过的社区
• 提前了解英伟达在AI基础设施领域的最新动态（如DGX Cloud、AI Enterprise）
• 突出高性能计算或GPU编程相关项目经验，如CUDA优化、并行算法实现
• 强调开源贡献经历，如向vLLM、PyTorch等提交过PR
• 展示对LLM推理系统的理解，包括KV-cache、批处理等优化技术
• 附上GitHub链接或技术博客，证明编程和解决问题的能力
• 系统学习CUDA编程和GPU架构（如NVIDIA官方课程）
• 动手实践开源推理框架，尝试复现或改进其优化策略

面试指南

• 结构化回答：先概述原理，再结合项目经验，最后总结收获
• 采用STAR法则（情境、任务、行动、结果）描述项目经历
• 对不确定的问题，坦诚承认并展示推理过程，体现学习能力
• 请解释CUDA中warp和thread block的关系，以及如何优化全局内存访问
• 你如何优化一个LLM推理的attention计算？FlashAttention的原理是什么？
• 描述一个你参与的性能优化项目，用了哪些工具和方法？结果如何？
• 你对vLLM或SGLang的架构了解多少？它们如何实现高效推理？
• 如何理解分布式训练中的all-reduce？有实际调优经验吗？