英伟达
Software Engineer Intern, AI and DL Kernel Libraries - 2027
Software Engineer Intern, AI and DL Kernel Libraries - 2027
发布于 1 小时前实习/见习
实习生仅现场办公算法优化工程师
算法优化工程师
Cuda
Flashinfer
Gpu编程
Pytorch
Vllm
大语言模型
性能优化
深度学习
值不值得投
88综合评分
综合评分 88
顶尖AI算力底层内核实习岗，技术前沿且成长天花板极高，简历含金量拉满。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
1.1万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中算法优化工程师 6 个
市场机会
选择面较广
上海 · 算法优化工程师 · 约 180 个在招
职位详情
关于这个职位
该职位是英伟达AI与深度学习内核库团队的软件工程师实习生，主要参与GPU加速的深度学习原语、大模型推理等核心底层软件的设计、开发与性能优化
你将与全球顶尖工程师合作，为NVIDIA的AI平台贡献代码，并有机会参与FlashInfer、vLLM等开源社区项目
最低要求
目前就读计算机科学、电子工程或相关专业的本科、硕士或博士学位
具备机器学习、深度学习系统、编译器、系统软件或GPU编程相关的课程、研究或动手项目经验
具备扎实的 C/C++ 和 Python 编程能力
熟悉 CUDA 开发和 GPU 编程基础
有使用或开发 PyTorch、JAX、TensorFlow 或 ONNX 等深度学习框架的经验
理解线性代数、性能分析、性能剖析（profiling）和代码优化
对性能敏感系统的软件抽象、API和更高级别的系统架构感兴趣
对现代机器学习和推理系统趋势感兴趣，特别是大语言模型（LLM）和生成式AI
具备较强的解决问题能力、好奇心，以及在协作环境中高效工作的能力
工作职责
参与生产级软件的开发，这些软件将作为NVIDIA AI软件栈的一部分发布，包括cuDNN、FlashInfer以及对大语言模型推理工作负载的优化支持
协助开发用于高效推理的新型AI系统技术，重点关注性能、可扩展性、可维护性和易用性
支持跨LLM推理、生成式AI、计算机视觉、自动驾驶和推荐系统的高影响力AI工作负载的内核设计、实现和优化
协助为深度学习库、LLM服务引擎和运行时系统构建可扩展的软件抽象
参与针对性能关键的GPU工作负载的即时编译（JIT）、代码生成和运行时技术
分析工作负载性能，调优现有软件，并帮助提出对未来软件和软硬件接口的改进建议
与NVIDIA深度学习框架、库、内核、编译器和GPU架构团队的工程师密切合作
在相关情况下为开源社区和生态系统集成做出贡献，包括FlashInfer、vLLM和SGLang等项目
优先资格
具备 vLLM、SGLang、MLC、TensorRT-LLM 或类似推理引擎和运行时的动手经验
具有特定领域编译器、代码生成或针对 LLM 推理和训练的库解决方案背景
接触过机器学习编译器或 IR 系统，如 MLIR、Apache TVM、TensorIR 或相关技术
具备 GPU 性能建模、计算机体系结构或面向加速器的软件设计的实践经验
在深度学习系统、编译器、内核或推理基础设施方面拥有开源项目所有权或有意义的贡献
AI 洞察
优缺点分析
优点
- 接触全球最顶尖的AI算力底层技术，参与cuDNN、vLLM等明星开源项目
- 与业界顶尖工程师共事，技术视野和底层系统能力将得到极大提升
- 外企实习氛围好，简历含金量极高
- 涉及底层GPU编程和内核优化，技术门槛极高，需要深厚的计算机体系结构和编译原理基础
- 性能调优工作往往需要反复剖析和试错，对耐心和底层debug能力要求苛刻
- 适合对计算机底层架构、GPU编程和高性能计算有浓厚兴趣，且具备扎实C++/CUDA基础的计算机或电子工程相关专业在校生
缺点 / 挑战
暂无明显挑战项
角色解读
- 从底层内核开发实习生成长为AI系统架构师或GPU性能优化专家
- 在顶尖AI基础设施团队积累的经验可无缝衔接大模型底层优化、AI编译器或高性能计算等核心方向
- 参与NVIDIA AI软件栈（如cuDNN、FlashInfer）的底层内核开发与优化
- 针对大模型推理、生成式AI等场景进行GPU性能调优
- 参与vLLM、SGLang等开源项目的贡献与集成
- 扎实的C/C++与Python编程能力，熟悉CUDA及GPU底层架构
- 了解深度学习框架（PyTorch等）及LLM推理引擎
- 具备线性代数、性能分析与代码优化基础
申请策略
- 提前了解NVIDIA在AI基础设施领域的最新开源项目（如FlashInfer），在面试中展现对前沿推理技术的关注与独立思考
- 突出CUDA编程、GPU性能优化或深度学习框架底层开发的项目经验
- 展示在vLLM、PyTorch等知名开源社区的贡献记录（PR/Issue）
- 强调在编译器、系统软件或线性代数优化方面的课程或研究成果
- 深入学习CUDA编程模型及GPU内存层次结构
- 熟悉主流LLM推理引擎（如vLLM、TensorRT-LLM）的源码与运行机制
- 掌握MLIR或TVM等AI编译器基础
面试指南
- 采用STAR法则，重点突出“问题定义-底层原理分析-优化方案实施-性能指标对比”的闭环
- 对于系统架构问题，从硬件特性（如SRAM、HBM带宽）出发推导软件设计的合理性
- 请描述一次你使用CUDA进行GPU性能优化的经历，遇到了什么瓶颈，如何解决的？
- 在深度学习框架中，算子融合（Operator Fusion）的原理是什么？它对性能有什么影响？
- 请谈谈你对LLM推理中Attention机制计算瓶颈的理解，以及FlashAttention等优化方案的思路
- C++中的内存管理在GPU编程中如何映射？如何避免内存泄漏和带宽浪费？
- 复习计算机体系结构、CUDA编程模型及线性代数基础
- 阅读FlashInfer、vLLM等项目的核心论文或源码，准备1-2个深入的底层技术探讨话题
职位点评
薪资福利85
成长发展98
工作生活75
使命价值90
薪资福利
85较高
顶尖外企实习津贴处于市场较高水平，且转正机会和简历背书价值极高，但实习期本身薪资受限于实习生身份。
薪资信号未披露（AI估算：8千–1.3万/月）
成长发展
98较高
处于AI算力最核心的底层内核团队，接触最前沿的GPU编程与大模型推理优化技术，技术成长天花板极高。
技术前沿前沿/新兴技术
技术栈CUDA、C/C++、Python、PyTorch、vLLM、FlashInfer、MLIR、TensorRT-LLM
成长机会collaborate with world-class engineers、open-source communities
业务类型profit_center
工作生活
75中等
典型外企实习，工作氛围相对人性化，但底层性能优化岗位在项目攻坚期可能面临一定的工作强度。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
90较高
参与构建推动全球AI发展的底层算力基础设施，社会价值与行业影响力巨大。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号groundbreaking technologies、high-impact AI workloads
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs