英伟达
Software Engineer Intern, AI and DL Kernel Libraries - 2027
Software Engineer Intern, AI and DL Kernel Libraries - 2027
发布于 2 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Cuda
Gpu编程
Pytorch
Vllm
大模型推理
性能优化
深度学习
编译器
值不值得投
74综合评分
综合评分 74
顶尖AI底层技术平台、技能成长极快、技术壁垒高、工作节奏偏紧
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
2.0万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 510 个在招 · 其中机器学习工程 21 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 400 个在招
职位详情
关于这个职位
负责英伟达上海团队AI与深度学习内核库的实习岗位，主要参与底层GPU编程、性能优化及大模型推理引擎的开发
你将与资深工程师协作，直接贡献于cuDNN、FlashInfer等核心软件栈，提升AI工作负载的运行效率
最低要求
目前正在攻读计算机科学、电气工程或相关领域的学士、硕士或博士学位
在机器学习、深度学习系统、编译器、系统软件或GPU编程方面有课程、研究或动手项目经验
具备扎实的C/C++和Python编程能力
熟悉CUDA开发和GPU编程基础
有使用或开发PyTorch、JAX、TensorFlow或ONNX等深度学习框架的经验
理解线性代数、性能分析、性能剖析和代码优化
对性能敏感系统的软件抽象、API和更高层系统架构感兴趣
对现代机器学习和推理系统趋势感兴趣，特别是围绕大语言模型(LLMs)和生成式AI
具备强大的问题解决能力、好奇心，并能在协作环境中有效工作
工作职责
为NVIDIA AI软件栈（包括cuDNN、FlashInfer及针对大语言模型推理工作负载的优化支持）贡献生产级软件
协助开发高效推理的新AI系统技术，重点关注性能、可扩展性、可维护性和可用性
支持为LLM推理、生成式AI、计算机视觉、自动驾驶和推荐系统等高影响力AI工作负载设计和实现内核优化
协助构建用于深度学习库、LLM服务引擎和运行时系统的可扩展软件抽象
为对性能要求极高的GPU工作负载贡献即时编译、代码生成和运行时技术
分析工作负载性能，调优现有软件，并帮助提出未来软件和软硬件接口的改进建议
与NVIDIA内部的深度学习框架、库、内核、编译器和GPU架构团队工程师紧密合作
在相关情况下为开源社区和生态系统集成做出贡献，包括FlashInfer、vLLM和SGLang等项目
优先资格
具有vLLM、SGLang、MLC、TensorRT-LLM或类似系统的推理引擎和运行时动手经验
拥有面向LLM推理和训练的领域特定编译器、代码生成或库解决方案背景
接触过MLIR、Apache TVM、TensorIR或相关技术的机器学习编译器或IR系统
具有GPU性能建模、计算机体系结构或加速器导向软件设计的实践经验
在深度学习系统、编译器、内核或推理基础设施方面拥有开源项目所有权或有意义的贡献
AI 洞察
优缺点分析
优点
- 接触业界最前沿的GPU架构与大模型推理技术，技术栈极具竞争力
- 直接参与NVIDIA核心AI软件栈开发，项目履历含金量极高
- 享有完善的导师制度与国际化技术氛围，利于快速建立行业人脉
- 岗位要求极高，需同时兼顾底层系统编程与前沿AI算法理解，学习曲线陡峭
- 高性能优化工作枯燥且容错率低，需极强的耐心与细节把控能力
- 竞争异常激烈，需持续保持高强度的技术输入
- 适合对底层系统、GPU编程及AI基础设施有浓厚兴趣，具备扎实数理基础与极强自驱力的计算机相关专业学生
缺点 / 挑战
暂无明显挑战项
角色解读
- 深入掌握高性能计算与AI系统底层架构，成长为AI基础设施或编译器领域的专家
- 可向深度学习系统架构师、高性能计算研究员或AI芯片软件栈负责人方向发展
- 积累开源贡献后，有机会进入顶级科技公司核心研发团队
- 负责AI与深度学习内核库的底层开发与性能调优，直接参与GPU编程与代码生成系统建设
- 协助维护cuDNN、FlashInfer等核心软件栈，优化大模型推理与训练的工作负载效率
- 与跨团队工程师协作，推动软硬件接口优化与开源生态集成
- 精通C/C++与Python编程，熟练掌握CUDA及GPU底层架构原理
- 具备深度学习框架（PyTorch/TensorFlow）使用经验，理解线性代数与性能剖析方法
- 了解LLM推理引擎（如vLLM）及编译器技术（如MLIR/TVM）者优先
申请策略
- 提前研究NVIDIA近期发布的AI软件栈更新与开源项目动态，面试中展现对技术演进脉络的理解
- 准备1-2个深度技术项目案例，能清晰阐述架构设计取舍与瓶颈突破过程
- 突出CUDA/GPU编程实战项目，展示性能优化前后的量化对比数据
- 详细列出参与的深度学习框架二次开发或编译器相关课题，强调代码质量与工程规范
- 体现开源社区贡献记录或顶会/实验室研究成果
- 强化C++现代特性与内存管理知识，深入研读CUDA编程指南与GPU架构白皮书
- 动手复现主流推理引擎（如vLLM）的核心模块，掌握性能剖析工具（Nsight Systems/Compute）
- 补充分布式训练与大规模模型推理的系统设计知识
面试指南
- 采用STAR法则结构化回答，重点突出问题分析路径、技术选型依据与量化结果
- 对于系统类问题，先界定边界条件，再分层拆解（计算层、内存层、通信层），最后给出权衡与验证方法
- 请描述你优化过的一段GPU内核代码，使用了哪些并行策略与内存访问优化技巧？
- 如何分析并定位深度学习推理引擎的性能瓶颈？
- 给定一个复杂的线性代数算子，你会如何设计其在多卡环境下的通信与计算重叠方案？
- 复习计算机体系结构与操作系统核心概念，熟悉Linux环境下的性能调优命令
- 梳理过往项目中的难点攻克经历，准备好代码片段与架构图进行演示
- 关注NVIDIA GTC大会最新技术发布，了解行业前沿动态
职位点评
薪资福利75
成长发展92
工作生活45
使命价值80
薪资福利
75中等
上海地区同类AI底层开发实习岗位的市场津贴标准较为稳定，结合岗位技术门槛与地域消费水平综合评估，整体补偿性吸引力较强。
薪资信号市场水准 (1.5千–2.5万/月)
成长发展
92较高
岗位深度绑定AI底层基础设施与前沿大模型技术，提供接触业界顶级GPU架构与开源生态的机会，技能成长空间极大。
技术前沿前沿/新兴技术
技术栈C++、Python、CUDA、GPU编程、PyTorch、vLLM、MLIR、性能优化
业务类型profit_center
工作生活
45较低
JD未明确提及工作强度与作息安排，仅从岗位职责推测可能面临版本迭代压力，实际WLB需以HR反馈为准。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
直接参与构建驱动全球AI发展的核心软件栈，技术成果将规模化应用于大模型、自动驾驶等领域，社会与技术影响力显著。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
英伟达 的其他在招职位
相似职位推荐
Watch Jobs