英伟达
AI Computing Software Development Intern - 2027
AI Computing Software Development Intern - 2027
发布于 5 小时前实习/见习
实习生仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu计算
Llm
Pytorch
Tensorrt
推理优化
深度学习
编译器
值不值得投
80综合评分
综合评分 80
顶尖AI底层计算实习岗，技术栈前沿且极具挑战，成长空间巨大，实习津贴处于市场高位。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
1.1万
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中算法优化工程师 5 个
市场机会
选择面较广
上海 · 算法优化工程师 · 约 160 个在招
职位详情
关于这个职位
该实习岗位聚焦于AI计算软件开发，提供TensorRT LLM推理优化、TensorRT编译器图优化以及CuTe DSL与CUDA内核开发三个专业方向
你将参与构建高性能大模型推理流水线、优化GPU计算内核及编译器后端，与跨部门团队合作提升GPU计算效率
最低要求
计算机科学、计算机工程、电气工程、应用数学或相关专业硕士或博士在读
具备出色的解决问题能力，对前沿AI系统充满好奇心，对GPU计算和深度学习软件性能有热情
TensorRT LLM方向：熟练掌握Python编程，有PyTorch使用经验
对推理和GPU加速有扎实的理解
TensorRT Compiler方向：精通C++，有编译器或性能优化经验
CuTe DSL & CUDA Kernels方向：熟练掌握C/C++和CUDA或并行编程
熟悉LLVM、MLIR和编译器
理解计算机体系结构及性能分析/优化
工作职责
作为实习生，你将专注于以下三个专业方向之一：
TensorRT LLM – 推理优化 (Python / PyTorch)：构建和增强高性能LLM推理流水线
分析和优化模型执行、可扩展性和内存使用
跨框架和研究团队合作，交付高效的多GPU模型服务
TensorRT Compiler – 图优化 (C++)：负责TensorRT编译器后端，改进NVIDIA GPU的图转换和代码生成
开发编译器优化pass，完善算子融合和内存分配，并与CUDA和硬件架构团队合作
CuTe DSL & CUDA Kernels 开发/优化 (CUDA C++ / Python DSL)：设计和调优核心深度学习操作（如GEMM、MoE、Attention和卷积）的GPU计算内核和DSL实现
分析、剖析并提升CUDA内核性能，以实现最大GPU效率
AI 洞察
优缺点分析
优点
- 接触全球最顶尖的GPU硬件架构与AI计算生态，技术壁垒极高
- 参与TensorRT等核心底层软件研发，履历含金量高，行业认可度极强
- 团队技术氛围浓厚，能接触到前沿的LLM和深度学习优化技术
- 底层系统开发与性能调优难度极大，需要深厚的计算机体系结构功底
- 适合对底层系统、GPU架构和AI基础设施有浓厚兴趣，具备扎实C++/CUDA功底及编译原理基础的顶尖高校硕博研究生
缺点 / 挑战
- 技术栈较深且垂直，对数学、编译原理和并行计算的要求较高，学习曲线陡峭
角色解读
- 实习转正后，可发展为AI系统软件工程师或CUDA架构专家
- 长期发展可向底层AI基础设施、高性能计算或AI编译器方向的技术专家迈进
- 参与大模型推理优化，构建高性能LLM推理流水线并优化多GPU模型服务
- 负责TensorRT编译器后端的图转换与代码生成，开发算子融合等优化pass
- 设计和调优CUDA计算内核，针对GEMM、Attention等核心深度学习操作实现极致GPU效率
- 扎实的C/C++或Python编程基础，熟悉CUDA并行编程及PyTorch框架
- 深入理解计算机体系结构、GPU硬件架构及性能分析调优方法
- 具备编译器（如LLVM/MLIR）或深度学习推理加速的相关理论与实践经验
申请策略
- 仔细阅读JD中三个Track的具体要求，在简历和面试中明确表达自己最匹配的方向
- 准备一些关于GPU架构演进、大模型推理瓶颈（如Memory Wall）的技术见解
- 突出在C++/CUDA/Python方面的项目经验，特别是涉及性能优化、内存管理或并行计算的成果
- 详细列出在PyTorch、LLM推理、编译器（LLVM/MLIR）或深度学习内核开发方面的具体项目或论文
- 强调解决复杂系统性能瓶颈的实际案例，展示对计算机体系结构的深刻理解
- 深入学习CUDA编程模型、GPU内存层次结构及性能剖析工具（如Nsight）
- 复习编译原理，了解LLVM/MLIR框架，或研究TensorRT的开源实现与优化策略
面试指南
- STAR法则：情境-任务-行动-结果，重点突出性能提升的具体指标（如吞吐量提升、延迟降低）
- 底层原理+工程实践：先阐述计算机体系结构或编译原理的理论基础，再结合具体代码或项目说明落地细节
- 请描述一次你优化C++/CUDA代码性能的经历，你是如何定位瓶颈并提升效率的？
- 在LLM推理中，KV Cache和Memory Bound问题是如何影响性能的？有哪些优化手段？
- 解释一下GPU的内存层次结构（Global, Shared, Register），在CUDA编程中如何有效利用它们？
- 你了解LLVM或MLIR吗？请简述编译器中图优化或算子融合的基本原理
- 复习CUDA编程核心概念（如Grid/Block/Thread、Warp、Shared Memory）及常见优化模式
- 了解当前大模型推理的主流优化技术（如FlashAttention、PagedAttention、量化等）及其底层实现逻辑
职位点评
薪资福利85
成长发展95
工作生活50
使命价值90
薪资福利
85较高
作为该领域的实习岗位，实习津贴在一线城市处于较高水平，且平台背书带来的长期薪资回报极高。
薪资信号未披露（AI估算：8千–1.3万/月）
成长发展
95较高
岗位涉及全球最前沿的AI计算底层技术，能接触到TensorRT、CUDA等核心生态，技术成长空间和能力壁垒极高。
技术前沿前沿/新兴技术
技术栈Python、PyTorch、C++、CUDA、TensorRT、LLM、LLVM、MLIR
业务类型profit_center
工作生活
50较低
JD中未提及任何关于工作模式、办公灵活性或工作生活平衡的信息，无法直接评估该岗位的实际WLB情况。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
90较高
参与构建驱动全球各行业创新的AI计算平台，处于AI时代的核心基础设施层，具有极高的行业前瞻性和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号define the next era of computing、building the AI computing platforms that drive innovation across industries worldwide
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs