英伟达
AI Computing Development Intern, TensorRT-LLM - 2027
AI Computing Development Intern, TensorRT-LLM - 2027
发布于 5 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Gpu加速
Llm
Pytorch
Tensorflow
Tensorrt-Llm
性能优化
推理加速
深度学习
值不值得投
83综合评分
综合评分 83
前沿AI推理加速核心研发实习，技术成长空间极大，行业使命感强，但工作节奏较快且技术门槛高。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
1.2万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中机器学习工程 11 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 360 个在招
职位详情
关于这个职位
该职位是英伟达AI计算团队的TensorRT-LLM软件开发实习生，主要负责大语言模型推理软件的开发、性能分析与优化
你将参与前沿AI推理技术的研发，跟进最新学术进展，并与跨部门团队合作推动机器学习推理方向的发展
最低要求
正在攻读计算机工程、计算机科学、应用数学或相关计算领域的硕士或更高学位
具备相关的软件开发经验
优秀的C/C++编程和软件设计技能，包括调试、性能分析和测试设计
对人工智能有强烈的好奇心，了解深度学习（如LLM、生成式和推荐模型）的最新发展
有使用TensorFlow和PyTorch等深度学习框架的经验
工作积极主动，能够在没有监督的情况下独立工作
具备优秀的英语书面和口头沟通能力
工作职责
设计和开发可扩展到多个平台的健壮推理软件，以实现功能和性能的提升
进行性能分析、优化和调优
密切关注人工智能领域的学术发展，并更新TensorRT-LLM的特性
为架构和硬件设计及开发提供反馈
跨公司协作，指导机器学习推理的发展方向，与软件、研究和产品团队合作
在科学会议上发表关键成果
AI 洞察
优缺点分析
优点
- 身处全球AI算力与推理加速的最前沿，接触TensorRT-LLM等核心底层技术
- 与顶尖技术专家共事，能极大提升C++底层开发与深度学习系统架构能力
- 实习成果有机会在科学会议上发表，对学术和工业界发展均有巨大帮助
- 适合对底层系统优化、AI推理加速有浓厚兴趣，且具备扎实C++功底和深度学习框架使用经验的计算机相关专业硕士及以上在校生
缺点 / 挑战
- 岗位要求极高的C++底层性能和系统级调优能力，技术门槛较高
- 需要紧跟快速迭代的AI学术前沿，学习压力大
- 跨部门协作和硬件反馈需要对底层架构有深刻理解，挑战较大
角色解读
- 从实习生成长为AI推理加速领域的核心研发工程师
- 未来可向深度学习编译器、高性能计算或AI系统架构师方向发展
- 有机会在国际顶级科学会议上发表成果，提升行业影响力
- 参与TensorRT-LLM推理软件的开发与性能优化，提升大模型推理效率
- 跟进AI领域最新学术进展，将前沿技术转化为工程实践
- 与软硬件团队跨部门协作，为架构和硬件设计提供反馈
- 精通C/C++编程，具备扎实的软件设计与性能调优能力
- 熟悉PyTorch/TensorFlow等深度学习框架，对LLM及生成式AI有深入理解
- 具备良好的英语沟通能力和独立解决问题的能力
申请策略
- 准备一份详细的技术作品集或GitHub链接，展示你的代码质量和系统级思考能力
- 了解NVIDIA在LLM推理方面的最新技术博客和论文，面试时能展现对行业前沿的关注
- 突出C/C++项目经验，特别是涉及性能优化、内存管理或底层系统开发的项目
- 展示在PyTorch/TensorFlow等框架上的开发经验，如有模型部署或推理加速经验更佳
- 提及参与过的开源项目、学术竞赛或发表的论文
- 深入学习CUDA编程和GPU架构基础，了解TensorRT的底层原理
- 复习C++11/14/17新特性及高性能编程技巧，熟悉常见的性能分析工具（如NVTX, Nsight）
面试指南
- 采用STAR法则回答项目经验，重点突出“性能瓶颈分析-优化方案-最终收益”的闭环
- 对于系统设计问题，从需求分析、核心数据结构、并发/内存管理、扩展性等维度展开
- 请详细描述一个你使用C++进行性能优化的项目，你是如何定位瓶颈并解决的？
- 在PyTorch中，模型推理的耗时主要受哪些因素影响？你了解哪些加速推理的方法？
- 如果让你设计一个支持动态Batching的LLM推理服务，你会如何设计其内存管理和调度策略？
- 请谈谈你对TensorRT-LLM中PagedAttention或In-flight Batching的理解
- 复习C++核心概念（如智能指针、多线程、内存模型）和计算机体系结构基础
- 阅读NVIDIA关于TensorRT-LLM的官方技术文档和最新技术博客，了解当前LLM推理的核心痛点及解决方案
职位点评
薪资福利85
成长发展95
工作生活60
使命价值90
薪资福利
85较高
作为顶尖科技公司的核心AI研发实习岗，实习津贴在行业内具有较强竞争力，且转正机会和长期职业回报极高。
薪资信号未披露（AI估算：8千–1.5万/月）
成长发展
95较高
岗位处于AI推理加速的最前沿，能接触到TensorRT-LLM等核心底层技术，且有在科学会议发表成果的机会，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈C/C++、TensorRT-LLM、PyTorch、TensorFlow、LLM、Deep Learning
成长机会Publish key results in scientific conferences、exposure to the entire DL SW stack
业务类型ambiguous
工作生活
60中等
核心研发实习岗在快节奏、交付导向的团队中，工作节奏可能较快，WLB情况未明确说明。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
90较高
参与构建推动AI革命的核心推理软件，直接赋能大模型和生成式AI的突破，具有极高的行业使命感和技术影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号power a revolution in deep learning-powered AI、pushing the boundaries of state-of-the-art AI
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs