英伟达
AI Computing Software Development Intern, LLM Inference - 2027
AI Computing Software Development Intern, LLM Inference - 2027
发布于 2 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Llm
Pytorch
Tensorflow
Tensorrt
性能优化
深度学习
软件工程
值不值得投
80综合评分
综合评分 80
顶尖大厂核心AI底层研发实习，技术栈前沿、成长空间广阔，但工作节奏较快且WLB未明确
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
1.0万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 430 个在招 · 其中机器学习工程 18 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 400 个在招
职位详情
关于这个职位
负责NVIDIA AI计算团队的LLM推理软件开发，主要参与TensorRT及Edge LLM项目的构建与优化
需完成高性能推理软件的开发、性能分析与调优，跟踪前沿AI技术进展，并与软硬件团队协同推进产品架构设计，最终在顶级学术会议发表研究成果
最低要求
正在攻读计算机科学、计算机工程、应用数学或相关计算领域的硕士或更高学位
具备相关的软件开发经验
精通C/C++编程与软件工程技能，包括调试、性能分析和测试设计
对人工智能充满好奇心，了解深度学习最新进展（如LLM、生成式模型和推荐模型）
有使用TensorFlow和PyTorch等深度学习框架的经验
具备主动性和独立工作能力
优秀的英语书面和口头沟通能力
工作职责
开发并构建可扩展至多平台的高性能推理软件，兼顾功能性与性能表现
进行性能分析、优化与调优
紧密跟踪人工智能领域及大语言模型的学术发展动态
为系统架构与硬件设计研发提供反馈与建议
跨部门协作，与软件、研究及产品团队共同指导机器学习推理技术的发展方向
在顶级科学会议上发表关键研究成果
AI 洞察
优缺点分析
优点
- 接触全球最前沿的大模型推理技术与GPU硬件生态
- 拥有顶级的科研资源与发表顶会论文的通道
- 简历含金量极高，对后续深造或进入头部AI企业具有强背书作用
- 技术栈偏底层且难度高，需同时兼顾软件工程规范与极致性能优化
- 作为实习生需在高强度节奏下保持独立交付能力
- 适合计算机/相关专业在读硕博，对AI底层系统与高性能计算有浓厚兴趣，具备扎实编程基础与较强自驱力的求职者
缺点 / 挑战
- 学术产出压力大，需快速跟进并复现最新论文
角色解读
- 可沿AI编译器/推理引擎专家路线深耕，成长为底层系统架构师
- 或转向AI基础设施产品经理、技术研究员
- 未来亦可向海外核心研发团队流动
- 负责NVIDIA GPU加速的LLM推理软件栈开发与维护
- 深入进行推理引擎的性能剖析、代码优化与多平台适配
- 跟踪前沿大模型技术演进，并将优化成果转化为学术论文或技术专利
- 扎实的C/C++底层编程与系统级调试能力
- 熟练掌握PyTorch/TensorFlow等主流深度学习框架及其底层原理
- 具备高性能计算与内存/算力优化经验
- 优秀的英文文献阅读与技术文档撰写能力
申请策略
- 提前了解NVIDIA AI计算团队的技术栈与近期发布的研究成果
- 准备能体现系统级调试与性能调优能力的具体案例
- 面试时展现对大模型推理瓶颈的独立思考
- 突出C/C++项目实战经历与性能优化数据
- 详细列出参与的深度学习框架二次开发或算子实现经验
- 附上已发表/在投的AI相关论文或开源项目链接
- 补充CUDA编程与GPU架构基础知识
- 深入研读TensorRT官方文档与LLM推理优化论文
面试指南
- 采用STAR法则（情境-任务-行动-结果）结构化回答
- 结合具体指标（如延迟降低X%、吞吐量提升Y%）量化优化效果
- 展示对底层原理（如内存布局、并行策略、算子融合）的理解而非仅停留在API调用层面
- 请描述你优化过的一段C++代码，你是如何定位性能瓶颈并提升吞吐量的？
- TensorRT与传统推理框架相比有哪些核心优势？
- 针对大模型推理中的显存墙问题，你有何优化思路？
- 如何用Python/C++混合编程调用深度学习模型？
- 请分享一篇你最近阅读的LLM相关顶会论文及其核心贡献
职位点评
薪资福利75
成长发展95
工作生活60
使命价值85
薪资福利
75中等
薪资处于上海科技类实习市场中上水平，虽未明确披露具体数字，但结合高技能门槛与行业标准，整体补偿性动机满足度较好。
薪资信号未披露（AI估算：8.0千–1.2万/月）
成长发展
95较高
职位深度绑定前沿大模型推理技术与GPU硬件生态，提供接触完整DL软件栈、发表顶会论文及跨团队协作的机会，发展性动机得到极高满足。
技术前沿前沿/新兴技术
技术栈C/C++、TensorRT、LLM、PyTorch、TensorFlow、性能优化
成长机会getting exposure to the entire DL SW stack、Publish key results in scientific conferences
业务类型profit_center
工作生活
60中等
JD提及团队注重快速交付，但未明确说明办公模式与工时安排，WLB信号中性，生活化动机满足程度一般。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
85较高
直接参与推动AI行业变革的核心推理软件研发，技术成果将广泛应用于全球产品线与学术研究，社会价值与行业使命感强烈。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号power a revolution in deep learning-powered AI、help build the GPU-accelerated DL platform used worldwide
创新程度积极采用新技术
英伟达 的其他在招职位
相似职位推荐
Watch Jobs