英伟达
Software Engineering Intern, NCCL - 2026
Software Engineering Intern, NCCL - 2026
发布于 大约 7 小时前实习/见习
上海市 / 北京市
无经验要求
实习生
仅现场办公
博士
实习与临时职位
Cuda
Hpc
Mpi
Nccl
Pytorch
Tensorflow
Openshmem
AI 估算 · 15k–25k
实习岗位，博士学历，技术难度高，NVIDIA薪资竞争力强，上海/北京生活成本高。
职位详情
关于这个职位
作为英伟达通信库与网络软件团队的软件工程实习生，你将参与设计并优化面向深度学习框架（如PyTorch、TensorFlow）和HPC编程接口（如MPI、OpenSHMEM）的高性能通信运行时（如NCCL、UCX）
工作内容包括开发GPU间及GPU与系统组件交互的系统软件，并参与并行编程接口规范的制定
适合对高性能计算和AI基础设施有浓厚兴趣的博士生
最低要求
正在攻读CE/CS/EE博士学位，具有计算机体系结构、操作系统、通信库和/或AI/ML方面的扎实背景
出色的C/C++编程和调试技能
丰富的Linux使用经验
具有并行编程接口和通信运行时的经验
能够在跨国、多时区的企业环境中有效工作和沟通
工作职责
设计、实现和维护用于GPU集群上深度学习框架（如NCCL for TensorFlow/PyTorch）和HPC编程接口（如UCX for MPI/OpenSHMEM）的高性能通信运行时
参与并行编程接口规范（如MPI/OpenSHMEM）的制定和贡献
设计、实现和维护支持GPU之间以及GPU与其他系统组件交互的系统软件
创建概念验证，以评估和推动编程模型、运行时新设计和硬件新功能的扩展
优先资格
对高性能网络（如InfiniBand、RoCE等）有深入了解
具有HPC应用背景
具有深度学习框架（如PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang等）的经验
具有AI/DL通信模式（如专家并行（EP）、张量并行（TP）、数据并行（DP）、流水线并行（PP））的经验，以及如何使用NCCL实现这些模式
具有CUDA内核优化和性能分析的经验
具有大规模模型训练和生产推理软件栈的经验
较强的协作和人际交往能力，特别是在动态矩阵环境中有效指导和影响他人的能力
AI 洞察
优缺点分析
优点
- NVIDIA是AI和HPC领域的领导者，技术平台和资源一流
- 参与核心通信库（NCCL）开发，技术含金量高
- 与全球顶尖工程师合作，国际化视野
- 实习薪资优厚，福利完善
- 技术难度高，需要深厚的系统底层知识
- 工作节奏快，可能面临高压环境
- 跨时区协作，沟通成本高
- 适合对高性能计算和AI基础设施有强烈兴趣，具备扎实系统编程能力的博士研究生
缺点 / 挑战
暂无明显挑战项
角色解读
- 在NVIDIA实习可积累高性能计算和AI基础设施的尖端经验，为未来成为通信库专家或系统架构师打下基础
- 有机会参与行业标准制定，提升技术影响力
- 表现优秀者可能获得转正机会，进入NVIDIA核心团队
- 设计并优化深度学习框架（如PyTorch、TensorFlow）和HPC编程接口（如MPI、OpenSHMEM）的通信运行时，确保GPU集群高效协作
- 参与并行编程接口规范的制定，推动通信库和网络软件的发展
- 开发系统软件，实现GPU间及GPU与其他系统组件的高效交互
- 创建概念原型，验证新的编程模型和硬件特性
- 扎实的C/C++编程和调试能力，这是开发高性能通信库的基础
- 深入理解计算机体系结构、操作系统和通信库原理
- 熟悉Linux环境，具备并行编程和通信运行时经验
- 了解AI/DL通信模式（如TP、DP、PP）和NCCL等库，有CUDA优化经验更佳
申请策略
- 了解NVIDIA近期在AI通信方面的进展，如NVLink、NVSwitch
- 准备展示你对并行编程模型的深入理解
- 突出C/C++编程项目，尤其是涉及并行计算或通信库的
- 展示Linux系统编程经验，如网络编程、多线程等
- 强调参与过HPC或深度学习框架优化的经历
- 如有CUDA或NCCL相关经验，务必突出
- 深入学习NCCL和UCX源码，理解其设计
- 熟悉MPI和OpenSHMEM规范
面试指南
- 结合项目经验，用STAR法则说明你如何解决技术难题
- 从系统层面分析问题，展示对底层原理的理解
- 强调团队协作和跨文化沟通能力
- 解释NCCL的工作原理和关键优化点
- 如何设计一个高效的GPU间通信协议？
- 描述你在Linux下调试并行程序的经历
- 如何优化深度学习训练中的通信瓶颈？
- 你对MPI或OpenSHMEM的理解？
职位点评
82
综合评分
顶级AI公司，前沿技术，高成长，但工作强度可能较高。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
适合追求技术成长和行业影响力的博士研究生，能接受高强度工作。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展95
工作生活60
使命价值90
薪资福利
80较高
实习薪资优厚，福利完善，但具体薪资未在JD中披露。
薪资信号未披露（AI估算：15K-25K/月）
成长发展
95较高
前沿技术，参与核心项目，成长空间巨大。
技术前沿前沿/新兴技术
技术栈NCCL、CUDA、MPI、OpenSHMEM、PyTorch、TensorFlow、InfiniBand
业务类型profit_center
工作生活
60中等
工作地点在上海或北京，通勤可能不便，JD未提及弹性工作。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
90较高
推动AI和HPC发展，社会价值高，行业前景广阔。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号加速人工智能的下一波浪潮
创新程度开拓性创新（行业首创）
Watch Jobs