Nvidia logo
英伟达
Software Engineering Intern, NCCL - 2027

Software Engineering Intern, NCCL - 2027

发布于 42 分钟前

实习/见习

AI 估算 · 1.2–2.0万 · AI 参考估算
无经验要求
学历未注明
实习生仅现场办公后端开发
后端开发
Cuda
Gpu架构
Mpi
Nccl
并行编程
深度学习框架
通信库
高性能计算

值不值得投

83综合评分

综合评分 83

顶尖外企核心研发实习,前沿技术栈,高成长潜力,适合研究型技术人才

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便比较实习机会。

薪资怎么样

1.6万

比后端开发中位数低

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 600 个在招 · 其中后端开发 15 个

市场机会

选择面较广

上海 · 后端开发 · 约 370 个在招

职位详情

关于这个职位

作为英伟达NCCL团队的软件工程师实习生,你将负责设计、实现和维护深度学习框架(如TensorFlow/PyTorch)及高性能计算编程接口的高性能通信运行时

你需要参与并行编程接口规范的贡献,并开发支持GPU间及系统与组件交互的系统软件,通过概念验证推动新技术落地

最低要求

正在攻读计算机科学(CE)、计算机( CS)或电子工程(EE)博士学位

在计算机体系结构、操作系统、通信库和/或AI/ML方面具有扎实的背景
优秀的C/C++编程和调试技能
丰富的Linux使用经验
具备并行编程接口和通信运行时的经验
能够在跨国、多时区的企业环境中有效工作和沟通

工作职责

为深度学习框架(例如用于TensorFlow/PyTorch的NCCL)和HPC编程接口(例如用于MPI/OpenSHMEM的UCX)设计、实现和维护高度优化的通信运行时

参与并贡献于MPI/OpenSHMEM等并行编程接口规范
设计、实现和维护系统软件,以实现GPU之间以及GPU与其他系统组件之间的交互
创建概念验证,以评估和推动编程模型扩展、运行时新设计和硬件新功能的发展

优先资格

对InfiniBand、RoCE等高性能网络有深入了解

拥有HPC应用程序背景,熟悉PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang等深度学习框架
了解AI/DL通信模式(如专家并行EP、张量并行TP、数据并行DP、流水线并行PP)及其在NCCL中的实现
具备CUDA内核优化和性能分析经验
拥有大规模模型训练和生产推理软件栈的经验
强大的协作和人际交往能力,特别是在动态矩阵环境中有效引导和影响他人的能力

AI 洞察

优缺点分析

优点

  • 接触业界最前沿的AI基础设施技术,拥有极高的技术含金量
  • 英伟达平台背书,职业发展前景广阔
  • 对博士学历及底层系统知识要求极高,技术难度大,需要深厚的计算机体系结构和并行计算功底
  • 适合计算机相关专业博士生,对底层系统、高性能计算和AI基础设施有浓厚兴趣的研究型工程师

缺点 / 挑战

暂无明显挑战项

角色解读

  • 可成长为高性能计算领域的系统软件专家、编译器开发者或AI基础设施架构师
  • 负责底层通信库(如NCCL)的开发与优化,确保GPU集群在深度学习任务中的高效数据传输
  • 精通C/C++,深入理解计算机体系结构、操作系统原理,熟悉Linux环境下的并行编程与调试

申请策略

  • 强调在多时区跨国环境中的沟通能力
  • 准备展示解决复杂系统级问题的思维过程
  • 突出博士研究方向中与计算机体系结构、操作系统、并行计算相关的成果
  • 展示C/C++项目经验及Linux系统调优案例
  • 深入学习NCCL、MPI等通信库原理
  • 掌握CUDA编程及性能分析工具
  • 熟悉主流深度学习框架的分布式训练机制

面试指南

  • 采用STAR法则(情境、任务、行动、结果),结合具体项目经历,展示从问题定义到技术选型再到性能优化的完整闭环
  • 请解释NCCL中AllReduce算法的实现原理及优化策略
  • 如何在Linux环境下进行C++程序的内存泄漏检测和性能剖析?
  • 描述你对GPU内存层次结构及PCIe/NVLink带宽瓶颈的理解
  • 复习计算机组成原理、操作系统内核机制
  • 回顾参与的科研项目中涉及并行计算的部分
  • 了解英伟达最新的技术架构

职位点评

薪资福利85
成长发展95
工作生活60
使命价值90

薪资福利

85较高

作为上市巨头企业的博士实习岗位,提供具有竞争力的市场水准实习津贴,且福利体系完善,稳定性高。

薪资信号未披露(AI估算:1.2千–2.0万/月)

成长发展

95较高

处于AI基础设施核心技术领域,接触前沿技术栈,拥有极佳的技能成长空间和行业影响力。

技术前沿前沿/新兴技术
技术栈NCCL、CUDA、MPI、PyTorch、TensorFlow、Linux、C++
业务类型profit_center

工作生活

60中等

工作地点位于上海,通勤便利;但作为核心研发团队,工作节奏可能较快,JD未明确提及弹性工作制。

工作模式未明确
办公地点科技园/产业园
加班情况未提及(无法判断)

使命价值

90较高

直接参与推动人工智能和高性能计算的核心技术发展,对社会科技进步具有显著的正向影响力。

行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号accelerate the next wave of artificial intelligence、powers what were once science fiction inventions
创新程度开拓性创新(行业首创)
Watch Jobs