
英伟达
Software Engineering Intern, NCCL - 2027
Software Engineering Intern, NCCL - 2027
发布于 42 分钟前实习/见习
实习生仅现场办公后端开发
后端开发
Cuda
Gpu架构
Mpi
Nccl
并行编程
深度学习框架
通信库
高性能计算
值不值得投
83综合评分
综合评分 83
顶尖外企核心研发实习,前沿技术栈,高成长潜力,适合研究型技术人才
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便比较实习机会。
薪资怎么样
1.6万
比后端开发中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 600 个在招 · 其中后端开发 15 个
市场机会
选择面较广
上海 · 后端开发 · 约 370 个在招
职位详情
关于这个职位
作为英伟达NCCL团队的软件工程师实习生,你将负责设计、实现和维护深度学习框架(如TensorFlow/PyTorch)及高性能计算编程接口的高性能通信运行时
你需要参与并行编程接口规范的贡献,并开发支持GPU间及系统与组件交互的系统软件,通过概念验证推动新技术落地
最低要求
正在攻读计算机科学(CE)、计算机( CS)或电子工程(EE)博士学位
在计算机体系结构、操作系统、通信库和/或AI/ML方面具有扎实的背景
优秀的C/C++编程和调试技能
丰富的Linux使用经验
具备并行编程接口和通信运行时的经验
能够在跨国、多时区的企业环境中有效工作和沟通
工作职责
为深度学习框架(例如用于TensorFlow/PyTorch的NCCL)和HPC编程接口(例如用于MPI/OpenSHMEM的UCX)设计、实现和维护高度优化的通信运行时
参与并贡献于MPI/OpenSHMEM等并行编程接口规范
设计、实现和维护系统软件,以实现GPU之间以及GPU与其他系统组件之间的交互
创建概念验证,以评估和推动编程模型扩展、运行时新设计和硬件新功能的发展
优先资格
对InfiniBand、RoCE等高性能网络有深入了解
拥有HPC应用程序背景,熟悉PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang等深度学习框架
了解AI/DL通信模式(如专家并行EP、张量并行TP、数据并行DP、流水线并行PP)及其在NCCL中的实现
具备CUDA内核优化和性能分析经验
拥有大规模模型训练和生产推理软件栈的经验
强大的协作和人际交往能力,特别是在动态矩阵环境中有效引导和影响他人的能力
AI 洞察
优缺点分析
优点
- 接触业界最前沿的AI基础设施技术,拥有极高的技术含金量
- 英伟达平台背书,职业发展前景广阔
- 对博士学历及底层系统知识要求极高,技术难度大,需要深厚的计算机体系结构和并行计算功底
- 适合计算机相关专业博士生,对底层系统、高性能计算和AI基础设施有浓厚兴趣的研究型工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可成长为高性能计算领域的系统软件专家、编译器开发者或AI基础设施架构师
- 负责底层通信库(如NCCL)的开发与优化,确保GPU集群在深度学习任务中的高效数据传输
- 精通C/C++,深入理解计算机体系结构、操作系统原理,熟悉Linux环境下的并行编程与调试
申请策略
- 强调在多时区跨国环境中的沟通能力
- 准备展示解决复杂系统级问题的思维过程
- 突出博士研究方向中与计算机体系结构、操作系统、并行计算相关的成果
- 展示C/C++项目经验及Linux系统调优案例
- 深入学习NCCL、MPI等通信库原理
- 掌握CUDA编程及性能分析工具
- 熟悉主流深度学习框架的分布式训练机制
面试指南
- 采用STAR法则(情境、任务、行动、结果),结合具体项目经历,展示从问题定义到技术选型再到性能优化的完整闭环
- 请解释NCCL中AllReduce算法的实现原理及优化策略
- 如何在Linux环境下进行C++程序的内存泄漏检测和性能剖析?
- 描述你对GPU内存层次结构及PCIe/NVLink带宽瓶颈的理解
- 复习计算机组成原理、操作系统内核机制
- 回顾参与的科研项目中涉及并行计算的部分
- 了解英伟达最新的技术架构
职位点评
薪资福利85
成长发展95
工作生活60
使命价值90
薪资福利
85较高
作为上市巨头企业的博士实习岗位,提供具有竞争力的市场水准实习津贴,且福利体系完善,稳定性高。
薪资信号未披露(AI估算:1.2千–2.0万/月)
成长发展
95较高
处于AI基础设施核心技术领域,接触前沿技术栈,拥有极佳的技能成长空间和行业影响力。
技术前沿前沿/新兴技术
技术栈NCCL、CUDA、MPI、PyTorch、TensorFlow、Linux、C++
业务类型profit_center
工作生活
60中等
工作地点位于上海,通勤便利;但作为核心研发团队,工作节奏可能较快,JD未明确提及弹性工作制。
工作模式未明确
办公地点科技园/产业园
加班情况未提及(无法判断)
使命价值
90较高
直接参与推动人工智能和高性能计算的核心技术发展,对社会科技进步具有显著的正向影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号accelerate the next wave of artificial intelligence、powers what were once science fiction inventions
创新程度开拓性创新(行业首创)
英伟达 的其他在招职位
Software Engineering Intern, Neural Reconstruction and Rendering - 2027
英伟达 · 上海市AI 估算 · 5.0–8.0千Global Commodity Manager, Passive Electrical Commodity
英伟达 · 深圳市AI 估算 · 4.5–7.5万Senior AI Engineer – Palantir Foundry and AIP Forward Deployed Engineer
英伟达 · 深圳市AI 估算 · 6.0–10.0万Technical Program Manager, Deep Learning Enterprise Server Software (RDSS Intern)
英伟达 · 台北市AI 估算 · 4.3–6.5万Senior System Design Engineer
英伟达 · 深圳市AI 估算 · 6.0–12.0万
相似职位推荐
Forward Deployed Engineer
文华东方酒店 · 香港特别行政区
AI 估算 · 3.5–5.5万1 小时前发布
高德-JAVA研发工程师-北京
高德地图 · 北京市
AI 估算 · 2.5–4.5万2 小时前发布
高德-Java/全栈高级工程师/技术专家-大云图
高德地图 · 北京市
AI 估算 · 4.0–7.0万2 小时前发布
后端开发工程师(AI全栈开发)
中国平安 · 深圳市
AI 估算 · 2.0–3.5万7 小时前发布
Software Developer – Front Office Pricing & Risk
法国兴业银行 · 香港特别行政区
AI 估算 · 4.5–7.5万12 小时前发布
KERING Senior Software Engineer-Backend
开云 · 上海市
AI 估算 · 3.5–6.0万13 小时前发布
上海-分布式计算研发工程师(J100718)
百度 · 上海市
AI 估算 · 2.5–4.5万14 小时前发布
Digital Application Developer
AECOM · Cheung Sha Wan, Hong Kong
AI 估算 · 2.5–3.5万14 小时前发布
Watch Jobs