英伟达
Software Engineering Intern, NCCL - 2026
Software Engineering Intern, NCCL - 2026
发布于 6 小时前实习/见习
实习生仅现场办公高性能计算
高性能计算
Cuda
Gpu架构
Mpi
Nccl
Ucx
并行编程
深度学习框架
高性能计算(Hpc)
值不值得投
78综合评分
综合评分 78
顶尖AI底层技术平台、前沿科研导向、成长空间极大，适合志在突破计算边界的硬核开发者。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
2.0万
比高性能计算中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 280 个在招 · 其中高性能计算 5 个
市场机会
选择适中
上海 · 高性能计算 · 29 个在招
职位详情
关于这个职位
负责在GPU集群上设计、实现和维护深度学习框架（如NCCL）及HPC编程接口的高性能通信运行时
参与并行编程接口规范制定，开发支持GPU间及GPU与其他组件交互的系统软件
通过概念验证评估新硬件特性与运行时设计，助力下一代AI与高性能计算产品突破
最低要求
正在攻读计算机科学(CE)/计算机(CS)/电子工程(EE)博士学位，具备扎实的计算机体系结构、操作系统、通信库和/或AI/ML背景
优秀的C/C++编程与调试能力
熟练使用Linux系统
具有并行编程接口和通信运行时的相关经验
能够在多国、多时区的跨国企业环境中有效工作与沟通，具备灵活性与协作能力
工作职责
为深度学习框架（如针对TensorFlow/PyTorch的NCCL）和HPC编程接口（如针对MPI/OpenSHMEM的UCX）设计、实现和维护高度优化的通信运行时
参与并贡献于MPI/OpenSHMEM等并行编程接口规范的制定
设计、实现和维护系统软件，以实现GPU之间以及GPU与其他系统组件之间的交互
创建概念验证项目，以评估和推动编程模型扩展、运行时新设计及硬件新功能的发展
优先资格
深入理解高性能网络（如InfiniBand、RoCE等）
具备HPC应用背景，熟悉PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang等深度学习框架
了解AI/DL通信模式（如Expert Parallelism, TP, DP, PP）及其在NCCL中的实现，具备CUDA内核优化与性能分析经验
熟悉大规模模型训练与生产推理软件栈
出色的协作与人际交往能力，尤其在动态矩阵化组织中能有效引导和影响他人
AI 洞察
优缺点分析
优点
- 接触全球顶尖GPU架构与AI底层通信核心技术
- 参与制定国际并行计算标准
- 平台资源雄厚，技术视野前沿
- 技术门槛极高，需博士级别体系结构与编译/系统知识
- 研发节奏快，需适应跨国多时区协同与高强度代码审查
- 对底层系统编程、高性能计算及AI基础设施有浓厚兴趣的理工科博士生或资深研究者
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师、高性能计算专家或深度学习系统工程师方向发展
- 积累底层通信优化经验后，可晋升至核心算法或系统软件团队负责人
- 负责GPU集群通信库（如NCCL/UCX）的开发与维护
- 参与MPI等并行编程接口标准制定
- 开发GPU互联及软硬件交互系统软件
- 搭建POC验证新硬件与运行时特性
- 精通C/C++与Linux系统编程
- 掌握并行计算与分布式通信原理
- 熟悉深度学习框架底层架构与CUDA优化
- 具备跨时区跨国团队协作能力
申请策略
- 提前准备底层系统设计与性能调优案例，展现对AI训练/推理数据并行策略的理解
- 突出博士课题中与并行计算、通信库优化或CUDA相关的研究成果
- 列出已发表的顶会论文或开源项目贡献
- 深入研读NCCL/UCX源码，熟悉MPI通信模式
- 强化Linux内核与高性能网络协议栈知识
面试指南
- 采用STAR法则结合底层原理剖析
- 先讲业务/学术场景，再拆解技术选型，最后用性能指标（带宽、延迟、可扩展性）量化成果，并反思迭代过程
- 请详细描述你优化过的并行通信算法或库的性能瓶颈及解决思路
- 如何设计一个支持大规模模型训练的分布式通信运行时？
- 解释一下CUDA内存模型与GPU间通信延迟的关系
- 在跨国团队中如何处理异步开发与代码合并冲突？
- 复习计算机体系结构、操作系统调度机制及分布式系统理论
- 熟悉主流大模型并行策略（DP/TP/PP）
职位点评
薪资福利75
成长发展95
工作生活50
使命价值85
薪资福利
75中等
提供符合顶尖科技外企标准的实习津贴与完善福利，但实习性质决定了整体薪酬回报以技能积累为主。
薪资信号未披露（AI估算：1.5千–2.5万/月）
成长发展
95较高
直接参与AI底层通信核心库研发与国际标准制定，技术栈极度前沿，成长空间巨大。
技术前沿前沿/新兴技术
技术栈C/C++、NCCL、UCX、MPI、CUDA、PyTorch、TensorFlow、JAX、vLLM
业务类型ambiguous
工作生活
50较低
跨国企业环境通常提供较好的工作氛围，但底层研发与多时区协同可能带来一定的工作强度压力。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于推动人工智能与高性能计算的边界突破，技术成果将直接赋能自动驾驶、科学计算等具有重大社会价值的领域。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号accelerate the next wave of artificial intelligence、powers what were once science fiction inventions
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs