英伟达
Senior Software Engineer, NCCL
Senior Software Engineer, NCCL
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Cuda
Mpi
Nccl
分布式系统
深度学习框架
高性能计算
值不值得投
84综合评分
综合评分 84
顶尖外企核心研发岗，技术前沿且薪资丰厚，适合追求高技术挑战的资深工程师
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
11.5万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 510 个在招 · 其中后端开发 10 个
市场机会
选择面较广
上海 · 后端开发 · 约 320 个在招
职位详情
关于这个职位
作为英伟达的高级软件工程师，你将负责设计和维护用于深度学习框架（如NCCL）及高性能计算接口的高性能通信运行时系统
你需要深入理解GPU集群架构，优化GPU间及与其他组件的交互，并参与并行编程接口规范的制定，以支持前沿的人工智能和高性能计算产品
最低要求
计算机科学、计算机工程硕士学位或同等经验
年以上相关领域工作经验
优秀的C/C++编程和调试技能
丰富的Linux使用经验
对计算机系统架构和操作系统的专家级理解
具备并行编程接口和通信运行时的经验
能够在多国、多时区的企业环境中有效工作和沟通
工作职责
为深度学习框架（如针对TensorFlow/PyTorch的NCCL）和HPC编程接口（如针对MPI/OpenSHMEM的UCX）设计、实施和维护高度优化的通信运行时
参与并贡献于MPI/OpenSHMEM等并行编程接口规范
设计、实施和维护系统软件，以实现GPU之间以及GPU与其他系统组件之间的交互
创建概念验证（Proof-of-Concepts），以评估和推动编程模型扩展、运行时新设计及硬件新功能
优先资格
深入了解InfiniBand、RoCE等高性能网络
具有HPC应用经验
熟悉PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang等深度学习框架
了解AI/DL通信模式（如EP、TP、DP、PP）及其在NCCL中的实现
具备CUDA内核优化和性能分析经验
拥有大规模模型训练和生产推理软件栈经验
强大的协作和人际交往能力，特别是在动态矩阵环境中引导和影响他人的能力
AI 洞察
优缺点分析
优点
- 身处AI算力核心领域，接触最前沿的GPU技术与大规模集群架构，技术壁垒极高
- 技术难度极大，需处理复杂的并发、内存一致性及硬件底层细节，对代码性能要求极致
- 热衷于底层系统优化、对高性能计算有深厚兴趣且具备极强工程能力的资深工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向首席科学家、技术 Fellow 或系统架构师方向发展，成为高性能计算领域的顶级专家
- 负责底层通信库（如NCCL）的开发与优化，确保GPU集群在深度学习任务中的高效数据交换
- 精通C/C++与Linux系统编程，深入理解计算机体系结构、操作系统及并行计算原理
申请策略
- 准备详细的技术案例，展示如何解决复杂的系统级性能瓶颈问题
- 突出展示在并行计算、分布式系统或GPU编程方面的深度项目经验，强调性能优化成果
- 深入研读NCCL源码，掌握CUDA内核优化技巧，熟悉MPI/UCX等通信标准
面试指南
- 采用STAR法则，重点阐述技术选型的权衡、遇到的具体性能瓶颈、使用的 profiling 工具及最终优化的量化指标
- 请解释NCCL中AllReduce算法的实现细节及优化策略
- 如何在Linux环境下调试多线程/多进程程序的死锁或竞态条件？
- 请描述GPU内存层次结构及其对通信性能的影响
- 如何优化大规模分布式训练中的通信开销？
- 复习操作系统内核机制、计算机网络协议及GPU架构原理，熟悉主流深度学习框架的通信后端
职位点评
薪资福利90
成长发展95
工作生活60
使命价值85
薪资福利
90较高
英伟达作为全球科技巨头，提供极具竞争力的薪酬包和完善的福利体系，满足度高。
薪资信号偏高 (8.0千–15.0万/月)
福利待遇comprehensive benefits package
成长发展
95较高
职位涉及AI与HPC最核心的通信技术，技术栈前沿，能接触到行业顶尖人才和项目，成长空间巨大。
技术前沿前沿/新兴技术
技术栈NCCL、CUDA、MPI、Deep Learning、HPC、InfiniBand
业务类型profit_center
工作生活
60中等
跨国企业通常工作氛围较好，但作为核心研发部门，面对快速迭代的技术挑战，工作强度可能较高。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
直接参与推动人工智能和高性能计算的发展，对社会科技进步有显著的正向影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号accelerate the next wave of artificial intelligence
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs