英伟达
Senior System Software Architect, HPC and AI Networking
Senior System Software Architect, HPC and AI Networking
发布于 2 小时前普通员工/个人贡献者
全职员工混合式弹性办公高性能计算
高性能计算
Cuda
Hpc
Nccl
Pytorch/Tensorflow
Rdma/Roce
Ucx
分布式训练
系统架构
值不值得投
84综合评分
综合评分 84
顶尖AI算力平台、前沿技术栈驱动、混合办公支持，侧重技术攻坚与长期成长。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
11.5万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 330 个在招 · 其中高性能计算 5 个
市场机会
选择适中
上海 · 高性能计算 · 29 个在招
职位详情
关于这个职位
负责设计并原型化可扩展的软件系统，优化分布式AI训练与推理的吞吐量、延迟和内存效率
开发与评估NCCL、UCX等通信库的增强功能，并与AI框架团队及客户协作，协同设计硬件特性以加速数据移动，推动大规模AI基础设施的演进
最低要求
计算机科学、计算机工程、电气工程或相关领域的博士、硕士或学士学位
年以上DNN、DNN扩展、DNN框架并行化或深度学习训练工作负载经验
深入理解推理和训练工作负载及优化（如Prefill/Decode、数据并行、张量并行、FDSP等）
具备使用集合通信库和RDMA/RoCE进行AI网络并行化的经验
拥有算法设计、系统编程和计算机体系结构背景
具备强大的编程和软件开发技能
能够在多国、多时区的企业环境中灵活有效地工作和沟通
工作职责
设计并原型化可扩展的软件系统，优化分布式AI训练与推理——重点关注吞吐量、延迟和内存效率
开发与评估通信库（如NCCL、UCX和UCC）的增强功能，以满足深度学习工作负载的独特需求
与AI框架团队（如TensorFlow、PyTorch、JAX）协作，改进通信后端的集成、性能和可靠性
协同设计硬件特性（如GPU、DPU或互连设备），以加速数据移动并为推理和模型服务启用新功能
贡献于运行时系统、通信库和AI特定协议层的演进
与客户协作了解其需求，并提供创新解决方案
优先资格
对技术有深刻理解并保持热情
具备优秀的协作和人际交往能力，特别是在动态矩阵环境中有效引导和影响他人的能力
具备为高性能计算系统设计通信中间件的经验（包括RoCE和DPUs）
具备CUDA编程经验，熟悉NVIDIA GPU及新兴架构的编程模型
AI 洞察
优缺点分析
优点
- 身处全球AI算力核心赛道，接触最前沿的HPC与分布式训练技术栈
- 平台资源雄厚，可直接参与定义下一代AI基础设施标准与开源生态
- 混合办公模式兼顾工作与灵活性，利于保持高效研发节奏
- 技术门槛极高，需同时打通软件通信库、AI框架与底层硬件协同
- 持续跟进AI框架迭代与硬件演进节奏快，需保持高强度学习状态
- 适合具备扎实系统底层功底、热衷于攻克分布式AI基础设施难题，且能在高压技术环境中保持创新的技术专家型求职者
缺点 / 挑战
- 跨国协作频繁，需适应多时区沟通与矩阵式管理带来的协调压力
角色解读
- 可向首席系统架构师或技术总监方向发展，主导跨部门核心技术路线规划
- 也可深耕AI基础设施底层优化，成为行业顶尖的HPC/AI网络专家与技术布道者
- 负责设计优化分布式AI训练与推理的软件系统架构，提升吞吐量与内存效率
- 针对深度学习负载定制开发NCCL/UCX等通信库，并与AI框架团队协同改进底层通信机制
- 协同硬件团队设计加速数据移动的GPU/DPU特性，推动AI基础设施软硬件协同演进
- 精通高性能计算与AI网络并行化，熟悉RDMA/RoCE协议及集合通信算法
- 掌握CUDA编程及GPU架构，具备深厚的系统编程与算法设计功底
- 熟悉主流AI框架底层通信机制，能够独立定位并解决大规模分布式训练的性能瓶颈
申请策略
- 提前研究英伟达开源生态，准备底层系统调优案例与技术博客链接
- 面试前了解公司HPC/AI网络业务线布局，展现技术视野与业务契合度
- 突出分布式训练/推理优化项目经验，量化吞吐量/延迟提升指标
- 详细列出NCCL/UCX/RDMA等通信库二次开发或调优经历
- 强调CUDA编程与GPU硬件协同设计能力，附相关性能基准测试数据
- 深入研读PyTorch/TensorFlow底层通信源码，掌握集合通信算法原理
- 补充高性能网络编程实战经验，熟悉RoCEv2与无损以太网配置
- 关注最新AI芯片架构与互联协议进展，跟踪NVLink/InfiniBand技术演进
面试指南
- 采用STAR法则结合底层原理剖析：先明确问题场景与约束条件，再阐述技术选型依据与实现路径，最后用性能基准测试数据验证效果
- 强调跨团队协作中的沟通机制与冲突解决策略，突出技术领导力与结果导向思维
- 针对架构类问题，采用分层拆解法（应用层-框架层-通信层-硬件层），体现全局视野
- 如何优化大规模分布式训练中的通信瓶颈？请给出具体调优路径
- 请对比分析NCCL与UCX在特定场景下的优劣及适用边界
- CUDA编程中如何优化内存访问以提升Kernel执行效率？
- 面对多时区跨国团队，你如何推动跨部门技术落地并化解分歧？
- 复习计算机体系结构与操作系统底层知识，梳理分布式系统一致性协议
职位点评
薪资福利85
成长发展92
工作生活70
使命价值88
薪资福利
85较高
薪资水平对标上海一线科技大厂资深技术岗，整体薪酬竞争力较强，但具体奖金与股权比例需面试确认。
薪资信号偏高 (8.0千–15.0万/月)
成长发展
92较高
深度参与前沿AI基础设施与HPC通信库研发，技术栈极具前瞻性，内部技术社区活跃且成长空间广阔。
技术前沿前沿/新兴技术
技术栈HPC、AI Networking、NCCL、UCX、RDMA/RoCE、CUDA、分布式训练
业务类型profit_center
工作生活
70中等
明确标注混合办公模式，提供一定灵活性，但作为核心研发岗可能面临项目交付与技术攻坚压力。
工作模式混合式弹性办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
88较高
直接投身全球AI算力基础设施建设，技术成果将广泛应用于科研、自动驾驶与大模型领域，社会价值显著。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs