商汤
高性能网络通信工程师，模型推理
高性能网络通信工程师，模型推理
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Gpu
Nccl
Rdma
Roce
分布式系统
性能优化
值不值得投
80综合评分
综合评分 80
高壁垒底层技术岗、前沿AI算力方向、薪资优厚、技术成长极快
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
96 个在招
市场机会
选择面较广
北京 · 高性能计算 · 60 个在招
职位详情
关于这个职位
负责AI集群和超节点场景下GPU通信系统的研究与落地，深入理解NCCL/RDMA等底层技术
针对大规模推理场景优化AllReduce等通信模式，建立性能模型并定位全链路瓶颈，提升集群通信效率与稳定性
最低要求
扎实的 C/C++、Linux 系统编程能力
了解 CUDA/GPU 编程模型，理解 GPU memory、stream、kernel、同步机制
了解 NCCL 或至少一种 GPU 集合通信库，理解常用通信原语，有实际使用、性能分析或源码研究经验
理解 RDMA / RoCE 协议，PCIe、NUMA、GPU/NIC 拓扑关系
能独立进行系统级性能分析和问题定位
工作职责
负责 AI 集群和超节点场景下 GPU 通信系统的技术研究，参与架构设计和工程落地
理解 NCCL、HCCL、MCCL 等 GPU 通信库，以及 RDMA/RoCE 等 Scale-up / Scale-out 互联技术
研究大规模推理场景下 AllReduce、AllToAll、MoE Dispatch/Combine 等通信模式，分析通信库、GPU 与网络之间的协同机制
面向国产超节点，负责通信库、Scale-up 互联、多租户隔离及故障恢复等关键技术的调研与实现
建立集群通信带宽、时延、拓扑效率、集合通信性能模型，进行收益分析和优化
参与 NCCL/XCCL 通信故障和性能问题定位，并结合 GPU、PCIe、NIC、RDMA、交换网络等全链路分析瓶颈
优先资格
研读过 NCCL / XCCL 通信库源码,了解 DeepEP / MoE Expert Parallel / MoonCake TE Store
有 GPU 或 超节点 集群推理优化经验
有国产 GPU 软件栈经验
AI 洞察
优缺点分析
优点
- 处于AI基础设施核心层，技术壁垒高，接触最前沿的大模型训练/推理架构，职业护城河深
- 技术栈极深且垂直，需同时懂软硬件底层，调试难度大，对系统级性能优化的耐心和经验要求极高
- 喜欢钻研底层原理、具备极强动手能力、对高性能计算和分布式系统有浓厚兴趣的技术极客
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向首席系统架构师、AI基础设施专家方向发展，或在国产算力生态中成为核心技术人员
- 深入研究AI集群中GPU间的通信机制（如NCCL/RDMA），解决大规模模型推理时的通信瓶颈
- 精通C/C++与Linux系统编程，深刻理解CUDA编程模型及GPU硬件特性，熟悉RDMA/RoCE网络协议
申请策略
- 强调自己在‘软硬结合’方面的优势，展示对AI集群整体架构的理解，而不仅仅是单一模块开发
- 突出NCCL/RDMA源码阅读经历、具体的性能优化案例（如带宽提升百分比）、以及处理复杂系统故障的经验
- 补充MoE（混合专家模型）通信模式知识，了解国产GPU（如昇腾）的软件栈差异
面试指南
- 采用STAR法则，重点阐述问题背景、使用的工具/方法、分析过程（如使用Nsight Systems/perf）、以及最终的性能提升数据
- 请描述NCCL中AllReduce算法的实现原理及其优化手段
- RDMA相比传统TCP/IP在低延迟场景下的优势是什么？
- 如何定位一个跨节点的GPU通信性能瓶颈？
- 解释一下NUMA架构对GPU内存访问的影响
- 复习CUDA编程模型细节，准备1-2个完整的性能调优案例，了解当前主流大模型（如LLaMA、Mixtral）的并行策略
职位点评
薪资福利85
成长发展90
工作生活60
使命价值75
薪资福利
85较高
作为上市大厂的核心研发岗，薪资竞争力强，福利体系完善，符合市场对高阶技术人才的定价。
薪资信号未披露（AI估算：4.0千–7.0万/月）
成长发展
90较高
涉及AI集群底层通信这一前沿且高壁垒领域，技术成长空间巨大，能接触到行业顶尖的算力基础设施。
技术前沿前沿/新兴技术
技术栈NCCL、RDMA、RoCE、CUDA、MoE、GPU
业务类型profit_center
工作生活
60中等
互联网大厂通常节奏较快，但具体WLB取决于团队，JD未明确提及弹性或加班情况，存在一定不确定性。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
致力于提升AI算力效率，推动大模型技术发展，具有显著的行业价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
商汤 的其他在招职位
相似职位推荐
AI推理平台-AI 高性能计算工程师-杭州/北京/上海
阿里巴巴 · 杭州市
AI 估算 · 4.0–8.0万4 天前发布
高性能计算专家（北京/深圳/上海）
腾讯 · 北京市
AI 估算 · 6.0–12.0万7 天前发布
Developer Technology Engineer, AI
英伟达 · 北京市
AI 估算 · 4.0–8.0万13 天前发布
Deep Learning Performance Architect
英伟达 · 上海市
AI 估算 · 6.0–12.0万13 天前发布
Developer Technology Engineer - AI
英伟达 · 上海市
AI 估算 · 4.5–8.0万13 天前发布
Deep Learning Performance Architect
英伟达 · 上海市
AI 估算 · 4.0–7.0万13 天前发布
Deep Learning Kernel Software Performance Architect
英伟达 · 上海市
AI 估算 · 4.5–8.0万13 天前发布
GPU Kernel Performance Engineer
超威半导体 · 上海市
AI 估算 · 6.0–10.0万13 天前发布
Watch Jobs