英伟达
Senior HPC and AI Networking Performance Research and Analysis Engineer
Senior HPC and AI Networking Performance Research and Analysis Engineer
发布于 6 个月前普通员工/个人贡献者
上海市 / 广州市
高级经验
全职员工
仅现场办公
本科
研究与开发 (研发)
性能剖析
系统性能
高性能网络
Ai工作负载分析
CUDA
NCCL
RDMA
分布式深度学习
AI 估算 · 55k–95k
该职位要求顶尖的AI与高性能网络交叉领域专家技能，涉及前沿技术，市场人才稀缺，薪资竞争力极强。
职位详情
关于这个职位
该职位是英伟达的高级高性能计算与AI网络性能研究分析工程师
您将专注于分析和优化大规模GPU/CPU集群上AI工作负载（特别是大语言模型训练和推理）的网络通信性能，涉及RDMA、集合通信等核心技术
您需要开发性能分析工具，与软硬件团队协作，定位系统瓶颈并推动性能提升
最低要求
计算机科学或软件工程学士学位
年以上高性能网络（RDMA, MPI, NCCL）相关经验
具备性能分析技能和方法论
熟悉NVIDIA GPU、CUDA库、深度学习框架（如TensorFlow或PyTorch），并精通网络集合通信库（如NCCL）和协议（如RoCE和RDMA）
具备快速自学能力、强大的分析和解决问题能力
编程语言：Python、Bash和C语言
熟悉Linux操作系统发行版
具备团队合作精神及良好的沟通和人际交往能力
工作职责
研究和体验专门为NVIDIA超级计算机上大规模深度学习LLM训练量身定制的AI工作负载和DL模型，重点关注高性能网络
进行基准测试、性能剖析和分析，以发现瓶颈并确定改进和优化领域，特别强调网络方面
实施性能分析工具
与从硬件到软件的多个团队合作，提供性能分析见解
定义性能测试计划，为新技术和解决方案设定性能预期，并努力达到性能目标极限
优先资格
对分布式LLM训练的AI工作负载基准测试、CUDA和NCCL库有深入的知识和经验
深入的系统知识和理解（Intel / AMD / ARM CPU、NVIDIA GPU、HCA、内存、PCI）
拥塞控制算法知识
AI 洞察
优缺点分析
优点
- 平台顶尖：在英伟达工作，能接触最前沿的AI硬件（GPU）和超算系统，技术视野开阔
- 技能壁垒高：专注于AI与高性能网络的交叉领域，技能组合独特且价值高，不易被替代
- 影响重大：工作直接优化AI训练效率，对加速AI研发有实质性贡献，成就感强
- 资源丰富：能与世界级的软硬件工程师协作，学习成长环境优越
- 适合对计算机系统底层有强烈好奇心，热爱解决极端复杂技术难题，并希望在AI基础设施核心领域建立深厚专业壁垒的资深工程师
缺点 / 挑战
- 技术难度极大：需要同时精通网络、系统、AI等多个复杂领域，学习曲线陡峭，持续学习压力大
- 问题定位复杂：性能瓶颈可能涉及硬件、驱动、库、应用多层，根因分析极具挑战性
- 工作强度可能较高：面向尖端技术和严苛性能目标，可能需要应对高强度的问题排查和优化任务
角色解读
- 技术专家路径：可向AI系统架构师、高性能计算首席科学家方向发展，成为公司内该领域的顶级技术权威
- 技术管理路径：凭借对系统性能的全局理解，可转向技术项目管理或研发团队管理，负责更大规模的性能优化项目
- 行业影响力：在该领域的深厚积累，有助于在AI基础设施、云计算等前沿行业成为备受认可的专家
- 专注于分析和优化大规模AI训练（特别是大语言模型）中的网络通信性能，是连接计算与网络的关键角色
- 开发和使用性能分析工具与方法论，深入系统底层定位瓶颈，为软硬件优化提供数据支持
- 与硬件（GPU、CPU、网卡、交换机）和软件（框架、通信库）团队紧密协作，共同定义和达成性能目标
- 核心技能是高性能网络（RDMA、MPI、NCCL）的深度理解和实践经验，这是分析通信瓶颈的基础
- 必须精通NVIDIA GPU生态（CUDA）和主流AI框架（PyTorch/TensorFlow），并能将其与网络性能关联分析
- 需要扎实的系统级知识（CPU架构、内存、PCIe）和强大的编程能力（Python/C），用于开发分析工具和进行底层调试
申请策略
- 深入了解英伟达在AI计算和网络方面的最新产品与技术方向（如Spectrum-X），在申请中体现你的关注与思考
- 准备阐述你对大规模AI训练中典型网络通信模式（如All-Reduce）及其性能瓶颈的独到见解
- 重点突出在高性能网络（RDMA/IB）和AI分布式训练（NCCL）方面的具体项目经验，量化性能优化成果
- 详细描述使用性能分析工具（如Nsight Systems, perf, 或自研工具）定位和解决系统瓶颈的案例
- 展示对NVIDIA GPU、CUDA编程以及PyTorch/TensorFlow框架的深入理解和实际应用经验
- 体现扎实的系统编程（C语言）和脚本开发（Python/Bash）能力，以及Linux环境下的问题排查经验
- 若对拥塞控制算法不熟，可补充学习DCQCN、TIMELY等RDMA网络相关算法
- 深化对NVIDIA GPU架构（如Hopper, Ampere）和NVLink/NVSwitch互联技术的理解
面试指南
- 采用STAR原则（情境、任务、行动、结果）结构化回答项目经验问题，重点突出技术决策依据和量化结果
- 对于系统分析类问题，展示分层、递进的排查思路，体现系统性的思维方式和对各组件交互的理解
- 在回答中适时引用具体的技术指标（如带宽、延迟、吞吐量）、工具命令或代码片段，增强回答的专业性和可信度
- 请描述一次你定位并解决分布式AI训练任务中网络性能瓶颈的经历，你用了哪些工具和方法？
- 如何分析一个All-Reduce操作在大型GPU集群上的性能？可能的影响因素有哪些？
- 比较一下RoCEv2和InfiniBand在AI集群中应用的优缺点
- 当AI训练作业出现性能下降时，你的系统性排查思路是什么？（从应用、框架、通信库、驱动到硬件）
- 你如何设计一个实验或测试来评估一种新的网络拓扑或拥塞控制算法对LLM训练性能的影响？
职位点评
Watch Jobs