英伟达
Developer Technology Engineer - AI
Developer Technology Engineer - AI
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Gpu Programming
Large Language Models (Llm)
Nccl
值不值得投
83综合评分
综合评分 83
顶尖外企核心研发岗、前沿AI/HPC技术栈、高技术挑战与成长空间、WLB信息不明
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.3万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 510 个在招 · 其中高性能计算 15 个
市场机会
选择面较广
上海 · 高性能计算 · 52 个在招
职位详情
关于这个职位
加入英伟达DevTech团队，作为软件工程师直接对接全球开发者，深入客户项目解决性能瓶颈
主要负责大语言模型（LLM）的训练与推理优化、GPU内核及编译器底层优化、以及分布式通信库（如NCCL）的改进
通过算法与架构层面的深度调优，推动下一代NVIDIA软硬件平台的演进
最低要求
工程学或计算机科学相关领域的学位或同等经验
年以上工作经验
扎实的C、C++、Python或Fortran基础
精通软件开发、编程技术及算法
具备扎实的数学基础（线性代数、数值方法）
熟悉并行编程与加速计算，了解并行架构及性能分析调优方法
有GPU编程经验者优先
至少在一个领域（LLM或HPC）具备全栈性能分析与优化经验，能从算子级到框架级再到算法级进行优化者优先
具备扎实的软件工程基础和系统架构思维，能在复杂系统中构建模块并推动工程实践
优秀的沟通协作能力，能与架构、研究及软件产品团队高效合作
工作职责
直接与关键应用开发者合作，理解其当前及未来面临的问题
通过库开发和直接贡献应用程序，利用GPU构建和优化核心并行算法及数据结构，提供最高效的解决方案
包括大语言模型（LLM）的训练和推理优化，以及在LLM生态（如Megatron, TRTLLM, SGLang, vLLM）中贡献框架和开源项目
与NVIDIA内部的架构、研究、库、工具和系统软件团队紧密协作，影响下一代架构、软件平台和编程模型的构建
调查对应用性能和开发者效率的影响，将真实的开发者反馈转化为可操作的平台改进
参与高性能算子的深度优化，包括但不限于GPU内核优化、指令级调整和编译器优化
这些优化将直接支持客户或在计算库和社区开源项目（如cuDNN, cuBLAS, CUTLASS, DeepGEMM, FlashMLA, FlashAttention, Flashinfer等）中进行协调
提升大规模分布式LLM工作负载的通信效率
通过完善通信库（NCCL, NCCL GIN, NVSHMEM）并参与开源通信库（如DeepEP, NCCL EP）的开发，引领分布式训练和推理的进步
这需要深入研究互连拓扑（NVLink）和网络协议（InfiniBand/RoCE），以设计高效的数据传输策略和计算通信重叠方法
优先资格
硕士或博士学位优先
在大型语言模型生态系统（如Megatron, TRTLLM, SGLang, vLLM等）中贡献框架或开源项目的经验
在高性能算子优化（如cuDNN, cuBLAS, CUTLASS, DeepGEMM, FlashAttention等）方面的专长
具有分布式通信优化经验，熟悉RDMA、GPU互联、集合通信算法及相关开源库（如DeepEP, NCCL EP）
AI 洞察
优缺点分析
优点
- 身处AI算力核心，接触最前沿的LLM和HPC技术栈
- 直接参与NVIDIA核心软硬件生态建设，职业背书极强
- 团队国际化，技术氛围浓厚，能接触到全球顶级开发者需求
- 技术门槛极高，需同时具备深厚的计算机体系结构知识和算法实现能力
- 工作涉及底层调试，问题排查难度大，对数学和逻辑思维能力要求严苛
- 热衷于底层系统优化、对GPU架构和并行计算有深厚兴趣、具备扎实算法和工程能力的资深软件工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向资深系统软件工程师、首席架构师方向发展，或转向AI基础设施领域的专家角色
- 也可在分布式系统、编译器开发或高性能计算领域成为行业权威
- 深入客户项目，针对大语言模型和高性能计算场景进行底层性能分析与优化
- 开发和维护GPU内核、编译器优化及分布式通信库（如NCCL）
- 与内部架构和研究团队合作，将开发者反馈转化为下一代软硬件平台的改进方案
- 精通C/C++/Python及并行编程算法，具备扎实的数学基础
- 熟悉GPU架构、CUDA编程及高性能计算原理
- 掌握LLM训练/推理优化、分布式通信协议（NVLink/RoCE）及主流开源框架（Megatron/vLLM等）
申请策略
- 强调解决复杂性能瓶颈的实际案例，展示从理论到落地的全链路能力
- 了解NVIDIA最新硬件架构（如Hopper/Blackwell）特性
- 突出LLM训练/推理优化、GPU Kernel开发、分布式通信优化等具体项目经历
- 量化性能提升指标（如速度提升百分比、吞吐量增加量）
- 展示在开源社区（如PyTorch, HuggingFace, NVIDIA开源库）的贡献
- 深化CUDA编程技巧，学习TensorRT、Megatron-LM等主流LLM框架源码
- 掌握分布式训练通信原理（All-reduce, All-gather等）及网络协议细节
面试指南
- 使用STAR法则（情境、任务、行动、结果）描述项目
- 重点阐述问题分析过程（ profiling工具使用、瓶颈定位）、技术方案选型依据、具体实施细节及最终的性能收益数据
- 请描述你优化过的最复杂的GPU Kernel或算法，你是如何定位瓶颈并提升性能的？
- 在大语言模型分布式训练中，通信开销往往成为瓶颈，你有哪些优化策略？
- 解释一下CUDA中的内存层次结构（Shared Memory, Global Memory等）及其对性能的影响
- 如何处理LLM推理中的显存碎片化问题？
- 请谈谈你对NCCL或类似集合通信库的理解及优化思路
- 复习计算机体系结构、并行计算原理及线性代数知识
职位点评
薪资福利85
成长发展95
工作生活60
使命价值90
薪资福利
85较高
作为已上市的跨国巨头，提供具有市场竞争力的薪资和完善的福利体系，虽未明确披露具体数字，但行业地位保证了薪酬水平处于高位。
薪资信号未披露（AI估算：4.5千–8.0万/月）
成长发展
95较高
职位直接接触AI领域最前沿的大模型和HPC技术，团队技术实力雄厚，能提供极高的技术成长空间和行业影响力。
技术前沿前沿/新兴技术
技术栈LLM、GPU、CUDA、NCCL、NVLink、Megatron、vLLM、FlashAttention
业务类型profit_center
工作生活
60中等
JD未明确提及弹性工作或WLB政策，作为核心研发岗位，可能面临较高的技术挑战和项目压力，工作强度需结合实际情况判断。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
90较高
致力于连接全球开发者，推动AI基础设施进步，对社会技术发展和创新具有显著的正向影响力，使命感强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号connect the NVIDIA platform with developers worldwide、guide next-generation NVIDIA hardware and software
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs