英伟达
Senior DGX Cloud AI Infrastructure Software Engineer
Senior DGX Cloud AI Infrastructure Software Engineer
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公平台工程
平台工程
Ai基础设施
Elk
Nvidia Gpu
Pytorch
Tensorflow
大规模分布式系统
故障分析
值不值得投
81综合评分
综合评分 81
前沿AI基础架构核心岗、技术成长性极强、行业地位高，但办公模式与WLB信息未明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
5.5万
比平台工程中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中平台工程 2 个
市场机会
选择适中
上海 · 平台工程 · 35 个在招
职位详情
关于这个职位
作为资深DGX云AI基础设施软件工程师，你将负责设计、构建和维护支持大规模AI训练和推理的基础设施软件与工具
你的工作将确保AI系统的高效率和高可用性，直接服务于NVIDIA的核心AI研究团队，是AI平台背后的重要技术支撑力量
最低要求
年以上为大规模AI系统开发软件基础设施的经验
计算机科学或相关技术领域本科及以上学位（或同等经验）
具备出色的调试技能和经验，能够从应用层面到硬件层面分析和处理AI应用故障
有构建和扩展大规模分布式系统的成功经验
拥有AI训练与推理以及数据基础设施服务的相关经验
熟悉操作大规模可观测性平台进行监控和日志记录（例如 ELK、Prometheus、Loki）
熟练掌握编程语言，如 Python、C/C++、脚本语言
具备卓越的沟通与协作能力，并认同多元化、求知欲、解决问题和开放的文化
工作职责
为大规模AI、大语言模型和生成式AI基础设施开发基础设施软件和工具
开发和优化工具以提高基础设施效率和弹性
进行从应用层到硬件层的故障根因分析和分级处理
增强支撑NVIDIA AI平台的基础设施和产品
协同设计并实现API，以与NVIDIA弹性技术栈集成
定义有意义且可操作的可靠性指标，以跟踪和改进系统及服务的可靠性
具备解决问题、根因分析和优化的熟练技能
优先资格
具备大规模AI集群的工作经验
对NVIDIA GPU、网络技术（RDMA、IB、NCCL）有深刻理解
良好理解深度学习框架内部原理，如 PyTorch、TensorFlow、JAX 和 Ray
具备数据中心规模的故障分析和根因分析经验
拥有深厚的软件设计和开发背景
AI 洞察
优缺点分析
优点
- 身处AI与高性能计算的技术最前沿，直接参与构建支撑未来AI创新的底层平台
- 作为核心平台团队成员，你的工作成果将直接影响整个公司AI研究的效率和规模
- 在英伟达这样的行业领导者工作，能接触顶尖的技术、人才和资源，学习机会丰富
- 岗位职责深入系统底层，对培养全栈、端到端的复杂系统工程能力价值极高
- 需要处理AI集群中极其复杂的软硬件协同问题，故障排查难度大、对深度和广度要求高
- 基础设施的稳定性至关重要，工作成果需接受最严苛的可靠性标准检验，责任重大
- AI技术栈和硬件迭代速度极快，需要持续学习以跟上行业和公司的发展步伐
- 适合拥有扎实分布式系统与AI基础设施背景，热衷于解决高难度、高影响力技术问题，并追求在底层技术领域深度发展的资深工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路径：深耕AI基础设施可靠性、性能优化领域，成为特定技术方向的架构师
- 技术领导路径：负责更大的系统模块或子团队，从技术深度向技术广度与管理能力拓展
- 行业影响路径：凭借在AI基础架构领域的深度积累，参与或引领行业标准的制定
- 设计与开发支持大规模AI训练和推理的核心基础设施软件与工具
- 负责AI系统从应用层到硬件层的全栈故障诊断、根因分析与可靠性优化
- 参与构建和增强支撑NVIDIA AI平台的可观测性系统、API及弹性能力
- 与AI研究团队紧密合作，确保他们拥有稳定、高效的计算资源与环境
- 具备构建和运维大规模分布式系统（特别是AI/HPC集群）的深厚工程经验
- 精通AI/LLM工作负载的特性，熟悉相关训练、推理流程及数据基础设施
- 熟练掌握Python、C/C++等语言，具备出色的调试和问题分析能力
- 了解可靠性工程（SRE）实践，熟悉Prometheus、ELK等监控与日志平台
申请策略
- 深入研究NVIDIA DGX Cloud的定位和价值主张，在面试中展现你对产品的理解和热情
- 准备并阐述你对“无责复盘文化”和“迭代改进”在基础设施工程中重要性的看法，与团队价值观共鸣
- 详细描述你参与过的“大规模”分布式系统或AI集群项目，突出系统规模、复杂度及你的核心贡献
- 列举你解决的典型复杂故障案例，展示你从应用到硬件的端到端分析能力和系统思维
- 清晰列出你精通的编程语言、监控工具及你对特定AI框架（如PyTorch）的深入了解
- 强调你与跨职能团队（如AI研究员、运维）协作，共同提升系统可靠性和效率的经验
- 深入学习NVIDIA GPU计算生态（CUDA, NCCL）和现代AI集群网络技术（如RDMA, InfiniBand）
- 在开源社区中参与或研究大型AI/分布式系统项目，如Kubernetes上的AI调度器、PyTorch弹性训练等
面试指南
- 使用STAR原则（情境、任务、行动、结果）结构化描述你的项目经验和故障处理过程，量化结果（如：将任务恢复时间缩短X%，将集群利用率提升Y%）
- 回答技术设计问题时，先阐述你的核心设计原则和权衡考量（如效率与稳定性、成本与性能），再描述具体方案
- 展示你的系统观，将具体工作与AI研究的最终目标（如更快的模型迭代、更大的模型规模）联系起来，体现你的业务理解
- 请描述一个你处理过的最复杂的系统故障，你是如何从应用层一步步定位到硬件层并解决的？
- 在设计和优化大规模AI训练任务的基础设施时，你认为最关键的几个指标是什么？你会如何监控和改进它们？
- 你如何看待软件在提升AI集群硬件资源利用效率中的作用？请举例说明
- 如果让你为一个新的AI平台设计可观测性体系，你会考虑哪些核心组件和指标？
- 在你过去的工作中，是如何与AI科学家或应用工程师协作，将他们的需求转化为基础设施能力的？
职位点评
薪资福利85
成长发展90
工作生活60
使命价值85
薪资福利
85较高
职位为资深技术岗位，在上海有竞争力的薪资水平，但具体福利未在JD中披露。
薪资信号偏高 (4千–7万/月)
成长发展
90较高
职位处于AI基础设施技术前沿，涉及大规模系统和核心平台开发，学习成长机会非常丰富。
技术前沿前沿/新兴技术
技术栈AI、LLM、GenAI、ELK、Prometheus、PyTorch、TensorFlow、NVIDIA GPUs、RDMA、IB、NCCL
成长机会support and mentorship、learning and growth
业务类型profit_center
工作生活
60中等
工作地点推断为上海张江的科技园，属于典型研发办公区。JD未提及任何远程或弹性办公安排，也未明确说明工作强度。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
NVIDIA是AI计算领域的引领者，参与构建其核心AI云平台，具有很高的技术使命感和行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号power the future of AI and data science、makes a difference
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs