英伟达
AI Infrastructure Software Engineer — CosmosLab
AI Infrastructure Software Engineer — CosmosLab
发布于 大约 4 小时前普通员工/个人贡献者
北京市 / 上海市
高级经验
全职员工
仅现场办公
本科
软件工程
GPU
PyTorch
CUDA
机器学习基础设施
分布式训练
RL
FSDP
Megatron
AI 估算 · 35k–65k
英伟达高级工程师岗位，AI基础设施方向技术难度高，市场竞争激烈，一线城市薪资水平高。
职位详情
关于这个职位
加入NVIDIA CosmosLab，构建用于物理AI世界基础模型的训练基础设施
你将设计并优化大规模预训练、SFT及RL后训练系统，涵盖数据加载、分布式训练、推理引擎和仿真集成
与顶尖团队合作，推动AI技术前沿
最低要求
年以上大规模AI或分布式系统软件基础设施开发经验
计算机科学或相关技术领域本科学历或同等经验
强大的跨栈调试和故障排查能力（从AI应用到底层GPU/硬件）
构建和扩展大规模分布式系统的可靠记录（分布式训练或推理优先）
具备AI训练和/或推理基础设施实践经验（RL/后训练、训练框架或推理服务）
精通Python及脚本编写，扎实的软件工程实践：测试、防御性编程、版本控制和CI
优秀的沟通协作能力
求知欲、问题解决能力和主动性
工作职责
创建并实施用于物理AI世界基础模型的训练基础设施，涵盖预训练、SFT和RL后训练，包括框架和跨集群控制平面协调工作负载
开发和改进预训练和SFT流水线——大规模数据加载、分布式训练和检查点——实现高吞吐和可扩展性
开发和改进推理和评估栈，包括推理引擎、推理/生成流水线（也支持RL rollout）和评估流水线，使用连续批处理和KV-cache管理实现高吞吐和低延迟
构建并改进RL系统中角色（策略、rollout、奖励、仿真）之间的有效交互和数据流，同时研究系统级优化机会
集成并编排仿真和机器人环境作为RL环境——大规模驱动仿真↔rollout↔训练循环
构建并优化分布式训练后端——分片/并行、混合精度、激活检查点以及跨多GPU的内存/吞吐优化
提高训练和RL工作负载的效率、可扩展性和弹性——关注容错、快速/弹性重启以及抢占和硬件故障下的吞吐优化
定义有意义的、可操作的可靠性指标，并跟踪改进系统可靠性
从应用层到框架、GPU和网络/硬件层进行故障根本原因分析、分类和解决
优先资格
构建RL/后训练基础设施经验（PPO/GRPO/DPO管线、rollout引擎和异步RL）
大规模生产级预训练/SFT基础设施背景
将仿真/机器人环境集成到训练或RL循环中的经验（包括向量化环境和sim-to-real工作流）
深度学习框架内部知识（PyTorch FSDP/DTensor和Megatron或同等经验）、分布式训练及相关优化技术
精通C/C++/CUDA，用于性能关键组件和自定义内核
AI 洞察
优缺点分析
优点
- 全球顶级AI公司，品牌和平台优势明显，简历含金量高
- 接触最前沿的AI训练技术（物理AI、RL后训练），技术成长快
- 薪资福利极具竞争力，股权激励丰厚
- 团队人才密度高，与行业顶尖工程师合作
- 工作强度较大，可能需要应对复杂的系统故障和紧急修复
- 技术深度和广度要求高，需要持续学习最新分布式训练和AI技术
- 岗位对经验要求高（5+年），竞争激烈
缺点 / 挑战
- 适合在AI基础设施或分布式系统领域有扎实经验，渴望挑战前沿技术并愿意在高强度环境中快速成长的工程师
角色解读
- 技术专家路线：深耕AI基础设施，成为分布式训练或RL系统领域的权威
- 架构师路线：负责更大规模的系统设计，主导下一代AI训练平台架构
- 技术管理路线：带领团队，负责项目规划与交付，逐步转向管理岗
- 设计和实现大规模AI训练基础设施，涵盖预训练、有监督微调（SFT）和强化学习（RL）后训练
- 开发和优化分布式训练流水线，包括数据加载、检查点、混合精度和并行策略
- 构建和优化推理和评估栈，使用连续批处理和KV-cache管理提升吞吐和降低延迟
- 集成仿真和机器人环境作为RL环境，驱动大规模仿真-训练循环
- 精通Python和C/C++/CUDA，具备扎实的软件工程实践
- 深入理解分布式系统，有大规模分布式训练或推理经验
- 熟悉深度学习框架（PyTorch FSDP/DTensor、Megatron）和RL训练管线
- 强大的调试和故障排查能力，覆盖从应用到硬件的全栈
申请策略
- 准备一个完整的系统设计案例，展示从需求分析到方案落地和优化的过程
- 了解NVIDIA AI基础设施的公开资料（如DGX、Base Command），展现对公司的兴趣
- 突出大规模分布式系统的设计和落地经验，特别是AI训练或推理相关项目
- 强调Python和C++/CUDA的工程能力，以及性能优化案例
- 展示RL训练管线（如PPO、GRPO）或仿真集成经验
- 量化项目成果（如吞吐提升、延迟降低、规模扩展等）
- 若缺乏RL训练经验，可学习并实践RLHF或RL后训练的经典论文和开源实现
- 熟悉PyTorch分布式训练机制（FSDP、DDP）和Megatron-LM框架
面试指南
- 使用STAR法则（情境-任务-行动-结果）回答行为问题，突出解决问题的方法和量化结果
- 对于系统设计问题，从需求分析入手，分解为数据流、计算架构、容错、监控等模块，并权衡取舍
- 对于技术原理问题，先解释核心概念，再结合实际工程经验说明优化细节
- 如何设计一个支持大规模预训练和RL后训练的训练平台？
- 描述一次你诊断并解决分布式训练性能瓶颈的经历
- RL后训练中，如何实现高效的异步rollout和奖励计算？
- 请解释混合精度训练的原理及其在GPU上的实现
- 如何处理训练中GPU故障或节点掉线？设计容错机制
职位点评
78
综合评分
顶尖AI公司、前沿技术栈、高薪高压，发展空间巨大但生活平衡有限。
更适合这类人
适合追求技术挑战、渴望在AI前沿领域快速成长、并愿意接受高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利88
成长发展95
工作生活45
使命价值85
薪资福利
88较高
该职位来自顶级上市科技公司，薪资水平在市场中处于领先地位，福利全面，能较好满足补偿性动机。
薪资信号偏高 (35K-65K/月)
福利待遇competitive salaries、comprehensive benefits package
成长发展
95较高
岗位涉及AI训练最前沿技术（物理AI、RL后训练），技术挑战大，成长空间极高，发展性动机得到极好满足。
技术前沿前沿/新兴技术
技术栈PyTorch、Megatron、CUDA、RL、分布式训练、GPU
业务类型profit_center
工作生活
45较低
岗位要求现场办公，未提及灵活工作安排或加班情况，但英伟达作为硬件公司通常有一定工作强度，生活化动机满足程度一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI行业高速增长，物理AI和机器人领域具有巨大社会影响力，NVIDIA作为行业领导者，使命驱动强，意义感动机满足度高。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号define the next era of computing、make a lasting impact on the world
创新程度开拓性创新（行业首创）
Watch Jobs