英伟达
Software Engineering Intern, DLFW Comms - 2027
Software Engineering Intern, DLFW Comms - 2027
发布于 2 小时前实习/见习
实习生混合式弹性办公机器学习工程
机器学习工程
Ai框架
Cuda
Llm
Pytorch
内核开发
多Gpu并行
深度学习
通信优化
值不值得投
82综合评分
综合评分 82
顶尖AI基础设施实习岗，技术栈极前沿、成长空间大，侧重底层通信与内核优化。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
2.0万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 330 个在招 · 其中机器学习工程 16 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 400 个在招
职位详情
关于这个职位
负责将先进GPU通信库集成到主流AI框架中，完成从概念验证到生产部署的全流程
深入分析多GPU场景下的AI负载，编写高性能通信/计算内核以提升训练与推理效率
针对大规模分布式AI任务设计容错与弹性架构，适合具备深度学习背景、熟悉CUDA/C++及大模型并行技术的硕博实习生
最低要求
正在攻读计算机科学(CE/CS)/电子工程(EE)相关专业的硕士(M.S.)或博士学位(Ph.D.)，在通信、内核开发以及/或AI训练/推理方面具备扎实背景
能够使用Python、C++、CUDA或相关领域特定语言(DSLs，如Triton、cuTe)进行快速原型开发与编程
对大语言模型(LLM)及其并行技术有扎实的理解
具备适应新领域与新工具的学习能力与热情
能够灵活高效地进行跨时区工作与沟通
工作职责
将新型通信库功能集成至AI框架中，涵盖概念验证(PoC)、性能分析到最终投产的全流程
深入分析AI负载与框架，识别多GPU通信需求与优化机会，并与最新AI模型团队紧密协作
编写自定义通信或融合计算-通信内核，以展现NV平台上的极致性能
开展深入研究，实现单节点(SOL)GPU性能目标
为大规模或动态AI负载构建容错与弹性解决方案
与跨越多个时区的动态团队进行高效协作
优先资格
具有PyTorch、JAX、TRT-LLM、vLLM、SGLang或veRL等框架的开发经验
具备专家并行(EP)、张量并行(TP)、数据并行(DP)及流水线并行(PP)等深度学习通信模式经验
拥有CUDA内核优化与性能分析经验
具备大规模训练或生产环境推理栈的使用经验
AI 洞察
优缺点分析
优点
- 接触全球顶尖的AI硬件与软件生态，技术栈极具前沿性
- 直接参与NCCL/NVSHMEM等核心底层库开发，项目履历含金量极高
- 国际化团队协作氛围，提供完善的培训与导师指导体系
- 技术门槛极高，需同时兼顾底层系统编程与上层AI框架理解
- 适合追求硬核技术成长、对AI底层系统与高性能计算有浓厚兴趣的理工科硕博研究生
缺点 / 挑战
- 多GPU大规模通信调优复杂度高，性能瓶颈排查难度大
- 跨时区协作可能带来一定的沟通成本与节奏压力
角色解读
- 可向AI基础设施架构师、高性能计算专家或深度学习编译器工程师方向发展
- 积累底层通信与内核优化经验后，可晋升为技术负责人或转向核心算法/系统研发管理岗
- 负责将先进GPU通信库集成到主流AI框架中，完成从概念验证到生产部署的全流程
- 深入分析多GPU场景下的AI负载，编写高性能通信/计算内核以提升训练与推理效率
- 针对大规模分布式AI任务设计容错与弹性架构
- 精通Python/C++及CUDA/Triton等异构计算语言，具备扎实的算法与系统编程基础
- 深刻理解大模型架构及张量/数据/专家并行等分布式训练原理
- 熟悉PyTorch等主流AI框架底层机制，具备性能剖析与调优能力
申请策略
- 提前研究英伟达近期发布的AI框架更新与通信库论文
- 准备1-2个深度技术案例，重点阐述问题定位、方案设计到性能验证的完整闭环
- 突出CUDA内核开发、AI框架二次开发或分布式训练实战项目
- 量化性能优化成果（如延迟降低X%、吞吐量提升Y倍）
- 清晰展示并行计算理论与数学/物理基础
- 深入学习NCCL/RDMA通信协议及GPU内存管理机制
- 掌握Triton/cuTe等现代GPU编程范式
- 补充分布式系统容错设计与弹性调度知识
面试指南
- 采用STAR法则结构化回答项目经历，强调背景、行动、结果与反思
- 结合理论公式与架构图解说明并行策略的适用场景与权衡
- 分层次展示性能分析思路（宏观指标->微观热点->硬件计数器）
- 请描述一次你优化CUDA内核或Python/C++代码性能的实战经历
- 如何理解大模型训练中的张量并行与数据并行？
- 在PyTorch或类似框架中，通信与计算是如何重叠的？
- 面对多GPU通信瓶颈，你会采用哪些 profiling 工具与分析方法？
- 复习操作系统、计算机网络与并行计算核心课程
职位点评
薪资福利85
成长发展95
工作生活60
使命价值80
薪资福利
85较高
提供极具竞争力的实习津贴与全面福利，符合顶尖科技公司市场标准，但具体薪资范围未公开披露。
薪资信号偏高 (1.5千–2.5万/月)
福利待遇comprehensive benefits package
成长发展
95较高
岗位聚焦AI底层通信与高性能计算，技术栈极度前沿，能直接接触行业标杆级开源框架与硬件生态，成长空间广阔。
技术前沿前沿/新兴技术
技术栈CUDA、PyTorch、vLLM、TRT-LLM、NCCL、NVSHMEM、Triton、cuTe
业务类型profit_center
工作生活
60中等
跨国科技巨头通常提供灵活的办公环境与多元文化，但JD未明确说明具体考勤制度，且跨时区协作可能影响作息规律。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于推动AI算力基础设施革新，通过优化通信性能直接赋能全球开发者与产业界，社会价值与技术使命感强烈。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号define the next era of computing、make a lasting impact on the world
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs