英伟达
AI Computing Performance Architect Intern, Perf Analysis and Kernel Dev - 2026
AI Computing Performance Architect Intern, Perf Analysis and Kernel Dev - 2026
发布于 6 个月前普通员工/个人贡献者
上海市 / 北京市
无经验要求
实习生
仅现场办公
本科
软件工程
内核开发
并行编程
性能分析
深度学习
GPU
LLM
MPI
OpenMP
AI 估算 · 8k–12k
AI计算性能架构实习生，LLM内核优化，顶尖技术实习，待遇极好。
职位详情
关于这个职位
这是一个面向2026届毕业生的AI计算性能架构师实习生职位，专注于性能分析与内核开发
你将负责为英伟达新一代架构设计和优化大型语言模型（LLM）中的关键层（如注意力机制、GEMM、GPU间通信），并实现和调优GPU内核以获得最佳性能
通过深入分析GPU内核性能，识别瓶颈并优化资源利用率、吞吐量和能效，你将直接影响下一代AI应用的硬件和软件发展
最低要求
正在攻读相关领域的学士、硕士或博士学位（计算机科学、电子工程、计算机工程）
具备扎实的C/C++、Python、MPI、OpenMP等软件技能
拥有扎实的计算机科学软件和硬件架构背景
出色的口头和书面沟通能力
良好的组织、时间管理和任务优先级排序能力
工作职责
为英伟达的新架构设计、开发和优化LLM（例如注意力机制、GEMM、GPU间通信）中的主要层
实现和微调内核，以在英伟达GPU上实现最佳性能
对GPU内核（包括注意力机制和其他关键操作）进行深入的性能分析
识别瓶颈，优化资源利用率，并提高吞吐量和能效
创建和维护工作负载及微基准测试套件，以评估各种硬件和软件配置下的内核性能
为内部和外部利益相关者生成性能预测、比较和详细的分析报告
与架构、软件和产品团队合作，指导下一代深度学习硬件和软件的开发
优先资格
有深度学习工作负载和算子性能经验者优先
熟悉GPU计算和并行编程模型者优先
AI 洞察
优缺点分析
优点
- 顶级平台与技术前沿：在英伟达这样的行业领导者处实习，能直接接触最先进的GPU架构和AI计算栈，技术视野和起点极高
- 核心技能深度积累：专注于性能分析与内核开发，这是AI基础设施领域的硬核技能，具有很高的技术壁垒和长期价值
- 明确的职业影响力：工作直接关联下一代AI硬件的性能，成果可见度高，能获得强烈的技术成就感和行业认可度
- 极高的技术门槛：需要同时具备深厚的软件工程、硬件架构和特定领域（AI/深度学习）知识，学习曲线陡峭
- 工作强度与精度要求：性能优化工作通常涉及反复的测试、分析和微调，需要极大的耐心和对细节的极致追求
- 激烈的竞争环境：作为顶级公司的核心研发岗位，申请者众多，对候选人的基础素质和项目经验要求非常苛刻
- 适合对计算机体系结构和高性能计算有浓厚兴趣，具备扎实的编程和系统基础，并希望在未来AI基础设施领域深耕的技术型学生
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术纵深发展：可以从性能优化工程师成长为特定领域（如AI编译器、硬件架构）的专家，或转向更底层的芯片设计支持
- 横向扩展：积累的软硬件协同优化经验，为转向AI系统工程师、机器学习平台开发或技术产品经理等角色奠定坚实基础
- 你将设计和优化大型语言模型（LLM）中的核心计算层，如注意力机制和矩阵乘法（GEMM），并开发高效的GPU间通信方案
- 你的核心工作是编写和调优运行在英伟达GPU上的高性能计算内核，并通过详尽的基准测试和性能分析来验证和提升其效率
- 你需要创建和维护一套性能评估工具集，用于在不同硬件和软件环境下测试内核，并生成专业的性能报告来指导产品开发决策
- 必须具备扎实的C/C++和Python编程能力，用于开发高性能内核和自动化分析脚本
- 需要深入理解计算机体系结构，特别是GPU的并行计算模型和内存层次结构，以进行有效的性能分析和优化
- 熟悉MPI、OpenMP等并行编程框架是基础，对深度学习算子（如卷积、注意力）的计算特性有了解将是重要加分项
申请策略
- 深入了解英伟达近期的GPU架构（如Hopper, Blackwell）及其对应的计算库（如cuBLAS, cuDNN），在申请材料或面试中展现你的关注和研究
- 仔细阅读职位描述中的技术栈和工作内容，确保你的技能陈述和项目经历能精准匹配到“性能分析”和“内核开发”这两个核心方向
- 重点突出与高性能计算、并行编程或编译器优化相关的课程项目、科研课题或竞赛经历（如超算竞赛）
- 详细描述你使用C/C++和Python解决复杂计算问题的项目，特别是涉及性能分析和优化的部分，用数据（如加速比）量化成果
- 如果有GPU编程（如CUDA）、MPI/OpenMP或深度学习框架底层调优的经验，务必作为核心亮点单独列出并详细说明
- 深入学习CUDA编程模型，并通过实践项目（如实现一个简单的矩阵乘法或卷积核）来巩固理解
- 补充计算机体系结构知识，特别是内存层级、缓存一致性、SIMD等与性能紧密相关的概念，可以阅读相关教材或论文
- 了解主流深度学习框架（如PyTorch）中算子的实现原理，尝试分析或微调其性能
面试指南
- STAR框架：针对项目经验类问题，使用情境（Situation）、任务（Task）、行动（Action）、结果（Result）的结构清晰阐述，重点突出你的技术决策、分析过程和量化成果
- 原理结合实践：回答技术原理问题时，不仅要准确描述概念，更要联系实际编程或优化场景，说明该原理如何应用及可能产生的影响
- 系统性思维：面对开放性问题（如优化思路），展示你从监控 profiling、定位瓶颈、提出假设、实验验证到总结归纳的系统化解决问题能力
- 请描述一个你进行过性能分析和优化的项目，你遇到了什么瓶颈？采用了哪些方法？最终提升了多少性能？
- 解释一下GPU的SM（流多处理器）架构和内存层次（全局内存、共享内存、寄存器），并谈谈它们如何影响内核性能
- 如何为一个矩阵乘法（GEMM）内核设计性能评估实验？你会关注哪些指标？
- 谈谈你对深度学习模型中注意力机制（Attention）计算复杂度的理解，以及可能的优化方向
- 如果你发现一个内核的性能未达预期，你的调试和优化思路是什么？
职位点评
Watch Jobs