英伟达
Deep Learning Performance Architect
Deep Learning Performance Architect
发布于 38 分钟前普通员工/个人贡献者
上海市 / 北京市
高级经验
全职员工
仅现场办公
本科
研究与开发 (研发)
Aigc
Jax
Llm
Pytorch
Tensorflow
Tensorrt
性能建模
硬件架构
系统优化
AI 估算 · 30k–50k
NVIDIA顶级外企，高级技术岗位，上海/北京薪资水平较高，深度学习性能架构师稀缺，综合市场行情估算。
职位详情
关于这个职位
该职位主要负责深度学习性能建模、分析和优化，针对当前及下一代英伟达推理产品，通过分析LLM等前沿模型，识别性能机会并影响软硬件架构决策
你将与架构、软件和产品团队跨部门协作，推动深度学习硬件/软件的发展方向
适合对深度学习系统性能有深入理解、具备建模和优化经验的技术专家
最低要求
BS, MS or PhD in relevant discipline (CS, EE, Math, etc.) or equivalent experience.
+ years work experience.
Experience with popular AI models (e.g., LLM and AIGC models)
Be familiar with typical deep learning SW framework (e.g., Torch/JAX/TensorFlow/TensorRT)
Knowledge and experience on hardware architectures for deep learning applications
工作职责
Analyze state of the art DL networks (LLM etc.), identify and prototype performance opportunities to influence SW and Architecture team for NVIDIA's current and next gen inference products
Develop analytical models for the state of the art deep learning networks and algorithm to innovate processor and system architectures design for performance and efficiency.
Specify hardware/software configurations and metrics to analyze performance, power, and accuracy in existing and future uni-processor and multiprocessor configurations.
Collaborate across the company to guide the direction of next-gen deep learning HW/SW by working with architecture, software, and product teams.
AI 洞察
优缺点分析
优点
- 站在AI硬件最前沿，参与定义下一代深度学习处理器架构，技术积累极具含金量
- 英伟达市场地位强势，薪资福利优厚，职业品牌认可度极高
- 有机会与全球顶尖的架构师和研究员合作，学习曲线陡峭
- 工作强度较大，需要紧跟AI模型快速迭代，持续学习新技术
- 北京/上海办公室可能竞争激烈，内部晋升需突出贡献
- 适合对深度学习系统性能有浓厚兴趣，具备扎实的算法和硬件基础，喜欢解决复杂系统优化问题，并且愿意在高强度环境中成长的技术专家
缺点 / 挑战
- 职位对综合能力要求高，需要同时理解算法、软件和硬件，入门门槛较高
角色解读
- 在英伟达内部，可向高级架构师或首席科学家方向发展，主导下一代芯片的架构定义
- 也可转向AI系统软件团队，负责编译器、运行时优化等，成为系统全栈专家
- 积累经验后，可在AI芯片初创公司或大型科技公司担任技术负责人或架构师
- 分析LLM等前沿深度学习网络，识别并原型化性能优化机会，影响英伟达当前和下一代推理产品的软硬件设计
- 开发深度学习网络和分析算法的解析模型，创新处理器和系统架构设计以提升性能和效率
- 指定硬件/软件配置和度量标准，分析现有和未来单处理器及多处理器配置的性能、功耗和精度
- 与公司内部的架构、软件和产品团队紧密协作，指导下一代深度学习硬件/软件的方向
- 精通深度学习网络（尤其是LLM和AIGC模型）的原理和性能特性
- 熟练使用主流深度学习框架如PyTorch、JAX、TensorFlow、TensorRT
- 具备深度学习硬件架构知识，理解GPU、加速器等的设计权衡
- 有性能建模、分析和优化的工程经验，能够开发解析模型或模拟器
申请策略
- 关注NVIDIA的技术博客和GTC演讲，了解公司最新的产品和技术方向，在面试中展现你的热情和洞察
- 准备好展示一个你主导的性能优化案例，从问题定义、分析方法到最终成果的完整链路
- 突出你参与过的深度学习性能优化项目，最好有具体的数据提升（如延迟、吞吐量、功耗改善）
- 详细介绍你使用过的DL框架和硬件平台，尤其是对GPU底层优化的经验
- 如果有建模或模拟器开发经验，务必突出，这是该职位的核心要求
- 强调你对LLM等大模型的理解，包括模型结构、计算特性、显存占用等
- 熟悉TensorRT或其他推理优化工具链，了解量化、剪枝、算子融合等技术
- 学习GPU架构细节（如CUDA核心、SM、显存层次），阅读NVIDIA官方架构文档
面试指南
- 使用结构化思维：先定义问题边界，再分解影响因素（计算、访存、通信等），然后提出假设并用数据或模型验证，最后给出具体优化方案
- 突出权衡思维：很多优化是trade-off，展示你理解不同设计选择的利弊
- 结合经验：尽可能引用你实际做过的工作或研究，增强说服力
- 请分析一个LLM推理过程的性能瓶颈，并给出优化思路
- 如何为一个新的深度学习算子建立性能模型？考虑哪些参数？
- 解释一下TensorRT是如何优化模型推理的，你对其中的哪些技术最熟悉？
- 假设你要设计下一代GPU架构，你会如何权衡计算单元和内存带宽的分配？
- 你如何看待Transformer架构在推理时的计算和内存特点？
职位点评
74
综合评分
顶级外企、前沿技术、高薪高压，技术成长极佳但WLB一般。
更适合这类人
最看重技术成长和薪酬回报，能接受现场高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展90
工作生活50
使命价值70
薪资福利
85较高
NVIDIA作为全球顶级科技公司，薪资竞争力强，福利完善（如股票、补充医疗等），该职位属于高级技术岗，薪酬处于市场偏高水平。
薪资信号偏高 (30K-50K/月)
福利待遇with competitive salaries and a generous benefits package
成长发展
90较高
该职位涉及最前沿的深度学习硬件/软件协同设计，技术栈先进，可参与定义下一代产品，成长空间极大。
技术前沿前沿/新兴技术
技术栈Deep Learning、LLM、AIGC、GPU Architecture、TensorRT
业务类型profit_center
工作生活
50较低
职位要求在上海或北京现场办公，未提及远程或弹性工作，结合NVIDIA高强度技术文化，WLB可能一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
工作推动AI计算效率提升，对行业有积极影响，但属于商业公司，使命感中等。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs