英伟达
Senior Deep Learning Solution Architect
Senior Deep Learning Solution Architect
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Hpc
Llm推理
分布式训练
开源框架
异构计算
性能优化
深度学习
系统架构
值不值得投
81综合评分
综合评分 81
顶尖AI算力企业核心研发岗，技术栈前沿、成长空间广阔，薪酬优厚，工作强度中等偏上。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
9.0万
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 430 个在招 · 其中人工智能 8 个
市场机会
选择面较广
上海 · 人工智能 · 约 390 个在招
职位详情
关于这个职位
该职位主要负责设计AI计算平台架构，聚焦大模型推理与训练加速、网络通信及数据传输优化
团队将参与主流开源推理框架开发、KV缓存卸载技术研发及分布式训练性能调优，旨在解决高性能计算与机器学习系统中的核心算力瓶颈，为客户交付前沿AI算力价值
最低要求
拥有5年以上科技行业工作经验
计算机科学、数学、电气工程、自动化或相关领域的硕士及以上学历
对加速计算、并行计算和异构计算有浓厚兴趣，并有深入探索的动机
具备扎实的编程能力，熟悉数据结构与计算机系统基础
工作职责
与社区合作，参与SGLang和vLLM等开源推理框架的开发，包括功能与算子开发、性能优化及模型支持
开发并优化面向LLM负载的KV缓存卸载框架，支持CPU、SSD及远程存储间的多级缓存卸载与复用，以提升推理效率（团队项目：FlexKV）
推动分布式训练的计算性能研发，探索性能优化的方法与技术
研究机器学习系统中的计算挑战，识别共性需求与瓶颈，据此构建示例代码、加速库或框架
优先资格
熟悉异构计算、分布式训练、并行计算或其他高性能计算相关领域
具有性能分析、性能建模或性能优化经验，有开源框架贡献者优先
具备定义新问题并探索解决方案的能力，拥有独立博士级研究经验者优先
熟练使用AI编程工具
AI 洞察
优缺点分析
优点
- 身处全球AI算力核心企业，接触最前沿的大模型与HPC技术栈
- 直接参与顶级开源社区，技术影响力大且成果易被业界认可
- 薪酬福利与股权激励极具竞争力，职业背书价值高
- 技术迭代极快，需持续跟进LLM架构演进与底层硬件特性
- 工作节奏较快，对自主探索能力与抗压能力要求极高
- 适合具备深厚计算机基础、热爱底层系统优化与大模型技术、追求技术深度与行业前沿的资深工程师或研究员
缺点 / 挑战
- 高性能调优门槛高，需解决复杂分布式系统的并发与通信瓶颈
角色解读
- 可向首席架构师或技术专家路线发展，深耕AI基础设施与高性能计算领域
- 也可转向AI芯片原厂、头部云厂商或自动驾驶企业的核心算法/系统架构管理岗
- 长期积累后可主导跨部门技术战略制定，成为AI算力领域的行业意见领袖
- 聚焦大模型训练与推理加速，设计高性能AI计算平台架构
- 参与主流开源推理框架开发及KV缓存优化项目，对接社区与内部研发团队
- 深入研究分布式训练性能瓶颈并提供底层加速方案与代码实现
- 跟踪AI计算前沿技术，为行业客户提供定制化算力解决方案
- 扎实的计算机体系结构与数据结构基础，精通C++/Python编程
- 熟悉异构计算、并行计算及GPU/CUDA生态与内存管理机制
- 具备机器学习系统性能分析与调优能力，掌握主流 profiling 工具
- 良好的英文文献阅读能力与开源社区协作经验
申请策略
- 提前了解英伟达在AI Infra领域的最新技术路线与产品矩阵
- 准备针对分布式训练瓶颈或KV Cache设计的深度技术问答，展现系统化思维
- 突出大模型推理/训练加速项目经验，量化性能提升指标与资源节省比例
- 强调开源框架贡献记录、PR合并数或顶会/技术博客发表情况
- 展示CUDA/异构计算与分布式系统调优实战细节，避免泛泛而谈
- 深入研读vLLM/SGLang源码及FlexKV相关论文，理解其调度与内存管理机制
- 强化PyTorch/TensorFlow底层机制与NCCL/RDMA通信优化知识
- 补充性能剖析工具（如Nsight Systems/Compute）的实际使用经验
面试指南
- 采用STAR法则结合底层原理阐述：先说明业务场景与目标，再拆解技术选型依据，接着详述具体实现路径与性能数据，最后总结可复用的架构模式
- 遇到系统设计题时，优先从数据流、内存布局、通信拓扑三个维度展开，并主动讨论Trade-off
- 针对开源框架类问题，结合源码关键模块（如Attention Kernel、Scheduler）进行逐行逻辑推演
- 如何优化大模型推理时的显存占用与吞吐量？
- 请描述一次你解决分布式训练通信瓶颈的经历
- 对比vLLM与SGLang的调度策略，你认为各自优劣是什么？
- 如何在CPU/SSD间实现高效的KV Cache多级卸载？
- 复习计算机组成原理与操作系统核心概念，特别是内存管理与进程调度机制
职位点评
薪资福利85
成长发展92
工作生活60
使命价值80
薪资福利
85较高
提供具有市场竞争力的薪资与丰厚福利包，叠加上市公司股权激励机制，整体薪酬回报处于行业领先水平。
薪资信号偏高 (6.0千–12.0万/月)
福利待遇competitive salaries、generous benefits package
成长发展
92较高
岗位深度绑定大模型推理加速与分布式训练前沿方向，鼓励参与顶级开源社区与独立科研探索，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈LLM、SGLang、vLLM、KV cache、distributed training、heterogeneous computing、performance optimization
业务类型profit_center
工作生活
60中等
未明确提及弹性工作制或加班政策，但作为核心技术研发岗，面对前沿技术攻关通常伴随一定的工作强度，WLB需以实际团队文化为准。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于推动AI计算技术在多行业的落地应用，通过突破算力瓶颈助力全球AI基础设施发展，具备显著的行业价值与社会意义。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号bring NVIDIA new technology into different industries、deliver our value to customers
创新程度积极采用新技术
英伟达 的其他在招职位
相似职位推荐
Watch Jobs