英伟达
Senior Deep Learning Solution Architect
Senior Deep Learning Solution Architect
发布于 9 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Llm推理优化
Pytorch
分布式训练
异构计算
系统架构设计
高性能计算(Hpc)
值不值得投
84综合评分
综合评分 84
顶尖AI基础设施研发岗、技术栈极度前沿、薪酬福利优厚，研发压力与成长预期并存
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
9.0万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 330 个在招 · 其中机器学习工程 16 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 540 个在招
职位详情
关于这个职位
负责设计AI计算平台架构，深入参与大语言模型(LLM)推理与训练加速、网络通信及数据传输优化
主导开源推理框架开发、KV Cache卸载框架研发及分布式训练性能优化，解决高性能计算与机器学习系统中的核心算力瓶颈问题
最低要求
拥有5年以上科技行业工作经验
计算机科学、数学、电气工程、自动化或相关领域的硕士及以上学历
对加速计算、并行计算和异构计算有浓厚兴趣，并有深入探索的动机
具备扎实的编程能力，对数据结构和计算机系统基础有良好理解
具备强大的学习敏捷性、适应能力，以及分析、定义和独立探索技术问题的能力
工作职责
与社区协作，参与SGLang和vLLM等开源推理框架的开发，包括功能与算子开发、性能优化及模型支持
开发并优化面向LLM工作负载的KV Cache卸载框架（如团队项目FlexKV），支持CPU、SSD及远程存储间的多级缓存卸载与复用，以提升推理效率
推动分布式训练中的计算性能研发，探索性能优化的方法与技术
研究机器学习系统中的计算挑战，识别共性需求与瓶颈，并据此构建示例代码、加速库或框架
优先资格
熟悉异构计算、分布式训练、并行计算或其他与高性能计算相关的领域
具有性能分析、性能建模或性能优化经验
有开源框架贡献者优先
具备定义新问题并探索解决方案的强大能力
拥有独立博士级研究经验者优先
熟练使用AI编程工具
AI 洞察
优缺点分析
优点
- 接触全球最前沿的AI基础设施与大模型底层技术
- 依托顶级硬件生态与开源社区资源，技术视野与影响力极高
- 薪酬福利处于行业顶尖水平，职业发展路径清晰
- 技术门槛极高，需持续跟进快速迭代的AI系统与硬件架构
- 分布式训练与性能优化任务复杂，对底层调试与数学功底要求严苛
- 研发节奏快且竞争激烈，需保持高强度自主学习
- 适合具备扎实计算机基础、热爱底层系统优化、在AI/HPC领域有深厚积累且追求技术极客精神的资深工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向首席架构师或技术专家路线深耕，成为AI基础设施领域的权威
- 也可转向AI芯片底层驱动优化或跨部门技术战略管理
- 长期可拓展至前沿AI系统研究或开源生态建设方向
- 深入参与大模型推理与训练加速的核心算法与框架开发
- 负责设计并优化AI计算平台架构，解决分布式训练与网络通信的性能瓶颈
- 与开源社区协作，主导关键算子开发与性能调优
- 精通C++/Python编程及数据结构与系统底层原理
- 熟练掌握异构计算、并行计算与分布式训练技术
- 具备高性能计算(HPC)性能分析与调优实战经验
- 熟悉主流大模型推理框架源码实现
申请策略
- 提前了解英伟达最新AI计算平台架构与开源项目动态
- 准备针对具体性能优化问题的深度技术问答
- 展现对AI基础设施生态的长期热情与独立研究能力
- 突出开源框架贡献记录、高性能计算/分布式训练项目成果
- 详细列出掌握的编程语言、并行计算库及性能调优工具
- 强调解决复杂系统瓶颈的具体案例与量化指标
- 深入研读CUDA编程与GPU架构原理
- 掌握主流大模型推理引擎源码实现
面试指南
- 采用STAR法则结构化回答：背景与挑战→技术选型与方案设计→实施细节与难点突破→量化结果与复盘总结
- 重点突出底层原理理解、工具链使用及跨团队协作经验
- 请分享一次你优化分布式训练性能的具体案例，遇到了哪些瓶颈？如何解决的？
- 你对vLLM或SGLang的KV Cache机制有何理解？在实际项目中做过哪些改进？
- 在异构计算环境下，如何平衡计算与通信开销？请结合具体场景说明
- 复习操作系统、计算机网络与编译器原理等基础课程
- 动手复现或微调一个主流推理框架模块
- 梳理过往项目中涉及的性能剖析与调优逻辑
职位点评
薪资福利85
成长发展92
工作生活70
使命价值88
薪资福利
85较高
提供极具竞争力的薪酬与丰厚福利包，符合顶尖外企标准，对补偿性动机满足度较高。
薪资信号偏高 (6.0千–12.0万/月)
福利待遇竞争性薪酬、丰厚的福利套餐
成长发展
92较高
深度参与前沿AI基础设施研发与开源社区共建，技术栈处于行业绝对领先地位，成长空间广阔。
技术前沿前沿/新兴技术
技术栈LLM推理优化、分布式训练、异构计算、CUDA、vLLM、SGLang
业务类型profit_center
工作生活
70中等
作为顶尖外企通常提供较好的工作生活平衡，但JD强调“hardworking”与快速扩张期，实际工作强度可能不低。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
88较高
致力于推动AI计算技术在各行业的落地应用，解决大模型算力瓶颈，具有显著的技术突破价值与行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号将英伟达新技术带入不同行业、为客户交付核心价值
创新程度积极采用新技术
英伟达 的其他在招职位
相似职位推荐
Watch Jobs