英伟达
Solutions Architect - CPU and LPU
Solutions Architect - CPU and LPU
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公解决方案
解决方案
Ai系统架构
Linux系统
Pytorch
Tensorrt-Llm
大模型推理优化
性能调优
解决方案架构
值不值得投
82综合评分
综合评分 82
顶尖AI基础设施架构岗，技术栈极度前沿，发展性极强，外企平台稳定。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比解决方案中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 330 个在招 · 其中解决方案 9 个
市场机会
选择面较广
深圳 · 解决方案 · 85 个在招
职位详情
关于这个职位
负责英伟达CPU及LPU平台的AI基础设施推广与架构设计，为客户提供异构计算环境下的AI工作负载优化方案
通过开发概念验证、搭建参考架构及深度技术沟通，帮助客户提升大模型推理的延迟、吞吐量与成本效益，同时收集客户需求反哺产品路线图
最低要求
需计算机科学、工程、数学或物理等相关领域的硕士或博士学位，或同等经验
具备5年以上AI系统、基础设施、性能工程或解决方案架构经验
深入理解现代CPU架构、Linux系统及软件性能调优，拥有大语言模型、生成式AI或智能体AI工作负载的实际推理经验
具备涉及CPU与加速器的异构系统优化经验，熟悉PyTorch、Triton、TensorRT-LLM、vLLM或ONNX Runtime等框架
具备优秀的编程、问题解决和沟通能力，能有效与技术团队及客户高层协作
工作职责
推广英伟达CPU平台（包括Grace、Vera及未来代际）以及基于LPU的系统与LPX类平台，重点关注AI软件栈与工作负载效率
协助客户在CPU、GPU和LPU上设计与优化AI工作负载，提升延迟、吞吐量、资源利用率及整体成本效益
分析并调优大语言模型及生成式AI流水线，涵盖服务层、运行时、内存、I/O、批处理、调度与编排层
与工程、产品和销售团队合作，构建概念验证、参考架构及技术指导文档
与客户架构师、基础设施团队及高层领导建立信任的技术关系，成为异构AI系统设计的战略顾问
优先资格
有英伟达CPU平台（如Grace、Grace Hopper或Arm64服务器环境）使用经验，熟悉LPU系统或其他低延迟推理加速器
在大模型推理优化、服务架构及跨CPU/GPU/LPU的工作负载部署方面具备深厚专业知识
具备面向客户的概念验证开发经验，并能通过延迟、吞吐量、单Token成本、功耗或利用率等指标衡量AI效率
熟悉英伟达AI软件与平台技术
AI 洞察
优缺点分析
优点
- 接触最前沿的AI基础设施与异构计算技术
- 直接对接头部科技企业与研究机构，技术视野开阔
- 英伟达品牌背书强，职业履历含金量高
- 跨部门协同与客户需求管理对软技能要求极高
- 海外总部技术同步可能存在一定时差与沟通成本
- 适合具备深厚底层系统功底、热爱技术攻坚且擅长客户技术咨询的资深工程师或架构师
缺点 / 挑战
- 需频繁应对复杂的生产环境故障排查，技术压力较大
角色解读
- 可向首席解决方案架构师或技术总监方向发展
- 也可转向AI基础设施产品经理或核心技术专家路线
- 长期积累可成为行业级AI系统架构权威
- 作为客户与英伟达技术团队之间的桥梁，负责推广CPU/LPU硬件平台及AI软件栈
- 深入客户生产环境，诊断性能瓶颈并提供定制化优化方案
- 搭建概念验证环境，输出参考架构与技术指南
- 持续收集一线反馈，推动产品迭代
- 精通现代CPU架构与Linux底层调优
- 熟练掌握主流AI推理框架（如vLLM、TensorRT-LLM）
- 具备异构计算协同优化能力
- 出色的技术沟通与客户咨询技巧
申请策略
- 提前研究英伟达最新硬件路线图
- 准备1-2个完整的端到端AI系统优化案例以备技术面
- 关注候选人是否具备将复杂技术转化为客户商业价值的能力
- 突出异构系统性能调优的具体案例与量化成果
- 详细列出掌握的AI推理框架与底层工具链
- 强调面向客户的技术宣讲与PoC交付经验
- 深入研读大模型推理服务架构最新论文与开源项目
- 强化Arm架构与特定加速器的实操调试能力
面试指南
- 采用STAR法则结构化回答，重点突出问题背景、技术选型依据、实施步骤与量化结果
- 针对架构设计题，先明确业务SLA约束，再分层拆解（计算/内存/IO/调度），最后给出权衡方案
- 针对高管沟通，聚焦ROI、TCO与业务连续性，避免过度陷入底层参数细节
- 请分享一次你优化大模型推理延迟或吞吐量的具体经历
- 如何设计一个兼顾CPU、GPU与LPU的异构推理集群？
- 面对客户提出的极端性能瓶颈，你的排查思路是什么？
- 如何向非技术背景的高管解释异构计算的成本效益？
- 复习Linux性能剖析工具与AI编译器原理
职位点评
薪资福利85
成长发展92
工作生活60
使命价值88
薪资福利
85较高
JD未披露具体薪资与福利明细，但结合岗位要求与市场水平，综合回报预期处于行业中上。
薪资信号未披露（AI估算：6.0千–10.0万/月）
成长发展
92较高
技术栈极度前沿，深度参与AI基础设施核心架构演进，内部技术资源丰富，成长空间广阔。
技术前沿前沿/新兴技术
技术栈CPU架构、LPU、PyTorch、Triton、TensorRT-LLM、vLLM、ONNX Runtime、异构计算
业务类型profit_center
工作生活
60中等
JD未明确提及办公模式与工时安排，实际工作节奏需以实际入职情况为准。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
88较高
致力于推动下一代AI基础设施普及，助力客户突破算力瓶颈，具有显著的技术引领性与行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs