英伟达
Solution Architect - Agentic AI - CSP
Solution Architect - Agentic AI - CSP
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公架构师
架构师
Agentic Ai
Gpu加速计算
Llm推理
Nvidia Cuda
Tensorrt-Llm
性能优化
系统架构设计
值不值得投
84综合评分
综合评分 84
前沿AI推理架构专家岗，技术成长极佳，薪资竞争力强，外企氛围兼顾稳定性与挑战性。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比架构师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 330 个在招 · 其中架构师 7 个
市场机会
选择面较广
北京 · 架构师 · 约 140 个在招
职位详情
关于这个职位
负责为大型云服务商设计、部署并优化基于NVIDIA加速计算平台的大规模大语言模型与Agentic AI推理系统
通过端到端性能分析与调优，提升系统延迟、吞吐量及资源利用率，并将客户需求转化为可扩展的技术方案
最低要求
电气工程、计算机科学/工程、数学、物理或相关领域的硕士或博士学位，或同等实践经验
在大型语言模型、AI推理、分布式AI系统或相关领域拥有3年以上相关经验，具备系统设计、性能优化或大规模AI工作负载的实操经验
深入理解现代AI系统，能够跨模型、软件框架、计算、内存、通信和基础设施分析性能
具备扎实的编程与问题解决能力，熟悉常用AI框架与工具，熟练使用AI工具或代理提升工程生产力者优先
思维清晰结构化，具备出色的技术沟通能力，能与工程团队及高级技术利益相关者高效协作
工作职责
与客户合作，在NVIDIA加速计算平台上设计、部署和优化大规模LLM和Agentic AI推理系统
分析端到端推理工作负载，识别改善延迟、吞吐量、可扩展性、资源利用率和成本效率的机会
探索和开发针对新兴Agentic AI推理挑战的解决方案，可能涉及KV缓存管理、智能路由与调度、分布式或分离式服务、异构推理及大规模模型并行等方向
构建概念验证、性能研究及参考解决方案，以验证新架构并在真实AI工作负载中展示NVIDIA技术的价值
与NVIDIA工程、产品、销售及商务拓展团队协作，解决客户问题，提供产品反馈，并为战略性AI基础设施机会塑造技术策略
优先资格
具有Agentic AI或高级LLM推理优化经验，尤其是面向大规模生产环境的工作负载
在GPU加速系统或分布式计算平台上优化AI工作负载的实际经验
熟悉NVIDIA Dynamo、TensorRT-LLM、分离式服务、异构推理、专家并行或其他大规模服务技术
具备NVIDIA AI软件/平台使用经验，或与大型云服务提供商及生产级AI基础设施的合作经验
AI 洞察
优缺点分析
优点
- 站在AI算力与推理技术最前沿，接触行业顶级客户与海量真实生产场景
- 依托NVIDIA全球领先的软硬件生态，技术视野与职业背书极强
- 跨部门协作紧密，能快速积累系统性架构经验
- 直面客户高标准交付要求，需在理论架构与落地可行性间快速平衡
- 项目攻坚期可能面临阶段性高强度投入
- 适合具备扎实AI底层功底、热爱技术攻坚、擅长跨团队沟通且追求前沿技术影响力的资深工程师或架构师
缺点 / 挑战
- 技术迭代极快，需持续跟进LLM与Agentic AI最新进展，学习压力大
角色解读
- 可向首席解决方案架构师或AI基础设施技术总监方向发展，深耕AGI时代的核心算力与推理栈
- 也可横向转型至AI芯片原厂架构设计、头部云厂商AI平台负责人或独立AI咨询顾问
- 作为NVIDIA与客户间的核心技术桥梁，负责将客户需求转化为基于NVIDIA硬件的大规模AI推理架构方案
- 主导概念验证与性能调优，直接参与生产级AI系统的延迟、吞吐量及成本优化
- 深度对接内部产研销团队，反哺产品路线与技术策略
- 精通大语言模型推理机制与分布式AI系统架构，掌握GPU加速计算与底层性能剖析方法
- 具备扎实的编程能力与AI框架实战经验，能熟练运用AI工具提升工程效能
- 拥有出色的技术沟通与跨部门协同能力
申请策略
- 提前调研目标客户所在行业的AI落地痛点，准备针对性的架构设计思路
- 面试时展现清晰的逻辑表达与将复杂技术问题通俗化的能力
- 突出大规模AI推理系统设计与性能调优的具体案例，量化延迟降低、吞吐量提升或成本节约指标
- 详细列出掌握的AI框架、分布式训练/推理工具链及GPU底层优化经验
- 深入研读Transformer推理优化论文与NVIDIA官方文档，补齐KV Cache优化、专家并行等细分领域知识
- 强化系统级性能剖析工具的使用与实战经验
面试指南
- 采用STAR法则结构化回答，重点阐述问题背景、技术选型依据、核心优化手段（如算子融合、内存管理、负载均衡）及最终量化收益
- 强调架构设计的可扩展性与成本意识
- 请分享一个你优化过的大规模模型推理系统案例，具体解决了哪些瓶颈？
- 面对Agentic AI多智能体交互带来的延迟波动，你会如何设计推理调度策略？
- 如何权衡不同硬件在异构推理场景下的资源分配与性能取舍？
- 复习分布式系统基础理论与现代AI推理架构
- 梳理过往项目中遇到的极端性能问题及排查路径
- 了解主流AI软件栈特性及竞品方案差异
职位点评
薪资福利85
成长发展92
工作生活70
使命价值88
薪资福利
85较高
薪资定位偏高，契合北京技术专家市场行情，整体薪酬结构稳定且具有竞争力。
薪资信号未披露（AI估算：6.0千–10.0万/月）
成长发展
92较高
深度绑定Agentic AI与LLM推理前沿技术，技术成长曲线陡峭，内部技术交流与跨团队实践资源丰富。
技术前沿前沿/新兴技术
技术栈Agentic AI、LLM Inference、Distributed AI、GPU Acceleration、TensorRT-LLM
业务类型profit_center
工作生活
70中等
技术攻坚与客户交付节点可能带来阶段性高强度工作，具体办公模式与通勤便利度需以实际入职安排为准。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
88较高
致力于构建下一代AI基础设施，直接推动Agentic AI商业化落地，社会价值与技术使命感显著。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
英伟达 的其他在招职位
相似职位推荐
Watch Jobs