英伟达
Solution Architect - Agentic AI - CSP
Solution Architect - Agentic AI - CSP
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公解决方案
解决方案
Agentic Ai
Ai Inference
Llm
Nvidia Dynamo
Performance Optimization
Tensorrt-Llm
Distributed Ai Systems
Gpu Acceleration
Large-Scale Serving
值不值得投
71综合评分
综合评分 71
前沿AI技术平台，发展机会突出，但办公模式和WLB信息不明。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
45K
比解决方案中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 160 个在招 · 其中解决方案 4 个
市场机会
选择适中
北京 · 解决方案 · 33 个在招
职位详情
关于这个职位
英伟达正在寻找一位专注于Agentic AI推理的解决方案架构师，负责设计、部署和优化大规模LLM及Agentic AI推理系统
你将与领先的云服务商和AI平台团队合作，解决AI推理中的延迟、吞吐量、可扩展性和成本效率等挑战，并推动NVIDIA加速计算平台在真实AI工作负载中的应用
最低要求
电气工程、计算机科学/工程、数学、物理或相关领域的硕士或博士学位，或同等实践经验
年以上大语言模型、AI推理、分布式AI系统或相关领域的相关经验，具有系统设计、性能优化或大规模AI工作负载的实践经验
对现代AI系统有深入理解，能够分析模型、软件框架、计算、内存、通信和基础设施的性能
强大的编程和问题解决能力，熟悉常用AI框架和工具，熟练使用AI工具或代理提高工程效率者优先
清晰的结构化思维、强大的技术沟通能力，能够与工程团队和高级技术利益相关者有效协作
工作职责
与客户合作，在英伟达加速计算平台上设计、部署和优化大规模LLM和Agentic AI推理系统
分析端到端推理工作负载，识别提高延迟、吞吐量、可扩展性、资源利用率和成本效率的机会
探索和开发针对新兴Agentic AI推理挑战的解决方案，可能包括KV缓存管理、智能路由和调度、分布式或解耦推理、异构推理和大规模模型并行化等领域
构建概念验证、性能研究和参考解决方案，以验证新架构并展示NVIDIA技术在真实AI工作负载中的价值
与英伟达工程、产品、销售和业务开发团队合作，解决客户问题，提供产品反馈，并帮助制定战略AI基础设施机会的技术策略
优先资格
具有Agentic AI或高级LLM推理优化经验，特别是大规模生产工作负载
在GPU加速系统或分布式计算平台上优化AI工作负载的实践经验
熟悉高级推理技术，如NVIDIA Dynamo、TensorRT-LLM、解耦推理、异构推理、专家并行化或其他大规模服务技术
具有NVIDIA AI软件和平台经验，或与大型云服务商和生产AI基础设施相关的经验
AI 洞察
优缺点分析
优点
- 接触前沿Agentic AI技术和NVIDIA加速平台，技能积累快速
- 与领先云服务商和AI团队合作，视野开阔
- 公司平台强大，项目具有行业影响力
- 解决方案设计需平衡技术深度和客户需求，沟通协调要求高
- 工作可能涉及出差或高强度技术攻坚
- 适合对AI推理基础设施有浓厚兴趣，具备扎实系统设计和优化经验，善于沟通协作的技术专家
缺点 / 挑战
- 需持续跟进AI技术快速演进，学习压力较大
角色解读
- 可向高级解决方案架构师或AI技术专家发展，专注于更复杂的系统架构
- 或转向技术管理岗位，领导解决方案团队
- 在AI基础设施领域积累经验后，可参与行业标准制定或产品创新
- 设计和优化大规模AI推理系统，解决客户在Agentic AI部署中的技术挑战
- 构建概念验证方案，展示NVIDIA平台在实际工作负载中的价值
- 与工程、产品和销售团队协作，将客户需求转化为可扩展的解决方案
- 深入理解大语言模型和分布式AI系统
- 掌握AI推理优化技术，如延迟、吞吐量和资源效率
- 熟练使用AI框架和工具，并具备系统设计和性能分析能力
- 拥有强大的技术沟通和问题解决技能
申请策略
- 研究英伟达加速计算平台和AI软件栈，了解客户场景
- 准备具体案例展示如何解决推理延迟、成本效率等问题
- 关注AI基础设施行业趋势，体现技术洞察力
- 突出大语言模型或分布式AI系统的项目经验，特别是性能优化案例
- 展示使用AI框架和工具解决实际问题的能力
- 强调技术沟通和跨团队协作经历
- 深入学习Agentic AI推理技术，如KV缓存管理、分布式服务
- 掌握NVIDIA相关工具如TensorRT-LLM、Dynamo
面试指南
- 对于系统设计问题，采用分层分析：从硬件、软件框架到系统架构，考虑延迟、吞吐量、可扩展性指标
- 分享具体优化案例，使用数据对比效果
- 对于挑战类问题，结合技术趋势和实践经验，提出解决方案思路
- 如何设计一个高吞吐量、低延迟的大规模LLM推理系统？请描述你优化AI工作负载性能的经验
- Agentic AI推理面临哪些独特挑战，如何解决？你对NVIDIA加速计算平台有哪些了解？如何与客户和跨团队协作解决技术问题？
- 复习分布式AI系统和推理优化核心概念
- 准备1-2个深度项目案例，说明问题、方法和成果
- 了解NVIDIA产品和技术生态，如CUDA、TensorRT
职位点评
薪资福利70
成长发展85
工作生活50
使命价值80
薪资福利
70中等
该职位未披露具体薪资，但基于英伟达平台和一线城市市场，补偿性动机可能中等偏上，但缺乏明确信号。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
85较高
职位涉及前沿Agentic AI技术，提供技能成长和跨团队协作机会，发展性动机较强。
技术前沿前沿/新兴技术
技术栈Agentic AI、LLM、AI inference、distributed AI systems、TensorRT-LLM、NVIDIA Dynamo
业务类型ambiguous
工作生活
50较低
工作地点在一线城市，但JD未明确办公模式或工作生活平衡信息，生活化动机满足程度有限。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI推理基础设施处于高速增长赛道，职位对推动AI应用有直接影响，意义感动机较好。
行业发展高速增长赛道
社会影响中性/一般
使命信号driving the latest breakthroughs in artificial intelligence
创新程度积极采用新技术
英伟达 的其他在招职位
相似职位推荐
Watch Jobs