Watch Jobs
Nvidia logo
英伟达
Senior AI Infrastructure Software Engineer
立即应聘

Senior AI Infrastructure Software Engineer

发布于 6 个月前

普通员工/个人贡献者

上海市
高级经验
全职员工
混合式弹性办公
硕士
软件工程
CI/CD
分布式系统
Javascript
LLM

AI 估算 · 45k–80k

顶级芯片公司AI基础设施高级软件岗位，大模型/Agent热门方向，人才稀缺，薪资极高。

职位详情

关于这个职位

这是一个面向资深工程师的AI基础设施软件工程师职位

你将加入英伟达的应用AI芯片设计团队，负责设计、开发和维护支持下一代AI应用（如Copilot和智能体工具）的核心基础设施
工作重点在于构建可扩展的系统，以部署和运行能够像人类工程师一样推理、规划和编码的AI智能体，确保其在生产环境中的高性能与可靠性

最低要求

计算机科学或相关领域的硕士、博士学位或同等经验，并拥有至少5年大规模分布式系统或AI基础设施相关经验

精通Python（必需），具备扎实的JavaScript经验，深入理解软件工程原理、面向对象/函数式编程，并能编写高性能、可维护的代码
拥有在生产环境中使用容器、Kubernetes和CI/CD构建可扩展微服务、Web应用、SQL及NoSQL数据库（特别是MongoDB和Redis）的实战经验
具备分布式消息系统（如Kafka）的扎实经验，并能将事件驱动或解耦架构集成到稳健的企业级解决方案中
拥有集成和微调大语言模型或智能体框架（如LangChain, LangGraph, AutoGen, OpenAI Functions, RAG, 向量数据库, 提示工程）的实践经验
展现出对工程解决方案端到端的负责能力，涵盖从架构设计、开发到部署、集成及后续运维/支持的全过程
优秀的沟通能力和积极主动、乐于协作的工作态度

工作职责

设计、开发和改进可扩展的基础设施，以支持下一代AI应用，包括Copilot和智能体工具

推动架构、性能和可靠性方面的改进，使团队能够大规模应用大语言模型和先进的智能体框架
跨硬件、软件和研究团队进行协作，指导和支持同事，同时倡导最佳工程实践和技术卓越的文化
关注AI基础设施领域的最新进展，并为组织的持续创新做出贡献

AI 洞察

优缺点分析

优点

  • 顶级平台与前沿领域：在英伟达这一AI与计算领域的领导者工作，直接参与其核心的芯片设计AI应用，技术视野和行业资源顶级
  • 技术栈全面且先进：涉及从底层分布式基础设施到最前沿的LLM/智能体应用的全栈技术，技能积累价值高，不易被淘汰
  • 高影响力与可见性：所构建的基础设施将直接赋能公司内部的AI工具和产品，工作成果与公司核心业务紧密相连
  • 技术复杂度与要求极高：需要同时精通分布式系统、云原生和AI工程化，对候选人的综合技术深度和广度是巨大考验
  • 竞争激烈：面向资深工程师，且是明星公司的核心岗位，候选人池质量极高，面试竞争会非常激烈
  • 适合拥有扎实后端和分布式系统背景，并对将前沿AI研究（特别是智能体技术）进行工程化、产品化充满热情和经验的资深软件工程师

缺点 / 挑战

  • 工作节奏与压力：身处快速迭代的AI和半导体行业，且服务于内部关键业务，可能面临较高的工作强度和交付压力

角色解读

  • 技术深度上，可以从AI基础设施专家，成长为在分布式系统、云原生架构和AI工程化交叉领域的领军人物
  • 业务影响上，有机会从支持芯片设计的AI工具出发，深入理解并影响英伟达的核心硬件与软件生态，向更广阔的产品或技术管理方向发展
  • 行业方向上，处于AI与半导体两大前沿领域的交汇点，职业前景与行业发展趋势高度绑定，具备极高的稀缺性和价值
  • 核心工作是构建和维护用于部署和运行AI智能体的生产级基础设施，确保其高效、稳定地运行
  • 需要设计并优化可扩展的系统架构，以支持包括Copilot在内的下一代AI应用和工具
  • 与研究人员紧密合作，将前沿的AI研究（特别是智能体框架）转化为工程化、可落地的解决方案
  • 扎实的软件工程基础：精通Python，熟悉JavaScript，深刻理解OOP/函数式编程，能编写高性能、可维护的代码
  • 云原生与分布式系统能力：熟练掌握容器、Kubernetes、CI/CD流水线，以及微服务、SQL/NoSQL数据库（MongoDB, Redis）、消息队列（Kafka）的实战经验
  • AI/LLM工程化经验：具备集成、微调大语言模型或使用LangChain等智能体框架的实践经验，了解RAG、向量数据库等相关技术

申请策略

  • 深入了解英伟达在AI芯片设计（如NVIDIA Eos超算、ChipNeMo等项目）方面的公开资料和技术博客，在面试中展现你对业务背景的理解和兴趣
  • 准备阐述你对“研究工程化”的理解，即如何弥合研究原型与稳定生产系统之间的鸿沟，这与岗位的核心价值高度相关
  • 重点突出与“大规模分布式系统”或“AI基础设施”相关的项目经验，详细描述你在架构设计、性能优化、可靠性保障方面的具体贡献
  • 清晰展示技术栈的深度和广度，特别是Python、Kubernetes、数据库（MongoDB/Redis）、消息队列（Kafka）以及LLM/智能体框架（如LangChain）的实战项目
  • 通过STAR法则描述你曾“端到端负责”的工程项目，从需求、设计、开发、部署到运维，体现你的全局观和ownership
  • 如果对智能体框架（LangChain/LangGraph/AutoGen）经验尚浅，可快速通过官方文档和开源项目进行学习和实践，构建一个小型演示项目
  • 复习分布式系统核心概念（一致性、容错、伸缩性）和云原生技术栈（K8s, Docker, CI/CD），确保能应对深度的系统设计面试

面试指南

  • 对于系统设计或问题解决类问题，建议采用“定义问题与约束 -> 提出高层架构 -> 深入关键组件设计 -> 讨论权衡与扩展性”的结构化方式回答
  • 对于经验分享类问题，使用STAR（情境-任务-行动-结果）法则，重点突出你的个人行动、技术决策背后的思考，以及可量化的成果
  • 请描述你设计或维护过的一个最复杂的大规模分布式系统，你遇到了哪些挑战，是如何解决的？
  • 你如何将一个研究阶段的AI模型或智能体（例如基于LangChain构建的）部署到生产环境，并保证其性能、可靠性和可观测性？
  • 当需要处理高并发请求时，你会如何设计一个基于微服务和事件驱动（如Kafka）的AI服务架构？
  • 请分享一个你使用Kubernetes进行容器编排和管理的具体案例，包括你如何配置Deployment、Service、Ingress以及处理扩缩容
  • 你如何评估和优化一个AI服务（尤其是涉及LLM调用）的端到端延迟和成本？
  • 深入准备1-2个能体现你“端到端负责”和“解决复杂问题”能力的核心项目，确保能清晰阐述所有技术细节和决策过程

职位点评

英伟达 的其他在招职位

相似职位推荐

Watch Jobs