英伟达
AI Computing Development Engineer, TensorRT and TensorRT-LLM
AI Computing Development Engineer, TensorRT and TensorRT-LLM
发布于 大约 14 小时前普通员工/个人贡献者
上海市
中级经验
全职员工
仅现场办公
硕士
GPU
PyTorch
CUDA
TensorRT
TensorRT-LLM
Performance Optimization
Ai Inference
AI 估算 · 25k–45k
基于英伟达AI算法岗位市场薪资水平，结合上海外企薪酬结构及技术难度，预估月薪2.5-4.5万。
职位详情
关于这个职位
该职位属于英伟达AI计算团队，负责开发和优化TensorRT和TensorRT-LLM推理软件，以加速深度学习推理性能
你将与硬件、软件和研究团队合作，接触最新AI技术并推动GPU加速平台发展
适合对深度学习推理有浓厚兴趣，具备C++/Python和框架经验的工程师
最低要求
计算机工程、计算机科学、应用数学或相关计算领域硕士或更高学位（或同等经验）
强大的C/C++或Python编程和软件设计经验，包括调试、性能分析和测试设计
年以上工作经验
对人工智能有强烈好奇心，熟悉深度学习最新进展——包括生成式模型、多模态系统和大型神经网络
使用深度学习框架的经验，如PyTorch、TensorRT/TensorRT-LLM、NeMo或vLLM
积极主动，自我驱动，能够独立工作
优秀的英语书面和口头沟通能力
具有与经验相称的技术所有权、解决复杂问题和在跨职能环境中有效贡献的能力
工作职责
设计并开发稳健的推理软件（TensorRT/TensorRT-LLM），针对跨平台的功能和性能进行优化
对深度学习推理工作负载进行性能分析、优化和调优
跟踪并整合AI领域的学术和行业进展，据此更新TensorRT/TensorRT-LLM功能
为架构和硬件设计与开发提供反馈
与硬件、软件和研究团队协作，塑造英伟达机器学习推理的方向
根据经验水平，拥有并交付技术工作，范围从复杂功能到大型项目的关键部分，并随着时间推移增强独立性和技术领导力
在领先的科学和工程会议上发表关键技术成果
AI 洞察
优缺点分析
优点
- 英伟达作为AI基础设施领军企业，平台技术领先
- 接触最新GPU和推理技术，技能积累极具价值
- 薪资福利优厚，外企文化相对健康
- 要求高，需要扎实的编程和深度学习基础
- 工作节奏可能较快，交付导向
- 技术栈较深，需要持续学习
- 适合对深度学习推理和底层优化有浓厚兴趣，具备较强编程能力，希望在顶尖技术公司发展的工程师
缺点 / 挑战
- 工作内容有深度和挑战性，成长空间大
角色解读
- 可向AI推理技术专家发展，深入底层优化
- 或转向架构师角色，参与硬件软件协同设计
- 在英伟达内部有机会接触前沿AI项目，晋升为技术主管或团队负责人
- 负责TensorRT和TensorRT-LLM的研发，优化深度学习推理性能
- 进行性能分析、调优和集成最新AI技术
- 与硬件、软件和研究团队协作，推动GPU推理架构发展
- 精通C/C++或Python，具备软件设计和性能调试能力
- 熟悉深度学习理论和常用框架（PyTorch, TensorRT）
- 了解最新AI模型如生成式AI、大型神经网络
- 良好的英语沟通和跨团队协作能力
申请策略
- 关注英伟达技术博客和白皮书，展示技术热情
- 准备一个推理优化的案例分析，体现解决问题的能力
- 突出C++/Python编程经验和性能优化项目
- 强调深度学习框架使用经验，尤其是推理部署相关
- 展示对最新AI模型（生成式、多模态）的了解
- 如有论文或开源贡献，重点提及
- 深入学习TensorRT和CUDA优化
- 了解LLM推理加速技术（vLLM, TensorRT-LLM）
面试指南
- 针对性能优化问题，可采用“测量-分析-优化-验证”框架
- 针对算法问题，先阐述原理再结合实践经验
- 如何优化一个PyTorch模型的推理性能？
- 解释TensorRT的工作原理和常用优化方法
- 描述一个你解决过的复杂性能问题
- 你对LLM推理加速的了解有哪些？
- 如何设计一个支持动态输入的推理引擎？
- 复习深度学习推理优化的经典技术（量化、剪枝、算子融合）
匹配度报告
76
综合匹配度
顶级AI公司，前沿技术栈，高薪高成长，但工作强度大。
适合人群
适合追求技术成长和前沿挑战的求职者，愿意在快节奏环境中工作。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利匹配
85较高
英伟达薪资在业内极具竞争力，虽然JD未明确具体薪资，但结合公司规模和岗位重要性，薪资水平应高于市场平均。福利方面JD未提及，但外企通常包括五险一金、补充医疗等。
薪资信号偏高 (25K-45K/月)
成长发展匹配
90较高
该岗位处于AI推理前沿，涉及TensorRT-LLM等最新技术，技术成长空间极大。JD提及技术领导力发展，并可发表成果，学习资源丰富。
技术前沿前沿/新兴技术
技术栈TensorRT、TensorRT-LLM、Deep Learning、GPU、C++、Python、PyTorch
成长机会technical leadership、publish key technical results
业务类型profit_center
工作生活匹配
50较低
JD强调fast-paced和delivery-focused，工作强度可能较大。未提及弹性工时或远程办公，预计以现场办公为主，WLB一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值匹配
80较高
AI行业高速增长，该岗位参与核心推理软件研发，创新性强，但社会影响力主要通过技术推动，较为间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
Watch Jobs